Cuando hablamos de IA, en general hablamos de eficiencia: automatizar procesos, facilitar una función o resumir información. Si bien las posibilidades que abre la IA también incluyen el rediseño de procesos, los modelos de negocio y la creación de nuevas industrias, al preparar el presupuesto de 2027 es más fácil ponerle una cifra al ahorro que discutir cómo cambiará la empresa para conseguirlo.

Imaginemos que, buscando esas eficiencias, reducimos la intervención humana en algunos procesos y dejamos ciertas decisiones en manos de sistemas de IA.

Todo bien, pero antes de aprobar ese presupuesto recomiendo parar y preguntarnos: ¿Tenemos definido qué estamos dispuestos a delegar? ¿Cómo se reorganizará el trabajo y qué información podrá utilizar la IA? ¿Estamos cubriendo los riesgos asociados?

Pensemos en un agente que negocia con proveedores y adjudica compras. Para conseguir mejores precios, podría concentrar pedidos y comprometer volúmenes futuros. Antes de darle esa autonomía, la empresa tendría que acordar cuánta dependencia de un proveedor acepta y qué compromisos puede asumir el agente en su nombre.

¿Y vamos a tener agentes como parte del organigrama? ¿Darán instrucciones a humanos? Conviene distinguir funciones automatizadas, autoridad delegada y responsabilidad humana. Si un agente va a decidir por sí mismo, alguien tiene que definir hasta dónde llega esa autoridad y responder por sus efectos.

Para avanzar más rápido, un colaborador puede cargar una base de clientes en una herramienta externa, sin verificar si está autorizado ni cómo tratará los datos el proveedor. Si esa información se expone, la empresa tendrá que responder ante sus clientes, aunque la herramienta sólo analice información y no actúe por su cuenta.

Claramente, al incorporar IA, también cambia la exposición de la empresa al riesgo. Un error automatizado puede repetirse en miles de operaciones; una filtración puede comprometer información confidencial y dañar la reputación. A eso se suman los efectos laborales y las exigencias regulatorias. Si la matriz de riesgos no recoge estos usos de IA, estaríamos evaluando la empresa como si siguiera operando igual.

Gobernar la IA supone acordar quién puede delegarle decisiones, con qué límites y quién responde por sus efectos. También quién evalúa los resultados y tiene autoridad para intervenir, incluso cuando se está cumpliendo la meta de ahorro.

Al revisar el presupuesto de 2027, junto con las metas de ahorro miraría qué decisiones se delegarán y cómo se supervisarán sus efectos sobre clientes y trabajadores. También revisaría si tenemos una política de IA aprobada y si la matriz de riesgos recoge lo que estamos poniendo en marcha.

Incorporar IA es un desafío enorme. La necesitamos para seguir siendo competitivos, pero trae riesgos y decisiones difíciles. Para quien lidera la empresa, mi recomendación es armar una mesa de IA con Recursos Humanos, Tecnología e Innovación, y sumar ad hoc a las áreas de negocio.

No hace falta resolverlo todo solo.

CEO de Aplaid Data Protection. Vicepresidente Asociación de Empresas de Tecnología de Información A.G

Deja un comentario

Debes ser miembro Red Líbero para poder comentar. Inicia sesión o hazte miembro aquí.