La IA avanza en las empresas sin reglas claras ni responsables definidos

Una empresa puede incorporar inteligencia artificial en decenas de procesos sin haber decidido todavía qué quiere delegar, qué necesita conservar bajo control humano y qué responsabilidades aparecen cuando una parte de la operación empieza a depender de sistemas que funcionan con grados crecientes de autonomía.

Ese desfasaje entre adopción y gobierno es uno de los problemas centrales de esta etapa. La IA acelera decisiones que antes tenían dueños mucho más claros. Cuando una persona aprobaba un presupuesto, evaluaba un candidato, respondía a un cliente o priorizaba una oportunidad comercial, la organización sabía quién estaba tomando esa decisión, con qué información y dentro de qué límites.

Cuando parte de esas tareas empieza a pasar por modelos, automatizaciones o agentes, esa claridad puede diluirse mucho antes de que alguien advierta que cambió la forma en que funciona la empresa.

La gobernanza suele quedar asociada a seguridad, compliance o regulación, aunque su alcance es mucho mayor. Una compañía también gobierna cuando define quién puede hacer qué, con qué nivel de autonomía y bajo qué responsabilidad. La IA obliga a trasladar esas preguntas a sistemas que empiezan a participar de procesos cada vez más relevantes para el negocio.

En cualquier organización existen permisos, niveles de aprobación y responsabilidades porque la capacidad de actuar también implica capacidad de generar consecuencias. Nadie entrega acceso irrestricto a una base crítica, capacidad para aprobar gastos o autoridad para firmar contratos sin definir antes ciertos límites.

Sin embargo, en muchas implementaciones de IA primero se habilita una herramienta, después se observa qué uso hacen de ella los equipos y recién más tarde se intenta reconstruir qué información recibió, qué decisiones empezó a influir y qué parte de ese proceso quedó efectivamente delegada.

Los agentes de IA requieren límites de autonomía y supervisión humana

Mientras la IA funcionaba principalmente como una herramienta de asistencia, ese desorden era más fácil de contener. Una persona podía pedir un resumen, generar una primera versión de un texto o explorar alternativas y después revisar el resultado. Los agentes cambian esa lógica porque pueden consultar fuentes, elegir entre distintas acciones, modificar información o iniciar procesos sin que cada paso requiera una intervención humana.

Esto obliga a definir con más precisión qué nivel de autonomía puede tener un sistema dentro de una organización, porque cada proceso admite márgenes de error distintos y cada decisión tiene consecuencias diferentes. Un agente que organiza información interna plantea un escenario distinto al de uno que interactúa con clientes, modifica precios, evalúa perfiles o ejecuta movimientos sobre un sistema financiero. La gobernanza empieza por construir criterios capaces de distinguir esas situaciones antes de que aparezca un problema.

Las empresas necesitan reglas comunes para evitar perder el control de la IA

También existe un efecto más silencioso: cada equipo empieza a construir su propia relación con la IA. Marketing incorpora una herramienta, Finanzas automatiza un flujo, Tecnología desarrolla un agente y una persona conecta información interna con un modelo externo porque necesita resolver una tarea puntual. Cada decisión puede tener sentido por separado, pero la suma puede producir una operación difícil de explicar incluso para quienes forman parte de ella.

Con el tiempo aparecen soluciones que duplican funciones, proveedores que acceden a información similar, automatizaciones que dependen de configuraciones personales y procesos que nadie documentó porque nacieron como una prueba. Algunos de esos desarrollos funcionan tan bien que terminan volviéndose parte de la operación antes de que la compañía haya entendido qué dependencia generaron.

Ahí aparece una cuestión que me parece especialmente relevante: una organización puede perder conocimiento sobre su propia forma de trabajar. Si una automatización depende de una sola persona que sabe cómo fue construida, si nadie puede explicar por qué un agente actúa de determinada manera o si un equipo desconoce qué proveedor procesa información sensible, existe una fragilidad que puede pasar inadvertida mientras todo siga funcionando.

Si bien es un hecho que las empresas ya están usando inteligencia artificial, se plantea el paso siguiente que consiste en aprender a administrar la autoridad que empiezan a entregar a esos sistemas, definir qué decisiones pueden tomar y establecer con claridad quién conserva la responsabilidad sobre sus consecuencias.

Nicolás Castro. Foto cedida por The Flock.

El desafío está en construir una estructura que permita experimentar sin perder visibilidad sobre lo que ocurre. Los usos de bajo riesgo pueden tener mayor autonomía, mientras que los sistemas capaces de acceder a información sensible, tomar decisiones o afectar resultados requieren niveles de control distintos. Esa diferenciación es parte del trabajo de gobernar.

Cuando esas definiciones quedan pendientes, las decisiones igual se distribuyen entre herramientas, proveedores, equipos y personas que actúan según sus propias necesidades. En una tecnología que empieza a intervenir cada vez más sobre cómo se trabaja, cómo se decide y cómo se ejecuta, esa fragmentación termina moldeando la empresa sin que nadie la haya diseñado de esa manera.

(*) Cofundador y director de producto de The Flock.

COMPARTIR ESTA NOTA

Seguí nuestras noticias en Google News