¿Puede una empresa ser manejada por inteligencia artificial sin que nadie responda por sus decisiones?
La pregunta parece futurista, pero ya dejó de pertenecer al futuro: ¿puede existir una empresa manejada íntegramente por inteligencia artificial?
El debate tomó fuerza en Argentina a partir de la propuesta de reconocer nuevas formas societarias automatizadas, incluso con personalidad jurídica propia y responsabilidad limitada. La idea generó repercusión internacional porque toca un punto sensible: hasta dónde puede llegar la inteligencia artificial en la organización económica y qué límites debe imponer el derecho.
A mi juicio, el eje central no es tecnológico. El verdadero problema es jurídico y empresario: si una IA decide, contrata, compra, vende, discrimina, incumple o causa un daño, ¿quién responde?
El derecho societario siempre trabajó con una ficción útil: la sociedad es una persona jurídica distinta de sus socios. Puede contratar, tener patrimonio, demandar y ser demandada. Pero detrás de esa ficción siempre existieron personas humanas tomando decisiones: directores, administradores, representantes legales y responsables identificables.
Quién responde si una empresa manejada por IA causa un daño
La sociedad anónima no fue creada para que nadie responda. Fue creada para organizar inversión, riesgo y responsabilidad dentro de reglas claras.
Por eso, una empresa administrada por IA tensiona el corazón del sistema. Si no hay directores humanos, si no hay administradores identificables y si el algoritmo opera con autonomía, la personalidad jurídica puede convertirse en un escudo demasiado fuerte.
Imaginemos una sociedad automatizada que presta servicios financieros, analiza datos de clientes, celebra contratos y ejecuta inversiones. Si el sistema discrimina a un usuario, incumple un contrato, manipula información o genera pérdidas, el damnificado necesitará algo muy concreto: un responsable, un patrimonio embargable y una explicación mínima de lo ocurrido.
Sin eso, no hay verdadera seguridad jurídica.
La innovación necesita libertad, pero también necesita confianza. Y la confianza no se construye diciendo "lo decidió el algoritmo". Se construye demostrando quién diseñó el sistema, quién lo supervisó, qué controles existían y qué patrimonio responde frente al daño.
Este debate no debe leerse como ciencia ficción. Debe leerse como una advertencia para cualquier empresa que hoy ya utiliza inteligencia artificial en decisiones comerciales, laborales, financieras o contractuales.
Porque antes de que existan sociedades completamente automatizadas, ya existen empresas parcialmente automatizadas. Y muchas no lo saben.
El riesgo de delegar decisiones empresarias en inteligencia artificial
El riesgo no está únicamente en crear una empresa sin humanos. El riesgo está en que las empresas actuales empiecen a delegar decisiones sensibles en sistemas que nadie audita, nadie documenta y nadie controla.
Una empresa puede usar IA para seleccionar personal, fijar precios, evaluar riesgos, responder clientes, aprobar operaciones, analizar contratos o detectar incumplimientos. Todas esas decisiones pueden tener consecuencias jurídicas relevantes.
Por eso, la discusión internacional muestra una tendencia clara: la inteligencia artificial podrá ocupar cada vez más espacios dentro de la actividad económica, pero el derecho va a exigir trazabilidad, auditoría y responsabilidad humana.
Mi lectura es simple: las empresas manejadas por IA pueden llegar a existir jurídicamente, pero no deberían existir sin una arquitectura seria de responsabilidad.
El empresario inteligente no debería esperar a que el Congreso defina el futuro de las sociedades automatizadas. Debería empezar hoy a ordenar el uso de IA dentro de su propia organización. Porque el futuro regulatorio probablemente no preguntará solamente si la empresa usó inteligencia artificial. Preguntará cómo la gobernó.
¿Qué debería hacer una empresa ahora?
Toda empresa debería identificar qué decisiones internas ya están siendo asistidas o ejecutadas por IA, definir responsables humanos por cada proceso, documentar criterios de uso, revisar contratos con proveedores tecnológicos y establecer auditorías mínimas sobre los resultados.
La inteligencia artificial puede mejorar productividad, reducir costos y acelerar decisiones. Pero sin gobierno corporativo, puede convertirse en un riesgo legal difícil de explicar.