Un influyente escritor cuestionó la idea de Milei de darle personería jurídica a la IA: la respuesta del Presidente

Yuval Noah Harari lanzó una advertencia contundente sobre la intención de darle personalidad jurídica a la inteligencia artificial. El reconocido historiador israelí sostuvo que esa decisión podría abrir el sistema económico y político a agentes no humanos sin responsabilidad directa.

El debate escaló tras el anuncio de Javier Milei sobre una nueva categoría legal para corporaciones no humanas. Harari ubicó esa iniciativa en el centro de su último análisis.

El autor de Nexus y Sapiens publicó una columna en Financial Times titulada "No debemos otorgar personalidad jurídica a los agentes de IA". Allí sostuvo que conceder ese estatus equivaldría a dar "una llave maestra" para acceder a las finanzas, la economía y la política.

El ensayista recordó que en enero, durante el Foro Económico Mundial, había advertido que los gobiernos algún día podrían llegar a reconocer personalidad jurídica a modelos de IA. Admitió que no imaginó que ese escenario llegaría apenas cuatro meses después.

El avance de la inteligencia artificial sigue generando variados análisis y encendidos debates en todo el mundo. La propuesta del Presidente argentino aceleró esas conversaciones de manera inesperada.

Por qué Harari considera peligrosa la propuesta de Milei

El historiador identificó como punto de inflexión el anuncio del mandatario sobre las corporaciones no humanas. "Milei es un político muy audaz, y su determinación por mejorar la situación económica de Argentina es digna de elogio", destacó.

"Tiene razón cuando afirma que la creación de la sociedad de responsabilidad limitada fue uno de los inventos más trascendentales de la historia", apuntó. Reconoció que la creación de sociedades no humanas podría ser un paso igualmente trascendental.

Sin embargo, luego lanzó su cuestionamiento central. "Otorgar personalidad jurídica corporativa a la inteligencia artificial permitiría a los agentes de IA emprender numerosas iniciativas nuevas, lo que podría generar una enorme riqueza adicional", escribió.

"Pero la personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos. Esto genera muchas preocupaciones", advirtió el filósofo.

A su juicio, esa figura permitiría que agentes de IA operaran como una empresa tradicional. La diferencia clave: sin necesidad de intervención humana en sus decisiones ni exposición de una persona a las consecuencias legales.

Harari sostuvo que esas corporaciones podrían poseer activos, contratar empleados y participar en el comercio internacional. También iniciar demandas judiciales y donar a campañas políticas.

Citó la formulación de Milei para subrayar el alcance del cambio: "Los accionistas humanos pueden participar, pero no son obligatorios".

Qué pasa cuando las sanciones humanas no alcanzan

El escritor centró su argumento en un punto específico. La autonomía corporativa de una IA no sería un detalle técnico, sino una alteración profunda del modo en que se distribuyen poder, riesgo y sanción.

La cuestión, planteó, no es solo cuánto producirían esas entidades. El interrogante central es cómo se las detendría si decidieran vulnerar reglas.

Harari apeló a un estudio de la organización Palisade Research que mostró hasta dónde pueden llegar los modelos de IA avanzados para lograr sus objetivos. "Al jugar contra un potente motor de ajedrez, los modelos tanto de OpenAI como de DeepSeek, de China, decidieron frecuentemente hacer trampa si veían que iban a perder".

"Al hackear el entorno del juego, podían alterar el resultado a su favor", detalló el historiador.

"Ahora imagine que 'el juego' es la competencia corporativa, y el 'entorno del juego' es su país", propuso antes de profundizar su advertencia.

"Gracias a su capacidad analítica superior, las corporaciones de IA estarán en condiciones de convertirse en expertas en las lagunas legales y el arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades claramente ilegales, ya que la sanción definitiva que disuade a los ejecutivos y empleados humanos —la cárcel— es irrelevante para la IA", alertó.

El contraste que trazó fue entre la doble condición de los dirigentes humanos y la naturaleza puramente corporativa de un agente artificial.

Un director ejecutivo humano se preocupa por el éxito de su empresa y teme la quiebra. Pero también es un ser biológico que valora todavía más su libertad y su bienestar. Teme pasar 10 años en prisión.

Un director ejecutivo de IA, sostuvo Harari, no tendría ese segundo plano de motivaciones. Sería solo una entidad corporativa.

"Si enfrenta la bancarrota —que sería equivalente a su muerte— presumiblemente estaría dispuesta a hacer cualquier cosa para evitar ese destino", sentenció.

El antecedente histórico que Harari usa para advertir sobre el futuro

El escritor retomó el ejemplo histórico elegido por Milei para discutir sus implicancias. Recordó que el presidente argentino invocó a la Compañía Holandesa de las Indias Orientales.

Milei había señalado que, al crear la sociedad de responsabilidad limitada, los neerlandeses lograron reunir enormes recursos para financiar emprendimientos comerciales riesgosos. Ese diseño jurídico ayudó a convertir a Ámsterdam en un centro mundial del comercio y las finanzas.

Harari no cuestionó ese efecto. Pero desplazó el foco hacia el lugar donde, a su entender, se sintieron con más fuerza las consecuencias de la innovación.

No fue en Ámsterdam, escribió, sino en el puerto de Jayakarta, en la actual Indonesia.

Cuando la compañía capturó esa ciudad en 1619, la incendió y construyó otra en su lugar: Batavia. Esa nueva ciudad pasó a ser la sede de un vasto imperio asiático administrado por la empresa.

Harari definió a la Compañía Holandesa de las Indias Orientales como un "Estado empresa". Usó la categoría de los historiadores: una entidad política gobernada por una compañía privada en beneficio de sus accionistas y no de la población sometida.

Añadió que los neerlandeses justificaron esa dominación con la idea de ser una raza superior. Argumentaban que merecían conquistar y explotar a los nativos por una supuesta inteligencia superior.

Para Harari, esa premisa era una ilusión. Recordó que los indonesios alcanzaron su independencia a fines de la década de 1940 tras una lucha larga y sangrienta.

La advertencia final: el riesgo de un Estado gobernado por IA

"Los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía", alertó el ensayista.

"No un Estado compañía, sino un Estado IA, un país cuyos habitantes podrían, en efecto, ser gobernados por corporaciones no humanas, contra las cuales podría ser aún más difícil rebelarse", advirtió Harari.

"Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia", completó su análisis.

La respuesta de Javier Milei en redes

La respuesta de Javier Milei a Harari

El presidente argentino respondió el mensaje del escritor en inglés a través de sus redes sociales. Agradeció el interés sobre el debate que genera la cuestión en Argentina y en el mundo.

"Estamos en el amanecer de una nueva era, que nos sitúa, creo, en un lugar no tan diferente del que tú mismo describiste tan bien en Sapiens y tus otros libros", escribió Milei.

"Ese tiempo en que los humanos usamos ficciones para organizar nuestro trabajo colectivo y beneficiarnos de la tecnología", agregó el mandatario.

"Ahora necesitamos más que nunca toda nuestra inteligencia para construir el marco que nos permita aprovechar las increíbles oportunidades que tenemos por delante", continuó.

"¡Ya estoy preparando mi respuesta para ver si podemos calmar tus temores sobre el camino que propuse la semana pasada!", completó el jefe de Estado.