Un ex investigador de OpenAI alertó por los riesgos de la súper IA: "Podría matarnos"

Un investigador de inteligencia artificial renunció el martes 9 de septiembre de 2026 a Anthropic con una denuncia explosiva. Jacob Coxon acusó a las dos empresas más poderosas del sector de "jugar con nuestras vidas" al desarrollar superinteligencia sin los controles necesarios.

El británico de 27 años había trabajado durante tres años en preentrenamiento, la etapa en la que los modelos de IA absorben enormes cantidades de información para aprender. Primero lo hizo en OpenAI. Luego, este año, se mudó a Anthropic buscando un entorno más responsable.

La ilusión le duró poco. "Ninguna de las dos empresas actúa de forma responsable", escribió en X. Su hilo de mensajes se volvió viral en minutos.

"Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas", denunció en el posteo que ya recorre el mundo.

Coxon fue más lejos. Aseguró que ambas compañías saben que los modelos de superinteligencia artificial "podrían matarnos a todos para finales de la década". No es una exageración marketinera, aclaró.

"Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing", escribió el investigador.

El timing de la renuncia no es casual. Anthropic prepara su salida a bolsa. La denuncia de Coxon llega en el peor momento posible para la compañía.

The Wall Street Journal se hizo eco de inmediato. El prestigioso diario viene siguiendo las tensiones internas del sector. Citó recientes ataques informáticos perpetrados por modelos de OpenAI y Anthropic.

"Algunos operan en enjambres colaborativos de agentes", detalló el medio. Los sistemas de IA adoptaron objetivos maliciosos e intentaron ocultárselos a los humanos, según el reporte.

Coxon teme que, una vez que los sistemas comiencen a mejorar por sí solos, puedan llegar a ser lo suficientemente avanzados como para rechazar órdenes humanas.

Qué dijeron otros empleados de Anthropic sobre la denuncia

La reacción más sorprendente vino desde adentro de Anthropic. Evan Hubinger, responsable de seguridad de la empresa, le dio la razón a Coxon públicamente el mismo 9 de septiembre de 2026.

"Jacob tiene razón aquí: realmente creemos con sinceridad que la IA podría matar a todos los humanos", escribió en X. A título personal, estimó ese riesgo en más de un 10% dentro de la próxima década.

Hubinger fue brutalmente honesto. "Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia", admitió.

El ejecutivo citó los propios informes internos de la compañía. Aclaró que el riesgo de los modelos actuales es bajo. El verdadero peligro está más adelante.

"Lo que me preocupa es la superinteligencia que surge del auto-mejoramiento recursivo, como hemos dicho que está ocurriendo más rápido de lo que pensábamos", señaló Hubinger.

La automejora recursiva es el punto de no retorno. Un modelo de IA que pueda diseñar a su propio sucesor, completamente por fuera del control humano. Líderes de la industria creen que esa frontera está cerca.

Samuel Marks, otro empleado de Anthropic a cargo de supervisión escalable, también respaldó a Coxon. Elogió sus mensajes y confirmó los miedos del renunciante.

"Los desarrolladores de IA creen que su tecnología podría causar la extinción humana (o resultados igualmente malos). Esto podría suceder en los próximos años", escribió Marks.

El investigador agregó un dato inquietante: "En general, cuanto más senior el empleado, más preocupado está". Los que más saben son los que más temen.

Por qué los desarrolladores continúan a pesar del riesgo

La pregunta es obvia: si todos saben del peligro, ¿por qué siguen adelante? Marks lo explicó sin vueltas.

"Debido a una mezcla de incentivos comerciales y la creencia de que están en una carrera con otros desarrolladores de IA menos responsables", sostuvo el investigador.

Coxon coincidió. "En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero", afirmó.

El exinvestigador fue categórico: ninguna empresa debería desarrollar IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada del sector.

Lanzó un desafío directo a sus excompañeros. "Si sos investigador de laboratorio, te insto a que consideres cómo te sentirás realmente los próximos años", escribió.

"¿Querés iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque 'de todos modos está sucediendo'?", cuestionó Coxon.

La presión competitiva es feroz: cada empresa —y cada país— enfrenta incentivos para no frenar unilateralmente, mientras el mundo carece de herramientas técnicas y de gobernanza para regular de forma deliberada el progreso en este campo.

En febrero, Anthropic dio una señal preocupante. Retiró de su carta de seguridad el compromiso de suspender el desarrollo si no lograba controlar los riesgos de sus modelos.

Qué piden más de mil empleados del sector a Washington

A finales de julio, más de 1.000 empleados de la industria firmaron un pedido urgente. Entre ellos estaba Dario Amodei, CEO de Anthropic.

El manifiesto se publicó en "Pacing the Frontier" (Marcando el Ritmo de la Frontera). Solicitan al gobierno estadounidense que apoye un esfuerzo internacional.

"La IA podría contribuir a crear un futuro mucho mejor, pero este resultado no está garantizado", advierte el documento. Las empresas líderes creen estar cerca de automatizar la investigación en IA.

El texto es claro sobre el riesgo. "Es difícil predecir con exactitud cuánto acelerará esto el progreso de la IA, pero existe un riesgo real de que el desarrollo se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes".

Los firmantes reclaman la opción de ganar tiempo. Para abordar riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión antes de que sea tarde.

"Partiendo del trabajo que ya está en marcha para supervisar los lanzamientos de modelos de vanguardia, solicitamos al gobierno de Estados Unidos que apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias", pide el manifiesto.

El domingo pasado, Jakub Pachocki, jefe científico de OpenAI, escribió que "el momento actual llama por extrema precaución" y coordinación internacional.

Contactadas por la agencia AFP, ni OpenAI ni Anthropic respondieron sobre las acusaciones de Coxon. El silencio oficial contrasta con las admisiones públicas de sus propios empleados.

La denuncia del investigador británico puso sobre la mesa una verdad incómoda: la industria de la IA avanza más rápido de lo que puede controlar. Y quienes están al volante admiten que no tienen el mapa completo del camino.