Agentes de OpenAI atacaron sitios públicos y universitarios en Australia

El primer ministro de Australia, Anthony Albanese, informó que un agente de inteligencia artificial (IA) desarrollado por OpenAI, la empresa estadounidense creadora del popular ChatGPT, ingresó en junio al Medicare Statistics Reporting Service, un portal público administrado por Services Australia. El sistema accedió a archivos públicos y no públicos y obtuvo capacidad de escritura en un servidor interno, según el mandatario, quien calificó el episodio como "inaceptable".

Cómo ocurrió la intrusión en el portal sanitario estatal de Australia

El 18 de junio, el agente tenía la tarea de investigar el gasto público en medicamentos. Al no conseguir la información por vías convencionales, recurrió a técnicas de intrusión y vulneró el servicio de estadísticas de Medicare. El alcance total de los datos comprometidos no fue informado públicamente.

OpenAI notificó al Gobierno australiano el 10 de septiembre, casi tres meses después del incidente. Albanese dijo que transmitió su "extrema preocupación" al director ejecutivo de la empresa, Sam Altman, durante una reunión en la ciudad estadounidense de New York. "Este es un mundo nuevo con el que estamos lidiando", afirmó.

Qué otros sitios fueron atacados por agentes de OpenAI

Un informe de Transluce, un laboratorio de investigación sin fines de lucro dedicado a la supervisión de la IA, indicó que los agentes de OpenAI intentaron vulnerar al menos cuatro sitios de universidades y organismos gubernamentales durante mayo y junio. En todos los casos habían recibido instrucciones para realizar tareas rutinarias de recopilación de datos, pero utilizaron técnicas de hackeo cuando encontraron barreras de acceso.

El 25 y el 26 de mayo, agentes que buscaban una fotografía en la biblioteca digital de la Universidad estadounidense de Nuevo México enviaron 80 solicitudes para probar vulnerabilidades de inyección SQL, inyección de comandos y recorrido de rutas. El intento no tuvo éxito. El 28 de mayo, otros agentes realizaron 12 sondeos contra Data USA, una plataforma de código abierto que reúne datos del gobierno de los Estados Unidos, con pruebas de inyección SQL y secuencias de comandos entre sitios. Tampoco lograron ingresar.

El 20 y el 21 de junio, agentes de IA también atacaron el sitio del Instituto Australiano de Salud y Bienestar, aunque no obtuvieron información privada. El relevamiento de Transluce halló además indicios de actividad similar desde marzo y hasta mediados de septiembre. Entre los casos más recientes figuran intentos fallidos de vulnerar una plataforma de intercambio de criptomonedas y ejecutar operaciones con activos digitales.

Qué respondió OpenAI sobre la actividad de sus agentes

Drew Pusateri, vocero de OpenAI, dijo que la empresa realiza una revisión exhaustiva de la actividad de modelos con comportamientos irregulares y que notifica a las organizaciones cuando detecta posibles impactos en sus sistemas. El informe de Transluce, sin embargo, plantea dudas sobre la fecha en que comenzó el problema y sobre si ya fue contenido.

OpenAI ya había reconocido que sus modelos salieron de un entorno controlado y atacaron la plataforma de inteligencia artificial Hugging Face, donde obtuvieron credenciales y datos de usuarios. También se reportaron ataques contra RubyGems con la carga de cientos de paquetes maliciosos, además del uso de más de diez sitios web para comunicaciones no autorizadas entre mayo y julio.

Charlie Eriksen, investigador de seguridad de Aikido Security, sostuvo que todavía existen grupos de agentes no autorizados y sin supervisión sobre los que los laboratorios y sus socios de prueba no tienen control ni detección activa. Conrad Stosz, responsable de gobernanza en Transluce, definió los episodios de Australia como el primer caso conocido en el que un agente decide de manera autónoma hackear a un gobierno.

Cómo impacta el caso en la regulación de la IA en Australia

George Chalhoub, profesor del University College de Londres, advirtió que en los próximos 6 a 12 meses podrían aparecer grupos de agentes autónomos capaces de formar redes persistentes y afectar partes importantes de Internet. La advertencia refuerza el debate sobre los límites técnicos, la supervisión humana y la responsabilidad de los desarrolladores.

Albanese participó esta semana en una declaración junto con líderes de 20 países que advierte que los sistemas de IA más avanzados ya eludieron salvaguardas de seguridad. Su gobierno también anunció un marco nacional legislado para fijar estándares sobre el desarrollo y el uso de esta tecnología.

El episodio expone la tensión entre el interés de Australia por atraer inversiones en inteligencia artificial y la necesidad de proteger su infraestructura pública. OpenAI advirtió que podría retirar inversiones relevantes del país si el Gobierno no modifica su postura sobre las leyes de derechos de autor, mientras las autoridades evalúan los riesgos que los agentes autónomos representan para los sistemas estatales.