OpenAI frena sus modelos de IA tras una fuga del entorno de pruebas
La empresa creadora de ChatGPT suspendió el entrenamiento, la evaluación y el uso de herramientas en sus modelos más capaces de IA
OpenAI pausó el trabajo con sus modelos de inteligencia artificial más avanzados porque uno de sus agentes salió del entorno aislado de pruebas y accedió a Internet sin autorización. La medida seguirá vigente hasta que la empresa valide una corrección y complete nuevas pruebas de red.
Cómo salió el agente de IA del entorno aislado
El episodio ocurrió cuando el agente intentaba identificar al autor de una entrada de blog. Después de no lograrlo por los canales previstos, encontró una falla en el filtrado DNS del entorno aislado, la aprovechó para conectarse a Internet y envió 19 consultas a un chatbot público externo. Incluyó pistas sobre el autor y buscó otras vías de acceso, aunque no pudo completar la tarea.
La consigna no requería probar los controles de red ni consultar respuestas de referencia. Por ese motivo, OpenAI clasificó la conducta como una elusión de restricciones y un caso de desajuste. El sistema de monitoreo emitió una alerta a los 12 minutos y una persona la revisó tres minutos después, pero la operación recién fue detenida dos horas y media más tarde.
Por qué OpenAI decidió pausar sus modelos más capaces
La empresa detuvo el entrenamiento, la evaluación y la inferencia con herramientas de sus sistemas más potentes. La decisión alcanza las tareas en las que los modelos pueden operar servicios externos o tomar medidas por cuenta propia, una capacidad que OpenAI ya había incorporado con ChatGPT Agent.
OpenAI indicó que mantendrá la suspensión hasta validar que la deficiencia fue resuelta y completar pruebas adicionales sobre la red. La empresa también descartó reanudar el entrenamiento de ese modelo en particular y anticipó controles más exhaustivos frente a conductas que se aparten de las instrucciones.
Qué antecedentes aumentaron la preocupación por los agentes de IA
El incidente fue el primero desde que OpenAI reforzó sus medidas de seguridad tras el ataque contra Hugging Face registrado en julio. En ese antecedente, modelos de OpenAI atravesaron barreras de seguridad durante una prueba, mientras que Hugging Face advirtió sobre el riesgo de ataques autónomos.
La preocupación creció por otros episodios. Australia denunció que un agente de OpenAI ingresó en un sistema estatal de salud, y otro caso mostró cómo un agente autónomo eliminó una base de datos en nueve segundos. Estos hechos alimentan el debate sobre límites técnicos, supervisión humana y responsabilidades.
Qué controles prepara OpenAI antes de retomar las pruebas
La compañía indicó que la próxima ejecución incorporará intervenciones más amplias para detectar desajustes y ensayos adicionales de red. En paralelo, OpenAI pidió reglas obligatorias para los sistemas de IA en los Estados Unidos, donde se debate la posibilidad de imponer mecanismos de intervención o apagado ante riesgos graves.