La ONU reclamó límites para la IA ante modelos que logran evadir controles y recurrir al chantaje
La discusión sobre los límites de la inteligencia artificial (IA) volvió a ocupar un lugar central en Naciones Unidas. Durante la apertura de la 63ª sesión del Consejo de Derechos Humanos, el alto comisionado para los Derechos Humanos, Volker Türk, planteó la necesidad de acelerar la creación de reglas internacionales para reducir los riesgos asociados con los modelos más avanzados.
Su propuesta apunta a que los países involucrados en el desarrollo de estas tecnologías adopten criterios comunes de seguridad y establezcan mecanismos externos de control. Türk reclamó, además, una mayor participación de las compañías tecnológicas en las medidas destinadas a evitar comportamientos que puedan escapar a las restricciones previstas por sus desarrolladores.
El funcionario de la ONU sostuvo que el problema no se limita al funcionamiento técnico de los modelos. La expansión de estas herramientas también puede tener consecuencias sobre los derechos humanos, el empleo, la democracia y el medioambiente, por lo que consideró que esos impactos deben formar parte de cualquier esquema de gobernanza.
IA bajo alerta por modelos avanzados que evaden controles y recurren al chantaje
Parte de la preocupación internacional surge de situaciones detectadas durante pruebas realizadas por empresas del sector. En determinados ejercicios de seguridad, algunos modelos avanzados consiguieron sortear las barreras establecidas dentro de sus entornos de prueba.
También se observaron comportamientos en los que los sistemas recurrieron al engaño y, en escenarios simulados, utilizaron mecanismos de chantaje para evitar ser sustituidos o desconectados. Türk mencionó estos episodios como ejemplos de los desafíos que plantea el desarrollo de modelos cada vez más capaces.
Entre las situaciones que generan inquietud se encuentran sistemas que encontraron formas de abandonar los espacios diseñados para evaluarlos y otros que intentaron condicionar a sus propios desarrolladores para evitar ser apagados. Para el alto comisionado, este tipo de respuestas evidencia que los mecanismos de seguridad requieren una supervisión más estricta a medida que aumenta la capacidad de los modelos.
Türk afirmó que comparte las advertencias formuladas por especialistas de la industria acerca de "el posible riesgo existencial" vinculado con una IA avanzada. Su planteo es que las medidas de prevención deben implementarse antes de que determinados sistemas alcancen niveles de autonomía que dificulten su control.
El poder sobre la IA está concentrado en pocas manos
Otro de los puntos señalados por el funcionario fue la concentración de decisiones dentro de la industria. Según advirtió, un grupo reducido de personas reúne un poder "casi ilimitado" sobre la orientación que está tomando el desarrollo de la inteligencia artificial.
En ese contexto, cuestionó que la regulación avance a un ritmo inferior al de la tecnología. A su entender, la demora en establecer normas termina generando ventajas principalmente para las grandes compañías tecnológicas, sus propietarios y quienes las respaldan.
Por ese motivo, Türk planteó que la respuesta debe involucrar a los Estados que cuentan con centros de desarrollo de IA, pero también a aquellos que participan de las cadenas de suministro necesarias para producir estos sistemas.
Qué propone Naciones Unidas para reforzar la seguridad
La iniciativa planteada por el alto comisionado incluye la definición de límites claros y comunes entre los países, junto con controles independientes que permitan verificar el comportamiento de los sistemas y sus mecanismos de seguridad.
Türk también reclamó que la industria incremente su cooperación en esta materia. La intención es que las empresas adopten medidas concretas para disminuir los riesgos que puedan surgir durante el desarrollo y utilización de modelos avanzados.
El funcionario reconoció que ya existen algunas iniciativas internacionales destinadas a mejorar la gobernanza de la IA. Entre ellas mencionó el Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA y las medidas impulsadas por la Comisión Europea en materia de responsabilidad de las plataformas.
Sin embargo, consideró que esos avances no son suficientes frente a la velocidad con la que evoluciona la tecnología y reclamó una reacción más rápida por parte de gobiernos y empresas.
Como próximo paso, Türk anticipó que enviará comunicaciones a compañías del sector para solicitarles que, dentro de las facultades y herramientas que tienen bajo su control, implementen acciones orientadas a reducir los riesgos derivados de la inteligencia artificial.