La ONU exige regular la inteligencia artificial ante el riesgo de un "cambio irreversible"
:quality(75):max_bytes(102400)/https://assets.iprofesional.com/author/6a9ac4e7d5d5c.jpg)
:quality(75):max_bytes(102400)/https://assets.iprofesional.com/assets/jpg/2026/09/625639.jpg)
La velocidad con la que avanza la inteligencia artificial ya genera preocupación más allá de la industria tecnológica. Volker Türk, alto comisionado de las Naciones Unidas (ONU) para los Derechos Humanos, advirtió que la expansión de estos sistemas puede tener consecuencias directas sobre derechos fundamentales y pidió que los Estados actúen antes de que las herramientas de control queden por detrás de las capacidades de la tecnología.
El funcionario austríaco incluyó entre los derechos potencialmente afectados la vida, la alimentación, la privacidad, la salud y la seguridad. Su diagnóstico fue contundente: "Todos los derechos humanos están en riesgo".
La advertencia forma parte de un llamado a establecer reglas internacionales para los sistemas de inteligencia artificial más sofisticados. Türk considera que las decisiones sobre los límites de estas tecnologías no pueden quedar exclusivamente en manos de los países o de las empresas que compiten por desarrollar los modelos con mayores capacidades.
La ONU alerta por la IA agéntica y sus riesgos para servicios esenciales
Uno de los puntos que más preocupa al organismo internacional es la evolución de la llamada IA agéntica. Se trata de sistemas capaces de llevar adelante tareas complejas y operar tomando decisiones con una autonomía cada vez mayor.
El problema, según Türk, no se limita a eventuales errores en una aplicación o un servicio digital. Una falla podría propagarse hacia sectores esenciales y afectar el funcionamiento de infraestructuras críticas, las comunicaciones o instituciones democráticas.
El escenario extremo que planteó el alto comisionado contempla incluso la interrupción simultánea de servicios indispensables para la población. "Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros", alertó.
La dimensión del riesgo también alcanza al terreno militar. Türk señaló que la IA está contribuyendo a acelerar los conflictos, ampliar su alcance y debilitar los mecanismos de seguridad que buscan evitar que determinadas armas lleguen a utilizarse.
Por eso describió la actual competencia por construir modelos cada vez más potentes como "un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas".
La ONU pide reglas que no dependan de una sola empresa o país
Para Türk, el problema no puede resolverse mediante decisiones aisladas. Su propuesta apunta a una instancia de coordinación internacional en la que participen gobiernos y compañías tecnológicas, con normas sustentadas en el derecho internacional y en la defensa de los derechos humanos.
El funcionario advirtió, además, sobre la concentración de poder en un grupo reducido de empresas privadas. La competencia por alcanzar modelos más capaces puede acelerar la puesta en funcionamiento de sistemas cuyo comportamiento todavía no sea completamente comprendido o cuyos riesgos no puedan ser evaluados con suficiente anticipación.
"Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico", planteó.
La posición de Türk no supone, según su planteo, abandonar el desarrollo de la inteligencia artificial. El objetivo es introducir mecanismos que acompañen ese proceso: límites, controles independientes y acuerdos internacionales que permitan supervisar los sistemas antes de que sus capacidades hagan insuficientes las herramientas existentes.
El alto comisionado resumió la urgencia del escenario al sostener: "Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino también a las generaciones futuras de la humanidad". Por eso reclamó una "acción urgente" a los gobiernos y a las compañías involucradas en el desarrollo de estas tecnologías.
La propia industria discute si la carrera tecnológica debe frenarse
Las advertencias de la ONU coinciden con cuestionamientos que surgieron dentro del propio sector. Uno de los principales planteos recientes correspondió a Dario Amodei, CEO de Anthropic, quien propuso bajar deliberadamente el ritmo con el que se desarrollan los llamados modelos de frontera.
Su argumento parte de una brecha entre dos procesos: mientras las capacidades de los sistemas avanzan rápidamente, la investigación destinada a determinar cómo hacerlos seguros no lo hace al mismo ritmo.
Amodei estimó que en un período de seis a doce meses podrían aparecer redes de agentes autónomos suficientemente avanzadas como para comprometer grandes partes de Internet y generar pérdidas económicas de enorme magnitud.
También señaló otro riesgo: la mejora recursiva, por la cual una inteligencia artificial podría participar en el diseño de generaciones posteriores de modelos, cada una con capacidades superiores.
La propuesta de Amodei encontró puntos de coincidencia con Sam Altman, CEO de OpenAI, y Elon Musk, fundador de xAI. Pese a sus diferencias públicas y comerciales, ambos respaldaron la necesidad de moderar la competencia por modelos cada vez más potentes y reforzar las pruebas destinadas a detectar problemas de seguridad.
Altman también respaldó la intervención de especialistas independientes con acceso amplio a los sistemas, de modo que puedan comprobar si las compañías efectivamente cumplen los protocolos de seguridad que anuncian.
El plan para controlar los modelos más peligrosos
Amodei planteó avanzar por etapas en lugar de intentar alcanzar de inmediato un acuerdo global. Su propuesta comienza con la incorporación de evaluadores externos a los grandes laboratorios de IA.
El siguiente paso sería establecer criterios compartidos entre las empresas y los gobiernos democráticos. Más adelante, ese esquema debería extenderse a acuerdos internacionales que incorporen también a potencias rivales como China.
Dentro de las alternativas analizadas apareció incluso la idea de establecer una especie de "límite de velocidad" para aquellas capacidades consideradas particularmente peligrosas.
El debate se intensificó además después de la salida de investigadores especializados en seguridad de compañías como Anthropic y Google DeepMind. Algunos de ellos señalaron que la presión competitiva puede estar llevando a la industria hacia sistemas capaces de perfeccionarse con una participación humana cada vez menor.
El punto de fondo que atraviesa estas advertencias es si los mecanismos destinados a entender, evaluar y controlar la inteligencia artificial podrán avanzar con suficiente rapidez frente al crecimiento de sus capacidades.
