Seguinos en las redes
iProfesional | Tecnología

La ONU cuestiona el control de la IA y advierte que podría paralizar servicios esenciales

La ONU alertó que cinco tecnológicas concentran más del 70% de la capacidad informática para IA y reclamó reglas para proteger los derechos humanos

19/11/2026
Actualizado 12:19hs

El desarrollo de la inteligencia artificial avanza sin un marco común que establezca límites y controles sobre quienes concentran sus principales recursos. Esa es la advertencia que formuló Volker Turk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, quien comparó el actual esquema de gobernanza de esta tecnología con un sistema medieval dominado por un grupo reducido de poderosos.

Durante su participación en el encuentro RightsX, realizado en Ginebra, el funcionario cuestionó la falta de participación democrática en las decisiones que definen el rumbo de esta tecnología y advirtió sobre la ausencia de reglas comunes para supervisar su desarrollo.

"Un puñado de hombres sigue controlando la mayor parte de la potencia informática, de los datos y de la infraestructura. Y seguimos sin tener unas normas comunes para regular u orientar el desarrollo de la IA", dijo Turk. En ese contexto, señaló que cinco empresas tecnológicas poseen más del 70% de la capacidad informática global destinada a esta tecnología.

La ONU pide controles para evitar que la IA afecte los derechos humanos

Turk sostuvo que el problema no se limita a quiénes manejan los recursos necesarios para desarrollar estos sistemas. También cuestionó que una tecnología con creciente influencia sobre la sociedad avance sin mecanismos suficientes de supervisión, participación ciudadana ni obligaciones claras para sus responsables.

A su juicio, la inteligencia artificial está quedando bajo la conducción de un grupo reducido de actores, sin controles institucionales adecuados. En ese sentido, describió el escenario como una estructura en la que las decisiones se toman sin contrapesos ni rendición de cuentas.

"Esta 'tecnología del futuro' está gobernada por unos pocos elegidos, prácticamente sin controles, sin contrapesos, sin participación ni rendición de cuentas".

El representante de Naciones Unidas advirtió que las consecuencias de esa concentración pueden recaer sobre la población. "La historia nos lo ha enseñado: con este tipo de poder, los derechos y libertades de la gente de a pie son los primeros en verse afectados", advirtió.

Por ese motivo, volvió a reclamar que se establezcan normas para la inteligencia artificial con los derechos humanos como eje. Según planteó, la influencia de estas herramientas sobre la vida cotidiana es cada vez mayor y no siempre resulta evidente para quienes las utilizan o quedan sujetos a sus decisiones. El debate sobre quién responde cuando una empresa deja decisiones en manos de la inteligencia artificial también llegó al ámbito jurídico.

Los riesgos de los algoritmos y la infraestructura crítica

Otro de los puntos que destacó Turk fue la capacidad de los sistemas de IA para incidir en la conversación pública. Alertó que esa influencia puede ejercerse sin que las personas adviertan lo que está ocurriendo y modificar los debates mediante mecanismos difíciles de detectar.

También puso el foco en los sesgos de los algoritmos. Si esos sistemas reproducen criterios discriminatorios o decisiones injustas, advirtió, pueden multiplicar sus efectos a gran escala.

La preocupación alcanza además a servicios esenciales. El funcionario recordó que áreas como el transporte, la producción y distribución de alimentos y la atención sanitaria dependen cada vez más de sistemas digitales. Esa transformación abre interrogantes sobre la seguridad de las infraestructuras frente a posibles fallas o usos malintencionados de la inteligencia artificial.

"Nuestros sistemas de transporte, alimentario y de salud están cada vez más digitalizados. Quizá no estemos tan lejos del día en el que la IA pueda paralizar infraestructuras críticas para comunidades o países enteros, ya sea por sí misma o por estar en manos equivocadas", señaló el alto comisionado de la ONU.

Turk reclamó que las empresas compartan los beneficios de la IA

El planteo del Alto Comisionado también incluyó la distribución de las ventajas económicas y sociales que puede generar esta tecnología. Para Turk, los beneficios de la inteligencia artificial no deberían quedar concentrados en las compañías que controlan su desarrollo.

El funcionario consideró que alcanzar ese objetivo exige compromiso de las empresas, pero también reglas obligatorias y mecanismos que permitan exigir responsabilidades cuando no se cumplan las medidas de protección.

En esa línea, contó que se comunicó por escrito con algunas de las principales compañías del sector para pedirles que adopten salvaguardas concretas. El objetivo, explicó, es que los controles no lleguen cuando los riesgos ya se hayan materializado "antes de que sea demasiado tarde".

La inteligencia artificial también plantea problemas de control dentro de las empresas

La discusión sobre quién supervisa la inteligencia artificial no se limita a los gobiernos ni a las grandes compañías que desarrollan los modelos. También alcanza a las organizaciones que incorporan estas herramientas en sus actividades sin definir previamente qué tareas pueden delegar y quién debe responder por sus resultados.

En un análisis publicado por iProfesional el 3 de noviembre, Nicolás Castro, cofundador y director de producto de The Flock, advirtió sobre el desfase entre la velocidad de adopción de la IA y la capacidad de las empresas para establecer mecanismos de gobierno. Según explicó, muchas organizaciones habilitan nuevas herramientas y recién después intentan determinar qué información procesaron, qué decisiones comenzaron a influir y hasta dónde llegó la autonomía de esos sistemas.

El problema se vuelve más complejo con los agentes de inteligencia artificial, que pueden consultar fuentes, seleccionar acciones, modificar datos e iniciar procesos sin requerir una intervención humana en cada etapa. Por eso, el nivel de supervisión debería variar según las consecuencias que pueda tener cada tarea.

Castro también señaló que la incorporación desordenada de estas soluciones puede generar duplicación de funciones, dependencia de proveedores y automatizaciones que quedan sin documentación. En algunos casos, incluso, una empresa puede perder el conocimiento sobre cómo funcionan procesos que ya forman parte de su operación. Estos problemas se relacionan con los riesgos legales y operativos de utilizar IA sin reglas ni control interno.

El especialista planteó que el desafío consiste en permitir la experimentación sin resignar el control. Para eso, consideró necesario establecer límites de autonomía, identificar responsables humanos y diferenciar los usos de bajo riesgo de aquellos que involucran información sensible o decisiones con impacto sobre terceros.