Un ex ejecutivo de Google alertó por el impacto de la IA en menores: "Es terrible"

Tom Siegel pasó años en Google construyendo sistemas de seguridad para proteger a los usuarios. Fue uno de los pioneros en crear el equipo de confianza y seguridad de la compañía. Pero esa experiencia no lo volvió optimista. Todo lo contrario.

"Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños", declaró Siegel a Reuters. El ex vicepresidente de Google fue contundente: "La idea de que el sector vaya a resolverlo por sí solo es poco realista".

Su advertencia no surge de la nada. Siegel y otros expertos del sector tecnológico creen que el uso irrestricto de la inteligencia artificial supone una amenaza mayor para los niños que la que representan las redes sociales, precisamente cuando millones de jóvenes ya utilizan chatbots a diario.

El panorama que describe es inquietante. Las compañías tecnológicas se apresuran a incorporar funciones cada vez más avanzadas. Los menores acceden sin restricciones efectivas. Y nadie parece frenar la carrera.

La advertencia que une IA con el daño que causaron las redes sociales

Siegel no es el único que hace sonar las alarmas. Esta semana, el fundador del equipo de confianza y seguridad de Google pidió que se frene el desarrollo de la IA. Su argumento: el sector tecnológico está repitiendo los mismos errores que cometió en la era de las redes sociales.

Esos errores tienen un costo muy concreto. Las empresas de redes sociales están pagando actualmente enormes sumas y se enfrentan a miles de demandas por haber perjudicado a usuarios jóvenes.

Muchos gobiernos del mundo están trabajando para restringir el acceso de los menores a plataformas como Instagram, TikTok o Facebook. Pero con la IA, el ciclo amenaza con repetirse.

Siegel trabajó en Google entre 2004 y 2019, pero abandonó la empresa tras llegar a una conclusión amarga. El sector tecnológico se había "estancado" en su capacidad para crear espacios en línea seguros para los consumidores. Años después, cree que el escenario es incluso peor.

Qué es el instituto que busca evaluar el impacto de la IA en menores

Siegel anunció esta tarde su incorporación a Common Sense Media, una organización que defiende los derechos de los niños en Internet. La entidad sin ánimo de lucro fue fundada en 2003 y lleva a cabo investigaciones para evaluar la idoneidad de diversos medios de comunicación para los niños.

En mayo pasado, Common Sense Media puso en marcha el Instituto para la Seguridad de los Jóvenes en la IA, una organización de investigación destinada a evaluar el uso que hacen los niños de la inteligencia artificial. Siegel será su primer director ejecutivo.

El instituto tiene respaldo de peso. Anthropic y la Fundación OpenAI, la organización sin ánimo de lucro que controla OpenAI, se encuentran entre sus patrocinadores. Siegel dijo que tenía previsto desarrollar normas para exigir responsabilidades a las empresas de IA.

Su estrategia busca equilibrio. Espera hacerlo colaborando con las empresas y con grupos independientes. Pero no espera soluciones voluntarias.

Qué riesgos concretos enfrenta la infancia con la IA sin control

"Creo que nos enfrentamos a escenarios muy, muy graves en los que se está causando daño", advirtió Siegel. Los riesgos que menciona van desde el suicidio y la psicosis hasta problemas más silenciosos pero igualmente graves.

Uno de ellos es la "descarga cognitiva". El término describe la disminución del pensamiento crítico causada por recurrir constantemente a la IA para responder preguntas. Los niños dejan de procesar información por sí mismos. Delegan en algoritmos decisiones que deberían tomar ellos.

Siegel sugirió que las empresas podrían tomar medidas inmediatas para proteger mejor a los jóvenes. No hacen falta tecnologías nuevas ni investigaciones de años. Las herramientas ya existen.

Qué medidas concretas podrían implementar las empresas de IA hoy mismo

Según Siegel, compañías como Anthropic y OpenAI podrían aplicar medidas de verificación de edad más estrictas para impedir que los menores accedan a sus chatbots sin supervisión adulta. Actualmente, esas barreras son mínimas o inexistentes.

Su antigua empresa, Google, también tiene margen para actuar. Podría implementar fácilmente una opción para desactivar los "Resúmenes de IA" y el "Modo IA" en su motor de búsqueda.

La referencia no es casual. Google ya cuenta con un botón que permite a los usuarios filtrar el contenido sexualmente explícito. Aplicar la misma lógica a las funciones de IA sería técnicamente sencillo.

Las propuestas de Siegel incluyen:

• Verificación de edad obligatoria en chatbots de IA para menores de 18 años
• Opción de desactivar funciones de IA en buscadores, similar a los filtros de contenido explícito
• Desarrollo de normas y estándares para evaluar el impacto de la IA en niños
• Auditorías independientes sobre el uso que hacen los menores de herramientas de IA

La pregunta que queda flotando es si las empresas tecnológicas actuarán antes de enfrentar las mismas demandas y regulaciones que hoy enfrentan las redes sociales. O si, una vez más, esperarán a que el daño esté hecho.