Subagentes adversarios: cómo suavizar nuestra mente

Entre las tecnologías que más me fascinaron en los últimos tiempos de "computación agéntica", está el concepto de "subagentes adversarios". El nombre asusta, pero el concepto es sencillo. En los sistemas de inteligencia artificial más avanzados ya no trabaja un solo agente. Trabajan varios, y en una de las configuraciones más interesantes vienen de a tres.

Esto funciona así: vos tenés una idea y querés saber que tan buena es, o un pensamiento o una situación, lo que sea. Entonces en el prompt le pedís que dos agentes la contrasten y uno sea el juez.

El primer agente defiende una idea: es el hijo de esa idea, la quiere, la sostiene. Busca argumentos para soportarla y amplificar todas sus fortalezas y beneficios. El segundo agente es un oponente: su misión es invalidarla, atacarla, buscarle la grieta, forzar el error que el primero no advirtió. Se sacan las muelas, cada uno intentando maximizar su propósito: ganar.

El tercer agente solo mira la pelea, evalúa la discusión y finalmente decide. Es el clasificador. El juez. El que se queda con la versión que sobrevivió al ataque, con la del ataque, o con lo mejor de las dos. En configuraciones más complejas, puede intervenir con sus propias direcciones y hacer una segunda ronda de virtual-boxing. Funciona. Una idea que pasó por un oponente clínicamente honesto es más robusta que una idea que nadie discutió.

Ahora pensá en tu cabeza un martes cualquiera, lavando los platos. Porque vos también tenés estos tres. Solo que nadie los diseñó. La voz que defiende lo que querés hacer. La que te lo discute antes de que termines la frase. Y una tercera, la más tramposa, la que se cree imparcial. La que dice "estoy siendo objetiva" mientras te baja el pulgar. A esa tercera es a la que hay que mirar de cerca.

Porque acá está el problema que casi nadie ve. El juez parece neutral. Se presenta como pura razón, números fríos, la verdad sin emoción. Pero el juez aprendió de algún lado. Tuvo su propio dataset de entrenamiento. Y su dataset puede estar cargado con todos los prejuicios de la humanidad. Con la mirada de tus padres, con el miedo de tu época, con cada cosa que escuchaste a los seis años y nunca volviste a revisar. Cree que mide la realidad. Mide lo que le enseñaron.

Las enseñanzas de una película

Hay una escena de Yo, Robot que lo muestra súper claro. Un auto cae al agua con dos personas adentro. El detective Spooner, adulto. Y una niña. Un robot se tira a salvar y tiene que elegir a uno solo. Calcula. Spooner tiene 45% de chances de sobrevivir. La niña, 11%.

El robot, lógico, impecable, elige orgullosamente rescatar al adulto. Los números son indiscutibles. Spooner nunca se lo perdona. Porque cualquiera, dice, cualquier humano se habría inclinado por la niña.

Ahí está todo. La decisión fue racional. Fue objetiva. Fue, en cada número, correcta. Y fue profundamente equivocada. El juez hizo bien su trabajo y aun así erró, porque su objetividad no era neutral. Venía cargada con una idea de qué vida vale más, medida en porcentajes. O quizás, no erró: tan solo fue inhumano.

Florencia Palumbo

A veces es la emoción lo que te hace tomar la decisión correcta. Y esto cambia todo lo que creíamos sobre suavizar la mente. Nos enseñaron a desconfiar de lo que sentimos y obedecer a lo que la razón calcula. A callar al defensor, soportar al oponente, y arrodillarnos frente al juez como si fuera Dios. Pero el juez es el que más vigilancia necesita. No es que sea malo. Es que está tan seguro de tener razón que ni se le ocurre revisarse.

Suavizar la mente no es ganarle a ninguna de las tres voces. Es dejar de tratar a la tercera como si fuera la verdad. Es preguntarle, cuando baja el pulgar con su tono de cálculo frío: ¿de dónde sacaste ese número? ¿Quién te enseñó que esto vale más que aquello? ¿EWstás midiendo la realidad o estás midiendo tu miedo?

La próxima vez que una voz interna te diga, con total seguridad y aire de objetividad, que lo que querés no tiene sentido, acordate del robot. Acordate de que el cálculo más perfecto eligió sin amor. Y que había una persona que, sin un solo número, sabía exactamente a quién salvar. ¿Vos a quién vas a escuchar cuando haya que decidir sobre una niña?

(*) Comunicadora, creadora de contenido y coach. Conduce el podcast Motivarte y escribe sobre el cruce entre tecnología, identidad y desarrollo personal.