¿Qué es el debilitamiento?: la manera que la IA puede acabar con el ser humano

En las últimas semanas, los temores a que una inteligencia artificial (IA) superdesarrollada pueda acabar con la humanidad están más vigentes que nunca. 

En efecto, los expertos alertan de que esta debacle puede producirse de una manera sutil. Es lo que llaman "debilitamiento".

Se trata de la erosión gradual de nuestro pensamiento crítico, nuestra capacidad de planificación e incluso nuestras habilidades emocionales, a medida que cedemos cada vez más responsabilidad a las máquinas.

El doctor Samuele Vinanzi, profesor titular de Robótica e Inteligencia Artificial en la Universidad Sheffield Hallam, cree que este es el verdadero riesgo que la IA supone para el mundo, señala el Daily Mail.

"Con el tiempo, esas pequeñas decisiones podrían dejarnos con una población que tiene dificultades para pensar sin la ayuda de una IA, y que es menos capaz de comprender, verificar y anular los sistemas de los que depende", señala el profesor Vinanzi.

El debilitamiento: el arma secreta de la IA

Vinanzi cree que ninguno de los escenarios dramáticos y apocalípticos, como que la IA se haga con el control de las infraestructuras eléctricas o nucleares, es realista. "En mi opinión, tienden a pasar por alto hasta qué punto cualquier acción en el mundo real sigue dependiendo de las personas, los materiales y la infraestructura", puntualiza el especialista.

En cambio, el doctor Vinanzi sí tema al "debilitamiento", que describe como "la lenta erosión de las capacidades humanas que se produce al delegar cada vez más tareas a las máquinas".

"Esto no sucede de la noche a la mañana; más bien, se va acumulando mediante muchas pequeñas decisiones: los psicólogos denominan 'descarga cognitiva' al hábito de recurrir a herramientas externas para ahorrar esfuerzo mental", ejemplifica el experto.

Es decir, cuanto más dejamos que un ordenador se encargue de escribir, programar, investigar y tomar decisiones, más natural nos parece ese atajo y más difícil resulta dejar de usarlo.

El profesor pone el ejemplo de hace unas semanas, cuando el ejército estadounidense estuvo a punto de abordar un barco con bandera china porque un chatbot de inteligencia artificial generó falsamente un informe afirmando que transportaba piezas para un programa de armas nucleares.

"El desastre se evitó únicamente porque alguien se detuvo a hacer preguntas: precisamente el tipo de pensamiento crítico que corremos el riesgo de perder", concluyó el doctor Vinanzi.