iProfesional

ChatGPT: ante falta de control, la Inteligencia Artificial pone en alerta a las escuelas argentinas

Los debates de la tecnología y su vínculo con la educación. La respuesta que llega desde el exterior y la visión de la comunidad científica
05/05/2023 - 16:55hs
ChatGPT: ante falta de control, la Inteligencia Artificial pone en alerta a las escuelas argentinas

Internet introdujo uno de los cambios más importantes en la construcción de un nuevo sujeto social, pero las formas de pensar, de planificar y de desarrollar los programas de estudio que reciben los nativos digitales parecen más emparentadas con los parámetros (analógicos) que signaron la tradición escolástica argentina. ¿Es posible planificar la educación ante el advenimiento de herramientas de Inteligencia Artificial (IA)? ¿Qué dice la comunidad científica al momento de pensar en adoptar (o no) herramientas como el ChatGPT en el aula?

Inteligencia artificial: ¿qué es el ChatGPT?

Es, sencillamente, un chatbot de IA que, desarrollado en 2022 por el laboratorio de investigación OpenAI y evolucionado hasta el presente, comenzó por organizar ideas y contenido de forma automatizada y hoy, montado sobre una gran base de datos y el uso de algoritmos, dan cuerpo a un verdadero modelo de lenguaje. Pero ya no es sólo eso: hace algunas semanas, su última evolución fue presentada como un supuesto interlocutor válido, por ser en apariencia preciso y efectivo al momento de formular textos, imágenes y otros contenidos. Desde entonces, cunde el pánico y la exaltación en iguales proporciones.

Es por ello que diversas personalidades de la industria, la cultura, la ciencia y la investigación de todo el mundo coincidieron en la advertencia de los riesgos que este tipo de herramientas representan. Su potencial maravilla y asusta por igual, sobre todo, ante la imposibilidad de advertir sus límites. Mientras la evolución de las soluciones tecnológicas avanza, muchos se preguntan por la suerte que corre la educación en ese escenario.

¿Qué tiene que ver el aula y las propuestas educativas en el debate por la IA? 

Hace algunas semanas, las escuelas públicas emplazadas en ciudades como la de Nueva York prohibieron a sus alumnos el uso de este chat basado en IA para realizar sus tareas, por el impacto negativo que significa al proceso de aprendizaje.

¿Es posible planificar nuevas formas de acceso al conocimiento que atienda a este cambio? ¿Qué rol ocupa la tecnología hoy en esos programas y cuál sería el deseable? ¿Cómo responden las propuestas áulicas a estudiantes que hacen la tarea ayudados por el ChatGPT? ¿Cuáles son los riesgos venideros, en caso de no reaccionar a tiempo? ¿Se piensa sobre esto en términos programáticos en la Argentina?

Las preguntas sobran y, algunas de las tantas posibles respuestas las ofreció Laura Ación, coordinadora general de MetaDocencia, investigadora adjunta del Conicet en la Universidad de Buenos Aires, donde dirige el Co-Laboratorio de Uso Responsable de Dato.

La herramienta ChatGPT permite elaborar textos de manera automática sobre
La herramienta ChatGPT permite elaborar textos de manera automática sobre cualquier tema.

Ación, además, es una de las más de 400 personas del mundo de la ciencia y la investigación que firmó la "Declaración de Montevideo sobre Inteligencia Artificial y su impacto en América Latina" y quien, en diálogo con iProfesional, advirtió sobre la "irresponsabilidad" con la que se lanzó al mundo esta herramienta de IA.

MetaDocencia: un proyecto argentino que crea científicos responsables

MetaDocencia es una iniciativa argentina nacida al calor de la pandemia para ofrecer talleres virtuales y de calidad para la comunidad hispanohablante, con la misión de construir capacidades científicas y técnicas en forma responsable y con mirada local, a través de la co-creación de redes, espacios de aprendizaje y recursos accesibles.

"En Argentina es muy alentador ver como quienes se dedican a la docencia y cuentan con recursos abundantes muy rápidamente han comenzado a encontrarle la vuelta" dijo Ación en relación a la adopción de tecnologías para usos pedagógicos y aseguró que "estas personas van integrando, de distintas maneras, la disrupción que implica la gravísima irresponsabilidad de parte de empresarios de Silicon Valley (…) que permiten que estas tecnologías estén al alcance de la mano de cualquier persona con una conexión a internet y una computadora".

La situación es grave y Ación lo alertó al explicar que "son tecnologías con serios problemas de funcionamiento y cuyas consecuencias de uso sobre nuestras sociedades son completamente desconocidas".

Inteligencia artificial: la comunidad científica exige control para evitar riesgos

"Sabemos desde hace décadas que el progreso requiere soluciones mucho más complejas, no es instantáneo, está basado en conocimientos multidisciplinares y acciones políticas y que la tecnología es una mera herramienta, no una solución", precisó Ación y recordó que en aquella Declaración de Montevideo comenzaron a "advertir sobre estos problemas".

El documento en cuestión fue consensuado y publicado en marzo de este año, cuando cientos de especialistas propusieron siete ideas generales vinculadas a que, por ejemplo, el desarrollo de la IA cumpla con los principios rectores de los Derechos Humanos, al tiempo que se planteó la necesidad de desarrollar criterios y estándares que faciliten la calificación de estas tecnologías según sus riesgos, de cara a contar con "políticas públicas que protejan el bien común sin obturar los beneficios del desarrollo tecnológico".

ChatGPT: ante falta de control, la Inteligencia Artificial pone en alerta a las escuelas argentinas

Escuelas, en alerta por ChatGPT: exigen un marco regulatorio

Pero Ación también puso al uso de la tecnología en el contexto de las urgencias locales. "Contar con recursos abundantes para docencia en Argentina y en el resto de América latina, durante las últimas décadas, es la excepción y no la regla", subrayó y recordó que buena parte de la tarea docente en el aula está vinculada a sobrellevar los apremios socioeconómicos, propios y de su comunidad.

Pero, ¿es posible proyectar nuevas formas de acceso al conocimiento que atienda a este cambio, con la premura necesaria? Para esta investigadora, "los cambios van a una velocidad que no permiten ningún tipo de planificación, incluso en países con mayores recursos para planificar sus políticas educativas", dijo y sentenció que "esto que estamos viendo es la dictadura de la ideología de la start-up tecnológica. Nuestras sociedades no son start-ups y funcionan con los tiempos más largos que exigen las democracias".

"La única solución que yo veo es dictar urgentemente una moratoria internacional al despliegue de estas tecnologías para uso público. Es decir, impedir que tecnologías como ChatGPT puedan estar al alcance de la mano de cualquier persona con acceso a Internet y a una computadora" dijo Ación y no se refirió a cesar en los procesos investigativos sino a comenzar a desarrollarlos de forma "controlada y con consentimiento de quienes participan de estas investigaciones".

¿Alcanza con la reflexión y la conciencia?

Importa, en este caso, tener conciencia sobre las consecuencias que estas implementaciones provoquen en las sociedades. "Tenemos que trabajar para regular muy fuertemente el acceso público a la tecnología que rompe nuestras sociedades sin proveer beneficios comprobables y con consecuencias en el corto, mediano y largo plazo, desconocidas", alertó Ación y subió la vara de la apuesta, al tiempo que multiplicó los interrogantes.

Cuando se habla de educación, sin lugar a dudas, se habla del presente pero, sobre todo, del futuro; y el desafío se redobla cuando los procesos que la tecnología inaugura parecen poner en jaque buena parte de los consensos alcanzados como sociedad. En este caso, debate sobre la utilización de ciertos tipos de herramientas tecnológicas en el aula urge y está abierto.