Primera guía global sobre IA generativa en la educación
En un artículo anterior nos hacíamos eco de la profunda preocupación de la UNESCO por el ritmo demasiado rápido al que se estaba implementando la inteligencia artificial (IA) en las escuelas, a pesar de la ausencia de regulaciones y controles, y de su falta de transparencia.
La IA no es un fenómeno nuevo. Se viene desarrollando desde hace décadas, y seguramente la hemos experimentado a través de algunos chatbots de atención telefónica, de aplicaciones de reconocimiento de rostros, o de los llamados sistemas adaptativos que ajustan el nivel de dificultad al progreso del alumnado. Pero en enero de 2021 el laboratorio OpenAI dio un salto exponencial al lanzar una versión del programa Dall-E, que permitía crear imágenes a partir de la descripción introducida por el usuario, con una calidad casi profesional. Y en noviembre del año siguiente lanzó ChatGPT, una herramienta que hacía lo mismo, pero creando textos nuevos y únicos con una calidad sorprendente, a partir de instrucciones sencillas.
La IA generativa no es una inteligencia, sino una herramienta que tiende a darnos la razón
Los modelos lingüísticos de IA generativa como ChatGPT, capaces de emular con destreza el lenguaje humano, tienen fuertes implicaciones en la educación, aunque no dejan de ser herramientas que carecen de inteligencia y que ni siquiera entienden lo que dicen, aunque lo digan con toda corrección. Tampoco son fiables sus respuestas, porque estos sistemas lingüísticos tienden a confirmar la opinión del usuario, aunque esa opinión sea errónea. Por tanto, estos modelos lingüísticos de IA generativa no deberían ser utilizados en el aula como fuentes fiables de información, aunque sí podrían servir para para detectar sus sesgos (los de sus programadores) y contribuir así al desarrollo del pensamiento crítico del alumnado.
Una guía para la implementación segura de la IA generativa
La UNESCO considera que la IA generativa puede ser una gran oportunidad para el desarrollo humano, pero también puede causar daños, por lo que no se debería implementar en la escuela sin el escrutinio público y sin la regulación necesaria por parte de los gobiernos. Dado que la tecnología va muy por delante de los marcos éticos y pedagógicos para su uso, la UNESCO lanzó el 7 de septiembre, al término de la Semana del Aprendizaje Digital, la Orientación para la IA generativa en educación e investigación, que pretende ayudar a los responsables de políticas educativas y al propio profesorado a aprovechar mejor el potencial de la IA generativa y reducir sus riesgos. Se trata de la primera guía global de estas características.
Esta guía global se apoya en el Consenso de Beijing sobre la IA en la educación, de 2019, y en la Recomendación sobre la ética de la inteligencia artificial, de 2021, un marco que fue adoptado por los 193 estados miembros, como destacaba Stefania Giannini, subdirectora general de educación de la UNESCO: «La IA generativa abre nuevos horizontes y desafíos para la educación. Pero necesitamos urgentemente tomar medidas para garantizar que las nuevas tecnologías de IA se integren en la educación en nuestros términos. Es nuestro deber priorizar la seguridad, la inclusión, la diversidad, la transparencia y la calidad, como se establece en la Recomendación de la UNESCO sobre la ética de la inteligencia artificial adoptada por unanimidad por nuestros estados miembros«.
El objetivo de esta Orientación para la IA generativa en educación e investigación es ayudar a implementar acciones y políticas de corto, medio y largo plazo para que la IA generativa se convierta en una herramienta que beneficie al profesorado, al alumnado y a los equipos de investigación. La Orientación comienza con la descripción del funcionamiento de la AI generativa, tecnologías y modelos disponibles (sección 1); presenta a continuación una evaluación de los riesgos potenciales en torno a su uso educativo, como la seguridad, la privacidad de los datos, los derechos de autor, la manipulación, la ampliación de brechas y la pérdida de diversidad (sección 2); discute posteriormente los elementos clave para una regulación centrada en el ser humano que asegure un uso ético, seguro y equitativo (sección 3), y propone siete pasos para regular la IA generativa y establecer marcos de políticas para su uso ético en la educación y la investigación (sección 4). Por último, analiza diferentes posibilidades para el uso creativo de la IA generativa en el diseño curricular, los procesos de enseñanza y aprendizaje, y las actividades de investigación (sección 5), y concluye con algunas implicaciones a largo plazo de la IA generativa para la educación y la investigación (sección 6).
La guía global fija los 13 años como el límite de edad para comenzar el uso de la IA generativa
La Orientación para la IA generativa en educación e investigación considera que la IA generativa no es una solución mágica a los desafíos fundamentales de la educación, y que “es poco probable que la IA generativa por sí sola resuelva alguno de los problemas que enfrentan los sistemas educativos en todo el mundo”. También fija un límite de edad de 13 años para iniciar el uso de herramientas de IA generativa en la escuela, pide una formación adecuada del profesorado y defiende que son la iniciativa humana y la acción colectiva, y no la tecnología, los factores determinantes para encontrar soluciones efectivas a los desafíos fundamentales que enfrentan las sociedades.
Para más información:
- UNESCO (2023). Guidance for generative AI in education and research (Descargar)
