Un tema recurrente y que ocupa lugar en la actualidad es la inteligencia artificial (IA). Por ello, queremos dedicarle un espacio en nuestro blog y hemos charlado con la especialista Dolors Reig sobre la huella que deja la IA en el terreno de la educación juvenil. Dolors es psicóloga social, conferenciante, consultora y profesora en diferentes universidades, entre ellas la Universidad Oberta de Catalunya y la Universitat Pompeu Fabra. Veamos qué nos ha contado:
IMPACTO EN LA EDUCACIÓN
En Twitter (X) defines la Inteligencia Artificial (IA) como “moderno repositorio de lo políticamente correcto y del sentido común”. ¿Crees que la IA afectará negativamente a la diversidad de pensamiento de las futuras generaciones?
Esta idea parte de una reflexión directa sobre mi trabajo en entrenamiento de chatbots*. A veces la misma cuestión de entre decidir cuál de las dos respuestas que ha dado un chatbot a determinado prompt** es más correcta se va filtrando a varias personas, y, al final, se computa una respuesta acordada. O sea, lo que están haciendo todas estas herramientas como ChatGPT, Bard o Gemini es darnos las respuestas consensuadas sobre las cosas, lo cual es fabuloso. Bueno, no siempre lo consensuado es lo correcto, pero sí es una garantía más de fiabilidad.
Si bien, uno de los principales problemas de la inteligencia artificial es que elimina o invisibiliza en buena parte la diversidad de pensamiento, de opiniones o la contemplación de opciones alternativas. Siempre desde el punto de partida de una persona informada, con criterio, que hace una búsqueda en internet.
Además, las respuestas que te suelen dar estos buscadores suelen ser de bastante sentido común. Opino que es erróneo lo de “inteligencia”, deberíamos llamarlo “sentido común artificial” o “criterio artificial”, porque la inteligencia y los datos de los que se nutren las herramientas los siguen poniendo los seres humanos
En el título de uno de tus últimos artículos [1] afirma que “si la inteligencia artificial tiene que mejorar el mundo, debemos sacar a los y las jóvenes de la pasividad”, ¿cuáles son las claves para conseguirlo?
Ese “criterio artificial” no ofrece el origen de las fuentes o las ideas principales, las siguen escribiendo humanos. Con lo que, unos jóvenes que no generen nuevas ideas, nueva investigación o nuevos desarrollos y solo se alimenten de forma pasiva de la respuesta de la inteligencia artificial, supone un escenario bastante malo. Eso combinado con que las opciones de estar alienado, jugando a videojuegos o viendo maratones de Netflix, y en actitudes desganadas, que son muchísimas hoy en día, son un peligro.
Por consiguiente, la inteligencia artificial es maravillosa siempre y cuando quien la consulta no sea alguien que se va a creer a pies juntillas lo que reciba, sin aplicar ningún tipo de duda ni de crítica.
Completando la pregunta y acercándola a tus reflexiones en los últimos artículos para la Revista Cuadernos de Pedagogía [2], ¿cómo puede la inteligencia artificial mejorar o transformar la experiencia educativa para la juventud?
Incluyendo lo que he comentado antes, en las aulas está muy bien usar la inteligencia artificial, pero siempre y cuando se diga que se está usando. Es decir, siempre que su utilización sea trazable y transparente son bienvenidas las herramientas que ayuden a sistematizar el conocimiento para generar nuevo conocimiento. Lo que no puede ser es que nos vendan que la idea es suya cuando realmente la han elaborado con este tipo de instrumentos.
De hecho, bien utilizada, la IA puede hacer las cosas más fáciles en cualquier ámbito de conocimiento.
En base a lo anterior, ¿cuáles son los principales desafíos que enfrentan el personal docente en los procesos educativos?
Se produce el mismo debate que con las redes sociales o con los móviles en el aula. A nivel educativo puedes prohibir su uso, pero las van a utilizar igual, más que nada porque se trata de una evolución que no va a tener marcha atrás. Ahora bien, la vía adecuada es integrarlas en la educación haciendo explícito su uso, reconociéndolo, como explicaba antes. Creo que son herramientas nuevas y no dejan de ser tecnologías al servicio del ser humano, pero siendo transparente, leal y legal.
Volviendo a lo anterior, si definiéramos mejor el concepto de inteligencia artificial, que es auxiliar de la inteligencia humana, seguramente no provocaría tantos miedos en el profesorado. Luego, también es un desafío que la necesidad de integrar la IA en las aulas incluye los beneficios que pueden generar al profesor en todo, como hacer exámenes, crear programas, escribir artículos en su parte más introductoria y mecánica, crear vídeos, ser fuente de inspiración en imágenes, etcétera.
En concreto, y bajo tu especialización en psicología, ¿de qué manera puede la inteligencia artificial abordar o contribuir a los aspectos socioemocionales del aprendizaje de los y las jóvenes?
No es una cuestión que debamos delegar a ningún tipo de tecnología, ya sea del tipo que sea. En el caso de la IA es así porque no está diseñada con ese objetivo, sino con el foco de hacer una búsqueda. Eso sí, es mejor que determinadas preguntas más comprometidas sobre sexualidad o drogas que los y las jóvenes hacían antes a familiares u otros adultos se las hagan a una inteligencia artificial y no a un buscador por la diversidad de respuestas que aparecen, ya que la juventud aún no ha forjado unos principios sólidos. Por ejemplo, en el caso de la pornografía y la influencia que está teniendo en el desarrollo socioemocional de los y las jóvenes, si esas búsquedas se hicieran a través de inteligencia artificial no habría resultados pornográficos, puesto que la gente que hay detrás ya está cribando ese tipo de resultados. O sea, en ciertas situaciones la IA no tiene incidencia o la puede tener en positivo. Aun así, con matices, no suple en absoluto el criterio del personal educador, de la familia, o de un adulto de confianza.
RIESGOS Y DESAFÍOS EN LA EDUCACIÓN JUVENIL
¿Cuáles son los sesgos que produce la IA en la educación? Y ¿qué suponen dichos sesgos en las aulas para las personas jóvenes?
Como es esa herramienta de “sentido común”, lo que hace es trasladar los prejuicios, los vicios, los defectos de las sociedades actuales. En definitiva, replica los sesgos que los humanos que están detrás entrenen a la IA: estereotipos relativos al género, a la sexualidad, etcétera.
En su faceta amigable, como es una herramienta nueva que se está creando entre seres humanos, se puede aprovechar para mejorar la sociedad exigiendo y luchando para que no se reproduzcan esos sesgos. Eso es hablar en mayúsculas, porque ni a las propias marcas les interesa ir más allá. En ese sentido, el hecho de que aparezcan en el buscador a veces delata estereotipos sociales.
O sea, son herramientas a veces de transparencia de muchos aspectos, como las redes sociales, espacios públicos o ventanas donde si te asomas ves volcados prejuicios y odios que ya existían con anterioridad.
Entonces, y habiendo descubierto que se acaba de crear una herramienta de inteligencia artificial que permitirá identificar y enfrentar violencia en la conversación política, se llama eMonitor+, ¿la inteligencia artificial ayuda a enfrentar el discurso de odio entre los y las jóvenes?
No creo que la inteligencia artificial sirva para luchar contra los discursos de odio, ni para generarlos. Excepto en el sentido que te decía antes de ayudar a vislumbrar situaciones injustas. Para combatirlas habrá que ir a buscar resultados de gente con una ética determinada, que no están en esos buscadores generales, sino que siguen estando en el mundo o en Google.
Es posible que algún día surja una herramienta de inteligencia artificial especializada en sociología o en psicología social que detecte prejuicios a través de un análisis de los algoritmos en las redes y ofrezca respuestas.
ÉTICA Y PRIVACIDAD
¿Cuáles son las consideraciones éticas clave relacionadas [3] con el uso de la inteligencia artificial en la educación juvenil?
Mi preocupación va más allá de que todo lo que traslademos a la inteligencia artificial vaya a ser una extensión del mundo real que interactuará con ello, así como que las personas encargadas de programar a las máquinas deban tenerlo en cuenta y tengan que responsabilizarse de aplicar valores humanistas y de libertad (sin hacer daño a los demás).
Por un lado, lo que más me alarma es la “cultura del mínimo esfuerzo” de los y las jóvenes a través de la IA. Y es que las tecnologías están ayudando a hacer cosas con facilidad que antes requerían mucho esfuerzo. Si eso es un paso hacia la excelencia, hacia trasladar el esfuerzo de lugar y dedicarlo a cosas más interesantes, pues será fantástico. Sin embargo, si es sólo una forma de ahorrar energía sobre algo que deberíamos hacer, como sacarse la carrera haciendo trabajos con ChatGPT, entonces vamos mal. Me inquieta, pues, que esta generación esté malgastando capacidades creativas o intelectuales que podrían dedicar a mejorar este mundo y a salvarlo de alguna forma. Es lo que el sociólogo Clay Shirky denominaba como “excedente cognitivo” [4], aplicable además a la inteligencia artificial.
Esto me recuerda al metaverso***[5], que abandona el mundo real y centra todo su esfuerzo en crear mundos virtuales como el del videojuego «Minecraft». Lo que no ayuda a solventar aspectos como la crisis climática o las guerras que se están sucediendo.
Por otro lado, se sumaría otra preocupación: la “cultura del pelotazo”, objetivo de gran parte de la juventud. Me refiero a hacerse rico con facilidad como influencer o gracias a los bitcoins.
Por tanto, hay que luchar contra ello desde la educación, desde la escuela.
¿Cómo se abordan las preocupaciones de privacidad en la recopilación y el análisis de datos en entornos educativos impulsados por la inteligencia artificial?
En educación tenemos que enseñar a respetar el trabajo de los demás como lo hacemos en los libros o los artículos. Que los chavales citen de manera adecuada al autor y a las propias herramientas. La legislación europea está en ello estudiando la trazabilidad: que se sepa de dónde han salido los datos y aparte se reconozca su autoría y ningún problema. Existen plataformas como Perplexity, basadas en inteligencia artificial generativa****, que, aparte del ejercicio creativo de buscar en distintas fuentes y hacer un remix, te cita también todas las fuentes que ha consultado. Insistir a la juventud, no sé si en el Copyright, pero sí en el Copyleft y Creative Commons de la autoría.
FUTURO PRÓXIMO Y EDUCACIÓN
Comentas en tu Blog El Caparazón [6]: “no es la libertad de expresión lo que me preocupa de las redes sociales actuales, es la ausencia de libertad del usuario para elegir el algoritmo con que se le muestra la información”. ¿Por qué sientes esa preocupación?
Ese artículo surgía acerca de toda la polémica de X y la libertad de expresión. Elon Musk compra Twitter diciendo que quiere hacer una red más libre. Pero una red más libre va a ser en el momento en el que el algoritmo de orden de posibilidad de que nos aparezcan las cosas no dependa de las marcas y sí de lo que queremos los usuarios. Si queremos cedernos al algoritmo o dejarnos llevar por el algoritmo de las marcas, perfecto. Pero también deberíamos tener el poder de decidir leer simplemente la cronología en el orden en el que la publican nuestros contactos y no en el orden en el que pagan más o menos publicidad, por ejemplo.
Por ende, considero que deberíamos exigir a las herramientas transparencia sobre cómo se ordenan los resultados de lo que nos ofrecen y esa será la forma de que se pueda luchar contra el poder excesivo de la publicidad o contra determinados sesgos ideológicos.
En tu opinión, ¿crees que se puede dar la posibilidad de que “la inteligencia artificial llegue a superar la capacidad intelectual”, según emitía en 2017 el Parlamento Europeo [7]?
Podemos asociar esta pregunta a la Teoría de la Singularidad [8], que afirma que cuando el poder de computación de las máquinas sea similar al del cerebro humano, podría llegar a aparecer una conciencia desde las máquinas.
Yo niego que las máquinas puedan alcanzar conciencia humana y todo ese supuesto peligro de que la inteligencia artificial pueda tomar las riendas y termine con el mundo, pues no está fundamentado. Opino que la esencia humana va más allá de la capacidad de computación de nuestros cerebros.
GLOSARIO
*Software basado en inteligencia artificial con capacidad para tener una conversación en tiempo real a través de voz o texto.
** Pregunta lanzada, comando o texto que se utiliza con el fin de interactuar con sistemas de inteligencia artificial.
*** Espacio posmoderno, multi-usuario y persistente que trata de replicar la realidad física y fusionarla con la virtualidad digital.
**** Categoría de sistema de inteligencia artificial que crea texto, imágenes u otros medios en respuesta a promts.
BIBLIOGRAFÍA
[1] Reig, D. (2023). Si la Inteligencia Artificial tiene que mejorar el mundo, debemos sacar a los jóvenes de la pasividad: algunas claves de cómo conseguirlo. Cuadernos de Pedagogía nº 548.
[2] Reig, D. (2024). Inteligencia Artificial para potenciarnos en la Universidad. Cuadernos de Pedagogía nº549.
[3] Nicolás R, P. (diciembre de 2023). Jóvenes, educación e inteligencia artificial: un mundo feliz en tiempos modernos. Descifrar la juventud (Fundación SM).
[4] Shirky, C. Excedente cognitivo: Creatividad y generosidad en la era conectada. Barcelona: Deusto.
[5] Trujillo Sáez, F.; Montero Alonso, M.A.; Melchor Rodríguez, J.M.; Fernández Navas, M.; Postigo Fuentes, A.Y.; Ariza Pérez, M.A. y Santos Cuesta, G. (2023). El metaverso en la educación: retos y usos. Madrid: Fundación Fad Juventud.
[6] Reig, D. (2022). Educar más y mejor gracias a la Inteligencia artificial generativa. El Caparazón.
[7] Delvaux, M., Mayer, G., y Boni, M. (2017). Informe con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica [2015/2103(INL)]. Luxemburgo: Parlamento Europeo.
[8] Arnold, V. I. (2000). Singular Theory. Isaac Newton Institute for Mathematical Sciences.
