Si bien el concepto de “Inteligencia Artificial” lleva años en nuestro imaginario, es a raíz del creciente desarrollo de la inteligencia artificial generativa y herramientas como el Chat GPT, que ésta ha adquirido dimensiones difíciles de predecir, lo que nos lleva a preguntarnos por su impacto en las personas y nuestra sociedad en el mediano y largo plazo. 

Marcela Guerrero

Si bien el concepto de “Inteligencia Artificial” lleva años en nuestro imaginario, es a raíz del creciente desarrollo de la inteligencia artificial generativa y herramientas como el Chat GPT, que ésta ha adquirido dimensiones difíciles de predecir, lo que nos lleva a preguntarnos por su impacto en las personas y nuestra sociedad en el mediano y largo plazo. Su carácter inminente y su impacto potencial, ha llevado a algunos estudiosos a calificarla como una “tecnología disruptiva” (Alier-Forment y Llorens-Largo, 2023. citado por García Peñalvo, Llorens-Largo y Vidal (2024). 

Ahora bien, para definir un evento como disruptivo, podríamos seguir la definición de Benyakar (2016), quien refiere que un evento se consolida como disruptivo cuando desorganiza, desestructura o provoca discontinuidad. Asimismo, Benyakar identifica ciertas cualidades que potencian la capacidad disruptiva de un evento, algunas de las cuales parecen, en efecto, también presentarse con la IA: ser inesperado, interrumpir un proceso normal y habitual indispensable para nuestra existencia o para mantener el equilibrio, minar el sentimiento de confianza en los otros, contener rasgos novedosos no codificables ni interpretables según los parámetros que ofrece la cultura, amenazar la integridad física propia o de otros significativos y distorsionar o destruir el hábitat cotidiano. No obstante, según este autor, la desorganización y lo que ocurra con ella no le pertenecen al evento en sí, sino que dependen del sujeto que lo vive. 

Por lo tanto, siguiendo el razonamiento de este autor, es importante no perder de vista que el impacto de la IA dependerá de la manera cómo la gestionemos y consigamos integrarla a nuestras vivencias y nuestro funcionamiento cotidiano.

Al respecto, la UNESCO reconoce el impacto potencial y vertiginoso de la IA en el funcionamiento general de nuestro mundo y nuestra sociedad; reconociendo las múltiples oportunidades, riesgos y desafíos que ofrece y que evolucionan a un ritmo más veloz que los debates sobre las políticas y los marcos regulatorios. Así, Gabriela Ramos Subdirectora General de Ciencias Sociales y Humanas de la UNESCO, refirió en su mensaje que:

 “La tecnología de inteligencia artificial aporta grandes beneficios en muchos ámbitos, pero sin unas barreras éticas corre el riesgo de reproducir los prejuicios y la discriminación del mundo real, alimentar las divisiones y amenazar los derechos humanos y las libertades fundamentales.” (Ramos, 2023)

Con esta finalidad, la UNESCO hace un llamado a los gobiernos para que abandonen el modelo de autorregulación actual y establezcan los marcos institucionales y legales necesarios, que permitan gobernar estas tecnologías garantizando su contribución al bienestar de las personas. De esta manera, propone algunas recomendaciones basadas en 4 valores fundamentales:  1. Respeto y protección de los derechos humanos, las libertades fundamentales y la dignidad humana; 2. Sociedades viviendo de manera pacífica, justa e interconectadas; 3. Garantizar la diversidad e inclusión y 4. Sostenibilidad ambiental.  Así también, hacen referencia a once áreas claves para las acciones políticas que es necesario tener en cuenta; dentro de las cuales se consideran la educación y la investigación. En éste campo, las recomendaciones son claras al sugerir la necesidad proporcionar una educación adecuada en materia de IA que incluya programas de sensibilización y que priorice la participación de los grupos marginados, así como el desarrollo de habilidades éticas como la comunicación, el trabajo en equipo, la alfabetización básica, la aritmética, la codificación y las habilidades digitales.

Por su parte Lazalle (2024) recalca que una propuesta educativa que permita a las personas trabajar con la inteligencia artificial debe asumir que esta es inevitable y es necesario pensar dónde ubicaremos las capacidades intelectivas del ser humano cuando nos relacionemos con máquinas que tendrán otras muy superiores a las nuestras. 

En términos generales, en las distintas aproximaciones y reflexiones en relación a este tema, se reconoce la oportunidad que ofrece la IA  generativa en el contexto educativo, para la personalización del aprendizaje, al ofrecer una serie de herramientas con el potencial automatizar y simplificar algunas tareas del personal docente (como la evaluación, la detección de plagio, la gestión y la retroalimentación), así como contar con herramientas que les permita atender las particularidades del alumnado respondiendo de una manera más eficaz a sus distintos ritmos de aprendizaje, intereses, limitaciones y capacidades.

No obstante, tal como refiere Bozkurt et al. (2023, citado por García Peñalvo, Llorens-Largo y vidal, 2024), la irrupción de la IA generativa conlleva también el reto de reflexionar sobre el papel de la educación para preparar a las personas para un mundo en constante cambio en el que esta tecnología estará presente en todos los aspectos de la vida (ya sea el trabajo, como los estudios, el ocio, las relaciones personales, etc.) Esto último implica comprender cómo funciona la IA y los beneficios y riesgos de su uso. 

Así por ejemplo, un elemento que es necesario tener en cuenta es que la IA generativa, no tiene un funcionamiento equivalente al razonamiento humano. Por el contrario, tal como describen García Peñalvo, Llorens-Largo y Vidal (2024), se basa en lenguajes de modelo de gran tamaño con una base probabilística. Por lo tanto, estas herramientas no tienen capacidad de razonamiento ni de comprensión y la información que nos ofrecen se compone de datos susceptibles de contener fallos que necesitan ser contrastados.

En efecto, la IA es capaz de imitar la consciencia humana, sin embargo, no cuenta con los matices del pensamiento humano, tal como señala Slavoj Zizek (2023). Este autor, da un paso más y nos habla de lo que él denomina la “Idiotez artificial” para referirse al peligro de que el lenguaje humano pierda estas características que lo diferencian de la IA y que en su interacción con los chatbots, las personas reales terminen hablando como chatbots, pasando por alto todos estos matices, la reflexividad, las ironías, etc. diciendo obsesivamente y con precisión lo que creen que quieren decir. 

Podríamos decir entonces que las personas necesitamos nuevos conocimientos, habilidades, competencias y valores para la vida y el trabajo en la era de la IA.  En particular, en la educación universitaria, un uso adecuado y responsable de la IA  tiene el potencial no sólo de enriquecer los procesos de aprendizaje, sino también de mejorar la eficiencia institucional. Además, puede abrir caminos para desarrollar métodos pedagógicos más eficaces y responder de manera más ágil a los desafíos educativos contemporáneos. Esto conlleva un proceso interesante y complejo para la generación de nuevas herramientas y su integración en la educación.  

De este modo, podríamos recalcar la necesidad de capacitar tanto al profesorado como al estudiantado para un uso correcto y ético de tales herramientas en los procesos de educación-aprendizaje. Así también cabe recalcar la importancia de fomentar el pensamiento crítico en el alumnado, de manera tal que se mantenga esta esencia del pensamiento humano, alejado de la “idiotez artificial” que señala Zizek.

Por lo tanto, gestionar el impacto de la IA sobre la educación exige un ejercicio de repensarla, a la luz de las nuevas herramientas que puedan surgir desde la IA generativa y en este ejercicio de repensar la educación universitaria, García Peñalvo, Llorens-Largo y Vidal (2024)  sugieren tener en cuenta la siguiente reflexión:

“El sistema educativo, con especial mención al sistema universitario actual, está diseñado para un mundo con escasez de información, en el que en la etapa vital en la que las personas se formaban, acudían a los centros educativos para adquirirla y guardarla para el momento en que se necesitase. Ahora, sin embargo, se vive en una sociedad con acceso inmediato y a demanda de una sobreinformación (verdades o tautologías, medias verdades o indeterminaciones y falsedades o contradicciones). Los centros educativos, más concretamente las universidades, siguen manteniendo su compromiso con la sociedad de creación, transmisión y preservación del conocimiento, pero ¿sabrán dar respuesta al reto que representa la llegada de unas aplicaciones “inteligentes” que han causado un tremendo terremoto informacional cuando no están más que en sus albores?”

De este modo, proponen que integrar de manera adecuada la IA a la educación, requiere de una aproximación holística al avance de la IA, considerándola no sólo como una herramienta técnica, sino como un fenómeno sociotecnológico.  Por lo tanto, para repensar la educación, es necesario un proceso de construcción colaborativa de las soluciones y medidas necesarias, con todas las personas implicadas (estudiantado, profesorado y la comunidad en general). En ese sentido, un modelo participativo, permite instrumentalizar la experiencia de las personas como un insumo en la toma de decisiones y por ende, la generación de medidas, estrategias y herramientas que integren los múltiples aristas y puntos de vista relacionados con la temática, así como la dimensión más humana en los procesos de enseñanza aprendizaje. 

Atendiendo a todas estas necesidades, Coglobal, en alianza con la Universidad de Málaga, está diseñando un proceso participativo para la integración de la Inteligencia Artificial en los procesos universitarios de enseñanza – aprendizaje, en el marco del programa Digital Democracy Accelerator organizado por la Red People Powered, con el apoyo de la Open Society Foundation. 

Consideramos que la participación del profesorado, el estudiantado y el personal técnico de apoyo a la docencia, en el diseño de las políticas de uso de la IA, facilitará la apropiación reflexiva y crítica de aquellas normas de uso responsable, ético e inclusivo de esta herramienta. Producto de este proceso, se espera generar una guía de normas, recomendaciones y buenas prácticas que pueda ser de utilidad para la Universidad de Málaga y otras universidades que puedan estar interesadas.

Referencias:

Benyakar, M. (2016) Lo disruptivo y lo traumático. Vicisitudes de un abordaje clínico. Buenos Aires, Universidad Nacional de San Luis.

http://www.neu.unsl.edu.ar/wp-content/uploads/2018/03/Discruptivo-traumatico.pdf

García-Peñalvo, F. J., Llorens-Largo, F., & Vidal, J.  (2024). La nueva realidad de la educación ante los avances de la inteligencia artificial generativa. RIED-Revista Iberoamericana de Educación a Distancia, 27(1), 9-39.

https://doi.org/10.5944/ried.27.1.37716

Lazalle, J.M (2024) Reeducar para gobernar la Inteligencia Artificial. En: Ethic (2024). Nuevas Realidades. Educación y empleo en tiempos de IA y automatización.

https://nuevasrealidades.ethic.es/wp-content/uploads/2024/02/Nuevas-Realidades-2024.pdf

Llorens-Largo, Vidal y García-Peñalvo (2023) Ya llegó, ya está aquí, y nadie puede esconderse: La inteligencia artificial generativa en educación. En: Aula Magna. Dic 8, 2023.

Link

Unesco. (2023). Key Facts: UNESCO’s Recommendation on the Ethics of Artificial Intelligence.

https://unesdoc.unesco.org/ark:/48223/pf0000385082

Zizek, S.j (2023) La idiotez artificial. Mar 23, 2023

https://www.project-syndicate.org/commentary/ai-chatbots-naive-idiots-no-sense-of-irony-by-slavoj-zizek-2023-03/spanish