Cuando se habla de inteligencia artificial (IA) y su irrupción, aplicación, en el ámbito educativo y la enseñanza surgen cuestionamientos, interrogantes, dilemas éticos y pedagógicos relativos al posible reemplazo y revolución en la labor de los docentes.

En tal contexto dialogamos desde TDP, con Mariana Ferrarelli, docente profesora universitaria, investigadora, formadora de docentes. Dirige en la Universidad de San Andrés el “Programa de Inteligencia Artificial en Educación” y cursa el Doctorado en Educación. Magister en Metodología de la Investigación y Diploma Superior, dicta cursos de formación sobre diversidad y tecnologías, IA, transformación digital y narrativas transmedia en educación.

Ha publicado recientemente el informe “Inteligencia artificial y educación: insumos para su abordaje desde Iberoamérica”, editado por la Organización de Estados Iberoamericano. “Problematizar la IA generativa en educación, metáforas, tensiones y horizontes posibles”. “Abrazar la diversidad en el aula”. “De la reflexión a la acción”. “Transformar la enseñanza”. “Sobre innovaciones y su documentación”.

TDP-¿Considera que la IA puede llegar a acelerar, reemplazar y/o revolucionar muchos aspectos formales de la educación?

MF- La hipótesis de reemplazo se está escuchando en varios ámbitos. Me parece que hay que tener cuidado. Seguramente hay tareas que se pueden automatizar en diferentes ámbitos y ya se está hablando de algunas tareas que se pueden automatizar.

-No hablaría de la automatización plena de trabajos enteros excepto algunos casos muy puntuales que el Foro Económico Mundial ya está analizando, como lo vimos en el caso de los peajes, en el caso de los cajeros de supermercados, por ejemplo, en algunos casos sí, que son tareas muy repetitivas y que es bueno que –en ese caso- se reemplace a los humanos para que realmente puedan dedicarse a otras labores por ahí más creativas, que los motiven mucho más.

-Puntualmente, en el caso, de la educación creo que sí, que hay tareas que realizamos los docentes que se pueden acelerar con IA, pero de ahí a pensar que seremos reemplazados íntegramente -como se escucha en algunos ámbitos- mi posición es muy clara y es que no .

-Cuando pensamos “que la educación es una escena que construimos para que las generaciones más grandes convidemos a las nuevas generaciones cultura, habito, gustos, modos de hacer las cosas me parece que esa escena no puede estar capturada por algoritmos”.

-Bastante ya está capturada esa escena si pensamos en las redes, en la plataformización de los vínculos familiares educativos, sociales, vínculos de amistad de pareja. Hay mucho de los vínculos entre humanos que están mediados por algoritmos y por plataformas, pero yo creo que “la hipótesis del reemplazo total en donde van a desaparecer los docentes puntualmente de la escena educativa, escolar y universitaria lo veo muy difícil”.

-Excepto que consideremos que la educación es la mera transmisión de conocimientos una transmisión lineal en donde para eso no necesito IA para eso me miro unos tutoriales en YouTube y aprendo.

-Creo que “la enseñanza es mucho más que transmitir conocimientos, contenidos y que el aprendizaje es mucho más que recibir eso que otro me transmite y que puede ser un humano, puede ser un video tutorial, puede ser un algoritmo que a partir de las respuestas calcula el próximo paso que yo tengo que aprender”.

-Eso “está buenísimo, pero eso se suma a un contexto mucho más amplio y mucho más complejo que es la enseñanza en donde como humanos desarrollamos empatía, liderazgos, pasión por el conocimiento y creo que eso es cuestiones que no lo puede dar un algoritmo de IA”.

TDP- ¿Existe la posibilidad que humanos y maquinas lleguen a ensamblarse o reemplazarse?

MF- Definitivamente, creo que lo que se viene es un futuro, pero también un presente en el que ya está ocurriendo en el cual humanos y máquinas que nos ensamblamos, nos aliamos. Hay como me gusta decir a mí: una especie de mestizaje humano-máquina. Me parece que ahí sí, porque nosotros, por ahí somos muy buenos para hacer algunas cosas como manejar la incertidumbre, pensar por afuera de la caja en algunos casos, intuir ciertos caminos de manera menos racionales y predecibles que las máquinas hoy al menos no pueden hacer.

-Y las máquinas son muy buenas en detectar patrones, analizar tendencias, procesar grandes cantidades de datos, muchos textos -por ejemplo- a la vez. Si e alguna herramienta, notebook LM, le cargamos muchos textos que es una herramienta de google que es muy buena y la recomiendo mucho, lo hace muy bien.

-Me parece que “el secreto de estos mestizajes humano-máquina está en potenciar lo mejor que podemos ofrecer los humanos con lo mejor que nos puede dar la IA”.

-Eventualmente el reemplazo va a venir de parte de humanos que usan IA que reemplazaran a humanos que no usen IA y sigan creyendo que se pueda dar una clase omitiendo que existe ChatGPT que básicamente es una máquina que resuelve y hace la tarea, hace los trabajos, contesta cuestionarios y realmente lo hace muy bien.

-Después podemos cuestionar la calidad y hay mucho para conversar sobre ese tema, pero para aprobar un trabajo practico en la escuela o en la universidad lo hace muy bien.

- En la cuestión del reemplazo de humanos que usan IA por humanos que no la usan. No digo reemplazo total, reemplazo en un contexto que me voy a quedar sin trabajo y por eso me tengo que preocupar, pero en la realidad en un contexto donde la IA llegó para quedarse y se está usando en el ámbito laboral cada vez más, y esto surge de conversaciones que tengo con colegas en el ámbito del periodismo, de la publicidad, del diseño gráfico, arquitectura, la salud, y el derecho.

-Si ya sabemos que la IA, tanto la predictiva que es la matemáticamente puede hacer cálculos, detectar patrones y analizar tendencias, como la que generativa que genera textos. Si ambas ya se están usando en el ámbito laboral “nuestra responsabilidad no solo como docentes, sino también como universidades, como sistema educativo en general incluso a nivel macro es preparar a la ciudadanía, preparar a las nuevas generaciones para ese mundo”.

-En el caso del reemplazo y volviendo a esta cuestión, hay un punto no es que literalmente tal vez ese docente que niega que exista la IA o hace como si no pasara nada va ser reemplazado, pero sus propuestas no van a ser relevantes para el mundo de hoy, no van a ser convocantes para el estudiantado.

-En una clase o algún proyecto, por supuesto que yo puedo trabajar con los clásicos e ir por propuestas si se quiere desconectadas, y no estamos diciendo que todo tiene que estar conectado al 100%, “pero no puedo desconocer este contexto que existe y que nos rodea”. Y en todo caso si no me rodea a mí porque bueno “yo mucho no entiendo -se escucha esto en algunos casos-, cada vez menos para mí es muy difícil y esto no”. Quizás deba hacerlo por el compromiso con el estudiantado y con aquello que se van a encontrar cuando salgan al mundo real.

TDP- ¿En qué consiste el Informe de Inteligencia Artificial y Educación: insumos para su abordaje desde Iberoamérica?

MF- Este reporte escrito para la Organización de Estados Iberoamericanos básicamente “es un relevamiento sobre cuáles son las discusiones hoy en la región en torno a IA en general y IA generativa en particular”.

- Recordemos que la generativa es un subtipo de la IA más global, que es una tecnología que se viene teorizando y pensando desde la década del 50 más globalmente sobre si las maquinas pueden pensar solo que desde 2022 a esta parte con ChatGPT se hizo más popular la generativa, que es está que hace la tarea .

-Ese documento un poco recupera algunas ideas potentes con algunas recomendaciones en educación. Pero no solo para docentes sino también porque ese sería un nivel más micro, un *nivel áulico, para quienes gestionan universidades, escuelas, y para quienes en un nivel más macro diseñan política pública en relación a la educación, a estas tecnologías en particular, a cómo integrarlas. Y para que la ciudadanía pueda utilizarlas de manera responsable, crítica, potente sin desconocer que es una tecnología que suma valor a las economías y que realmente ayuda a resolver problemas.

-Y que por lo tanto merece ser considerada para el desarrollo de un país, de una región. Merece ser tenida en cuenta y considerada.

-Hay otro punto de este documento importante “que mira la transformación digital no solo como un fenómeno tecnológico sino también profundamente humano”. No se trata solo de mirar la tecnología en términos instrumentales sino de considerarla en un contexto como un fenómeno que tiene profundas implicancias sociales, culturales, políticas, éticas y pedagógicas”.

- Cabe analizar “la IA como un fenómeno complejo que lo es y por lo tanto requiere un abordaje complejo e interdisciplinar. No se resuelve con contratar ingenieros o contratar especialistas en ética o filósofos/as o educadores sino que requiere un abordaje multifacético que involucra diferentes disciplinas”.

TDP- ¿Existe un acelerador y una carrea de nuevas aplicaciones y herramientas tecnológicas como ChatGPT que los educadores les preocupa?

MF- Hay una carrera acelerada por lograr el modelo más potente, la herramienta que resuelve todo. Yo aquí trato de ser cauta y frenar un poco este tecno- entusiasmo. “Si bien creo que hay que abrazar estas tecnologías, tomarlas seriamente, explorarlas, hay que invitar a colegas y estudiantes a meterse en este mundo me parece que tenemos que ser responsables y no estar detrás del último desarrollo, de la última moda o marca”.

-Finalmente la IA es un fenómeno muy complejo que como tecnología se expresa en herramientas muy puntuales.

- Hay que tenerlas en cuenta, exploremos cuál sirve para los contextos en los que nos desempeñamos como profesionales en todo sentido, como educadores, pero también en otros ámbitos donde son muy útiles, pero no descuidemos este otro carácter o complejidad que tiene que va mucho más allá del uso que podamos hacer en nuestro propio contexto.

-Tiene implicancias varias –como ya expresé- ambientales y esto requiere parar, bajarnos de este ritmo acelerado con las que vienen las innovaciones, y diariamente aparece algo nuevo.

-Recientemente se anunció con la asunción del presidente de Estados Unidos el *Proyecto Stargate que involucra muchísimo dinero y una inversión enorme para llevar los desarrollos de IA a otro nivel.

- “Frenemos y pensemos que necesitamos para nuestro contexto y no nos dejemos abrumar por la última de la última novedad ahí hay temas que nos quitan de foco”.

-La cuestión o preocupación del reemplazo nos impide tener las discusiones que debemos tener que es como las incorporamos a IA en nuestra tarea diaria y cuáles son las implicancias complejas de esta tecnología.

- Creo que a veces la moda y esta cosa de estar buscando la última aplicación, porque parece que así somos innovadores si damos esta idea de innovación, nos quita de lo importante que es frenar y pensar realmente que necesito y que puedo hacer en mi contexto ya que hay instituciones que por ahí no cuentan con conectividad, con dispositivos. Pero teniendo en cuenta el contexto que puedo hacer en un ritmo más pausado y que resista un poco esta aceleración permanente.

TDP- ¿Es preocupante que los educadores que no se actualicen o interioricen relativo a la IA puedan ser reemplazados?

MF- La verdad es que el reemplazo y algo mencione antes, para mí no es una preocupación, pero sí creo que los países, las regiones deben desarrollar políticas integrales o globales que aborden este fenómeno que es complejo entendiendo que no es solamente un aspecto tecnológico a atender de cuestiones ambientales, sociales, de género, económicas también, y aprovechar este potencial para generar tecnologías que respondan a las necesidades reales de cada comunidad, de cada región y de las necesidades reales de las personas.

-Se ven muchas propuestas y una oferta que por ahí tiene el foco puesto en una cuestión comercial sin entender los matices culturales, particulares y las necesidades de diferentes zonas geográficas.

-“Es una tecnología muy potente, pero que debe adaptarse a eso que realmente necesitan las comunidades, las regiones, los países”.

-Por momentos está narrativa del reemplazo nos quita el foco de estas preguntas que para mí son las preguntas que vale la pena hacernos como sociedades. Y por poner un ejemplo, las tecnologías basadas en IA dependen mucho de los datos a partir de los cuales se entrenan los sistemas.

- Entonces, cuando un funcionario público decide contratar algunos de los productos de los servicios de IA para educación sería interesante que pregunte a partir de que datos están entrenados los sistemas que se traen, porque a veces en contextos geográficos puntuales, culturales puntuales, históricos puntuales se insertan modelos de IA entrenados en latitudes y culturas completamente diferentes, y la verdad que mucho no sirve.

-Eso entendiendo que son modelos que ya vienen entrenados, y si se van a entrenar con datos de estudiantes, docentes de una institución hacer las preguntas necesarias respecto de la seguridad de esos datos, la privacidad de esos datos, como se van a anonimizar, que garantías y quien va tener potestad sobre esos datos y como se van a usar. Si las universidades van tener acceso a esos datos para poder tener gobernanza y poder tomar decisiones respecto de esos datos. Si –por ejemplo- voy a disponer de un sistema de alerta temprana que me avise si un estudiante está por abandonar y poder yo acceder a esos datos rápidamente de manera autónoma, independiente.

-Hay como mucha letra chica en la contratación de estos sistemas que vale la pena preguntar. Cuanto yo como institución voy a poder editar los ajustes de la plataforma en general o de ese sistema para poder adaptarlo a necesidades puntuales que tenemos.

Entonces, como hay mucha letra chica para mirar de cerca, entiendo que es ahí donde tienen que estar nuestras preocupaciones cuando pensamos en la IA generativa en educación, más allá de las narrativas sobre posible reemplazo o no.

TDP- ¿Es necesario sumar, incorporar y/o llevar la IA al aula?

MF- Más allá de las cuestiones de acelerar tiempos, de hacer relevantes las propuestas que enseñamos para el estudiantado y varias de las cosas que mencione anteriormente, también hay que llevarlas al aula porque nos permite hablar de otros temas asociados a la IA, hablar de la importancia de los datos ya que vivimos en una sociedad de datos. Dicen: “que los datos son el nuevo petróleo por el valor que tienen”.

-Como usuarios no recibimos nada a cambio más que usar las aplicaciones de manera gratuita ningún otro beneficio a cambio de entregar nuestros datos de todo y todo el tiempo estamos generando datos.

- Entonces, cuando llevamos la IA al aula podemos hablar con nuestro estudiantado de los datos y de la sociedad datificada y que supone vivir en plataformas, porque estos datos se generan por nuestras interacciones en plataforma. Y los algoritmos están en esas plataformas, en las plataformas de streaming, en las plataformas de compras online, cuando likeamos un posteo, cuando subimos una foto o un video, hacemos un comentario, permanentemente estamos en plataformas generando datos que se procesan algorítmicamente con IA.

-“Incorporar la IA en el aula más allá de todas las cuestiones pedagógicas -que comentamos- también permite ampliar la conversación con nuestro estudiantado sobre estos otros temas sensibles asociados a las tecnologías de hoy y a vivir en el entorno tecnológico de hoy que resulta súper relevante”.

*Proyecto Stargate: macro iniciativa del Gobierno de Estados Unidos para incentivar la investigación de tecnologías de inteligencia artificial que se nutrirá de un gasto de público de 500.000 millones de dólares durante los próximos 4 años.

* El nivel áulico: es el nivel de concreción curricular que se realiza en el aula, es decir, en el entorno donde se llevan a cabo las actividades de enseñanza y aprendizaje.