Por: Ing.Dario Riquelme Zornow
Ingeniero en informática, licenciado en ingeniería, diplomado en gestión de proyectos; Diseño Instruccional; Ingeniería y ciencia de Datos; Inteligencia Artificial.
Gestor de Proyectos de la “Oficina de Educación Online”; de la “vicerrectoría de tecnologías de la Información” en la “Universidad de Chile”.
Email: dario.riquelme@uchile.cl
Chile
Amenazas de la AI en educación parte 1/5
ISLA DE SAMOS, 668 AC.
En un paseo casual de instrucción, un joven aprendiz conversaba con su maestro, el renombrado filósofo Pherekydes, hablaban de la geometría y como se podría representar la perfección en los diferentes niveles del ser humano. El ansioso adolescente, con el afán de impresionar a su maestro le comenta – Pero usted es consciente que, cuando dos rectas cualesquiera, son cortadas por dos rectas paralelas, los segmentos que determina en una de las rectas son proporcionales a los segmentos correspondientes de la otra –
– ¡PERO DONDE APRENDISTE ESO! – resopla indignado el maestro – YO NUNCA TE EXPLICADO ESAS COSAS.
– Es que el otro día hablaba con el profesor Thales y me contaba que …
– ¿BASTA, no tienes que escuchar a otros profesores … Pitágoras, esto ya lo hemos conversado, no sabes que ese señor viene de Mileto? Que tiene otras costumbres y te entrena con datos que a lo mejor son falsos, quién sabe (*1). Además, solo tienes que aprender lo que YO te enseño, no lo que aprendes de otras personas, porque soy quien reporta a tu padre los avances. YO hago tu examen y MIS preguntas, van a ser sobre las cosas que YO te explico, de la forma como YO te las explico, en los temas que YO te enseño.
Yo soy tu profesor, ¡no ese señor de Mileto! (*2)
– Pero entonces lo que me dice el otro profesor es falso
– Eso no es importante, lo importante es que, si yo soy tu profesor, tú debes aprender lo que yo te diga. Porque a eso me dedico a filosofar e instruir mentes jóvenes.
– Pero el profesor Thales se ve serio.
– Claro, así se ven, pero además su padre es un renombrado comerciante. ¿Qué pasa si conversando con él, usted entrega datos importantes de las cosechas, o de los valores de los envíos y estos terminan en los comerciantes de allá? Usted no sabe qué pasa con la información que le entrega
Hablaré con tu padre para que no tengas acceso a hablar con más profesores como ese Thales y su discípulo Anaximandro.
La conversación de Pitágoras es invento mío, para ejemplificar la extracción de información de otras fuentes, frente a un maestro que, al solo entregar datos, se ve amenazado. Pherekydes si fue maestro de Pitágoras, pero todo indica que fue un buen maestro y no habría tenido estos arranques ni sesgos, como la historia inventada lo muestran. Pitágoras si conoció a Thales y su discípulo Anaximandro viajando con su padre, que era comerciante.
En este relato ficticio, traté de representar las siguientes amenazas que se perciben de las Inteligencias Artificiales en educación:
*1 Sesgos algorítmicos: Es cuando los resultados de un sistema, están orientados de una manera específica, o porque los datos de entrenamiento están sesgados o porque el algoritmo tiene a entregar u tipo de resultado.
*2 Sustitución de maestros: Hay mucha gente con la que he hablado, de área de educación, que piensa que estos sistemas remplazaran a los profesores. En mi humilde opinión, un buen profesor no podrá ser reemplazado, en el corto o mediano plazo, del futuro muy futuro no sé, porque el futuro siempre está en movimiento. La impronta, la capacidad de situar los aprendizajes, la motivación, la capacidad de personalizar los aprendizajes a su aprendiz y la guía que puede realizar, aun no hay máquina que sea capaz de sostenerla.
*3 Seguridad de la Información: Al declarar que los datos que se introduzcan a los sistemas, serán usados como datos de entrenamiento, ya tenemos la amenaza de que estemos “entregando” información confidencial que no deberíamos. Imaginemos un académico que le pide a una AI que revise la redacción de un paper no publicado, o un gerente que evalúe si está correcto su plan estratégico de ventas para los próximos años. Esa información, que debería ser confidencial, queda como dato de entrenamiento y conocimiento, para los demás usuarios.
Amenazas de la AI en educación parte 2/5
——————-0——————-
SUR DE FRANCIA 1778
El hijo heredero de la familia, escucha atento al maestro que le explica que el poder viene de Dios, quien lo entregó al Rey para gobernar en su infinita bondad y sabiduría. Que la verdad era lo esencial y que solo escuchando al Rey y los sacerdotes podrían llegar a ella.
Jean entonces le dice “pero vi en un dibujo que la verdad está rodeada de la razón y la filosofía, entonces, ¿no es el pensar lo que nos conduce a la verdad”?
- ¡PERO POR DIOS DE DONDE SACASTE ESO!
- Lo vi en la enciclopedia que mi padre trajo de Suiza
- Esto es el colmo, ¿no sabes que ese libro está dentro de los libros prohibidos? Desde 1759 que están prohibidos sus privilegios por el gobierno. ¿Sabías que muchos nobles y el mismo papa han firmado una carta, acompañados por los hombres más iluminados, para que sea prohibido que se siga desarrollando?
Ahora te vas a volver adicto a leer ese libro y, ¡no vas a vivir para otra cosa que leerlo!(*4)- Claro, y encerrado leyendo esto, no vas a aprender a habalr con palabras nuevas y de uso común.(*5)
No puedes confiar en las cosas que te dicen ahí, los pensamientos con los que la escriben vienen de mentes enfermas, sub pagados, no son nobles ni emparentados con Rey, son gente que quiere la destrucción del orden y las cosas buenas. Hasta capaz que se les ocurra deponer al Rey porque el poder no sería de él, sino del pueblo.
La “Encyclopédie, ou Dictionnaire raisonné des sciences, des arts et des métiers” fue editada entre 1751 y 1772. El gobierno francés si suspendió sus privilegios en 1759 y la publicación de 1761 era de Neuchâtel, suiza. Aun así, el niño y su maestro, junto con el dialogo, sin inventados y pretenden solo caricaturizar como en algún momento, se puedo haber demonizado un recurso que fue tan común a posteriori, como era una enciclopedia en los colegios y algunos hogares, al menos cuando yo estudiaba la preparatoria.
La portada de la “Encyclopédie” (1772) dibujado por Charles-Nicolas Cochin, era una figura central que representaba la verdad, con dos figuras que rasgaban su velo, la razón y la filosofía.
https://commons.wikimedia.org/wiki/File:Encyclopedie_frontispice_full.jpg
En este relato ficticio, traté de representar las siguientes amenazas que se perciben de las Inteligencias Artificiales en educación.
*4 Dependencia tecnológica: Al encontrar una herramienta que, cómodamente entrega resultados a tus dudas, encargos, trabajos. Teniendo a mano su utilización sin mucho esfuerzo, hacen que busquemos la forma de cómo solucionar todos nuestros problemas co esa herramienta, perdiendo la capacidad de buscar por otros lados. Recordemos que hasta los electrones llenan primero en los orbitales de más baja energía. Hoy muchos usan redes sociales, porque ahí encuentran comunicación, noticias, diversión y hasta sistemas de compras.
Si por mucho tiempo una herramienta te soluciona todo, si esa te falta, podrías dejar de tener soluciones.
(Para experimentar la dependencia tecnológica, usted lector, ¿Podría vivir 24 horas sin su celular?)
*5 Perdida de habilidades básicas de comunicación y de la interacción personal. Los, a veces, molestos trabajos en grupo, o el estar juntos en ambientes educativos, nos permiten/obligan a desarrollar destrezas sociales propias a nuestra convivencia en sociedad. Mediar, negociar, inquirir, preguntar, contestar, etc. Llegar a acuerdos, defender posturas, etc. Si el sistema escolar se vuelca a sistemas de aprendizajes autónomos, resentiremos en la sociedad la perdida de ciertas destrezas. Ya tenemos bastante evidencia con los niños que comenzaron su etapa escolar en pandemia, donde no podían convivir con otros niños.
Amenazas de la AI en educación parte 3/5
——————-0——————-
NORTE DE CHILE 1981
La profesora de tercero medio discute con un estudiante, porque calificó mal al estudiante, quien en la carpeta correspondiente a “Los héroes Mapuches”, en lugar de dibujar a los 7 héroes que describió Alonso de Ercilla, los recortó del “Icarito” (suplemento educativo que venía con un diario en la época) y los pegó:
- Mire estudiante, usted tenía que dibujar a los héroes mapuches mencionados en la araucana.
- Pero profe, si usted nos dijo que los pusiéramos ahí en cada página y que escribiéramos por qué era importantes.
- Si pues… y usted en vez de dibujarlos con sus trajes típicos, los recortó y los pegó.
- Claro, si mi mamá compra el diario los miércoles, justo porque vienen laminas recortables.
¿Pero lo que escribí de ellos está mal?- Eso está bien, pero usted tiene que dibujar, no recortar. ¿O después va a recortar los libros de la casa, o la enciclopedia del colegio?
- Pero si en el “Icarito” venía toda la información.
- Y después en el trabajo, va a andar sacando de una máquina mágica los esquemas impresos que necesite. ¿Por qué no dibujo como todos sus compañeros? ¿O acaso todos ellos están equivocados y usted no?
¿Y si uno de sus compañeros no tiene para comprar el diario los miércoles? (*6)- No se pues profe, a lo mejor no saben que en el Icarito vienen todas las imágenes listas.
- Ah claro, ¿y el próximo año voy a tener a todo el curso sin dibujar no? A mí me gusten que dibujen. SI usted no dibujó y uso el dibujo que hizo otra persona, no es suyo, es copiado y listo. (*7)
El encuentro entre la profesora y el estudiante que recortó los héroes mapuches, también es un invento, solo pretendía reflejar que, a la educación, le cuesta reaccionar con agilidad ante nuevas ofertas, caricaturizando que a veces no dialogan muy bien lo que se quiere enseñar, con lo que se evalúa. El suplemento de los diarios “Icarito” si existió y en mi casa, como en casi todas las de mis compañeros de colegio, las familias juntaban cada miércoles los ejemplares para tener “material” para tareas y trabajos.
En este relato ficticio, traté de representar las siguientes amenazas que se perciben de las Inteligencias Artificiales en educación.
*6 Desigualdades educativas: El valor de la suscripción a chat GPT es del orden de los 20 dólares al mes, por lo que el acceso a la versión pro, que entrega más, está reservado solo a quienes tengan acceso a pagar eso. Lo mismo que ocurría en su momento con quienes tenían computadores en sus casas, o solo podían usar los de sus centros educativos.
*7 Plagio: Si tomo algo producido por un tercero y lo hago pasar como propio es un plagio, en rigor la definición más común es tomar algo de otro autor, y hacerlo pasar como propio. Acá cuando hablamos de una AI, en realidad no es u autor y nos puede llevar a una zona gris. En la Universidad de Chile, la definición de plagio es «copiar en lo sustancial obras ajenas, dándolas como propias», y bueno, chat GPT u otra AI produce cosas que son ajenas, por lo que si califica como plagio.
https://www.uchile.cl/informacion-y-bibliotecas/ayudas-y-tutoriales/que-es-plagio-como-evitarlo
Amenazas de la AI en educación parte 4/5
Santiago de Chile, 2020
El profesor de 6to básico (10 años) pide a Gutiérrez que lea su trabajo “Principales héroes y porqué pasarán a la historia”. Al alumno le había tocado “La toma del morro de Arica”, en el contexto de la unidad de historia de la guerra del pacifico. Mientras el estudiante leía, el profesor lo escuchaba mientras completaba el libro de clases.
- “Los principales héroes de la batalla de Arica, son el coronel Francisco Bolognesi y el coronel Francisco Ugarte.
Si bien la batalla se daba por perdida desde el combate del campo de la Alianza, cerca de Tacna semanas antes, la guarnición que protegía el morro, adhirió a lo que le dijo el coronel Bolognesi al sargento mayor chileno De la Cruz Salvo cuando esté le pidió la rendición: “tengo deberes sagrados, y los cumpliré hasta quemar el último cartucho”.
El coronel mantuvo su palabra y defendió cuanto pudo la plaza y el coronel Ugarte, se lanzó por el abismo del morro, in rendirse, con una bandera peruana en la mano gritando ‘Muchachos, Viva él Perú’
Es por eso en esta fecha, se hace el juramento a la Bandera” –
El profesor muy sorprendido le pide el trabajo al estudiante, que de entre las fuentes traía un artículo del diario “El Comercio” de Perú.
Luego comentó en la sala de profesores:
- Ya no sé qué voy a hacer con esto de internet, primero los niños ya no se juntan porque internet les entrega toda la información. Sacan lo primero que ven y lo escriben, sin redactar, ni resumir, ni conversar con los demás para ver si está bueno. (*8)
Ya los niños van a dejar de pensar por su cuenta si siguen buscando cosas ahí, van a dedicarse a poner solo o que dice la página que encontraron, les da miedo que lo que ellos piensen, siendo distinto a lo que dice la máquina, este malo. (*9).
No saben discriminar, no saben resumir, no saben interpretar. Y eso que Gutiérrez es alumno de 7 (Nota máxima en Chile). Dijo un montón de cosas que no son muy conocidas pero que están correctas, claramente no queremos la versión del, en ese entonces, enemigo. ¿Cómo vamos a hacer con la educación en el futuro, si ahora pueden sacar información de cualquier parte?
El profesor y el estudiante Gutiérrez, son producto de mi imaginación. Pero el Coronel Bolognesi sí dijo esa frase al suboficial mayor chileno cuando este último le pidió la rendición, está documentado, al igual que su muerte defendiendo el Morro hasta con su pistola. El coronel Ugarte si se lanzó de su caballo por el acantilado antes de rendirse y el juramento a la bandera en Perú, si se realiza el 7 de junio. El dialogo trata de mostrar, potenciales resultados de una investigación libre, cuando no es mediado, intencionado y guiado, cuando no hay previamente una preparación para ellos en investigar y resolver sobre importancias. Particularmente cuando los estudiantes cuentan con herramientas tan poderosas para el aprendizaje como es Internet y ahora el mismo Chat GPT. https://elcomercio.pe/eldominical/actualidad/a-140-anos-de-la-batalla-de-arica-hombres-de-guerra-y-libertad-por-el-historiador-daniel-parodi-francisco-bolognesi-alfonso-ugarte-dia-de-la-bandera-noticia/?ref=ecr
En este relato ficticio, traté de representar las siguientes amenazas que se perciben de las Inteligencias Artificiales en educación.
*8 Evita los aprendizajes adicionales en el desarrollo de los trabajos, como a redactar, sintetizar, trabajar en equipo, etc.: No es difícil adivinar que si usamos una herramienta que redacte por nosotros, no vamos a ganar todas las destrezas que ganaríamos, redactando ideas por nosotros mismos, es el mismo principio que ejercitar la musculatura. En el trabajo en equipo que favorecen que el trabajo de investigación, análisis, extracción de información, síntesis y posterior redacción para exponerla, es lo que podríamos llamar, un ejercicio completo. Por su puesto que estos ejercicios deben ser entregados por un profesional (profesor) que dé sentido y foco, de acuerdo a los resultados de aprendizajes esperados.
*9 Amenaza el pensamiento individual: Similar a lo anterior, y muy relacionado con el visto “Sesgo algorítmico” y la “Dependencia tecnológica”, solo consumir ideas de una fuente, puede moldear de mala manera nuestro pensamiento, y de alguna manera limitarlo o al menos no permitir que florezca en todo su potencial.
Amenazas de la AI en educación parte 5/5
EL Chat GPT apareció en noviembre del 2022, lleva solo 5 meses disponible para todos y ya causa, al menos, incertidumbres en el ámbito de la educación. Recordemos que “El rincón del vago” nació 4 meses antes que google y fue considerado una amenaza a la formalidad del sistema educativo en España.
Siempre hay herramientas que, probablemente no fueron diseñadas para la educación, pero que se ajustan a los objetivos que perseguimos para con nuestros estudiantes y que dan soporte a conseguir los resultados de aprendizajes que esperamos, aunque tal vez se deba hacer un esfuerzo y alguna adaptación.
Chat GPT es un nuevo medio de obtener información, con una interfaz mucho más natural que los buscadores clásicos de internet (debieron ver Lycos o AltaVista), respuestas en un lenguaje humano cercano y comprensible. Pero con sesgos y limitaciones como todos los otros recursos que comenté en los casos ficticios que presenté en esta serie.
Chat GPT trae consigo algunos peligros, sobre todo en el ámbito de la seguridad de la información (tendremos que escribir sobre eso). Trae respuestas segadas, solo tan buenas como el entrenamiento que se le dio. Además, al estar entrenado con datos del mundo, no es tan bueno contestando cosas “muy locales”. Es una AI y probablemente aún no está bien sintonizada con el “sarcasmo” y “jerga” nacional.
Recuerdo que en 1997 asistí a una titulación de profesora, que trabaja sobre un sitio web de “Los murales de Chile”. Ningún profesor de la comisión había trabajado sobre web y su universidad recién estaba sacando el sitio oficial. Años después vi una tesis de magister de pedagogía, con una propuesta para el uso de Facebook como herramienta de seguimiento a las prácticas profesionales. En ambos casos había asombro y temor, pero al ser un trabajo bien hecho y documentado, se terminó felicitando por lo innovador.
He visto el uso de Instagram para hacer “Bitácoras” de los trabajos y proyectos de los estudiantes, reportes de avance en TikTok, Kahoot y Equiz para hacer “Peer instruction”, porque como decía un amigo “Cuando la tecnología es buena, siempre aguanta más y se termina usando para cosas diferentes a las que fue diseñada”.
Hoy la inteligencia artificial permite hacer cosas extraordinarias, crear personas que no existen, hacer imágenes, planes de negocio, redactar artículos sobre un tema, con bibliografía (aun con algunas fallas), pero está ahí a la mano, su versión gratuita aun permite operar con ella.
Es un desperdicio si los profesores no lo comenzamos a usar, no describimos didácticas y enseñamos a nuestros estudiantes de sus riesgos y problemas.
Las AI se van a instalar en la educación a una velocidad “ridícula”, todos los años que muchos han evitado sumarse a la educación mediada por tecnología (en el aula, remota, on line, híbrida, etc.), la interfaz de esta tecnología va a caer de sopetón en el celular de cada estudiante y en cuanto a las herramientas de productividad, es mejor estar preparados porque “Copilot” de MS OFFICE va a llegar en cualquier momento y será un remezón como en Chile sentimos los terremotos. Es un deber conocer y saber usar cualquier elemento que tengamos a mano para enseñar y conseguir resultados de aprendizaje.
Después de todo, ya está más cerca el momento donde nuestros pequeños estudiantes, trabajen con un asistente digital, así que es mejor que lo aprendan a usar desde ya en su favor y su educación contemple cosas que le permitan discernir y aprovechar a su favor, todo lo que una AI le puede ofrecer.
Las amenazas de los artículos predecesores son las siguientes:
1 Sesgos algorítmicos:
2 Sustitución de maestros:
3 Seguridad de la Información:
4 Dependencia tecnológica:
5 Perdida de habilidades básicas:
6 Desigualdades educativas:
7 Plagio:
8 Evita los aprendizajes adicionales:
9 Amenaza el pensamiento individual:
Estos fueron coleccionados de un trabajo hecho con estudiantes de tercero y cuarto medio en Chile (16 y 17 años). A ellos se les pidió, en un trabajo de pares, indicar cuales eran las amenazas de la AI en la educación. (5 minutos), luego que fueran a chat GPT y le plantearan la misma pregunta (5 minutos) a continuación contrastar las dos soluciones y presentar su opinión (5 minutos) y una puesta en común (10 minutos).
Parte 1 de esta serie: https://www.linkedin.com/pulse/amenazas-de-la-ai-en-educaci%C3%B3n-parte-15-dario-riquelme-zornow
Parte 2 de esta serie: https://www.linkedin.com/pulse/amenazas-de-la-ai-en-educaci%C3%B3n-parte-25-dario-riquelme-zornow
Parte 3 de esta serie: https://www.linkedin.com/pulse/amenazas-de-la-ai-en-educaci%C3%B3n-parte-34-dario-riquelme-zornow
