"El mayor riesgo de la Inteligencia Artificial en las universidades no es que los alumnos hagan trampas"

La inteligencia artificial generativa ha aterrizado, también para quedarse, en las aulas de las universidades españolas. Supone un reto enorme, con más oportunidades y riesgos de los que podríamos pensar en un primer momento. Para entender en qué punto estamos y hacia dónde deberíamos ir, hablamos con María Dolores Vivas Urias, arquitecta experta en diseño y directora de Innovación de la Universidad Alfonso X el Sabio (UAX), y María Auxiliadora Ruiz Rosillo, responsable de innovación pedagógica de la misma universidad, que han coordinado y publicado el libro Inteligencia artificial generativa. Buenas prácticas docentes en educación superior (Octaedro). En él, cuentan su visión sobre este asunto y se explican varios ejemplos prácticos que se han llevado a cabo en la UAX. Está en formato de acceso abierto, por lo que puedes leerlo íntegramente aquí.

Antes de hablar con ellas le hemos explicado a una inteligencia artificial generativa a quién íbamos a entrevistar, y le hemos pedido que nos dejase una serie de pregunta para ellas. Hemos incluido una de ellas en el siguiente cuestionario. ¿Es fácil de distinguir por los lectores la pregunta que ha hecho una IA? Al final de la charla contamos cuál es.

PREGUNTA. La llegada de la IA generativa a las aulas supone un profundo cambio a todos los niveles. ¿Sois optimistas o pesimistas al respecto?

M.D.V: Ni optimistas, ni pesimistas. Tal y como entendemos la tecnología pensamos que los estudiantes deben utilizarla con un propósito y para conseguir el desarrollo sostenible de la sociedad y contribuir a un bien común. Entonces, su llegada es algo natural. Ha aparecido una tecnología emergente que ha impactado en la educación, pero también en todos los niveles de la sociedad, y lo afrontamos con la gran responsabilidad de preparar a nuestros estudiantes para que no se queden desfasados. Ten en cuenta que un estudiante que empieza primero este año, en cuatro años, habrá cambiado totalmente su manera de trabajar. Tenemos que mantener a nuestros estudiantes actualizados para que se inserten en su futuro laboral inmediato, que es que ni siquiera es futuro. Y por otro lado está su uso ético y responsable. Tenemos que ser capaces de que nuestros alumnos sepan esa parte. Ellos, que se han apropiado de esta tecnología y la han incorporado a su día a día de manera natural, deben entender su uso ético y responsable. Tenemos titulaciones que van a formar a los desarrolladores de este tipo de herramientas y de sistemas. Serán los que entrenen al modelo y deben contribuir en su desarrollo ético. Así que sí. Ni optimismo ni pesimismo. Tenemos una responsabilidad, la entendemos y estamos preparados para afrontarla.

P. ¿Cuáles son los principales beneficios de la llegada de la IA a las Universidades?

M.A.R: Hay una gran oportunidad a la hora de utilizarla para acelerar procesos, para optimizar tareas repetitivas y, en definitiva, para optimizar el desempeño en la Universidad. Por la parte del profesor, para mejorar su prática docente (preparar clases, preguntas de exámenes, tener una ayuda que te sirva de aliado...) y, por la parte del alumno, para acelerar su proceso de aprendizaje. Hay un punto muy interesante que la inteligencia artificial puede ayudar a desbloquear también: llevamos años intentando que el aprendizaje sea personalizado, y esto es muy difícil cuando tienes un aula de estudiantes donde tienes 30 o 60 estudiantes y quieres llegar a que cada uno tenga lo que necesita para avanzar, porque cada uno aprende de una manera diferente (estilos, preferencias...). Entonces, tenemos la oportunidad, porque no es una realidad todavía aunque parezca que lo vayamos a conseguir, de que, gracias a nuevas herramientas nos podamos acercar a ese tipo de aprendizaje, con, por ejemplo, tutores que estén presentes el resto del tiempo en el que no están con tu profesor en el aula, o materiales presentados de maneras diferentes para ampliar. Todo esto, en cualquier caso, no sustituye al profesor, pero sirve como acompañamiento y es útil para poder profundizar.

TE PUEDE INTERESAR

"La mentalidad del 'si quieres, puedes' es nefasta. Vale para ir al gimnasio, no para curar una enfermedad mental"

Miguel Núñez

M.D.V: Además hay mucha diversidad en los alumnos que vienen a aprender, incluso hay personas que tienen una discapacidad y estas herramientas pueden ayudarnos a ser inclusivos con esa diversidad. Es la promesa. Ojalá lleguemos a conseguir materializarlo, aunque todo va encaminado en esa línea para los estudiantes que son diversos y tienen diferentes tipos de aprender, incluso hay estudiantes que tienen discapacidad, esto nos ayuda también a incluir esa diversidad. Esa es la promesa. Ojalá lleguemos a conseguir que se materialice, pero todo lo que vemos va muy encaminado en esa línea.

P. ¿Puede la IA servir de ayuda para personalizar el aprendizaje en entornos masificados como los grados universitarios?

M.D.V: Todos los artículos académicos van en esa línea. La realidad es que hay pocos estudios todavía de herramientas que realmente lo hagan bien, porque hay que tener en cuenta que esos acompañantes que puedes incluir dentro de las asignaturas, que realmente se llaman agentes, con la tecnología que nosotros conocemos, todavía no son ese complemento que todo lo sabe. Puede saber algo muy concreto de una asignatura, de una materia, y te puede ayudar a encontrar rápidamente dentro de esa materia más fácilmente los contenidos, pero no alguien que lo sepa todo. Está en camino, pero todavía no la solución ideada que nos gustaría.

P: Hablemos también de los riesgos

M.D.V: Clarísimamente los riesgos más importantes están en la seguridad, en la privacidad, y en su uso ético y responsable. ¿Qué permisos estamos aceptando en las aplicaciones cuando las utilizamos? ¿dónde van nuestros datos? Se generarán analíticas del proceso de aprendizaje. Estamos hackeando cómo aprenden las personas. ¿Dónde quedan almacenados los datos de todo ese proceso y a quién van a pertenecer? Que se haga un uso poco ético de todo esto es el gran riesgo. Mucho más que el gran titular de "es que los estudiantes hacen trampa con la IA".

P. Sobre las trampas, en el libro decís que "algunos modelos de IA generativa, como ChatGPT, pueden ayudar a los estudiantes a crear trabajos bien organizados o aprobar exámenes en ciertas áreas, obteniendo buenas notas sin que se detecte su uso". ¿Cómo solucionamos esto?

M.D.V: Siempre que pensamos en este asunto, pensamos en un trabajo escrito que entrega el estudiante y ya está. Nosotros tenemos que garantizar que en nuestros sistemas de evaluación no se haga un uso fraudulento de ninguna tecnología, no solo de la IA, sino de ninguna. En el ámbito universitario, en nuestros grados, nuestros estudiantes tienen que alcanzar una serie de competencias profesionales. Una competencia no es escribir un trabajo escrito y se acabó. A ninguno se nos ocurriría pensar que un fisioterapeuta va a aprobar la carrera con un trabajo escrito de prácticas. Un médico o un enfermero, lo mismo. Tienes que ser capaz de que tus alumnos pongan en práctica ciertos conocimientos y desempeñen una serie de habilidades.

M.A.R: Evaluar de forma diferente implica también tener otra mirada. Hablamos del término 'integridad académica en el uso de la IA', porque al alumno también se le va a demandar estudiar de otra manera, pero también evaluarse de otra manera. ¿Qué tarea le estamos pidiendo al alumno? No solo me vas a generar un texto, sino que desarrolles y que además ejerzas ese pensamiento crítico en esta tarea.

M.D.V: La clave está en dos momentos, y la tiene el profesor. Siempre. En primer lugar que en la evaluación sea formativa y, en segundo, que sea una evaluación que realmente evalúa una competencia. Cuando tengo que hacer un examen escrito, pues será un examen escrito. Cuando tengo que hacer una tarea, un informe, el diseño de una imagen, el profesor debe tener muy claro en qué momentos de ese proceso de aprendizaje, de esa tarea que tú le mandas, está permitido o no la IA y comunicárselo al estudiante. Y claro, habrá tareas que, si quieres saber que realmente que las ha hecho el estudiante, tendrás que hacerlas en clase. Quizás tengas que realizar una clase práctica donde los estudiantes trabajen primero y piensen y hagan sus textos, y después les permitas en otra fase que lo revisen y lo perfeccionen con IA, para luego, por ejemplo, hacer una defensa de su práctica, pero no puede ser que lo único que evalúes sea el trabajo que entreguen, porque solo estarás evaluando un trocito pequeño de la competencia. Es verdad que hablamos exclusivamente del ámbito universitario. Si pensamos en otros contextos educativos como primaria o secundaria, esto que te estamos diciendo no es tan fácil, porque al final, claro, ahí las competencias que estás aprendiendo son... a escribir, por ejemplo. Otras cuestiones entran en juego.

"Todo el mundo está muy preocupado en encontrar herramientas que detecten que los textos han sido generados por una IA. De momento, no hay ninguna que pueda ser tan categórica"

P: De prohibirlo en la Universidad, ni hablamos, ¿no?

M.D.V: Tal y como lo vemos nosotros, no tiene ningún sentido. Sabemos que todo el mundo está muy preocupado en esta parte de cómo encontrar herramientas que detecten que los textos han sido generados por una IA, pero, hasta donde conocemos, de momento no hay ninguna herramienta fiable que sea tan categórica que puedas decir: ha cometido o no ha cometido plagio. Y volvemos otra vez al uso responsable y ético. Es más importante en este momento que nuestros estudiantes sepan que no se pueden atribuir la autoría y que está mal hacerlo, que eso es plagio. Por lo tanto, en nuestro plan de IA generativa, como comentamos en el libro, planteamos dos guías: una para estudiantes y otra para profesores, justamente con la parte de concienciar, informar e incidir en este aspecto. Es importante que sepas que estás cometiendo fraude.

P. El libro destaca que, entre los retos que acelera la IA, está el de mantener actualizados y alineados los planes de estudio para adaptarse a las nuevas demandas del mercado laboral. Si ya a las propias empresas les cuesta adaptarse a algo que cambia cada mes, ¿cómo lo deberían hacer las universidades? ¿esperar a planes educativos? ¿es responsabilidad del profesor?

M.D.V: El proceso de creación de un nuevo grado o un nuevo plan de estudios lleva mucho tiempo. Es una cosa lenta. Y luego, además de aprobarse, debe implantarse. Pasarían varios años y al implantarlo tendríamos que volver a empezar. No llegaríamos nunca a estar actualizados. Creo que la solución pasa por trabajar muy de la mano con las empresas, que serán los empleadores de nuestros alumnos. Pero las empresas en contexto amplio, o sea, todas las piezas que van a ser futuros empleadores de nuestros estudiantes, que pueden ser hospitales, que pueden ser centros educativos, que pueden ser empresas del Ibex... Que estemos muy cerca con ellos, trabajando con ellos de la mano, escuchando qué es lo que necesitan, creando foros en los que trabajemos juntos y pongamos sobre la mesa estos problemas. Que trabajemos en proyectos de innovación, en investigación conjunta de herramientas y marcos regulatorios. Y la responsabilidad no es del profesor. El profesor no puede actuar sobre el grado en conjunto. Es una estrategia de la Universidad, una estrategia académica que va desde Rectorado, Vicerrectorado, Jefes de Estudio… que se preocupen por entender cuál es la tecnología que va a impactar en esa profesión concreta, porque pueden ser tecnologías diferentes. De todas las que tenemos, ahora estamos con IA generativa, pero hace nada estábamos con el metaverso, y volveremos a tener otra. ¿Cuál es la tecnología que va a impactar a corto y medio plazo en mi profesión? ¿Y qué es lo que tengo que hacer para, sin mover mi plan de estudios, incorporar esas piezas que me mantengan actualizado? En nuestro caso, en la UAX, en una universidad privada, tenemos una mayor capacidad de reacción. Vamos más rápido que una universidad pública. Nosotros hemos puesto en marcha un observatorio de impacto de la tecnología en las profesiones, justamente para detectar qué es lo que va a venir, para tener esa interlocución con las empresas y saber qué es lo que demandan de nosotros. Hemos formado a todos nuestros profesores en el uso de IA generativas... Todo parte de tener un plan estructurado, planificado, con fases, con responsables. O sea, de tener un liderazgo académico fuerte que trace un plan que te permita tener actualizados tus programas. No se puede improvisar. Así que no es improvisado. Es muy dirigido, muy estratégico.

P. Las tesis doctorales y las publicaciones científicas en general también van a estar relacionadas con la IA de aquí en adelante. ¿Hay actualmente algunas normas sobre su uso en este tipo de trabajos? ¿Depende del director de tesis? ¿Se debería regular?

M.D.V: Desde la Conferencia de Rectores de las Universidades Españolas, de la CRUE, se está pensando un mecanismo para tener unas normas comunes. Sé que existe esa inquietud, pero, que nosotras conozcamos, a día de hoy no hay una regulación del programa de doctorado transversal a todas las universidades. Está el reglamento de evaluación de cada una de las universidades, que han adaptado su postura, y hay revistas académicas, a las que envías tus trabajos, que ya no están prohibiendo.

M.A.R: Si pensamos en revistas de alto impacto, por supuesto hay un criterio de no admisibilidad si el contenido ha sido elaborado con IA. Sí que marcan en su página web esos criterios en particular. Si bien es cierto que la IA, entendida como una herramienta que da soporte y nos ayuda a acelerar nuestros procesos, claramente es una herramienta que sirve de apoyo a un investigador. El investigador va a seguir siguiendo el método científico y va a seguir contrastando sus fuentes porque esa es la propia investigación. Aunque tengas ayuda para sugerirte, frases, preguntas o papers, el investigador siempre va a tener que acceder a ello, leerlo, ver que son rigurosos, que tienen sentido lo que proponen y sustentarlo después en su trabajo. Tiene que seguir el método científico y no puede dejar de hacer lo que hacía antes, aunque ahora esas búsquedas bibliográficas y esas revisiones sistemáticas las pueda hacer más rápido.

M.D.V: Tanto una tesis como un TFG como un TFM llevan un proceso. En el caso de un doctorado, de años, en los que tú haces un seguimiento con tu director o directora de tesis, pasas una serie de borradores, presentas, vas contando cómo vas avanzando en la investigación.... y lo mismo con los TFG, los TFM. Hay un seguimiento de la rigurosidad, de la labor que hace el tutor, que debería garantizar que no aparezca un documento de la nada que nadie ha revisado nunca, que no sabemos quién lo ha escrito ni por qué. Y luego tenemos el último punto, que es la defensa. Imagínate que todo hubiera fallado, si los mecanismos de control han fallado por completo. Pues tenemos un jurado. Tenemos personas que tienen que decidir si ese trabajo cumple o no cumple con esas competencias. Hay un siguiente filtro donde también se puede detectar, y ahí ya hay preguntas que se pueden activar y se pueden hacer al autor para saber que efectivamente es el autor de esa investigación.

"Las recomendaciones de la UNESCO son muy claras: el enfoque en la educación tiene que mantener el principio de agencia humana"

P. Las dos sois expertas en innovación en el campo de la Educación. Al margen de la Inteligencia Artificial, qué otras ideas principales se manejan en ese campo, ¿de qué otras cosas se hablan?

M.D.V: Antes de que irrumpiera la IA generativa, estábamos hablando del metaverso todo el día, de la realidad virtual y la realidad aumentada. Por fin iba a bajar el coste del dispositivo y al final íbamos a poder conseguir dispositivos baratos que permitan una nueva forma de interactuar a nivel educativo. Imagínate en prácticas, en educación online, en la que podamos realmente interactuar como desarrollo competencial. Una experiencia educativa en realidad virtual no tiene por qué ser muy realista, pero tiene que ser formativa para que tenga algún sentido lo que hagamos. Pero claro, los costes ahora son prohibitivos. Entonces, ¿en qué momento el dispositivo será asequible de poder realizar esas piezas, esas experiencias de aprendizaje? Luego ha habido otras cosas que han ido impactando en los últimos años. Cuando yo estudiaba no había pensado en que la impresión 3D fuera a revolucionar absolutamente nada. Ya tenemos 'labs' como una cosa muy natural dentro de las universidades o de los colegios. La robótica, que es algo como que nadie se plantea ya como novedad. Si hasta he ido a un cole para mi hijo de tres años y me han explicado el programa de robótica que tiene para niños...

P. Con todos estos ingredientes y estos cambios, ¿cómo se imaginan la docencia universitaria en 20 o 30 años?

M.D.V: La normativa europea es muy clara. Las recomendaciones de la UNESCO son muy claras, y es que el enfoque en la educación tiene que ser centrado en el ser humano y siempre mantener el principio de agencia humana. Es decir, la evaluación siempre la tiene que hacer un ser humano. La IA puede tener una tarea, puede tener una labor consultiva, puede ser un acompañante 24/7... pero yo no veo, y a lo mejor me estoy equivocando y estoy muy liada, que la figura del profesor vaya a desaparecer.

M.A.R: El profesor, tal y como lo vemos no va a desaparecer del aula, no puede hacerlo porque la enseñanza es una actividad humana, de sociabilización. Hablamos de enseñanzas y planes de estudios regulados. Otra cuestión ya son títulos propios, certificados profesionales, o aquello que llamamos reskilling o upskilling. Ahí tú ya eres un profesional y quieres algo rápido que te dé información. Ese es otro tipo de formación que también necesitas. A lo mejor ahí ya no hay ese tutor porque tienes integrado tu agente que te va guiando y no necesitas nada más. Pero porque tienes una madurez y has aprendido a aprender. En las etapas iniciales: infantil, primaria, secundaria y en la universidad, no lo vemos.

M.D.V: Y hay una cosa súper interesante, y es que, en esa premisa que decíamos antes de la analítica de aprendizaje, ojalá estas herramientas, mezcladas con la parte de minería de datos y big data, nos ayuden a tener una analítica de aprendizaje que permita al profesor hacer ese seguimiento del proceso individualizado de aprendizaje de cada estudiante de una manera fácil y visual, que no requiera tanto esfuerzo y ayude a hacer un mejor seguimiento y hacerle mejores recomendaciones.

P: ¿Algún tema o idea que se nos haya quedado en el tintero?

M.D.V: Destacar que realmente no existen grandes estudios todavía sobre que la inteligencia artificial potencie el aprendizaje. Todavía no está científicamente contrastado que realmente lo potencie. De hecho hay estudios absolutamente contradictorios. Unos dicen que es fenomenal, otros que causa estrés y fatiga cognitiva. Son estudios muy pequeñitos, de aplicaciones muy concretas, que ponen de relieve que todavía estamos en un momento muy temprano. Estamos en el terreno de la promesa en que nos va a ayudar a aprender mejor, y todos queremos que pase eso.

*Por cierto, la pregunta hecha por IA era: ¿Puede la IA servir de ayuda para personalizar el aprendizaje en entornos masificados como los grados universitarios?