Valeria Odetti y los desafíos de la IA en el aula: "No es para qué la usaste, sino qué decisiones tomaste en ese uso"

En el contexto de su próxima visita a la Semana de la Docencia de la Universidad de Chile, donde participará en distintas instancias, Valeria Odetti, especialista con más de veinte años de trayectoria en educación y tecnología —que actualmente investiga cómo la IA generativa transforma las prácticas docentes universitarias—, adelanta parte de sus ideas a lo largo de una conversación, donde aborda, entre otras cosas, cómo la inteligencia artificial pasó de ser vista como una amenaza prohibida a convertirse en una herramienta cotidiana, pero con ausencia de marcos normativos en la educación superior latinoamericana; sus primeras impresiones tras finalizar el trabajo de campo de su investigación; y el rol ético de la universidad pública en este contexto.

-Tras la irrupción masiva de la inteligencia artificial, pasamos por una primera fase de bastante temor, incluso de prohibición. Superada esa primera etapa, ¿en qué punto nos encontramos hoy en Latinoamérica respecto a la presencia de la inteligencia artificial en educación superior? 

El primer momento fue de sospecha, ¿no?, de instalar una tecnología como una amenaza, casi como una cosa muy oscura. En este momento estamos en un punto donde el uso real se extendió muchísimo. El problema es que estamos todavía muy lejos de pensar las regulaciones o normativas sobre ese uso. Entonces, todavía hay lo que los argentinos llamamos “fingir demencia”. O sea, todavía hay un oscurantismo. No decimos del todo que la estamos usando; o lo decimos apenas, o lo decimos en entornos privados y como no hay reglas del juego, empieza a ser un problema. 

Terminé la semana pasada el trabajo de campo de mi tesis doctoral y una de las cosas que veía era esto. Una docente lo dijo con todas las letras. Si nosotros no empezamos a hablar de cómo usar la inteligencia artificial, lo que estamos enseñando es a mentir, porque todos la estamos usando y cada uno se las arregla cómo puede. Entonces, ese sería el punto. Hay una preocupación genuina. Creo que hay una preocupación que se desplazó de cómo la controlamos a cómo la integramos, pero todavía es una preocupación que no tiene formas. Esto que va a pasar de la Semana de la Docencia es una muy buena manera de empezar a decir: tomemos esto en profundidad, institucionalmente. 

-Hay, en general, un acuerdo en que el control, la prohibición, no es el camino. Pero, ¿cuál es la alternativa pedagógica para construir una cultura de integridad académica basada en la confianza y en el sentido del aprendizaje? 

Llegamos a esta tecnología con aprendizajes de tecnologías previas, y nosotros ya creímos que la adopción crítica o pedagógica dependía del docente y que el docente iba a poder. Digo, ya fuimos ilusos en muchas cosas. Entonces, para mí un primer punto es ponerla en el centro del aula como objeto de estudio. Qué es, qué hace, cómo lo hace, qué efectos produce, a qué intereses económicos y políticos responde. Y eso implica ponerla como objeto de estudio en el aula con nuestros estudiantes, pero también ponerla como objeto de estudio con los docentes para alfabetizarlos en entender de qué estamos hablando cuando la usamos. Y entonces después sí, empezar a usarla aprendiendo justamente que a partir de aprender cómo es esta tecnología, qué efectos tiene en nosotros mismos y tomando decisiones sobre qué cosas estamos dispuestos a transformar y cuáles no.

El año pasado hubo una investigación que tuvo mucha repercusión, del MIT, que fue la de la deuda cognitiva. Ellos, en un experimento, demostraron que una persona que se acostumbraba a hacer algo con IA cuando lo tenía que hacer sin IA, no sabía por dónde empezar o disminuía mucho su capacidad de hacer. Pero también hubo otro trabajo en Italia, que de lo que habló es que en realidad lo que nosotros delegamos no es la capacidad cognitiva de hacer algo, sino la toma de decisiones. Entonces, eso es lo que tenemos que poner sobre la mesa y discutir. No es para qué la usaste, sino qué decisiones tomaste en ese uso, qué decidiste que la máquina haga y qué conservaste para vos mismo; sobre todo porque en el nivel superior ya hablamos de personas adultas. El problema es que hoy eso también está en discusión. Pero, supongamos que estamos en un nivel más ideal. Me parece que ese es el punto: el uso pedagógico tiene que ser un uso que ponga en evidencia cuáles son los procesos cognitivos que no debiéramos delegar, aún cuando la tecnología pueda hacerlo por nosotros. 

- Recién finalizado el trabajo de campo de su investigación, ¿cuáles han sido los principales hallazgos o sorpresas? 

Me sorprendió, primero, que también la adopción es bastante masiva. Aunque los docentes todo el tiempo, en el discurso, dicen que les preocupan los estudiantes, no se ponen en el lugar de usuarios; y la preocupación sobre eso es una de las cosas que tengo que pensar cómo incluirla en el texto de la tesis, pero me pareció muy fuerte. Ellos mismos no aparecen en la preocupación, después de que los usos que hacen son de las tareas más complejas del trabajo docente. 

Mi tesis tiene que ver con pensar o con mirar cómo es el vínculo entre la IA y la docencia. La pregunta que me importaba era ¿quién toma las decisiones didácticas finalmente? Y lo primero que podría decir es que la usan para tareas muy complejas: planificar, diseñar actividades y diseñar materiales didácticos, que son tareas que requieren mucha toma de decisión. Eso por un lado y después, por otro lado, que no tuvieron ninguno de los docentes en general, en la mayoría de los casos de las de las universidades a las que pertenecían, no hay normativa y no hubo tampoco ningún tipo de capacitación o alfabetización. O sea,  la puerta de entrada más importante son los influencers y GPT. Esa es la puerta de entrada y después, yo le llamo “el colega alfabetizador”: lo ví a tal, entonces le dije enseñame, pero casi un uno a uno. En algunos casos sí, la propia búsqueda de instancias de formación, es decir, no la propusieron sus instituciones. Y algo que apareció el otro día, que me pareció muy interesante, voy a seguir indagando sobre eso, es el referente, el tipo al que siempre siguen, al que yo leo y lo leo que un día dijo: yo la uso. Entonces la validación de una autoridad moral intelectual diciendo: pará yo la uso. Pero sí se ve, claramente, la ausencia de la institución liderando esta transformación. 

-Hablando del diseño de actividades, de experiencias de aprendizaje, tiene un libro que se llama "El diseño como mediación" y en la Semana de la Docencia va a guiar un taller para abordar los desafíos del juicio pedagógico. En ese sentido, ¿dónde debe ponerse hoy el juicio pedagógico al momento de rediseñar las experiencias de aprendizaje y de evaluación? 

Justamente tiene que ver con tener en claro cuáles son los procesos cognitivos que nosotros necesitamos formar. En muchos casos hay un problema en el nivel superior, que es que el nivel superior se organizó siempre por disciplinas y por los contenidos que tenían que ser enseñados para las disciplinas. Y en general, los procesos cognitivos quedaron invisibilizados en eso.

Hoy tenemos un problema y es que muchos de esos procesos cognitivos tácitos los hace la inteligencia artificial, los puede hacer. Después podemos discutir si los puede hacer mejor, peor, con qué profundidad, no importa, pero lo puede hacer. Entonces, el problema es que nosotros tenemos que cambiar el foco y empezar a pensar cuáles son los procesos cognitivos que los estudiantes tienen que poder desarrollar para después trabajar en el contexto que sea que les toque trabajar. Entonces, ahí hay una discusión y hay un desafío enorme para pensar, sobre todo la estructura de las carreras y de las materias. Entonces, es preguntarse qué tiene que hacer para aprender esto, no qué tiene que aprender, o sea, qué tiene que hacer. Y ahí el diseño como mediación, en esta idea de cómo diseñamos esa mediación para que pueda interactuar con ese contenido, pero con el foco en las capacidades que tiene que desarrollar. 

-Y en este contexto, ¿cuáles serían las capacidades intrínsecamente humanas que la docencia universitaria debe priorizar y defender en el aula hoy día? 

Primero la creatividad. Necesitamos empezar a abordar la realidad con categorías o con ideas que no sean las que ya existen, porque justamente la inteligencia artificial trabaja sobre lo que ya existe, recicla todo el tiempo lo que ya hicimos, no tiene la capacidad de crear algo de cero. Entonces la creatividad. Esa capacidad de imaginar cosas que no existen, esa es una capacidad que tenemos que desarrollar. 

La otra es la capacidad de abordar problemas complejos. Hoy en el mundo, por ejemplo, hay un problema sumamente complejo que tiene que ver con la baja de la tasa demográfica, o sea, están naciendo menos niños y está envejeciendo la población. Eso nos toca directo en los sistemas educativos, en los sistemas de salud, en los sistemas de cuidado. Bueno, cómo abordar ese problema complejo desde todas las disciplinas que están involucradas, que uno puede pensarlo desde el urbanismo, la arquitectura, las políticas públicas, el derecho, la educación, la salud. O sea, tener espacios en las universidades donde se puedan discutir problemas complejos, donde ahí sí la inteligencia artificial es una gran aliada porque nos permite simular mundos, manejar grandes volúmenes de datos y hacer modelos de simulación. Para mí esa es una capacidad sumamente importante. 

La otra capacidad fundamental es la capacidad de verificación, de validación de fuentes, de contenidos, de contrastar, de poder historizar de dónde viene un concepto, qué relevancia tiene. Para mí eso es un foco que, más allá de que en muchos casos la inteligencia artificial lo pueda resolver, nosotros vamos a tener que supervisar. Entonces hay que aprender primero a hacerlo, no puedes supervisar aquello que en general no sabes hacer. 

-En su proyecto “El sombrerero”, se utiliza el juego para pensar la enseñanza. En ese sentido, ¿qué espacio hay para lo lúdico, la experimentación y el error en la educación superior en este nuevo contexto?

Eso tiene que ver con un laburo que yo hago hace 20 años, que tiene que ver con pensar lo lúdico como oportunidad para la enseñanza. Y para mí el problema es que la universidad no lo tiene. O sea, la universidad tiene poco espacio para el juego y creo que esa es una gran innovación que las instituciones pueden hacer. Pensemos algo simple: los niños pequeños juegan, juegan a la mamá, juegan al papá, juegan a Messi, no sé, juegan a ser una estrella de rock. Son formas de probar el mundo adulto, de ver qué es, de ir aprendiendo qué es el mundo adulto. Bueno, nosotros necesitamos en la universidad empezar a crear situaciones. Si no le quieren decir lúdicas, le podemos decir performáticas, pero que nos permitan poner en juego ese rol profesional que queremos formar. Por eso, la resolución de problemas, por eso la creatividad, por eso la capacidad, de poner en acto el contenido y no solamente de teorizarlo. Y para mí ahí hay un camino buenísimo a ampliar, porque además hay generaciones nuevas, mucho más predispuestas a este tipo de formatos (...) pero creo que es algo que falta, que tenemos que desarrollar, así como desarrollamos otros laboratorios. 

-La conferencia inaugural de la Semana de la Docencia se enfoca en la gobernanza crítica. La inteligencia artificial, sabemos, no es neutral, está atravesada por sesgos, por lógicas económicas, por brechas. ¿Qué rol ético y político le corresponde asumir a la universidad pública latinoamericana frente a estas tecnologías? 

La primera cuestión es ponerlo sobre la mesa, decir esto, abrir esas tecnologías que son una caja negra (...) una colega a la que yo aprecio mucho, Virginia Iturburu, por ejemplo, hizo su tesis doctoral sobre los discursos de la UNESCO sobre la inteligencia artificial, y uno de los puntos fue mirar quién financiaba cada documento que la UNESCO publicaba diciendo que la inteligencia artificial iba a traer ventajas a la educación. Abrir esa caja negra y mostrar justamente cuáles son los juegos de poder que hay detrás de toda esta cuestión big tech, de gurúes y cuánto dinero hay poniendo al servicio de la construcción de imaginarios que nos dicen que el futuro, si no es tecnológico, no es, y si no es automatizado. Entonces, uno de los roles centrales de la universidad es abrir esa caja negra y hacer circular discursos que la muestren y la evidencien. 

Y después construir reglas del juego. Porque cuando construimos reglas del juego al interior de la universidad, de manera crítica, estamos formando a los futuros profesionales que van a interactuar en un mundo de otra manera. Entonces no es solo para el uso interno, no es solo que nos permite tomar mejores decisiones pedagógicas, es sobre todo pedagógico, pero en términos de la formación profesional que también queremos hacer. Es decir, vamos a legar al mundo profesionales con mayor conciencia de todo lo que se pone en juego cuando adoptamos crítica o acríticamente una tecnología. Entonces creo que el rol de la universidad es ese en este momento. 

-En este momento de hiperaceleración tecnológica, la Universidad de Chile tiene este espacio de la Semana de la Docencia, donde se invita también a hacer una pausa, a reflexionar y a encontrarnos presencialmente, ¿por qué es importante que las y los docentes se den hoy este espacio de debate colectivo y presencial?

Justamente para mí —y por eso también creé el sombrerero y por eso se llama diseñar, pensar, enseñar— porque una de las cosas es poner una suerte de cortafuegos analógico que nos permita hacer una pausa y pensar. Y por eso para mí vale la pena la presencialidad. Cuando me tocó liderar este año unas jornadas en mi institución, también decidí que fueran presenciales. O sea, tenemos que poder salirnos de esa aceleración que maneja otro. En el que lo único que podemos hacer nosotros es acelerarnos, porque si no nos caemos, bueno, hagamos una pausa activa, una pausa que corte esa aceleración un momento y sentémonos a pensar, a escucharnos. Hay muchas más ideas y usos y prácticas interesantes a las que no accedemos porque el algoritmo no nos las muestra. 

Construyamos otra manera. Hay que vincularnos porque, además, hay algo que sí me parece importante: la inteligencia artificial es una tecnología de hipervigilancia que, como todas las tecnologías que están en esta idea de la aceleración del tiempo, la deslocalización del espacio, buscan romper el lazo social, buscan que tu vínculo sea entre vos y la tecnología y no entre vos y el que está en la oficina de al lado o el vecino o no sé. Entonces, poder generar espacios donde el encuentro siga valiendo la pena y donde fortalezcamos los lazos sociales entre humanos, sin mediación tecnológica es una cosa fundamental para preservar lo común. No hay sociedad posible si no tenemos bases comunes y las bases comunes están con el de al lado, con el que si te sentís mal te va a llevar al médico. 

-Para finalizar la entrevista, ¿con qué se va a encontrar la comunidad universitaria y cuáles son las expectativas propias para la próxima Semana de la Docencia de la Universidad de Chile?

La verdad es que estoy muy honrada de que me hayan convocado y muy contenta de poder estar ahí, así que tengo expectativas de poder generar un vínculo interesante, de que podamos charlar y nutrirnos todos. ¿Con qué se van a encontrar? Seguramente en la conferencia voy a tratar de abordar algunas de las ideas que compartí con vos. Voy a tratar de mostrar cómo funciona este dispositivo de control social, que es la inteligencia artificial, pero también mostrarlo no para sentir que quedamos atrapados ahí, sino justamente para entender que la salida depende de nosotros y que tenemos que poder construir otros diálogos y otras mediaciones que no nos dejen en un lugar pasivo ante estos discursos. Y después en el taller vamos a abordar cuestiones más prácticas de ok, pero cómo lo hacemos.