Aunque pareciera ser una discusión sobre tecnología, el debate sobre la inteligencia artificial generativa —que aún sigue abierto— es, sobre todo, una discusión sobre valores, derechos y formación ciudadana. Esta fue una de las principales conclusiones del panel de discusión “Dilemas éticos y sesgos de la IA generativa en educación superior”, que formó parte de la octava Semana de la Docencia: IA generativa en la docencia universitaria, organizada por el Departamento de Pregrado de la Universidad de Chile.
El panel fue moderado por el profesor Carlos Ossa Swears, decano de la Facultad de Comunicación e Imagen, y contó con la participación de Carla Hermann Avigliano, académica de la Facultad de Ciencias Físicas y Matemáticas; Alberto Cerda Silva, académico de la Facultad de Derecho; y Liliana Fuentes Monsalves, académica de la Facultad de Filosofía y Humanidades, todos de la Casa de Bello.
“Hablar de inteligencia artificial y tecnologías cuánticas es un deber”, señaló Carla Hermann, experta en óptica cuántica, quien ahondó en que la mayoría de los debates éticos en torno a la IA ya existían antes. “Hay cosas que ya existían antes y que de alguna forma la inteligencia artificial lo hace más visible y también aumenta una brecha. ¿A qué voy con esto? el estudiante que en el fondo quiere hacer trampa con su formación lo hacía también antes, tenía formas de hacerlo, o sea, o con el teléfono o con pagarle a alguien para que le hiciera el informe o con incluso contratar algún compañerito que se haga pasar por él en las pruebas”.
En esta misma línea, la académica aseguró que la IA viene a aumentar las brechas, especialmente porque quienes tienen más recursos pueden pagar mejores versiones de estas tecnologías. En ese sentido, llamó a las universidades a repensar qué es lo que realmente certifica la universidad, ya que "debería certificar conocimiento y no simplemente información" y “no te deberían dar un título por algo que la IA pueda hacer”.
Por su parte, Alberto Cerda también asegura que “ninguno de los dilemas que nos suscita la inteligencia artificial es un dilema nuevo, son dilemas preexistentes. Piensen, por ejemplo, en toda la discusión en torno a sesgo algorítmico, la discusión sobre igualdad o desigualdad es una discusión de larga data en la sociedad”.
“La discusión en torno a la creatividad, a la a la originalidad, no es una discusión reciente, ya los griegos, de hecho, sancionaban el plagio. Lo que siempre se ha discutido es cuál es la extensión del plagio, de la atribución, es atribuirse a sí mismo una obra preexistente o atribuirse la idea de algún pensador preexistente, pero los entornos puede que hayan variado”, indica el académico de la Facultad de Derecho.
Liliana Fuentes también aseguró que en esta discusión sobre IA "no es importante cuál herramienta, sino cómo usarla y cómo usarla de tal manera que esto sea una cuestión que nos va a servir, pero que a la vez sitúa la inteligencia artificial solamente como una especie de esclavo a mi servicio y no de que me hace todo el trabajo”.
Al establecer una analogía entre el capitán Kirk y Spock de “Star Trek”, la académica del Departamento de Estudios Pedagógicos aseguró que la clave al momento de usar la IA está en el “pensamiento crítico, también relacionado con lo estratégico, o sea, el para qué, la meta, el objetivo, esa cuestión la define uno, no la va a definir la inteligencia artificial. Y ahí es donde nosotros tenemos que empoderarnos mucho más fuertemente para definir claramente qué es lo que quiero, para qué la quiero usar y en ese sentido podemos establecer un diálogo con la inteligencia artificial que me va a ir dando datos, datos, datos, datos, datos, pero yo filtro, yo elijo, yo selecciono, yo defino, es mi trabajo, es mi tarea”.
¿De quién es la responsabilidad en el uso de la IA?
La responsabilidad frente al uso de la inteligencia artificial fue uno de los puntos de mayor consenso del panel. La académica Carla Hermann aseguró que esta debe ser compartida entre estudiantes, docentes e instituciones, subrayando que los estudiantes deben responder por el conocimiento que presentan y los profesores por las formas en que evalúan ese aprendizaje. Sin embargo, aseguró que la principal discusión, antes de hablar de responsabilidades, es resolver si su uso es malo o no. En esa línea, llamó a tener mayor gobernanza en la mesa de quienes las entrenan, que está más inclinada al norte global, ya que “los humanos que van a tener la responsabilidad de seguir la labor universitaria de investigación también tienen que tenerlo (pensamiento crítico). El problema es que no lo tenga solo la IA, que no sea algo que podamos solo enseñar, tiene que haber una responsabilidad humana y en el fondo eso tiene que ver mucho más con filosofía, a mi juicio, porque tiene que ver con el valor”.
El académico Alberto Cerda también advirtió que el debate no puede centrarse únicamente en los usuarios de estas herramientas, sino también en quienes las diseñan y desarrollan, ya que “a veces el problema de la responsabilidad se origina en el diseño. Hay muchos riesgos y muchas responsabilidades que no son del profesor, del académico ni de las personas como ustedes y yo, son por diseño y los propios diseñadores han llamado la atención acerca de la necesidad de regular”.
Por su parte, la profesora Liliana Fuentes planteó que la responsabilidad atraviesa todos los niveles, pero el foco está en la necesidad de formar estudiantes capaces de interactuar críticamente, asumiendo las consecuencias, ya que “cuando es decimos, por ejemplo, la inteligencia artificial sí puede reflexionar, sí puede pensar críticamente, claro, sí yo la entreno, pero yo no necesito que la inteligencia artificial haga eso, lo que necesito es que mi estudiante lo haga, que las personas lo hagamos. Entonces, ahí yo hago la diferencia porque si el estudiante se acostumbra a hacer desde la más mínima tarea con la inteligencia artificial, ¿cuándo vamos a llegar a los procesos de reflexión y de pensamiento que queremos desarrollar? O sea, el desarrollo de habilidades que son estos paradigmas más constructivistas y más accionistas propios de fines del siglo XX y del siglo XXI”.
Revisa acá la conversación: