El encuentro, desarrollado los días lunes 11 y martes 12 de mayo en el Auditorio Eugenio Chahuán, buscó instalar una reflexión crítica sobre tecnologías que transforman la producción de conocimiento, la docencia, la investigación y las formas contemporáneas de comprender el lenguaje, la agencia, la conciencia y la responsabilidad.
Organizado por el Centro de Estudios de Ética Aplicada, CEDEA, y el Centro de Estudios Cognitivos, el seminario propuso pensar la inteligencia artificial más allá de sus usos instrumentales. A través de mesas de discusión, un taller especializado y un conversatorio de cierre, la actividad abrió preguntas sobre responsabilidad algorítmica, sesgos, integridad académica, modelos de lenguaje, opacidad tecnológica, agencia, conciencia y los efectos sociales y políticos de estas herramientas.
Para Manuel Rodríguez Tudor, director del Centro de Estudios Cognitivos, la aparición de nuevas tecnologías siempre amplía las capacidades humanas de acción, pero también instala preguntas que no pueden ser respondidas por la tecnología misma. “La pregunta más básica es la pregunta ética y política sobre si debemos hacer eso que ahora podemos hacer. Esa es una pregunta que la propia tecnología no puede responder y requiere de una reflexión desde las humanidades”, señaló.
Desde esta perspectiva, el seminario permitió abordar la IA no solo como una herramienta, sino como un fenómeno que interpela las concepciones mismas de lo humano. Rodríguez sostuvo que, en el caso de las inteligencias artificiales actuales, no se trata únicamente de interrogar sus usos correctos o incorrectos, sino también de examinar cómo estos desarrollos obligan a reconsiderar categorías fundamentales como inteligencia, lenguaje, conocimiento, comprensión y conciencia.
“Conocer los orígenes y el funcionamiento de las inteligencias artificiales es imprescindible para poder empezar a hacer las preguntas adecuadas acerca del impacto de estas nuevas tecnologías”, afirmó. A su juicio, la reflexión ética permite pensar qué se debe hacer con aquello que hoy es técnicamente posible, mientras que los problemas fundacionales permiten comprender el fenómeno en una dimensión más amplia.
Uno de los ejes centrales del encuentro fue la discusión sobre responsabilidad, sesgos y agencia algorítmica. En este punto, Rodríguez advirtió que las acciones mediadas por inteligencia artificial tienden a diluir la responsabilidad en una cadena extensa de decisiones, que incluye a programadores, empresas, usuarios, fuentes de entrenamiento y formas de implementación. “La responsabilidad de las acciones tomadas con uso de inteligencia artificial se diluye en una cadena demasiado larga de pequeñas decisiones”, explicó.
Este problema, agregó, se relaciona con una interrogante filosófica decisiva: si corresponde o no atribuir agencia a las herramientas de IA. En el ámbito académico, esa pregunta se vuelve especialmente compleja. “Es legítimo preguntarse si la IA puede ayudarme a mejorar mi trabajo académico o si al usarla estoy dejando de ser el autor de ese trabajo; o si el uso de IA corresponde al de una herramienta o al de un colaborador”, planteó.
Desde el Centro de Estudios de Ética Aplicada, su coordinador, Pablo Salvat, subrayó que la IA debe ser pensada en relación con los procesos de modernización tecnológica y sus efectos sobre las instituciones y los modos de vida. “Cada vez más el proceso de modernización y su expresión en nuevas tecnologías se hace presente y tiende a modificar no solo la marcha de las instituciones, sino también los modos de vida de los ciudadanos”, sostuvo.
Para Salvat, pensar la inteligencia artificial exige ir más allá de sus aplicaciones inmediatas en docencia, investigación o gestión. Implica examinar las condiciones sociales, políticas y económicas que hacen posible su desarrollo, así como las consecuencias que produce en distintos sistemas de la sociedad. “En el límite, implica pensar en torno al significado mismo de la técnica, sus alcances y límites”, afirmó.
En esa línea, el académico enfatizó que la IA no puede ser comprendida como una tecnología neutral. “No hay neutralidad axiológica ni en la IA ni en las otras tecnologías de la información y la comunicación”, señaló. Por ello, sostuvo que una reflexión interdisciplinaria debe interrogar tanto la estructura y el funcionamiento de estos sistemas como las finalidades para las cuales han sido desarrollados.
Salvat también advirtió sobre los riesgos de reducir la discusión sobre inteligencia artificial a criterios de eficiencia, innovación o productividad. Según indicó, la IA surge y se expande en un contexto de capitalismo global desregulado, donde esas nociones operan como “palancas primordiales del sistema económico social dominante”. Desde esa lectura, la pregunta ética no puede separarse de las relaciones de poder que atraviesan la producción y el uso de estas tecnologías.
Entre los riesgos señalados, mencionó posibles efectos negativos en los procesos educativos, desde la enseñanza básica hasta la educación superior; impactos en los medios de comunicación, al facilitar formas de manipulación de la conciencia ciudadana; y consecuencias sociopolíticas vinculadas al fortalecimiento de elites tecnocráticas que tienden a desvalorizar la deliberación democrática en nombre de la eficiencia.
La dimensión cognitiva del debate también ocupó un lugar relevante en el seminario. Rodríguez recordó que las redes neuronales artificiales fueron desarrolladas originalmente como modelos para comprender el funcionamiento del cerebro humano y que hoy constituyen una referencia importante en neurociencia cognitiva. Por ello, sostuvo, la IA obliga a repensar la propia investigación sobre la mente.
“Frente a la afirmación de que si bien las IA pueden tener mejores resultados que los humanos no lo hacen como nosotros, la investigación acerca de la mente parte de la base de que no sabemos exactamente cómo lo hacemos”, explicó. “No sabemos cómo es que aprendemos, comprendemos y usamos el lenguaje, cómo es posible que tengamos estados conscientes, en qué consiste ser un agente”.
En ese sentido, planteó que las inteligencias artificiales pueden abrir una vía para pensar empíricamente capacidades que han sido tradicionalmente abordadas desde la filosofía, la psicología, la lingüística y la neurociencia. “Si aceptamos que al menos parte importante de nuestra vida mental tiene que ver con el funcionamiento del cerebro, entonces las IA nos abren una ventana a pensar con evidencia empírica acerca de nuestras propias mentes y sus capacidades cognitivas”, afirmó.
Ambos académicos coincidieron en que la universidad pública tiene una responsabilidad específica frente a estas transformaciones. Para Rodríguez, una institución comprometida con el país debe hacerse cargo de una reflexión profunda sobre una tecnología que ya está cambiando las dinámicas de interacción humana. Esto involucra tanto la docencia como la investigación, la producción de conocimiento, la integridad académica, la democratización del saber y la reproducción de sesgos.
Salvat, por su parte, sostuvo que la universidad debe formar una mirada crítica desde al menos dos dimensiones. La primera, vinculada al pensamiento crítico como capacidad de interrogar el mundo y cuestionar sus condiciones de posibilidad. La segunda, asociada a la formación ética, entendida no como una prédica normativa, sino como una capacidad de juicio sobre lo bueno y lo malo, lo justo y lo injusto, lo correcto y lo incorrecto.
“No podemos perder la capacidad de preguntarnos y asombrarnos por el mundo que nos rodea y sobre nuestro lugar en él”, señaló Salvat. Desde su perspectiva, la reflexión ética resulta indispensable para evaluar los límites de la acción tecnológica y sus consecuencias en la vida común.
La colaboración entre el CEDEA y Cognitivos fue destacada como uno de los principales aportes del seminario. Para Rodríguez, comprender el fenómeno de la inteligencia artificial requiere la participación de múltiples disciplinas: ingeniería, neurociencia, artes, psicología, psiquiatría, historia, ciencia política, lingüística, pedagogía, filosofía y literatura. “Todes estamos llamados a contribuir en una mejor comprensión de la naturaleza y los efectos de este cambio”, afirmó.
Salvat coincidió en el valor de esta articulación interdisciplinaria. “Se producen importantes sinergias temáticas entre la dimensión de lo ético y la dimensión epistémica. Conocimiento y reflexión socioética se necesitan mutuamente para dar cuenta de estas nuevas realidades”, sostuvo.
Tras el seminario, ambos centros proyectan continuar el trabajo conjunto. Según indicó Salvat, CEDEA y el Centro de Estudios Cognitivos se encuentran evaluando nuevas formas de colaboración interdisciplinaria, tanto entre ambos centros como hacia la Facultad y sus escuelas. “En esto tenemos que hacer camino al andar”, señaló.
De esta manera, el seminario “Pensando la IA. Desafíos éticos y problemas fundacionales” se constituyó como una instancia para abrir preguntas que exceden el entusiasmo tecnológico o la resistencia abstracta frente a la innovación. Desde las humanidades, la ética aplicada y los estudios cognitivos, el encuentro permitió situar la inteligencia artificial como un problema decisivo para pensar el presente: sus posibilidades, sus límites y sus consecuencias sobre la vida social, la universidad y las formas contemporáneas de comprender lo humano.
