¿Puede la inteligencia artificial predecir lo que pensamos? Esa es la pregunta que se plantearon Andrés Abeliuk y Vanessa Gaete, integrantes del Departamento de Ciencias de la Computación de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile, junto a Naim Bro, académico de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), en el estudio “Auditing socio-demographic and cross-societal fairness in LLM-simulated public opinion”.
La investigación buscó determinar qué tan bien los modelos de inteligencia artificial pueden predecir respuestas de opinión pública a partir de información demográfica. Los resultados revelaron una diferencia significativa: los modelos logran una mayor precisión al predecir respuestas de opinión pública en Estados Unidos que en Chile.
Respecto de estas diferencias en el desempeño de la inteligencia artificial, el profesor Abeliuk comenta: “Y no porque tenga prejuicios propios, sino porque aprende a partir de datos que pueden reflejar las desigualdades del mundo real”.
¿La razón? Una posible explicación está en los propios datos con los que se entrenan estos modelos. Según el académico, una gran parte de ellos proviene del contexto estadounidense, por lo que a los modelos les resulta más difícil representar otras realidades culturales y sociales, como la chilena.
“Además, mirando en el contexto de Chile, observamos que los modelos cometen más errores al representar a mujeres, personas mayores, personas religiosas y personas con menor nivel educativo”, explica Abeliuk.
Esto podría estar reflejando desigualdades presentes en los datos utilizados para entrenar los modelos, en los que algunos grupos pueden estar menos representados o existir menos información disponible sobre ellos. Cuando estos factores se combinan, las diferencias pueden ser aún mayores.
Los resultados plantean así una pregunta relevante para el desarrollo y uso de la inteligencia artificial: ¿qué tan bien puede representar una IA a una sociedad que no está suficientemente presente en los datos con los que fue entrenada?
Para el equipo de investigación, avanzar hacia sistemas de inteligencia artificial realmente útiles y justos requiere considerar esta diversidad. “En su totalidad, estos resultados muestran que, para que la inteligencia artificial sea realmente útil y justa en nuestras sociedades, necesitamos desarrollar modelos más inclusivos y adaptados a la diversidad cultural y social de países como el nuestro”, concluye el profesor Abeliuk.