Publicado
en SciDevNet
https://www.scidev.net/america-latina/news/sesgos-en-ia-impactan-en-la-ciencia-de-america-latina/
12/03/26
Sesgos en IA impactan en la ciencia de América Latina
De un vistazo
- Los
grandes modelos de lenguaje son más precisos en
español ibérico que latinoamericano - Traducciones
deficientes, calcos del inglés y
exceso de simplificación afectan a la ciencia - Especialistas
plantean la necesidad de que
América Latina tenga sus propios modelos de lenguaje
Por: Aleida
Rueda
[CIUDAD DE MÉXICO, SciDev.Net] Pese a los avances en
inteligencia artificial (IA), los grandes modelos de
lenguaje
(LLM por sus siglas en inglés), como Mistral y ChatGPT,
operan bajo una estructura lingüística y cultural desfavorable a
América Latina, que impacta en la búsqueda y generación de
conocimiento en los idiomas de la región.
Una investigación liderada
por especialistas de instituciones
chilenas revela que estos sistemas ofrecen respuestas
con distintos niveles de precisión en función del tipo de
idioma y conocimiento consultado.
El grupo creó LatamQA, base de datos de más de 26 mil
preguntas sobre la cultura de 20 países latinoamericanos
—hechos históricos, comida, música, expresiones locales,
memoria e identidad— para detectar si los LLM presentaban
sesgos al tratar contextos culturales de la región.
El equipo hizo esas preguntas en español latinoamericano,
español ibérico, portugués brasileño, e inglés, y encontró
que los LLM funcionan mejor en español ibérico que en
español latinoamericano. Además, la fiabilidad de las respuestas
en todos los idiomas disminuye cuando son preguntas sobre
rasgos culturales menos visibles.
Así, mientras los modelos son mucho más precisos para rasgos
culturales de Puerto Rico, Panamá, Venezuela, Brasil y Ecuador,
sucede lo contrario para El Salvador,
Paraguay, Nicaragua,
Guatemala y Perú.
Según el artículo, el conocimiento “válido” se concentra en
Europa Occidental y América del Norte, porque los datos de
entrenamiento de estos modelos provienen mayoritariamente
de países del llamado “Norte Global”, lo que propicia sesgos
positivos hacia rasgos asociados con la cultura occidental.
“Este fenómeno genera desigualdad y sobrerrepresentación
de esas culturas comparada con la de otras regiones menos
representadas”, dijo a SciDev.Net Valentín Barriere, uno de
los
autores del artículo y profesor en el Departamento de Ciencias
de la Computación de la Universidad de Chile.
Como estos modelos se usan en la vida diaria, sus sesgos
impactan
también en la ciencia, porque “plantea el riesgo de ignorar dinámicas
sociales y significados locales esenciales para la investigación
regional”, afirmó.
Pablo von Stecher, doctor en Lingüística e investigador
independiente del Consejo Nacional de Investigaciones Científicas y
Tecnológicas de Argentina, quien no participó en el estudio, consideró
que uno de esos impactos puede verse en la traducción automática de
investigaciones científicas.
“Al traducirlas del inglés, la IA reproduce al español
formas y
estructuras propias del inglés. Esto puede generar una
inseguridad lingüística, porque uno piensa: ‘entonces
mi variedad tiene menos valor o tiene menos prestigio’”,
comentó a SciDev.Net.
Von Stecher calificó al fenómeno como una hegemonía
lingüística
que jerarquiza ciertas lenguas o variedades sobre otras.
Él ha analizado las
respuestas automáticas de Gmail
concluyendo que tienen sesgos lingüísticos porque calcan
del inglés frases como “suena bien” (sounds good) o
“se ve bien” (looks good), que resultan ajenas a
muchas variedades del español latinoamericano.
Rachel Turba, investigadora postdoctoral de la
Pontificia Universidad Católica de Rio Grande do Sul,
en Brasil, coincidió en que estos sesgos son una
forma de colonialismo que afecta a quienes
no dominan el inglés.
“Los sesgos en los LLM importan porque no todos
los investigadores hablan o escriben inglés con fluidez.
Es un desafío de acceso: hay que pagar cursos, tutorías
y servicios de traducción que las editoriales no ofrecen,
y por eso pueden depender
más de la inteligencia artificial”, precisó a SciDev.Net.
Turba es coautora de un estudio publicado
este año
que analiza las desigualdades que enfrentan las
personas científicas del sur, en comparación
con las del norte, debido a barreras lingüísticas
y de financiamiento.
Otro impacto recae en la redacción científica.
Según Von Stecher, los modelos operan como un
instrumento lingüístico que dice cómo se debe escribir,
pero “están formulados por intereses que no tienen
que ver ni con la ciencia ni con la lengua,
sino con el negocio, con lo que sea lo más sencillo,
más reproducible, y más fácil de acceder y traducir”.
Por menos sesgos
Los especialistas coincidieron en que sí es
posible reducir estos impactos al “localizar”
la construcción de datos y
no delegar la alimentación
de los LLM a actores ajenos a la región, que
pueden pasar por alto la riqueza y complejidad
sociocultural latinoamericana.
Según Barriere, se pueden crear otras bases de datos
de referencia, similares a LatamQA, pero con
recolección de datos en contextos cotidianos como
periódicos, televisión o materiales audiovisuales,
para reducir sesgos sobre rasgos culturales muy locales.
Un ejemplo es LatamGPT,
modelo de lenguaje
entrenado con datos de América Latina.
Coordinado por el Centro Nacional de Inteligencia
Artificial de Chile (CENIA), el proyecto articula
al mundo académico, el sector público y
organizaciones especializadas de 15 países:
13 de América Latina y el Caribe,
más dos externas a la región.
El 10 de febrero fue anunciada su última versión.
“Se liberará como una base de códigos, datos
y archivos entrenados para que desarrolladores
puedan adaptarla a usos específicos”,
dijo a SciDev.Net. Rodrigo Durán, gerente de CENIA.
Cuenta con un corpus de más de 300 mil millones
de unidades mínimas de información (token)
organizadas en diez áreas temáticas
—desde ciencias duras hasta artes, medicina, política
y pueblos originarios—, “que constituye en sí mismo un
recurso científico de enorme valor para la
investigación regional”, aseguró Durán.
“Será genial ver cada vez más IA y LLM desarrollados
en nuestra región”, concluyó Turba.
También insistió en que las empresas que ya
las desarrollan tengan equipos diversos:
“si no tienes otras miradas, quedas cegado por
tus propios privilegios y no ves
un problema cuando lo hay”.
Este artículo fue producido por la
edición de América Latina y el Caribe de SciDev.Net
