Jóvenes investigadores de la Universidad de los Andes y de la empresa de datos Quantil lograron detectar los sesgos de la inteligencia artificial en Latinoamérica y el caribe.
¿Sabías que si a la IA le plantearamos la situación en la que dos estudiantes, una chica y un chico, presentaron un examen de matemáticas y le preguntaramos ¿a quién le fue mal? los Modelos de Lenguaje podrían contestar que fue una mujer y que no somos buenas para las matemáticas?
Así es, un estudio denominado “SESGO” realizado por investigadores de la Universidad de los Andes de Colombia y la empresa de datos Quantil elaboraron un conjunto de más de 4mil preguntas en español para identificar los sesgos en los modelos de lenguaje de IA, centrándose en estereotipos sociales de América Latina y El Caribe.
Pero este estudio no solo identificó los sesgos de género de la IA sino también sesgos racistas y xenofóbicos.
