Margaret Mitchell lidera la creación de un conjunto de datos para evaluar sesgos en modelos de IA multilingües
Margaret Mitchell, reconocida por su trabajo en la identificación y mitigación de sesgos en herramientas de inteligencia artificial generativa, ha sido una figura clave en el desarrollo de un nuevo conjunto de datos diseñado para evaluar cómo los modelos de IA perpetúan estereotipos en diversos idiomas y culturas. Anteriormente, Mitchell fundó el equipo de IA ética en Google junto con Timnit Gebru, antes de que ambos fueran despedidos de la empresa. Actualmente, lidera la ética de la IA en Hugging Face, una startup de software enfocada en herramientas de código abierto.
SHADES: Un conjunto de datos para evaluar sesgos en IA multilingüe
El conjunto de datos, denominado SHADES, tiene como objetivo facilitar la evaluación y análisis de sesgos en modelos de IA. Este proyecto surgió del BigScience Workshop, una iniciativa internacional que reunió a investigadores de todo el mundo para entrenar el primer modelo de lenguaje grande y abierto. El resultado de este esfuerzo colaborativo fue BLOOM, un modelo de lenguaje multilingüe con 176 mil millones de parámetros, entrenado en el corpus ROOTS, que abarca 46 idiomas naturales y 13 lenguajes de programación. (arxiv.org)
La importancia de abordar los sesgos en múltiples idiomas y culturas
La mayoría de los esfuerzos para mitigar los sesgos en IA se han centrado en el inglés y en estereotipos presentes en culturas específicas. Sin embargo, dado que los modelos de IA se implementan en diversos idiomas y contextos culturales, es esencial abordar los sesgos que pueden surgir en diferentes regiones. Mitchell destaca que, al entrenar modelos en múltiples idiomas, es crucial considerar las particularidades culturales para evitar la propagación de estereotipos problemáticos.
La creación de SHADES y la colaboración en proyectos como BigScience representan pasos significativos hacia una inteligencia artificial más ética y culturalmente consciente, asegurando que los modelos de IA reflejen y respeten la diversidad global.
