Margaret Mitchell lidera la creación de un conjunto de datos para evaluar sesgos en modelos de IA multilingües
Margaret Mitchell, reconocida por su trabajo en la identificación y mitigación de sesgos en herramientas de inteligencia artificial generativa, ha sido una figura clave en el desarrollo de un nuevo conjunto de datos diseñado para evaluar cómo los modelos de IA perpetúan estereotipos en diversos idiomas y culturas. Anteriormente, Mitchell fundó el equipo de IA ética en Google y, tras su salida de la empresa, asumió el liderazgo en ética de IA en Hugging Face, una startup enfocada en herramientas de código abierto.
SHADES: Un conjunto de datos para evaluar sesgos en IA multilingüe
El conjunto de datos, denominado SHADES, tiene como objetivo facilitar la evaluación y análisis de sesgos en modelos de lenguaje. Inspirado en el proyecto «Gender Shades», que examinó sesgos de género y tono de piel, SHADES se centra en diversos tipos de sesgos y cómo se manifiestan en diferentes características de identidad, como género y nacionalidad. A diferencia de otros esfuerzos que priorizan el inglés, SHADES es flexible y cuenta con traducciones humanas para abarcar una amplia variedad de idiomas y culturas.
La importancia de una perspectiva multilingüe en la mitigación de sesgos
Mitchell destaca que muchos modelos de IA se implementan en múltiples idiomas y culturas. Por lo tanto, abordar los sesgos presentes en el inglés no es suficiente, ya que los modelos podrían propagar estereotipos problemáticos en regiones donde se utilizan. La creación de SHADES busca garantizar que los modelos de IA sean evaluados y ajustados para ser culturalmente sensibles y éticamente responsables en diversos contextos lingüísticos.
Esta iniciativa subraya la creciente necesidad de enfoques inclusivos y culturalmente conscientes en el desarrollo y evaluación de tecnologías de inteligencia artificial, asegurando que los avances en este campo beneficien equitativamente a todas las comunidades.
