Explorando cómo la IA avanza hacia la equidad con la representación de comunidades afroamericanas en la tecnología
ChatGPT es una herramienta de inteligencia artificial (IA) que busca precisión, pero a menudo refleja sesgos culturales que no representan equidad. La comunidad afroamericana ha señalado que esta IA no responde adecuadamente a interrogantes sobre comunidades específicas, tendiendo a un sesgo eurocéntrico.
Cuando se interroga sobre figuras destacadas de la cultura, ChatGPT tiende a mencionar a íconos como Leonardo da Vinci y Miguel Ángel, dejando de lado contribuciones de India, China, África y afroamericanos. John Pasmore, creador de Latimer.AI, un modelo de IA enfocado en personas de color, destaca esta limitación y la necesidad de un enfoque más inclusivo.
La diversidad de la experiencia afroamericana, con sus tradiciones y dialectos, a menudo no está presente en la web, lo que supone un reto para la IA. Pasmore optó por entrenar su IA con fuentes confiables, como Amsterdam News, un periódico histórico de la comunidad negra estadounidense.
Pasmore relató a TechCrunch que al consultar a ChatGPT sobre la red de escape de esclavos, la respuesta fue sobre ‘esclavos fugitivos’, mientras que Latimer.AI habló de ‘personas esclavizadas’ o ‘en busca de libertad’, mostrando la importancia de la elección de palabras y la perspectiva de los datos de entrenamiento. Según Pasmore, su IA piensa en personas negras y de color.
Con miras a la expansión, Pasmore planea llevar Latimer.AI a Escuelas y Universidades históricamente negras (HBCU), ofreciendo una herramienta de IA inclusiva que resuene con las vivencias de estudiantes de color.
Iniciativas similares a Latimer.AI, como ChatBlackGPT y Spark Plug en Canadá, surgen para atender la diversidad lingüística y cultural. En África, nuevas plataformas buscan incluir la riqueza de idiomas y dialectos del continente, marcando el comienzo de una era más inclusiva en la inteligencia artificial.