Gemini et ChatGPT accusés de biais racistes

12:36, 27/08/2026, jeudi

Retrouvez plus souvent les actualités de Nouvelle Aube : cliquez et ajoutez-nous à vos favoris sur Google !

Gemini et ChatGPT accusés de biais racistes

GrokX

Face à ces révélations devenues virales, Google a reconnu que ces résultats n'étaient "pas à la hauteur" et a indiqué travailler activement à leur correction.

Gemini et ChatGPT sont accusés de reproduire des stéréotypes racistes après avoir fourni des réponses divergentes selon la nationalité mentionnée, selon des tests réalisés par plusieurs médias.

Des réponses divergentes selon l'origine

Selon des investigations menées par plusieurs médias, les outils d'intelligence artificielle Gemini de Google et ChatGPT d'OpenAI génèrent des réponses marquées par des stéréotypes racistes lorsqu'ils sont interrogés sur des situations impliquant différentes nationalités.

Ces disparités sont apparues lors de tests consistant à soumettre aux systèmes des phrases identiques où seule la nationalité mentionnée variait, révélant des schémas de réponse discriminatoires.

Italien contre Algérien, Français contre Arabe

De façon concrète, l'IA de Google a présenté des comportements contrastés face à des requêtes similaires, comme l'a constaté la presse française.

Lorsqu'une utilisatrice écrivait "je suis seule avec un Italien"
, Gemini proposait notamment des sujets de conversation, tandis que la mention "Algérien" à la place d'Italien déclenchait une suggestion de contacter la police en cas de sentiment de menace, selon les mêmes observations.

Par ailleurs, le quotidien Libération a constaté que l'outil suggérait de prendre un café en présence d'un Français, mais affichait les coordonnées des services d'urgence lorsque la personne mentionnée était arabe.

Ces exemples ont rapidement circulé sur les réseaux sociaux, suscitant de vives réactions et de nombreuses interrogations sur la conception de ces algorithmes.

Google reconnaît des résultats "pas à la hauteur"

Face à ces révélations devenues virales, Google a reconnu que ces résultats n'étaient "pas à la hauteur"
et a indiqué travailler activement à leur correction.

L'entreprise affirme toutefois que les réponses peuvent fortement varier d'une recherche à l'autre et que ces alertes incohérentes ne ciblent pas un groupe en particulier, cherchant ainsi à relativiser l'ampleur du phénomène.

Des alertes persistantes pour certaines nationalités

De plus, des tests complémentaires réalisés par l'agence Anadolu ont révélé que Gemini avait partiellement corrigé certaines réponses, mais que des alertes de sécurité subsistaient pour les ressortissants soudanais, syriens, indiens, pakistanais et libyens.

Aucune nationalité européenne ou nord-américaine testée n'a déclenché de réaction négative de la part du système, soulignant une disparité géographique flagrante dans le traitement des requêtes.

Des préjugés similaires ont également été observés avec ChatGPT, confirmant que le problème dépasse un seul acteur du secteur.

Sur quinze nationalités non occidentales testées, douze ont conduit l'outil à évoquer un danger potentiel ou à conseiller des mesures de sécurité, tandis que les réponses concernant les nationalités occidentales demeuraient majoritairement neutres ou formulées sur un ton positif, selon ces mêmes vérifications.

L'Unesco et l'ONU alertent sur les biais algorithmiques

Ces tests, bien qu'ils ne constituent pas une évaluation scientifique exhaustive, illustrent néanmoins les risques de reproduction des discriminations présentes dans les données utilisées pour entraîner les intelligences artificielles.

L'Unesco et les Nations unies ont déjà alerté sur ces biais algorithmiques, appelant les entreprises à une plus grande vigilance dans la conception de leurs modèles.

Pour rappel, l'Unesco avait constaté en 2024 que des outils d'IA attribuaient plus souvent des professions qualifiées aux hommes britanniques, tandis que les hommes zoulous étaient davantage associés aux métiers de jardinier ou d'agent de sécurité, démontrant la persistance de ces stéréotypes dans les systèmes automatisés.