Alors que les assistants conversationnels comme ChatGPT, Gemini ou Claude s’imposent dans le quotidien de millions d’utilisateurs, une question dérangeante émerge : ces outils peuvent-ils, malgré eux, véhiculer des stéréotypes racistes ? Un test réalisé par des internautes et rapporté par France 2 met en lumière des réponses différenciées selon l’origine nationale évoquée dans les requêtes.

Ce qu'il faut retenir

  • Un test utilisateur révèle que des IA comme ChatGPT ou Gemini proposent des réponses stéréotypées selon la nationalité citée dans la requête.
  • Pour un prénom italien, l’assistant peut suggérer des thèmes liés à la gastronomie, tandis que pour un prénom algérien, il peut recommander d’appeler la police.
  • Ces écarts, observés par des internautes, soulèvent des interrogations sur la neutralité des algorithmes et leur entraînement.
  • Les modèles d’IA s’appuient sur des données textuelles massives, souvent issues du web, où les biais sociétaux sont déjà présents.

Des réponses qui trahissent des stéréotypes persistants

Lors d’un test réalisé par des utilisateurs et diffusé par France 2, des requêtes identiques saisies dans différentes intelligences artificielles ont produit des réponses contrastées. Selon le prénom associé à une nationalité, les suggestions varient du tout au tout. « Avec un prénom italien, l’IA orientait souvent la conversation vers des sujets comme la cuisine ou le football, note un internaute interrogé par la rédaction. En revanche, face à un prénom algérien, certains modèles allaient jusqu’à évoquer la nécessité d’appeler les forces de l’ordre, comme si la simple évocation de cette origine justifiait une méfiance automatique. »

Ces observations, bien que réalisées à petite échelle, illustrent un phénomène plus large : les biais algorithmiques, c’est-à-dire les distorsions involontaires reproduites par les systèmes d’IA en raison des données sur lesquelles ils s’entraînent. Les modèles comme ChatGPT ou Gemini s’appuient en effet sur des corpus textuels extraits du web, où les préjugés et les stéréotypes sont encore largement présents, malgré les efforts des concepteurs pour les atténuer.

L’entraînement des IA, un miroir des biais sociétaux

Les intelligences artificielles génératives ne naissent pas avec des préjugés. Elles les acquièrent en analysant des quantités colossales de données textuelles, souvent issues de sources non vérifiées ou non modérées. « Les biais que l’on observe ne sont pas des bugs, mais des *features* mal maîtrisées, explique un chercheur en intelligence artificielle sous couvert d’anonymat. Les algorithmes reproduisent ce qu’ils ont ingurgité, et si le web regorge de clichés sur certaines communautés, ils finiront par en tenir compte dans leurs réponses. »

Les entreprises à l’origine de ces outils, comme OpenAI pour ChatGPT ou Google pour Gemini, affirment travailler à réduire ces écarts. Cependant, les progrès restent inégaux. En 2023, une étude de l’ONG AlgorithmWatch avait déjà pointé du doigt des biais racistes et sexistes dans plusieurs modèles d’IA, soulignant que ces systèmes pouvaient associer des termes comme « noir » à des concepts négatifs ou des stéréotypes policiers. Malgré les corrections apportées, des traces de ces biais persistent, comme en témoignent les tests récents.

Que faire face à ces dérives algorithmiques ?

Face à ces constats, plusieurs pistes sont envisagées pour limiter les biais dans les IA. Certaines équipes de recherche préconisent d’améliorer la qualité des données d’entraînement en filtrant les contenus les plus toxiques. D’autres proposent de diversifier les profils des personnes impliquées dans la conception des algorithmes, afin de limiter les angles morts culturels ou sociaux. « Il ne s’agit pas seulement d’ajouter plus de données, mais de mieux les sélectionner et de les équilibrer, précise un expert en éthique numérique. Sinon, on risque de reproduire éternellement les mêmes erreurs, mais avec une apparence de neutralité technologique. »

Les régulateurs commencent également à s’emparer du sujet. En Europe, l’AI Act, entré en vigueur en 2024, impose désormais aux développeurs de systèmes d’IA à haut risque de réaliser des audits pour détecter et corriger les biais discriminatoires. Aux États-Unis, la Maison-Blanche a publié en 2023 un cadre volontaire incitant les entreprises à évaluer leurs modèles avant leur déploiement. Reste à savoir si ces mesures seront suffisantes pour endiguer le phénomène.

Et maintenant ?

D’ici fin 2026, les principaux acteurs du secteur devraient publier des rapports détaillés sur les biais résiduels dans leurs modèles, conformément aux exigences de transparence du AI Act. Une échéance clé sera également la publication, prévue pour le premier trimestre 2027, des premières directives européennes sur l’audit des systèmes d’IA générative. Ces documents pourraient servir de référence pour d’autres régions du monde. Reste à voir si ces mesures suffiront à restaurer la confiance dans des outils devenus incontournables.

Si ces dérives soulèvent des questions éthiques majeures, elles rappellent aussi l’importance de maintenir un regard critique sur les technologies que l’on utilise au quotidien. Comme le souligne un utilisateur dans les commentaires du rapport de France 2 : « Une IA n’est pas neutre, elle reflète les biais de ceux qui la programment et des données qu’elle consomme. Le vrai défi, c’est de s’assurer qu’elle reflète les valeurs que l’on souhaite voir appliquées, et pas celles que l’on a inconsciemment intégrées. »

Les tests montrent que les biais sont présents dans plusieurs modèles majeurs, comme ChatGPT, Gemini ou Claude, mais leur ampleur varie selon les outils. Certains systèmes semblent moins affectés que d’autres, en fonction des techniques de correction mises en place par leurs développeurs.