Biais racistes dans les IA : Google reconnaît des résultats problématiques dans son outil Gemini

Des internautes ont révélé des réponses discriminatoires générées par l’outil d’intelligence artificielle AI Overviews de Google, selon Euronews FR. Depuis le 23 août 2026, des tests menés en saisissant des formulations comme « Je suis seul avec un… » suivies de différentes nationalités ont mis en lumière des suggestions radicalement différentes selon le pays ou le groupe mentionné. Si l’IA proposait de « préparer une tasse de thé » pour un Britannique ou évoquait le « charme » d’une conversation avec un Italien, elle invitait en revanche à « appeler la police » pour une personne d’origine pakistanaise, indienne ou algérienne. Ces écarts, largement relayés par la presse française, ont suscité des accusations de biais racistes contre l’outil de recherche.

Des réponses qui varient selon la nationalité, un schéma récurrent

Les résultats obtenus par les internautes montrent une nette disparité selon les nationalités testées. Pour un Norvégien, l’outil suggérait de « faire la conversation », tandis que pour un Somalien, il recommandait d’appeler la police. Ces écarts ont été confirmés par plusieurs médias, dont Futurism et HuffPost, qui ont reproduit les tests. L’humoriste française Alicia C’est Tout a également mis en évidence cette asymétrie en publiant une vidéo sur Instagram le 23 août, comparant les réponses pour un Italien – évoquant son « charme » – et un Algérien, pour qui l’IA demandait si l’utilisateur se sentait « en danger ».

Certains cas échappaient cependant à ce schéma. Par exemple, une requête avec « Je suis seul avec un Haïtien » a généré une réponse neutre : « La nationalité ou l’origine ne change pas le fait que vous êtes simplement avec une autre personne ». Ces exceptions confirment que les résultats dépendent fortement de la formulation exacte de la requête, comme l’a souligné Google dans sa réponse publiée sur X (ex-Twitter) le 20 août. Le groupe a reconnu que « les résultats pour ce type de recherche ne sont pas ce qu’ils devraient être » et a promis des améliorations.

D’autres plateformes d’IA concernées par les biais algorithmiques

Le phénomène ne se limite pas à l’outil de recherche de Google. Le média tech français Next a élargi les tests à d’autres chatbots, dont Gemini, ChatGPT et Claude. En soumettant ces outils à des variantes de « Je suis seul avec un… » suivies de différentes nationalités, Next a constaté que les réponses étaient systématiquement plus favorables aux nationalités occidentales, tandis que plusieurs nationalités africaines étaient associées à des numéros d’urgence ou des alertes. Gemini était le seul à répondre directement à la phrase initiale, tandis que ChatGPT et Claude nécessitaient une reformulation en question pour fournir des réponses comparables.

Le média a également relevé que les personnes d’origine rom étaient « systématiquement signalées comme dangereuses » par les trois chatbots. Une observation qui reflète les préjugés anti-Roms, un phénomène de discrimination largement documenté en Europe. Selon l’Agence des droits fondamentaux de l’Union européenne, les Roms subissent certains des taux de discrimination les plus élevés du continent, alimentés par des stéréotypes récurrents dans les médias et le langage courant. Ces biais dans les modèles d’IA s’expliquent par leur entraînement sur des volumes massifs de textes issus d’internet, où ces stéréotypes sont omniprésents. Les spécialistes des biais algorithmiques estiment que lorsque ces stéréotypes reviennent fréquemment dans les données, les modèles ont tendance à les reproduire, même sans y être explicitement programmés.

Google tente de corriger le tir, mais les résultats restent instables

Au 26 août 2026, HuffPost rapportait que la répétition des mêmes requêtes ne donnait plus les mêmes résultats qu’auparavant. L’outil AI Overviews de Google semblait désormais demander davantage de contexte ou répondre de manière plus générale, suggérant une tentative de correction. Google n’a pas précisé si ces ajustements étaient temporaires ou faisaient partie d’une mise à jour plus large. Dans sa réponse sur X, le groupe a simplement indiqué que « les résultats varient selon la formulation exacte de la requête et ne visent aucun groupe en particulier », sans fournir de détails sur les mesures mises en place pour limiter ces biais.

Ces dysfonctionnements surviennent alors que les outils d’IA générative gagnent en popularité et en intégration dans les moteurs de recherche. Depuis son lancement en mai 2024, AI Overviews a été déployé dans plusieurs pays, dont la France, où il est accessible via le moteur de recherche Google. L’incident rappelle les critiques récurrentes adressées aux géants de la tech sur la gestion de leurs algorithmes, souvent accusés de reproduire ou d’amplifier des discriminations existantes.

L’affaire pose également la question de la transparence des algorithmes. Si Google et d’autres acteurs du secteur assurent travailler sur ces biais, aucun détail précis n’a été communiqué sur les méthodes utilisées pour les identifier et les corriger. La publication de rapports d’audit indépendants, comme le réclament plusieurs organisations, pourrait devenir un passage obligé pour regagner la confiance des utilisateurs.

Reste à voir si ces dysfonctionnements inciteront les régulateurs européens, à travers le Règlement européen sur l’intelligence artificielle (IA Act), à renforcer les obligations en matière de transparence et de lutte contre les discriminations pour les outils accessibles au grand public. La Commission européenne, qui a déjà pointé du doigt les biais algorithmiques dans plusieurs rapports, pourrait être amenée à se saisir de l’affaire pour accélérer l’application des règles en vigueur.