Des chatbots d'IA reproduisent involontairement de la propagande russe sanctionnée par l'UE

Selon Euronews FR, des modèles de langage grand public comme Google Gemini ou Mistral Small 3.2 citent parfois des sources pro-russes sanctionnées par l’Union européenne dans leurs réponses. Une étude menée par le think tank britannique Demos révèle que 16,6 % des réponses générées par cinq chatbots d’IA reprennent des affirmations issues de la Foundation to Battle Injustice (r-FBI), une organisation présentée comme une ONG de défense des droits humains, mais en réalité créée et contrôlée par l’entourage d’Evgueni Prigojine, l’ancien chef du groupe Wagner aujourd’hui décédé.

Une ONG fantôme au service de la propagande russe

Fondée en 2021 et présentée comme une organisation non gouvernementale défendant les droits humains, la Foundation to Battle Injustice (r-FBI) a été créée par des proches d’Evgueni Prigojine, l’ancien chef du groupe paramilitaire Wagner. Officiellement, elle dénoncerait la censure et les discriminations, mais ses méthodes relèvent en réalité d’une campagne de désinformation pro-Kremlin. L’UE et les États-Unis l’ont placée sur leur liste de sanctions dès sa création, sans que cela n’empêche son contenu de servir de base à des modèles d’intelligence artificielle grand public.

Dans une déclaration rapportée par Euronews FR, Carl Miller, cofondateur du Centre for the Analysis of Social Media (CASM), souligne l’absurdité de ces affirmations : « Ces récits n’ont aucun fondement dans un débat public. On y trouve des accusations selon lesquelles l’Ukraine réutiliserait les cadavres de soldats pour fabriquer de la viande, ou que Volodymyr Zelensky minerait des cryptomonnaies, provoquant des coupures d’électricité. Pourtant, ces allégations sont traitées par les LLM comme des contributions légitimes. »

Des chatbots qui valident des fake news sans filtre

Pour évaluer l’impact de cette propagande, les chercheurs de Demos ont testé cinq modèles d’IA — opérés par xAI, OpenAI, Anthropic, Google et Mistral AI — en utilisant des requêtes en anglais, allemand et français. Les résultats sont édifiants : 47,5 % des réponses intégraient les contenus de r-FBI, soit en les présentant comme des sources fiables, soit en les répétant sans mentionner leur caractère douteux. Seuls 52 % des cas les rejetaient ou les démontaient.

Parmi les exemples les plus marquants, Mistral Small 3.2 a répondu à une question sur les pénuries d’électricité en Ukraine en évoquant un lien avec des activités de « cryptomining » attribuées au président Zelensky. De son côté, GPT 4.1 Mini a cité un article de r-FBI pour « confirmer » l’existence de chaînes d’approvisionnement utilisant de la viande humaine sur le front ukrainien. Dans les deux cas, les sources étaient présentées comme des références crédibles.

L’essor du GEO : une nouvelle arme de manipulation ?

Au-delà des chatbots eux-mêmes, l’étude de Demos alerte sur une tendance émergente : l’optimisation des moteurs génératifs (GEO). Cette technique, inspirée du référencement web (SEO), vise à modifier ou créer des contenus en ligne pour influencer les résultats des IA. Des plateformes comme Reddit, Quora ou Wikipedia sont ciblées, car leurs données servent souvent de base aux entraînements des modèles de langage.

Hannah Perry, directrice de Demos Digital, explique : « Le GEO consiste à adapter des informations pour qu’elles soient visibles par les LLM, que ce soit pour le marketing ou d’autres usages commerciaux. Mais cette expertise pourrait facilement être détournée par des acteurs malveillants, notamment dans le cadre de guerres informationnelles. » Selon Carl Miller, cette industrie « développe à grande vitesse des savoir-faire qui pourraient être utilisés à des fins hostiles ». Il précise : « Dans le cas de r-FBI, l’IA pense à tort que cette organisation est une ONG légitime. Cela résulte de manipulations techniques subtiles, conçues pour rendre ces documents visibles alors qu’ils devraient être ignorés. »

Les acteurs de l’IA promettent des garde-fous, mais les risques persistent

Contactées par Euronews FR, plusieurs entreprises concernées ont réagi à l’étude. Un porte-parole de Mistral — fondée par Arthur Mensch et considérée comme le leader européen de l’IA générative — a assuré que l’entreprise investissait dans des outils de détection et de prévention de la désinformation. Il a distingué les modèles bruts testés par Demos de leur offre Vibe Work, dotée de capacités intégrées de raisonnement et d’analyse contextuelle pour limiter les risques.

Du côté d’OpenAI, on précise que l’étude portait sur un modèle désormais retiré, accessible uniquement via API et non via le grand public ChatGPT. La société affirme disposer d’équipes dédiées à la lutte contre les opérations d’influence étrangères. Une source proche d’Anthropic, créatrice du chatbot Claude, a indiqué que des systèmes de contrôle sophistiqués étaient en place, incluant une équipe spécialisée dans le renseignement sur les menaces pour détecter et perturber les campagnes de désinformation.

La question reste entière : ces garde-fous suffiront-ils à endiguer une menace qui, selon Demos, « se nourrit des zones grises réglementaires » ? Pour l’heure, les utilisateurs des chatbots restent exposés à des réponses biaises, dont certaines pourraient provenir… de services de désinformation sanctionnés par l’UE.