La Direction générale du Trésor (DGT) a mis un terme, mardi 23 juin 2026, à l’expérimentation d’un modèle d’intelligence artificielle développé par le géant chinois Alibaba après des alertes internes sur des « biais chinois » dans ses réponses, selon Le Figaro. Cet outil, baptisé « HéphAIstos » en référence au dieu grec, était testé depuis début juin par une centaine d’agents parmi les 1 300 que compte la DGT, une administration chargée notamment d’élaborer des prévisions économiques et de conseiller le gouvernement sur des sujets sensibles comme la politique commerciale internationale ou la fiscalité.

Ce qu'il faut retenir

  • Un modèle d’IA chinois écarté après seulement quelques jours : le modèle Qwen AI, propriété d’Alibaba, a été débranché par Bercy en raison de biais observés dans ses réponses sur des sujets relatifs à la Chine, confirmant l’interruption de son expérimentation dès le 23 juin 2026.
  • Des « réponses orientées » et des biais pro-Chine pointés du doigt : plusieurs agents de la DGT ont relevé que l’outil fournissait des réponses systématiquement favorables aux positions chinoises sur des questions géopolitiques sensibles.
  • Un remplacement immédiat par un modèle français : un nouvel outil développé par la start-up française Mistral AI a été installé dès le lendemain, mercredi 24 juin, pour poursuivre l’expérimentation.
  • Des craintes sur la sécurité des données : bien que Bercy assure que le modèle fonctionnait hors ligne et sans transmission de données, des experts soulignent que l’analyse complète des risques de sécurité reste limitée pour les modèles d’IA.
  • Un coût de 700 millions d’euros pour la généralisation de l’IA dans l’administration : le plan gouvernemental prévoit la mise en place d’un agent conversationnel, « l’Assistant », pour un million d’agents publics, avec un budget initial de 700 millions d’euros en 2026.
  • Une évaluation mitigée des outils d’IA générative : 75 % des agents ayant testé « l’Assistant » estiment qu’il est utile, mais près des deux tiers jugent que d’autres IA génératives répondent mieux à leurs besoins, selon un rapport de la DITP.

L’outil « HéphAIstos » combinait un agent conversationnel pour assister les hauts fonctionnaires dans leurs tâches quotidiennes, y compris le traitement de données confidentielles, ainsi qu’un système de transcription multilingue développé en interne. Dès les premiers jours de son déploiement, des agents ont signalé des réponses manifestement biaisées en faveur de la Chine, notamment sur des sujets comme la répression des Ouïghours ou le statut de Taïwan. « Le choix de ce modèle est gravissime pour la manière dont on conseille le gouvernement français sur la politique commerciale de la Chine, car il y a nécessairement un biais pro-chinois avec un logiciel développé sous le regard attentif des autorités », a réagi un haut fonctionnaire passé par la DGT, sous couvert d’anonymat. « Il y a des réponses orientées, des biais qui ne sont pas neutres », a-t-il ajouté.

Face à ces alertes, Bercy a pris la décision « d’interrompre immédiatement l’expérimentation après seulement quelques jours », comme l’a confirmé le ministère de l’Économie. Un nouveau modèle, développé par la start-up française Mistral AI, a été installé dès le 24 juin pour prendre le relais. Aucune illustration précise des biais n’a été communiquée par l’administration, mais Le Figaro rappelle que plusieurs chatbots chinois ont déjà été critiqués pour leurs réponses laconiques ou trompeuses sur des sujets sensibles. Côté Alibaba Cloud, la branche IA du groupe, aucun commentaire n’a été transmis.

Les biais sont inhérents à tous les modèles d’IA, mais certains peuvent être « ajoutés volontairement pour éviter de répondre à certaines questions ou pour orienter les réponses », explique Annabelle Blangero, responsable de l’IA responsable chez Ekimetrics, une entreprise spécialisée dans les solutions d’IA pour les entreprises. Par ailleurs, l’utilisation d’un modèle chinois soulevait des questions quant à la sécurité des informations publiques sensibles. Bercy a assuré que le modèle Qwen AI fonctionnait « sans accès à internet ni possibilité de porte dérobée, et donc sans transmission de données à l’extérieur ». Un point crucial, car un modèle déconnecté du réseau est indispensable pour limiter les risques de fuites, même si, comme le souligne Annabelle Blangero, « on n’a pas encore complètement les moyens d’analyser la sécurité de l’ensemble des modèles ».

« Les modèles de Qwen AI sont largement utilisés, et rien n’a été publié sur la sécurité de ce modèle. Il peut rester des portes dérobées, mais c’est extrêmement peu probable. »
Annabelle Blangero, responsable de l’IA responsable chez Ekimetrics

Interrogé sur les raisons ayant conduit au choix initial de ce modèle, Bercy a répondu qu’il n’avait « pas vocation à rester définitivement » et que d’autres outils devaient être testés dans le cadre de l’expérimentation. Cette décision intervient alors que le gouvernement a présenté la semaine précédente un vaste plan de déploiement de l’IA dans l’administration, incluant la généralisation d’un agent conversationnel pour un million d’agents publics. Annoncée par le ministre de l’Action et des Comptes publics, David Amiel, cette généralisation devrait coûter 700 millions d’euros en 2026, avec des dépenses annuelles supplémentaires estimées entre 2 et 4 millions d’euros selon les usages et l’évolution des technologies.

Si 75 % des agents ayant testé « l’Assistant » estiment qu’il est utile pour leur travail, près des deux tiers jugent que d’autres IA génératives répondent mieux à leurs besoins, d’après un rapport d’évaluation de la Direction interministérielle de la transformation publique (DITP). Cette expérimentation s’inscrit dans un contexte marqué par des appels répétés à une « IA souveraine » européenne, notamment lors du salon VivaTech qui s’est tenu quelques jours plus tôt. La France mise sur des acteurs locaux comme Mistral AI pour réduire sa dépendance aux technologies étrangères, un enjeu devenu central dans le débat sur la souveraineté numérique du pays.

Et maintenant ?

L’arrêt de l’expérimentation du modèle chinois marque un tournant dans la stratégie française d’adoption de l’IA dans l’administration. D’ici la fin de l’année, le gouvernement devrait préciser les prochaines étapes de déploiement de « l’Assistant », notamment les critères de sélection des modèles retenus et les garanties de sécurité mises en place. Reste à voir si les promesses de souveraineté technologique, souvent évoquées lors des annonces gouvernementales, se concrétiseront dans les faits, alors que les coûts et les défis techniques restent importants. Le remplacement du modèle chinois par un outil français pourrait aussi servir d’exemple pour les autres administrations souhaitant moderniser leurs outils numériques.

Cette affaire soulève par ailleurs des questions plus larges sur la fiabilité des modèles d’IA étrangers dans un contexte géopolitique tendu. Alors que l’Union européenne renforce ses réglementations sur l’IA, notamment avec le règlement européen sur l’IA (AI Act), la France pourrait être amenée à durcir ses critères de sélection pour les outils utilisés dans les administrations publiques. Pour l’instant, Bercy n’a pas indiqué si d’autres modèles étrangers seraient écartés à l’avenir, mais la priorité affichée reste claire : garantir l’indépendance et la neutralité des outils d’IA utilisés pour éclairer les décisions gouvernementales.