La start-up française Mistral AI figure en dernière position d’un classement semestriel portant sur la gestion des risques associés à l’intelligence artificielle, établi par le centre de réflexion Future of Life Institute. Selon Le Figaro, cette évaluation place Mistral derrière plusieurs acteurs chinois, dont DeepSeek (8ᵉ) et Alibaba Cloud (6ᵉ), ainsi que derrière xAI (7ᵉ). Anthropic arrive en tête du classement, suivie par OpenAI, Google DeepMind et Meta.
Ce qu'il faut retenir
- Mistral AI est classée dernière sur neuf entreprises évaluées par le Future of Life Institute dans son classement semestriel sur la gestion des risques liés à l’IA.
- Le groupe français est devancé par des acteurs chinois comme DeepSeek, Alibaba Cloud et Z.ai, ainsi que par xAI.
- Anthropic occupe la première place du classement, devant OpenAI, Google DeepMind et Meta.
- Mistral AI conteste la méthodologie utilisée, estimant qu’elle est « inadaptée » aux modèles dits « open-weight », qu’elle développe largement.
- Le Future of Life Institute souligne que Mistral n’a pas répondu à son questionnaire, contrairement à la plupart des autres entreprises évaluées.
Un classement établi selon six critères d’évaluation
Ce classement semestriel, publié par le Future of Life Institute, repose sur l’analyse de sept chercheurs et spécialistes de la gouvernance de l’IA. Six catégories distinctes sont prises en compte : l’évaluation des risques, les mesures de sécurité mises en place, ou encore les problèmes actuels posés par ces systèmes. Pour réaliser ce classement, les experts s’appuient à la fois sur des données publiques et sur les informations communiquées directement par les entreprises concernées.
Parmi les risques évalués figurent notamment la possibilité de détournement des modèles d’IA pour des cyberattaques ou pour réaliser des tâches potentiellement nuisibles à des humains. Mistral AI, dont les modèles sont intégrés pour la première fois dans cette évaluation, se retrouve en neuvième position, derrière des entreprises comme DeepSeek (8ᵉ), Alibaba Cloud (6ᵉ) ou encore Z.ai (5ᵉ). À l’inverse, Anthropic truste la première place, devant OpenAI, Google DeepMind et Meta.
Mistral AI critique une méthodologie conçue pour les modèles « fermés »
Dans un communiqué, Mistral AI a contesté la méthodologie employée par le Future of Life Institute, estimant qu’elle « pénalise les modèles open-weight ». Ces modèles, que Mistral développe et publie largement, sont téléchargeables et modifiables par les utilisateurs. Pour la start-up française, cette approche permet aux entreprises de calibrer et de déployer leurs outils en fonction de leurs besoins spécifiques, tout en intégrant des contrôles de sécurité adaptés à leur contexte.
« Les entreprises qui publient des modèles open-weight décident comment ils sont calibrés et déployés, et peuvent bâtir les contrôles de sécurité spécifiques que nécessite leur contexte », a expliqué Mistral AI, soulignant que cette flexibilité n’est pas prise en compte dans l’évaluation du Future of Life Institute. DeepSeek, Alibaba et Z.ai, qui publient également des modèles open-weight, se retrouvent eux aussi dans les premières places du classement.
Le Future of Life Institute s’étonne de l’absence de réponse de Mistral AI
Le président du Future of Life Institute (FLI), Max Tegmark, a commenté ces résultats en soulignant que « traditionnellement, l’Europe est aux avant-postes en matière de sécurité de l’IA, avec tout leur travail sur le règlement européen » adopté en mars 2024. « Je m’attendais vraiment à ce que Mistral ait fait davantage dans ce domaine », a-t-il ajouté. « Nous nous conformons au règlement européen sur l’IA », a assuré Mistral AI, précisant que le FLI avait contacté la start-up « de nombreuses fois ».
« Mistral a décidé de ne même pas répondre à notre questionnaire, à la différence de la plupart des entreprises », a déclaré Max Tegmark.
Cette absence de réponse contraste avec la démarche des autres acteurs du secteur, qui ont tous participé à l’enquête menée par le centre de réflexion. Mistral AI, qui se présente comme un champion européen de l’IA, a donc choisi de ne pas communiquer d’informations supplémentaires sur ses pratiques en matière de gestion des risques, malgré les sollicitations répétées du FLI.
Un débat qui dépasse le simple classement
Ce classement semestriel du Future of Life Institute s’inscrit dans un contexte plus large de régulation de l’intelligence artificielle en Europe. Le règlement européen sur l’IA, adopté en mars 2024, vise à encadrer le développement et l’utilisation des systèmes d’IA, notamment en imposant des exigences strictes en matière de transparence, de sécurité et de respect des droits fondamentaux. Mistral AI affirme se conformer à cette réglementation, mais le classement du FLI interroge sur la capacité des acteurs européens à répondre aux attentes en matière de gestion des risques.
Pour le Future of Life Institute, ce classement met en lumière les lacunes potentielles des entreprises, y compris européennes, dans la gestion des risques liés à l’IA. Max Tegmark a ainsi appelé à une meilleure implication des acteurs du secteur pour renforcer la sécurité et la transparence des systèmes d’intelligence artificielle.
Alors que le débat sur la régulation de l’IA s’intensifie en Europe, ce classement semestriel rappelle l’importance d’un dialogue constructif entre les régulateurs, les chercheurs et les entreprises pour garantir un développement sûr et responsable de ces technologies.
Le Future of Life Institute évalue six critères principaux : l’évaluation des risques, les mesures de sécurité mises en place, les problèmes actuels posés par les systèmes d’IA, la transparence des modèles, leur accessibilité et leur conformité aux réglementations en vigueur.
