Selon Journal du Geek, un incident diplomatique grave a failli se produire entre les États-Unis et la Chine, suite à une erreur d'analyse commise par un chatbot militaire américain. L'incident a eu lieu ce printemps, alors que les États-Unis étaient engagés dans la guerre au Moyen-Orient. Un navire chinois stationné au large du détroit d'Ormuz a fait l'objet d'une analyse erronée, qui a conclu que le navire transportait des composants destinés à un programme d'armes nucléaires.

L'information était bien sûr fausse, mais l'État-Major américain a bien failli tomber dans le piège. C'est un analyste du renseignement, rattaché au Commandement des opérations spéciales du Pacifique à Hawaï, qui a questionné un chatbot pour obtenir des informations sur le navire. Le chatbot a combiné des données classifiées avec des éléments trouvés librement sur internet et jamais authentifiés, pour en tirer une fausse conclusion.

Ce qu'il faut retenir

  • Un incident diplomatique grave a failli se produire entre les États-Unis et la Chine suite à une erreur d'analyse commise par un chatbot militaire américain.
  • Le chatbot a combiné des données classifiées avec des éléments trouvés librement sur internet et jamais authentifiés.
  • L'armée américaine a évité de justesse une opération massive contre le navire chinois.

Les risques de l'intelligence artificielle

Les outils internes utilisés par l'armée américaine ne sont pour la plupart que des copies des produits commerciaux, simplement maquillées différemment, selon un ancien haut responsable américain. Ce type d'erreur est régulièrement commis par les modèles de langage, il s'agit d'une hallucination, ou quand il invente une information de toutes pièces pour satisfaire la demande de l'utilisateur.

Le secrétaire à la Guerre, Pete Hegseth, veut accélérer le déploiement de l'intelligence artificielle au sein de son ministère, une volonté politique poussée par la crainte d'un retard technologique face à la Chine. L'objectif est clair : Washington craindrait en effet qu'un retard technologique face à la Chine ne devienne une source de vulnérabilité.

Les conséquences de l'incident

L'incident a failli se produire ce printemps, alors que les États-Unis étaient engagés dans la guerre au Moyen-Orient. Des avions étaient déjà en vol et des soldats armés s'apprêtaient à embarquer sur le navire avant que l'ordre ne soit donné de rebrousser chemin après que des responsables aient creusé l'origine du document et découvert la supercherie algorithmique.

Il n'aura fallu que quelques prompts et d'une intelligence artificielle défectueuse pour que l'on assiste aux débuts d'une nouvelle guerre de grande ampleur entre les deux premières puissances mondiales. L'outil avait en réalité combiné des données classifiées avec des éléments trouvés librement sur internet et jamais authentifiés.

Et maintenant ?

Les États-Unis devraient revoir leur stratégie en matière d'intelligence artificielle pour éviter ce type d'erreur à l'avenir. La vigilance de l'armée américaine a permis d'éviter une catastrophe, mais il est clair que les risques liés à l'utilisation de l'intelligence artificielle sont réels et doivent être pris en compte.

Les prochaines semaines et mois seront cruciaux pour déterminer la suite de l'incident et les mesures qui seront prises pour prévenir ce type d'erreur à l'avenir. Il est probable que les États-Unis et la Chine vont renforcer leur coopération pour éviter ce type d'incident et améliorer leur relation diplomatique.

En conclusion, l'incident qui a failli se produire entre les États-Unis et la Chine est un exemple concret des risques liés à l'utilisation de l'intelligence artificielle. Il est essentiel que les pays prennent des mesures pour prévenir ce type d'erreur et améliorer leur coopération pour éviter les conflits.