Le Congrès des États-Unis planche actuellement sur une proposition de loi visant à instaurer un mécanisme de contrôle immédiat pour les systèmes d’intelligence artificielle (IA) considérés comme les plus avancés. Ce texte, surnommé le « AI Kill Switch Act », permettrait aux autorités de suspendre temporairement le fonctionnement d’une IA en cas de risque avéré pour la sécurité nationale ou la stabilité économique. Selon Journal du Coin, cette initiative s’inscrit dans un contexte de montée des inquiétudes autour des dérives potentielles des modèles d’IA les plus performants.
Ce qu'il faut retenir
- Un projet de loi américain, le « AI Kill Switch Act », prévoit un bouton d’arrêt d’urgence pour les IA les plus puissantes.
- Les autorités pourraient suspendre un système si celui-ci représente une menace pour la sécurité nationale ou la stabilité économique.
- Cette mesure vise à encadrer les modèles d’IA considérés comme les plus avancés, sans préciser de seuil technique exact.
- Le texte est actuellement en discussion au Congrès, sans calendrier précis pour son adoption.
Un dispositif inspiré par les craintes des dérives de l’IA
La proposition de loi, portée par plusieurs élus des deux bords politiques, répond à une série d’alerte lancées par des experts et des responsables gouvernementaux. Parmi les risques évoqués figurent la désinformation à grande échelle, les cyberattaques automatisées ou encore les décisions algorithmiques incontrôlables. « L’objectif n’est pas d’étouffer l’innovation, mais de prévenir des dommages irréversibles », a expliqué un membre de la commission chargée de l’examen du texte. Selon Journal du Coin, ce mécanisme s’inspirerait des protocoles de sécurité existants dans d’autres secteurs industriels, comme l’aéronautique ou le nucléaire.
Quels systèmes seraient concernés ?
Le texte ne définit pas encore de critères techniques précis pour identifier les IA éligibles au « kill switch ». Cependant, il est question de modèles capables de générer du contenu autonome à une échelle massive, ou de systèmes capables de prendre des décisions sans supervision humaine dans des domaines critiques. Une liste indicative pourrait inclure les modèles de langage les plus performants, les systèmes de recommandation ultra-personnalisés ou encore les IA utilisées pour la gestion de réseaux électriques. « On parle ici d’une minorité de systèmes, mais aux impacts potentiellement colossaux », a précisé un conseiller du Congrès.
Un débat technique et éthique en suspens
L’adoption de ce mécanisme soulève plusieurs questions, notamment sur sa faisabilité opérationnelle. Qui serait en charge de décider d’activer l’arrêt d’urgence ? Sous quel délai ? Quelles garanties pour éviter les abus ou les erreurs ? Autant de points qui restent à trancher. Par ailleurs, certains observateurs soulignent que cette approche pourrait freiner la recherche en IA aux États-Unis, au profit de concurrents étrangers. « L’enjeu est de trouver un équilibre entre sécurité et innovation », a rappelé un chercheur en intelligence artificielle contacté par Journal du Coin.
Reste à voir si ce « bouton rouge » suffira à rassurer les critiques, ou s’il ouvrira la voie à de nouvelles tensions géopolitiques autour de l’intelligence artificielle.
Le projet de loi prévoit des garde-fous, comme la nécessité d’une décision collégiale et motivée. Cependant, des experts craignent que des gouvernements puissent être tentés d’utiliser ce outil pour censurer des contenus ou des acteurs spécifiques, d’où les débats en cours sur les contre-pouvoirs à mettre en place.
