D'après Le Figaro, Jacob Coxon, chercheur chez l'un des leaders du secteur, Anthropic, a quitté bruyamment cette industrie le 8 septembre, en formulant dans une salve de tweets viraux sa crainte de voir une IA « tous nous tuer d'ici à la fin de la décennie ». La faute à la progression de systèmes qu'il qualifie de « bientôt surhumains, capables de pirater n'importe quoi (…) et d'acquérir un pouvoir et des ressources réels ». Cette déclaration a été suivie par celle de son collègue Evan Hubinger, responsable de la sûreté d'Anthropic, qui estime à « plus de 10 % » les chances d'une fin du monde imminente.

Ces déclarations sont une illustration de l'adage « Avancer vite et casser des choses », popularisé par Mark Zuckerberg, à l'époque où son réseau social, Facebook, déferlait sur la planète. Cette manière de signifier que l'innovation à la californienne n'est pas affaire de précautions a été intégrée par les nouveaux seigneurs de l'intelligence artificielle.

Ce qu'il faut retenir

  • Jacob Coxon a quitté Anthropic le 8 septembre après avoir exprimé ses craintes sur les dangers de l'IA.
  • Il estime que les systèmes d'IA seront bientôt surhumains et capables de pirater n'importe quoi.
  • Evan Hubinger estime à plus de 10 % les chances d'une fin du monde imminente due à l'IA.

Les dangers de l'IA

Les systèmes d'IA sont de plus en plus avancés et leur progression est rapide. Jacob Coxon a souligné que ces systèmes seront bientôt capables de pirater n'importe quoi et d'acquérir un pouvoir et des ressources réels. Cela pose des questions sur la sécurité et la responsabilité de ces systèmes.

Les chercheurs français ont intégré la leçon de Mark Zuckerberg et avancent rapidement dans le développement de l'IA. Cependant, cela soulève des inquiétudes sur les conséquences potentielles de cette progression.

Les réactions des chercheurs

Evan Hubinger a confirmé les craintes de Jacob Coxon en estimant à plus de 10 % les chances d'une fin du monde imminente due à l'IA. Ces déclarations ont suscité des réactions dans la communauté scientifique et ont mis en évidence la nécessité d'une régulation et d'une surveillance accrue de l'IA.

Les chercheurs français ont souligné l'importance de prendre en compte les risques potentiels de l'IA et de développer des systèmes qui soient sûrs et responsables. Cela nécessite une collaboration entre les chercheurs, les entreprises et les gouvernements pour établir des normes et des réglementations claires.

Et maintenant ?

Les prochaines semaines et mois seront cruciaux pour déterminer la direction que prendra le développement de l'IA. Les gouvernements et les entreprises devront prendre des décisions importantes sur la régulation et la surveillance de l'IA. Il est important de trouver un équilibre entre la progression de l'IA et la sécurité et la responsabilité de ces systèmes.

Les chercheurs français continueront à travailler sur le développement de l'IA, mais avec une attention accrue aux risques potentiels. Il est essentiel de poursuivre les recherches et les développements dans ce domaine pour assurer que l'IA soit utilisée de manière sûre et responsable.

En conclusion, les menaces de l'IA sont réelles et nécessitent une attention immédiate. Les chercheurs français ont souligné l'importance de prendre en compte les risques potentiels de l'IA et de développer des systèmes qui soient sûrs et responsables.