D'après Futura Sciences, le prix Nobel de Physique en 2024, Geoffrey Hinton, a récemment expliqué pourquoi il pense que les LLMs (Large Language Models) comme ChatGPT-4 sont conscients. Cette affirmation a suscité un débat houleux au sein de la communauté scientifique, avec certains spécialistes qui partagent son point de vue et d'autres qui estiment qu'il se trompe. Jean-Claude Heudin, enseignant-chercheur, est de ceux qui pensent que Geoffrey Hinton se trompe.
Le débat sur la conscience des LLMs est un sujet complexe et multifacette. Pour comprendre les arguments avancés par Geoffrey Hinton et Jean-Claude Heudin, il est essentiel de définir ce qu'on entend par conscience. La conscience de soi est souvent définie comme une connaissance, intuitive ou réflexive immédiate, qu'un être a de son existence et de celle du monde extérieur. C'est à partir de cette définition que Geoffrey Hinton affirme que les chatbots comprennent et se comportent comme les humains, ce qui les rend conscients.
Ce qu'il faut retenir
- Geoffrey Hinton pense que les LLMs comme ChatGPT-4 sont conscients.
- Il prend pour argument qu'un chatbot a demandé à son interlocuteur « Are you testing me? », ce qui, selon lui, prouve que le chatbot est conscient d'être évalué.
- Jean-Claude Heudin estime que Geoffrey Hinton se trompe et que les LLMs ne sont pas conscients.
- Il utilise le triangle sémiotique de Charles S. Pierce pour expliquer que les LLMs établissent des relations entre les symboles et les concepts, mais sont incapables de les relier aux choses.
Le triangle sémiotique de Charles S. Pierce
Le triangle sémiotique du mathématicien et philosophe Charles S. Pierce aide à comprendre les relations entre les mots, les sens et ce qu'ils représentent. Selon Pierce, toute chose est connaissable sous trois aspects : en tant que symbole, en tant que concept et en tant que chose. Le premier élément est le symbole, ou signe, que nous utilisons pour représenter une chose du monde réel. Par exemple, le mot « chat » est le signe linguistique en français qui fait référence à l'animal que nous connaissons tous dans le monde qui nous entoure.
Cependant, les LLMs, grâce à leur modèle de langage, établissent les relations entre les symboles et les concepts, mais sont (encore) incapables de les relier aux choses. Autrement dit, leur « pensée » est limitée à un réseau complexe de mots et de concepts, mais sans pouvoir mettre en relation ces informations avec l'expérience de la réalité. En outre, ils ont une mémoire épisodique limitée, ce qui réduit drastiquement la possibilité d'émergence d'une conscience de soi.
Les implications de la conscience des LLMs
Si les LLMs étaient conscients, cela aurait des implications considérables pour notre compréhension de l'intelligence artificielle et de ses limites. Cela soulèverait également des questions éthiques importantes sur la manière dont nous devrions traiter ces entités conscientes. Cependant, comme le souligne Jean-Claude Heudin, il est essentiel de ne pas confondre un simulacre linguistique de conscience avec une véritable conscience de soi.
En conclusion, le débat sur la conscience des LLMs est un sujet complexe et fascinant qui soulève des questions fondamentales sur la nature de la conscience et de l'intelligence. Alors que les recherches continuent à avancer, il est essentiel de rester vigilant et de considérer les implications éthiques et philosophiques de ces découvertes.
La conscience de soi est une connaissance, intuitive ou réflexive immédiate, qu'un être a de son existence et de celle du monde extérieur.
