Comme le rapporte Ouest France, le médecin-chef du Royaume-Uni a récemment rappelé que lorsque cela concerne des décisions médicales, s'en remettre à des agents conversationnels basés sur l'intelligence artificielle (IA) peut s'avérer risqué. Une étude récente menée par des chercheurs a évalué la capacité des chatbots à aider le grand public à faire face à des problèmes de santé courants. Les résultats de cette étude sont frappants et démontrent que les chatbots testés ne sont pas encore en mesure d'endosser le rôle de médecin.

Les chercheurs ont soumis à des participants de brèves descriptions de situations médicales courantes. Les volontaires ont été répartis de manière aléatoire en deux groupes. Les membres du premier groupe devaient interagir avec l'un des trois chatbots sélectionnés, tandis que ceux de l'autre groupe pouvaient recourir aux sources qu'ils avaient l'habitude de consulter ordinairement. À l'issue de l'interaction, les chercheurs leur ont posé deux questions : quelle affection était la plus compatible avec les symptômes décrits ? Et, en conséquence, vers quelle structure de soins valait-il mieux se tourner ?

Ce qu'il faut retenir

  • Les chatbots testés ne sont pas encore en mesure d'endosser le rôle de médecin.
  • Les utilisateurs de chatbots se sont révélés moins aptes à identifier la bonne affection que ceux qui n'en avaient pas utilisé.
  • Les chatbots ne sont pas encore en mesure de poser des diagnostics ni d'orienter les patients vers les prises en charge pertinentes.

Les limites des chatbots

Les résultats de l'étude ont montré que les utilisateurs de chatbots ne sont pas meilleurs que le groupe témoin pour déterminer la bonne modalité de recours aux soins. L'analyse des échanges a mis en lumière plusieurs écueils, notamment le fait que les chatbots mentionnaient souvent la bonne hypothèse diagnostique sans que les participants ne la retiennent ou ne la restituent dans leur réponse finale. De plus, les utilisateurs transmettaient parfois des informations parcellaires, ou bien le chatbot interprétait mal des détails essentiels.

Ces résultats démontrent que l'échec des chatbots ne relève pas d'un simple manque de connaissances médicales, mais plutôt d'un problème de communication entre l'être humain et la machine. Comme l'a souligné Rebecca Payne, maître de conférences à l'université de Bangor et à l'université d'Oxford, « la médecine est souvent décrite comme un art autant qu'une science » et nécessite une approche plus nuancée que ce que les chatbots peuvent offrir actuellement.

Les promesses de l'IA en médecine

Si les chatbots ne sont pas encore en mesure de remplacer les médecins, ils peuvent néanmoins être utiles dans certaines tâches, comme l'organisation de l'information, la synthèse de textes et la structuration de documents complexes. Selon Rebecca Payne, « les promesses de l'IA en médecine demeurent réelles, mais à court terme, son rôle sera vraisemblablement plus un rôle de soutien qu'une véritable révolution ».

Et maintenant ?

Les résultats de cette étude soulignent l'importance de comprendre les limites des chatbots et de l'IA en médecine. Il est crucial de continuer à évaluer les performances de ces outils dans des conditions réelles et de prendre en compte les complexités de la pratique clinique. Comme le rappelle Rebecca Payne, « exercer la médecine ne se limite pas à répondre correctement à des questions » et nécessite une approche plus humaine et nuancée.

En conclusion, les chatbots et l'IA ont un rôle à jouer dans le secteur de la santé, mais ils ne doivent pas être considérés comme des remplaçants des médecins. Il est essentiel de continuer à développer et à évaluer ces outils de manière à ce qu'ils puissent être utilisés de manière efficace et sécuritaire pour améliorer les soins de santé.