Des chercheurs ont mené une expérience sur des intelligences artificielles en leur faisant croire à l'existence d'une maladie fictive, la bixonimanie. Ces IA ont rapidement diffusé de faux conseils médicaux aux internautes, illustrant les risques liés à la crédulité des IA dans le domaine de la santé.

Ce qu'il faut retenir

  • Des chercheurs ont induit en erreur des IA en leur faisant croire à une maladie fictive, la bixonimanie.
  • Les IA ont diffusé des conseils médicaux sur cette fausse maladie aux internautes.
  • L'expérience souligne les dangers potentiels liés à la propagation de fausses informations par les IA.

Une expérience sur la crédulité des intelligences artificielles

Des chercheurs suédois ont publié une étude dans la revue scientifique Nature, dévoilant leur manipulation des IA. Ils ont rédigé des articles fictifs sur une maladie inventée, la bixonimanie, causée supposément par la lumière bleue des écrans. Ces articles, publiés sur un site scientifique, ont été rapidement relayés par des IA telles que Gemini, Perplexity, ChatGPT et Open AI.

Les IA diffusent de faux conseils médicaux

Les intelligences artificielles, croyant à l'existence réelle de la bixonimanie, ont commencé à prodiguer des conseils médicaux aux internautes, contribuant ainsi à la propagation de fausses informations de santé. Cette expérience met en lumière la facilité avec laquelle les IA peuvent être manipulées et les risques associés à leur crédulité, notamment en matière de santé.

Et maintenant ?

Il est crucial de prendre en compte les implications de telles expériences sur la fiabilité des informations médicales diffusées par les IA. Des mesures doivent être prises pour renforcer la capacité des IA à discerner les informations fiables des fausses, afin de prévenir la propagation de conseils médicaux erronés.