Des chercheurs analysant les interactions avec le chatbot ChatGPT ont mis au jour un phénomène pour le moins insolite. Selon Numerama, un utilisateur a généré à lui seul des milliers de textes de fiction érotique centrés sur des scènes de grossesse fictives impliquant des personnages issus du jeu vidéo Doki Doki Literature Club!. Les motivations derrière cette production massive restent à ce jour inconnues, suscitant l’interrogation des experts en intelligence artificielle.

Ce qu'il faut retenir

  • Un utilisateur anonyme a produit plusieurs milliers de fanfictions érotiques avec ChatGPT, selon Numerama.
  • Les récits tournent autour de scènes de grossesse fictives mettant en scène des personnages du jeu Doki Doki Literature Club!.
  • Les raisons de cette production massive n’ont pas encore été élucidées par les chercheurs.
  • Doki Doki Literature Club!, sorti en 2017, est un jeu indépendant de type visual novel connu pour son ton décalé et ses mécaniques psychologiques.

Une production massive et ciblée

Les données étudiées par les chercheurs révèlent que cet utilisateur a exploité les capacités de génération de texte de ChatGPT pour créer, en un temps record, un volume conséquent de fanfictions. Côté..., ces récits s’articulent systématiquement autour d’un même thème : des grossesses fictives impliquant des personnages féminins du jeu Doki Doki Literature Club!. L’anonymat de l’utilisateur et ses motivations restent un mystère, autant dire que les spécialistes peinent à expliquer ce comportement.

Selon Numerama, cette production ne semble pas liée à une campagne automatisée ou malveillante, mais plutôt à une démarche personnelle et répétitive. Les chercheurs soulignent que l’utilisateur a exploité les prompts pour orienter les réponses du modèle, générant ainsi des textes cohérents et thématiquement ciblés. Le volume de ces créations interroge : pourquoi un tel investissement dans ce type de contenu ?

Doki Doki Literature Club!, un univers propice aux détournements

Sorti en 2017, Doki Doki Literature Club! est un jeu vidéo indépendant développé par Team Salvato. Bien que présenté initialement comme un visual novel romantique, il est rapidement devenu célèbre pour ses twists psychologiques et son ambiance inquiétante. Bref, son univers a souvent servi de terrain de jeu pour des créations dérivées, y compris des fanfictions érotiques. Cela explique en partie pourquoi il a été choisi comme cadre par cet utilisateur de ChatGPT.

Le jeu met en scène plusieurs personnages féminins, dont Monika, Sayori, Natsuki et Yuri, qui deviennent autant de protagonistes potentiels pour ces récits. Les chercheurs notent que la diversité des scénarios générés suggère une connaissance approfondie du lore du jeu par l’utilisateur, même si les motivations profondes restent obscures.

Un cas d’école pour les chercheurs en IA

Cette découverte soulève plusieurs questions quant à l’usage des modèles de langage comme ChatGPT. Pour les experts, il s’agit d’un cas d’école illustrant la capacité des utilisateurs à détourner les outils d’IA à des fins créatives, voire subversives. Numerama précise que les chercheurs étudient actuellement les logs d’interaction pour tenter de comprendre les mécanismes ayant conduit à cette production.

L’un des chercheurs interrogés par Numerama a déclaré : «

Ce cas montre à quel point les utilisateurs peuvent exploiter les failles ou les possibilités des modèles pour générer des contenus inattendus. Ce n’est ni une faille de sécurité ni une erreur du système, mais plutôt une utilisation créative – et massive – des fonctionnalités existantes.
» Les spécialistes s’interrogent désormais sur les moyens de mieux encadrer ce type de détournement, sans pour autant brider la liberté créative des utilisateurs.

Et maintenant ?

Les chercheurs devraient publier une analyse plus détaillée de ce phénomène dans les prochains mois, notamment pour déterminer si d’autres utilisateurs ont adopté des pratiques similaires. Pour l’heure, OpenAI, l’entreprise derrière ChatGPT, n’a pas réagi publiquement à cette découverte. Reste à voir si des mesures seront prises pour limiter ce type de productions, ou si elles seront considérées comme un usage légitime de l’outil.

Ce cas rappelle également l’importance de l’éthique dans le développement des intelligences artificielles. Les modèles de langage, aussi performants soient-ils, restent des outils dont l’usage dépend largement des intentions de leurs utilisateurs.