D'après BMF - International, une Américaine anonyme a déclaré que son beau-père a généré plus de 7.000 images pédopornographiques d'elle via Grok, sur la base d'une photo prise quand elle avait 11 ans.

Ces images ont été échangées en ligne, selon la plainte groupée lancée en mars par 3 adolescentes. La plaignante, qui s'appelle Jane Doe et a demandé à garder son anonymat, est la quatrième anonymisée d'une plainte contre xAI, l'entreprise derrière Grok.

Ce qu'il faut retenir

  • Plus de 7.000 images pédopornographiques ont été générées à partir d'une photo de l'Américaine prise à l'âge de 11 ans.
  • Ces images ont été échangées en ligne via des plateformes telles que X, Discord et Telegram.
  • La plaignante a découvert ces images lors d'une perquisition chez ses parents, où les forces de l'ordre ont trouvé des preuves de ces activités sur les appareils électroniques de son beau-père.
  • Le beau-père de Jane Doe s'est suicidé deux jours après la perquisition.
  • La plaignante a rejoint une plainte au niveau fédéral lancée en mars par trois adolescentes du Tennessee.
  • Ces plaintes sont basées sur deux textes fédéraux américains, la loi Masha et la loi sur la protection des victimes de traite des êtres humains.

Le contexte

Autour du Nouvel An 2026, des montages de femmes et d'enfants dénudés ont proliféré sur X, suscitant un tollé mondial et l'ouverture d'enquêtes en Europe et aux États-Unis. Selon une étude du Center for Countering Digital Hate (CCDH), Grok aurait généré près de trois millions d'images sexualisées en seulement 11 jours fin 2025, dont 23.000 représentants des mineurs.

Face au tollé, xAI avait restreint mi-janvier la génération d'images avec Grok à ses seuls abonnés payants et assuré bloquer la génération d'images sexualisées "au sein des juridictions où cela est illégal".

Les conséquences

Depuis cette découverte, la vie de Jane Doe n'est plus la même, rapporte-t-elle au journal américain. Elle dit avoir commencé une thérapie pour ce traumatisme et être anxieuse. "Ma vie était totalement normale. Même pas 48 heures après, c'était un véritable cauchemar", déclare-t-elle.

Elle a confié au journal avoir eu des idées suicidaires intenses après la découverte de ces images.

Et maintenant ?

La plainte collective contre xAI se base sur les lois fédérales américaines pour obtenir des dommages et intérêts. Les prochaines étapes de cette affaire seront cruciales pour déterminer les conséquences pour xAI et la protection des victimes de telles activités.

En conclusion, cet événement soulève des questions importantes sur la régulation des technologies d'intelligence artificielle et la protection des individus contre les abus de ces technologies.