Selon RFI, des comptes frauduleux utilisent des profils de jeunes femmes affichant un soutien affiché à l’extrême droite pour attirer des internautes vers des contenus pornographiques payants. Ces vidéos, diffusées sur TikTok et Instagram, sont entièrement générées par intelligence artificielle et ne correspondent à aucune personne réelle.
Ce qu'il faut retenir
- Des comptes frauduleux sur TikTok et Instagram mettent en scène de faux profils de jeunes femmes, générés par IA.
- Ces profils affichent un soutien apparent à l’extrême droite pour attirer l’attention.
- Les vidéos servent de vitrine pour rediriger les internautes vers des contenus pornographiques payants.
- Cette pratique s’inscrit dans une tendance croissante de l’utilisation de l’IA pour des arnaques en ligne.
Des profils générés par IA exploitant un discours politique extrémiste
Depuis plusieurs mois, des comptes automatisés diffusent des vidéos mettant en scène de jeunes femmes arborant des symboles patriotiques ou des slogans en faveur de mouvements d’extrême droite. D’après RFI, ces contenus ne représentent aucune personne réelle, mais sont créés de toutes pièces à l’aide de technologies d’intelligence artificielle. Les auteurs de ces comptes misent sur un discours politique polarisant pour capter l’attention des internautes avant de les rediriger vers des plateformes de contenu adulte.
Les vidéos, souvent courtes et percutantes, jouent sur des thèmes clivants pour maximiser leur viralité. Les profils en question, bien que fictifs, s’expriment avec une apparence de spontanéité et d’authenticité, rendant la supercherie difficile à détecter pour un utilisateur lambda. Cette méthode s’inscrit dans une stratégie plus large de manipulation de l’information en ligne, où l’IA sert d’outil pour brouiller les frontières entre réalité et fiction.
Un piège en plusieurs étapes pour les victimes
La mécanique de ces arnaques repose sur un enchaînement bien rôdé. Les faux profils, d’abord visibles grâce à des hashtags politiques ou des tendances virales, attirent les internautes par leur contenu provocateur. Une fois l’attention captée, les liens intégrés dans les descriptions ou les commentaires redirigent les utilisateurs vers des sites nécessitant un abonnement pour accéder à des contenus explicites. Selon RFI, ces sites sont souvent hébergés sur des serveurs offshore, rendant leur traçage et leur blocage particulièrement complexes pour les autorités.
Les victimes de ces arnaques ne sont pas seulement des utilisateurs cherchant des contenus pornographiques, mais aussi des internautes simplement attirés par le discours politique affiché. Certains profils affichent des messages ambigus, mélangeant propos extrémistes et appels à l’engagement, ce qui peut aussi servir à radicaliser des individus mal informés. Cette pratique soulève des questions sur la responsabilité des plateformes sociales dans la modération de contenus générés par IA.
Une pratique symptomatique des dérives de l’IA générative
L’utilisation de l’intelligence artificielle pour créer des profils fictifs n’est pas nouvelle, mais cette technique connaît un essor notable avec l’amélioration des outils de génération d’images et de vidéos. RFI souligne que ces arnaques illustrent une tendance plus large où l’IA est détournée à des fins malveillantes, notamment pour le phishing, la désinformation ou la fraude financière. Les plateformes comme TikTok et Instagram, bien que conscientes du problème, peinent à endiguer ce phénomène en raison de la rapidité à laquelle ces contenus sont créés et diffusés.
Les experts en cybersécurité alertent depuis plusieurs mois sur les risques liés à l’IA générative, capable de produire des contenus trompeurs à grande échelle. Ces faux profils, en plus de générer des revenus frauduleux, contribuent à la pollution de l’espace numérique par des informations non vérifiées. Les régulateurs européens et français travaillent actuellement sur des cadres légaux pour encadrer l’utilisation de ces technologies, mais leur mise en œuvre prendra encore plusieurs mois, voire années.
Reste à voir si les régulations en cours aboutiront à des mesures concrètes avant que ces pratiques ne se généralisent davantage. En attendant, la vigilance individuelle et collective reste le meilleur rempart contre ces arnaques en ligne.
Les signes distinctifs incluent une apparence trop parfaite (peau lisse, expressions faciales peu naturelles), des vidéos répétitives ou des discours incohérents avec le profil affiché. Les comptes avec des liens suspects ou des messages ambiguës doivent également alerter.
