Instagram franchit une nouvelle étape dans la lutte contre les contenus trompeurs en ligne. Selon nos confreres du Journal du Geek, la plateforme dirigée par Meta met en place un système de transparence renforcé pour les comptes mettant en scène des personnages artificiels créés par intelligence artificielle. L’objectif est clair : éviter que les utilisateurs ne découvrent trop tard qu’ils suivent un profil ne correspondant pas à une personne réelle.

Ce qu'il faut retenir

  • Un label spécifique remplace l’ancien badge « AI creator », désormais réservé aux profils dont l’identité repose entièrement sur une personne générée par IA.
  • Une cible précise : les faux influenceurs et personnages artificiels, et non les créateurs utilisant simplement des outils d’IA dans leur processus de création.
  • Une visibilité réduite pour les comptes non conformes, qui pourront être signalés par la plateforme avant de régulariser leur situation.
  • Une procédure d’appel est prévue pour les créateurs en désaccord avec la décision d’Instagram.
  • Une mesure de transparence qui s’inscrit dans un contexte de prolifération des contenus générés par IA sur les réseaux sociaux.

Un nouveau label pour des profils parfois ambigus

Instagram introduit un label dédié aux comptes mettant en scène une « personne générée par IA », remplaçant l’ancien badge « AI creator », jugé trop flou. Ce dernier pouvait en effet concerner des profils utilisant régulièrement des outils d’IA sans pour autant incarner un personnage artificiel. Désormais, seuls les comptes dont l’identité repose sur un faux humain seront concernés par cette mention, précise la plateforme. Les créateurs qui se contentent d’utiliser l’IA comme assistance dans leur travail de création n’ont donc pas à ajouter ce badge.

Ce label apparaîtra directement sur le profil du compte, mais aussi sur les publications si celles-ci ne comportent pas déjà une indication signalant un contenu modifié ou créé avec l’IA. Pour les créateurs ayant déjà apposé une mention, aucun changement dans leur visibilité n’est à prévoir, assure Instagram. Une façon de distinguer les usages légitimes de ceux qui pourraient induire en erreur.

Des profils artificiels de plus en plus présents sur les réseaux

Cette initiative intervient dans un contexte où les contenus générés par IA se multiplient sur les plateformes sociales, suscitant parfois une réception mitigée de la part du public. Sur Instagram, le problème se pose avec une acuité particulière lorsque ces contenus prennent la forme d’influenceurs artificiels. Plusieurs cas ont déjà été observés, où des profils générés par IA promouvaient des applications, des marques ou encore des conseils en bien-être, se présentant parfois comme des professionnels de santé.

Bien que ces pratiques ne violent pas nécessairement les règles de Meta, elles peuvent créer une confusion préjudiciable. Les utilisateurs, croyant suivre une personne réelle, découvrent après coup qu’il s’agit d’un personnage entièrement construit. « Nous avons entendu de notre communauté qu’elle n’aime pas tomber sur un profil qui semble humain, pour découvrir seulement plus tard que la personne mise en avant est générée par IA », a déclaré un porte-parole d’Instagram à Journal du Geek.

Une réponse algorithmique et une possibilité de recours

Pour limiter la visibilité des comptes non conformes, Instagram indique qu’il pourra détecter les profils non signalés par leurs créateurs et les rendre moins visibles dans les recommandations. Les concernés seront avertis via une notification dans leur tableau de bord, les invitant à régulariser leur situation. Deux options s’offrent alors à eux : activer le label requis ou contester la décision prise par la plateforme.

La société reconnaît que ses systèmes d’analyse peuvent commettre des erreurs. C’est pourquoi une procédure d’appel est prévue pour permettre aux créateurs de contester les marquages automatiques. Cette approche reflète une volonté de transparence, tout en tenant compte des limites techniques des outils utilisés. Meta présente cette évolution comme une mesure de clarification, ciblant uniquement les profils qui jouent les humains sans le préciser clairement.

Et maintenant ?

Cette mesure pourrait s’étendre à d’autres plateformes du groupe Meta, comme Facebook, où des profils similaires pourraient également circuler. Les prochaines semaines seront déterminantes pour évaluer l’efficacité de ce label et son adoption par la communauté des créateurs. Une chose est sûre : avec l’essor des outils de génération d’images et de vidéos par IA, la question de la transparence des contenus en ligne devrait rester au cœur des débats dans les mois à venir.

En attendant, les utilisateurs sont invités à vérifier les profils qu’ils suivent, surtout s’ils s’interrogent sur la nature réelle de leurs interlocuteurs en ligne. Une vigilance accrue s’impose à l’ère où l’artificiel et le réel se mêlent de plus en plus étroitement sur les réseaux sociaux.

Le label vise exclusivement les comptes dont l’identité repose entièrement sur une personne générée par IA. Les créateurs utilisant simplement des outils d’IA dans leur processus de création, sans incarner un personnage artificiel, ne sont pas concernés.

Instagram précise que les comptes non signalés par leurs créateurs pourraient voir leur visibilité réduite dans les recommandations. Les concernés recevront une notification leur permettant de régulariser la situation ou de contester la décision.