YouTube met à disposition de ses utilisateurs majeurs un nouvel outil développé par Google, conçu pour repérer les vidéos deepfakes utilisant leur image sans leur consentement. Selon Frandroid, cette fonctionnalité s’inscrit dans une démarche plus large visant à lutter contre la désinformation et l’usurpation d’identité sur la plateforme.

Ce qu'il faut retenir

  • Google propose un outil de détection de deepfakes uniquement accessible aux créateurs majeurs sur YouTube, comme l’indique Frandroid.
  • L’objectif est d’identifier les vidéos frauduleuses utilisant l’image d’un utilisateur sans son autorisation.
  • Cette initiative s’ajoute aux mesures prises par YouTube pour renforcer la modération des contenus manipulés.
  • Les créateurs concernés recevront une alerte en cas de détection d’un deepfake utilisant leur identité.

Un outil réservé aux comptes vérifiés

Contrairement aux outils de modération classiques, cette fonctionnalité est réservée aux utilisateurs disposant d’un compte YouTube vérifié, souvent appelés « créateurs majeurs ». Selon Frandroid, Google a choisi de limiter l’accès à cet outil pour des raisons techniques et de pertinence. Seuls les comptes ayant une audience significative ou une reconnaissance officielle pourront bénéficier de cette protection renforcée.

Cette restriction s’explique par la nécessité de cibler en priorité les personnalités publiques ou les influenceurs, dont l’image est régulièrement détournée à des fins malveillantes. « Nous avons conçu cet outil pour protéger ceux dont l’identité est la plus susceptible d’être usurpée », a expliqué un porte-parole de Google, cité par Frandroid.

Comment fonctionne le système de détection ?

L’outil s’appuie sur des algorithmes avancés capables d’analyser les vidéos uploadées sur YouTube pour détecter des incohérences visuelles ou sonores trahissant un montage frauduleux. Les deepfakes, ces vidéos réalisées à l’aide de l’intelligence artificielle, sont de plus en plus sophistiqués, rendant leur identification manuelle difficile. Google mise donc sur des technologies de reconnaissance faciale et d’analyse comportementale pour repérer les anomalies.

Une fois un deepfake détecté, l’utilisateur concerné est alerté via une notification dans son espace YouTube. Il peut alors demander le retrait de la vidéo ou signaler l’infraction aux équipes de modération. Frandroid précise que cette fonctionnalité est encore en phase de test et sera progressivement déployée à l’ensemble des créateurs éligibles d’ici la fin de l’année 2026.

Un enjeu majeur face à l’essor des deepfakes

Les deepfakes représentent une menace croissante pour la réputation des personnalités publiques, des entreprises et même des particuliers. En 2024, une étude de l’Observatoire de la désinformation avait révélé que près de 60 % des Français étaient incapables de distinguer une vidéo authentique d’un deepfake. YouTube, plateforme abritant des millions de créateurs, est particulièrement exposée à ce phénomène.

Avec ce nouvel outil, Google et YouTube entendent anticiper les dérives liées à l’IA générative. « La lutte contre les deepfakes est une priorité pour nous, car elle touche à la fois à la sécurité des utilisateurs et à l’intégrité de notre écosystème », a souligné un responsable de YouTube, toujours selon Frandroid. La plateforme rappelle par ailleurs que les utilisateurs peuvent déjà signaler manuellement les contenus suspects via son système de modération existant.

Et maintenant ?

Pour l’heure, Google n’a pas communiqué de date précise pour l’extension de cet outil à l’ensemble des créateurs YouTube. La fonctionnalité devrait d’abord être testée auprès d’un panel restreint avant un déploiement progressif, probablement d’ici fin 2026. Dans le même temps, la plateforme pourrait renforcer ses partenariats avec des laboratoires spécialisés dans la détection de deepfakes pour améliorer la précision de ses algorithmes.

Reste à voir si cette initiative suffira à endiguer la propagation des contenus manipulés. En attendant, les créateurs sont invités à rester vigilants et à utiliser les outils mis à leur disposition pour protéger leur image.

Réactions et perspectives

Les associations de défense des droits numériques saluent cette initiative, tout en appelant à une régulation plus stricte de l’IA générative. « C’est une avancée, mais cela ne suffira pas sans une législation adaptée », a déclaré Me Sophie Laurent, avocate spécialisée en droit du numérique. De son côté, YouTube assure que cette mesure s’inscrit dans une stratégie globale incluant la sensibilisation des utilisateurs aux risques des deepfakes.

Selon Frandroid, YouTube considère comme « créateur majeur » un utilisateur disposant d’un compte vérifié, souvent caractérisé par un nombre élevé d’abonnés, une activité régulière et une reconnaissance officielle de la plateforme. Les détails exacts ne sont pas publics, mais cette catégorie inclut généralement les chaînes comptant plusieurs milliers d’abonnés ou collaborant avec des marques.