Une étude récente du Massachusetts Institute of Technology (MIT) révèle les limites actuelles de l’intelligence artificielle générative en matière de traçabilité des données. Selon nos confrères du Journal du Geek, des chercheurs ont démontré qu’il devient quasi impossible d’identifier avec précision quelle image, parmi des millions, a directement influencé la génération d’un contenu par des modèles comme Stable Diffusion ou Midjourney.

Ce qu'il faut retenir

  • Des chercheurs du MIT ont mis en évidence un phénomène appelé « attribution decay », où l’impact d’une image dans un jeu de données d’entraînement s’estompe à mesure que ce dernier s’agrandit.
  • Leur expérience a porté sur des modèles entraînés avec des centaines à plusieurs centaines de milliers d’images, révélant que plus les données sont vastes, plus il est difficile de prouver qu’une œuvre spécifique a servi de référence.
  • Cette découverte pourrait avoir des répercussions juridiques majeures, notamment dans les litiges opposant des artistes à des entreprises d’IA générative.
  • Les grands modèles commerciaux, entraînés sur des volumes de données encore plus importants, devraient accentuer ce phénomène.

Pour parvenir à ces conclusions, Zheng Dai, doctorant au Computer Science and Artificial Intelligence Laboratory (CSAIL) du MIT, et David Gifford, professeur au même laboratoire, ont mené une série d’expériences en construisant une vingtaine de petits modèles de diffusion. Ces derniers ont été entraînés sur des ensembles d’images variant de quelques centaines à plusieurs centaines de milliers. L’objectif ? Créer un « scénario alternatif » pour évaluer l’impact de la suppression d’une image précise dans le jeu de données.

Les chercheurs ont d’abord généré une image avec un modèle standard, puis répété l’opération après avoir retiré une image spécifique du jeu d’entraînement. Si cette image avait joué un rôle déterminant, le résultat aurait dû présenter des différences notables. Pour mesurer ces écarts, ils ont utilisé un indicateur baptisé « counterfactual radius ». Comme l’explique Zheng Dai : « Dans cet univers alternatif où cette donnée n’existait pas, votre échantillon devrait être différent. »

Les tests ont été réalisés en deux phases : d’abord avec des photos de visages, puis avec des œuvres d’artistes variés. Dans les deux cas, le constat est identique : plus le volume de données est important, plus il devient difficile de relier une image générée à une œuvre ou un artiste précis. À grande échelle, les chercheurs estiment même qu’il est impossible d’établir un lien causal clair entre une création générée et une œuvre protégée présente dans les données d’entraînement.

Cette étude intervient alors que plusieurs procédures judiciaires opposent des artistes à des entreprises d’IA générative. Certaines de ces affaires cherchent précisément à prouver qu’un modèle s’est appuyé sur des œuvres protégées pour produire des images similaires. Pourtant, l’étude du MIT apporte une nuance essentielle : elle ne remet pas en cause l’utilisation potentielle de ces œuvres dans l’entraînement des modèles. Elle souligne simplement la difficulté croissante à démontrer qu’une œuvre spécifique est directement responsable d’une image générée. Autrement dit, une image produite par une IA peut ressembler étrangement au style d’un artiste sans qu’il soit possible de prouver qu’une de ses œuvres a servi de référence directe.

Les implications de cette découverte dépassent le cadre juridique. Elles soulèvent des questions éthiques et techniques majeures sur la transparence des modèles d’IA. Comment garantir que des contenus protégés n’ont pas été utilisés pour entraîner des outils accessibles au grand public ? Et surtout, comment protéger les droits des créateurs dans un écosystème où les données d’entraînement deviennent trop vastes pour être auditées efficacement ?

Les grands modèles commerciaux, tels que ceux développés par les géants de la tech, sont entraînés sur des volumes de données bien supérieurs à ceux utilisés dans cette étude. Selon les chercheurs, cela devrait accentuer le phénomène d’« attribution decay ». Comme le rappelle David Gifford : « À l’échelle des modèles actuels, il devient extrêmement complexe, voire impossible, de retracer l’origine exacte d’une image générée. »

Et maintenant ?

Cette étude ouvre la voie à plusieurs pistes de réflexion pour les régulateurs et les développeurs d’IA. D’une part, elle pourrait inciter à revoir les méthodes d’audit des jeux de données, afin de mieux garantir le respect des droits d’auteur. D’autre part, elle soulève la question de la responsabilité des plateformes utilisant ces modèles : comment concilier innovation technologique et protection des créateurs ? Les prochaines évolutions législatives, notamment au niveau européen avec l’application de l’AI Act, pourraient apporter des réponses partielles. Une chose est sûre : la transparence des algorithmes restera au cœur des débats dans les mois à venir.

En attendant, les artistes et les entreprises d’IA devront probablement composer avec cette incertitude. Certains pourraient opter pour des licences d’utilisation plus strictes, tandis que d’autres pourraient développer des outils de détection automatisée des similitudes entre images générées et œuvres existantes. Quoi qu’il en soit, cette étude du MIT rappelle une évidence : l’IA générative, aussi puissante soit-elle, n’a pas encore résolu le casse-tête de sa propre légitimité.

Selon l’étude du MIT, cette difficulté, appelée « attribution decay », s’explique par l’augmentation du volume de données d’entraînement. Plus un modèle est exposé à des millions d’images, moins il est possible d’isoler l’influence d’une œuvre spécifique sur le résultat final. Les chercheurs ont montré que même en supprimant une image du jeu d’entraînement, les modifications apportées au résultat généré deviennent imperceptibles à grande échelle.