D'après Euronews FR, plus de 100 organisations internationales, dont Amnesty International et Save the Children, appellent les gouvernements à rendre l'intelligence artificielle sûre pour les enfants dans un appel conjoint, à la veille du premier sommet mondial des Nations unies sur la gouvernance de l'IA. Ces organisations affirment que la sécurité des enfants relève des entreprises d'IA, pas des parents.

La coalition, menée par l'organisation de défense des droits de l'enfant 5Rights Foundation, affirme que l'IA porte déjà atteinte aux enfants et que les approches réglementaires actuelles ne les protègent pas, en n'intervenant que lorsqu'il est trop tard. Cette mise en garde intervient alors que se multiplient les actions en justice contre des entreprises d'IA, comme Character Technologies et OpenAI, en raison des effets de cette technologie sur les enfants.

Ce qu'il faut retenir

  • Plus de 100 organisations internationales appellent les gouvernements à rendre l'IA sûre pour les enfants.
  • La coalition affirme que l'IA porte déjà atteinte aux enfants et que les approches réglementaires actuelles ne les protègent pas.
  • Les organisations réclament des garanties pour les enfants avant le sommet de l'ONU sur la gouvernance de l'IA.

Les mesures proposées

Dans un communiqué publié lundi, en amont du premier Global Dialogue on AI Governance de l'ONU, le groupe soutient que les gouvernements doivent s'attaquer aux modèles économiques qui, selon lui, sont à l'origine du problème. Leanda Barrington-Leach, directrice exécutive de 5Rights, a déclaré : « Les enfants nous ont livré un diagnostic clair du problème. Ils ne nous demandent pas de bloquer l'innovation en matière d'IA, mais il ne devrait pas non plus s'agir de réparer les dégâts une fois que le mal est fait. »

La coalition avance dix mesures qu'elle souhaite voir adoptées par les gouvernements pour prévenir les atteintes aux enfants. Parmi ces mesures figurent l'obligation pour les entreprises de démontrer que leurs systèmes d'IA sont sûrs pour les enfants avant leur mise sur le marché, l'imposition de sanctions financières aux sociétés dont les produits portent atteinte aux droits des enfants, l'interdiction des fonctionnalités de conception qui exploitent les vulnérabilités psychologiques des enfants et la prohibition de l'usage commercial de l'image, de la voix et des données biométriques des enfants.

Les prochaines étapes

Et maintenant ?

Les gouvernements devraient prendre des mesures pour rendre l'IA sûre pour les enfants, en respectant les engagements qu'ils ont déjà pris au titre de la Convention des Nations unies relative aux droits de l'enfant et du Pacte numérique mondial de l'ONU. La coalition estime qu'il n'est pas nécessaire d'adopter de nouvelles lois pour y parvenir, mais simplement de faire respecter les engagements déjà pris. Les prochaines étapes attendues incluent la mise en œuvre de ces mesures et la surveillance de leur efficacité pour protéger les enfants contre les risques liés à l'IA.

Comme le souligne Leanda Barrington-Leach, « Tant que les entreprises seront récompensées pour la rapidité, l'engagement et l'extraction de données plutôt que pour la sécurité, nous continuerons à traiter les symptômes pendant que la maladie devient endémique ». Il est essentiel que les gouvernements et les entreprises prennent des mesures concrètes pour garantir la sécurité des enfants dans l'ère de l'IA.

En conclusion, la sécurité des enfants dans le contexte de l'IA est une préoccupation majeure qui nécessite une action immédiate et concertée de la part des gouvernements, des entreprises et des organisations de défense des droits de l'enfant. En veillant à ce que l'IA soit conçue et utilisée de manière à protéger les enfants, nous pouvons nous assurer que les bénéfices de cette technologie sont partagés par tous, tout en minimisant les risques potentiels.