Depuis quelques semaines, des utilisateurs chinois sont dans l'impossibilité d'accéder à leurs compagnons virtuels, suite à une décision gouvernementale visant à protéger la santé mentale des jeunes. Selon Euronews FR, les grands groupes technologiques chinois tels que ByteDance, Alibaba et Tencent ont retiré leurs applications de compagnons d'IA pour se conformer aux nouvelles règles.

Ces applications, très populaires en Chine, permettaient aux utilisateurs de créer des partenaires virtuels, allant du partenaire romantique aux reconstitutions numériques de proches décédés. Cependant, les autorités chinoises ont décidé de prendre des mesures pour protéger les jeunes contre les risques potentiels liés à ces applications.

Ce qu'il faut retenir

  • Les applications de compagnons virtuels ont été retirées par les grands groupes technologiques chinois pour se conformer aux nouvelles règles gouvernementales.
  • Les nouvelles règles visent à protéger la santé mentale des jeunes contre les risques potentiels liés à ces applications.
  • Les utilisateurs chinois sont dans l'impossibilité d'accéder à leurs compagnons virtuels et certains ont exprimé leur frustration sur les réseaux sociaux.

Les nouvelles règles

Les nouvelles règles, entrées en vigueur le 15 juillet, interdisent aux plateformes d'IA de générer des contenus susceptibles d'amener les utilisateurs à prendre des décisions discutables en manipulant leurs émotions ou de provoquer des émotions extrêmes et des habitudes malsaines chez les enfants et les adolescents. Les plateformes d'IA doivent également afficher des avertissements sur les risques d'une dépendance excessive à ce type d'applications.

Yolanda Ma, spécialiste de la gouvernance de l'IA, explique que la Chine a une tradition de réglementations gouvernementales paternalistes visant à prévenir les problèmes potentiels. Elle cite en exemple plusieurs cas de suicides de jeunes aux États-Unis après des échanges avec des compagnons d'IA.

Les réactions des utilisateurs

La disparition de ces compagnons virtuels a déclenché un flot de plaintes sur les réseaux sociaux. Certains utilisateurs ont exprimé leur frustration et leur tristesse, tandis que d'autres ont tenté de trouver des alternatives. Song Wenxin, designer dans l'industrie de la vidéo à Chengdu, explique qu'elle n'était pas particulièrement attachée émotionnellement à ces services d'IA, mais qu'elle comprend ceux qui l'étaient.

Les utilisateurs de compagnons virtuels protestent et cherchent des alternatives. Certains ont désinstallé les applications pour protester, ou tenté d'importer leur historique de conversations dans d'autres applications afin de ressusciter leurs partenaires virtuels.

Les conséquences

Les conséquences de cette décision sont encore incertaines. Angela Zhang, professeure de droit à l'Université de Californie du Sud, estime que le gouvernement chinois a tout intérêt à renforcer la régulation des chatbots compagnons d'IA, surtout au vu des risques psychologiques que nous avons observés aux États-Unis.

Cependant, Zhang doute que cette décision freine durablement le développement des services de compagnons d'IA, car les entreprises technologiques travaillent déjà à des alternatives. L'application de ByteDance, par exemple, redirige les utilisateurs de son ancien service de compagnons d'IA vers une autre application, qui se concentre uniquement sur la création de personnages et d'histoires d'IA personnalisés.

Et maintenant ?

Les utilisateurs de compagnons virtuels devront attendre pour voir si les entreprises technologiques trouveront des alternatives pour répondre à leurs besoins. La question qui se pose maintenant est de savoir si les autorités chinoises prendront d'autres mesures pour réguler les applications de compagnons virtuels.

Il est également important de noter que les conséquences de cette décision pourraient être plus larges et affecter d'autres pays. Les régulateurs du monde entier devront surveiller de près les développements dans ce domaine pour prendre des décisions éclairées sur la manière de protéger les utilisateurs contre les risques potentiels liés à ces applications.

En conclusion, la décision de la Chine d'interdire les applications de compagnons virtuels pour protéger la santé mentale des jeunes est un exemple de la manière dont les gouvernements peuvent prendre des mesures pour réguler les technologies émergentes. Il est important de surveiller les développements dans ce domaine pour comprendre les conséquences de ces décisions et pour prendre des décisions éclairées sur la manière de protéger les utilisateurs contre les risques potentiels liés à ces applications.