L’entreprise américaine OpenAI, à l’origine du développement de ChatGPT, a récemment détaillé les dispositifs mis en place pour encadrer les interactions avec son intelligence artificielle et limiter les risques liés à son utilisation. Selon Journal du Geek, ces mesures s’appuient sur un double système de surveillance, associant outils automatisés et évaluation humaine, afin de détecter et prévenir les comportements dangereux, que ce soit pour les utilisateurs ou pour des tiers. Une transparence qui intervient alors que les interrogations sur la fiabilité et la sécurité des IA génératives persistent.
Ce qu'il faut retenir
- OpenAI utilise un système automatisé pour analyser les échanges sur ChatGPT et identifier d’éventuels usages à risque.
- Les signalements générés par l’algorithme sont ensuite vérifiés par des évaluateurs humains avant toute action.
- Ces mesures visent à limiter les risques pour les utilisateurs, mais aussi pour les personnes extérieures mentionnées dans les conversations.
- La démarche s’inscrit dans un contexte de croissance des préoccupations éthiques autour des outils d’IA.
- OpenAI n’est pas la seule entreprise à renforcer ses garde-fous, mais sa communication intervient à un moment clé pour rassurer les utilisateurs.
Un système de modération à deux niveaux
Pour encadrer les interactions avec ChatGPT, OpenAI a déployé un mécanisme de surveillance en deux étapes. D’abord, un outil automatisé analyse en temps réel les échanges des utilisateurs. Cet algorithme est conçu pour repérer des requêtes ou des réponses potentiellement dangereuses, qu’il s’agisse de conseils médicaux, de conseils juridiques ou de propos incitant à la violence. Une fois les signalements identifiés, ils sont transmis à une équipe d’évaluateurs humains. Ces derniers ont pour mission de confirmer ou d’infirmer la pertinence des alertes avant que des mesures correctives ne soient prises, explique Journal du Geek.
Des garde-fous contre les usages malveillants
Les risques associés à l’utilisation de ChatGPT ne se limitent pas aux seuls utilisateurs directs. En effet, les discussions peuvent impliquer des tiers, dont les données personnelles ou les droits pourraient être menacés. Par exemple, si un utilisateur demande à l’IA de générer du contenu diffamatoire ou de partager des informations confidentielles, le système doit pouvoir intervenir. OpenAI souligne que cette approche permet de réduire les conséquences négatives tout en respectant la vie privée des personnes concernées. « L’objectif est d’éviter que l’outil ne soit détourné à des fins malveillantes », précise l’entreprise.
Une transparence qui répond aux critiques
Depuis son lancement, ChatGPT a été critiqué pour son manque de fiabilité dans certains domaines, comme la désinformation ou les conseils médicaux. OpenAI a donc choisi de communiquer sur ses efforts pour améliorer la sécurité de son produit. Cette initiative s’ajoute à d’autres mesures, comme l’ajout de mentions obligatoires dans les réponses générées, afin d’indiquer clairement que les informations fournies ne remplacent pas un avis professionnel. Selon Journal du Geek, ces ajustements visent à répondre aux attentes des régulateurs et des utilisateurs, alors que les débats sur l’encadrement des IA génératives s’intensifient en Europe et aux États-Unis.
Si ces garde-fous renforcent la crédibilité de ChatGPT, ils soulèvent aussi des questions sur l’équilibre entre sécurité et liberté d’expression. Comment concilier ces deux impératifs sans tomber dans la censure ? Pour l’heure, OpenAI mise sur la transparence pour convaincre.
Selon les informations rapportées par Journal du Geek, OpenAI classe comme dangereux les contenus incitant à la violence, les conseils médicaux ou juridiques non vérifiés, ainsi que toute demande susceptible de nuire à des tiers, comme la diffusion de données personnelles ou la création de propos diffamatoires.
