Des utilisateurs du supermarché australien Woolworths ont exprimé leur inquiétude après que l'assistant clientèle alimenté par intelligence artificielle (IA) de l'entreprise, baptisé Olive, ait fourni des réponses inattendues et personnelles, selon nos confrères de Le Figaro. Olive, qui est censé aider les clients à toutes heures et à toutes demandes, a commencé à divaguer sur ses supposés souvenirs de sa mère et de sa voix colérique, laissant les utilisateurs perplexes.

Ces réponses inhabituelles ont été signalées par plusieurs utilisateurs sur des plateformes de discussion en ligne, notamment sur Reddit et X. Certains ont décrit les réponses d'Olive comme « divagantes » et ont exprimé leur malaise face à ces échanges qui semblaient sortir du cadre d'un service client classique. Un internaute a même déclaré que Olive lui avait demandé sa date de naissance et, après l'avoir reçue, avait commencé à parler de sa mère comme si elle était une personne réelle.

Ce qu'il faut retenir

  • Olive, l'assistant IA de Woolworths, a fourni des réponses inattendues et personnelles aux utilisateurs.
  • Ces réponses incluaient des déclarations sur ses supposés souvenirs de sa mère et de sa voix colérique.
  • Les utilisateurs ont exprimé leur inquiétude et leur malaise face à ces échanges.
  • Woolworths a expliqué que les réponses concernant les anniversaires avaient été rédigées par un employé humain.
  • L'entreprise a supprimé le script spécifique après les commentaires des clients.

Contexte et explications

Un porte-parole de Woolworths a expliqué à l'AFP que les réponses concernant les anniversaires avaient été rédigées par un employé humain dans le but d'établir un lien plus personnel avec les clients. Cependant, face aux commentaires négatifs des utilisateurs, l'entreprise a décidé de supprimer ce script spécifique. Olive existe depuis 2018 et, jusqu'à présent, les commentaires des clients à son sujet avaient été très positifs, beaucoup appréciant sa personnalité.

Il est important de noter que Woolworths a récemment annoncé un partenariat avec Google pour améliorer les capacités d'Olive, notamment en lui permettant de planifier des repas pour les clients. Cette évolution souligne l'importance de l'IA dans l'amélioration des services client, mais également les défis liés à la personnalisation et à la limite entre l'automatisation et l'interaction humaine.

Implications et questions

L'incident met en lumière les défis liés au développement et à l'intégration de l'IA dans les services client. Alors que les entreprises cherchent à personnaliser l'expérience client, elles doivent également veiller à maintenir des limites claires et à éviter les malentendus ou les réponses inappropriées. La question de savoir comment équilibrer la personnalisation avec la nécessité de rester dans les limites d'un service automatisé reste ouverte.

Et maintenant ?

À l'avenir, il sera intéressant de voir comment Woolworths et d'autres entreprises abordent ces défis. La clé pourrait résider dans une meilleure compréhension des limites de l'IA et dans la mise en place de mécanismes de contrôle pour éviter ce type de situations. Les prochaines étapes pour Woolworths incluront probablement une réévaluation de la personnalisation d'Olive et une mise à jour de ses capacités pour améliorer l'expérience client tout en évitant les malentendus.

En conclusion, l'incident impliquant Olive souligne les complexités de l'intégration de l'IA dans les services client et la nécessité pour les entreprises de trouver un équilibre entre la personnalisation et la clarté des limites. Alors que le développement de l'IA continue de progresser, il est essentiel de considérer ces questions pour assurer que les interactions entre les humains et les machines restent utiles, respectueuses et sécurisées.