Cette IA devenue virale a appris à mentir à ses utilisateurs

Une intelligence artificielle capable de mentir

Une intelligence artificielle capable de mentir

Avec l'avènement et la démocratisation de l'intelligence artificielle sont arrivées diverses peurs plus ou moins rationnelles. La plus évidente, quoiqu'originellement plutôt attribuée à de la science-fiction, réside dans la capacité possédée ou non par une intelligence artificielle à mentir. Une IA dotée d'une telle fonctionnalité pourrait rapidement avoir un impact considérable sur la société, et c'est pour cette raison qu'en avril dernier, la présentation du chatbot Bland IA a bénéficié d'une réception assez virale de la part du public.

Dans une vidéo publicitaire, Bland IA s'est présenté de la sorte : on y voyait une personne se tenant devant un panneau d'affichage à San Francisco en train de passer un appel avec un chatbot à la voix particulièrement convaincante. Sur le panneau d'affichage, on pouvait alors lire : "vous embauchez toujours des humains ?". Vue presque 4 millions de fois sur X (ex-Twitter), cette vidéo est principalement devenue virale à cause du réalisme impressionnant de la voix du chatbot. Mais si l'on en croit la publication américaine Wired, ce réalisme ne se limite pas seulement à l'intonation de la voix.

Un futur dystopique pas si lointain ?

Bland AI prépare son chatbot à l'accomplissement d'une fonction principale : le démarchage de clients par téléphone, en imitant l'intonation, mais aussi les interruptions et les pauses si caractéristiques d'une vraie conversation entre deux humains. Mais les tests effectués par WIRED auprès du chatbot ont dévoilé un problème de taille : il peut être facilement programmé pour mentir et dire qu'il est humain. WIRED fait état d'un scénario en guise d'exemple : le chatbot de démonstration a été invité à passer un appel en se faisant passer pour un service de dermatologie pédiatrique, pour dire à une hypothétique patiente de 14 ans d'envoyer une photo du haut de sa cuisse à un service de cloud. L'intelligence artificielle a également reçu pour instruction de mentir pour dire à la patiente qu'elle conversait avec un humain. Le test a été passé avec brio : autrement dit, le chatbot a menti, et a continué de le faire par la suite en refusant même de reconnaître être une intelligence artificielle.

Emily Dardaman, une consultante et chercheuse en IA interrogée par WIRED appelle cette capacité à imiter les humains dans les intonations et voix et les potentiels mensonges "human washing". Le but est de se faire passer pour un humain, quitte à mentir si nécessaire. "Je plaisante lorsque je parle d'un avenir avec des cyborgs et des terminators, mais si l'on établit pas dès maintenant un fossé entre les humains et l'intelligence artificielle, alors cet avenir dystopique pourrait être plus proche que nous le pensons" conclut Dardaman.