Un chatbot ment à un client : la justice condamne l’entreprise à l’indemniser

Il est rare qu’un chatbot mente.

Rassurant ? Ou inquiétant ? Voici une nouvelle preuve que les intelligences artificielles ne sont pas toutes fiables. Cette histoire croquignolesque est relatée par Radio Canada.

Ainsi, des propos fallacieux du chatbot d’Air Canada ont valu à la compagnie aérienne d’être condamnée à indemniser l’un de ses clients. Pour se défendre, la compagnie aérienne a pourtant «tenté de se désolidariser des mauvais conseils prodigués par son propre robot conversationnel», en expliquant que cet outil en ligne est «une entité juridique distincte qui est responsable de ses propres actions.» Diantre !

Le chatbot, un salarié comme un autre ?

Le tribunal de résolution civile de la Colombie-Britannique a toutefois estimé que la compagnie était responsable de ses agents… Y compris s’il s’agit d’intelligences artificielles !

Que s’est-il passé exactement ? C’est l’histoire d’un client qui avait commandé un billet en novembre 2022, à la suite du décès de sa grand-mère. Sur le web, le bot lui avait certifié que compte tenu des circonstances, il pourrait «rétroactivement demander un tarif spécial pour les voyageurs en deuil.»

600 euros de dédommagement

Un avantage que la compagnie aérienne lui a finalement refusé après qu’il ait effectué son trajet, ce qui a déclenché l’hostilité – tout à fait compréhensible – du client. Air Canada a donc versé 812 dollars canadiens – soit 600 euros – au plaignant, une somme qui «correspond à la différence entre le tarif des billets pour les personnes en deuil et le tarif normal», précise Radio Canada.

Selon l’Institut canadien d’information juridique, «il y a peu d’affaires dans lesquelles des robots conversationnels ont donné de mauvais conseils.»