Insights Header image
Insights Header image
Insights Header image

Mise en garde : une société est tenue responsable des assertions inexactes faites par son robot conversationnel

4 mars 2024 Bulletin Litige et règlement de différends Lecture de 4 min

Dans une décision récente, le British Columbia Civil Resolution Tribunal (le Tribunal) a conclu que la Société Air Canada est responsable de certaines assertions qu’un robot conversationnel a faites à un client sur la page Web d’Air Canada.

Le robot conversationnel a fourni au client des renseignements erronés concernant la politique d’Air Canada en matière de voyages pour cause de deuil. Par conséquent, le client a intenté une action contre Air Canada pour assertion négligente et inexacte. Pour sa défense, Air Canada a soutenu qu’elle ne pouvait pas être tenue responsable des renseignements donnés par son robot conversationnel, ce dernier étant une entité juridique distincte responsable de ses propres actes. Le Tribunal a rejeté cet argument et a donné gain de cause au client.

Les faits

Le 11 novembre 2022, la grand-mère de M. Moffatt est décédée en Ontario. Le même jour, M. Moffatt a visité le site Web d’Air Canada pour réserver un vol et a interagi avec le robot conversationnel du site Web.

Un robot conversationnel est un système automatisé fournissant des renseignements à une personne qui utilise un site Web, en réponse aux questions et aux commentaires de ladite personne.

M. Moffatt a interrogé le robot conversationnel au sujet des tarifs de deuil d’Air Canada. Le robot conversationnel a indiqué qu’il était possible de présenter un billet acheté pour obtenir un tarif de deuil réduit dans les 90 jours suivant la délivrance du billet d’avion. M. Moffatt a ensuite réservé ses vols aux tarifs ordinaires, se fiant à l’avis du robot conversationnel selon lequel il pouvait présenter une demande de remboursement à Air Canada à une date ultérieure.

Le robot conversationnel avait tort.

Lorsque M. Moffatt a présenté ses billets pour obtenir un tarif de deuil réduit, un représentant d’Air Canada l’a informé que le robot conversationnel avait donné des renseignements trompeurs. Malheureusement pour M. Moffatt, Air Canada l’a informé que sa politique en matière de deuil ne s’appliquait pas aux demandes de considération de deuil présentées une fois le voyage terminé.

Un robot conversationnel est-il une entité juridique distincte ?

Air Canada a présenté sa défense en faisant valoir qu’elle ne pouvait être tenue responsable des renseignements inexacts fournis par l’un de ses agents, employés ou représentants, y compris un robot conversationnel. Toutefois, le Tribunal a rejeté cette défense. Bien qu’un robot conversationnel présente un élément interactif, il fait toujours partie du site Web d’Air Canada, et Air Canada est responsable de tous les renseignements figurant sur son site Web, y compris les renseignements fournis par son robot conversationnel. Que les renseignements proviennent d’une page Web statique ou d’un robot conversationnel ne change rien.

Air Canada est tenue responsable d’assertions négligentes et inexactes 

En raison de la relation commerciale entre Air Canada et M. Moffatt, le Tribunal a conclu qu’Air Canada avait une obligation de diligence envers M. Moffatt et devait veiller à ce que ses assertions soient exactes et non trompeuses. La Société Air Canada a manqué à son obligation et omis de faire preuve de diligence raisonnable en ne s’assurant pas que son robot conversationnel donnait des renseignements exacts. Par conséquent, elle a été tenue responsable des dommages subis par M. Moffatt, c’est-à-dire la différence entre le prix que M. Moffatt a payé pour ses billets aux tarifs ordinaires et le tarif de deuil d’Air Canada.

Les répercussions en ce qui concerne les outils d’intelligence artificielle

La décision du Tribunal n’indique pas clairement si le robot conversationnel d’Air Canada a utilisé la technologie de l’intelligence artificielle pour composer ses réponses. Il pourrait s’agir d’un robot conversationnel fondé sur des règles qui donne des réponses préétablies en se fondant sur des mots-clés dans les demandes de la clientèle. Dans un tel cas, l’erreur pourrait être le résultat d’un script inexact ou obsolète.

La décision a tout de même des répercussions importantes sur tous les types de robots conversationnels, y compris ceux qui sont alimentés par l’intelligence artificielle et les grands modèles de langage. Que convient-il d’en retenir? Les sociétés peuvent être tenues responsables de tout ce que dit leur robot conversationnel.

Par conséquent, il serait souhaitable que les sociétés évaluent le type de robot conversationnel approprié à leur plateforme et qu’elles déterminent si un simple robot conversationnel fondé sur des règles est une option plus sécuritaire. En outre, il serait souhaitable que les sociétés rédigent des avertissements lorsque des robots conversationnels sont déployés. Cela informerait les utilisateurs des risques d’hallucinations ou d’inexactitudes, mais il convient toutefois de garder à l’esprit qu’une telle mesure pourrait ne pas entièrement protéger les sociétés contre les risques. Pour terminer, lorsqu’une société a l’intention d’utiliser un robot conversationnel fondé sur l’IA, elle doit lui faire soigneusement subir des essais avant sa mise en œuvre pour réduire les risques d’hallucinations, d’inexactitudes ou d’autres problèmes.

À retenir

  • La décision susmentionnée donne un aperçu de ce qu’un tribunal peut juger être une position raisonnable à adopter dans un litige impliquant la diffusion de renseignements erronés.
  • Comme avec les paroles de leurs employés et de leurs agents, les sociétés peuvent être présumées responsables de la production de leurs robots conversationnels.
  • Cette décision montre également qu’un organisme judiciaire hésitera à statuer que la technologie peut être « responsable » de renseignements erronés et à permettre à une société d’échapper à toute responsabilité en conséquence.
  • Les sociétés qui mettent en œuvre un robot conversationnel ou un outil similaire destiné aux clients sur leur site Web devraient faire en sorte que l’outil soit aussi simple que possible aux fins requises, donner des avertissements et faire subir des essais rigoureux au système avant sa mise en œuvre.
  • Si votre société est impliquée dans une affaire concernant des robots conversationnels ou des outils d’intelligence artificielle, envisagez sérieusement de régler l’affaire hors cour. Bien que la demande ait porté sur des dommages-intérêts relativement symboliques (812,02 $), la décision conséquente a déjà fait la une de l’actualité internationale [1].

[1] Voir les articles publiés récemment (en anglais) sur l’incident par la BBC et Forbes, par exemple.

Par Robert Piasentin, Carina Chiu, Robbie Grant, Danielle Perris (stagiaire en droit)

Mise en garde

Le contenu du présent document ne fournit qu’un aperçu du sujet et ne saurait en aucun cas être interprété comme des conseils juridiques. Le lecteur ne doit pas se fonder uniquement sur ce document pour prendre une décision, mais devrait plutôt obtenir des conseils juridiques précis. Il est préférable d’obtenir un avis juridique spécifique.

© McMillan S.E.N.C.R.L., s. r. l. 2024

Perspectives (5 Posts)Voir Plus

Featured Insight

Bien faire les choses : les exigences juridiques nécessaires au lancement d’une entreprise technologique en démarrage

Aperçu des éléments juridiques nécessaires aux entreprises technologiques en démarrage.

Lire plus
15 Avr, 2024

Premier projet d’expérimentation au Québec visant à accorder un avantage aux entreprises engageant des autochtones dans l’exécution d’un contrat public

Premier projet d’expérimentation au Québec visant à accorder un avantage aux entreprises qui « affecteraient » des autochtones à un contrat public

Lire plus
15 Avr, 2024
Featured Insight

Tempête à l’horizon : les répercussions des changements à la Loi sur la concurrence sur la location Veuillez prendre note que ce webinaire se déroulera en anglais.

La Loi sur le logement et l’épicerie à prix abordable (projet de loi C-56) a récemment apporté à la Loi sur la concurrence (Canada) des modifications qui régiront l’ensemble des baux et autres ententes entre propriétaires et locataires, pas seulement ceux des épiceries.

Détails
Le mardi 30 avril 2024
Featured Insight

Attention à ce que vous demandez, car votre souhait pourrait se réaliser : le Canada publie des « directives » attendues depuis longtemps sur les sanctions économiques

Affaires mondiales Canada publie pour la première fois des directives visant l’application de sanctions économiques au pays, y compris à l’égard de personnes non canadiennes.

Lire plus
3 Avr, 2024
Featured Insight

Nouvelle ère de surveillance des investissements étrangers au Canada  adoption du projet de loi modifiant la Loi sur Investissement Canada

Le projet de loi C-34 modifie la Loi sur Investissement Canada afin d’accroître les pouvoirs d'examen en matière de sécurité nationale du gouvernement du Canada.

Lire plus
2 Avr, 2024