IA et services financiers : il faut se protéger et gérer les risques, affirment le BSIF et le GRI à l’aube d’un resserrement des lignes directrices
IA et services financiers : il faut se protéger et gérer les risques, affirment le BSIF et le GRI à l’aube d’un resserrement des lignes directrices
Si la montée fulgurante de l’intelligence artificielle (« IA ») ouvre de nouvelles possibilités aux institutions financières canadiennes, elle met en lumière l’importance d’atténuer les risques connexes. C’est pourquoi le Bureau du surintendant des institutions financières (« BSIF ») s’est associé au Global Risk Institute (« GRI ») pour mettre sur pied le Forum sur l’intelligence artificielle dans le secteur des services financiers (« FIASSF »). L’objectif? Favoriser le dialogue sur l’utilisation responsable de l’IA dans le milieu. Le FIASSF réunit des experts du secteur privé, de la fonction publique et du milieu universitaire qui réfléchissent aux meilleures pratiques de gestion des risques posés par l’IA.
S’appuyant sur les travaux du FIASSF, le BSIF et le GRI ont publié, le 17 avril 2023, un rapport conjoint[1] sur les répercussions éthiques, juridiques et financières de l’IA dans le secteur canadien des services financiers (le « rapport BSIF-GRI »).
Les principes E-D-G-E
Le rapport BSIF-GRI comporte quatre volets correspondant aux aspects des modèles d’IA que le FIASSF juge prioritaires : explicabilité, données, gouvernance et éthique – les principes « E-D-G-E ».
- L’explicabilité permet aux clients des institutions financières de comprendre le raisonnement qui guide les décisions du modèle d’IA.
- Les données utilisées en IA permettent aux institutions financières d’offrir des produits et services ciblés et personnalisés. Elles facilitent également la détection des fraudes, l’analyse et la gestion des risques, l’efficience opérationnelle, et la prise de décisions.
- La gouvernance renvoie à la mise en place d’une culture, d’outils et de cadres propices à la réalisation du potentiel de l’IA.
- L’éthique encourage les institutions financières à tenir compte des retombées sociétales de leurs systèmes d’IA.
1. Explicabilité
Selon le rapport BSIF-GRI, l’explicabilité doit être prise en considération dès le début du processus de sélection et de conception du modèle d’IA. Le degré d’explicabilité requis dépend de plusieurs facteurs, notamment les éléments à expliquer, la complexité du modèle et les personnes qui reçoivent les explications. Par exemple, une explication qui convient pour un client pourrait être insuffisante pour un expert en science des données ou un organisme de réglementation. Le degré d’explicabilité varie aussi selon l’importance des décisions. Ainsi, il sera plus élevé pour une IA qui prend des décisions de crédit que pour un robot conversationnel.
Le rapport BSIF-GRI souligne également l’importance de bien renseigner les clients sur les modèles d’IA. Les institutions financières doivent toutefois éviter de dévoiler des informations qui mettraient en péril leur cybersécurité ou leur avantage concurrentiel.
2. Données
Les institutions financières travaillent depuis longtemps avec les données, mais l’intégration de l’IA fait naître de nouveaux défis en matière de gestion et d’utilisation. Les modèles d’IA peuvent traiter d’énormes quantités de données, d’où la difficulté d’assurer la qualité de l’ensemble. Les institutions financières doivent par ailleurs bien protéger les données personnelles et financières à caractère délicat. C’est pourquoi elles doivent instaurer une bonne gouvernance des données, explique le rapport BSIF-GRI.
3. Gouvernance
La gestion du risque de modélisation a été propulsée à l’avant-plan en 2017, quand le BSIF a adopté la ligne directrice E-23, Gestion du risque de modélisation à l’échelle de l’entreprise dans les institutions de dépôts. La popularité grandissante des modèles d’IA, qui présentent de nombreux risques associés également aux modèles traditionnels, incite les institutions financières à réfléchir à la place de l’IA dans leur cadre de gouvernance. Le rapport BSIF-GRI énonce les clés d’une bonne gouvernance de l’IA dans les institutions financières :
- Elle doit être intégrée et s’étendre à l’ensemble de l’organisation.
- Les rôles et les responsabilités doivent être clairs et bien articulés.
- La tolérance au risque doit être bien définie.
- Le cadre de gouvernance doit s’adapter aux risques émergents et aux nouveaux systèmes.
4. Éthique
Le concept d’éthique est nuancé et subjectif. Comme les normes évoluent constamment, l’éthique de l’IA est un sujet complexe, d’autant plus que la société se montre de plus en plus exigeante envers les institutions financières. C’est pourquoi le rapport BSIF-GRI invite les institutions à communiquer, en toute transparence, ce qu’elles font pour garantir que leurs modèles d’IA respectent des normes éthiques élevées.
Conclusion
Les travaux du FIASSF font ressortir la nécessité de bien réglementer l’IA tout en laissant aux institutions financières la possibilité d’évoluer pour maintenir leur compétitivité. Ils montrent l’importance de la collaboration et témoignent de la volonté de poursuivre le dialogue sur la saine utilisation de l’IA dans le secteur canadien des services financiers. Le BSIF devrait d’ailleurs proposer un cadre réglementaire bientôt. En effet, un projet d’amélioration de la ligne directrice E-23 – portant notamment sur les risques émergents des modèles axés sur l’analytique avancée (p. ex. l’IA et l’apprentissage automatique) – fera l’objet d’une consultation publique plus tard en 2023. Cette nouvelle mouture devrait s’appliquer à l’ensemble des institutions de dépôt, compagnies d’assurance et régimes de retraite sous réglementation fédérale.
[1] Bureau du surintendant des institutions financières, « Forum sur l’intelligence artificielle dans le secteur des services financiers : une perspective canadienne sur l’intelligence artificielle responsable », avril 2023, en ligne.
par Darcy Ammerman et Srinidhi Akkur (stagiaire en droit)
Mise en garde
Le contenu du présent document ne fournit qu’un aperçu du sujet et ne saurait en aucun cas être interprété comme des conseils juridiques. Le lecteur ne doit pas se fonder uniquement sur ce document pour prendre une décision, mais devrait plutôt obtenir des conseils juridiques précis.
© McMillan S.E.N.C.R.L., s.r.l. 2023
Perspectives (5 Posts)
Loi sur les espèces en péril du Canada : promoteurs de projets, ne laissez rien au hasard
Ce bulletin traite de l’application de la Loi sur les espèces en péril, une loi fédérale dont l’incidence sur les parties privées est souvent méconnue.
La réglementation actuelle et future de l’IA
Joignez-vous à nous pour une discussion avec des leadeurs d’opinion du secteur de l’intelligence artificielle (IA) qui présenteront leurs perspectives sur les dernières tendances et évolutions en matière de l’IA, avec un accent particulier sur la réglementation.
Projet de loi C-13 : la réponse d’Ottawa à la loi 96 impose notamment aux employeurs de compétence fédérale de nouvelles obligations sur le français au travail
Projet de loi C-13 : exigences relatives au français applicables aux entreprises privées de compétence fédérale au Canada
Priorités environnementales en cas de faillite et conséquences pour les créanciers : un tribunal de l’Alberta élargit les principes de Redwater
L’affaire Qualex, en Alberta, enrichit la jurisprudence au carrefour du droit de l’environnement et du droit de la faillite et de l’insolvabilité au Canada.
La Commission du droit d’auteur modernise les procédures d’homologation des tarifs pour les utilisateurs
Commission du droit d’auteur : Fin de la phase 1 de l’Initiative de modernisation des procédures d’homologation des tarifs
Recevez des mises à jour directement dans votre boîte de réception. Vous pouvez vous désabonner en tout temps.