Insights Header image
Insights Header image
Insights Header image

IA et services financiers : il faut se protéger et gérer les risques, affirment le BSIF et le GRI à l’aube d’un resserrement des lignes directrices

19 avril 2023 Bulletin sur les services financiers Lecture de 3 min

Si la montée fulgurante de l’intelligence artificielle (« IA ») ouvre de nouvelles possibilités aux institutions financières canadiennes, elle met en lumière l’importance d’atténuer les risques connexes. C’est pourquoi le Bureau du surintendant des institutions financières (« BSIF ») s’est associé au Global Risk Institute (« GRI ») pour mettre sur pied le Forum sur l’intelligence artificielle dans le secteur des services financiers (« FIASSF »). L’objectif? Favoriser le dialogue sur l’utilisation responsable de l’IA dans le milieu. Le FIASSF réunit des experts du secteur privé, de la fonction publique et du milieu universitaire qui réfléchissent aux meilleures pratiques de gestion des risques posés par l’IA.

S’appuyant sur les travaux du FIASSF, le BSIF et le GRI ont publié, le 17 avril 2023, un rapport conjoint[1] sur les répercussions éthiques, juridiques et financières de l’IA dans le secteur canadien des services financiers (le « rapport BSIF-GRI »).

Les principes E-D-G-E

Le rapport BSIF-GRI comporte quatre volets correspondant aux aspects des modèles d’IA que le FIASSF juge prioritaires : explicabilité, données, gouvernance et éthique – les principes « E-D-G-E ».

  1. L’explicabilité permet aux clients des institutions financières de comprendre le raisonnement qui guide les décisions du modèle d’IA.
  2. Les données utilisées en IA permettent aux institutions financières d’offrir des produits et services ciblés et personnalisés. Elles facilitent également la détection des fraudes, l’analyse et la gestion des risques, l’efficience opérationnelle, et la prise de décisions.
  3. La gouvernance renvoie à la mise en place d’une culture, d’outils et de cadres propices à la réalisation du potentiel de l’IA.
  4. L’éthique encourage les institutions financières à tenir compte des retombées sociétales de leurs systèmes d’IA.

1. Explicabilité

Selon le rapport BSIF-GRI, l’explicabilité doit être prise en considération dès le début du processus de sélection et de conception du modèle d’IA. Le degré d’explicabilité requis dépend de plusieurs facteurs, notamment les éléments à expliquer, la complexité du modèle et les personnes qui reçoivent les explications. Par exemple, une explication qui convient pour un client pourrait être insuffisante pour un expert en science des données ou un organisme de réglementation. Le degré d’explicabilité varie aussi selon l’importance des décisions. Ainsi, il sera plus élevé pour une IA qui prend des décisions de crédit que pour un robot conversationnel.

Le rapport BSIF-GRI souligne également l’importance de bien renseigner les clients sur les modèles d’IA. Les institutions financières doivent toutefois éviter de dévoiler des informations qui mettraient en péril leur cybersécurité ou leur avantage concurrentiel.

2. Données

Les institutions financières travaillent depuis longtemps avec les données, mais l’intégration de l’IA fait naître de nouveaux défis en matière de gestion et d’utilisation. Les modèles d’IA peuvent traiter d’énormes quantités de données, d’où la difficulté d’assurer la qualité de l’ensemble. Les institutions financières doivent par ailleurs bien protéger les données personnelles et financières à caractère délicat. C’est pourquoi elles doivent instaurer une bonne gouvernance des données, explique le rapport BSIF-GRI.

3. Gouvernance 

La gestion du risque de modélisation a été propulsée à l’avant-plan en 2017, quand le BSIF a adopté la ligne directrice E-23, Gestion du risque de modélisation à l’échelle de l’entreprise dans les institutions de dépôts. La popularité grandissante des modèles d’IA, qui présentent de nombreux risques associés également aux modèles traditionnels, incite les institutions financières à réfléchir à la place de l’IA dans leur cadre de gouvernance. Le rapport BSIF-GRI énonce les clés d’une bonne gouvernance de l’IA dans les institutions financières :

  • Elle doit être intégrée et s’étendre à l’ensemble de l’organisation.
  • Les rôles et les responsabilités doivent être clairs et bien articulés.
  • La tolérance au risque doit être bien définie.
  • Le cadre de gouvernance doit s’adapter aux risques émergents et aux nouveaux systèmes.

4. Éthique 

Le concept d’éthique est nuancé et subjectif. Comme les normes évoluent constamment, l’éthique de l’IA est un sujet complexe, d’autant plus que la société se montre de plus en plus exigeante envers les institutions financières. C’est pourquoi le rapport BSIF-GRI invite les institutions à communiquer, en toute transparence, ce qu’elles font pour garantir que leurs modèles d’IA respectent des normes éthiques élevées.

Conclusion

Les travaux du FIASSF font ressortir la nécessité de bien réglementer l’IA tout en laissant aux institutions financières la possibilité d’évoluer pour maintenir leur compétitivité. Ils montrent l’importance de la collaboration et témoignent de la volonté de poursuivre le dialogue sur la saine utilisation de l’IA dans le secteur canadien des services financiers. Le BSIF devrait d’ailleurs proposer un cadre réglementaire bientôt. En effet, un projet d’amélioration de la ligne directrice E-23 – portant notamment sur les risques émergents des modèles axés sur l’analytique avancée (p. ex. l’IA et l’apprentissage automatique) – fera l’objet d’une consultation publique plus tard en 2023. Cette nouvelle mouture devrait s’appliquer à l’ensemble des institutions de dépôt, compagnies d’assurance et régimes de retraite sous réglementation fédérale.

[1] Bureau du surintendant des institutions financières, « Forum sur l’intelligence artificielle dans le secteur des services financiers : une perspective canadienne sur l’intelligence artificielle responsable », avril 2023, en ligne.

par Darcy Ammerman et Srinidhi Akkur (stagiaire en droit)

Mise en garde

Le contenu du présent document ne fournit qu’un aperçu du sujet et ne saurait en aucun cas être interprété comme des conseils juridiques. Le lecteur ne doit pas se fonder uniquement sur ce document pour prendre une décision, mais devrait plutôt obtenir des conseils juridiques précis.

© McMillan S.E.N.C.R.L., s.r.l. 2023

Perspectives (5 Posts)Voir Plus

Featured Insight

Déchiffrer le projet de loi de 2024 visant à renforcer la cybersécurité et la confiance dans le secteur public (Ontario)

Déchiffrer le projet de loi 194 de l’Ontario : Loi de 2024 visant à renforcer la cybersécurité et la confiance dans le secteur public. Modifications principales et stratégies de conformité expliquées en détail.

Lire plus
24 Mai, 2024
Featured Insight

Comprendre le cadre des services bancaires pour les gens : perspectives clés de la loi no 1 d’exécution du budget de 2024

Le 30 avril, le gouvernement fédéral a présenté la Loi no 1 d’exécution du budget 2024, qui fournit le cadre législatif du système bancaire ouvert au Canada.

Lire plus
16 Mai, 2024
Featured Insight

Expiration des restrictions imposées aux étudiants étrangers pour le travail hors campus : lignes directrices pour les employeurs

La dérogation temporaire accordée par le gouvernement du Canada dans le but de permettre aux étudiants étrangers de travailler plus de 20 heures par semaine a pris fin le 30 avril 2024.

Lire plus
16 Mai, 2024
Featured Insight

L’évaluation des risques juridiques : un outil essentiel de gestion des risques

Nous pouvons affirmer que la meilleure façon de régler les questions juridiques qui se posent dans toute entreprise est de concentrer les efforts sur leur détermination et leur résolution avant qu’elles ne deviennent des problèmes juridiques.

Lire plus
17 Mai, 2024
Featured Insight

Comprendre les limites du privilège juridique à la suite d’une cyberattaque : enseignements tirés de la violation des données de Lifelabs

Dans l’affaire LifeLabs LP v. Information and Privacy Commr (Ontario), la Cour a clarifié la portée limitée du privilège juridique dans le contexte des atteintes à la protection des données.

Lire plus
10 Mai, 2024