IA et services financiers : il faut se protéger et gérer les risques, affirment le BSIF et le GRI à l’aube d’un resserrement des lignes directrices

IA et services financiers : il faut se protéger et gérer les risques, affirment le BSIF et le GRI à l’aube d’un resserrement des lignes directrices

Si la montée fulgurante de l’intelligence artificielle (« IA ») ouvre de nouvelles possibilités aux institutions financières canadiennes, elle met en lumière l’importance d’atténuer les risques connexes. C’est pourquoi le Bureau du surintendant des institutions financières (« BSIF ») s’est associé au Global Risk Institute (« GRI ») pour mettre sur pied le Forum sur l’intelligence artificielle dans le secteur des services financiers (« FIASSF »). L’objectif? Favoriser le dialogue sur l’utilisation responsable de l’IA dans le milieu. Le FIASSF réunit des experts du secteur privé, de la fonction publique et du milieu universitaire qui réfléchissent aux meilleures pratiques de gestion des risques posés par l’IA.

S’appuyant sur les travaux du FIASSF, le BSIF et le GRI ont publié, le 17 avril 2023, un rapport conjoint[1] sur les répercussions éthiques, juridiques et financières de l’IA dans le secteur canadien des services financiers (le « rapport BSIF-GRI »).

Les principes E-D-G-E

Le rapport BSIF-GRI comporte quatre volets correspondant aux aspects des modèles d’IA que le FIASSF juge prioritaires : explicabilité, données, gouvernance et éthique – les principes « E-D-G-E ».

1. L’explicabilité permet aux clients des institutions financières de comprendre le raisonnement qui guide les décisions du modèle d’IA.
2. Les données utilisées en IA permettent aux institutions financières d’offrir des produits et services ciblés et personnalisés. Elles facilitent également la détection des fraudes, l’analyse et la gestion des risques, l’efficience opérationnelle, et la prise de décisions.
3. La gouvernance renvoie à la mise en place d’une culture, d’outils et de cadres propices à la réalisation du potentiel de l’IA.
4. L’éthique encourage les institutions financières à tenir compte des retombées sociétales de leurs systèmes d’IA.

1. Explicabilité

Selon le rapport BSIF-GRI, l’explicabilité doit être prise en considération dès le début du processus de sélection et de conception du modèle d’IA. Le degré d’explicabilité requis dépend de plusieurs facteurs, notamment les éléments à expliquer, la complexité du modèle et les personnes qui reçoivent les explications. Par exemple, une explication qui convient pour un client pourrait être insuffisante pour un expert en science des données ou un organisme de réglementation. Le degré d’explicabilité varie aussi selon l’importance des décisions. Ainsi, il sera plus élevé pour une IA qui prend des décisions de crédit que pour un robot conversationnel.

Le rapport BSIF-GRI souligne également l’importance de bien renseigner les clients sur les modèles d’IA. Les institutions financières doivent toutefois éviter de dévoiler des informations qui mettraient en péril leur cybersécurité ou leur avantage concurrentiel.

2. Données

Les institutions financières travaillent depuis longtemps avec les données, mais l’intégration de l’IA fait naître de nouveaux défis en matière de gestion et d’utilisation. Les modèles d’IA peuvent traiter d’énormes quantités de données, d’où la difficulté d’assurer la qualité de l’ensemble. Les institutions financières doivent par ailleurs bien protéger les données personnelles et financières à caractère délicat. C’est pourquoi elles doivent instaurer une bonne gouvernance des données, explique le rapport BSIF-GRI.

3. Gouvernance 

La gestion du risque de modélisation a été propulsée à l’avant-plan en 2017, quand le BSIF a adopté la ligne directrice E-23, Gestion du risque de modélisation à l’échelle de l’entreprise dans les institutions de dépôts. La popularité grandissante des modèles d’IA, qui présentent de nombreux risques associés également aux modèles traditionnels, incite les institutions financières à réfléchir à la place de l’IA dans leur cadre de gouvernance. Le rapport BSIF-GRI énonce les clés d’une bonne gouvernance de l’IA dans les institutions financières :

• Elle doit être intégrée et s’étendre à l’ensemble de l’organisation.
• Les rôles et les responsabilités doivent être clairs et bien articulés.
• La tolérance au risque doit être bien définie.
• Le cadre de gouvernance doit s’adapter aux risques émergents et aux nouveaux systèmes.

4. Éthique 

Le concept d’éthique est nuancé et subjectif. Comme les normes évoluent constamment, l’éthique de l’IA est un sujet complexe, d’autant plus que la société se montre de plus en plus exigeante envers les institutions financières. C’est pourquoi le rapport BSIF-GRI invite les institutions à communiquer, en toute transparence, ce qu’elles font pour garantir que leurs modèles d’IA respectent des normes éthiques élevées.

Conclusion

Les travaux du FIASSF font ressortir la nécessité de bien réglementer l’IA tout en laissant aux institutions financières la possibilité d’évoluer pour maintenir leur compétitivité. Ils montrent l’importance de la collaboration et témoignent de la volonté de poursuivre le dialogue sur la saine utilisation de l’IA dans le secteur canadien des services financiers. Le BSIF devrait d’ailleurs proposer un cadre réglementaire bientôt. En effet, un projet d’amélioration de la ligne directrice E-23 – portant notamment sur les risques émergents des modèles axés sur l’analytique avancée (p. ex. l’IA et l’apprentissage automatique) – fera l’objet d’une consultation publique plus tard en 2023. Cette nouvelle mouture devrait s’appliquer à l’ensemble des institutions de dépôt, compagnies d’assurance et régimes de retraite sous réglementation fédérale.

[1] Bureau du surintendant des institutions financières, « Forum sur l’intelligence artificielle dans le secteur des services financiers : une perspective canadienne sur l’intelligence artificielle responsable », avril 2023, en ligne.

par Darcy Ammerman et Srinidhi Akkur (stagiaire en droit)

Mise en garde

Le contenu du présent document ne fournit qu’un aperçu du sujet et ne saurait en aucun cas être interprété comme des conseils juridiques. Le lecteur ne doit pas se fonder uniquement sur ce document pour prendre une décision, mais devrait plutôt obtenir des conseils juridiques précis.

© McMillan S.E.N.C.R.L., s.r.l. 2023