IA et services financiers : il faut se protéger et gérer les risques, affirment le BSIF et le GRI à l’aube d’un resserrement des lignes directrices
IA et services financiers : il faut se protéger et gérer les risques, affirment le BSIF et le GRI à l’aube d’un resserrement des lignes directrices
Si la montée fulgurante de l’intelligence artificielle (« IA ») ouvre de nouvelles possibilités aux institutions financières canadiennes, elle met en lumière l’importance d’atténuer les risques connexes. C’est pourquoi le Bureau du surintendant des institutions financières (« BSIF ») s’est associé au Global Risk Institute (« GRI ») pour mettre sur pied le Forum sur l’intelligence artificielle dans le secteur des services financiers (« FIASSF »). L’objectif? Favoriser le dialogue sur l’utilisation responsable de l’IA dans le milieu. Le FIASSF réunit des experts du secteur privé, de la fonction publique et du milieu universitaire qui réfléchissent aux meilleures pratiques de gestion des risques posés par l’IA.
S’appuyant sur les travaux du FIASSF, le BSIF et le GRI ont publié, le 17 avril 2023, un rapport conjoint[1] sur les répercussions éthiques, juridiques et financières de l’IA dans le secteur canadien des services financiers (le « rapport BSIF-GRI »).
Les principes E-D-G-E
Le rapport BSIF-GRI comporte quatre volets correspondant aux aspects des modèles d’IA que le FIASSF juge prioritaires : explicabilité, données, gouvernance et éthique – les principes « E-D-G-E ».
- L’explicabilité permet aux clients des institutions financières de comprendre le raisonnement qui guide les décisions du modèle d’IA.
- Les données utilisées en IA permettent aux institutions financières d’offrir des produits et services ciblés et personnalisés. Elles facilitent également la détection des fraudes, l’analyse et la gestion des risques, l’efficience opérationnelle, et la prise de décisions.
- La gouvernance renvoie à la mise en place d’une culture, d’outils et de cadres propices à la réalisation du potentiel de l’IA.
- L’éthique encourage les institutions financières à tenir compte des retombées sociétales de leurs systèmes d’IA.
1. Explicabilité
Selon le rapport BSIF-GRI, l’explicabilité doit être prise en considération dès le début du processus de sélection et de conception du modèle d’IA. Le degré d’explicabilité requis dépend de plusieurs facteurs, notamment les éléments à expliquer, la complexité du modèle et les personnes qui reçoivent les explications. Par exemple, une explication qui convient pour un client pourrait être insuffisante pour un expert en science des données ou un organisme de réglementation. Le degré d’explicabilité varie aussi selon l’importance des décisions. Ainsi, il sera plus élevé pour une IA qui prend des décisions de crédit que pour un robot conversationnel.
Le rapport BSIF-GRI souligne également l’importance de bien renseigner les clients sur les modèles d’IA. Les institutions financières doivent toutefois éviter de dévoiler des informations qui mettraient en péril leur cybersécurité ou leur avantage concurrentiel.
2. Données
Les institutions financières travaillent depuis longtemps avec les données, mais l’intégration de l’IA fait naître de nouveaux défis en matière de gestion et d’utilisation. Les modèles d’IA peuvent traiter d’énormes quantités de données, d’où la difficulté d’assurer la qualité de l’ensemble. Les institutions financières doivent par ailleurs bien protéger les données personnelles et financières à caractère délicat. C’est pourquoi elles doivent instaurer une bonne gouvernance des données, explique le rapport BSIF-GRI.
3. Gouvernance
La gestion du risque de modélisation a été propulsée à l’avant-plan en 2017, quand le BSIF a adopté la ligne directrice E-23, Gestion du risque de modélisation à l’échelle de l’entreprise dans les institutions de dépôts. La popularité grandissante des modèles d’IA, qui présentent de nombreux risques associés également aux modèles traditionnels, incite les institutions financières à réfléchir à la place de l’IA dans leur cadre de gouvernance. Le rapport BSIF-GRI énonce les clés d’une bonne gouvernance de l’IA dans les institutions financières :
- Elle doit être intégrée et s’étendre à l’ensemble de l’organisation.
- Les rôles et les responsabilités doivent être clairs et bien articulés.
- La tolérance au risque doit être bien définie.
- Le cadre de gouvernance doit s’adapter aux risques émergents et aux nouveaux systèmes.
4. Éthique
Le concept d’éthique est nuancé et subjectif. Comme les normes évoluent constamment, l’éthique de l’IA est un sujet complexe, d’autant plus que la société se montre de plus en plus exigeante envers les institutions financières. C’est pourquoi le rapport BSIF-GRI invite les institutions à communiquer, en toute transparence, ce qu’elles font pour garantir que leurs modèles d’IA respectent des normes éthiques élevées.
Conclusion
Les travaux du FIASSF font ressortir la nécessité de bien réglementer l’IA tout en laissant aux institutions financières la possibilité d’évoluer pour maintenir leur compétitivité. Ils montrent l’importance de la collaboration et témoignent de la volonté de poursuivre le dialogue sur la saine utilisation de l’IA dans le secteur canadien des services financiers. Le BSIF devrait d’ailleurs proposer un cadre réglementaire bientôt. En effet, un projet d’amélioration de la ligne directrice E-23 – portant notamment sur les risques émergents des modèles axés sur l’analytique avancée (p. ex. l’IA et l’apprentissage automatique) – fera l’objet d’une consultation publique plus tard en 2023. Cette nouvelle mouture devrait s’appliquer à l’ensemble des institutions de dépôt, compagnies d’assurance et régimes de retraite sous réglementation fédérale.
[1] Bureau du surintendant des institutions financières, « Forum sur l’intelligence artificielle dans le secteur des services financiers : une perspective canadienne sur l’intelligence artificielle responsable », avril 2023, en ligne.
par Darcy Ammerman et Srinidhi Akkur (stagiaire en droit)
Mise en garde
Le contenu du présent document ne fournit qu’un aperçu du sujet et ne saurait en aucun cas être interprété comme des conseils juridiques. Le lecteur ne doit pas se fonder uniquement sur ce document pour prendre une décision, mais devrait plutôt obtenir des conseils juridiques précis.
© McMillan S.E.N.C.R.L., s.r.l. 2023
Perspectives (5 Posts)Voir Plus
Attractivité pour les investisseurs en capital de risque et capital d’investissement : l’Alberta en avance grâce à sa Business Corporations Act
La réforme du régime des sociétés par actions de l’Alberta en fait la province de choix pour les entreprises et les investisseurs.
Est-ce bien vrai? Une loi sur le système bancaire ouvert serait à venir au Canada
Dans l’Énoncé économique de l’automne publié le 21 novembre 2023, le gouvernement du Canada annonce son intention de mettre en place un système bancaire ouvert.
Webinaire sur l’arrêt R. c. Grand Sudbury (Ville)
Le webinaire débutera par un aperçu de l’affaire et de la décision partagée de la CSC, suivi d’une discussion qui portera sur les répercussions de l’arrêt sur les rôles et les responsabilités de chaque partie au projet, y compris le propriétaire, l’entrepreneur et le consultant en conception (architecte et ingénieur). Il s’agira d’une discussion interactive qui comprendra une période de questions exhaustive.
Un lieu accueillant des spectacles d’envergure à Montréal doit mieux contrôler le bruit généré par ses activités
Ce bulletin résume une récente décision ordonnant la cessation d'activités dans un contexte de nuisance causée par le bruit
Préparez-vous! Les vrais effets de la décision de la Cour fédérale sur votre entreprise (réponse à vos questions)
Coalition pour une utilisation responsable du plastique c. Canada : la Cour annule l’ajout des articles manufacturés en plastique aux substances toxiques.
Recevez des mises à jour directement dans votre boîte de réception. Vous pouvez vous désabonner en tout temps.