Le BSIF se penche sur l’encadrement de l’IA

Le Bureau du surintendant des institutions financières (BSIF) pose les premières bases de l’encadrement à venir de l’intelligence artificielle (IA) dans le secteur financier.

Le secteur financier canadien ne deviendra pas une jungle où l’IA sera utilisée sans limite, si on en croit l’énoncé de principes du BSIF.

Le BSIF s’est associé à avec l’Institut du risque mondial (IRM) pour créer le Forum sur l’intelligence artificielle dans le secteur des services financiers (FIASSF), constitué d’experts en IA, issus du milieu universitaire, des organismes de réglementation, des banques, des assureurs, des régimes de retraite, des technologies financières et des centres de recherche.

Ce forum vient d’élaborer les principes EDGE, pour l’explicabilité, les données, la gouvernance et l’éthique. Ces principes doivent être les lignes directrices de l’utilisation de l’IA dans le secteur financier, soutient le BSIF.

Le principe d’explicabilité vise à permettre de comprendre comment l’IA parvient aux résultats qu’elle produit.

Les données peuvent être utilisées par l’IA pour proposer des produits ciblés à leurs clients. Mais elles doivent aussi améliorer la détection des fraudes, l’analyse et la gestion des risques, ainsi que la prise de décisions.

La gouvernance doit garantir l’existence d’un cadre permettant de créer une culture de la responsabilité vis-à-vis de l’utilisation de l’IA dans une organisation.

Du point de vue de l’éthique, les institutions financières doivent prendre en compte les retombées sociétales de leurs systèmes d’IA.

« Les récentes avancées dans le domaine de l’apprentissage automatique représentent une grande occasion pour les institutions financières. Toutefois, il est essentiel de trouver un équilibre entre réglementation et innovation », prévient Peter Routledge, le surintendant des institutions financières. « S’il est important de veiller à ce que les institutions financières demeurent concurrentielles en tirant parti de ces innovations de manière responsable, il faut garder à l’esprit que la stabilité financière de notre système et son équité à l’égard de ceux qui l’utilisent sont aussi des éléments primordiaux. »