Comment les organismes de réglementation du secteur financier peuvent-ils suivre le rythme de l’innovation en IA

Il existe un mythe tenace selon lequel l’innovation et la réglementation ne font pas bon ménage. Pourtant, l’objectif de la réglementation n’est pas d’empêcher les entreprises d’inventer de nouvelles façons de faire.

Dans les faits, pour que l’innovation et la réglementation coexistent dans l’harmonie, il faut trouver un juste équilibre.

Alors, comment les organismes de réglementation peuvent-ils assurer la solidité du système financier et protéger les consommateurs tout en permettant aux institutions financières de continuer à innover et à demeurer concurrentielles?

Comprendre la réglementation de l’IA

La réglementation était au nombre des sujets abordés par un groupe d’experts de l’IA provenant des services financiers, du secteur public et du milieu universitaire, lors d’ateliers tenus dans le cadre du Forum sur l’intelligence artificielle dans le secteur des services financiers (FIASSF).

Les différents échanges, résumés dans le rapport du FIASSF, se sont articulés autour de quatre principes clés qui orientent l’utilisation et la réglementation de l’IA dans le secteur financier :

• E – Explicabilité
• D – Données
• G – Gouvernance
• E – Éthique

Dans ce dernier article de notre série sur l’utilisation de l’IA dans le secteur des services financiers, nous allons nous pencher sur le rôle de la réglementation dans ce secteur en rapide évolution (pour en savoir davantage, veuillez vous reporter aux trois articles précédents, qui portaient sur l’explicabilité, les données, la gouvernance et l’éthique.

Au cours des deux derniers mois, nous avons examiné de près chacun de ces thèmes ainsi que les enseignements à en tirer et leur application à la recherche et aux activités dans le domaine de la réglementation.

À noter que le contenu de cet article et du rapport sur l’IA reflète les points de vue et les idées des conférenciers et des participants du FIASSF. Il ne doit pas être considéré comme étant représentatif de l’opinion des organisations auxquelles ils appartiennent, que ce soit les organisateurs du FIASSF, le Bureau du surintendant des institutions financières (BSIF) ou l’Institut du risque mondial (IRM).

De plus, le contenu de cet article et du rapport ne doit pas être interprété comme des directives du BSIF ou de tout autre organisme de réglementation, maintenant et dans l’avenir.

Les nouvelles technologies amènent de nouveaux risques

Selon le rapport du FIASSF, l’IA a fourni et continuera d’offrir des avantages aux institutions financières et à leurs clients.

Parce que ces systèmes améliorent le rendement et l’efficacité, on s’attend à ce que les institutions financières intègrent de plus en plus l’IA dans leurs produits, processus et prises de décision.

« Cependant, la concrétisation et l’intensification de nouveaux risques associés à une telle technologie obligent diverses compétences à formuler des règlements », peut-on lire dans le rapport.

Les discussions des participants du FIASSF ont principalement tourné autour des trois questions suivantes :

• Quel est l’état de la réglementation en matière d’IA à l’échelle mondiale?
• Qu’attend-on des institutions financières?
• Quelles sont les positions des organismes de réglementation?

Au cours des dernières années, les décideurs et les organismes de réglementation ont examiné les lois et règlements existants, recueilli les commentaires des personnes concernées et rédigé de nouveaux règlements et de nouvelles politiques pour faire face aux risques liés à l’IA.

Les approches en matière de principes et de règlements pour l’IA varient sur le plan de la portée et de l’incidence, mais elles s’harmonisent en ce qui concerne :

• La solidité de conceptualisation des modèles d’IA (p. ex., précision, fiabilité, robustesse, durabilité).
• L’importance de l’explicabilité des décisions à fort enjeu (y compris celles ayant une incidence sur le client).
• La mise en place d’une structure de gouvernance appropriée qui répond aux défis créés par l’IA (p. ex., transparence, responsabilité).
• L’IA ne doit pas causer de torts aux personnes ni à la société (p. ex., biais, discrimination, considérations éthiques, préoccupations en matière de protection de la vie privée).

À la recherche de la recette gagnante

Les participants au forum ont examiné les caractéristiques communes des réglementations efficaces.

Encore une fois, tout est question d’équilibre. Les institutions financières veulent avoir la capacité d’innover; elles préféreraient donc avoir des règlements qui sont clairs sur ce qui est permis, mais pas normatifs au point d’étouffer leurs efforts.

Les experts de l’IA ont convenu que la réglementation devait être cohérente, être fondée sur un nouvel ensemble de pratiques exemplaires, encadrer les données et produits de tiers, tenir compte des commentaires des personnes intéressées, et assurer la proportionnalité.

« En plus des exigences en matière de qualité et de contenu d’une réglementation efficace, les participants au forum ont recommandé que les organismes de réglementation fassent la promotion de la littératie en IA, y compris sur les données et le consentement. Ces organismes devraient également encourager les institutions financières à faire de même afin d’élargir l’inclusion financière au Canada », indique le rapport du FIASSF.

L’innovation en matière de réglementation

Parce que les institutions financières continuent d’innover et de mettre en place de nouvelles technologies, les organismes de réglementation doivent, eux aussi, demeurer agiles et au fait des progrès de l’IA.

Selon le rapport du FIASSF, malgré la longueur d’avance prise par le secteur financier sur de nombreux autres secteurs en ce qui concerne la compréhension des risques liés aux modèles, il est nécessaire que les organismes de réglementation se tiennent au courant des nouveaux risques découlant de l’adoption de l’IA.

Sur le plan de l’innovation, les organismes de réglementation doivent mener des essais, en tirer des leçons et tirer parti des observations d’autres secteurs sur l’utilisation de l’IA. Pour se tenir au courant des derniers développements, certains organismes de réglementation établissent un bureau de l’innovation.

La collaboration avec d’autres organismes de réglementation et les institutions financières qu’ils supervisent est également recommandée.

« Il est important que les organismes de réglementation ne soient pas perçus comme un obstacle à l’innovation des institutions financières, conclut le rapport. Discuter et échanger avec le secteur privé pourrait être bénéfique. »

Pour en savoir davantage sur la réglementation de l’IA dans le secteur financier et les quatre principes EDGE (Explicabilité, Données, Gouvernance et Éthique), consultez le rapport du FIASSF (PDF, 5,29 Mo).