La clé pour une utilisation sécuritaire et efficace de l’IA dans le secteur financier

À l’heure où les organisations s’empressent d’intégrer à leurs activités des modèles d’intelligence artificielle (IA) de plus en plus complexes, se doter d’un cadre de gouvernance robuste est, selon les experts, une bonne solution pour s’assurer que ces modèles demeurent efficaces, sécuritaires et équitables.

La gouvernance de l’IA était l’un des sujets abordés par un groupe de gourous de l’IA provenant des services financiers, du secteur public et du milieu universitaire, lors d’ateliers tenus dans le cadre du Forum sur l’intelligence artificielle dans le secteur des services financiers (FIASSF).

Les différents échanges, résumés dans le rapport du FIASSF, se sont articulés autour de quatre principes clés qui orientent l’utilisation et la réglementation de l’IA dans le secteur financier :

• E – Explicabilité
• D – Données
• G – Gouvernance
• E – Éthique

Dans cette série d’articles – dont les premiers ont porté sur l’explicabilité et les données – nous examinons de près chacun de ces thèmes ainsi que les enseignements à en tirer et leur application à la recherche et aux activités dans le domaine de la réglementation.

Notons que le contenu de cet article et du rapport sur l’IA reflète les points de vue et les idées des conférenciers et des participants du FIASSF et ne doit pas être considéré comme étant représentatif de l’opinion des organismes auxquels ceux-ci appartiennent, y compris les organisateurs du FIASSF, le Bureau du surintendant des institutions financières (BSIF) et l’Institut du risque mondial (IRM).

De plus, le contenu de cet article et du rapport ne doit pas être interprété comme des directives du BSIF ou de tout autre organisme de réglementation, maintenant et dans l’avenir.

Qu’est-ce que la gouvernance, au juste?

Tout d’abord, il est important de comprendre ce qu’est la gouvernance – et ce qu’elle n’est pas.
La Fondation canadienne pour l’audit et la responsabilisation la définit comme les structures, systèmes et pratiques qui permettent à une organisation :

• d’attribuer les pouvoirs décisionnels, d’établir le processus décisionnel et de fixer son orientation stratégique;
• de superviser la fourniture de ses services; la mise en œuvre de ses politiques, plans, programmes et projets; ainsi que le suivi et l’atténuation de ses principaux risques;
• de produire un rapport de performance sur l’atteinte des résultats visés et d’utiliser l’information sur la performance aux fins de l’amélioration continue et de la prise de mesures correctives.

Plus précisément, les participants du FIASSF ont souligné les caractéristiques d’une bonne gouvernance de l’IA dans les institutions financières :

• Elle doit être intégrée et s’étendre à l’ensemble de l’organisation.
• Les rôles et les responsabilités doivent être clairs et bien définis.
• La propension à prendre des risques doit être bien définie.
• Elle doit cadrer avec le risque lié aux cas d’utilisation.
• Elle doit s’adapter à mesure qu’une institution financière progresse dans son adoption de l’IA.

La gouvernance en pratique

Concrètement, qu’est-ce que cela signifie?

Par exemple, comme nous le mentionnons dans notre article sur le thème des données du FIASSF, les organisations pourraient instaurer une « culture de littératie des données » en mettant l’accent sur les écueils potentiels découlant de l’utilisation non encadrée des données.

« En effet, pour soutenir l’adoption généralisée de l’IA, il est nécessaire de sensibiliser l’ensemble de l’organisation aux divers risques qui découlent d’une utilisation inadéquate des données. Par conséquent, les organisations devraient envisager des activités de formation continue pour leur effectif sur un éventail d’aspects liés aux données », indique le rapport du FIASSF.

Un autre exemple intéressant vient du Secrétariat du Conseil du Trésor (SCT) du gouvernement du Canada.
Lors du FIASSF, Benoit Deshaies, directeur des données et de l’intelligence artificielle au SCT, a expliqué comment le gouvernement du Canada utilise un outil d’évaluation de l’incidence algorithmique pour évaluer les décisions automatisées sur un éventail de sujets.

« Il a été élaboré de façon collaborative, a une portée et une application bien définies, est fondé sur les risques et met en œuvre le principe de proportionnalité, car il établit un résultat en fonction de l’incidence sur le client », explique le rapport du FIASSF.

« Les pratiques d’atténuation des risques sont ensuite traduites en exigences spécifiques de gouvernance en fonction du niveau d’incidence. Il s’agit d’un outil d’autoévaluation appuyé par un processus d’examen par les pairs pour les systèmes automatisés qui peuvent l’exiger. »

La gouvernance n’est pas une solution miracle qui garantit l’efficacité et la sécurité des modèles, mais plutôt une composante essentielle de toute approche multidimensionnelle.

Une fondation solide

Cela dit, il ne faut pas obligatoirement partir de zéro.

Les participants au forum étaient généralement d’accord avec l’évaluation de la Banque d’Angleterre selon laquelle il était préférable d’étendre les cadres de gouvernance existants que d’élaborer une série de nouveaux processus et de nouvelles procédures propres à l’IA.

Selon le rapport du FIASSF, les institutions financières ne sont pas toutes rendues au même point en matière d’adoption de l’IA et de mise en œuvre des cadres de gouvernance.

L’élaboration d’un cadre de gouvernance robuste qui tient compte de l’IA pourrait entraîner un changement de culture important, car de plus en plus de secteurs d’activités des institutions financières ont recours aux techniques d’IA.

Prochaines étapes

Les participants au forum, qui ont porté leur regard vers l’avenir de la gouvernance de l’IA, ont proposé cinq domaines clés : gouvernance des outils et des technologies, gouvernance par des tiers, aspects organisationnels, compétences et éducation, et collaboration.

Le FIASSF est en lui-même un bel exemple de collaboration.

Les participants ont convenu qu’il serait utile de continuer à favoriser la collaboration entre les intervenants concernés afin de créer une vaste collectivité de pratique et ainsi permettre aux institutions de parler de leurs pratiques exemplaires.

« Le dialogue et la collaboration continus entre les différents intervenants, comme le milieu universitaire, le secteur et les organismes de réglementation, pourraient contribuer à faire progresser l’innovation grâce à la mise en commun des connaissances », souligne le rapport.

Pour en savoir plus sur les autres thèmes abordés par les participants au forum, consultez le rapport complet du FIASSF (PDF, 52 Mo).