Rapport – L’intelligence artificielle dans la finance : comment faire confiance à une “boîte noire” ?

L’utilisation de l’IA dans les services financiers est en contradiction avec les principes fondamentaux qui sous-tendent la prise de décision dans la finance et la réglementation financière que sont l’obligation de rendre des comptes, la responsabilité et la transparence. Ce rapport appelle les décideurs politiques à réévaluer le cadre réglementaire, pour préserver la protection des intérêts des consommateurs et assurer la stabilité financière.

Une déconnexion entre l’IA et les principes de la réglementation financière

L’intelligence artificielle fait indéniablement partie de notre avenir. Mais, si le potentiel d’augmentation de la productivité et des profits est évident, il y a une tension fondamentale entre la manière dont l’IA fonctionne – en détectant des corrélations entre les données – et les principes de causalité et de responsabilité qui sous-tendent la réglementation financière.

Les systèmes d’IA génèrent des résultats sans fournir d’explications claires sur leur raisonnement. Cet aspect “boîte noire” place leur décisions au-delà de la capacité d’analyse humaine et rend le contrôle compliqué, sinon impossible.

La logique de “boîte noire” menace les consommateurs, la capacité de supervision et la stabilité des marchés

1. La protection des consommateurs est menacée. Dans le domaine de la finance de détail, le déploiement de l’IA pourrait conduire à des évaluations de crédit opaques, à des tarifs et prêts discriminatoires, et à des conseils financiers trompeurs, autant de pratiques favorisant l’exclusion financière, qui affecte de manière disproportionnée les populations marginalisées.
2. L’IA en finance est un défi sans précédent pour les superviseurs financiers. Les superviseurs chargés de faire respecter la réglementation sont à la peine face au rythme du déploiement de l’IA et ont du mal à remplir leurs missions.
3. L’IA crée de nouveaux risques pour la stabilité financière. De plus en plus dépendantes de fournisseurs tiers d’IA, les institutions financières sont confrontées à des risques opérationnels liés à des systèmes externes non régulés. Le risque systémique généré par la concentration des acteurs est également à prendre en compte, alors qu’une poignée d’entreprises d’IA dominantes contrôlent des modèles et des infrastructures devenues critiques. La manipulation des données et l’épuisement inévitable des données générées par l’homme pour former les modèles d’IA sont autant de menaces supplémentaires, entraînant des résultats absurdes et l’impossibilité de détecter des informations fausses.

Malgré les dangers posés par une finance dopée à l’IA, les dirigeants européens se détournent d’une nécessaire prudence pour se jeter dans les bras de l’IA, envoyant le message que les profits et la compétitivité sont prioritaires à la protection des consommateurs et de la stabilité des marchés.

Nos demandes aux décideurs politiques

Sans des garde-fous réglementaires clairs et des mécanismes de responsabilité, l’utilisation de l’IA dans les services financiers fait naître des risques difficiles à détecter et à maîtriser. Risques qui menacent la protection des consommateurs et la stabilité des marchés, tout en dégradant la confiance dans le système financier dans son ensemble.

Pour faire face à ces défis et risques, Finance Watch appelle les décideurs politiques à trouver le bon équilibre entre la maximisation des gains d’efficacité permis par l’IA et la protection du système financier et de la société.

Nos recommandations

Principales recommandations

1. La Commission européenne devrait étendre le champ d’application du réglement sur l’IA à l’ensemble des services financiers.
2. La Commission européenne devrait réintroduire la directive sur la responsabilité en matière d’IA, proposée en 2022 et retirée en 2025. Cette directive établirait un régime de responsabilité clair, qui rendrait les fournisseurs de services basés sur l’IA responsables des dommages causés par les résultats des systèmes d’IA.
3. La Commission européenne devrait évaluer les capacités légales et techniques des superviseurs à appliquer la réglementation actuelle de l’UE sur les services financiers maintenant qu’ils deviennent basés sur l’IA.
4. La Commission européenne devrait mener une analyse des lacunes existantes dans la réglementation financière, pour identifier les adaptations nécessaires et amender les textes concernés afin de garantir la protection des consommateurs face à un secteur financier basé sur l’IA.

Lire le rapport (en anglais)