Bericht – Künstliche Intelligenz im Finanzwesen: Wie soll man einer „Black Box“ vertrauen?

Der Einsatz von KI bei Finanzdienstleistungen steht im Widerspruch zu den Grundprinzipien der Entscheidungsfindung im Finanzwesen und der Finanzregulierung – Rechenschaftspflicht, Verantwortung und Transparenz. In diesem Bericht werden die politischen Entscheidungsträger aufgefordert, den Rechtsrahmen neu zu bewerten, um den Schutz der Verbraucherinteressen und die finanzielle Stabilität zu gewährleisten.

Anmerkung: Dieser Text ist die Übersetzung eines in englischer Sprache veröffentlichten Texts. Hier das Original lesen

Diskrepanz zwischen KI und den Grundsätzen der Finanzregulierung

Künstliche Intelligenz wird sich durchsetzen. Doch während das Potenzial zur Steigerung von Produktivität und Gewinn auf der offensichtlich ist, besteht ein grundlegendes Spannungsverhältnis zwischen der Funktionsweise der KI – dem Erkennen von Korrelationen in Daten – und den Grundsätzen der Kausalität und Rechenschaftspflicht, die der Finanzregulierung zugrunde liegen.

KI-Systeme erzeugen Ergebnisse, ohne dass ihre Überlegungen Entscheidungsprozesse nachvollziehbar sind. Aufgrund dieser „Black-Box“-Charakteristik entziehen sich ihre Entscheidungen der menschlichen Analysefähigkeit und machen eine Kontrolle schwer durchführbar, wenn nicht gar unmöglich.

„Black-Box-Logic“ bedroht Verbraucher, Aufsicht und Marktstabilität

1. Der Verbraucherschutz ist in Gefahr. Im Bereich der Privatkundenfinanzierung könnte der Einsatz von KI zu undurchsichtigen Kreditbewertungen, Preisdiskriminierung, diskriminierender Kreditvergabe und irreführender Finanzberatung führen, was insbesondere marginalisierte Verbraucher finanziell ausgrenzen würde..
2. Aufsichtsbehörden stehen vor KI-Herausforderungen. Die Aufsichtsbehörden, die für die Durchsetzung der Regulierung zuständig sind, stehen vor der Herausforderung, mit dem Einsatz von KI durch die Finanzinstitute Schritt zu halten und ihren Auftrag zu erfüllen.
3. Die Marktstabilität ist bedroht. Finanzinstitute, die zunehmend von KI-Anbietern abhängig sind, stehen operativen Risiken durch unregulierte externe Systeme sowie Konzentrationsrisiken gegenüber, bei denen eine Handvoll marktbeherrschender KI-Firmen entscheidende Modelle und Infrastrukturen kontrolliert, was zu systemischen Schwachstellen führt. Datenmanipulationen und die unvermeidliche Erschöpfung der von Menschen erzeugten Daten zum Trainieren von KI-Modellen sind zusätzliche Gefahren, die zu unsinnigen Ergebnissen führen  und Falschinformationen unentdeckbar machen können.

Trotz der Gefahren, die das KI-gestützte Finanzwesen birgt, vermittelt die Verlagerung des Schwerpunkts der EU-Staats- und Regierungschefs weg von der Sicherheit hin zu einer unreflektierten  Übernahme der KI die Botschaft, dass Gewinne und Wettbewerbsfähigkeit an erster Stelle stehen – Verbraucherschutz und Marktstabilität dagegen an letzter.

Aufruf an die politischen Entscheidungsträger

Ohne klare regulatorische Absicherung und Mechanismen der Rechenschaftspflicht führt der Einsatz von KI bei Finanzdienstleistungen zu Risiken, die nur schwer aufzudecken und zu kontrollieren sind, den Verbraucherschutz und die Marktstabilität gefährden und das Vertrauen in das Finanzsystem im Allgemeinen untergraben.

Um diese Herausforderungen und Schwachstellen abzumildern, fordert Finance Watch die politischen Entscheidungsträger auf, einen Kompromiss zwischen der Maximierung der Effizienzgewinne durch KI und der Gewährleistung umfassenderer finanzieller und gesellschaftlicher Schutzmaßnahmen zu finden.

Wichtige Empfehlungen

1. Die Europäische Kommission sollte den Anwendungsbereich des KI-Gesetzes auf alle Finanzdienstleistungen ausweiten.
2. Die Europäische Kommission sollte die 2022 vorgeschlagene und 2025 zurückgezogene KI-Haftungsrichtlinie wieder einführen. Die Richtlinie würde eine klare Haftungsregelung schaffen, die Anbieter von KI-gestützten Diensten für Schäden haftbar macht, die durch die Ergebnisse von KI-Systemen verursacht werden.
3. Die Europäische Kommission sollte die rechtlichen und technischen Möglichkeiten der Finanzaufsichtsbehörden zur Durchsetzung der bestehenden EU-Vorschriften für KI-gestützte Finanzdienstleistungen bewerten.
4. Die Europäische Kommission sollte eine Lückenanalyse durchführen, um die notwendigen Aktualisierungen der bestehenden Finanzvorschriften zu ermitteln und die einschlägigen Rechtstexte zu ändern, um den Schutz von Anlegern, Verbrauchern und der Gesellschaft in einem KI-gesteuerten Finanzsektor zu gewährleisten.

Lesen Sie den Bericht (auf Englisch)