Aufsichtliche Prinzipien für den Einsatz Künstlicher Intelligenz

Um den verantwortungsvollen Einsatz von Algorithmen in Entscheidungsprozessen von Finanzunternehmen sicherzustellen, hat die BaFin vor kurzem ein neues Positionspapier mit  aufsichtlichen Prinzipien für deren Einsatz publiziert.

Aufsichtsrechtliche Anforderungen, Regulierung und Compliance werden von den meisten Banken und Sparkassen als Last empfunden. Dabei sichern diese die Sicherheit und damit die Existenz unseres modernen Bankensystems und ermöglichen, richtig genutzt, auch Chancen im Kundengeschäft. Im Bank Blog finden Sie aktuelle Studien zu Trends und Entwicklungen in diesem Bereich.

Partner des Bank Blogs

Bereits 2018 hatte die BaFin in ihrer Studie „Big Data trifft auf künstliche Intelligenz“ darauf hingewiesen, dass sich daraus Chancen für Unternehmen, aber auch für Verbraucher ergeben. Es gehe aber auch darum, die damit verbundenen Risiken zu beherrschen. Ausgehend von den Erkenntnissen der Studie und den Ergebnissen der anschließenden Konsultation – und vor dem Hintergrund, dass immer mehr Finanzinstitute diese Technologien einsetzen – hat die BaFin nun in einem neuen  Positionspapier aufsichtliche Prinzipien für einen verantwortungsvollen Einsatz von Big Data und künstlicher Intelligenz veröffentlicht.

In dem Papier befasst sich die BaFin unter anderem mit der Frage, welche aufsichtlichen Grundsätze und Rahmenbedingungen für einen kontrollierten Einsatz von Künstlicher Intelligenz und Big Data aufgestellt werden müssen. Es soll Finanzinstituten als Orientierungshilfe dienen und zugleich Impulse für den Austausch mit verschiedenen Stakeholdern geben. So hat die Europäische Kommission im vergangenen Jahr in ihrer Digital Finance Strategy angekündigt, spätestens bis 2024 gemeinsam mit den Europäischen Aufsichtsbehörden (European Supervisory Authorities – ESAs) klarzustellen, welche Erwartungen an die Verwendung intelligenter Technologien gestellt werden sollen. Das Prinzipienpapier der BaFin soll auch die gemeinsamen Arbeiten der ESAs mit der Kommission voranbringen.

Drei Merkmale moderner Analysemethoden

Grundsätzlich ist es nicht einfach, moderne Analysen von Verfahren der klassischen Statistik abzugrenzen. Unter Risikogesichtspunkten lassen sich jedoch drei Merkmale herausstellen, die bei modernen Analysemethoden von besonderer Bedeutung sind:

1. Die verwendeten Algorithmen sind – im Vergleich zu klassischen statistischen Verfahren – besonders komplex. Das erschwert ihre Nachvollziehbarkeit.
2. Die Zyklen zur Rekalibrierung werden immer kürzer. Dies liegt an der Kombination aus stetig weiter lernenden Algorithmen und daran, dass nahezu täglich neue Daten zur Verfügung stehen. Dadurch verschwimmen mehr und mehr die Grenzen zwischen Kalibrierung und Validierung.
3. Ein hoher Grad der Automatisierung. Dadurch lassen sich Prozesse immer leichter hochskalieren und die Auswirkung des einzelnen Algorithmus nimmt zu.

Entscheidungsprozess in zwei Phasen

Um die Prinzipien möglichst genau formulieren zu können, wurde der auf Algorithmen fußende Entscheidungsprozess stark vereinfachend in zwei Phasen unterteilt:

• Die Entwicklungsphase und
• Die Anwendungsphase.

Flankiert werden diese beiden Phasen durch übergeordnete Prinzipien, etwa zur Notwendigkeit einer klaren Verantwortungsstruktur und eines adäquaten Risiko- und Auslagerungsmanagements.

Entwicklungsphase

Hier geht es darum, wie der Algorithmus ausgewählt, kalibriert und validiert wird. Hierfür gibt es beispielsweise Prinzipien zur Datenstrategie, aber auch solche zur Dokumentation der unternehmensinternen und externen Nachvollziehbarkeit.

Anwendungsphase

Hier müssen die Ergebnisse des Algorithmus interpretiert und in Entscheidungsprozesse eingebunden werden. Dies kann automatisch geschehen, aber auch, indem laufend Experten einbezogen werden. In jedem Fall muss eine funktionierende Geschäftsordnung etabliert sein, die unter anderem ausreichende Kontrollmechanismen und entsprechende Feedbackloops zur Entwicklungsphase umfasst.

Premium Abonnenten des Bank Blogs haben direkten kostenfreien Zugriff auf die Bezugsinformationen zu Studien und Whitepapern.