Die Vorteile generativer KI für Banken sind unbestritten. Dennoch setzen zu wenige Finanzinstitute in Deutschland und weltweit GenAI produktiv ein. Das muss sich dringend ändern, wenn Banken ihre Wettbewerbsfähigkeit nicht gefährden wollen.
Generative KI bietet Banken viele Vorteile und kann zur Steigerung der Wettbewerbsfähigkeit beitragen.
Partner des Bank Blogs
Der Hype um ChatGPT hat zu einer rasanten Verbreitung von generativen KI-Lösungen geführt. Laut dem Marktforschungsunternehmen Gartner setzten im Herbst 2023 bereits 55 Prozent der Unternehmen weltweit generative KI in Pilotprojekten oder produktiv ein. Ein halbes Jahr zuvor waren es erst 19 Prozent.
In der Finanzbranche kommt die Einführung von GenKI jedoch nicht mit der notwendigen Geschwindigkeit voran. Dem „World Retail Banking Report 2024“ des Beratungsunternehmens Capgemini zufolge halten zwar 80 Prozent der Führungskräfte von Retailbanken generative KI für eine wichtige Entwicklung, aber nur sechs Prozent der Finanzinstitute haben tatsächlich eine Roadmap für die unternehmensweite Einführung.
Voraussetzungen für den KI-Einsatz schaffen
Den Banken hierzulande fällt die Transformation nicht leicht. Die Herausforderungen beim Einsatz generativer KI wurden bereits an anderer Stelle ausführlich beschrieben. Laut dem aktuellen NVIDIA-Report „State of AI in Financial Services – 2024 Trends“ kämpfen Banken derzeit vor allem mit datenbezogenen Schwierigkeiten wie Datenschutz, Datenhoheit und weltweit verteilten Daten, die unterschiedlichen regulatorischen Vorgaben unterliegen. Aber auch Fragen der Sicherheit, Korrektheit und Nachvollziehbarkeit sind zu klären, wenn künstliche Intelligenz rechtssicher, Compliance-konform und wertschöpfend eingesetzt werden soll.
Aus diesen Überlegungen ergeben sich für Banken folgende wesentliche Anforderungen für den Einsatz generativer KI:
- Transparenz: Banken müssen nachvollziehen können, warum KI welche Entscheidungen getroffen hat und auf welchen Quellen KI-generierte Texte oder Bilder basieren. Das Thema Observability spielt deshalb eine immer wichtigere Rolle.
- Kontrolle: KI-Lösungen wie ChatGPT verwenden Nutzereingaben für das weitere Training der Modelle. Dadurch besteht die Gefahr, dass sensible Informationen in falsche Hände geraten. Es muss daher sichergestellt werden, dass personenbezogene Daten oder Geschäftsgeheimnisse das Unternehmen nicht verlassen.
- Unabhängigkeit: Die Abhängigkeit von einem Cloud-Provider kann schnell zu wirtschaftlichen Problemen führen, etwa wenn dieser die Preise stark erhöht oder Produkte vom Markt nimmt. Ein solcher Vendor-Lock-in sollte daher vermieden werden. Auch die Aufsichtsbehörden sehen es oft nicht gerne, wenn Banken alle Daten in einer einzigen Cloud speichern.
Die richtige Infrastruktur finden
Transparenz, Kontrolle und Unabhängigkeit stehen und fallen mit der Wahl der richtigen Infrastruktur. Eine entscheidende Rolle spielen dabei Frameworks, mit denen Unternehmen große Sprachmodelle (Large Language Models, LLM) auf ihren eigenen Daten trainieren und anpassen können. Mit Open-Source-Toolkits wie LangChain lassen sich Applikationen auf Basis von Sprachmodellen leicht erstellen oder Third-Party-Anwendungen mit LLMs verknüpfen.
Für Kommunikationsanwendungen wie ChatGPT bieten Lösungen wie NeMo Guardrails eine zusätzliche Sicherheitsebene. Die Open-Source-Software kann unter anderem mit LangChain erstellte Workflows kontrollieren und zum Beispiel verhindern, dass Chatbots im Kundengespräch vom Thema abweichen, zu halluzinieren beginnen oder sensible Daten weitergeben.
Ein weiterer Schritt hin zu mehr Transparenz und Kontrolle sind die sogenannten Model Cards. Mit Model Card++ hat NVIDIA das ursprüngliche Konzept weiterentwickelt und unter anderem um die vier Unterkategorien „Bias“ (Voreingenommenheit), „Explainability“ (Erklärbarkeit), „Privacy“ (Datenschutz) und „Safety & Security“ (Betriebssicherheit und IT-Sicherheit) erweitert.
Vendor-Lock-in vermeiden
Ein Vendor-Lock-in lässt sich am besten durch die Nutzung verschiedener Cloud-Services (Multi-Cloud) und die Integration eigener Ressourcen in Cloud-Umgebungen (Hybrid Cloud) vermeiden. Software-Plattformen wie NVIDIA AI Enterprise 5.0 fungieren als eine Art Betriebssystem und ermöglichen es, KI-Workflows ortsunabhängig in eigenen Rechenzentren, gehosteten Umgebungen oder Cloud-Infrastrukturen zu entwickeln und zu betreiben. So können Finanzinstitute unterschiedliche Infrastrukturen flexibel nutzen und jederzeit erweitern. Manche Banken setzen auch auf komplett eigene KI-Anwendungen über eigens dafür betriebene Server.
Dieses Vorgehen kann zwar komplexer sein, bietet aber ebenfalls eine gute Möglichkeit für unabhängige und Compliance-konforme KI, die spätestens seit der Ankündigung des EU AI Acts für Firmen im Fokus steht. Zudem gehen die Modelle in den Besitz der Bank über, was eine erhebliche Kostenersparnis und Kontrolle ermöglicht. Hintergrund: KI-Rechenbeschleuniger lassen sich inzwischen als Kauf- oder Mietlösung im eigenen Rechenzentrum (oder in einer Co-Location) etablieren und mit Enterprise AI betreiben. Das ist auch hybrid und sogar mit mehreren Public Clouds möglich. Das Betreiben und Entwickeln mehrerer oder sehr großer Modelle spart weitere Cloud-Kosten. Hinzu kommt: Die Daten bleiben im Unternehmen.
Vollständige KI-Plattformen sind grundlegend für die Transformation der Piloten in die Produktion, wie auch bei der schnellen und systematischen Abklärung aller möglichen KI-Anwendungsfälle. Einige Banken bauen mittlerweile ganze KI-Fabriken und KI-Foundations.
Generative KI schnell und erfolgreich einsetzen
Banken sollten sich möglichst schnell mit generativer KI beschäftigen und einfach umsetzbare Anwendungsmöglichkeiten identifizieren. Mit ihr kann jeder Bankmitarbeiter nun Datenbankabfragen tätigen, Wissen generieren und sogar coden, wenn der Zugriff auf die richtigen Daten und Tools besteht.
Im Investmentbanking kann generative KI die Basisdaten von Unternehmen und Branchen schneller analysieren und zusammenfassen, Bewertungsmodelle erstellen, Handelsstrategien überprüfen und Kunden personalisierte Handelsempfehlungen geben. Die Generierung synthetischer Daten zur Betrugsprävention ist ein weiteres wichtiges Anwendungsgebiet von generativer KI. Synthetische Daten können die Anzahl der Datensätze verbessern, die zur Schulung von Betrugserkennungsmodellen verwendet werden.
Infrastrukturdiskussion jetzt führen!
Banken in Deutschland brauchen generative KI, um aktuelle und künftige Herausforderungen zu meistern, wettbewerbsfähig zu bleiben, Risiken zu steuern, die Kundenzufriedenheit zu steigern und neue Ertragsströme zu generieren. Sie müssen sich daher mit den Technologien und deren Implementierung auseinandersetzen – und zwar jetzt! Skalierbare, sichere und transparente Infrastrukturen sind dabei der entscheidende Faktor. Verantwortliche in Banken sind oft der Meinung, dass die Infrastrukturdiskussion nur fünf Prozent eines GenAI-Vorhabens ausmachen. Tatsächlich sind es aber eher 50 Prozent!
