Retrieval Augmented Generation für Finanzdienstleister: Mehr Speed in der Beratung

Auf dem 2025 Banking Transformation Summit habe ich einen entscheidenden Wandel darin festgestellt, wie Finanzinstitute KI zukünftig zur Kundenberatung einsetzen können. Während die erste KI-Welle insbesondere Chatbots und Copiloten hervorbrachte, erfordert die nächste Phase mehr Präzision, Vertrauen und eine stärkere Ausrichtung an den Unternehmenszielen.

Genau hier setzt Retrieval Augmented Generation (RAG) an. Es ist ein zentrales architektonisches Element für LLM-basierte Anwendungen und überbrückt die Lücke zwischen den spezifischen Anforderungen im Finanzwesen – insbesondere im Umgang mit kundenbezogenen Informationen.

In diesem Artikel teile ich die wichtigsten Erkenntnisse meines Vortrags auf dem Banking Transformation Summit und illustriere, warum RAG ein grundlegender Baustein für den Einsatz von KI in der Finanzbranche ist.

Warum brauchen Finanzinstitute mehr als LLMs für ihre Kundenberatung?

Öffentliche Large Language Models (LLMs) wie ChatGPT, Copilot oder Gemini zeigen beeindruckende Leistungen im Verstehen und Generieren natürlicher Sprache. Doch ihre Grenzen werden in regulierten und datensensiblen Bereichen wie Banken und Versicherungen schnell deutlich:

• Genauigkeit: LLMs halluzinieren häufig und liefern plausible, aber falsche Antworten – meist aufgrund fehlenden Kontexts oder mangelhafter Trainingsdaten.
• Vertraulichkeit: Sensible Kundendaten dürfen nicht zum Training öffentlicher Modelle verwendet werden, was deren Praxistauglichkeit einschränkt.
• Aktualität: Die Aktualisierung großer Sprachmodelle ist rechenintensiv und selten – ungeeignet für schnelllebige Branchen.
• Nachvollziehbarkeit: Diese Modelle sind Black Boxes – sie bieten keine Transparenz darüber, wie Antworten zustande kommen.
• Rechenfähigkeit: Der Umgang mit tabellarischen, numerischen oder historischen Daten bleibt eine Schwäche.
• Lokalisierung: LLMs basieren oft auf englischsprachigen Daten aus anderen Ländern – schlecht für Antworten in anderen Sprachen oder mit kulturellem Kontext.

Um die Kundenberatung nachhaltig zu transformieren, müssen KI-Systeme kontextbewusst, sicher und erklärbar sein – weit über generische Tools hinaus.

RAG: Ein smarter Weg zur Verbesserung der Kundenberatung

RAG ist eine hybride KI-Architektur, die die generative Stärke von LLMs mit der Präzision unternehmensinterner Daten kombiniert. Sie funktioniert wie folgt:

1. Interne Datenbanken werden mit Dokumenten angereichert – etwa mit Gutachten, Policen, Kundenakten oder regulatorischen Texten.
2. Semantische Suchen finden die relevantesten Inhalte auf Basis von Bedeutung, nicht nur Schlüsselwörtern.
3. Prompt-Engineering und modellinterne Kontextverankerung sorgen für präzise, nachvollziehbare und fundierte Antworten.

Damit können KI-Agenten selbst komplexe Kundenfragen zuverlässig beantworten – inklusive Verweis auf konkrete Textstellen oder Dokumente.

Praxisbeispiel: UNIQA’s KI-gestützter Kundenservice

Ein eindrucksvolles Beispiel für RAG in der Praxis ist Zühlkes Zusammenarbeit mit UNIQA, dem zweitgrößten Versicherer Österreichs. Gemeinsam haben wir einen preisgekrönten KI-Chatbot für den Vertrieb erprobt und dabei Kundenservice-Teams deutlich entlastet.

Der Einsatz von KI in der Kundenberatung dreht sich jedoch nicht nur um Effizienz – sondern auch um das Kundenerlebnis, Genauigkeit und Compliance. Um dies zu erreichen, braucht es mehr als Prompt-Engineering und Standard-LLMs.

Nach unserer Erfahrung können RAG-basierte Systeme eine Genauigkeit von bis zu 95 % erreichen – vorausgesetzt, es bleibt ein Mensch im Loop. Für noch höhere Genauigkeit braucht es spezialisierte, trainierte Modelle.

Der Weg in die Zukunft

Während Finanzinstitute ihre Dienstleistungen weiter digitalisieren und personalisieren, wird die Fähigkeit, genaue, aktuelle und vertrauenswürdige Informationen zu liefern, zum entscheidenden Wettbewerbsvorteil. RAG bietet eine skalierbare, sichere und erklärbare KI-Architektur, die sowohl regulatorischen Anforderungen als auch Kundenwünschen gerecht wird.

Bei Zühlke glauben wir, dass die Zukunft der Kundenberatung in strategischen KI-Systemen liegt – Systeme, die Menschen befähigen, Vertrauen stärken und neue Werte entlang der gesamten Customer Journey freisetzen.