RAG (Retrieval-Augmented Generation) — einfach erklärt

Was ist RAG?

RAG steht für Retrieval-Augmented Generation — zu Deutsch etwa: abrufgestützte Texterzeugung. Dahinter verbirgt sich ein Verfahren, mit dem eine KI nicht nur aus ihrem antrainierten Wissen antwortet, sondern zusätzlich gezielt in einer eigenen Datenquelle nachschlägt, bevor sie eine Antwort formuliert.

Der Grundgedanke: Ein Sprachmodell kennt nur das, was bis zu seinem Trainingsstand öffentlich verfügbar war. Firmeninterne Handbücher, aktuelle Preislisten, Vertragsdetails oder die letzte Änderung im Kundenprozess kennt es nicht — es sei denn, jemand liefert diese Information mit. Genau das übernimmt RAG: Es sucht bei jeder Anfrage passende Textstellen aus den eigenen Unterlagen heraus und gibt sie der KI als Grundlage für die Antwort mit.

Wie funktioniert RAG?

Ablauf in vier Schritten:

1. Frage stellen — Ein Mitarbeiter oder Kunde stellt eine Frage, zum Beispiel zu einer internen Regelung oder einem Produkt.
2. Suche (Retrieval) — Das System durchsucht eine vorbereitete Wissensbasis — etwa Handbücher, Wikis, DocBox-Dokumente oder eine Support-Datenbank — nach den dazu passenden Textabschnitten.
3. Kontext übergeben (Augmentation) — Die gefundenen Textstellen werden zusammen mit der ursprünglichen Frage an das Sprachmodell übergeben.
4. Antwort erzeugen (Generation) — Die KI formuliert daraus eine Antwort in natürlicher Sprache — gestützt auf die gefundenen Fakten, nicht nur auf allgemeines Trainingswissen.

Das Modell selbst wird dabei nicht neu trainiert. Die Wissensbasis lässt sich laufend aktualisieren, ohne dass die KI dafür neu aufgesetzt werden muss — ein wesentlicher Vorteil gegenüber einem aufwändigen Nachtrainieren.

Typische Einsatzszenarien im Mittelstand

• Interne Wissensdatenbank: Mitarbeiter fragen in natürlicher Sprache nach einer Verfahrensanweisung, statt in mehreren Ordnern zu suchen — die KI antwortet auf Basis der hinterlegten Dokumente.
• Kunden-Support: Ein Chatbot beantwortet Fragen zu Produkten oder Vertragsbedingungen anhand der aktuellen Firmendokumente statt anhand veralteten oder erfundenen Wissens.
• Angebots- und Vertragsprüfung: Bestehende Unterlagen dienen als Nachschlagewerk, damit Antworten konkret auf die eigene Vertragslage statt auf allgemeine Aussagen gestützt sind.

Wichtig bleibt in jedem Szenario: Die Qualität der Antwort hängt direkt von der Qualität und Aktualität der zugrunde liegenden Dokumente ab. Veraltete oder widersprüchliche Unterlagen führen auch mit RAG zu unpräzisen Antworten.

RAG in der Praxis

Ein typisches Beispiel: Ein Mitarbeiter fragt einen internen KI-Assistenten, wie eine bestimmte Reklamation zu bearbeiten ist. Ohne RAG würde die KI eine allgemeine, plausibel klingende Antwort geben — die aber nicht zwingend zum eigenen Prozess passt. Mit RAG durchsucht das System zunächst die hinterlegte Verfahrensanweisung, findet den passenden Abschnitt und formuliert die Antwort auf dessen Grundlage. Das Ergebnis ist eine Antwort, die sich konkret auf das eigene Unternehmen bezieht, statt auf generisches Wissen aus dem Internet.

Ob und wie sich ein solches Verfahren für den eigenen Betrieb lohnt, hängt von der vorhandenen Dokumentenlage und dem konkreten Anwendungsfall ab. Bei KI-Automatisierung von LNIT prüfen wir gemeinsam, welche Prozesse sich sinnvoll mit einer solchen Lösung unterstützen lassen.