Was ist Retrieval Augmented Generation (RAG)?

RAG steht für Retrieval Augmented Generation. Es ist eine Architektur, bei der ein Sprachmodell nicht aus dem Gedächtnis antwortet, sondern zuerst relevante Informationen aus einer Wissensdatenbank abruft und diese dann in seine Antwort einbezieht.

Das klingt nach einem technischen Detail, löst aber ein echtes Problem. Sprachmodelle wissen nichts über aktuelle Ereignisse nach ihrem Trainings-Cutoff. Sie wissen nichts über dein Unternehmen, deine internen Dokumente, deine Produkte. Sie halluzinieren, wenn sie Fragen beantworten, für die sie keine zuverlässigen Trainingsdaten hatten.

Wie funktioniert RAG?

Wenn du eine Frage stellst, läuft folgender Prozess: Erstens, deine Frage wird in eine Vektor-Darstellung umgewandelt (Embedding). Zweitens, in der Wissensdatenbank wird nach semantisch ähnlichen Dokumenten gesucht. Drittens, die relevantesten Dokumente oder Ausschnitte werden als Kontext in den Prompt eingefügt. Viertens, das Sprachmodell antwortet auf Basis dieser konkreten Informationen.

Das Ergebnis: Die Antwort ist geerdet in deinen tatsächlichen Dokumenten, nicht in den Trainingsdaten des Modells. Halluzinationen werden deutlich reduziert, weil das Modell eine konkrete Quelle hat.

RAG vs. Fine-Tuning

Eine häufige Frage. Fine-Tuning trainiert das Modell neu auf eigenen Daten. RAG fügt Wissen dynamisch zur Laufzeit ein. RAG ist flexibler (Dokumente können aktualisiert werden, ohne neu zu trainieren) und günstiger. Fine-Tuning ist besser, wenn es um Tonfall, Stil oder strukturelle Anpassungen geht.

Für Unternehmen

RAG ist heute eine der wichtigsten Architekturen für unternehmenseigene KI-Anwendungen. Interner Chatbot, der Mitarbeitern aus der Dokumentation antwortet. Kundenservice-Bot, der auf die Produktdatenbank zugreift. Support-Tool, das aus früheren Tickets Antworten ableitet.

Wenn du eine solche Anwendung bauen möchtest, ist RAG in den meisten Fällen der richtige Ausgangspunkt. Lass uns das in einer KI-Beratung konkretisieren.