Was ist RAG (Retrieval Augmented Generation)?

Was ist RAG (Retrieval Augmented Generation)?

Bei RAG bekommt ein KI-Modell nicht nur deine Frage, sondern zusätzlich relevante Dokumente oder Daten als Kontext mitgeliefert. Das Modell antwortet dann auf Basis dieser spezifischen Informationen, statt nur auf sein allgemeines Training zurückzugreifen.

RAG löst das größte praktische Problem bei KI-Anwendungen in Unternehmen: Das Modell kennt dein internes Wissen nicht.

Warum RAG in der Praxis so wertvoll ist

Stell dir einen Chatbot für deinen Kundendienst vor. Ohne RAG: Der Chatbot antwortet auf Basis seines allgemeinen Trainings, kennt aber deine spezifischen Produkte, Richtlinien und Prozesse nicht.

Mit RAG: Bei jeder Kundenfrage durchsucht das System automatisch deine Produkthandbücher, FAQ-Datenbank und Prozessdokumentation. Die relevantesten Dokumente werden dem KI-Modell als Kontext mitgegeben. Das Modell antwortet präzise auf Basis deiner eigenen Unterlagen.

Das Ergebnis: Ein Chatbot der wirklich dein Unternehmen kennt, ohne dass du ein eigenes Modell trainieren musst.

Wie RAG technisch funktioniert

Die Dokumente werden in Vektoren umgewandelt und in einer Vektor-Datenbank gespeichert. Bei jeder Anfrage wird diese Datenbank semantisch durchsucht, also nicht nur nach exakten Wörtern, sondern nach inhaltlicher Ähnlichkeit. Die gefundenen relevanten Textstellen werden dem LLM als Kontext übergeben.

RAG ermöglicht auch, aktuelle Informationen einzubinden die das Modell aus seinem Training nicht kennt, da KI-Modelle nur bis zu einem bestimmten Datum trainiert wurden.

Bei KI-Implementierungen ist RAG der häufigste Ansatz für interne Wissensassistenten und Kundensupport-Systeme. Es ist deutlich günstiger und schneller als Fine-Tuning.

Du möchtest einen KI-Assistenten der auf deine Firmendaten zugreift? Lass uns das konkretisieren.