Was ist Halluzination bei KI-Modellen?

Halluzination beschreibt das Phänomen, dass ein KI-Modell selbstsicher und überzeugend klingende Informationen generiert, die schlicht falsch oder frei erfunden sind. Das Modell “halluziniert” Fakten, Namen, Quellen oder Zahlen, die nicht existieren.

Das Gefährliche daran: Die falschen Informationen klingen oft genauso gut formuliert und plausibel wie die richtigen.

Warum Halluzinationen entstehen

LLMs lernen nicht Fakten, sondern Muster in Sprache. Das Modell wird von Millionen Texten trainiert und lernt welche Wörter und Sätze statistisch zusammengehören. Wenn eine Anfrage kommt für die keine eindeutige Antwort im Training enthalten ist, “erfindet” das Modell eine Antwort die sprachlich plausibel klingt.

Ein klassisches Beispiel: “Gib mir drei Studien zum Thema XY.” Das Modell kennt Studien zu verwandten Themen, kombiniert Autorennamen und Titel zu etwas das wie eine echte Studie aussieht, aber keine ist. Wer das nicht prüft, zitiert eine nicht-existente Quelle.

Wie du mit Halluzinationen umgehst

Faktenabhängige Aufgaben prüfen. KI-generierte Texte mit konkreten Fakten (Zahlen, Namen, Daten, Quellen) müssen menschlich geprüft werden, immer.

RAG reduziert Halluzinationen erheblich. Wenn das Modell auf konkrete Dokumente verweist, halluziniert es deutlich seltener. Der Kontext verankert die Antworten.

Das Modell nach Unsicherheit fragen. “Wenn du dir nicht sicher bist, sag das explizit” im System-Prompt zu formulieren, erhöht die Selbstauskunft des Modells über seine Unsicherheit.

KI für das richtige einsetzen. Texte umformulieren, strukturieren, zusammenfassen: wenig Halluzinationsrisiko. Fakten recherchieren, rechtliche Auskünfte geben, medizinisch beraten: hohes Risiko.

Bei KI-Implementierungen bauen wir Qualitätskontroll-Schichten ein, damit Halluzinationen abgefangen werden bevor sie beim Kunden ankommen.

Wie kannst du KI nutzen ohne das Risiko von Falschinformationen? Lass uns das durchdenken.