Was ist Few-Shot-Learning und was kann es?

Few-Shot-Learning bezeichnet die Fähigkeit eines KI-Modells, eine neue Aufgabe aus sehr wenigen Beispielen zu verstehen und korrekt auszuführen. “Few-Shot” bedeutet wörtlich “wenige Schüsse”, also wenige Beispiele.

Das ist in zwei verschiedenen Kontexten relevant: erstens im klassischen Machine Learning, wo spezielle Trainingstechniken dafür sorgen, dass Modelle aus kleinen Datensätzen lernen können. Und zweitens bei Sprachmodellen wie GPT-4, die Few-Shot-Fähigkeiten im Prompt zeigen.

Few-Shot-Prompting: wie das konkret funktioniert

Statt einem Modell nur zu beschreiben, was es tun soll, zeigst du ihm Beispiele im Prompt. Zum Beispiel: “Übersetze Kundenfeedback in interne Kategorien. Beispiel 1: ‘Lieferung war zu spät’ → Kategorie: Logistik. Beispiel 2: ‘Produkt entspricht nicht der Beschreibung’ → Kategorie: Produktqualität. Jetzt: ‘Ich konnte den Kundendienst nicht erreichen’ →” Das Modell versteht die Aufgabe aus den Beispielen und antwortet korrekt.

Das klappt in der Praxis oft überraschend gut, besonders bei Klassifikations-, Formatierungs- oder Extraktionsaufgaben. Statt ein eigenes Modell zu trainieren, reichen manchmal drei bis zehn gute Beispiele im Prompt.

Unterschied zu Zero-Shot und One-Shot

Zero-Shot: Keine Beispiele im Prompt, nur eine Beschreibung. One-Shot: Ein Beispiel. Few-Shot: Zwei bis zehn Beispiele. Mehr als zehn nennt sich Many-Shot. Die Übergänge sind fließend.

Wann ist Few-Shot sinnvoll?

Wenn du schnell testen möchtest, ob ein Modell eine Aufgabe erledigen kann, ohne Trainingsdaten zu sammeln und ein Modell zu fine-tunen. Das spart Zeit und Kosten erheblich. Für viele Klassifikations- und Extraktionsaufgaben in Unternehmen ist Few-Shot-Prompting ein guter erster Schritt.

Wenn die Aufgabe hochvolumig und präzise sein muss, ist Fine-Tuning die nächste Stufe. Was für dich passt, klären wir in einer KI-Beratung.