Was ist Temperature bei KI-Modellen?

Temperature ist ein numerischer Parameter, der steuert, wie deterministisch oder kreativ ein KI-Modell bei seiner Ausgabe vorgeht. Der Wert liegt typischerweise zwischen 0 und 2, wobei 0 für maximale Vorhersagbarkeit steht und höhere Werte für mehr Variation.

Technisch gesehen beeinflusst Temperature die Wahrscheinlichkeitsverteilung, aus der das Modell bei jedem Token wählt. Bei Temperature 0 wählt das Modell immer den wahrscheinlichsten nächsten Token. Bei Temperature 1 werden auch weniger wahrscheinliche Optionen einbezogen. Das Ergebnis fühlt sich kreativer und lebendiger an, kann aber auch ungenauer werden.

Wann welche Temperature sinnvoll ist

Für faktische Aufgaben wie das Extrahieren von Daten aus Texten, das Klassifizieren von E-Mails oder das Beantworten von Wissensbankfragen gilt: Temperature so nah an 0 wie möglich. Das Modell soll vorhersagbar und korrekt sein, nicht kreativ.

Für kreative Aufgaben wie das Schreiben von Marketing-Texten, das Generieren von Variantentiteln oder das Entwickeln von Content-Ideen ist eine Temperature zwischen 0,7 und 1,2 sinnvoll. Das Modell produziert dann unterschiedlichere Ergebnisse bei mehreren Aufrufen. Das ist gewünscht.

Ein Beispiel aus der Praxis: Wir haben einen automatisierten Workflow gebaut, der täglich Produktbewertungen analysiert und zusammenfasst. Temperature: 0,1. Die Zusammenfassung soll akkurat und konsistent sein, nicht abwechslungsreich. Derselbe Client nutzte das Modell parallel, um E-Mail-Betreffzeilen zu generieren. Temperature: 0,9. Hier war Variation das Ziel.

Was Temperature nicht ist

Temperature ersetzt keinen guten System-Prompt und kein sorgfältiges Prompt Engineering. Es ist ein Feinabstimmungswerkzeug, kein Ersatz für klare Anweisungen. Ein schlecht formulierter Prompt liefert bei Temperature 0 schlechte Ergebnisse, nur sehr konsistent. Höhere Temperature verstärkt Fehler im Prompting eher, als dass sie sie kompensiert.

Bei automatisierten Prozessen empfehlen wir, Temperature immer explizit zu setzen und nicht auf den Modell-Standard zu vertrauen. Die Defaults unterscheiden sich zwischen Anbietern und Modellversionen.

Mehr zu automatisierten KI-Prozessen und wie wir sie für Unternehmen aufbauen unter KI-Implementierung und Automation. Für ein direktes Gespräch vereinbare einen Termin.