Temperatur
Die Temperatur, englisch Temperature, ist ein Parameter vieler generativer KI-Modelle, der beeinflusst, wie zufällig das Modell zwischen möglichen nächsten Token auswählt. Niedrige Werte bevorzugen die wahrscheinlichsten Fortsetzungen, höhere Werte lassen auch weniger wahrscheinliche Varianten zu und erhöhen die Vielfalt der Ausgaben.
Für Klassifikationen und wiederkehrende Aufgaben eignen sich meist niedrige Werte, für Ideensammlungen eher höhere. Eine niedrige Temperatur macht Ergebnisse gleichförmiger, aber nicht automatisch korrekt.
Welche Temperatur eignet sich für welche Content-Aufgabe?
Als Faustregel gilt: Je stärker es auf Gleichförmigkeit ankommt, desto niedriger die Temperatur. Die Skalen unterscheiden sich je nach Anbieter, deshalb helfen eigene Tests mehr als feste Werte.
- Klassifizieren und extrahieren: Niedrige Temperatur, etwa für Verschlagwortung, Kategorisierung oder das Auslesen von Daten aus Dokumenten.
- Zusammenfassen und übersetzen: Niedrige bis mittlere Temperatur, damit der Inhalt stabil bleibt und die Sprache trotzdem natürlich wirkt.
- Fließtexte schreiben: Mittlere Temperatur als Ausgangspunkt, die ihr an euren Ergebnissen nachjustiert.
- Ideen und Überschriften: Höhere Temperatur, wenn ihr viele unterschiedliche Vorschläge wollt, aus denen das Team auswählt.
- Grenzen beachten: In vielen Chat-Oberflächen ist die Temperatur nicht einstellbar, und bei manchen neueren Modellen ist sie fest vorgegeben. Ändert außerdem nicht mehrere Parameter gleichzeitig, sonst lässt sich die Wirkung nicht zuordnen.
Für wiederkehrende Klassifikationen wählt ein Team eine möglichst wenig variierende Konfiguration.
Häufige Fragen
Macht Temperatur 0 KI-Antworten immer gleich?
Nicht zwingend. Eine Temperatur von 0 bevorzugt stets die wahrscheinlichste Fortsetzung und macht Antworten sehr gleichförmig. Durch technische Einflüsse bei der Berechnung können bei manchen Anbietern trotzdem kleine Abweichungen entstehen. Für möglichst reproduzierbare Ergebnisse braucht ihr zusätzlich gleiche Eingaben und eine feste Modellversion.
Temperatur oder Top-p: Was ist der Unterschied?
Beide steuern die Vielfalt der Ausgaben, aber auf unterschiedliche Weise. Die Temperatur verändert, wie stark wahrscheinliche Token gegenüber unwahrscheinlichen bevorzugt werden. Top-p begrenzt die Auswahl auf die wahrscheinlichsten Token, bis deren Wahrscheinlichkeit zusammen einen festgelegten Anteil erreicht. Anbieter empfehlen meist, nur einen der beiden Parameter zu verändern.
Verringert eine niedrige Temperatur Halluzinationen?
Nur begrenzt. Eine niedrige Temperatur macht Antworten gleichförmiger, verhindert aber keine falschen Aussagen, wenn das Modell eine Information nicht kennt oder falsch gelernt hat. Wirksamer gegen Halluzinationen sind verlässliche Quellen im Kontext, klare Anweisungen zum Umgang mit Unsicherheit und eine Faktenprüfung vor der Veröffentlichung.
Wer im Team legt die Temperatur fest?
Die Person, die eine Vorlage oder einen Agenten einrichtet, legt die Temperatur fest und dokumentiert sie zusammen mit Prompt und Modellversion. Sinnvoll ist ein fester Standardwert je Aufgabenart, der nur nach einem Test geändert wird. So bleiben Ergebnisse vergleichbar, und Qualitätsschwankungen lassen sich auf ihre Ursache zurückführen.