Temperature ist ein leistungsstarker Parameter, der steuert, wie kreativ oder deterministisch Claudes Antworten ausfallen. Zu verstehen, wie man ihn effektiv einsetzt, kann deine KI-Anwendungen erheblich verbessern.
Wie Claude Text generiert
Bevor wir uns mit Temperature beschäftigen, ist es hilfreich, Claudes Textgenerierungsprozess zu verstehen. Wenn du Claude einen Prompt wie „Was denkst du?" sendest, durchläuft dieser drei Phasen:
- Tokenisierung: Zerlegen deiner Eingabe in kleinere Teile
- Vorhersage: Berechnen von Wahrscheinlichkeiten für mögliche nächste Tokens
- Sampling: Auswählen eines Tokens basierend auf diesen Wahrscheinlichkeiten
Im obigen Diagramm kannst du sehen, wie Claude unterschiedliche Wahrscheinlichkeiten für potenzielle nächste Tokens zuweisen könnte. Das Wort „about" hat eine Wahrscheinlichkeit von 30 %, „would" 20 % und so weiter. Dieser Prozess wiederholt sich für jedes Token, bis die Antwort vollständig ist.
Was Temperature bewirkt
Temperature ist ein Dezimalwert zwischen 0 und 1, der diese Token-Auswahlwahrscheinlichkeiten direkt beeinflusst. Stell es dir wie einen Kreativitätsregler vor:
- Niedrige Temperature (nahe 0): Macht es viel wahrscheinlicher, dass das Token mit der höchsten Wahrscheinlichkeit ausgewählt wird
- Hohe Temperature (nahe 1): Verteilt die Wahrscheinlichkeit gleichmäßiger über alle möglichen Tokens
Bei Temperature 0 wird Claude deterministisch – es wählt immer das wahrscheinlichste Token. Bei Temperature 1 haben Tokens mit geringerer Wahrscheinlichkeit eine deutlich bessere Chance, ausgewählt zu werden, was zu kreativeren und vielfältigeren Ausgaben führt.
Temperature-Bereiche und Anwendungsfälle
Unterschiedliche Aufgaben erfordern unterschiedliche Temperature-Einstellungen:
Niedrige Temperature (0,0 – 0,3)
- Faktische Antworten
- Unterstützung beim Programmieren
- Datenextraktion
- Inhaltsmoderation
Mittlere Temperature (0,4 – 0,7)
- Zusammenfassung
- Bildungsinhalte
- Problemlösung
- Kreatives Schreiben mit Einschränkungen
Hohe Temperature (0,8 – 1,0)
- Brainstorming
- Kreatives Schreiben
- Marketinginhalte
- Witzgenerierung
Temperature im Code einstellen
Standardmäßig ist Claudes Temperature auf 1,0 eingestellt, was maximale Kreativität bedeutet. Du kannst dies überschreiben, indem du Temperature zu deiner Inferenzkonfiguration hinzufügst:
def chat(messages, system=None, temperature=1.0):
params = {
"modelId": model_id,
"messages": messages,
"inferenceConfig": {"temperature": temperature}
}
if system:
params["system"] = [{"text": system}]
response = client.converse(**params)
return response["output"]["message"]["content"][0]["text"]Temperature in der Praxis
Hier ist ein praktisches Beispiel anhand der Generierung von Filmideen. Mit der Temperature auf dem Standardwert (1,0) könntest du kreative Antworten wie diese erhalten:
„Eine zurückgezogen lebende Origami-Meisterin entdeckt, dass ihre kunstvollen Papierkreationen nachts zum Leben erwachen, was sie auf eine magische Reise führt, um ihre Miniaturwelt vor einer mysteriösen Schattenkreatur zu retten, die ihre Existenz aufzulösen droht."
Wenn du jedoch für denselben Prompt die Temperature auf 0,0 setzt, erhältst du durchgängig vorhersehbarere Antworten:
„Eine zeitreisende Archäologin muss verhindern, dass antike Artefakte von einem Tech-Milliardär gestohlen werden, der sie nutzt, um eine Weltuntergangsmaschine zu bauen, die ihre vergessene Kraft nutzbar macht."
Wenn du die Version mit niedriger Temperature mehrmals ausführst, erhältst du sehr ähnliche Antworten, oft mit wiederkehrenden Themen wie „zeitreisender Historiker" oder „zeitreisende Archäologin".
Wichtige Erkenntnisse
Temperature gibt dir direkte Kontrolle über Claudes Kreativitätsniveau. Verwende niedrigere Temperature-Werte, wenn du konsistente, faktische Antworten benötigst, und höhere Temperature-Werte, wenn du kreative, vielfältige Ausgaben möchtest. Die Standard-Temperature von 1,0 maximiert die Kreativität, daher solltest du sie für Aufgaben, die Präzision und Konsistenz erfordern, senken.