Claude Academy
Wird geladen

Kontextmanagement

Lektion 106 Min.
Wird geladen

Kontextmanagement

Jede Anfrage, die du an Claude sendest, hat ein Kontextfenster. Eine Million Token klingt nach viel, aber es ist schneller aufgebraucht, als du denkst, sobald du einen echten Agenten in Produktion bringst. Hier kommt das Kontextmanagement ins Spiel: Es geht darum, innerhalb des Fensters zu bleiben, ohne das Wichtige zu verlieren.

Was als Kontext zählt

Kontext ist alles, was Claude in einer bestimmten Runde sieht:

  • Der System-Prompt
  • Der Nachrichtenverlauf
  • Tool-Definitionen und Tool-Ergebnisse
  • Angehängte Dateien und Skills
  • Denkblöcke

Diagramm der fünf Komponenten des Kontexts: System-Prompt, Nachrichtenverlauf, Tools, Dateien und Skills sowie Denkblöcke

Es ist der Input für jeden einzelnen API-Aufruf. Du zahlst dafür beim Eingang und du zahlst dafür beim Ausgang. Und sobald das Fenster voll ist, schlägt die Anfrage fehl.

Das Ziel ist also nicht, alles hineinzupacken. Das Ziel ist, die richtigen Dinge hineinzupacken.

Anthropic veröffentlicht vier Muster für die Verwaltung von Kontext in lang laufenden Agenten. Drei davon sind erstklassige API-Funktionen, eines ist ein Designmuster.

Diagramm der vier Muster für die Verwaltung von Kontext: Just-in-Time-Kontext, Komprimierung, Caching und Memory

Muster 1: Just-in-Time-Kontext

Lade nicht alles im Voraus. Lade das, was der Agent jetzt braucht, und lass ihn über Tools mehr nachladen, wenn er danach fragt.

Denk an einen Agenten zur Prüfung der Compliance. Er bekommt nicht das gesamte Baurecht-Regelwerk in seinen System-Prompt gestopft — er ruft ein lookup_building_code-Tool auf, wenn er einen bestimmten Abschnitt braucht. Das ist das Designmuster der vier: nichts Besonderes in der API, nur eine bewusste Entscheidung darüber, was du wann lädst.

Muster 2: Serverseitige Komprimierung

Wenn ein Gespräch lang wird, fasst Anthropics serverseitige Komprimierung alte Runden zu einem einzigen Block zusammen. Du aktivierst dies, indem du deiner Anfrage einen context_management-Schlüssel hinzufügst, der ein Edit mit einem Typ enthält:

python
response = client.beta.messages.create(
    betas=["compact-2026-01-12"],
    model="claude-opus-5",
    max_tokens=1024,
    context_management={
        "edits": [
            {"type": "compact_20260112"}
        ]
    },
    messages=messages,
)

Die API fasst automatisch zusammen, wenn der Input den Auslöse-Schwellenwert überschreitet. Du musst die Gesprächslänge nicht selbst verfolgen.

Muster 3: Prompt-Caching

Prompt-Caching ermöglicht es dir, die stabilen Teile einer Anfrage zu markieren — den System-Prompt, die Tool-Definitionen, ein langes Dokument — und sie über mehrere Aufrufe hinweg für einen Bruchteil der Kosten wiederzuverwenden.

Die Rechnung ist wichtiger, als es aussieht. Wenn dein System-Prompt 4.000 Token umfasst und du ihn 100 Mal pro Stunde aufrufst, macht Caching den Unterschied zwischen einer handhabbaren Rechnung und einem Anruf von der Finanzabteilung.

Muster 4: Das Memory-Tool

Manche Kontexte müssen über Sitzungen hinweg erhalten bleiben: Nutzerpräferenzen, die laufenden Notizen des Agenten, was letzte Woche entschieden wurde. Die empfohlene Grundfunktion dafür ist das Memory-Tool.

So funktioniert es:

  • Claude liest und schreibt über Tool-Aufrufe in ein Memory-Verzeichnis.
  • Du implementierst das Speicher-Backend clientseitig — ein Dateisystem, eine Datenbank, einen verschlüsselten Speicher, was auch immer du möchtest.
  • Anthropic fügt automatisch eine System-Anweisung ein, die Claude anweist, das Memory-Verzeichnis zu prüfen, bevor die Arbeit beginnt.

Ein im Browser angezeigtes Memory-Verzeichnis mit Ordnern für incidents und saas-pricing sowie einer gespeicherten Incident-Notiz aus einer vorherigen Sitzung

Die Muster kombinieren

In einer Produktionsanwendung kombinierst du normalerweise alle vier gleichzeitig. Der Compliance-Prüfungs-Agent cached seinen System-Prompt und seine Tool-Definitionen und lädt Baurecht-Abschnitte just-in-time über lookup_building_code nach.

Jedes Muster adressiert einen anderen Fehlermodus: Kosten, Fenstergröße, Zustandslosigkeit. Wähle die aus, die zu dem passen, was bei dir gerade nicht funktioniert.

Zusammenfassung

  • Kontext ist alles, was Claude in einer Runde sieht — und er ist weder kostenlos noch unendlich. Sobald das Fenster voll ist, schlägt die Anfrage fehl.
  • Just-in-Time-Kontext: Lade das, was jetzt benötigt wird, und lass Tools den Rest nachladen. Das ist das Designmuster der vier.
  • Serverseitige Komprimierung: Füge einen context_management-Schlüssel hinzu, und die API fasst alte Runden automatisch zusammen, wenn der Input den Auslöse-Schwellenwert überschreitet.
  • Prompt-Caching: Markiere stabile Teile der Anfrage und verwende sie über mehrere Aufrufe hinweg für einen Bruchteil der Kosten wieder.
  • Das Memory-Tool: Claude liest und schreibt über Tool-Aufrufe ein Memory-Verzeichnis; du besitzt das Speicher-Backend, sodass Kontext über Sitzungen hinweg erhalten bleibt.
  • Vier Muster, ein Ziel. Verdrahte sie selbst, oder nutze von Claude verwaltete Agenten, die standardmäßig mit aktiviertem Caching und Komprimierung ausgeliefert werden.