Cargando

Gestión del contexto

Lección 106 min
Cargando

Gestión del contexto

Cada solicitud que envías a Claude tiene una ventana de contexto. Un millón de tokens suena como mucho, pero se agota más rápido de lo que piensas en cuanto estás implementando un agente real. Ahí es donde entra la gestión del contexto: es cómo te mantienes dentro de la ventana sin perder lo que importa.

Qué cuenta como contexto

El contexto es todo lo que Claude ve en un turno dado:

  • La indicación del sistema
  • El historial de mensajes
  • Las definiciones de herramientas y los resultados de herramientas
  • Los archivos adjuntos y las skills
  • Los bloques de pensamiento

Diagrama de los cinco componentes del contexto: indicación del sistema, historial de mensajes, herramientas, archivos y skills, y bloques de pensamiento

Es la entrada de cada llamada a la API. Pagas por ello al entrar, y pagas por ello al salir. Y una vez que la ventana está llena, la solicitud falla.

Así que el objetivo no es meter todo. El objetivo es meter las cosas correctas.

Anthropic publica cuatro patrones para gestionar el contexto en agentes de larga duración. Tres son funciones de la API de primera clase, y uno es un patrón de diseño.

Diagrama de los cuatro patrones para gestionar el contexto: contexto justo a tiempo, compactación, almacenamiento en caché y memoria

Patrón 1: Contexto justo a tiempo

No cargues todo de antemano. Carga lo que el agente necesita ahora, y deja que traiga más mediante herramientas cuando lo solicite.

Piensa en un agente de revisión de cumplimiento normativo. No recibe todo el libro de códigos de construcción metido en su indicación del sistema — llama a una herramienta lookup_building_code cuando necesita una sección específica. Este es el patrón de diseño de los cuatro: nada especial en la API, solo una elección deliberada sobre qué cargas y cuándo.

Patrón 2: Compactación del lado del servidor

Cuando una conversación se extiende demasiado, la compactación del lado del servidor de Anthropic resume los turnos antiguos en un solo bloque. Te suscribes agregando una clave context_management a tu solicitud, que contiene una edición con un tipo:

python
response = client.beta.messages.create(
    betas=["compact-2026-01-12"],
    model="claude-opus-5",
    max_tokens=1024,
    context_management={
        "edits": [
            {"type": "compact_20260112"}
        ]
    },
    messages=messages,
)

La API resume automáticamente cuando la entrada cruza el umbral de activación. No tienes que rastrear tú mismo la longitud de la conversación.

Patrón 3: Almacenamiento en caché de prompts

El almacenamiento en caché de prompts te permite marcar las partes estables de una solicitud — la indicación del sistema, las definiciones de herramientas, un documento largo — y reutilizarlas en las llamadas a una fracción del costo.

Las matemáticas importan más de lo que parece. Si tu indicación del sistema tiene 4,000 tokens y la llamas 100 veces por hora, el almacenamiento en caché es la diferencia entre una factura manejable y una llamada telefónica de finanzas.

Patrón 4: La herramienta de memoria

Parte del contexto necesita sobrevivir entre sesiones: las preferencias del usuario, las notas en curso del agente, lo que se decidió la semana pasada. La primitiva recomendada para esto es la herramienta de memoria.

Así es como funciona:

  • Claude lee y escribe en un directorio de memoria mediante llamadas a herramientas.
  • Tú implementas el backend de almacenamiento del lado del cliente — un sistema de archivos, una base de datos, un almacén cifrado, lo que quieras.
  • Anthropic inyecta automáticamente una instrucción del sistema que le dice a Claude que revise el directorio de memoria antes de comenzar a trabajar.

Un directorio de memoria visto en el navegador, con carpetas para incidentes y precios-saas y una nota de incidente guardada de una sesión anterior

Combinando los patrones

En una aplicación de producción, normalmente combinarás los cuatro a la vez. El agente de revisión de cumplimiento normativo almacena en caché su indicación del sistema y las definiciones de herramientas, y trae las secciones de códigos de construcción justo a tiempo mediante lookup_building_code.

Cada patrón maneja un modo de falla diferente: costo, tamaño de la ventana, ausencia de estado. Elige los que coincidan con lo que se está rompiendo para ti.

Resumen

  • El contexto es todo lo que Claude ve en un turno — y no es gratis ni infinito. Una vez que la ventana se llena, la solicitud falla.
  • Contexto justo a tiempo: carga lo que se necesita ahora, deja que las herramientas traigan el resto. Este es el patrón de diseño de los cuatro.
  • Compactación del lado del servidor: agrega una clave context_management, y la API resume automáticamente los turnos antiguos cuando la entrada cruza el umbral de activación.
  • Almacenamiento en caché de prompts: marca las partes estables de la solicitud y reutilízalas en las llamadas a una fracción del costo.
  • La herramienta de memoria: Claude lee y escribe un directorio de memoria mediante llamadas a herramientas; tú posees el backend de almacenamiento, así que el contexto sobrevive entre sesiones.
  • Cuatro patrones, un objetivo. Configúralos manualmente, o usa los agentes gestionados de Claude, que vienen con el almacenamiento en caché y la compactación activados por defecto.