Degradación del contexto
Cuando más contexto empeora las cosas
Un instinto natural al usar IA es darle todo. Pegar el documento completo. Incluir cada mensaje. Añadir todo el contexto que puedas encontrar. Más información significa mejores respuestas, ¿verdad?
No siempre. Existe un fenómeno que cualquiera que haya estudiado intensamente para un examen conoce de forma intuitiva: hay un límite a cuánto puedes retener en la mente a la vez. Y las cosas que están en el medio tienden a desaparecer primero.
Antes de hablar de cómo esto afecta a los modelos de IA, veamos cómo te afecta a ti.
La prueba de memoria
La curva en forma de U
Lo que acabas de experimentar tiene un nombre: el efecto de posición serial. Los psicólogos lo han estudiado durante más de un siglo. Los elementos al principio de una lista se benefician de la primacía (se repasan más), y los elementos al final se benefician de la recencia (todavía están frescos). El medio no obtiene ninguna de las dos ventajas.
La parte fascinante: los modelos de lenguaje grandes exhiben el mismo patrón. En 2023, investigadores de Stanford probaron qué sucede cuando colocas un dato clave en diferentes posiciones dentro de una ventana de contexto larga. La precisión fue más alta cuando el dato aparecía al principio o al final — y cayó más de un 30% cuando estaba enterrado en el medio.
Esto no es una rareza. Es estructural. Los patrones de atención de los transformers ponderan naturalmente los extremos de la ventana de contexto con más peso.
Qué significa esto para el prompting
Si pegas un documento de 20 páginas en un prompt y haces una pregunta sobre algo en la página 11, es más probable que el modelo lo pase por alto que algo en la página 1 o la página 20. Esto tiene implicaciones reales para cómo estructuras el contexto.
El consejo práctico es sencillo: coloca tus instrucciones más importantes al principio y al final del contexto. Si una restricción debe seguirse sin excepción, indícala al principio de la indicación del sistema y repítela cerca del final. No confíes en que el modelo dará el mismo peso a todo lo que está en medio.
Este es el punto de partida, no el límite. A medida que adquieras más fluidez, descubrirás formas cada vez más sofisticadas de estructurar el contexto para que el modelo entienda de manera confiable lo que importa — aprovechando en qué parte de la ventana se ubica la información, qué incluir frente a qué recortar, y cómo evitar que las instrucciones críticas se deslicen hacia la zona muerta. El objetivo siempre es el mismo: hacer evidente para Claude lo que realmente necesitas.
El panorama general
La degradación del contexto es la razón por la que "simplemente dale más contexto" no siempre es la respuesta. Cada fragmento de contexto que añades empuja otros fragmentos más hacia el medio — la zona muerta de atención. Esta es la tensión central de la ingeniería de contexto: no solo qué incluir, sino dónde colocarlo y qué dejar fuera.
Tu propia prueba de memoria ya te lo dijo. Las palabras en el medio desaparecieron. Lo mismo ocurre dentro de cada conversación larga, cada documento pegado, cada ventana de contexto que se ha llenado hasta el borde. La solución no es más — es más inteligente.