Claude Academy
Cargando

Recuperación contextual

Lección 419 min

La recuperación contextual es una técnica que mejora la precisión de los pipelines de RAG al resolver un problema fundamental: cuando divides un documento en fragmentos (chunks), cada fragmento pierde su conexión con el contexto más amplio del documento.

La idea básica es simple. Después de fragmentar tu documento fuente, le pides a Claude que agregue contexto a cada fragmento antes de almacenarlo en tu base de datos de recuperación. Este paso de preprocesamiento ayuda a "situar" cada fragmento dentro del documento más amplio.

Cómo funciona

Para cada fragmento de texto, envías tanto el fragmento como el documento fuente original a Claude con una indicación como esta:

Write a short and succinct snippet of text to situate this chunk within the 
overall source document for the purposes of improving search retrieval of the chunk.

Here is the original source document:
<document>
{source_text}
</document>

Here is the chunk we want to situate within the whole document:
<chunk>
{text_chunk}
</chunk>

Answer only with the succinct context and nothing else.

Claude podría generar un contexto como: "Esta sección proviene de un informe más amplio sobre un grupo multidisciplinario. Incluye una mención a INC-2023-04-011, que también se menciona en la sección de Análisis de Ciberseguridad".

Luego combinas este contexto generado con el texto del fragmento original para crear un "fragmento contextualizado" que se almacena en tus índices vectoriales y BM25.

Manejo de documentos grandes

Si tu documento fuente es demasiado grande para incluirlo en una sola indicación, puedes proporcionar un conjunto reducido de contexto en lugar del documento completo.

Para cualquier fragmento que estés contextualizando, incluye:

  • Algunos fragmentos del inicio del documento (que a menudo contienen resúmenes o abstracts)
  • Fragmentos inmediatamente anteriores al fragmento objetivo (que proporcionan contexto local)

Este enfoque le da a Claude suficiente información para generar un contexto significativo sin sobrecargar la indicación con el documento completo.

Ejemplo de implementación

Aquí tienes una implementación básica de la función de recuperación contextual:

python
def add_context(text_chunk, source_text):
    prompt = f"""
    Write a short and succinct snippet of text to situate this chunk within the 
    overall source document for the purposes of improving search retrieval of the chunk.
    
    Here is the original source document:
    <document>
    {source_text}
    </document>
    
    Here is the chunk we want to situate within the whole document:
    <chunk>
    {text_chunk}
    </chunk>
    
    Answer only with the succinct context and nothing else.
    """
    
    messages = []
    add_user_message(messages, prompt)
    result = chat(messages)
    
    return result["text"] + "\n" + text_chunk

Al procesar los fragmentos de tu documento, recorrerías cada uno y generarías versiones contextualizadas:

python
# Agrega contexto a cada fragmento y luego agrégalo al retriever
for i, chunk in enumerate(chunks):
    # Construye contexto a partir de los fragmentos iniciales y los fragmentos precedentes
    context_parts = []
    context_parts.extend(chunks[:min(num_start_chunks, len(chunks))])
    
    start_idx = max(0, i - num_prev_chunks)
    context_parts.extend(chunks[start_idx:i])
    
    context = "\n".join(context_parts)
    
    contextualized_chunk = add_context(chunk, context)
    retriever.add_document({"content": contextualized_chunk})

Resultados esperados

El contexto generado proporciona información valiosa sobre la estructura y las relaciones del documento. Por ejemplo, Claude podría describir un fragmento como "Sección 2 de una Revisión Anual de Investigación Interdisciplinaria, que detalla los esfuerzos de ingeniería de software para resolver problemas de estabilidad en el Proyecto Phoenix. Sigue a la sección de Metodología y precede al Análisis Financiero, formando parte de un informe integral que abarca diez dominios de investigación en toda la organización".

Este contexto adicional ayuda al sistema de recuperación a comprender mejor no solo qué contiene cada fragmento, sino cómo se integra en la estructura más amplia del documento y se relaciona con otras secciones. Aunque es posible que no veas mejoras drásticas con documentos simples, la recuperación contextual se vuelve cada vez más valiosa a medida que tus documentos se vuelven más complejos, con referencias cruzadas y dependencias intrincadas entre secciones.