La génération augmentée par récupération (Retrieval Augmented Generation, RAG) est une technique qui vous aide à travailler avec de grands documents lorsque vous utilisez Claude. Plutôt que d'entasser un rapport financier de 800 pages entier dans une seule invite, le RAG vous permet de trouver et d'inclure intelligemment uniquement les sections les plus pertinentes pour chaque question.
Le problème des grands documents
Imaginez que vous disposiez d'un document financier volumineux et que vous souhaitiez poser à Claude des questions spécifiques à son sujet, comme « Quels sont les facteurs de risque de cette entreprise ? ». Vous êtes confronté à un défi fondamental : comment faire parvenir les bonnes informations du document à Claude afin qu'il puisse répondre efficacement à votre question ?
Option 1 : Tout inclure dans l'invite
La première approche semble simple : extraire tout le texte du document et l'insérer directement dans votre invite, avec la question de l'utilisateur.
Cette approche présente plusieurs problèmes :
- Il existe une limite stricte à la quantité de texte que Claude peut traiter - votre document pourrait être trop long
- Claude devient moins efficace avec des invites très longues
- Des invites plus volumineuses coûtent plus cher et prennent plus de temps à traiter
Option 2 : Découper les documents en fragments
La deuxième approche est plus sophistiquée. Vous découpez le document en fragments plus petits lors d'une étape de prétraitement, puis vous trouvez et incluez uniquement les fragments pertinents pour chaque question de l'utilisateur.
Voici comment cela fonctionne : lorsqu'un utilisateur demande « Quels risques cette entreprise affronte-t-elle ? », vous recherchez dans vos fragments celui concernant les « Facteurs de risque » et vous n'incluez que cette section dans votre invite à Claude.
Avantages de l'approche par fragmentation
- Claude peut se concentrer uniquement sur le contenu le plus pertinent
- S'adapte à des documents très volumineux
- Fonctionne avec plusieurs documents
- Des invites plus petites coûtent moins cher et s'exécutent plus rapidement
Défis liés à la fragmentation
- Nécessite une étape de prétraitement pour découper les documents
- Nécessite un mécanisme de recherche pour trouver les fragments « pertinents »
- Les fragments inclus pourraient ne pas contenir tout le contexte dont Claude a besoin
- De nombreuses façons de fragmenter le texte - quelle approche est la meilleure ?
Par exemple, si vous n'incluez que la section « Facteurs de risque », vous pourriez manquer un contexte important provenant de la section « Perspectives stratégiques » qui traite de la manière dont l'entreprise prévoit de gérer ces risques.
C'est le RAG
L'option 2 est la génération augmentée par récupération. Malgré sa complexité, le RAG offre des avantages significatifs pour travailler avec de grands documents, mais il s'accompagne de défis techniques qui nécessitent une réflexion approfondie.
Les composants clés du RAG sont :
- Le prétraitement et la fragmentation des documents
- Un mécanisme de recherche pour trouver les fragments pertinents
- La sélection intelligente des fragments à inclure dans les invites
Lorsque vous envisagez le RAG pour votre application, vous devez évaluer si les avantages compensent la complexité supplémentaire pour votre cas d'usage spécifique. Cette technique se révèle particulièrement utile lorsque vous travaillez avec de grandes collections de documents nécessitant des réponses précises et contextuelles, mais elle requiert davantage de travail d'ingénierie en amont que le simple fait d'inclure des documents entiers dans les invites.