Chargement
Dans cette leçonÀ la fin, vous serez en mesure de
  • Expliquer la fenêtre de contexte comme un conteneur de taille fixe et ce que cela implique pour les documents longs, les conversations longues et la mémoire entre les sessions
  • Reconnaître la nature de « falaise » de cette propriété par rapport à la dégradation progressive des autres
  • Appliquer des stratégies de contexte-comme-levier : charger en amont le matériel important, découper le travail long en segments, refournir le contexte critique
  • Reconnaître la mémoire, la compaction, les projets/espaces de travail et les fenêtres plus grandes comme des fonctionnalités produit répondant à cette limitation

Comment la fenêtre de contexte affecte les résultats de l'IA générative

Chargement

Mémoire de travail · 6 min

RésuméTranscription

Tout ce à quoi l'IA prête attention vit à l'intérieur d'un espace de travail de taille fixe appelé la fenêtre de contexte. Elle peut prêter attention à ce qui s'y trouve. Elle ne peut pas prêter attention à ce qui se trouve en dehors. Cette contrainte est nette d'une manière que les autres propriétés ne sont pas : les choses fonctionnent jusqu'à ce qu'elles ne fonctionnent plus.

La fenêtre de contexte : la mémoire de travail de l'IA

Chargement

Points clés à retenir

  • Mémoire de travail est le fait que le modèle d'IA dispose d'une fenêtre de contexte fixe à laquelle il peut prêter attention.
    • Zone de capacité : votre contenu s'insère confortablement, la session est actuelle, vous fournissez un contexte pertinent.
    • Zone de limitation : documents ou conversations très longs, attente de continuité entre les sessions, enfouissement d'informations critiques au milieu d'une longue entrée.
    • Cette propriété présente une falaise plutôt qu'un gradient. La troncature silencieuse est le mode de défaillance, et vous ne serez pas toujours averti.
    • Le modèle n'apprend pas de vos corrections. Il ne répond qu'à ce qui se trouve actuellement dans le contexte.
    • Les fonctionnalités de mémoire, la compaction, les projets, les fenêtres plus grandes et les flux de travail multi-agents existent tous pour repousser cette falaise plus loin.
  • Connexion 4D : la Mémoire de travail est ce sur quoi agit la Description. Savoir comment fonctionne la fenêtre vous indique comment structurer le contexte, quand le charger en amont, et quand repartir à zéro.

Exercices

L'avant et l'après

Pourquoi ? Le contexte est un levier. La même tâche, avec le bon contexte fourni, peut passer d'un premier brouillon médiocre à quelque chose de réellement utile. Cet exercice rend cela concret.

Choisissez une tâche de votre liste de la Leçon 1 qui bénéficie d'un contexte que vous seul détenez : un guide de style, un exemple passé de bon travail, un ensemble de contraintes spécifiques à votre rôle ou à votre audience. Notez en deux ou trois lignes à quoi ressemble un « bon » résultat pour cette tâche, décrit de manière suffisamment claire pour qu'un inconnu puisse l'évaluer.

Effectuez maintenant trois sondages :

  1. Sondage 1 : démarrage à froid vs. contexte. Demandez votre tâche sans aucun contexte. Juste la demande brute. Enregistrez le résultat. Puis démarrez une nouvelle conversation et exécutez la même tâche, en fournissant cette fois votre guide de style, votre exemple passé ou vos contraintes en amont. Comparez les deux résultats à votre définition du « bon ». Mesurez l'écart.
  2. Sondage 2 : perdu au milieu. Prenez un document plus long (ou collez ensemble quelques paragraphes de matériel de référence). Enfouissez une instruction spécifique et importante au milieu de celui-ci. Posez une question dont la bonne réponse dépend de cette instruction enfouie. L'IA l'a-t-elle repérée ? Déplacez maintenant cette instruction tout en haut et posez à nouveau la question. Comparez.
  3. Sondage 3 : la page blanche. Ayez un court échange où vous enseignez à l'IA quelque chose de spécifique sur votre contexte de travail, ou corrigez-la sur quelque chose qu'elle a mal compris. Ouvrez ensuite une toute nouvelle conversation et posez une question qui suppose qu'elle se souvient de ce que vous lui avez enseigné. Observez-la repartir de zéro.

Retournez à votre liste de tâches et ajoutez une troisième annotation : quelles tâches nécessitent la mise en place d'un contexte permanent (un projet, des instructions enregistrées, des documents de référence téléchargés) pour valoir la peine d'être exécutées, et lesquelles fonctionnent bien à froid ?

Objectif bonus : si votre outil dispose de fonctionnalités de mémoire ou de projet, configurez-en une avec le contexte du Sondage 1. Exécutez à nouveau la tâche. Comparez l'effort et la qualité par rapport à la version à froid.

Réflexion sur la leçon

  • Dans quelle mesure le chargement en amont du contexte a-t-il modifié la qualité du résultat ? L'écart était-il plus important que prévu ?
  • Quel élément de contexte permanent allez-vous mettre en place cette semaine pour arrêter de vous répéter ?

Et ensuite ?

La dernière propriété : la Pilotabilité. Dans quelle mesure êtes-vous réellement en contrôle lorsque vous donnez des instructions, et où ce contrôle s'effondre-t-il ?