上下文退化
当更多上下文反而让情况变得更糟时
使用AI时的一种自然本能是给它一切。粘贴整个文档。包含每一条消息。添加你能找到的所有上下文。信息越多意味着答案越好，对吗？
并非总是如此。有一种现象，任何临时抱佛脚准备考试的人都能凭直觉感知到：你一次能记住的内容是有限的。而处于中间位置的内容往往最先消失。
在我们讨论这如何影响AI模型之前，让我们先看看它如何影响您。
记忆测试
U形曲线
您刚刚经历的现象有一个名字：序列位置效应。心理学家已经研究了一个多世纪。列表开头的项目受益于首位效应（它们被复述得更多），而列表末尾的项目受益于近因效应（它们仍然新鲜）。中间的内容则两者都没有。
令人着迷的部分是：大型语言模型表现出相同的模式。2023年，斯坦福大学的研究人员测试了当你把一个关键事实放在长上下文窗口的不同位置时会发生什么。当事实出现在最开头或最末尾时，准确率最高——而当它被埋在中间时，准确率下降了超过30%。
这不是一个怪癖。它是结构性的。Transformer的注意力模式天然会更重地加权上下文窗口的边缘部分。
这对提示意味着什么
如果您将一份20页的文档粘贴到提示中，并询问第11页上某个内容的问题，模型更有可能错过它，而不是第1页或第20页上的内容。这对您如何构建上下文有实际的影响。
实用的建议很直接：将最重要的指令放在上下文的开头和结尾。如果某个约束条件必须被绝对遵守，请在系统提示的早期陈述它，并在接近末尾时再次陈述。不要依赖模型对中间的所有内容给予同等的重视。
这只是起点，而非上限。随着您越来越熟练，您会发现越来越精妙的方法来构建上下文，使模型能够可靠地理解什么才是重要的——利用信息在窗口中的位置、决定包含什么与删减什么，以及如何防止关键指令滑入死区。目标始终是一样的：让Claude清楚地知道您真正需要什么。
更大的图景
上下文退化正是"只要给它更多上下文"并非总是答案的原因。您添加的每一段上下文都会把其他内容进一步推向中间——也就是注意力死区。这正是上下文工程的核心张力：不仅要考虑包含什么，还要考虑放在哪里以及省略什么。
您自己的记忆测试已经告诉过您这一点。中间的词消失了。同样的事情也发生在每一次长对话、每一份粘贴的文档、每一个被填满到极限的上下文窗口中。解决方法不是更多——而是更聪明。