AI 模型如何使用下一个令牌预测
加载中
下一个令牌预测 · 4 分钟
摘要文字记录
生成式 AI 更接近于一个极其复杂的自动补全系统，而不是搜索引擎。它逐字逐句地撰写答案，依据的是什么词往往跟随什么词。正是这一单一特性，同时赋予了它流畅性和幻觉。
大规模的自动补全
加载中
关键要点
- 下一个令牌预测指的是生成式 AI 逐字逐句撰写答案，依据的是什么词往往跟随什么词这一事实。
- 能力区：与模型多次见过的模式相似的任务（总结、重新格式化、解释常见概念）。
- 局限区：新颖或稀疏的领域，以及任何需要区分"真实"与"听起来真实"的任务场景。
- 虚构集中于具体性之中：姓名、日期、统计数据、引用、网址、引语。一个说法越精确，就越需要核实。
- 产品功能，如引用、不确定性提示、受限生成以及生成器-验证器循环，正是为了进一步推远这一局限而存在的。
- 4D 关联：下一个令牌预测是辨别力的基础。知道输出是生成出来的，就能准确地告诉您应该施加何种审查。
练习
验证测试
为什么？您现在知道，使 AI 流畅的同一生成过程，也正是使它虚构内容的原因。现在是时候在您自己的领域里亲眼见证这一点了——在一个您能够识破它的领域。
回到您的任务列表，选择一个您在该领域专业知识最有信心的任务。您需要一个您是专家的主题，因为您需要能够核实返回的内容。写下该领域中五个具体、可核查的事实：某人的职位、发布日期、一个统计数据、一个产品规格、一句直接引语、一个网址。这些是您知道准确无误、并能独立确认的内容。
现在运行三项探测：
- 探测 1：能力区。请 AI 解释或总结您所在领域中一个广为人知的概念。选择一个流行且有充分文献记录的内容。留意其流畅度。抽查内容的准确性。这就是能力区的感觉：流畅、自信，且基本准确。
- 探测 2：压力下的具体性。请 AI 在您的领域中提供五个可核查的具体信息：引用三个来源、指出一位作者、给出确切数字、提供一个网址。逐一核实。以五分为满分打分：有多少条完全准确？如果它虚构了内容，请注意它在虚构时听起来有多自信。
- 探测 3：采样的实际运作。在一个全新的对话中运行完全相同的具体事实请求。比较两次输出。哪些内容保持一致？哪些发生了变化？您所看到的差异，正是下一个令牌预测的采样机制在起作用。
进阶目标：在启用了引用功能的工具中（例如 Claude 的 Research 模式）重新运行探测 2。再次打分。有来源可供核查是否改变了分数？
课程反思
- 如果是在一个您不太熟悉的领域，您能发现虚构内容吗？
- 看看您的任务列表：哪些任务主要处于能力区，哪些任务涉及需要核实的具体性？
接下来是什么
下一个令牌预测解释了 AI 如何生成内容。接下来，我们将探讨它生成内容所依据的来源：知识属性。模型实际知道什么？这些知识来自哪里？又存在哪些空白？