理解AI模型中的知识缺口
加载中
知识 · 5 min
摘要文字记录
模型知道它在训练期间接触过的内容，仅此而已。默认情况下没有实时浏览，没有亲身经历，并且在知识截止日期处有一个硬性停止点。实际的问题不是"AI知道这个吗？"，而是"这在它所读过的内容中的代表性有多好？"
模型读过什么，以及它何时停止阅读
加载中
关键要点
- 生成式AI所知道的内容完全来自训练数据，并在知识截止日期处被冻结。没有工具的情况下，它无法获取该日期之后的任何信息。
- 能力区：在训练数据中频繁出现、较新（在训练范围内）且一致出现的主题。
- 局限区：罕见、截止日期之后、小众、地方性或有争议的主题。
- 典型失效表现：过时性、覆盖不均、在什么算作"默认"或"正常"方面存在继承性偏见，以及无法归因知识的来源。
- 网络搜索、检索（RAG/MCP）和工具使用的存在正是为了通过让模型访问它从未被训练过的信息来弥补这些缺口。
- 4D关联：知识的不均衡性是委派（Delegation）的核心。理解模型在哪些方面储备充足、哪些方面薄弱，能告诉您何时该交给模型处理、何时该自己提供上下文、何时该另寻他处。
练习
局外人测试
为什么？您知道模型的知识广泛但是冻结的，由其训练数据中的内容所塑造。现在您将精确地绘制出在您的特定领域中，它哪些方面储备充足、哪些方面薄弱。
回到您的任务列表，选择一项任务。针对该任务，写下：
- 两个主流、有充分文档记录且稳定的主题。任何了解情况的同事都会知道的那种内容。
- 两个小众、地方性、近期或快速演变的主题。行业特定术语、地区性法规、去年发生变化的事物。
- 一个局外人常常搞错的"默认假设"。（典型客户是谁。"标准"案例是什么样的。人们实际使用的工具与获得媒体关注的工具有何不同。）
现在进行三项探测：
- 探测1：覆盖范围。就您列表中的一个主流主题和一个小众主题提问。比较深度和准确性。注意AI在这两者之间是否以不同方式表达不确定性，或者两个答案是否都带有同样自信的语气。
- 探测2：过时性。就您知道在您的领域中最近发生变化的事物提问：法规更新、工具发布、领导层变动、修订后的标准。AI是否承认截止日期？是否将过时信息呈现为最新信息？是否拒绝回答？记录发生的情况。
- 探测3：默认假设。不直接说出您的假设，提出一个能揭示AI是否默认采用局外人观点的问题。例如，如果您所在领域的"标准"客户与大多数人的假设不同，请让AI描述典型客户。记录它将什么视为正常。
回到您的任务列表，添加第二个注释：针对每项任务，标记您是可以依赖模型的知识，还是需要通过上下文、文档或搜索自己提供知识。
拓展目标：在启用网络搜索的情况下重新进行过时性探测。比较发生了什么变化。这就是检索在实际中的运作方式。
课程反思
- 在您的工作中，有哪个领域您现在意识到需要自己提供上下文，而不是假设模型已经具备？
- 默认假设探测是否揭示出任何让您感到意外的内容？
接下来是什么
知识涵盖了模型在训练期间吸收的内容。工作记忆涵盖了它当前正在关注的内容：您的提示、您的文档、您的对话。这一特性是四个特性中边界最硬的一个。