我们所说的生成式AI是什么意思
加载中
我们所说的AI是什么意思 · 4 分钟
摘要文字记录
世界上大多数AI（垃圾邮件过滤器、推荐系统、欺诈检测）并非生成式的。本课程讨论的是生成式的那一类：基于transformer的文本模型，一次生成一个令牌的新内容。
构建机器的心智模型
加载中
关键要点
- 生成式AI生成新内容，而不是对现有内容进行分类。
- AI并非在所有方面都同样强大，也并非在所有方面都同样不可靠。它在四个可预测的维度上各有强弱：下一个令牌预测、知识、工作记忆和可操控性。
- 每个特性都是一个连续谱。同一机制既赋予了能力，也带来了局限性。
- 校准信任意味着将您的任务定位在这个连续谱上，而不是全盘给予或拒绝信任。
练习
是生成式还是非生成式？
为什么？您刚刚了解到，生成式AI与过滤您垃圾邮件、推荐您下一个视频的AI有着根本的不同。现在，您将把这种区分应用到自己的经验中。
- 列出您本周接触过的五个AI驱动的功能。尽量广泛地列举：自动补全、照片标记、垃圾邮件过滤、聊天机器人回答、翻译、产品推荐、语音助手。
- 针对每一项，记下您的判断：它是在生成新内容，还是在对现有内容进行排序、分级和分类？
- 将您的列表分享给一个AI，并让它检查您的判断。对于任何您判断错误（或不确定）的项目，请它用一句话解释其中的区别。然后问："这五项中，哪一项最有可能出现本课程将帮助我理解的失败模式？"
- 回到您第1课的任务列表。针对每个任务，用当下感觉最相关的特性问题为其打上标签：
- 答案从何而来？（下一个令牌预测）
- 它知道什么？（知识）
- 它在关注什么？（工作记忆）
- 我能掌控多少？（可操控性）
您不需要保证答对这些问题。您正在创建一些预测，将在接下来的四节课中进行验证。
课程反思
- AI的生成式/分类式区分是否改变了您对所使用的某个工具的看法？
- 看看您是如何为任务列表打标签的。有没有哪个任务感觉可以归入多个特性之下？
接下来是什么
在深入探讨这四个特性之前，我们将用一节课来讲解AI系统究竟是如何形成"个性"的。为什么它礼貌、乐于助人、诚实，为什么它有时过于轻易地表示同意，为什么它会拒绝某些事情。这个塑造过程会在之后的一切中留下痕迹。