什么是生成式AI？
加载中
AI能力与局限性 · 12分钟
摘要文字记录
本视频介绍了像Claude这样的大型语言模型是如何构建和训练的，以及这对于您在业务中使用它们时，它们能够可靠地做什么——以及不能做什么——意味着什么。
关键要点
- 生成式AI 创造新内容，而不仅仅是分析现有数据。
- 三项发展 使现代LLM成为可能：transformer架构、海量训练数据，以及庞大的计算能力。
- 训练分为两个阶段： 预训练（从数十亿个示例中学习模式）和微调（学习如何有帮助地遵循指令）。
- 当前的优势 包括跨任务的多样性、对话的流畅性，以及与外部工具的连接能力。
- 当前的局限 包括知识截止日期、幻觉、上下文窗口大小，以及复杂的多步推理。
- 最佳应用会将人类与AI的优势结合起来 ——您的判断力、创造力和监督，与AI的速度和规模相辅相成。
练习
测试边界
本练习让您亲身体验生成式AI擅长什么、又在哪些方面存在不足。您将以低风险的方式，使用您自己专业领域的内容，探究视频中提到的一些具体能力和局限性——这样，当您决定可以信任AI做什么时，就有了基于自己观察得出的具体判断依据。
第一部分：自我反思（独立完成）
选择一个您非常熟悉的领域，在这个领域中，如果供应商、经销商或客户出错，您会立刻发现。记下：
- 主题（例如，您的利润率计算、当地的分区规划规则，或行业许可要求）
- 关于该主题，您期望任何可靠来源都能说对的两三个事实
- 人们对此常见的一个误解
- 关于该主题，一件真正难以解释清楚的事情
这就是您的测试场。您将看看AI如何处理一个您实际能够验证的内容。
第二部分：协作（与AI）
与Claude（或您偏好的任何AI助手）展开对话，进行三次快速聊天。每次之后记下您注意到的内容。
- 多样性测试。 让AI在一次回复中用三种不同的方式解释您的主题：一次针对对您的服务一无所知的客户，一次针对潜在的业务合作伙伴，一次针对正在入职的新员工。受众的转换是否真正到位，还是只是换了词汇？哪个版本最出色？
- 幻觉测试。 让AI推荐两三个与您的主题相关的具体资源——一个行业协会、一份行业出版物、一个监管机构，或一家知名供应商。然后抽查至少一个。该机构是否存在？网站是否正确？联系信息是否准确？（在这里，您将看到AI是否会自信地编造一个听起来可信但并不真实的来源。）
- 知识截止日期+推理检查。 向AI提出一个具有时效性或地域性的问题：您所在行业最近的监管变化、某种关键材料当前的价格趋势，或当地的许可要求。它是否告诉您其信息可能已过时？它是否会加以说明、进行猜测，或将陈旧信息当作最新信息呈现——这种情况如果您据此行动，可能会让您损失金钱？然后让它解答您在第一部分中写下的常见误解。它是否解决了实际的困惑，还是只是重述了正确的事实？
第三部分：反思
视频中提到的哪种能力在您的观察中表现得最明显？出现了哪种局限性——如果这不是您熟悉的主题，您会发现它吗？基于此，现在有哪一项任务您会放心交给AI处理，又有哪一项您希望更密切地关注？
进阶目标： 用第二个AI工具（不同的模型或平台）处理同一主题。错误和优势是否相同？
课程反思
- 了解这些系统的训练方式，会如何改变您与它们协作的方式？
- 鉴于生成式AI的工作原理及其不足之处，您会想到哪些伦理方面的考量？
接下来是什么
接下来是一个实践活动，探索语言模型实际如何生成文本，以使您刚刚学到的内容变得生动具体。