什么是生成式AI
加载中
什么是生成式AI · 12 min
摘要文字记录
本视频介绍了像Claude这样的大型语言模型是如何构建和训练的，以及这对于您在业务中使用它们时，它们能够——以及不能——可靠完成哪些事情意味着什么。
关键要点
- 生成式AI创造新内容，而不是分析现有数据。
- 三项发展使现代LLM成为可能：transformer架构、海量训练数据和大规模算力。
- 训练分为两个阶段。 预训练从数十亿个示例中学习模式。微调教会模型以有帮助的方式遵循指令。
- 当前优势包括跨任务的多功能性、对话流畅性和工具使用。
- 当前局限包括知识截止日期、幻觉以及不可靠的复杂推理。
- 最佳应用将您的判断力、创造力和监督与AI的速度和规模相结合。
练习
测试边界
本练习让您亲身体验生成式AI擅长什么、在哪些方面力有不逮，使用的是您已经非常熟悉的编程问题——这样在决定可以信任AI做什么时，您就有了一个基于自己观察得出的具体判断依据。
第一部分：自我反思（独立完成）
选择一个您非常熟悉的编程领域，一个您能立即发现错误的领域。记下：
- 主题（例如，您的限流逻辑、您如何处理异步状态、您上个季度优化的数据库查询）
- 任何称职的工程师都应该做对的两三件事
- 一个常见的误解或棘手的实现细节
- 最近发生变化的一件事——库的更新、某个功能的弃用、新的最佳实践
第二部分：协作（与AI一起）
与Claude（或您偏好的任何AI助手）开启对话，进行三次简短的对话。每次对话后记下您的观察。
- 多功能性测试。 要求AI在一次回复中用三种不同方式解释您的主题：一次面向非技术背景的产品经理，一次面向刚加入团队的中级工程师，一次面向做代码审查的高级工程师。深度上的转变是否真正到位，还是只是换了个说法？哪个版本最出色？
- 幻觉测试。 要求AI为您的编程问题推荐具体的库、软件包或文档。至少抽查一项：它是否真实存在？API是否准确？版本是否是最新的？
- 知识截止日期与推理检查。 就您的领域提出一个时效性问题：最近的框架更新、已弃用的模式，或安全补丁。它是否会标注其信息可能已过时——还是把过时的信息当作最新信息呈现？然后让它解决您在第一部分中记下的那个棘手的实现细节。它是否真正解决了困惑，还是只是重述了正确答案？
第三部分：反思
视频中提到的哪项能力表现得最明显？哪项局限暴露了出来——如果这不是您熟悉的领域，您会发现它吗？基于此，有哪一项任务您会放心交给AI处理，又有哪一项您会想更密切地关注？
拓展目标： 用第二个AI工具运行相同的主题。错误和优势是否相同？
课程反思
- 了解这些系统是如何训练的，会如何改变您与它们协作的方式？
- 鉴于生成式AI的工作原理及其局限性，您会想到哪些伦理方面的考量？
接下来
既然您已经亲身测试了AI的边界，在下一课中，我们将深入探讨第一个D：委派（Delegation）。您将构建一个真实问题的框架，将其映射到构建者工具包中，并就AI在哪些地方发挥作用做出深思熟虑的选择——在编写任何一行代码之前。