我們所說的生成式 AI 是什麼意思
載入中
我們所說的 AI 是什麼意思 · 4 分鐘
摘要逐字稿
世界上大多數的 AI（垃圾郵件過濾器、推薦系統、詐騙偵測）並非生成式的。本課程要討論的是生成式的那種：基於 transformer 的文本模型，一次產生一個 token 的新內容。
建立機器的心智模型
載入中
重點摘要
- 生成式 AI 產生新內容，而非對現有內容進行分類。
- AI 並非一致地有能力或一致地不可靠。 它在四個可預測的軸線上各有強弱：Next Token Prediction（下一個 token 預測）、Knowledge（知識）、Working Memory（工作記憶）和 Steerability（可操控性）。
- 每個特性都是一個連續體。 同一個機制同時賦予您能力與限制。
- 校準信任意味著在連續體上定位您的任務，而不是全盤給予或保留信任。
練習
是生成式還是不是？
為什麼？您剛剛學到，生成式 AI 與過濾您垃圾郵件、推薦您下一部影片的 AI 有根本上的不同。現在您要將這個區別應用到自己的經驗上。
- 列出您這週互動過的五個 AI 驅動功能。 範圍盡量廣：自動完成、照片標記、垃圾郵件過濾、聊天機器人回答、翻譯、產品推薦、語音助理。
- 針對每一項，寫下您的判斷： 它是在產生新內容，還是在對現有內容進行排序、分級和分類？
- 將您的清單分享給 AI，請它檢查您的判斷。 對於任何您判斷錯誤（或不確定）的項目，請它用一句話解釋這個區別。然後問：「這五項中，哪一項最有可能出現本課程將幫助我理解的失敗模式？」
- 回到您第一課的任務清單。 針對每個任務，標記上目前感覺最相關的特性問題：
- 答案從何而來？（Next Token Prediction）
- 它知道什麼？（Knowledge）
- 它正在關注什麼？（Working Memory）
- 我有多少控制權？（Steerability）
您不需要做到完全正確。您正在建立將在接下來四課中測試的預測。
課程反思
- AI 的生成式／分類區別是否改變了您對所使用的任何工具的看法？
- 看看您如何標記任務清單。是否有任何任務感覺可能屬於多個特性？
接下來是什麼
在深入探討這四個特性之前，我們會用一課的時間來討論 AI 系統究竟是如何擁有個性的。為什麼它有禮貌、樂於助人、誠實，為什麼它有時太容易同意，為什麼它會拒絕某些事情。這個塑造過程在後續的一切中都留下了痕跡。