什麼是生成式 AI
載入中
什麼是生成式 AI · 12 min
摘要逐字稿
本影片說明像 Claude 這樣的大型語言模型是如何建構與訓練的，以及這對於您在企業中實際運用它們時，它們能夠——以及無法——可靠完成哪些事情，有什麼意義。
重點整理
- 生成式 AI 會創造新內容，而非分析既有數據。
- 三項發展 使現代 LLM 成為可能：transformer 架構、龐大的訓練數據，以及大規模的運算能力。
- 訓練分為兩個階段。 預訓練從數十億個範例中學習模式。微調則教導模型以有幫助的方式遵循指示。
- 目前的優勢 包括跨任務的多功能性、對話流暢度，以及工具使用。
- 目前的限制 包括知識截止日期、幻覺，以及不可靠的複雜推理能力。
- 最佳的應用方式 是將您的判斷力、創造力與監督，與 AI 的速度和規模相結合。
練習
測試極限
這項練習讓您親身體驗生成式 AI 擅長之處與不足之處，使用的是您已經非常熟悉的程式設計問題——這樣您就能根據自己的觀察，建立一個具體的直覺判斷，以決定在哪些事情上可以信任 AI。
第一部分：自我反思（獨立完成）
選擇一個您熟悉的程式設計領域，一個您能立即發現錯誤的領域。寫下：
- 主題（例如：您的速率限制邏輯、您處理非同步狀態的方式、您上一季優化過的資料庫查詢）
- 任何稱職的工程師都應該答對的兩三件事
- 一個常見的誤解或棘手的實作細節
- 最近改變的一件事——例如函式庫更新、棄用，或新的最佳實務
第二部分：協作（與 AI 一起）
與 Claude（或您偏好的任何 AI 助理）展開對話，進行三次簡短的對話。每次對話後寫下您的觀察。
- 多功能性測試。 請 AI 在單一回應中以三種不同方式說明您的主題：一次針對非技術背景的 PM，一次針對剛加入您團隊的中階工程師，一次針對進行程式碼審查的資深工程師。深度上的轉變是否真的到位，還是只是換了詞彙？哪個版本最強？
- 幻覺測試。 請 AI 針對您的程式設計問題推薦特定的函式庫、套件或文件。至少抽查一項：它是否真的存在？API 是否準確？版本是否為最新？
- 知識截止日期與推理檢查。 詢問一個與您領域相關、具時效性的問題：最近的框架更新、已棄用的模式，或安全性修補。它是否會標示其資訊可能已過時——還是把過時的資訊當作最新的呈現？接著請它處理您在第一部分寫下的棘手實作細節。它是否真的解決了困惑，還是只是重述正確答案？
第三部分：反思
影片中提到的哪項能力最明顯地展現出來？哪項限制浮現出來——如果這不是您熟悉的領域，您會發現這個問題嗎？根據這些觀察，有哪一項任務您會放心交給 AI 處理，又有哪一項您會想更密切留意？
延伸目標： 用同一個主題測試第二個 AI 工具。錯誤和優勢是否相同？
課程反思
- 了解這些系統是如何訓練的，會如何改變您與它們合作的方式？
- 考量到生成式 AI 的運作方式及其不足之處，您會想到哪些倫理考量？
接下來
既然您已經親身測試過 AI 的極限，在下一課中，我們將深入探討第一個 D：委派（Delegation）。您將會框定一個真實的問題，將其對應到建構者工具箱中，並在撰寫任何一行程式碼之前，就 AI 在哪些地方可以發揮作用做出審慎的選擇。