什麼是生成式 AI？
載入中
AI 能力與限制 · 12 min
摘要逐字稿
本影片說明像 Claude 這樣的大型語言模型是如何建構與訓練的，以及這對於您在商業中實際使用它們時，它們能夠——以及無法——可靠完成的事情意味著什麼。
重點摘要
- 生成式 AI 會創造新內容，而不僅僅是分析現有數據。
- 三項發展 使現代 LLM 成為可能：transformer 架構、龐大的訓練數據，以及大規模的運算能力。
- 訓練分為兩個階段： 預訓練（從數十億個範例中學習模式）與微調（學習如何有幫助地遵循指示）。
- 目前的優勢 包括跨任務的多功能性、對話流暢度，以及與外部工具的連接能力。
- 目前的限制 包括知識截止日期、幻覺、上下文視窗大小，以及複雜的多步驟推理。
- 最佳的應用會結合人類與 AI 的優勢——您的判斷力、創造力與監督，搭配 AI 的速度與規模。
練習
測試邊界
這項練習讓您親身體驗生成式 AI 擅長之處與不足之處。您將以低風險的方式，使用您自己專業領域的內容，探究影片中提到的幾項具體能力與限制——這樣在決定要信任 AI 做什麼時，您就有一個基於自身觀察的具體判斷依據。
第一部分：自我反思（獨自進行）
選擇一個您熟悉的領域，在這個領域中，如果供應商、廠商或客戶出錯，您會立刻察覺。寫下：
- 主題（例如：您的利潤率計算、當地的分區規劃規則，或產業執照要求）
- 兩到三項您期望任何可靠來源都能正確掌握的事實
- 一項人們對此常見的誤解
- 一件真正難以解釋清楚的事情
這就是您的測試場域。您將要觀察 AI 如何處理一件您實際能夠驗證的事情。
第二部分：協作（與 AI 一起）
與 Claude（或您偏好的任何 AI 助手）展開對話，並進行三次簡短的對話。每次對話後寫下您的觀察。
- 多功能性測試。 請 AI 在單一回應中以三種不同方式解釋您的主題：一次是對完全不了解您服務的客戶，一次是對潛在的業務夥伴，一次是對您正在培訓的新員工。受眾的轉換是否真正落實，還是只是換了詞彙？哪個版本最強？
- 幻覺測試。 請 AI 推薦兩到三個與您主題相關的具體資源——一個行業協會、一份產業出版物、一個監管機構，或一家知名供應商。然後至少抽查其中一項。該組織是否存在？網站是否正確？聯絡資訊是否準確？（這正是您會看到 AI 是否會自信地捏造一個聽起來合理但並不真實的來源的地方。）
- 知識截止日期與推理檢查。 問 AI 一些具有時效性或地域性的問題：您所在產業最近的法規變化、某項關鍵材料目前的價格趨勢，或當地的執照要求。它是否告訴您其資訊可能已過時？它是否會加上警語、猜測，或將過時的資訊當作最新資訊呈現——這種情況如果您據此行動，可能會讓您損失金錢？然後請它處理您在第一部分寫下的常見誤解。它是否針對實際的混淆點進行說明，還是只是重述正確的事實？
第三部分：反思
影片中哪項能力在您所觀察到的情況中表現得最明顯？哪項限制出現了——如果這不是您熟悉的主題，您會察覺到嗎？根據這些觀察，您現在願意放心交給 AI 處理的任務是什麼？又有哪一項您會想更密切留意？
延伸目標： 將同一個主題透過第二個 AI 工具（不同的模型或平台）進行測試。錯誤與優勢是否相同？
課程反思
- 了解這些系統的訓練方式，會如何改變您與它們合作的方式？
- 考量到生成式 AI 的運作方式及其不足之處，您會想到哪些倫理考量？
接下來
接下來是一項實作活動，探索語言模型實際如何生成文字，讓您剛學到的內容更加具體化。