能力與限制
載入中
能力與限制 · 7 分鐘
摘要逐字稿
本影片探討生成式 AI 在目前這個時間點能夠有效做到什麼、又無法做到什麼。我們將重點介紹生成式 AI 在語言任務上的多樣性、維持對話流暢度的能力，以及無需額外訓練即可在不同任務間切換的能力。我們也會探討其限制，包括知識截止日期、幻覺（事實錯誤的輸出）、上下文視窗的限制，以及推理方面的挑戰。我們強調這個領域正在快速演進，並說明最有效的應用方式是結合人類與 AI 各自的互補優勢，共同合作。
重點整理
- 生成式 AI 會創造新內容（文字、圖像、程式碼），而不僅僅是分析既有數據
- 像 LLM 這樣的現代系統之所以成為可能，是因為三項關鍵發展：
- 演算法與架構上的突破（尤其是 transformer 架構）
- 大量的數位訓練數據
- 運算能力的大幅提升
- 生成式 AI 透過兩個階段學習：預訓練（分析數十億個範例中的模式）與微調（學習遵循指示並提供有幫助的回應）
- 目前的能力包括跨任務的多樣性、對話情境的掌握，以及與外部工具連接的能力
- 目前的限制包括知識截止日期、產生幻覺的可能性、上下文視窗的限制，以及複雜推理方面的挑戰
- 最有效的應用方式會結合人類與 AI 的優勢，由人類提供批判性思考、判斷力、創造力與道德監督
練習
反思
在繼續之前，請花點時間思考：
- 了解生成式 AI 的技術基礎（例如訓練數據與預訓練／微調）如何改變您對與這些系統合作的看法？
- 在了解這些系統的運作方式及其目前的限制後，您想到了哪些道德考量？
接下來
在下一課中，我們將更深入探討 4D 能力中的第一項：委派（Delegation）。您將學習如何根據對自身目標與 AI 能力的理解，在自己與 AI 之間做出策略性的工作分配決策。這項基礎將幫助您審慎判斷何時以及如何將 AI 納入您的創意與問題解決流程中。