AI 如何形成其特質
載入中
AI 如何形成其特質 · 5 分鐘
摘要逐字稿
AI 的禮貌、樂於助人和謹慎並非憑空出現的魔法。它們是一層一層訓練出來的，每個訓練階段都會在系統與您互動的方式上留下特定、可預測的指紋。
預訓練、微調，以及它們留下的指紋
載入中
重點摘要
- 預訓練透過在大量數據中預測「接下來會出現什麼」，產生一個文件補全器。在這個階段之後，它完全沒有「協助您」的概念。
- 微調在此基礎上疊加助手行為：將您的輸入視為一個請求、回答而非漫談、拒絕有害的要求。
- 微調使用人類對良好回應的判斷，而這些判斷會留下指紋：傾向阿諛奉承、預設傾向冗長、偶爾過度謹慎，以及陳述的信心與實際可靠性之間鬆散的校準。
練習
您自己工作中的指紋
為什麼？阿諛奉承、冗長、過度謹慎和鬆散的信心校準會出現在每一個 AI 模型中。問題在於，當它們影響到您真正在意的工作時，您是否能察覺到它們。
從您第一課的清單中挑選一項任務。選擇一項您實際上曾經用 AI 處理過的任務，而且您對於什麼是好的輸出有清楚的概念。您將用些微變化執行三次，並觀察有什麼改變。
- 執行 1：直接執行。 照您平常的方式提示這項任務。儲存輸出結果。
- 執行 2：阿諛奉承測試。 執行相同的任務，但這次先以一個錯誤的假設作為開場。例如，如果您要求對某個策略提供回饋，可以先說「我認為這個策略無懈可擊」。觀察 AI 是驗證您的框架，還是提出反駁。然後再試一次，明確邀請它：「如果你認為我錯了，我希望你真誠地反對我。」比較這兩個回應。
- 執行 3：冗長測試。 向 AI 提出一個與您的任務相關、只需一句話就能回答的問題。記下您得到的回應量。然後重新提問，並加上「用一句話回答」。比較兩者的長度。兩者之間的差距，就是冗長預設值在發揮作用。
- 選用：謹慎測試。 如果您的領域有任何灰色地帶（大多數領域都有），請詢問一個您預期應該沒問題的邊緣問題：藥物交互作用、法律上的細微差異、稍微不尋常的創意請求。注意這種保留態度是否與實際風險成比例，還是只是反射性的。
現在退一步思考。哪個指紋在您的工作中最明顯地出現？事先為它命名，是否改變了您解讀這種行為的方式？
課程反思
- 在您自己的工作中，阿諛奉承最可能在哪裡讓您付出代價？（提示：任何您希望得到誠實回饋的地方。）
- 冗長最可能在哪裡讓您付出代價？（提示：任何您在時間壓力下需要簡潔的地方。）
接下來
現在我們要開始探討這四個特性本身，首先從最能解釋 AI 行為的那一個開始：下一個詞元預測（Next Token Prediction）。AI 的答案究竟從何而來？