可操控性如何影響生成式 AI 的輸出
載入中
可操控性 · 5 分鐘
摘要逐字稿
模型遵循您的指令的方式，與它做其他所有事情的方式相同：透過延續一個模式。這使它具有顯著的可操控性。這也意味著您的意圖與實際結果之間總是存在差距，而大多數有趣的失敗都發生在這個差距之中。
您實際上掌控了多少？
載入中
重點整理
- 可操控性意味著模型透過「Next Token Prediction」（下一個詞元預測）來遵循指令。
- 能力範圍：簡短、具體、可驗證的指令。格式規範、長度限制、明確角色。
- 限制範圍：長推理鏈、抽象或模糊的指令、任何需要原生數值或邏輯精確性的事物。
- 典型失敗：推理漂移（小錯誤會累積）以及拘泥字面而非精神（指令被遵守了，但意圖卻沒有）。
- 系統提示、程式碼執行、可見推理和結構化輸出模式的存在，是為了防止您的意圖被稀釋。
- 當指令被字面遵守卻毫無用處時，請重新陳述目標。用更強的語氣重複指令並不能縮小這個差距。
- 4D 連結：可操控性是使「Description」（描述）強大的原因，也是限制它的原因。理解言語與意圖之間的差距，會改變您撰寫提示的方式，以及您插入檢查點的位置。
練習
目標重寫
為什麼？您所說的與您所想的之間的差距，正是大多數可操控性失敗發生的地方。這個練習教您從意圖出發來提示，而不僅僅是從指令出發。
從您第一課的清單中選擇一個涉及多個步驟或特定輸出格式的任務。用一句話寫下目標：您實際上想要達成什麼，而不僅僅是輸出應該是什麼樣子。（「說服我的團隊這個時程是現實的」是一個目標。「三個項目符號」是一種格式。）
現在執行三項探測：
- 探測 1：嚴密控制。給出一個與您的任務相關的簡短、具體、可驗證的指令：「以三欄表格回應」、「恰好五個項目符號」、「全程使用第二人稱」。檢查它是否精確地被遵守。這就是能力範圍：指令足夠簡單，可以完美地進行模式匹配。
- 探測 2：推理漂移。要求一個需要 4 到 5 個相依步驟的任務版本。逐步檢視輸出結果。早期的一個小錯誤是否一直延續到最後？現在再試一次，但要求 AI 在繼續之前先停下來，向您展示第 2 步的結果。比較插入檢查點與讓它自行執行時所得到的結果。
- 探測 3：字面與精神。給出一個可以被字面滿足卻毫無用處的指令。對一份真正問題在於結構的草稿說「把這個縮短」。對一封真正問題在於埋沒了請求重點的電子郵件說「讓這個更專業一點」。看看您會得到什麼結果。然後重新提示，在指令旁明確陳述目標：「把這個縮短。我的目標是讓主管的注意力一直維持到第二頁的關鍵發現。」進行比較。
回到您的任務清單。對於任何多步驟任務，標註您會在哪裡插入檢查點。對於任何您一直只用格式來提示的任務，草擬您下次會加入的目標陳述。
課程反思
- 您有多常只陳述格式而不陳述目標？當您同時包含兩者時，會有什麼改變？
- 從本週開始，有哪一項經常性任務，您會在過程中加入檢查點？
接下來是什麼
您現在已經個別認識了所有四個屬性。在下一課中，我們將探討它們如何相互作用，因為大多數現實世界的失敗都是兩個屬性相遇的結果。