診斷 AI 失敗
載入中
當屬性相互衝突時 · 3 分鐘
摘要逐字稿
這四個屬性並非各自獨立運作。大多數實際的失敗都是其中兩個屬性交織在一起。一旦您能夠指出是哪兩個，您就知道該採用哪種修正方法。
兩個屬性相遇：診斷出了什麼問題
載入中
重點整理
- 現實世界中的失敗通常是兩個屬性相互作用，而不是單一屬性。
- 需要辨識的診斷組合：
- 下一個詞元預測 + 知識（幻覺出的具體細節）
- 工作記憶 + 可操控性（長對話漂移）
- 指出正在起作用的屬性能直接引導您找到修正方法：驗證具體細節、重新提供上下文、轉交給程式碼執行，或邀請對方提出異議。
- 這種診斷動作正是辨別力的實際應用。 當您知道自己面對的是哪種錯誤時，您的評估會更加到位。
練習
失敗診斷
為什麼？大多數現實世界中的 AI 失敗並非單一屬性出問題，而是兩個屬性同時相遇所致。指出是哪兩個，會徹底改變修正方式。
回顧您使用 AI 的經驗（包括您在本課程中觀察到的內容）。找出兩到三次 AI 輸出真正讓您失望或感到驚訝的情況。針對每一次，用一兩句話描述：您問了什麼、得到了什麼、哪裡令人失望或驚訝。
- 與 AI 一起逐一檢視每個事件。 描述發生的情況並詢問：「根據這四個屬性（下一個詞元預測、知識、工作記憶、可操控性），哪些屬性可能在這裡起了作用，為什麼？」
- 根據您現在所知，評估它的診斷結果。 您同意嗎？如果不同意，請提出異議。（記住第 3 課中提到的迎合性特徵：AI 可能過於輕易地同意您的框架。如果您認為它錯了，就說出來。）
- 針對每個診斷，詢問：「根據這個診斷，最有針對性的修正方法是什麼？」如果可以，現在就在類似的任務上測試這個調整。
現在看看您在第 1 課中建立的任務清單，以及所有累積的註記（第 2 課的屬性標籤、第 4 課的驗證分數、第 5 課的知識標記、第 6 課的上下文需求、第 7 課的目標陳述）。針對那些給您帶來最多困擾的任務，指出是哪兩個屬性在相互衝突。在每一項旁邊寫下診斷結果。
課程反思
- 指出屬性組合是否改變了您會採用的修正方法？在上這門課之前，您會嘗試不同（效果較差）的修正方法嗎？
- 您認為在日常工作中最常遇到哪種屬性組合？
接下來
在最後一課中，我們將整合您所建立的一切，將其與 4D 框架作為一個完整系統連結起來，並為您指出進一步深入學習的方向。