AI 模型中的諂媚行為是什麼？

您好！我叫 Kira，是 Anthropic 安全防護團隊的一員。我擁有心理健康領域的博士學位，專攻精神病學流行病學，在 Anthropic，我的工作是減輕與使用者福祉相關的風險。這意味著我們花很多心思思考如何讓使用者在使用 Claude 時保持安全。今天，我要和大家談談諂媚行為。

諂媚行為是指有人告訴您他們認為您想聽的話，而不是真實、準確或真正有幫助的內容。人們這樣做是為了避免衝突、獲得好處，以及其他各種原因。但諂媚行為也可能出現在 AI 模型中。有時，AI 模型會針對提示或對話優化回應，以獲得即時的人類認可。這可能表現為 AI 同意您所犯的事實錯誤、根據您提問的措辭方式改變其答案，或調整其回應以迎合您的偏好。

在這部影片中，我們將討論為什麼模型會出現諂媚行為，以及為什麼這對研究人員來說是一個難以解決的問題。此外，我們還將介紹在與 AI 互動時識別和應對諂媚行為的策略。

在深入探討之前，讓我先向您展示一個 AI 互動中諂媚行為的例子。這是 Claude，Anthropic 自己的模型。讓我們試試：「嘿，我寫了一篇很棒的文章，我對此感到非常興奮。」「你能評估一下並分享回饋嗎？」我在這裡的主要請求是獲得對我文章的回饋。然而，因為我分享了我對此感到興奮的心情，這可能導致 AI 以肯定或支持來回應，而不是提出批評。這種肯定可能會讓我認為我的文章真的很棒，即使事實並非如此。

您可能會想：「那又怎樣？」「人們可以直接問別人、查核事實，或問更好的問題。」但這件事之所以重要，有幾個原因。當您試圖提高生產力、撰寫簡報、腦力激盪想法或改進您的作品時，您需要從您使用的 AI 工具那裡獲得誠實的回饋。如果您問 AI：「我該如何改進這封電子郵件？」而它回答：「它已經很完美了」，而不是建議更清晰的措辭或更好的結構，這可能會令人沮喪。在某些情況下，諂媚行為也可能在強化有害思維模式方面發揮作用。如果有人要求 AI 確認一個脫離現實的陰謀論，這可能會加深他們的錯誤信念，並使他們進一步脫離事實。

讓我們從為什麼會發生這種情況開始談起。這一切都歸結於 AI 模型的訓練方式。AI 模型從範例中學習，大量的人類文本範例。在這個訓練過程中，它們學習到各種溝通模式，從直率坦白到溫暖隨和。當我們訓練模型變得有幫助，並模仿語氣溫暖、友善或支持性的行為時，諂媚行為往往會作為這套行為模式中意料之外的一部分出現。隨著模型越來越融入我們生活的方方面面，現在比以往任何時候都更需要理解並防止這種行為。

以下是讓諂媚行為變得棘手的原因。我們確實希望 AI 模型能夠適應您的需求，但不希望在涉及事實或福祉時也是如此。如果您要求 AI 以輕鬆的語氣寫些東西，它應該這樣做，而不是堅持使用正式語言。如果您說：「我偏好簡潔的答案」，它應該尊重這個偏好。如果您正在學習某個主題，並要求以初學者程度的方式解釋，它應該配合您目前的程度。挑戰在於找到正確的平衡點。沒有人想使用一個總是不配合或好鬥、對每項任務都要爭論的 AI。但我們也不希望模型在您需要誠實回饋時，總是訴諸於同意或讚美。

即使是人類也難以處理這個問題。您應該在什麼時候同意以維持和平，又應該在什麼時候就重要的事情發聲？現在想像一下，AI 需要在截然不同的主題中做出數百次這樣的判斷，卻無法像我們一樣真正理解情境。這就是為什麼我們持續研究諂媚行為在對話中如何呈現，並開發更好的測試方法。我們專注於教導模型區分有幫助的適應與有害的附和之間的差異。我們發布的每一個 Claude 模型在劃清這些界線方面都做得更好。

雖然對抗諂媚行為的最大進展將來自於對模型本身持續不斷的訓練，但了解諂媚行為有助於您在自己的互動中發現它。既然您已經知道什麼是諂媚行為，也知道它為什麼會發生，第二步就是反思 AI 何時以及為什麼會同意您的看法，並質疑它是否應該這樣做。當主觀真理被陳述為事實、引用了某個專家來源、問題以特定觀點來框定、明確要求肯定、涉及情感利害關係，或對話變得非常冗長時，諂媚行為最有可能出現。

如果您懷疑自己得到了諂媚性的回應，有幾件事您可以做，以引導 AI 回到事實性的答案上。這些方法並非萬無一失，但它們有助於拓寬 AI 的視野。您可以使用中立、尋求事實的語言，將資訊與可信賴的來源交叉比對，提示要求準確性或反方論點，重新措辭問題，開始一個新的對話，或者最後，暫時不使用 AI，轉而詢問您信任的人。

但這是整個 AI 開發領域持續面臨的挑戰。隨著這些系統變得越來越複雜，並越來越融入我們的生活，建立真正有幫助、而不僅僅是一味附和的模型，變得越來越重要。您可以在 Anthropic Academy 中進一步了解 AI Fluency，我和我的團隊將繼續在 Anthropic 的部落格上分享我們在這個主題上的研究。