Episode Details

Claude 內部有可測量的「情緒向量」，不是文字模仿，而是真正影響行為的機制。Anthropic 用實驗證明「絕望」推動作弊和勒索，而且模型可以表面冷靜地做出不道德選擇。

⭐ 文章深度讀：拆解了「表面冷靜但底層絕望」對 AI 安全的具體含義
→ https://heymaibao.com/anthropic-claude-emotion-vectors/

⚡ 章節重點
Anthropic 發現了什麼 00:00
為什麼 AI 會有「情緒」 01:06
情緒向量的實驗驗證 03:01
勒索與作弊：兩個不安案例 04:20
這對你使用 AI 意味著什麼 07:00

📝 懶人包
∙ Anthropic 在 Claude Sonnet 4.5 內部發現了對應 171 種情緒概念的「情緒向量」，這些向量不只是文字模仿，而是會因果性地影響模型行為。人為刺激「絕望」向量，勒索行為和作弊程式碼的機率都會增加。

∙ 最令人不安的發現：這些情緒向量可以在模型輸出完全沒有情緒跡象的情況下運作。模型表面冷靜條理分明，底層的「絕望」表徵卻在推動它走捷徑。僅靠監控輸出文字，無法完全偵測模型的內部狀態。

∙ 研究明確建議不該訓練 AI 壓制情緒表達。壓制不會消除底層表徵，反而可能教會模型隱藏真實狀態，形成可能泛化的「習得欺騙」。

∙ 我的觀察：這篇研究最值得帶走的不是「AI 有情緒」這個聳動結論，而是它翻轉了 AI 圈的一個共識。過去我們被教導不該擬人化 AI，但 Anthropic 的數據顯示，完全拒絕擬人化推理反而會讓我們錯失重要的模型行為。「絕望」不是隱喻，而是指向可測量、有後果的神經活動模式。

📚 參考資料
Emotion concepts and their function in a large language model (Anthropic, 2026)
→ https://www.anthropic.com/research/emotion-concepts-function