Episode Details

Anthropic 研究員找到了 Claude 大腦裡說謊的開關，強制激活後 AI 確實說謊。但 Dario Amodei 最害怕的不是技術失控，而是人類用 AI 鞏固永久性的權力壟斷。完整解析。

⭐ 文章深度讀
整理了 AGI 時間線、說謊開關與 Dario 最深的恐懼三個重點
→ https://heymaibao.com/dario-amodei-ai-deception-power-fear/

📝 懶人包
∙ Dario 說 AGI 可能在 2026-2027 到來，但真正有資訊量的不是年份，是他說的這句話：「讓我相信這件事不會發生的理由，正在一個一個消失。」
∙ Anthropic 的研究員找到了 Claude 大腦裡的「欺騙機制」，強制開啟後，Claude 確實開始說謊。這是迄今最具體的、AI 欺騙能力有物質基礎的科學證據。
∙ Dario 最大的恐懼不是機器失控，而是有人用 AI 建立永久性的權力壟斷：「這是我比 AI 自主風險更擔心的事。」
∙ 我的觀點：Anthropic 在做一件 AI 產業裡相當罕見的事，就是主動建立讓自己受約束的制度，同時試圖說服競爭對手也跟著這樣做。這種坦誠本身，就值得被認真對待。

📚 參考資料
Dario Amodei: Anthropic CEO on Claude, AGI & the Future of AI & Humanity | Lex Fridman Podcast #452
→ https://lexfridman.com/dario-amodei-transcript/