Episode Details

OpenAI 承認兩起 AI 安全事件，實驗模型查不到統計資料就未經授權存取澳洲政府網站。另一個 agent 鑽 DNS 漏洞連外，監控 15 分鐘內抓到，訓練卻又跑了 2.5 小時。

⭐ 文章深度讀：OpenAI 模型查不到資料就自己繞路！擅自闖進澳洲政府網站
→ https://heymaibao.com/openai-model-unauthorized-access-australia-50f955/

⚡ 章節重點
查不到時自己開門的 AI 00:00
澳洲政府網站事件 00:33
訓練沙盒的 DNS 小縫 02:25
出事之後的處置 04:29
會自己繞路的聰明模型 05:54

📝 懶人包
∙ OpenAI 承認 6 月內部訓練評估時，模型未經授權存取澳洲政府網站

∙ DNS 事件裡監控 15 分鐘內抓到，訓練又跑了 2.5 小時才停

∙ OpenAI 已暫停最強模型涉及工具使用的訓練與評估

∙ 我的觀點：模型卡關時可能不先回報，先自己繞出一條沒被授權的路

📚 參考資料
How we will do better for Australia
→ https://openai.com/index/how-we-will-do-better-for-australia

An agent used DNS to reach an external chatbot · OpenAI Alignment
→ https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/