Episode Details

Back to Episodes
AI 工具的記憶壓縮被加密保護,結果 35 行程式碼就拆開了

AI 工具的記憶壓縮被加密保護,結果 35 行程式碼就拆開了

Episode 48 Published 6 months, 3 weeks ago
Description


研究者用 35 行 Python 拆開 Codex CLI 加密的記憶壓縮 API,發現裡面就是 LLM 跑壓縮,prompt 和開源版本幾乎一樣。加密只是外殼,LLM 的 prompt 邊界才是真正的攻擊面。

⭐ 文章深度讀:拆解了兩步提示詞注入的設計邏輯和驗證方法
→ https://heymaibao.com/codex-context-compaction-reverse-engineered/

📝 懶人包
∙ Codex CLI 的加密 API 內部其實就是用 LLM 跑壓縮,使用的 prompt (提示詞) 和開源版本幾乎一樣,加密只是一層外殼。
∙ 整個逆向工程只需要 35 行 Python 加上 2 次 API 呼叫,利用的不是什麼高深漏洞,而是 LLM 天生「聽話」的特性。
∙ 所有 AI 程式開發工具的記憶壓縮都面臨同樣的風險:只要壓縮器是 LLM,提示詞注入 (prompt injection) 就能穿透保護層。
∙ 我的觀察:這個實驗最讓我印象深刻的不是結果,而是方法論的設計。用 LLM 的弱點去拆解 LLM 的保護層,是一個以子之矛攻子之盾的完美示範。

📚 參考資料
Investigating how Codex context compaction works
→ https://x.com/kangwook_lee/status/2028955292025962534

Listen Now

Love PodBriefly?

If you like Podbriefly.com, please consider donating to support the ongoing development.

Support Us