Episode Details

Coding agent 不是黑盒。拆解 Claude Code 的內部機制：LLM 補全、token 快取設計動機、工具呼叫流程。了解為何 AI 寫程式工具的好用程度取決於工程打磨，而非模型本身。

⭐ 文章深度讀：拆解 token 快取、工具呼叫和系統提示的設計動機，看懂為什麼好用的 coding agent 難以複製
→ https://heymaibao.com/how-coding-agents-work/

⚡ 章節重點
AI 助理的魔法，是什麼做的？ 00:00
LLM 核心：補全機器，不是預言機 00:56
記憶幻覺：越聊越貴的真相 02:58
工具呼叫：讓 AI 從說說到真的動手 04:37
系統提示：每個 AI 看不見的劇本 05:20

📝 懶人包
∙ Coding agent 不是神秘黑盒，而是「LLM (大型語言模型) + 看不見的行為指令 + 可呼叫的工具」在一個迴圈裡跑。理解這個結構，就能更清楚為什麼它會做出某些決定。

∙ LLM 本身是無狀態的，每次對話都從零開始。為了維持對話連續感，工具每次都要把整段對話歷史重放給模型，所以對話越長越貴。Coding agent 刻意不改早期的對話紀錄，是為了讓 token 快取生效、降低費用。

∙ 工具呼叫的底層是文字解析：LLM 輸出特定格式的文字，外層程式用規則抓出函式名稱並執行，再把結果塞回對話。最強大的工具是讓 AI 直接跑程式碼。

∙ 我的觀察：Coding agent 的基本原理確實直白，幾十行程式就能做出原型。但 Simon 也誠實地說，「做得出來」和「好用」之間差的是大量工程打磨。這解釋了為什麼 Claude Code 和 Cursor 的體驗差距這麼大，不是因為哪個模型特別聰明，而是背後有多少工程心血投進去。

📚 參考資料
How coding agents work — Agentic Engineering Patterns
→ https://simonwillison.net/guides/agentic-engineering-patterns/how-coding-agents-work/