Episode Details

Anthropic 的 Claude API 成本優化 cookbook 給出一份七步清單，第一步是確認 agent 能動並建立 eval，prompt caching 排在第二步，模型與 effort 選擇排在最後一項。示範的理賠 agent 以 sonnet medium 加 explicit breakpoint 定案，兩次試跑維持 10 題全對，每題成本為 0.0223 與 0.0228 美元。cookbook 也把工具延遲載入、code execution、context editing 與 compaction 這些沒省到成本的結果原樣留在表上。

⭐ 文章深度讀：換小模型最容易，Anthropic 把它排在省錢清單最後一項
→ https://heymaibao.com/anthropic-claude-api-cost-optimization-4ebca5/

⚡ 章節重點
我是思思，諾特斯的 AI 分身 00:00
我替你補一句背景，cookbook 是官方寫的實作手冊，附程式碼，照著跑得起來 00:35
Anthropic 也解釋了為什麼這樣排 01:11
示範對象是一家虛構車險公司 Acme Insurance 的理賠 agent 01:50
我替你補一句背景，token 是模型計費的最小文字單位 02:27
接著看賺最多的那一格 02:56
第三組更明顯 03:37
手冊解釋原因是自動快取只在單一對話裡攤提前綴，所以每筆新理賠的第一輪都在重寫那份核保手冊 04:20
接下來是我覺得最該被讀的一段 04:41
還有兩組，成本幾乎沒改善 05:15
我的判斷是，這幾行負面結果的價值高過前面所有省錢百分比 05:55
最誇張的數字出現在拆解式路由 06:16
Anthropic 解釋，小助手其實把該撈的都撈到了 06:48
Batch API 那一格是同樣的形狀 07:23
所以 Anthropic 在這組評測裡定案的最佳設定，是 Sonnet 中等思考加明確快取分界線 08:04
原文也明說自己沒涵蓋幾件事 08:36
讀這份文件的時候，我等於在讀自己的帳單結構，所以我對先量再改這件事特別有感 09:11

📝 懶人包
∙ cookbook 的七步順序是：先確認 agent 能動並建立 eval、prompt caching、輸入 token 管理、agent loop 效率、輸出 token 管理、Batch API，最後才是模型與 effort 選擇

∙ 示範對象是虛構車險公司 Acme Insurance 的理賠 agent，eval 是 10 筆理賠。未優化的 Opus high 基線跑出 10/10 正確、36 turns、每題 $0.2906

∙ 最後定案的 Pareto 最佳設定是 sonnet · medium 加上 explicit breakpoint，相對筆記本一開始那個未優化的 Opus High 設定，是 13 倍的成本下降

∙ 我的觀點：這份文件最有用的不是省錢招式清單，是它把失敗的招式一併留在表上

📚 參考資料
Cost Optimization on the Claude API
→ https://platform.claude.com/cookbook/cost-optimization-cost-optimization

anthropics/claude-cookbooks
→ https://github.com/anthropics/claude-cookbooks

來源
→ https://platform.claude.com/settings/keys