AI Agent 的隐藏成本,可能比你想象中高得多Arena 分析了 26,225 条真实 Agent 会话,涉及 30 个 Agent、13 家实验室,发现一个很有意思的现象:Agent 消耗的 Token,86%~96% 都是在重复读取历史上下文简单理解,Agent 每执行一步,都需要重新读取之前的对话、工具调用和执行结果而 Prompt Cache 可以让这些重复内容以极低的价格复用
几个关键数据:- 3.6 倍:没有缓存,头部 Agent 的典型任务成本将上涨到原来的 3.6 倍- $7.44 → $27:Claude Fable 5.1 单次典型任务的成本变化- 95%:部分前沿模型的缓存读取价格,已经比普通输入便宜 95%- +5%:一次缓存失效,就可能让典型任务的账单增加约 5%Agent 运行时间越长,历史上下文越多,缓存的价值就越大这也解释了为什么 OpenAI、Anthropic 和 Deekseek 都在不断优化缓存机制
#