硬核横评
硬核横评

缓存经济学:命中率如何决定 agentic 真实账单

2026-09-01 Fable 5.1 把 cache read 单价从 $1 降至 $0.25/M(降幅 75%),社群欢呼"agent 更便宜",但账单是单价乘以 token 结构:cache read 占比越低,降幅落到总成本越有限。本文拆 token 为四类(fresh input / cache write / cache read / output),给成本公式,按四种负载档位做敏感性分析——占比 10% 仅省约 7.5%、33% 约 25%、60% 约 45%(基于官方降幅的推演,非实测)。结论:单价只是第四位因素,命中率、布局稳定、轮次与输出长度更关键;六个工程前提把命中率做上去(前缀不变、布局稳定、turn-scoped 指令、服务端裁剪历史、按频率选 TTL、命中率可观测)。跨厂商横向套用须按官网 2026-09-02 快照填六维向量。

发布于 2026年9月1日10 分钟阅读
<!-- agentic-cache-cost-comparison-review | review | 缓存经济学:命中率如何决定 agentic 真实账单 -->

2026 年 9 月 1 日,Anthropic 发布 Claude Fable 5.1,把 cache read 单价从每百万 token 1 美元降到 0.25 美元,降幅 75%。社群的第一反应是"agent 更便宜了",但这句话既可能对,也可能完全落空:降价降的是单价,而账单是单价乘以 token 结构。若 agent 循环里 cache read 只占账单的一小部分,75% 的降幅落到总成本上可能只有个位数;若占大头,同一份单价表能省出的钱远超直觉。

本文不比谁的输入单价便宜——站内已有若干单价与性价比横评,那不是本篇的问题。这里要算的是:在缓存优先的架构下,命中率如何决定你的 agentic 账单。方法是把 agent 调用的 token 拆成四类、给出成本公式、按负载分档做敏感性分析,最后倒推吃到红利的工程前提,以及什么情况下根本吃不到。

先声明口径。Anthropic 官方公布的整体成本下降约 25%、高度依赖 cache read 的 agentic 工作负载最高约 45%,均为官方基于 2026 年 8 月真实使用数据的测算口径,不是独立第三方实测,本文所有节省数字沿用该口径;本文自己的推演会标注"以下为基于官方公布降幅的推演,非实测账单"。除 Anthropic 外的厂商缓存定价本批没有逐家实测,本文不给具体数字,只做相对关系描述,请以各厂商官网 2026-09-02 快照为准。


一、单价表的盲区:agentic 账单不是一条乘法

单价横评的隐含假设是"每百万输入多少钱"可以代表成本。这在单轮问答里勉强成立,在 agent 循环里会失效——原因不在价格,而在 token 的构成比例。

agent 循环里每一轮都要把此前已处理过的内容重新送进模型:仓库文件树、读过的代码、历史对话、工具返回的原始输出。这些对模型是已知信息,在 API 层面仍计入输入 token,缓存的作用就是让这部分不必按全价付费。于是有:轮次越多、上下文越长、每轮新内容越少,cache read 占比就越高。Fable 5.1 支持 1M 上下文,长上下文场景下 cache read 体量更大,占比被进一步放大。

两个团队用同一个模型,一个说便宜、一个说贵,通常不是谁算错,而是负载结构不同。判断降价有没有用,先看 token 结构。


二、token 构成拆解与成本公式

把输入 token 拆成三类,加上输出,一共四项:

token 类别计价典型来源在循环中的行为
fresh input(未命中缓存)基础输入价本轮新增指令、新读的文件、新工具输出随轮次累积,无法靠缓存压缩
cache write(写入缓存)写入价,高于基础输入价首次进入上下文的内容块只在首次出现时付一次
cache read(读取缓存)读取价,远低于基础输入价已在上下文中的稳定前缀每轮重付,轮次越多占比越高
output(输出)输出价回复、thinking 块、工具调用参数与轮次正相关

Fable 5.1 的具体计价为:输入 $10/M、输出 $50/M、cache read $0.25/M、5 分钟缓存写入 $12.50/M、1 小时缓存写入 $20.00/M,批量通道输入 $5.00/M、输出 $25.00/M。基础价与 Fable 5 持平,唯一变动是 cache read 由 $1/M 降至 $0.25/M。

公式如下,后面所有讨论都基于它:

text
单次调用成本(美元) =
    fresh_input / 1e6 × P_fresh
  + cache_write / 1e6 × P_write
  + cache_read  / 1e6 × P_read
  + output      / 1e6 × P_out

整轮任务成本 = 各轮成本之和
cache read 成本占比 = (cache_read × P_read) / 总成本

三个地方直觉容易出错。其一,写入比不写入贵:5 分钟档是基础输入价的 1.25 倍,1 小时档是 2 倍,缓存赚钱的前提是同一份前缀被读足够多次。其二,保活不免费:TTL 过期后要重新写入,低频任务可能每轮都在重写,等于用写入价替代读取价。其三,输出价是输入价的 5 倍:若每轮输出很长——比如官方记录的整文件重写倾向——输出会取代 cache read 成为第一大成本项,此时读取降价对总账的稀释作用有限。


三、四种负载档位的 token 结构

同一份单价表,在不同负载下会长出完全不同的账单。下表为定性分档,用于说明结构差异,不是实测数据,占比高低只描述相对排序,不对应具体百分比。

负载类型典型形态token 结构主次cache read 占比账单主要驱动
单轮问答1 轮,短上下文fresh input 与 output 主导低,接近零输入与输出长度
多轮对话数轮到十余轮,中等上下文cache read 上升,output 仍显著中低轮次乘上下文长度
长上下文 RAG少轮次,单次注入大量检索内容fresh input 与 cache read 并重中每次注入的检索体量
高频 agentic 循环数十轮,上下文持续增长cache read 主导高轮次乘以重读次数

关键分界线是"每轮新增内容除以已处理内容"这个比值。agent 循环的典型形态是每轮只新增一个工具返回或一段 diff,却要重读整个已建立的上下文。这个比值随轮次单调下降,cache read 占比随之上升。这就是为什么 agent 越长跑越贵,也是为什么 cache read 单价对 agentic 负载的杠杆远大于对单轮问答。


四、敏感性分析:75% 的降幅能换来多少

在 token 结构不变的假设下,总成本降幅约等于 cache read 占账单比例乘以 75%。以下为基于官方公布降幅的推演,非实测账单。

cache read 占账单比例单价降 75% 后的总成本降幅大致对应的负载
10%约 7.5%单轮问答、缓存几乎没用上的任务
20%约 15%短会话、命中率偏低的多轮对话
33%约 25%官方口径下的典型工作负载
45%约 34%中等强度的 agent 循环
60%约 45%官方口径下高度依赖 cache read 的 agentic 负载
70%约 52.5%极高命中率的长时程 agent

这张表是一把反向标尺:若你实测总降幅只有 10%,反推 cache read 占账单约 13%,说明瓶颈不在单价而在命中率。

用官方数字反推可以校准:整体降约 25% 对应 cache read 占账单约三分之一,agentic 最高降约 45% 对应约六成。两者互相印证同一结论——agentic 负载的账单里 cache read 确实占大头。但这两个百分比本身是官方测算口径,不是独立第三方实测。

还有三个会吃掉降幅的二阶效应:价格下降会改变行为,上下文更长、轮次更多、命中率优化不做了;为留住缓存你可能选更贵的长 TTL 档或加保活调用,写入成本上升;输出价不变,输出越长,读取侧省下的钱在总账里越被稀释。


五、为什么不把这张表横向套到其他厂商

本篇只核实了 Anthropic 一家。其他厂商的缓存定价本批没有逐家实测,请以各厂商官网 2026-09-02 快照为准。你只需按下表维度填一遍自己的数字,就能把第二节的公式套用到任何一家。

需要核实的维度为什么它决定命中率
cache read 相对基础输入价的折扣率决定 cache read 在账单里的权重
写入价相对基础输入价的溢价倍数决定读几次才能回本
TTL 档位与刷新机制决定低频任务是否每轮重写
最小可缓存前缀长度前缀过短直接不命中
计费粒度(自动缓存还是手动断点)自动与手动的命中率差别很大
缓存是否跨模型、跨会话共享换模型会击穿缓存

这也解释了为什么"单价便宜"和"账单便宜"经常脱钩:一个输入单价更低的模型,若缓存折扣率低、最小可缓存前缀长、TTL 短,在高频 agentic 负载下的实际账单完全可能高于单价更贵的对手。选型时把它当六维向量,而不是一个数字。

从定位上看,Opus 5(2026 年 7 月发布,官方称价格约为 Fable 5 的一半)处在更低输入单价一侧;GPT-5.6 Sol 以 Terminal-Bench 4.0 得分 37.3% 进入 agent 能力讨论;DeepSeek-V4-Pro、Kimi K3、Qwen3.8-Flash-Next、GLM-5.3-Flash 与 Gemini 3.7 Flash 各有自己的缓存体系。本文不比较它们的单价。本篇的问题是:在你选定的那个模型上,你的命中率是多少。


六、四种典型的缓存失效触发

命中率不是模型给的,是自己写坏的。

触发动作影响范围后果规避方向
改 system prompt前缀整体失效全量按 fresh input 计费或重新写入稳定指令放 system,随轮次变化的走 turn-scoped 通道
改 tools 数组前缀整体失效同上工具定义一次性固定,动态内容不进工具描述
编辑历史轮次从编辑点起失效重读成本上升,Fable 5.1 上还可能报错历史裁剪交给服务端,不在客户端重排数组
换模型缓存与模型绑定,整体失效切换那一轮起全量重新计费把降级当成本事件,避免高低档频繁抖动
TTL 过期该前缀失效低频任务等于每轮重写按调用频率选 TTL 档位

前两条最常被轻视。为调优频繁改 system prompt,每次改动都让此前建立的缓存前缀全部失效;把运行时状态——当前时间、任务 ID——拼进 system prompt 更常见,这些内容每轮都变,等于把命中率锁死在零。规则只有一句:前缀里只放不变的东西,会变的一律放到尾部。

第三条在 Fable 5.1 上有额外严重性。官方把"编辑历史轮次会使思考块失效"列为破坏性变更之一,且该检查对 2026 年 8 月 31 日及之后创建的账号强制生效。老账号上客户端重排历史只是悄悄击穿缓存,新账号上还会直接报错。Fable 5.1 把缓存纪律从省钱建议升级成了不遵守就报错。迁移细节见Claude Fable 5.1 API 破坏性变更迁移 SOP。

第四条对有降级链路的系统尤其重要。缓存与具体模型绑定,一次降级切换不只是换模型,而是让整条前缀重新按全价计费。若系统因限流或超时频繁在模型间抖动,命中率会被反复清零。相关设计取舍留待后续单独成文。


七、把命中率做上去:六个工程前提

  1. 前缀不变性:按变化频率排序,system、tools、稳定历史、本轮新增,从前往后递增。会变的内容一旦进入前缀,会把它后面的全部内容一起拖下水。
  2. 布局稳定:不要在上下文中间插入内容。追加在尾部是安全的,插在中间会让插入点之后的整段前缀失效。
  3. 动态指令走 turn-scoped:随轮次变化的指令用 turn-scoped system messages 传,不重建 system,也不往 messages 里插 per-turn 提醒。
  4. 历史裁剪交给服务端:客户端重排 messages 既击穿缓存,又会在 Fable 5.1 新账号上触发报错。
  5. 按调用频率选 TTL:依据是同一前缀在 TTL 内会被读几次,不是越久越好。
  6. 命中率可观测:分别打点四类 token,把 cache read 占比当一级指标。没有这个数,前面所有讨论都是猜。

命中率建议同时看两个口径。token 口径是 cache_read / (cache_read + fresh_input + cache_write),反映机制工作得好不好;成本口径是 cache_read × P_read / 总成本,反映实际省了多少钱。由于 cache read 单价只有基础输入价的四十分之一,同样好看的 token 命中率在成本口径下未必好看。

最后是验证。降价有没有落到你的账单上,不能靠感觉便宜了。做法是切换前后各取一批代表性任务,固定任务集与轮次上限,比较单任务成本与四类 token 构成。任务集设计见自建 agent 评测:Harbor 资源指南,发布本身的变化见Claude Fable 5.1 与 Mythos 5.1 发布解读。


八、结论:先测结构,再谈单价

  • 单价只是第四位的影响因素。 排序是命中率、布局稳定性、轮次与输出长度,最后才是单价。
  • 75% 的降幅能转化出多少,取决于 cache read 占你账单的比例。 三成对应约 25%,六成对应约 45%,两个锚点均来自官方测算口径。
  • 吃到红利的前提是工程纪律,不是换模型。 前缀不变、布局稳定、TTL 匹配频率、命中率可观测,缺一件,降价就只是纸面数字。
  • 最容易被忽略的是根本吃不到的情况。 system prompt 塞动态内容、每轮重建 tools、客户端重排历史、频繁跨模型抖动,都会让命中率归零。
  • 别指望一次切换就看到变化。 把四类 token 打点接上,跑两批固定任务集,用数据说话。

参考来源

  • Anthropic 官方公告与定价页(Claude Fable 5.1,2026-09-01 发布)——输入 $10/M、输出 $50/M、cache read 由 $1/M 降至 $0.25/M(降幅 75%)、5 分钟缓存写入 $12.50/M、1 小时 $20.00/M、批量输入 $5.00/M 与输出 $25.00/M、上下文 1M token、最大输出 128K token。具体 URL 未确认。
  • Anthropic 官方成本测算(分析 2026 年 8 月真实使用数据,典型工作负载整体降约 25%,高度依赖 cache read 的 agentic 负载最高降约 45%)——官方测算口径,非独立第三方实测,本文所有节省数字沿用该口径。
  • 除 Anthropic 外各厂商的缓存定价(读取折扣率、写入溢价、TTL 档位、最小可缓存前缀、计费粒度)——本批未逐家核实,请以各厂商官网 2026-09-02 快照为准,本文不给出具体数字。
  • Fable 5.1 破坏性变更中"编辑历史轮次会使思考块失效"对 2026-08-31 及之后创建的账号强制生效——出自官方公告,URL 未确认。
  • Opus 5 价格约为 Fable 5 的一半、GPT-5.6 Sol 在 Terminal-Bench 4.0 得分为 37.3%——来自各发布方公开信息,仅用于定位。
  • 第三至五节表格为基于官方公布降幅的算术推演与定性分档,非实测账单;其余为工程建议,已在正文逐处标注。

常见问题

Q1:cache read 降价 75%,为什么我的账单没降多少? A1:因为降的是单价,账单是单价乘以 token 结构。只有 cache read 占大头时,75% 的降幅才能转化为可观的总成本下降。先用成本口径算一遍占比:占比 10% 只能换到约 7.5% 的总降幅。占比上不去,原因通常是命中率低而非单价高,此时优化前缀比换模型有效得多。

Q2:缓存命中率应该怎么定义和计算? A2:建议同时看两个口径。token 口径是 cache read 除以输入 token 总量,反映机制工作得好不好;成本口径是 cache read 的费用除以总费用,反映实际省了多少钱。由于 cache read 单价远低于基础输入价,同样的 token 命中率在成本口径下会明显更低。前者排查工程问题,后者与账单对账。

Q3:改 system prompt 真的会让缓存全部失效吗? A3:会。命中前提是前缀逐 token 完全一致,而 system prompt 是前缀第一段,改动一个字符其后所有内容都不再命中。最常见的错误是把当前时间、任务 ID、用户名这类每轮都变的内容拼进 system prompt,等于把命中率锁死在零。

Q4:5 分钟和 1 小时两档缓存该怎么选? A4:按同一前缀在 TTL 内会被读几次来选,不是越久越好。写入价高于基础输入价(Fable 5.1 上 5 分钟档 $12.50/M、1 小时档 $20.00/M),若一段前缀在 TTL 内只被读一次,你付的是写入价而非读取价,比不用缓存更贵。高频连续调用适合长 TTL。

Q5:多模型路由与降级会不会把缓存红利吃光? A5:会,而且比多数人以为的更彻底。缓存与具体模型绑定,一次切换就让整条前缀重新按全价计费。若系统因限流或超时在高低档模型间频繁抖动,命中率会被反复清零,此时 cache read 单价多低都与你无关。做法是把降级当成成本事件:给降级次数设阈值、抖动时加冷却、并为降级路径单独核算成本。

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-09-01

常见问题

cache read 降价 75%,为什么我的账单没降多少?
因为降的是单价,账单是单价乘以 token 结构。只有 cache read 占大头时,75% 的降幅才能转化为可观的总成本下降。先用成本口径算一遍占比:占比 10% 只能换到约 7.5% 的总降幅。占比上不去,原因通常是命中率低而非单价高,此时优化前缀比换模型有效得多。
缓存命中率应该怎么定义和计算?
建议同时看两个口径。token 口径是 cache read 除以输入 token 总量,反映机制工作得好不好;成本口径是 cache read 的费用除以总费用,反映实际省了多少钱。由于 cache read 单价远低于基础输入价,同样的 token 命中率在成本口径下会明显更低。前者排查工程问题,后者与账单对账。
改 system prompt 真的会让缓存全部失效吗?
会。命中前提是前缀逐 token 完全一致,而 system prompt 是前缀第一段,改动一个字符其后所有内容都不再命中。最常见的错误是把当前时间、任务 ID、用户名这类每轮都变的内容拼进 system prompt,等于把命中率锁死在零。
5 分钟和 1 小时两档缓存该怎么选?
按同一前缀在 TTL 内会被读几次来选,不是越久越好。写入价高于基础输入价(Fable 5.1 上 5 分钟档 $12.50/M、1 小时档 $20.00/M),若一段前缀在 TTL 内只被读一次,你付的是写入价而非读取价,比不用缓存更贵。高频连续调用适合长 TTL。
多模型路由与降级会不会把缓存红利吃光?
会,而且比多数人以为的更彻底。缓存与具体模型绑定,一次切换就让整条前缀重新按全价计费。若系统因限流或超时在高低档模型间频繁抖动,命中率会被反复清零,此时 cache read 单价多低都与你无关。做法是把降级当成成本事件:给降级次数设阈值、抖动时加冷却、并为降级路径单独核算成本。

相关文章

硬核横评

每 token 缓存差 39 倍:四款开源旗舰 Agent 横评

四款开源旗舰同台横评:MiniMax M3.1 Flash(428B/A23B)、DeepSeek V4.1 Flash 1017、GLM-5.3、Kimi K3——四款全部出现在 MiniMax 官方模型卡对照表,口径天然可对齐,但有两层前提必须写明:整表由 MiniMax 代跑(模型卡自认),且各基准 harness 不同(Terminal-Bench 4.0 用 Codex 0.149.1、DeepSWE 用 mini-SWE-agent@512K、CyberGym 用 Claude Code);M3.1 Flash 全部分数为厂商自报、无第三方复现。唯一第三方刻度是 AA 智能指数:DeepSeek 1017 得 45、M3.1 Flash 42、M3 得 29(GLM-5.3 的 59 属另一指数、另一月份,仅方向参考)。效率上的真差距在 KV cache:DeepSeek 1017 官方每 token 890 字节,M3.1 Flash 34,560 字节(vLLM 工程口径),自托管长上下文的内存账差约 39 倍。M3 到 M3.1 Flash 没有官方基准对照表,只有三项声明(速度近 3 倍、200+ tok/s、Agent 成本降 70% 且未公布测算方法)、价格对切(0.30/1.20 美元到 0.15/0.60 美元)与 vLLM 工程数据(权重 451.5 到 250.1GB、KV 每 token 61,440 到 34,560 字节)。价格全景:M3.1 Flash 0.15/0.60 美元、缓存 0.015;DeepSeek off-peak 同价但缓存仅 0.003 美元、peak 双倍;GLM-5.3 人民币 8/28 元、缓存 2 元;K3.1 Pro 2/10 美元(媒体引截图口径)。Kimi 陷阱:表中 K3 的 TB4.0 12.6 与 10 月 24 日凌晨 K3.1 Pro 自测的 65.7% 跨版本跨 harness,严禁混比,且 K3.1 Pro 权重 11 月 4 日前才放出。矛盾清单并列不裁决:Automation-Bench 62.2 与 62.8、参数 428B 对 HF 元数据 220B、checkpoint 250.1/233/220GB 三说并存。

2026年10月24日8 分钟阅读
硬核横评

都喊开源,谁能跑上桌:五款大模型协议横评

2026 年 10 月中旬五款开放权重大模型挤在同一个窗口期亮相,都喊「开源」,成色差出三档。A 级真开源:Reflection Beam 用 Apache 2.0 零附加条款、下载 ungated;DeepSeek V4.1 Flash 1017 用 MIT 零附加;NVIDIA Nemotron 3.5 Bolt 74B-A9B 用 OpenMDW-1.1 且是五款中唯一把权重、训练数据、训练配方全部公开的。B 级开放权重带附加:Meta Muse Spark Open 的署名义务覆盖蒸馏产物(输出训练的模型也须标 Built with Muse Spark Open)、MaaS 转售年收超 2000 万美元需另签协议、HF gated 下载,法律意义上不满足开源定义。C 级承诺未落地:Mistral Large 4 权重截至 10-23 未出、协议连名字都没有、AA 仍归专有模型。第三方同尺 AA Intelligence Index v4.3.2:GLM-5.3 45 > Kimi K3 44 > DeepSeek 39.5 ≈ Muse 39 > Mistral 38 >> Beam 30(Beam 无公共 API,分数来自 self-hosted 推理);各家自报的 DeepSWE 与 Terminal-Bench 因 harness 与版本不同不可直比。硬件可得性从 Bolt 的 24GB 单卡到 Muse 的 NVFP4 700GB+ 显存、Beam 的 294GB 检查点(约 400GB 内存起步)差出两个量级。本文给出许可证八维度对照表、掺水维度速查(署名义务 > 营收门槛 > gated 下载 > 权重迟到 > 协议黑箱 > 数据配方不开放)与按用途选协议的实操建议;Muse 与 Beam 的单体深评另有专文,本文只作协议与可得性横比。

2026年10月23日8 分钟阅读
硬核横评

FLUX 3 Max 12 秒出片:官方四套速度谁在吹

fal Research 与 Black Forest Labs 于 2026 年 10 月 19 日推出 FLUX 3 Max:不是新基础模型,而是在 BFL 的 FLUX 3 之上做后训练、强化学习与推理优化的产物,fal 负责后训练与系统工程,BFL 提供底座。官方速度与 Elo 全表(Elo 取自 Artificial Analysis AA-Video-I2V v1.1 preliminary,耗时为 10 秒 16:9 视频在 720p/768p 的平均秒数):FLUX 3 Max 1,139 分 12.45 秒、Gemini Omni Flash 1.1 1,134 分 47.37 秒、MiniMax H3(768p)1,141 分 83.26 秒、FLUX 3 1,089 分 126.44 秒、Wan 3.0 1,127 分 180.16 秒、Seedance 2.5 1,139 分 277.80 秒,共 4,868 票,且榜单把 MiniMax H3 列为第一,官方自称并列第一只是因置信区间重叠。真正的问题在于官方自己就有四套速度口径:fal 落地页 12.45 秒、新闻稿 10.95 秒、API 模型页约 11 秒、BFL 官网 12 秒;倍率也并存 22 倍与 25 倍、对原版 FLUX 3 又有 10 倍与 11.5 倍两说,而 fal 定价总表另有一行 0.085 美元每秒与模型页 0.0425 美元每秒对不上。更关键的是 Seedance 2.5 的 277.80 秒完全来自 fal 单方,字节官方从未公布过 Seedance 2.5 的生成耗时基准,fal 也未说明这 277.80 秒对应哪个分辨率档,所谓同画质的前提并未闭合;第三方实测只快约 10 倍。机制上 FLUX 3 Max 有 reasoning_level 参数且含提示词扩写,Seedance 2.5 没有对应项,fal 计时口径明确排除扩写、解码与上传,两者在参考素材上限、关键帧机制、编辑与续写端点上也不对等。价格上 720p 促销 0.0425 美元每秒、标价 0.17 美元每秒,1080p 促销 0.0725、标价 0.29 美元每秒,折扣窗口 10 月 15 日至 11 月 7 日。

2026年10月22日10 分钟阅读