2026 年 10 月 19 日,Inception Labs 发布第四代扩散式大语言模型 Mercury 3。官方口径里有两个数字最抓眼:NVIDIA GPU 上 1,068 tokens/秒的输出速度,以及 12 项能力基准中对最优对手赢下 8 项。如果这两个数字经得起第三方检验,语言模型的输出速度王座就要换人——但「如果」两个字,正是本文要花大力气掰扯的地方。
先划边界:站内此前的模型速度类内容(本地 LLM 部署系列)讨论的是本地开源模型的部署与吞吐,本文主角 Mercury 3 是闭源 API 模型,两者不在同一条赛道;站内也还没有扩散式 LLM 的横评前文,本文是第一篇。另一个纪律先立此存照:本文所有基准数字均来自 Inception 自家发布的对比表,下文统一标注「Inception 自报」;第三方评测机构 Artificial Analysis 截至发稿尚未收录该模型。这一点贯穿全文,每一个数字都要带着这副镣铐来读。
扩散 LLM 是什么:打字机与拍立得
市面上几乎所有主流大语言模型都是自回归架构,它的工作方式像一台打字机:一次吐一个 token,从左到右,逐字推进。你看到的流式输出,本质就是这台打字机在敲键。速度的上限也由此决定——不管机器多快,它终究要一个字一个字地敲。
扩散模型走了另一条路,更像一张拍立得照片:起点不是空白,而是一整块被遮罩盖住的文本;每一轮「去噪」都像显影一次,多个位置被并行敲定;一轮一轮迭代下去,整张图逐渐清晰。它的单轮计算成本高于自回归的单步生成,但一轮能定格许多 token,吞吐量取决于每轮提交多少位置——这是扩散 LLM 有机会在速度上翻身的结构性原因。
这一路线长期悬着一个开放问题:扩散模型规模变大之后,质量跟不跟得上?自回归模型有规模定律兜底,扩散模型此前没有同等量级的证据。Inception 的说法是 Mercury 3 回答了这个问题——自回归的规模定律对扩散同样成立。创始人 Stefano Ermon 的原话更进一步:「扩散模型的限制是算力和数据,不是算法本身的根本障碍。」这句话是不是定论,要看第三方接不接招,但至少厂商把姿态摆出来了。
这套机制还有一层对延迟敏感场景友好的性质:自回归模型的响应延迟随输出长度线性堆叠,生成一万字就要敲一万次键;扩散模型的轮数并不与输出长度严格挂钩,理论上可以通过加大每轮提交的位置数来压缩轮次。代价同样明显:每轮提交的位置越多,对「哪些位置该先定格、哪些该继续扩散」的调度要求越高,质量控制也更复杂——这也是扩散 LLM 此前长期停留在小规模实验阶段、没能挤进旗舰竞争的原因之一。Mercury 3 把上下文做到 1M、把基准成绩做到对齐旗舰档,本质上是在向「扩散路线也能扛大旗」这个命题交答卷;答卷合不合格,下文拆开看。
回到产品本身:上下文窗口扩到 1M token(上一代 Mercury 2.5 是 260K,这次是四倍级扩容),输出上限 131,072 token。参数量没有公布,官方只说比 Mercury 1 大 40 倍以上——这是全文口径链里又一个「自报」节点,先记下。
12 项基准:赢 8 项,也输 4 项
Inception 自报的对比表选了两个对手:GPT-6 Luna(medium 档)与 Claude Haiku 5.5(medium 档),reasoning 档位对齐。12 项能力基准,全部 Inception 自测,medium 档成绩如下。
| 基准 | Mercury 3 | 最优对手 | 差距 |
|---|---|---|---|
| SWE-Bench Atlas | 51.08 | 33.33(Luna) | +17.8 |
| IFBench | 76.84 | 61.82(Luna) | +15.0 |
| MultiChallenge | — | — | +7.9 |
| τ³-bench Banking | — | — | +7.2 |
| DeepSearchQA | — | — | +6.1 |
| BrowseComp+ | — | — | +4.7 |
| GPQA Diamond | 89.23 | 86.36(Luna) | +2.9 |
| GDPval | 1237.2 Elo | 1225.0 | +12.2 |
| AA-Omniscience | — | — | -0.5 |
| AA-LCR v1.1 | — | — | -0.6 |
| MRCR v2 | — | — | -2.9 |
| DeepSWE v1 | — | — | -5.3 |
赢的 8 项里,差距最大的是 SWE-Bench Atlas:51.08 对 Luna 的 33.33、Haiku 的 32.26,领先 17.8 分——这是真实软件工程任务上的基准,也是整张表里最扎眼的一项。IFBench(指令跟随)领先 15.0 分居次。GPQA Diamond(研究生级科学问答)89.23 对 86.36,赢面只有 2.9 分,属于险胜;GDPval 按 Elo 计 1237.2 对 1225.0,同样是小胜。中间几项——MultiChallenge +7.9、τ³-bench Banking +7.2、DeepSearchQA +6.1、BrowseComp+ +4.7——差距依次收窄,整体呈「编程与指令跟随大幅领先,推理与知识类小幅领先」的分布。
输的 4 项必须全列,这是横评的底线:AA-Omniscience 输 0.5 分、AA-LCR v1.1 输 0.6 分、MRCR v2(多轮指令与长上下文一致性)输 2.9 分,以及最值得警惕的 DeepSWE v1 输 5.3 分。注意这个结构:编程类基准里,Atlas 大胜 17.8 分,DeepSWE 却反输 5.3 分——两个「编程最强基准」给出方向相反的信号,说明其编程能力在不同任务分布上并不均匀,厂商单引 Atlas 的叙事要打个问号。
为便于读表,补一行各基准考什么:SWE-Bench Atlas 与 DeepSWE 考真实软件工程任务,IFBench 考精细指令跟随,MultiChallenge 考多轮对话中的抗误导能力,τ³-bench Banking 考带业务规则的工具调用,DeepSearchQA 考深度检索问答,BrowseComp+ 考网页信息搜寻,GPQA Diamond 考研究生级科学推理,GDPval 以 Elo 计分考真实经济任务的产出,MRCR v2 考长上下文里的多轮检索与共指,AA-LCR 考长上下文推理,AA-Omniscience 考知识广度。照这张清单再看赢面分布:赢的 8 项集中在 agent 执行链路(编程、工具调用、浏览)与指令跟随——恰好是低延迟最值钱的场景;输的 4 项集中在长上下文一致性与知识广度——恰好是「快」帮不上忙的地方。速度优势与能力优势在场景上是对齐的,这个结构比单纯的赢项计数更有参考价值。
补充一项表外的实测:Mind2Web 上 50 个真实浏览器任务完成率 50%,Inception 称显著高于同 token 量、同步数上限的 GPT-6.1-Sol——但这是厂商自建 harness 的口径,不是第三方复现,参照下节的折扣规则使用。
价格与渠道:五折价里的门道
定价两条线写清楚。标准价:输入 $0.20、输出 $0.70,每百万 token。上市促销五折:输入 $0.10、输出 $0.35。缓存输入另有 1 折口径:标准 $0.02、促销 $0.01。
这里有一个容易漏看的细节:Inception 官方那张能力对比表在旁边附了成本对照,而成本对照用的是五折促销价。促销价是限时的,标准价才是常态——如果拿表里的成本数字做选型依据,等于按一个会过期的价格做长期预算,这一层要点破。缓存输入一折这条对 agent 场景也不是小数目:系统提示词、工具定义、长记忆几乎每个请求都要重复送一遍,命中缓存后这部分成本直接除以十,实际账单里它往往比非缓存输入的占比更高——评估真实成本时要把这一项单算。
更刺眼的是单项对比:$0.70 的输出标准价,高于对手 GPT-6 Luna 的 $0.50。也就是说,在输出侧(恰恰是扩散模型理论上最该便宜的一侧)常态价格下,Mercury 3 比对标产品贵四成。速度优势能不能抵掉价格劣势,取决于你的场景是吞吐敏感还是预算敏感——高频短输出的 agent 场景可能划算,长文生成场景未必。
渠道与接入:Inception 自家 API、OpenRouter(模型名 inception/mercury-3-20261019)、Baseten、Vercel AI Gateway,以及 Mercury Chat 网页端。API 是 OpenAI 兼容格式,已用 OpenAI SDK 的项目改一下 base URL 和 model 字符串就能切换,迁移成本接近零。新注册的 API key 送 1 亿免费 token——按五折输入价折算约值数百美元,足够把想验的场景跑一遍。
口径红线:这些数字该打几分折扣
第一道折扣:全部数字来自 Inception 自家发布表,Artificial Analysis 尚未收录。AA 是目前行业里最常被引用的独立横评机构,它没进数据,意味着没有第三方跑分、没有独立复现,你看到的每一项成绩都是厂商既当运动员又当裁判的结果。
第二道折扣,也是最重的一道:前科。上一代 Mercury 发布时同样宣传了激进的速度数字,后来在 Artificial Analysis 的实测中,速度只达到宣传值的约 60%(aibacon 口径)。厂商自测环境(特定 NVIDIA GPU、特定负载、特定采样参数)与第三方实测的端到端延迟之间有系统性落差,这不是阴谋论,是这家公司已经发生过一次的事。「1,068 tok/s」和「比对手快 4-8 倍」都应按此前科预设折价——对手的端到端延迟同样未经独立验证。
第三道折扣:「3 倍智能提升」这句传播语指的是自家 Mercury 1 到 Mercury 3 的纵向对比,不是与竞品的横向比较。纵向比自家初代模型,分母是自己三年前的水平,这句话对选型的参考价值有限。
第四道折扣:客户证言全是二手的。TinyFish AI 联创 Shuhao Zhang(浏览器 agent 场景)、RevisionDojo CTO Michael Tong(教育场景即时反馈约 1 秒)、Octen AI CEO Kuan Zou(智能眼镜 0.9 秒中位生成、2.2 秒端到端)、Lorikeet(客服延迟)——四条全部引自厂商发布稿,没有一条是媒体或第三方独立采访取得的。它们能说明「有公司在用」,不能说明「用得多好」。
闭源定性:一间公司的一条腿和两条辅线
定性写明:Mercury 3 权重未公开、没有技术报告、参数量未公布(官方只说比 Mercury 1 大 40 倍以上),它是闭源 API 模型。这意味着两件事:一,扩散路线的「质量随规模成立」这个关键主张,外界无法从架构与训练细节层面检验,只能等第三方跑分;二,你的一切使用都绑定 Inception 的服务与定价,没有自部署逃生门——对把「不被单一供应商锁定」当硬需求的团队,这一条足以一票否决。
产品线顺带一段。Mercury Voice:语音 agent 模型,首 token 延迟低于 170ms(Inception 自报),定价 $0.40/$1.50 每百万;Mercury Decide:决策模型,主打校准概率输出与升级人工的开关,厂商口径称在 JevBench 与 LegalBench 上胜过 Jev——同样是自报,同样待第三方验证。另外 Mercury 2 与 2.5 已停止接受新客户,老客户服务到 11 月 15 日——生命周期节奏很快,采购前要把迁移成本算进去。
选型结论:谁该现在就试,谁该再等等
现在就该试的:高吞吐、低延迟是硬约束的场景——实时语音交互、智能眼镜类端侧助手、客服与教育类即时反馈、高频短输出的 agent 流水线。这批场景里,速度就是产品体验本身,1 亿免费 token 的试错成本约等于零,OpenAI 兼容接口让切换成本也约等于零。答案很便宜,为什么不问。
应该再等等的:预算敏感的长文生成场景($0.70 的输出标准价摆在那里,等五折结束再算账)、需要自部署或权重审计的团队(闭源,无解)、以及所有打算下重注的生产决策——至少等 Artificial Analysis 收录之后再定。一家公司上代产品实测只到宣传速度六成的记录,值得你多等一次独立验证。
一句话收束:Mercury 3 把「扩散 LLM 能不能扛大旗」这个问题的证据链向前推了一大步——12 项基准赢 8 项的结构比单纯的速度数字更有分量;但整条证据链目前只有 Inception 一个信源,速度王座易主与否,钥匙在第三方手里,不在发布稿里。
常见问题
Q1:Mercury 3 是开源模型吗?
**A1:**不是。权重未公开、没有技术报告、参数量未公布(官方只说比 Mercury 1 大 40 倍以上),它是闭源 API 模型,只能通过 Inception API、OpenRouter、Baseten、Vercel AI Gateway 等渠道调用,不支持自部署。对有自部署或权重审计需求的团队,这是硬性排除项。
Q2:1,068 tokens/秒这个速度可信吗?
**A2:**这是 Inception 自报口径(特定 NVIDIA GPU 环境),Artificial Analysis 尚未收录,对手端到端延迟也未独立验证。更关键的是前科:上一代 Mercury 在 AA 实测中速度仅约为宣传值的 60%(aibacon 口径)。建议按「自报数字先打六到八折」预设,等第三方实测落地再采信。
Q3:12 项基准赢 8 项,是不是全面碾压对手?
**A3:**不是。输的 4 项应完整看到:AA-Omniscience -0.5、AA-LCR v1.1 -0.6、MRCR v2 -2.9、DeepSWE v1 -5.3。尤其编程类出现方向相反的信号:SWE-Bench Atlas 大胜 17.8 分,DeepSWE 反输 5.3 分,说明编程能力在不同任务分布上不均匀。且 12 项全部为 Inception 自测,无第三方复现。
Q4:价格到底怎么算?五折是永久的吗?
**A4:**标准价输入 $0.20、输出 $0.70 每百万 token;上市促销五折为 $0.10/$0.35;缓存输入为输入价一折(标准 $0.02、促销 $0.01)。五折是限时促销。注意两点:官方对比表附的成本对照用的是五折价,做长期预算要按标准价重算;输出标准价 $0.70 高于 GPT-6 Luna 的 $0.50。
Q5:什么团队适合现在就接入试水?
**A5:**速度敏感的场景最合适:实时语音交互、智能眼镜类端侧助手、教育或客服即时反馈、高频短输出 agent。新 API key 送 1 亿免费 token,OpenAI 兼容接口改 base URL 即可切换,试错成本接近零。预算敏感的长文生成和需要下重注的生产决策,建议等 Artificial Analysis 收录后再定。
延伸阅读
- 匿名太空兔 200T token 揭盅:MiniMax M3.1 Flash 发布:匿名太空兔 200T token 揭盅:MiniMax M3.1 Flash 发布
- 本地部署大模型五路实测:哪个方案真香:本地部署大模型五路实测:哪个方案真香
- 14 模型测品味:GPT 断层领先,没线索输给瞎猜:14 模型测品味:GPT 断层领先,没线索输给瞎猜