Inception 发布 Mercury 3 扩散大模型:1068 tokens 每秒、100 万上下文,上线期定价砍半
1068 tokens 每秒,听起来像是「眨眼间写完一篇文章」。但这个数字有一个容易被忽略的前提:它统计的是模型开始往外吐字之后的速度,不是用户从敲下回车到拿到可用答案的时间。10 月 19 日,Inception(Inception Labs,总部位于加州 Redwood City)发布 Mercury 3,官方称其在 NVIDIA GPU 上达到 1068 tokens/秒,是 GPT-6 Luna 与 Claude Haiku 5.5 的 4 至 8 倍——同一份官方材料给出的对照值为 Luna 约 130、Haiku 5.5 约 240。
同日,Mercury 3 通过 Inception API、Baseten、OpenRouter 与 Vercel 上线,兼容 OpenAI API。上下文窗口从上代 Mercury 2.5 的 26 万 token 扩到 100 万;官方称总参数量超过 Mercury 1 的 40 倍,标准基准上的智能水平较 Mercury 1 (mini) 提升 3 倍。定价为每百万输入 token 0.20 美元、输出 0.70 美元,上线期五折至 0.10 与 0.35,缓存输入再降 90% 至 0.01 美元。
问题也随之而来:截至目前,尚无大型第三方评测机构公布针对 Mercury 3 的独立测试结果。也就是说,标题里那三个数字——1068、100 万、砍半——全部是厂商口径。
这家公司由斯坦福大学教授 Stefano Ermon 与 Aditya Grover、Volodymyr Kuleshov 于 2024 年共同创立。2025 年 11 月 Menlo Ventures 领投的 5000 万美元融资中,微软旗下 M12 是投资方之一,英伟达 NVentures 与 Snowflake Ventures 也在名单上。路透社今年 5 月报道,微软曾就收购事宜与 Inception 接触,传闻报价超过 10 亿美元,SpaceX 此前也曾接触,目前没有任何一方宣布达成交易。
一、先把整段写出来
Mercury 3 与主流大模型的差别不在参数,在生成顺序。
GPT-6 Luna、Claude Haiku 5.5 走的是自回归路线:一个 token 接一个 token 往外推,下一个字必须等上一个字落地。扩散式大语言模型反过来,先起草整段回答的框架,再用几轮并行迭代对所有位置同时做优化。顺序步骤变少,同样的 GPU 上单位时间吐出的字自然更多。
Ermon 在发布时的表述很直接:自 Mercury 1 发布以来,外界问得最多的问题是「扩散模型能不能扩展规模」,而在他看来限制因素是算力和数据,不是算法本身存在根本障碍。Inception 想用 Mercury 3 证明的,正是推动自回归模型进步的规模定律同样适用于扩散路线——模型做大 40 倍之后,速度仍维持在千 token 级。
这解释了一个反常识的现象:过去两年,扩散模型在行业里的标签一直是「快但不聪明」,只干得了填空和改写这类轻活。Mercury 3 的赌注,是把这个标签撕掉。
二、4 到 8 倍是谁测的
速度与质量的对照,目前只有一张表,来自 Inception 自己。
官方基准表在 medium 推理档下对比三款模型,涵盖 12 项测试,Mercury 3 在 8 项上领先。研究生级科学推理 GPQA Diamond 上,Mercury 3 得 89.23,Luna 为 86.36,Haiku 5.5 为 84.51;软件工程 SWE-Bench Atlas 上差距更大,51.08 对 33.33 与 32.26;指令遵循 IFBench 得 76.84,官方称领先 Luna 约 15 分。
同一张表里也有落后项。DeepSWE v1 编程测试中 Mercury 3 得 46.31,低于 Haiku 5.5 的 51.62;一项长上下文测试同样落后;Luna 在另外两项上以不到 1 分的优势胜出。官方没有回避这些项,但在通稿里没有展开。
早期客户的表态也被放进通稿。TinyFish AI 联合创始人 Shuhao Zhang 称,公司在生产环境的 Web 智能体框架内跑了 50 项真实 Mind2Web 导航任务,Mercury 3 完成 50%,官方称显著高于 GPT-6.1-Sol,且 token 总量与智能体步数相同、单 token 成本更低。做智能眼镜搜索的 Octen AI 报告,Sense API 测试中生成时间中位数 0.9 秒、端到端响应中位数 2.2 秒。辅导应用 RevisionDojo 称提示、批改与定义大约 1 秒返回。客服服务商 Lorikeet 称延迟表现优于其他模型。
需要说明的是,这些都是客户写在 Inception 页面上的自述,不是独立复现。TechRepublic 在报道中点明:这类结果说明潜在用途,不足以独立确立普遍性能优势。

三、半价窗口没有终点
真正影响采购决策的,是价格表上的时效。
Mercury 3 的牌价为输入 0.20、输出 0.70 美元每百万 token,上线期五折到 0.10 与 0.35,缓存输入从 0.02 降到 0.01。Inception 没有说明促销何时结束,也没有公布促销结束后的过渡安排。
对照竞品:Luna 与 Haiku 5.5 在常规提示下的定价均为输入 0.10、输出 0.50 美元每百万 token。促销期内,Mercury 3 的输出便宜 0.15 美元;一旦回到 0.70 的牌价,它比两款竞品都贵。一笔 100 万输入加 100 万输出的活,促销价 0.45 美元,牌价 0.90 美元,正好差一倍。
对企业用户还有两个时间点要盯。新 API key 送 1 亿 token 试用额度;在 10 月 19 日前使用过 Mercury 2 或 2.5 的客户,可以继续用到 2026 年 11 月 15 日,企业客户按合同另行支持。迁移窗口不到一个月。
速度正在成为一条独立的产品线,Inception 也不是唯一的玩家。OpenAI 9 月 29 日发布 GPT-6 Astra Ultrafast,宣称 API 内最高 300 tokens/秒,并在 1 月与 Cerebras 签下 750 MW 算力协议。两条路线目前还没有在同一条件下跑出过对照数据。
四、第三方跑分对不上
官方口径之外,已经出现不一致的数据。
第三方评测机构 Spring Prompt 在 10 月 20 日的评测中,把 Mercury 3 放在 24 个模型中的第 18 位(演示文稿生成)与 13 个模型中的第 9 位(问卷分析);在模拟广告投放任务 ROASBench 上,Mercury 3 得 26.1 分,GPT-6 Astra 为 56.6 分。另有评测汇总称,长文本网页生成测试中 Mercury 3 的中位完成时间为 65 秒,而 Haiku 5.5 为 44 秒、Luna 为 47 秒。
落差来自架构本身。扩散模型要先做多轮去噪,起跑迟钝;去噪完成之后才进入大段并行喷涌。1068 tokens/秒是喷涌阶段的读数,用户感知的首字延迟并不体现在这个数字里。计时棋类测试的对照更清楚:关闭推理时 Mercury 3 中位出招约 0.4 秒,切到低推理档就变成 4.2 秒。
一份中文评测汇总还提到,OpenRouter 线上多租户环境下 Mercury 3 的 P50 吞吐落到 225 至 276 tokens/秒区间。这组数字目前只有单一来源,尚未见到更多复现,只能作为参考。
赛跑比的是谁先撞线,不是直道冲刺那一瞬的仪表盘读数。
还有一层落差来自工具链。主流推理框架的 KV cache 策略、投机解码与调度优化都是围绕自回归写的,扩散模型的解码 kernel 模式不同,能吃到多少现成优化是个未知数。Tri Dao 在转发 Mercury 3 时给了另一个定位:把一个足够聪明的「协调者」模型和一个极快的「执行者」模型组合起来,扩散模型或许正好能当后者。创始人自己的说法更保守——日常使用是 Haiku 与 Luna 的水平,还不能替代 Opus 或 Fable 当主控模型,但已经能做 subagent。

五、客服与内容这笔账
对做跨境的团队,Mercury 3 的价值是间接的——它落在客服机器人、多语言 listing 生成、选品调研智能体这些环节的底层。
成本账可以这样算。客服对话是短输入长输出,输出价格决定大头,促销期内 0.35 比 0.50 便宜三成;商品文案批量改写属于大批量低风险调用,是扩散模型最划算的场景;浏览器智能体做竞品比价与页面巡检,一轮任务要发几十次调用,速度优势才会复利。
风险同样清楚。Mercury 3 闭源、不公布绝对参数量、无公开权重,不能自托管也不能审计权重;只支持文本输入,做不了图文混合的商品理解;长文召回(MRCR)落后 Haiku 5.5,把整本产品手册塞进 100 万上下文再指望它准确引用未必划算,输入 token 本身也在计费。更实际的一条:流式输出可能以「块」为单位跳变,而不是逐字平滑出现,前端要做适配。
所以,1068 tokens/秒并不意味着 AI 客服立刻便宜三成,而是意味着厂商把竞争从「谁更聪明」拉到了「谁在足够聪明的区间里更快」。等到促销结束、牌价高于两款竞品那一天,问题才真正要被回答:愿意为速度付多少溢价?

六、参考资料
- Inception Labs 官方博客:《Diffusion at Scale: Introducing Mercury 3》
- Unite.AI:《Inception Releases Mercury 3, Its Flagship Diffusion LLM》
- TechRepublic:《Inception Says Mercury 3 Generates Text Up to 8x Faster Than Rivals》
- The Rundown AI:《Inception says Mercury 3 generates over 1,000 tokens a second》
- 腾讯新闻:《Inception 发布 Mercury 3 模型 速度远超 GPT-6 和 Claude》
- Quasa:《Mercury 3 Claims 1,068 Tokens per Second—Independent Tests Find Trade-offs》
- Tech Pilot:《Mercury 3: Pricing, Free Tokens & Speed》