10 月中旬到 11 月初，AI 圈子出现了一个很少见的空档：OpenAI、Anthropic、Google 三家前沿实验室，在 10 月 14 日到 21 日这一整周没有发布一个新模型，增量全落在推理引擎、语音和扩散这三条线上。三家都没熄火，只是把力气从「造更大的模型」挪到了「把模型跑得更快、更便宜」。

顺着这个窗口往后看十天，一条更清晰的线浮出来。从 10 月初到 10 月 22 日，五家公司先后在同一件事上亮牌，这件事叫决策模型：Cloudflare 的 Clef、Liquid AI 的 d1、微软的 Decision-1、OpenAI 的 Decisions API，加上最早定义这个品类的 TypeSafe Jev。10 月 20 日，DeepSeek 又把自己生产环境里的推理框架 DeepInfer 用 Apache 2.0 协议整个开源。

两个动作指向同一个判断：大模型的权重正在变成可以白捡的底座，真正稀缺的东西变成了推理层，也就是把一次判断或一个 token 做得更快、更便宜的那套工程。

只输出概率，不写一个字

决策模型和生成式模型最本质的差别在输出形态。生成式模型一个字一个字地把答案写出来；决策模型只做一次前向传播，直接从模型对预定义选项的概率分布里选一个答案。于是它没有输出 token，计费只算输入、输出免费。

工程上，延迟直接从秒级掉到毫秒级。五个玩家的数字摆出来：

• TypeSafe Jev 是品类开山之作，纯文本，单次判断约 524 毫秒，早期定价约 $0.042/百万输入 token。
• 微软 Decision-1 在阿里 Qwen3.5-9B 上做后训练，只输出校准过的概率。官方自报 P50 延迟 85 毫秒，比 GPT-6 Sol 快约 35 倍，36 个基准平均准确率 83.5%。定价 $0.042/百万输入、输出免费，只在 Foundry 和 OpenRouter 托管，权重不开放。
• OpenAI Decisions API 由 GPT-6 Luna 驱动，支持三种答案形态：predicate（0–1 概率）、choice（选项加置信度）、score（加权评分）。官方称比走 Responses API 快 10 倍，单请求最多 400 个问题，$0.10/百万输入、缓存 $0.01、输出免费。已披露客户 Speak 把交互间隔从 1.4 秒压到 0.13 秒，Ramp 提速 4 倍、成本降 30%。
• Liquid AI d1 主打零输出 token。d1-3B 的 Decision Index 48.57 领先所有 10B 以下模型，单问延迟在 RTX 4090 上约 8 毫秒，第一天就进 llama.cpp。d1-omni-600M 是早期研究版，能接音频。不过官方嘴上说无限制下载，许可文件里却藏了一条约 1000 万美元年收入的商用门槛。
• Cloudflare Clef 把决策模型搬到边缘。Clef（27B）与 Clef-flash（9B）都是 Apache 2.0 开放权重，跑在 Workers AI 上，Clef-flash 官方自报中位延迟 39 毫秒，还做了 Jev System One API 兼容。

上图：决策模型的统一工作流，一次前向传播就从固定选项里出答案。

这五家共同改写了一件事：计费方式。过去两年 token 计费默认输入输出都收钱，决策模型第一次把「输出免费」变成一整条产品线的默认设定。定价的锚点，从「生成了多少字」挪到了「做对了几次判断」。

五家底座，三个指向 Qwen

把五个玩家摊开，底座那一栏有三个指向阿里 Qwen 系：微软 Decision-1 在 Qwen3.5-9B 上后训练，Cloudflare Clef 用 Qwen3.8 打底，Liquid AI 的 d1 走自家 LFM 路线但品类里最现成的原料还是中国开源权重。The Register 和 TheNewStack 都在报道里点名：微软暂时用 Qwen，之后才换自家 MAI。中国开源权重，正在变成决策模型这条新赛道的默认原料。

模型	底座/规模	自报延迟	输入价（每百万 token）	权重是否开放
TypeSafe Jev	自有	~524 ms	$0.042	否
微软 Decision-1	Qwen3.5-9B	85 ms	$0.042	否
OpenAI Decisions API	GPT-6 Luna	快 10×	$0.10	否
Liquid AI d1-3B	LFM2.5-VL-3B	8 ms	按输入计	是
Cloudflare Clef-flash	Qwen3.8-9B	39 ms	$0.09	是

中国玩家也没当旁观者。10 月 22 到 23 日，国内团队 StartLux（原点星辉）开源了决策模型专用推理引擎 Prism，把输出层计算量压缩到原来的约 0.01%，短问题提速 2.8 倍，配套模型 StartLux-Decision-v1.1 以 69.1 分登顶 HF Decision Index 榜首。这是国内团队第一次在「决策推理」这个细分引擎上做出有独立分数的产品。

上图：2026 年 10 月，决策模型与推理引擎的发布在一个月内密集交叠。

DeepSeek 把「印钞机」开源了

决策模型把判断变便宜，推理引擎把生成变快。10 月 20 日，DeepSeek 把线上服务同款的推理框架 DeepInfer 用 Apache 2.0 开源，配套的 token 编解码库 deepseek-recipe 走 MIT。

官方自报那组数字很有分量：单集群日处理约 155 万亿 token，96% 的前缀缓存命中率，单 GPU 解码超 25,000 token/秒，首字延迟约 400 毫秒，折算每 GPU/小时约 38 美元收入产出。这些是厂商口径、暂无独立复现，但方向清楚，它是把 V4.1-Flash 这种 552B 稀疏模型跑出规模效应的一套东西。

拆开看，DeepInfer 的底座是 vLLM，借鉴了 SGLang 和 TensorRT-LLM 的设计，把此前陆续开源的自研算子 FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect 拼了进来。硬件上同时支持英伟达 SM100 和华为昇腾 950，这是国产算力第一次和英伟达平起平坐地出现在一个前沿推理框架的官方支持列表里。

它也有明确边界：仓库目前只支持 DeepSeek-V4.1-Flash 一个模型的离线批量推理，KV 缓存管理、prefill/decode 分离编排、跨副本负载均衡都没开源。DeepSeek 交出来的是执行引擎，没交完整在线服务，而执行引擎恰好决定了一家推理服务商的成本结构。开源三周，DeepInfer 在 GitHub 拿下约 25,700 颗星。

上图：DeepInfer 的技术血统，vLLM 打底、双硬件支持、自研算子拼成执行引擎。

推理侧另一个引擎动作来自 Inception Labs。10 月 19 日它发布扩散语言模型 Mercury 3，官方自报生成速度 1,068 token/秒，上下文拉到 100 万 token，规模比 Mercury 1 大 40 倍以上，价格 $0.20/$0.70（首发半价）。扩散模型并行补全、不逐字生成的路线，是把推理速度再抬一个量级的候选方案。它还配了一个决策模型 Mercury Decide，官方自报在 JevBench 上超过 Jev。Mercury 3 至今没有独立第三方基准，SWE-Bench Atlas 51.1 分的对标是厂商口径。

上图：Inception Labs 官方博客《Diffusion at Scale: Introducing Mercury 3》原图，2026-10-19，来源：inceptionlabs.ai。

输出免费，比想象中更重

把这几件事叠起来，推理层正在从「模型的一部分」裂成一个独立产品层，分两条腿走：决策模型吃下路由、护栏、分类、客服质检这类高频小判断，推理引擎吃下生成本身的成本与延迟。两条腿的共性是同一句：输出越便宜，判断和生成就越敢往热路径里塞。

我判断，权重层的开源竞争会反过来加速推理层的军备竞赛。权重越开放，差异化越要靠「谁能把它跑得更便宜」。DeepSeek 开源 DeepInfer，等于把「我凭什么便宜」的答案连权重带引擎一起交出来，逼对手在同一个坐标系里应战。

至于「输出免费」，我预判它比大多数人意识到的更重。当决策模型的计费锚点从「生成多少字」挪到「做对几次判断」，token 经济学第一次在模型层出现按结果计费的雏形。这未必是终点，但它打开了下一扇门：判断能按次计价，行动呢？

国产算力踩着推理引擎往上够

推理层这轮变化落地快，是因为它直接对应算力和分发。

最扎眼的信号是 DeepInfer 的双硬件支持。前沿推理框架的官方支持列表里，英伟达 Blackwell 和华为昇腾 950 并列出现，国产算力第一次拿到「把前沿稀疏模型跑起来」的官方可复现参照。寒武纪此前也披露已完成 GLM、DeepSeek、Qwen、Kimi、MiniMax 五大国产模型的推理适配。

企业侧选型已经分化。据七牛云等中文技术社区的实测：DeepSeek 全系优先 SGLang（MLA 优化更深、KV 占用降约 40%、多轮对话快 6.4 倍），GLM-5 优先 vLLM，要昇腾支持就选 DeepInfer。火山引擎 veMLP 平台同时用 SGLang 和 vLLM 调优全尺寸 DeepSeek，d.run 智算中心把 vLLM、SGLang、Dynamo 一起纳管、资源利用率做到 80% 以上。推理引擎的选型逻辑已经变了，按模型、按卡、按场景去配。

学界也在加厚这个方向。DFlash（arXiv:2605.02888）提出块扩散推测解码，官方自报无损加速超过 6 倍，已经进入 vLLM、SGLang、llama.cpp 的栈；扩散推测解码、扩散 LLM 的 KV 缓存与并行解码，成了 2026 年下半年 arXiv 的一个活跃小方向。中文媒体端，极客公园、澎湃、至顶网都把 DeepInfer 的开源生产栈和决策模型的热度当成了独立选题。

上图：推理层从模型属性裂成独立中间层，权重、引擎、决策模型、应用四层各自长出玩家。

参考来源

1. OpenAI Decisions API 官方文档（2026-10-22，一手）
2. Microsoft Foundry 模型目录《Microsoft-Decision-1》（2026-10-09，一手）
3. Liquid AI 官方博客《Open d1》（2026-10-07，一手）
4. Inception Labs 官方博客《Diffusion at Scale: Introducing Mercury 3》（2026-10-19，一手）
5. InfoQ《Cloudflare Open Sources Decision Models for AI Agents》
6. DeepSeek DeepInfer GitHub 仓库（Apache 2.0，一手）
7. DeepSeek-V4.1-Flash 技术报告《Pushing the Limits of KV Cache Compression》（一手）
8. The Register《Microsoft leans on open weight model from Chinese AI lab》
9. 极客公园《面对决策模型，通用推理引擎的短板》 / 澎湃新闻《DeepSeek 开源 DeepInfer 推理框架》
10. 投中网《StartLux 开源决策模型推理引擎 Prism》 / 七牛云《vLLM vs SGLang vs DeepInfer 选型》

每日更新。 30+ 个交叉验证来源。