当 Transformer 系推理撞上硬件延迟天花板,前 Stanford 教授、扩散模型先驱 Stefano Ermon 选择了一条反方向的路:把扩散架构从图像生成迁移到 LLM 推理本身。他联合创立的 Inception,正在把这个在学界验证多年的方向变成产品。
核心逻辑:扩散推理天然支持并行解码,不像自回归模型必须逐 token 串行生成,理论上可以在同等算力下显著压缩延迟。这对实时 Agent 场景意义重大——当前 Coding Agent、对话 Agent 的体验瓶颈相当程度上来自推理延迟而非模型能力。
No Priors 播客(9 月 18 日)中 Ermon 直言,扩散不只是一种生成范式,而是一种更接近并行思考的计算结构。这与 Anthropic 近期在 Claude 系列上探索的 extended thinking 思路形成有趣的对照——一个在架构层做文章,一个在训练策略上下功夫。
风险在于:扩散推理的质量稳定性和对齐可控性目前仍未经大规模生产验证,且与现有 RLHF/RLAIF 训练范式的兼容性存在未知。Inception 的进展值得持续追踪,尤其在延迟敏感的 Agent 部署场景。
规律洞察:推理架构正在成为大模型差异化的新战场——能力趋同之后,延迟与成本的博弈决定下一轮格局。扩散推理、extended thinking、MoE 稀疏激活三条路线并行,但生产级验证的时间窗口正在收窄。