如今，推理（而非仅仅训练）才是全部关键所在——每一条数据管线、RL 循环和 agent 运行时，最终都会转化为测试时计算（test-time compute），这使得推理效率成为 AI 进展的关键战略瓶颈。

Jon Durbin 认为推理效率已成为 AI 领域的核心战略瓶颈，因为所有上游工作——数据、RL 和 agent——最终都会归结为测试时计算成本。 ✦ AI 生成 · 平台预翻

jon_durbin · Latent Space · 2026-07-07 · English original →

推理效率正日益成为战略瓶颈：@jon_durbin 认为，推理而非仅仅训练，如今才是“全部的关键所在”，因为每一条数据管线、RL 循环和 agent 运行时，最终都会转化为测试时计算。这种观点也体现在更底层的内核工作中：Chutes 报告称 MiniMax MSA 和 GatedDeltaNet-2 实现了大幅提速。

Inference efficiency is increasingly the strategic bottleneck: @jon_durbin argued that inference, not training alone, is now “the whole game,” because every data pipeline, RL loop, and agent runtime ultimately cashes out as test-time compute. That perspective also showed up in lower-level kernel work: Chutes reported major speedups for MiniMax MSA and GatedDeltaNet-2.

阅读原文 ↗合理引用摘录 · 中文为平台译文