ATRIUMsearch → argument graph
FactAudio · 105:47 — 107:17

第一个实现某个成果所需的算力,永远远远大于后来复现它所需的算力,因为后来者可以依赖蒸馏之类的技巧,以及原始团队所没有的种种“拐杖”。

Eric Jang 指出,他只用了大约一万美元租用算力,就重建出了一个很强的围棋机器人——相比之下 AlphaGo Zero 用了大约 3E23 FLOPS——因为第一个解决某个问题本质上要比在别人已经解决之后再去追赶昂贵得多。 ✦ AI 生成 · 平台预翻

Eric Jang · Dwarkesh Podcast · 2026-05-15 · English original →

第一个做成某件事所需要的算力,永远比追上别人所需要的算力大得多。这个故事同样正在 LLM 领域上演。一旦别人已经做成了,你就可以用蒸馏之类的技巧。你可以用各种“拐杖”来帮自己一路走向成功。
The compute required to be the first to do something is always much larger than the compute it takes to catch up. It’s the same story playing out in LLMs. Once someone else has done it, you can use tricks like distillation. You can use all sorts of crutches to bootstrap your way to success.

回到原声 ↗逐字转录 · 起于 105:47 · 中文为平台译文