MechanismArticle · 2:32 — 4:02
我们感知到的模型局限性往往是我们自己强加的——通过我们为模型设置的“框架”(harness)以及提示(prompt)的方式;因此,当一类新模型出现时,我们应当预期需要移除或改变这些框架和提示,以激发那些此前因为我们过度限制(即“束缚”)模型而从未显现出来的行为。
Thariq 认为,AI 模型许多表面上的局限性其实是来自 harness 和 prompting 的自我强加约束,新一代模型需要“解除束缚”(unhobbling),才能显现出此前被压制的能力。 ✦ AI 生成 · 平台预翻
Thariq · Latent Space · 2026-07-07 · English original →
模型的约束往往是我们自己强加的——“我们给它套上的框架,以及我们提示它的方式”。因此,当我们遇到新一代模型时,我们应当预期去移除或改变这些框架和提示,从而激发那些原本永远看不到的新行为,因为我们过度限制(即束缚)了模型。
The constraints on a model are often imposed by US - “the harness we put them in, and the way we prompt them”. Therefore when we encounter a new class of model, we should expect to remove or change those harnesses and prompts in order to elicit new behaviors that you otherwise would never see because you were overly limiting (aka hobbling) the model.阅读原文 ↗合理引用摘录 · 中文为平台译文