随着 AI 系统变得更聪明、承担起越来越多的研究工作，甚至可能经历递归式自我改进（recursive self-improvement），我们需要远比现在更好的对齐技术；而像 Sequent 这样的独立机构之所以有价值，正是因为一旦前沿实验室做出危险举动，它们能够拉响警报。

Import AI 的作者认为，随着 AI 承担起越来越多的自主研究和自我改进工作，更强大、由独立机构开发的对齐技术至关重要，而具有监督性质的组织有助于在前沿实验室出问题时发出警报。 ✦ AI 生成 · 平台预翻

Jack Clark · Import AI · 2026-06-15 · English original →

要对 RSI（递归式自我改进）之类的事情有信心，我们确实需要更好的对齐技术。像 Sequent 这样的组织能让我们更有机会做到这一点，同时保持必要的独立性——一旦他们认为前沿实验室在做危险的事情，就可以拉响警报。

We definitely need better alignment techniques to be confident of things like RSI. Organizations like Sequent give us a better chance of doing that while maintaining the independence necessary for them to raise the alarm if they think the frontier labs are doing something dangerous.

阅读原文 ↗合理引用摘录 · 中文为平台译文