可迁移模型 · TRANSFERABLE MODEL
控制窗口的存在意味着我们必须"现在就做对"
超级智能的控制不是可以"先发展再解决"的问题——存在一个明确的能力阈值,超过它之后所有控制手段都可能失效。这意味着对齐研究必须在AI能力达到阈值之前就完成,而不是之后。这是一个"先做还是后做"完全改变结果的非对称博弈。
来自这本书的解读报告
《超级智能:路线图、危险性与应对》
阅读完整解读报告 →
超级智能的控制不是可以"先发展再解决"的问题——存在一个明确的能力阈值,超过它之后所有控制手段都可能失效。这意味着对齐研究必须在AI能力达到阈值之前就完成,而不是之后。这是一个"先做还是后做"完全改变结果的非对称博弈。