可迁移模型 · TRANSFERABLE MODEL
控制窗口会关闭——安全工作必须在"它还不太聪明"时完成
波斯特罗姆最核心的紧迫性论证是"控制窗口"概念——在 AI 还不够强大时,我们有充裕的手段来控制它;一旦它跨过某个能力阈值,所有控制手段都可能被绕过。因此安全研究的最佳投入时机不是"等它变强了再研究",而是"趁它还弱的时候就解决"。这个逻辑适用于任何颠覆性变革——制度建设必须在变革完成之前,而非之后。
来自这本书的解读报告
《超级智能:路径、危险与对策》
这本书回答了超级智能可能毁灭人类的控制问题,答案是人类几乎没有简单的解法。
阅读完整解读报告 →