可迁移模型 · TRANSFERABLE MODEL
安全投入在竞争中会被挤出——囚徒困境使所有人都不安全
即使所有人都理性地认识到安全很重要,竞争压力会系统性地把安全投入挤压到最低水平——因为"对手不会停下来等你"。这不是某个参与者的问题,而是结构问题。只有打破囚徒困境的协调机制(如国际条约、行业标准、共同安全承诺)才能从根本上解决。这解释了为什么"每个人都知道该做什么但没人做"的现象反复出现。
来自这本书的解读报告
《超级智能:路径、危险与对策》
这本书回答了超级智能可能毁灭人类的控制问题,答案是人类几乎没有简单的解法。
阅读完整解读报告 →