可迁移模型 · TRANSFERABLE MODEL
我们不能在暴风雨之后才修屋顶
安全研究必须在危险实现之前完成,而非之后。这个原则看似常识,但在AI领域被系统性地忽视——大量资源投入"让AI更聪明",极少资源投入"让AI更安全"。根本原因是安全研究的成果不可见(灾难没有发生时没人感谢安全研究),而能力研究的成果极度可见(产品发布即有回报)。
来自这本书的解读报告
《生命3.0:人工智能时代的人类生存》
这本书回答了超级智能出现后人类如何生存的问题,答案是:现在就对齐AI目标。
阅读完整解读报告 →