可迁移模型 · TRANSFERABLE MODEL
三阶段框架改变了"什么时候行动"的判断
对于不可逆决策,大部分可操作窗口在"事后"之前就关闭了。这意味着要提前研究和准备,而不是等到问题出现再应对。紧迫性不是线性的——可能突然从"还有很多时间"变成"已经来不及"
来自这本书的解读报告
《超级智能:路线图、危险性与对策》
这本书回答了如何防止超级智能毁灭人类的问题,答案是现在就得研究控制问题
阅读完整解读报告 →
对于不可逆决策,大部分可操作窗口在"事后"之前就关闭了。这意味着要提前研究和准备,而不是等到问题出现再应对。紧迫性不是线性的——可能突然从"还有很多时间"变成"已经来不及"
这本书回答了如何防止超级智能毁灭人类的问题,答案是现在就得研究控制问题