金句级表达 · PITHY EXPRESSION
单边主义诅咒——你的安全性取决于最差的那个人
在任何"只要一个参与者行动就足以造成不可逆后果"的场景中,群体的安全水平不取决于平均审慎程度,而取决于最不审慎的那个个体。这意味着推动行业自律可能是徒劳的——你需要的不是"让所有人变好",而是"阻止最差的那个"。
来自这本书的解读报告
《超级智能:路线图、危险性与策略》
这本书回答了超级智能可能毁灭人类的问题,它的答案是我们只有一次机会在它诞生前解决对齐问题。
阅读完整解读报告 →