金句级表达 · PITHY EXPRESSION

单边主义诅咒——你的安全性取决于最差的那个人

在任何"只要一个参与者行动就足以造成不可逆后果"的场景中,群体的安全水平不取决于平均审慎程度,而取决于最不审慎的那个个体。这意味着推动行业自律可能是徒劳的——你需要的不是"让所有人变好",而是"阻止最差的那个"。
来源

《超级智能》战略图景章节

可迁移到

网络安全、公共卫生、供应链安全——任何涉及多方参与且后果不可逆的场景。

来自这本书的解读报告

《超级智能:路线图、危险性与策略》

尼克·博斯特罗姆(Nick Bostrom) · AI安全 / 存在风险 / 技术哲学

这本书回答了超级智能可能毁灭人类的问题,它的答案是我们只有一次机会在它诞生前解决对齐问题。

AI安全·存在风险·对齐问题·控制问题·递归自我改进
阅读完整解读报告 →
PRESS YOUR OWN BOOK

找一本想读的书,解读出你自己的洞察

90 秒得到核心模型 · 行动接口 · 失效边界 · 三套 SOP

解读一本书 →