跨书共振 · CROSS-BOOK RESONANCE
激励设计 vs 能力控制:两种截然不同的管理范式
波斯特罗姆区分了两种控制超级智能的方式:"能力控制"(限制它能做什么)和"动机选择"(让它想要做对的事)。前者在超级智能面前会失效(因为它太聪明,总能找到绕过限制的方法),后者才是真正的解决方案。这个区分可以迁移到所有"控制"场景:管理员工(规则 vs 文化)、教育孩子(惩罚 vs 激励)、治理社会(法律 vs 价值观)。核心洞察:当被控制对象的能力增长时,"控制"必须从"外在约束"转向"内在激励"。
来自这本书的解读报告
《超级智能:路线图、危险性与应对策略》
这本书回答了超级智能出现时人类如何存续的问题,答案是提前解决价值对齐的控制问题
阅读完整解读报告 →