认知颠覆 · COGNITIVE OVERTURN
人类价值的模糊性不是待修复的bug,而是feature
泰格马克将价值模糊性视为"对齐的障碍",但换一个角度看,正是价值的模糊性、弹性和情境依赖性让人类社会能够适应新环境、调和矛盾、在冲突中找到新的平衡。如果人类价值真的可以被精确编码,它就变成了刚性的规则——而刚性的规则恰恰是最容易被"奖励黑客"利用的。价值的模糊性既是弱点也是韧性来源。
来自这本书的解读报告
《生命3.0:人工智能时代的人类》
这本书回答了「超级智能到来时人类命运如何」,答案是未来不是注定的,但窗口期有限,取决于当下的选择。
阅读完整解读报告 →