控制问题的本质是价值问题：我们管不住AI，因为我们管不住自己

控制问题的终极困难不是技术性的——不是「如何建造更好的笼子」——而是哲学性的：我们无法精确形式化「人类价值」，因为人类价值本身就是矛盾的、情境依赖的、不断演化的。让AI对齐人类价值的前提是：我们自己知道人类价值是什么。但这个问题哲学家争论了几千年都没有共识。