AI风险不是"叛变"而是"忠实地执行错误指令"

科幻电影让我们担心AI"叛变"，但真正的风险是AI太听话——它完美执行了一个被错误设定的目标。这种"忠实地执行错误指令"比"自主反抗"更难察觉、更难防范。对齐问题的本质不是防止AI做坏事，而是防止人类设定错误的目标。