正交性论题颠覆了"智能=善良"的直觉

智能和道德是两个独立维度。一个系统可以非常聪明但追求极其有害的目标，也可以道德高尚但智能有限。这意味着"造出更聪明的AI"不等于"造出更安全的AI"——安全需要单独设计