真正的危险不是AI变坏，而是目标定义错误

大多数AI安全讨论聚焦于"防止AI变邪恶"，但Tegmark指出真正的风险是AI非常忠实地执行了一个错误的目标。就像回形针最大化器的思想实验——AI不是"变坏了"，而是精确地执行了"最大化回形针数量"这个目标，把整个地球的资源都变成了回形针。问题不在AI的品格，而在我们给它的"使命说明书"。