AI的"能力"和"理解"是两件事——越强大越危险

AI可以在不理解任何事情的前提下，展现出令人惊叹的能力。这与人类的经验完全相反——我们习惯了"能力强=理解深"。但AI证明了优化能力和理解能力可以完全脱钩。这意味着：你不能通过观察AI的表现来推断它是否"真的知道"自己在做什么。一个表现完美的AI，可能在下一个从未见过的场景中彻底崩溃。