军备竞赛是通往灾难的最可能路径

在AI安全中，最危险的不是某个邪恶的组织释放了超级AI，而是多方竞争导致的安全底线不断降低——每一方都在想"如果我不抢先，别人就会抢先"，于是所有人都跳过了安全检查。这种"囚徒困境"式动态是灾难的最可能触发器，而非某个反派的恶意。