控制悖论：你需要在最不需要控制的时候建立控制

最有价值的控制措施是在系统还很弱小、看起来完全无害的时候建立的。一旦系统足够强大到让你「觉得需要控制」，你可能已经没有能力实施控制了。这就像防洪堤必须在洪水来之前建好——洪水来了再建就来不及了。AI安全研究的最大挑战是：在威胁尚未显现时说服世界投入资源。