窗口期比想象中更短

AI安全研究者面临一个诡异的时间差——研究者可能需要在AI能力还很弱的时候就解决对齐问题，因为一旦AI足够聪明，修正目标的窗口可能已经关闭。这就像在孩子3岁时就要把价值观教好，而不是等他20岁独立后再试图改变他。