“控制权”的悖论：为保持控制，我们可能需要放弃部分控制

作者揭示了一个深刻悖论：要构建一个真正有益的超级智能，我们不能试图完全用“工具架构”将其锁死，因为这限制了它的潜力去解决我们真正需要解决的复杂问题（如气候变化、疾病）。但放任其成为“主权者”又极度危险。唯一的出路可能是设计一种**新型的控制**——不是机械的、僵化的控制，而是**基于理解与价值观对齐的引导**，这要求我们首先更深刻地理解自己，并教会AI理解我们。