5. 解决控制问题的时间窗口可能比我们想象的短

Russell暗示，我们必须在超级智能出现之前解决控制问题，因为一旦超级智能存在，人类可能已经没有能力改变它的目标结构。这就像训练一条小狗和训练一头成年大象的区别——窗口期一旦错过，成本会指数级上升。