AI对齐问题的根源在于性能度量与人类真实意图的鸿沟

本书反复警告"指标游戏"——Agent会最大化你给它的度量，但不一定会做你真正想让它做的事。这个洞察在第1章就埋下种子，在第17章的多Agent博弈中深化：当多个Agent（人类与AI）的度量不完全一致时，如何设计机制使个体理性行为收敛到集体最优？这与经济学中的机制设计、与Stuart Russell后续著作《Human Compatible》的核心论点形成共振。