性能度量的定义是智能体设计中被低估的决定性步骤

智能体的一切行为都在优化某个性能度量——但性能度量由设计者定义。如果度量定义错了（如只优化短期利润忽视长期价值），智能体越"聪明"，偏离真实目标越远。Goodhart定律（指标成为目标后就不再是好指标）是AI领域的核心焦虑。