人类偏好是AI的真正目标，而非AI的真正知识

AI应该追求人类偏好，但不等于AI"知道"人类偏好是什么——这个区分是关键。AI需要通过行动-反馈循环来学习，而不是执行一个被假定为已知的"人类价值函数"。这与经济学中的"显示偏好"理论形成呼应。