可迁移模型 · TRANSFERABLE MODEL
价值对齐是一个学习过程,而非安装过程
将人类价值观“对齐”到AI上,不是像安装软件一样,一次性地写入几条规则(如“不许伤害人类”)。而是一个**持续的、交互的、基于因果理解的学习过程**。AI需要在与人类及环境的持续互动中,不断观察行为、理解意图、推断背后的价值原则,并动态调整自身行为。这是一个社会化和情境化的过程。
来自这本书的解读报告
《重启AI:如何让人工智能变得明智》
这本书回答了当前AI为何“聪明”却不“明智”的问题,答案是需要从模式匹配跃迁到因果与常识推理。
阅读完整解读报告 →