认知颠覆 · COGNITIVE OVERTURN
价值对齐的本质是政治问题而非技术问题
技术社区习惯把"价值对齐"当作技术问题来讨论——如何形式化价值、如何设计目标函数。但实际上,"谁的价值优先"本质上是政治问题,没有技术解。任何声称"技术上解决了对齐"的方案,实际上是在技术方案中嵌入了某种政治选择。
来自这本书的解读报告
《人工智能的伦理》
阅读完整解读报告 →
技术社区习惯把"价值对齐"当作技术问题来讨论——如何形式化价值、如何设计目标函数。但实际上,"谁的价值优先"本质上是政治问题,没有技术解。任何声称"技术上解决了对齐"的方案,实际上是在技术方案中嵌入了某种政治选择。