认知颠覆 · COGNITIVE OVERTURN

价值对齐的本质是政治问题而非技术问题

技术社区习惯把"价值对齐"当作技术问题来讨论——如何形式化价值、如何设计目标函数。但实际上,"谁的价值优先"本质上是政治问题,没有技术解。任何声称"技术上解决了对齐"的方案,实际上是在技术方案中嵌入了某种政治选择。
来源

价值对齐困境模型

可迁移到

产品设计中的目标设定——当你决定优化什么指标时,你实际上在做政治决定(谁的利益优先),即使你没有意识到。

来自这本书的解读报告

《人工智能的伦理》

阅读完整解读报告 →
PRESS YOUR OWN BOOK

找一本想读的书,解读出你自己的洞察

90 秒得到核心模型 · 行动接口 · 失效边界 · 三套 SOP

解读一本书 →