可迁移模型 · TRANSFERABLE MODEL

控制窗口的存在意味着我们必须"现在就做对"

超级智能的控制不是可以"先发展再解决"的问题——存在一个明确的能力阈值,超过它之后所有控制手段都可能失效。这意味着对齐研究必须在AI能力达到阈值之前就完成,而不是之后。这是一个"先做还是后做"完全改变结果的非对称博弈。
来源

《超级智能》控制问题

可迁移到

任何"先污染后治理"的思路都面临类似问题——环境破坏、制度腐败、习惯养成都有"不可逆点"。

来自这本书的解读报告

《超级智能:路线图、危险性与应对》

阅读完整解读报告 →
PRESS YOUR OWN BOOK

找一本想读的书,解读出你自己的洞察

90 秒得到核心模型 · 行动接口 · 失效边界 · 三套 SOP

解读一本书 →