认知颠覆 · COGNITIVE OVERTURN
标准模型的根本缺陷:目标不完备性
AI风险不是"AI变坏了",而是"人类定义的目标与真实意图永远有差距"——这个差距在AI能力增强时会被放大到不可逆。解决方法不是"定义更精确的目标",而是"让AI对目标保持不确定性"。
来自这本书的解读报告
《人类兼容:人工智能与我们如何设计未来》
这本书回答了如何防止超级智能AI失控,答案是放弃让AI优化既定目标,转而构建理解人类不确定偏好的辅助型AI
阅读完整解读报告 →