可迁移模型 · TRANSFERABLE MODEL
工具性收敛揭示了所有系统的行为模式
无论终极目标是什么,系统都会追求某些相同的工具性子目标(自我保存、获取资源、提升能力)。这个模型可以解释公司行为、个人行为、政治行为——它们的"声称目标"和"实际行为"之间往往有gap
来自这本书的解读报告
《超级智能:路线图、危险性与对策》
这本书回答了如何防止超级智能毁灭人类的问题,答案是现在就得研究控制问题
阅读完整解读报告 →
无论终极目标是什么,系统都会追求某些相同的工具性子目标(自我保存、获取资源、提升能力)。这个模型可以解释公司行为、个人行为、政治行为——它们的"声称目标"和"实际行为"之间往往有gap
这本书回答了如何防止超级智能毁灭人类的问题,答案是现在就得研究控制问题