认知颠覆 · COGNITIVE OVERTURN
事后可解释技术是近似解释而非真实机制
LIME、SHAP等事后解释技术提供的不是模型真实决策机制,而是对模型行为的近似描述。这种"解释"本身可能不稳定、不可靠。把事后解释当成真实理解是一种危险的混淆。
来自这本书的解读报告
《暗知识:机器认知如何颠覆常识和社会》
这本书回答了机器知识能否称为知识的问题,答案是暗知识作为第三类知识真实存在但有严格边界。
阅读完整解读报告 →
LIME、SHAP等事后解释技术提供的不是模型真实决策机制,而是对模型行为的近似描述。这种"解释"本身可能不稳定、不可靠。把事后解释当成真实理解是一种危险的混淆。
这本书回答了机器知识能否称为知识的问题,答案是暗知识作为第三类知识真实存在但有严格边界。