认知颠覆 · COGNITIVE OVERTURN

事后可解释技术是近似解释而非真实机制

LIME、SHAP等事后解释技术提供的不是模型真实决策机制,而是对模型行为的近似描述。这种"解释"本身可能不稳定、不可靠。把事后解释当成真实理解是一种危险的混淆。
来源

《暗知识》对可解释AI的讨论

可迁移到

评估AI可解释性方案时,区分"解释了模型行为"和"理解了模型机制"——前者可用于行为监控,后者才能用于机制调试。

来自这本书的解读报告

《暗知识:机器认知如何颠覆常识和社会》

王维嘉 · 认知科学 / 人工智能哲学

这本书回答了机器知识能否称为知识的问题,答案是暗知识作为第三类知识真实存在但有严格边界。

暗知识·机器学习·认知科学·可解释性·AI伦理
阅读完整解读报告 →
PRESS YOUR OWN BOOK

找一本想读的书,解读出你自己的洞察

90 秒得到核心模型 · 行动接口 · 失效边界 · 三套 SOP

解读一本书 →