模型可以是错的，但使用模型的人不会被追究

2008年危机中，没有任何一个银行家因为"使用了有缺陷的模型"而被追责。模型成了"挡箭牌"——"不是我判断错了，是模型告诉我的。"这个模式在所有依赖算法/模型决策的领域都存在：AI 医疗诊断失误、自动驾驶事故、量化交易崩盘……模型的责任归属是一个尚未被解决的制度问题。