注意力不等于理解

我们直觉上认为"模型关注哪里，就在思考哪里"，但研究证据表明注意力权重与模型的实际推理路径并不总是一致。模型可能在注意力热力图上"看起来"关注了正确的地方，但实际上在利用其他统计捷径做决策。这个洞察提醒我们：可视化≠可解释，看到≠理解。