AI 可解释性中的“死三文鱼”假象

针对特征归因、探测、稀疏自编码器等 AI 可解释性方法在随机初始化网络中频繁产生虚假解释的“死三文鱼”现象，研究者提出了一种统计-因果重构框架。该框架将计算系统的解释视为统计模型参数，并把解释方法定义为统计估计量，主张通过明确的替代计算假设与不确定性量化来检验解释结果。这一视角旨在解决可解释性查询的可识别性问题，抑制错误发现并提升研究严谨性。