研究揭示可解释AI忠实度指标缺陷并提出改进方向

2026年10月12日，研究人员在arXiv发表关于可解释AI（XAI）特征重要性忠实度指标的论文。研究指出，现有XAI工具常过度简化模型内部运作，导致解释与模型失准的不忠实问题，且现有忠实度评估指标存在计算不可行或开销过大等局限。研究还指出，XAI近十年来未能有效提升模型信任度，反而更多沦为调试工具，易引发对错误预测的过度依赖。该论文系统总结了当前忠实度指标的5个主要缺陷，并提出了4个用于提升其可靠性的研究方向。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。