arXiv 人工智能· Marco Zullich, Emily Schiller, Ivan Gentile, David Dembinsky, Adriano Lucieri, Kilian G\"oller, Steffen Seitz·· 5 小时前AI 评分29
可解释 AI 特征重要性忠实度指标的结构性失准分析
Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance
AI 导读
现有可解释 AI（XAI）工具常过度简化模型内部运作，导致解释与模型失准的不忠实问题，且现有忠实度评估指标存在计算不可行或开销过大等局限。研究指出 XAI 近十年来未能有效提升模型信任度，反而更多沦为调试工具，易引发对错误预测的过度依赖。该论文总结了当前忠实度指标的 5 个主要缺陷，并提出 4 个提升其可靠性的研究方向。
来源：arXiv 人工智能 · arxiv.org