跳到正文
原文
arXiv 机器学习· Shawn Im, James Oldfield, Adel Bibi, Sharon Li·· 8 小时前AI 评分41

通过行为反事实解释大模型推理机制

Interpreting Model Reasoning through Behavioral Counterfactuals

AI 导读

研究人员提出一种通过行为反事实分析与定位干预对模型推理过程影响的新方法,在固定响应下通过编辑残差流最小化输出分布的 KL 散度。该方法相比传统激活重建能更有效恢复反事实行为,并通过归因图识别关键因果位置。

来源:arXiv 机器学习 · arxiv.org