arXiv 自然语言处理· Noor Islam S. Mohammad, Md. Basim Al Zabir Shammo, Hasan Siddiki, Mahmudul Hasan, Md. Faisal Sheikh, Jakaria Habib·· 7 小时前AI 评分36
SIFT：分布偏移下 CoT 推理的鲁棒元忠实度验证
SIFT: Robust Meta-Faithfulness Verification of Chain-of-Thought Reasoning Under Distribution Shift
AI 导读
研究团队提出 SIFT 隐藏状态轨迹探测器与 FaithShift 压力测试协议，用于在分布偏移下评估 CoT 忠实度探测器自身的元忠实度。跨 8 个模型与 14,996 条推理轨迹的实验显示，超 80% 的探测器不稳定性源于采样随机性，现有探测器性能下滑均达 0.15 AUROC 以上。SIFT 将不变性违背降低了 64%，表明探测器方差是元忠实度审计的核心瓶颈。
来源：arXiv 自然语言处理 · arxiv.org