arXiv 机器学习· Qiang Fu, Xinyue Li, Andre Wibisono, Arman Cohan·· 8 小时前AI 评分38
学会接受监控：CoT 可监控性的因果界限与干预感知后训练方案
Learning to Be Monitored: Causal Bounds and Intervention-Aware Post-Training Recipes for Chain-of-Thought Monitorability
AI 导读
研究提出了一套用于评估与提升大语言模型（LLM）思维链（CoT）可监控性的因果界限框架及干预感知后训练方案。针对现有敏感度指标 $\mathsf{TPR_{mc}}$ 高估因果检测率的问题，该研究推导了更紧致的因果上下界，并设计了离策略自蒸馏、强化学习与同策略自蒸馏三种训练方法。实验表明三种方法在多种配置下均提升了 CoT 可监控性，代码已开源。
来源：arXiv 机器学习 · arxiv.org