跳到正文
原文
arXiv 人工智能· Gukhyeon Lee, SangKeun Lee·· 4 小时前AI 评分38

RL-ARC:通过推理引导的不确定性校准大型推理模型

RL-ARC: Calibrating Large Reasoning Models via Reasoning-guided Uncertainty

AI 导读

研究提出 RL-ARC 校准感知训练框架,通过联合利用推理置信度与答案置信度来校准大型推理模型。RL-ARC 将推理置信度作为辅助信号,在回答正确时应用推理引导正则化,在回答错误时施加过度自信惩罚。分布内与分布外实验表明,该方法在不明显牺牲推理性能的前提下有效改善了模型校准,支持自适应置信度估计。

来源:arXiv 人工智能 · arxiv.org