跳到正文
原文
arXiv 人工智能· Anagha Aneesh, Sebastian Ibarraran, Frank Hu, Jason Liu, Grant Rotskoff·· 5 小时前AI 评分34

蒸馏、自我训练与习得化学推理的脆弱性:Resonance 模型研究

Distillation, Self-Training, and the Fragility of Learned Chemical Reasoning

AI 导读

研究人员提出 Resonance 模型,通过蒸馏开源教师模型的推理轨迹并结合自身验证输出进行自我训练,将正向反应预测准确率接近零的小型基础模型转变为合格的反应预测器,更强的学生模型仅凭蒸馏便超越了教师。但高准确率并未带来鲁棒推理:小型学生模型继承了单遍推理风格,并在受到质疑时容易放弃正确答案,表明化学推理模型评估须兼顾推理鲁棒性与答案准确率。

来源:arXiv 人工智能 · arxiv.org