arXiv 人工智能· Wenxuan Luo, Chenxi Li, Haoyue Liu, Yongxin Guo, Xiaoying Tang·· 10 小时前AI 评分35
用于大语言模型同策略蒸馏的条件对比外推方法
Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models
AI 导读
研究人员提出用于大语言模型同策略蒸馏(OPD)的条件对比外推方法(CCE-OPD),使教师监督对问题的前提条件更加敏感,以解决教师模型偏好违背题设的无效延续问题。
来源:arXiv 人工智能 · arxiv.org