跳到正文
原文
arXiv 人工智能· Wenxuan Luo, Chenxi Li, Haoyue Liu, Yongxin Guo, Xiaoying Tang·· 10 小时前AI 评分35

用于大语言模型同策略蒸馏的条件对比外推方法

Condition-Contrastive Extrapolation for On-Policy Distillation of Language Models

AI 导读

研究人员提出用于大语言模型同策略蒸馏(OPD)的条件对比外推方法(CCE-OPD),使教师监督对问题的前提条件更加敏感,以解决教师模型偏好违背题设的无效延续问题。

来源:arXiv 人工智能 · arxiv.org