arXiv 机器学习· Frank F. Yang, Kefei Yan, Yiren Wang, Yiyang Wang·· 5 小时前AI 评分36
视觉语言模型中的 On-Policy 知识蒸馏会继承教师模型的行为缺陷
Do As I Do, Not As I Say: On-Policy Distillation Inherits the Teacher in Vision-Language Models
AI 导读
视觉语言模型（VLM）在采用 On-Policy 蒸馏（OPD）时不仅传递知识，还会继承教师模型在学生轨迹上的失败模式。在 ChartQA 上，教师完成率为 99%，OPD 仅用 10% 数据就达到接近全量 SFT 1.4 个准确率点的表现；但在教师未完成率达 22% 的 Geometry3K 上，OPD 比 SFT 低 7.9 个点，且使 SFT 学生的完成率从 76% 降至 62%。
来源：arXiv 机器学习 · arxiv.org