京东与南京大学提出Road MOPD多教师在线策略蒸馏方法
Start here
2026年11月,京东零售联合南京大学提出Road MOPD方法,旨在缓解风格与跨领域学习干扰。该方法通过跨教师反馈与梯度投影机制,解决多教师在线策略蒸馏过程中的参数更新冲突。在Qwen3-4B模型的实验中,该方法使数学与医学等高冲突组合实现了双领域能力提升,其中医学均分较Vanilla MOPD最高提高8.78个百分点。此外,在进一步扩展至数学、代码及医学三领域联合训练后,模型综合评分达到52.89。
AI-generated from reports · Updated 2 days ago
Report timeline
Follow the reports to see different sides of the story.
- AITNT · AI头条京东联合南京大学提出 Road MOPD,缓解风格与跨领域学习干扰
京东零售联合南京大学提出 Road MOPD,通过跨教师反馈与梯度投影解决多教师在线策略蒸馏的参数更新冲突。在 Qwen3-4B 实验中,该方法使数学+医学等高冲突组合实现双域提升,医学均分较 Vanilla MOPD 最高提高 8.78 个百分点。扩展至数学、代码、医学三领域联合训练后综合分达 52.89。
Story heat trend
Current heat 3·Comparable peak 10(Nov 2 16:00)·Comparable change, last 24 hours-50%
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.