arXiv 机器学习· Haifeng Wu, Srinivasan Manoharan, Jian Wan, Fangbo Tu, Junhua Zhao, Xin Chen·· 4 小时前AI 评分32
用于高效 LLM 任务路由的学生引导教师蒸馏:对标 Jev 式 System-1 分类器
Student-Guided Teacher Distillation for Efficient LLM Task Routing: Positioning Against Jev-Style System-1 Classifiers
AI 导读
研究提出一种针对 60 类 LLM 任务路由的学生引导教师蒸馏方案,由 ModernBERT 检索 top-k 候选集,再由 DeBERTa-v3 零样本 NLI 模型重排序并迭代优化学生模型。
来源:arXiv 机器学习 · arxiv.org