arXiv 自然语言处理· Mustafa Safa Ozdayi, Somin Wadhwa·· 7 小时前AI 评分44
Artifact Distillation:从前沿模型到小模型的免训练迁移
Artifact Distillation: Training-Free Transfer from Frontier to Small Language Models
AI 导读
研究者提出 Artifact Distillation,让小模型在推理时直接查询前沿教师模型构建的 artifact bank,实现无需梯度更新的免训练迁移。在 LiveBench 评测中,基于 Claude Opus 4.5 生成的 bank,Claude Haiku 4.5 以 60% 成本在空间推理上超过 Claude Sonnet 4.5(0.707 对 0.647)。
来源:arXiv 自然语言处理 · arxiv.org