跳到正文
原文
arXiv 人工智能· Keegan Wang·· 7 小时前AI 评分44

在 LLM 上迭代,在 SLM 上服务

Iterate on an LLM, Serve on an SLM

AI 导读

研究提出一种“前沿 LLM 线上迭代、小模型(SLM)蒸馏部署”的工程范式:先在提示词空间利用前沿模型快速调整行为,收敛后将真实生产行为通过 SFT 蒸馏至小模型。

来源:arXiv 人工智能 · arxiv.org