跳到正文
原文
arXiv 人工智能· Ronghua Li, Zi Liang, Zhishan Li, Shinan Liu·· 7 小时前AI 评分36

PG-SFT:在离线 AI 智能体微调中平衡能力获取与保留

PG-SFT: Balancing Capability Acquisition and Retention in Offline Agent Fine-Tuning

AI 导读

研究提出特权引导监督微调方法 PG-SFT(Privilege-Guided SFT),利用 AI 智能体轨迹的轮次级信息增益动态调整监督强度,以解决微调中新能力获取与基模已有能力保留的冲突。评测显示,相比导致非目标基准性能退化的标准 SFT 与 KL 惩罚,PG-SFT 以轻微的目标任务折损为代价,大幅减少了分布漂移和通用能力退化。

来源:arXiv 人工智能 · arxiv.org