跳到正文
热点事件持续更新

研究提出SFT-as-Context方法缓解监督微调能力遗忘

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月9日,研究团队在arXiv发布论文,提出一种无需训练的新方法SFT-as-context。该方法使预训练母模型将监督微调(SFT)模型的回复作为上下文,通过上下文学习获取微调能力,同时保留自身的通用能力。在涉及19对模型及11个评测基准的实验中,该方法在AIME 2024和LiveCodeBench上与SFT模型的性能差距仅为2.2和2.1个百分点,其通用能力与母模型的平均差距也控制在2.2个百分点以内。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv 自然语言处理
    SFT-as-Context:通过上下文学习缓解监督微调中的能力遗忘

    研究团队提出无需训练的方法 SFT-as-context,让预训练母模型将 SFT 模型的回复作为上下文,通过上下文学习获取微调能力并保留自身通用能力。在 19 对模型及 11 个评测基准中,该方法在 AIME 2024 和 LiveCodeBench 上与 SFT 模型差距仅 2.2 和 2.1 个百分点,通用能力与母模型平均差距在 2.2 个百分点以内。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。