跳到正文
热点事件持续更新

研究团队提出基于条件信息增益的后训练框架CIG-SFT

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月12日,研究人员在 arXiv 发布基于信息论的后训练框架 CIG-SFT。该方法通过比较冻结参考模型在有任务输入和无任务输入下的 token 似然度来计算条件信息增益,以此量化任务本身所消除的不确定性,并进一步将该信息转化为标量加权的 SFT 目标。该框架无需额外训练数据或在线采样。实验结果显示,在数学推理与代码生成基准测试中,CIG-SFT 的表现持续优于标准 SFT 以及动态微调基线。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv 自然语言处理
    SFT 该学什么?基于条件信息增益的可泛化后训练方法 CIG-SFT

    研究人员提出基于信息论的后训练框架 CIG-SFT,通过比较冻结参考模型在有无任务输入下的 token 似然度来计算条件信息增益,量化任务本身消除的不确定性。该方法将此信息转化为标量加权的 SFT 目标,无需额外训练数据或在线采样。在数学推理与代码生成基准上,CIG-SFT 表现持续优于标准 SFT 及动态微调基线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。