Skip to content
Hot storiesWatching

研究人员提出大模型机器遗忘新方法SHIFT

1 reports1 reporting sourcesUpdated 1 day ago

Start here

AI overview

2026年11月，arXiv发布的大模型遗忘研究提出新方法SHIFT。该方法通过向微调前权重收缩并短暂重学保留集，将前瞻变化外推为蒸馏目标，以此逼近重新训练的模型。在OpenUnlearning协议下对比11个基线模型的测试结果显示，SHIFT在所有TOFU设置中均取得最高综合评分，其oracle对齐度平均达到次优方法的3.7倍。此外，测试表明SHIFT在MUSE基准上保留了最多知识，并且在遭遇重学习攻击时仍能紧贴oracle。

AI-generated from reports · Updated 1 day ago

Latest developmentsNov 3 13:00
研究团队提出SHIFT遗忘方法，在多项基准测试中综合评分居首并有效抵御重学习攻击。

Report timeline

Follow the reports to see different sides of the story.

Nov 3
  1. arXiv 机器学习
    通过外推“收缩-修复”前瞻实现大模型遗忘

    大模型遗忘方法 SHIFT 通过向微调前权重收缩并短暂重学保留集，将前瞻变化外推为蒸馏目标以逼近重训模型。在 OpenUnlearning 协议下对比 11 个基线，SHIFT 在所有 TOFU 设置中取得最高综合评分，oracle 对齐度平均达到次优方法的 3.7 倍。此外，该方法在 MUSE 上保留了最多知识，且在重学习攻击下仍能紧贴 oracle。

Story heat trend

Current heat 4·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours-51%

02.557.510Nov3Nov4Nov4Nov4

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.