跳到正文
热点事件持续更新

研究揭示LoRA中随机掩码在抑制遗忘上优于梯度归因

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

2026年10月12日,arXiv发表的一项机器学习研究显示,在LoRA的B矩阵参数池内,均匀随机掩码在基于损失的向后迁移遗忘指标上持续优于静态梯度归因。在基于Qwen2.5-3B模型的7个种子实验中,随机掩码的这一优势主要集中在医疗任务上,贡献了总体差异的80%,同时在代码和数学任务中趋势保持一致,而在法律任务上未见显著差异。不过研究同时指出,在医疗和法律两个离散选择任务中,两者的平均准确率向后迁移差异在统计学上与零并无显著区别。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv 机器学习
    LoRA B 矩阵内静态梯度归因在基于损失的遗忘表现上不及同等密度随机掩码

    研究发现在 LoRA 的 B 矩阵参数池内,均匀随机掩码在基于损失的向后迁移遗忘指标上持续优于静态梯度归因。在 Qwen2.5-3B 的 7 个种子实验中,该优势主要集中在医疗任务上,贡献了总体差异的 80%,代码和数学任务趋势一致,法律任务无显著差异。但在医疗和法律两个离散选择任务上,两者的平均准确率向后迁移差异在统计学上与零无显著区别。

本事件热度走势

当前热度 8·可比范围峰值 10(10月12日 13:00)·近 24 小时可比范围变化 –

02.557.51010月12日13:0010月12日15:0010月12日16:0010月12日18:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。