跳到正文
原文
arXiv 机器学习· Isabelle Aguilar, Zayn Andre Zainal, Luis Fernando Herbozo Contreras, Zhaojing Huang, Omid Kavehei·· 1 天前AI 评分34

损失景观导航:基于轨迹缓解增量学习遗忘的方法

Normative Loss Landscape Navigation: A Trajectory-Based Approach to Mitigating Forgetting in Incremental Learning

AI 导读

研究者提出 TMLN 方法,将持续学习形式化为曲面损失景观上的最优控制问题,以缓解灾难性遗忘。该方法利用对角经验 Fisher 信息矩阵(FIM)构建局部黎曼流形,并结合网络参数历史轨迹动态调制梯度预处理器,无需依赖加性惩罚项。在类别与领域增量基准评测中,该方法显著降低了连续任务间的损失壁垒。

来源:arXiv 机器学习 · arxiv.org