arXiv 机器学习· Abu Sa-Adat Mohamed Moon-Im Al Ahsan, Ibne Farabi Shihab, Md Najmus Swaqeeb·· 7 小时前AI 评分29
单步曲率探测忽视拟合算子:持续学习中的保留容量与终端零空间校正
One-Step Curvature Probes Miss the Fitting Operator: Retained Capacity and Terminal Null-Space Correction for Continual Learning
AI 导读
持续学习中的单步曲率探测因忽视拟合算子而存在偏差,终端旧任务成本共同取决于保留拟合容量、终点方向曲率及零空间分量。为此提出的终端零空间校正可保留新任务输出,并在 73/99 对匹配配置中展现出旧任务损失差异。在 Permuted MNIST 与 Split CIFAR-100 基准上,该校正在 166/180 组配对中降低了旧任务损失。
来源:arXiv 机器学习 · arxiv.org