arXiv 自然语言处理· Jingpu Yang, Tianhao Li, Fengxian Ji, Yufeng Wang, Shuxin Zheng, Xiaoqing Zhang·· 6 小时前AI 评分34
CAMR:面向大语言模型持续学习的兼容性感知记忆回放框架
CAMR: Compatibility-Aware Memory Replay for Continual Learning in Large Language Models
AI 导读
自适应框架 CAMR 通过兼容性检查与记忆门控联合控制样本监督和历史回放,以解决大语言模型持续学习难题。在 Qwen3-8B-Base 评测中,CAMR 在 WikiBigEdit 上的 Original Match 达 93.66%(3K 事实),并在 100K 事实后超越 Full-history Replay (LoRA)。此外,它在四个选定 TRACE 任务中均取得最高最终得分。
来源:arXiv 自然语言处理 · arxiv.org