arXiv 自然语言处理· Xiaobing Yu, Peijie Qiu, Jin Yang, Xuanzhao Dong, Weiwei Ma, Zhaoqi An, Xiaoqi Zhao, Xiaofeng Liu·· 4 小时前AI 评分39
LadderEdit:面向大语言模型终身编辑的编辑级残差压缩方法
LadderEdit: Edit-Level Residual Compression for Memory-Efficient Lifelong Editing of LLMs
AI 导读
LadderEdit 提出了一种编辑级残差压缩方法,先将每个编辑存为低秩草图,仅对未达标的编辑阶梯式提升 rank,以解决大语言模型终身编辑中 LoRA 适配器存储线性增长的难题。
来源:arXiv 自然语言处理 · arxiv.org