arXiv 人工智能· Sara Abdali, Pashmina Cameron·· 1 天前AI 评分34
JIVEAdapter：基于联合与独立变异解释的多任务加性低秩适配器
JIVEAdapter: A Multi-Task Additive Low-Rank Adapter via Joint and Individual Variation Explained (JIVE)
AI 导读
研究人员提出多任务加性低秩适配器 JIVEAdapter，将权重更新显式分解为跨任务共享的 Joint 结构与任务特有的 Individual 结构。该方法通过近正交惩罚分离共享与特异信号，并在共享池与任务专属池间自适应分配 rank，冻结后的 Joint 部分可直接作为先验复用于新任务。
来源：arXiv 人工智能 · arxiv.org