跳到正文
热点事件持续更新

研究人员提出基于子空间对齐的模型融合方法GRAM

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月22日,研究人员在 arXiv 发布论文,提出了基于子空间对齐的分组秩感知模型合并方法 GRAM。该方法利用任务向量的主角几何结构将兼容任务进行分组并执行奇异值分解(SVD)合并,操作中仅需微调权重。实验表明,在仅引入一个额外模型(K=2)的设定下,该方法显著缓解了子空间干扰。目前测试显示,GRAM 在 Flan-T5 的 GLUE 基准、8 任务 CLIP,以及融合 4 个中英文医学 LoRA 的 Qwen2-7B-Instruct 评测中,均取得了优于以往合并方法的效果。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. arXiv 人工智能
    GRAM:基于子空间对齐的分组秩感知模型合并

    研究人员提出分组秩感知模型合并方法 GRAM,利用任务向量的主角几何结构将兼容任务分组并执行 SVD 合并,仅需微调权重。在仅引入一个额外模型(K=2)的情况下,该方法显著缓解了子空间干扰。GRAM 在 Flan-T5 的 GLUE、8 任务 CLIP 以及融合 4 个中英文医学 LoRA 的 Qwen2-7B-Instruct 上均优于以往合并方法。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。