本文へスキップ
原文
arXiv 机器学习· Sihao Wang, Bozheng Li, Xuemiao Xu, Haoxin Yang, Yujie Xu, Jie Tang·· 21 時間前AI スコア30

LIRA:面向 LoRA 的更具可解释性动态损失导向秩分配方法

LIRA: A More Interpretable Dynamic Loss-Informed Rank Allocation for Low-Rank Adaptation

未翻訳のため中国語で表示しています。

AI ガイド

研究人员提出动态秩 LoRA 方法 LIRA,通过二阶近似估计局部损失扰动为各层评分,提升在线秩重分配的可解释性。该方法周期性应用位移评估算法 DELTA,在匹配预算下生成离散有效秩并兼容标准 (A,B) 适配器。在 RoBERTa-base GLUE 评测中,LIRA 的表现优于统一 LoRA 及现有自适应秩基线。

出典:arXiv 机器学习 · arxiv.org