arXiv 机器学习· Sihao Wang, Bozheng Li, Xuemiao Xu, Haoxin Yang, Yujie Xu, Jie Tang·· 10 hours agoAI score30
LIRA：面向 LoRA 的更具可解释性动态损失导向秩分配方法
LIRA: A More Interpretable Dynamic Loss-Informed Rank Allocation for Low-Rank Adaptation
Not yet translated; shown in Chinese.
AI guide
研究人员提出动态秩 LoRA 方法 LIRA，通过二阶近似估计局部损失扰动为各层评分，提升在线秩重分配的可解释性。该方法周期性应用位移评估算法 DELTA，在匹配预算下生成离散有效秩并兼容标准 (A,B) 适配器。在 RoBERTa-base GLUE 评测中，LIRA 的表现优于统一 LoRA 及现有自适应秩基线。
Source:arXiv 机器学习 · arxiv.org