跳到正文
原文
arXiv 机器学习· Chenyu Zhou, Yuxuan Zeng, Qi Deng, Dongdong Ge, Yinyu Ye·· 15 小时前AI 评分37

ProLand:一种用于 LoRA 微调的新型不可行流形优化方法

ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning

AI 导读

研究人员提出了无回拉优化器 ProLand(Product-space Landing),通过结合协调因子更新与 Muon 风格谱方向,改进 LoRA 微调中的流形优化效率。

来源:arXiv 机器学习 · arxiv.org