arXiv 机器学习· Chenyu Zhou, Yuxuan Zeng, Qi Deng, Dongdong Ge, Yinyu Ye·· 15 小时前AI 评分37
ProLand:一种用于 LoRA 微调的新型不可行流形优化方法
ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning
AI 导读
研究人员提出了无回拉优化器 ProLand(Product-space Landing),通过结合协调因子更新与 Muon 风格谱方向,改进 LoRA 微调中的流形优化效率。
来源:arXiv 机器学习 · arxiv.org