arXiv 机器学习· Chenyu Zhou, Yuxuan Zeng, Qi Deng, Dongdong Ge, Yinyu Ye·· 21 hours agoAI score37
ProLand:一种用于 LoRA 微调的新型不可行流形优化方法
ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning
Not yet translated; shown in Chinese.
AI guide
研究人员提出了无回拉优化器 ProLand(Product-space Landing),通过结合协调因子更新与 Muon 风格谱方向,改进 LoRA 微调中的流形优化效率。
Source:arXiv 机器学习 · arxiv.org