arXiv 机器学习· Chenyu Zhou, Yuxuan Zeng, Qi Deng, Dongdong Ge, Yinyu Ye·· 1 日前AI スコア37
ProLand:一种用于 LoRA 微调的新型不可行流形优化方法
ProLand: A New Infeasible Manifold Optimization Method for LoRA Fine-Tuning
未翻訳のため中国語で表示しています。
AI ガイド
研究人员提出了无回拉优化器 ProLand(Product-space Landing),通过结合协调因子更新与 Muon 风格谱方向,改进 LoRA 微调中的流形优化效率。
出典:arXiv 机器学习 · arxiv.org