研究者提出基底一致联邦LoRA框架FedAbA
Start here
2026年11月6日，研究人员在arXiv发表成果，提出面向异构秩的大语言模型联邦微调聚合框架FedAbA，旨在解决客户端局部基底不一致引发的模型不稳定问题。FedAbA采用“聚合前先对齐”机制，先将各客户端的局部基底对齐至全局参考基底前缀，再结合数据规模与一致性得分进行加权聚合，最后通过系数空间SVD重构后分发秩前缀。实验结果显示，该框架表现优于代表性基线，并在秩异构性最强的场景下取得了最显著的性能增益。
AI-generated from reports · Updated 4 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 人工智能聚合前先对齐：异构秩下的基底一致联邦 LoRA
研究人员提出面向异构秩的联邦 LoRA 聚合框架 FedAbA，解决大语言模型联邦微调中客户端局部基底不一致导致的模型不稳定问题。FedAbA 在聚合前将各客户端局部基底对齐至全局参考基底前缀，结合数据规模与一致性得分加权聚合，并通过系数空间 SVD 重构后分发秩前缀。实验表明其表现优于代表性基线，且在秩异构性最强时增益最显著。
Story heat trend
Current heat 9·Comparable peak 10（Nov 6 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.