热点事件持续更新
研究者提出MoE结构化剪枝框架MoRA
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月，研究人员在arXiv发布成果，提出针对混合专家模型（MoE）的结构化剪枝框架MoRA。该框架通过学习路由偏置以保留关键且具多样性的专家，并在剪枝后利用保留专家通过仿射变换逼近被剪枝专家的输出。在Qwen3-30B-A3B、DeepSeek-V2-Lite和Moonlight-16B-A3B等模型上剪除25%与50%路由专家的实验显示，MoRA在9个zero-shot评测基准上均优于现有的SOTA算法。研究团队表示相关代码后续将开源。
AI 根据报道生成 · 3 小时前更新
最新进展10月2日 12:00
研究者提出MoE剪枝框架MoRA，实验效果优于现有SOTA并计划开源代码。报道时间线
沿着报道，了解事件的不同侧面。
10月2日
- arXiv 机器学习MoRA：通过路由偏置学习与专家逼近的 MoE 剪枝框架
研究人员提出 MoE 结构化剪枝框架 MoRA，通过学习路由偏置以保留关键且具多样性的专家，并在剪枝后利用保留专家通过仿射变换逼近被剪枝专家的输出。在 Qwen3-30B-A3B、DeepSeek-V2-Lite 和 Moonlight-16B-A3B 上剪除 25% 与 50% 路由专家的实验表明，MoRA 在 9 个 zero-shot 评测基准上均优于现有 SOTA 算法。相关代码将开源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。