ホットトピック観察中
研究人员提出MoE结构保留专家剪枝方法PEEP与DCEP
1 件の報道1 件の報道元2 日前 更新
まずこの件を把握する
AI 概要
2026年11月，针对MoE大语言模型专家输出中存在的结构冗余问题，研究者提出了结构保留专家剪枝框架，包含PEEP与DCEP两种具体方法。该方案引入了router权重先验，分别通过最大化加权投影能量和最小化加权覆盖误差，以保留模型的函数子空间与分布几何。测试结果显示，在DeepSeek-V2-Lite和Qwen3-30B-A3B两款模型上，PEEP与DCEP在75%与50%的专家保留率设定下，均取得了超越现有SOTA基线的平均性能。
AI が報道をもとに生成 · 2 日前 更新
最新の進展11月2日 13:00
研究者提出PEEP与DCEP剪枝方法，在DeepSeek与Qwen模型测试中超越SOTA基线。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月2日
- arXiv 人工智能MoE 大语言模型专家存在结构冗余：面向 MoE 的结构保留专家剪枝
针对 MoE 大语言模型专家输出的结构冗余，研究者提出结构保留专家剪枝框架，包含 PEEP 与 DCEP 两种方法。两方法引入 router 权重先验，分别通过最大化加权投影能量和最小化加权覆盖误差保留函数子空间与分布几何。在 DeepSeek-V2-Lite 和 Qwen3-30B-A3B 上，两者在 75% 与 50% 专家保留率下均取得超越 SOTA baseline 的平均性能。
このストーリーのホット度の推移
現在のホット度 3·比較可能範囲のピーク 10（11月2日 14:00）·直近24時間の比較可能な変化-51%
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。