arXiv 机器学习· Wentao Ni, Chihao Yu, Hong Cai, Mingu Lee, Hejia Zhang, Fatih Porikli, Jishen Zhao·· 7 hours agoAI score34
RankLane：基于专家容量排序的加速器高效 MoE Prefill
RankLane: Efficient MoE Prefill on Accelerators with Ranked Expert Capacities
Not yet translated; shown in Chinese.
AI guide
RankLane 提出按当前负载对加速器上的专家进行排序并分配至固定容量通道，以解决静态执行计划下的 MoE prefill 效率问题。该方案在四颗 Cloud AI 100 Ultra SoC 上对采用 MXFP6 权重的 Qwen3-30B-A3B 与 Gemma 4 26B-A4B 进行了全模型评测。
Source:arXiv 机器学习 · arxiv.org