研究团队提出MoE强化学习加速系统FlexFloor
Start here
2026年11月6日,研究人员在arXiv发表论文,提出用于加速MoE模型强化学习后训练的FlexFloor系统。为解决MoE在响应生成阶段的计算瓶颈,FlexFloor引入了弹性专家并行机制,通过结合历史响应长度与显存约束来优化批处理调度和提示词分配,在确保专家计算可用的同时逐步提前释放节点与计算资源。实验表明,相比verl基准,FlexFloor可将单位占用计算时间的响应token产出提升约65.40%,并将整体吞吐量提高52.74%。
AI-generated from reports · Updated 5 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 人工智能FlexFloor:通过弹性专家并行实现资源高效的强化学习后训练
研究人员提出 FlexFloor 系统,通过弹性专家并行在强化学习后训练中提前释放计算资源,解决 MoE 响应生成瓶颈。该系统结合历史响应长度与显存约束调度批处理和提示词分配,在维持专家计算可用的同时逐步释放节点。相比 verl 基准,FlexFloor 使单位占用计算时间的响应 token 产出提升约 65.40%,吞吐量提高 52.74%。
Story heat trend
Current heat 9·Comparable peak 10(Nov 6 14:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.