Skip to content
Hot storiesContinuously updated

研究人员提出联邦MoE稀疏分配框架S3-MoE

1 reports1 reporting sourcesUpdated 5 hours ago

Start here

AI overview

2026年11月6日,研究人员在 arXiv 提出面向联邦混合专家模型(MoE)的服务端稀疏分配框架 S3-MoE。该框架通过利用-探索机制从部分观测中为客户端分配特定专家,并提供了精确 Top-K 恢复保证。在 CIFAR-100 数据集上的实验显示,S3-MoE 仅为每个客户端加载 5 个专家,其平均最终准确率相比访问全部 20 个专家的 Full-20 FedAvg 提高了 1.31 个百分点。

AI-generated from reports · Updated 5 hours ago

Report timeline

Follow the reports to see different sides of the story.

Nov 6
  1. arXiv 机器学习
    面向联邦混合专家模型的服务端稀疏分配

    研究人员提出联邦混合专家模型(MoE)服务端稀疏分配框架 $S^3$-MoE,通过利用-探索机制从部分观测中分配客户端特定专家,并给出精确 Top-$K$ 恢复保证。在 CIFAR-100 实验中,$S^3$-MoE 仅为每个客户端加载 5 个专家,平均最终准确率比访问全部 20 个专家的 Full-20 FedAvg 提高 1.31 个百分点。

Story heat trend

Current heat 9·Comparable peak 10(Nov 6 14:00)·Comparable change, last 24 hours–

02.557.510Nov6Nov6Nov6Nov6

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.