arXiv 机器学习· Yiyang Fu, Zihao Huang, Dongchen Han, Shukai Gong, Zhen Dong, Qiyang Min, Daquan Zhou·· 10 小时前AI 评分36
一个模型支持多种算力预算：用于多轮灵活计算的 Multi-Ratio ConceptMoE
One Model, Multiple Compute Budgets: Multi-Ratio ConceptMoE for Flexible Compute Across Turns
AI 导读
研究者提出 Multi-Ratio ConceptMoE，在单一共享骨干网络中联合支持 2、4 和 8 倍（CR2/CR4/CR8）的 token 到概念压缩比，以实现多轮交互中的跨轮次算力预算灵活分配。
来源：arXiv 机器学习 · arxiv.org