热点事件持续更新
港科大联合华为提出大模型推理路由方案BalanceRoute
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月,香港科技大学与华为联合提出在线路由方案 BalanceRoute,旨在通过短期负载预测解决大模型推理过程中的跨组同步等待瓶颈。实验数据显示,在96张昇腾910C NPU运行DeepSeek-V3 671B的测试中,BR-H相对最强基线将解码吞吐提升约15%。目前,该项研究成果已被人工智能学术会议 NeurIPS 2026 接收,并已实际部署于 MaaS 推理服务系统 MathBot-Pie。
AI 根据报道生成 · 2 小时前更新
最新进展10月17日 12:57
港科大与华为提出BalanceRoute,成果入选NeurIPS 2026并已部署于MathBot-Pie。报道时间线
沿着报道,了解事件的不同侧面。
10月17日
- AITNT · AI头条港科大联合华为提出 BalanceRoute:解决大模型推理跨组同步等待瓶颈
香港科技大学与华为联合提出在线路由方案 BalanceRoute,通过短期负载预测解决大模型推理中的跨组同步等待瓶颈。在 96 张昇腾 910C NPU 运行 DeepSeek-V3 671B 的实验中,BR-H 相对最强基线将解码吞吐提升约 15%。该研究已被 NeurIPS 2026 接收,并已部署于 MaaS 推理服务系统 MathBot-Pie。
本事件热度走势
当前热度 9·可比范围峰值 10(10月17日 13:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。