港科大联合华为提出 BalanceRoute：解决大模型推理跨组同步等待瓶颈

香港科技大学与华为联合提出在线路由方案 BalanceRoute，通过短期负载预测解决大模型推理中的跨组同步等待瓶颈。在 96 张昇腾 910C NPU 运行 DeepSeek-V3 671B 的实验中，BR-H 相对最强基线将解码吞吐提升约 15%。该研究已被 NeurIPS 2026 接收，并已部署于 MaaS 推理服务系统 MathBot-Pie。