arXiv 机器学习· Yibo Huang, Yi Cui, Yukai Huang, Huaping Zhou, Jiancong Tong, Zhaoyu Wu, Gen Miao, Haoran Wei, Boyan Ding, Zhuo Jiang, Jianxi Ye, Yibo Zhu, Chuanxiong Guo, Yang Xu, Jie Wu·· 7 小时前AI 评分53
字节跳动发布论文提出ByteExpress：在大规模推理与训练中部署RDMA
Deploying RDMA for Large-Scale Inference and Training Workloads
AI 导读
字节跳动团队在arXiv发布论文，介绍了在参数服务器推理与训练系统中部署基于硬件RDMA的软件通信层ByteExpress的实战经验。ByteExpress通过跨应用与传输层的缓冲区管理、QP复用、基于信用的流控以及RPC辅助恢复，解决了生产环境中变长消息和突发流量难题。
来源：arXiv 机器学习 · arxiv.org