NVIDIA：利用 Reshard 集合通信加速强化学习权重重填

NVIDIA 采用 Reshard 集合通信（Reshard Collective）加速强化学习（RL）后训练中的策略模型权重重填（Weight Refit）。在推理与训练分离的解耦架构下，训练轨迹通过独立的推理 GPU 资源实时生成，而策略模型仅在训练 GPU 上更新。系统必须定期将最新权重刷新至推理端，Reshard 集合通信旨在提升训练与推理 GPU 之间的权重同步效率。