arXiv 自然语言处理· Zhaoyan Jia, Chengwei Zhou, Gourav Datta, Massoud Pedram·· 7 小时前AI 评分34
ForkGRPO：面向扩散大语言模型的高效探索与细粒度信用分配
ForkGRPO: Efficient Exploration and Fine-Grained Credit Assignment for Diffusion Language Models
AI 导读
研究人员提出强化学习框架 ForkGRPO，通过从高熵中间状态分叉采样并复用前缀，为扩散大语言模型实现高效探索与细粒度分段信用分配。该方法在 4 个基准中的 3 个取得同类最佳，较 JustGRPO 提升最高 1.2 个百分点且生成 token 减少达 27.8%。其变体 ForkGRPO-Fast 还在可忽略的精度损失下实现 2.49x 训练时钟加速。
来源：arXiv 自然语言处理 · arxiv.org