跳到正文
原文
arXiv 机器学习· Zhen Li, Shuai Zhang, Yanggan Gu, Yiming Zhang, Yang Yu, Mingfa Feng, Congkai Xie, Shuang Yu, Junjie Lai, Hongxia Yang·· 4 小时前AI 评分40

TRIAGE:原生 NVFP4 强化学习的方向感知失配稳定方法

TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning

AI 导读

研究人员提出方向感知稳定方法 TRIAGE,通过分段级诊断选择性重平衡策略梯度更新并对严重失配进行有界修复,解决原生 NVFP4 W4A4 强化学习中的训练不稳定问题。在 Qwen3-4B 和 Qwen3-30B-A3B 上的实验表明,该方法在 5 个数学推理基准上达到全精度水平性能,且 rollout 吞吐量相比 BF16 最高提升达 2.3x。

来源:arXiv 机器学习 · arxiv.org