低精度执行可以明显加速大语言模型的强化学习,但学习端与采样端的执行不一致会破坏策略优化。这篇工作把失配和策略梯度方向放到一起分析,区分局部放大与局部收缩两类更新贡献——仅看失配幅度无法识别。原生 NVFP4 实验里,早期两类放大区域失衡,偏向负优势、负 gap 的更新;其尾部 token 会先集中在一小部分回复片段中,随后失配才向全局扩散。这构成了方向感知稳定方法的直接动机。

失配先在片段里集中

材料描述的过程相当具体。原生 NVFP4 训练并非一开始全面发散,而是负优势、负 gap 一侧的放大贡献先占优,问题以尾部 token 在少数回复片段中的集中出现。因此诊断需要做到片段级,干预需要知道当前更新是在放大还是在收缩。只按幅度做校正,或整体退回高精度,都对不上这一观察。

改优化目标,前向仍是 W4A4

TRIAGE 用片段级诊断选择性地再平衡策略梯度更新,并对残留的严重失配做有界修复。它修改优化目标,同时保留采样端与学习端原生 NVFP4 的权重与激活 4-bit(W4A4)前向执行。实验覆盖 Qwen3-4B 与 Qwen3-30B-A3B:在所评估的训练区间内优化保持稳定,五个数学推理基准达到全精度水平;相对 BF16,带 TRIAGE 的原生 NVFP4 可提供最高约 2.3 倍的 rollout 吞吐。

我的判断

价值在于把低精度强化学习不稳,从误差太大改写成方向与片段不对,并且没有牺牲原生 W4A4 前向。对需要压低 rollout 成本的数学推理强化学习,稳定性、数学基准上的全精度水平、最高约 2.3 倍吞吐同时出现,信息密度高。适用边界同样清楚:只有两个模型规格、五个数学推理基准,训练时长只写到所评估区间。非数学任务、更长训练、其它量化格式是否同样成立,摘要没有证据。有界修复可能改变更新分布,触发条件与强度需要看全文。判断上,这是一条可跟进的原生 NVFP4 策略优化稳定路线,适合作为工程假设去验证,而不宜把「达到全精度水平」理解成全面能力对齐。