跳到正文
腾讯混元:Research· 黄冠华;许庭强;王锦波·· 2026-02-13

通过 Token 级梯度诊断与 Layerwise Clipping 稳定 RLVR 训练

Stabilizing RLVR via Token-level Gradient Diagnosis and Layerwise Clipping

AI 导读

提出一种稳定 RLVR 训练的新方法,采用 Token 级梯度诊断技术精准定位异常梯度来源,结合逐层梯度裁剪(Layerwise Clipping)对不同网络层实施差异化约束,有效抑制训练过程中的梯度爆炸与策略震荡,提升强化学习训练的稳定性与收敛效率。

来源:腾讯混元:Research · hunyuan.tencent.com