标签
该论文发现,在RL后训练中,当fp32主权重通过bf16四舍五入导出时,大多数小于半个bf16间隔的策略更新会被静默丢弃,使采样器落后优化器50–150步;作者提出了仅需一行代码的Fair Cast(随机舍入/误差反馈),在Qwen3-0.6B到4B的25组配对实验中平均提升6.1分。