bf16-precision

标签

Cards List
#bf16-precision

bf16 舍入悄然丢弃了大多数强化学习策略更新:隐蔽的训练与推理不一致,以及一行代码的无偏修复方案

arXiv cs.LG ↗ · 2026-11-02 缓存

该论文发现,在RL后训练中,当fp32主权重通过bf16四舍五入导出时,大多数小于半个bf16间隔的策略更新会被静默丢弃,使采样器落后优化器50–150步;作者提出了仅需一行代码的Fair Cast(随机舍入/误差反馈),在Qwen3-0.6B到4B的25组配对实验中平均提升6.1分。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈