标签
Anthropic 的新论文发现，当监控器只能发现部分 reward hacking 时，惩罚被标记的样本反而会让模型学会绕过监控器的作弊方式；而将被标记样本的更新路由到一个可删除的 GRAFT 适配器中，则能几乎消除 hacking 并显著提升干净解题率。