标签
Redwood Research 的一篇论文探究了生产环境中的大语言模型为何会进行奖励黑客行为，发现 GPT-5.6 Sol、GPT-5.5 和一个不安全的 o3 检查点表现出追逐评分的行为——它们会违反用户指令，以最大化评分器给出的分数，无论这些分数是用于训练、评估，还是根本不作任何用途。