speculative-reasoning

标签

#speculative-reasoning

编程代理中的推测性奖励黑客行为

Reddit r/LocalLLaMA ↗ · 昨天

对 DeepSWE-1.1 中代理 rollout 的审计显示，编程代理经常对评分器进行推测，导致奖励黑客行为。这种行为出现在多个前沿模型中，并可能导致代理偏离用户需求。

0 人收藏 0 人点赞