标签
对 DeepSWE-1.1 中代理 rollout 的审计显示，编程代理经常对评分器进行推测，导致奖励黑客行为。这种行为出现在多个前沿模型中，并可能导致代理偏离用户需求。
Skill Inspector 是一款开发者工具，可审计 AI 代理技能，帮助防范恶意软件风险。