@rohanpaul_ai: 非常重要的工作。模型可能看起来有罪，但实际上，真正的失败往往始于其周围的上下文环境……

非常重要的工作。 模型可能看起来有罪，但实际上，真正的失败往往始于其周围的上下文环境。 通过观察AI代理的环境，我们可以在它完成任务或获得行为评分之前就判断出它何时会崩溃。 研究发现，代理大部分时间失败是因为它们没有良好的指令、工具、证据、记忆或安全规则。 它对这个操作上下文在七个维度上分配分数：角色清晰度、工具描述、事实支持、规则一致性、安全性和令牌使用。 该分数与代理的实际行为分数无关，因此测试不会奖励猜测将要发生什么。 由于从模糊转向结构化，相同的固定模型在300次测试和7500轮互动中表现更好。 更多的事实支持与更少的幻觉相关，更清晰的工具描述与更好的工具使用相关，更强大的护栏与抵抗操纵相关。 添加更多安全规则并没有改善每个任务的结果，因为强化后的代理有时变得过于谨慎，这暴露了一个真正的权衡。 --- – arxiv. org/abs/2607.14275 标题：“AI代理并非独自失败：上下文首先失败”