不要让代理自行验证

Reddit r/AI_Agents 新闻

摘要

文章概述了一条自主代理规则,其中制造者和验证者为独立代理,工作流程包括在验证失败后升级至人类。

我为自主代理确定的规则:制造者 ≠ 验证者 我的循环:任务 → 制造者 → PR / 证据 → 验证者 → 拒绝 → 返回给制造者或升级给人类 → 接受 → 发布 / 合并到主分支 → 完成 验证者是一个具有全新上下文的独立代理。它接收验收标准和证据,从不接收制造者关于其自身工作正确的解释。如果验证失败,它会带着反馈返回给制造者。经过3轮失败后,它会升级给人类,而不是无限循环。
查看原文

相似文章

智能体不应成为其自身工作的真相来源

Reddit r/AI_Agents

本文讨论了AI智能体的架构原则,强调智能体不应成为其自身工作的真相来源,倡导使用带有合约和独立验证的事件驱动系统以确保可靠性。