当你的子代理调用真实工具时,工具如何知道人类实际授权了什么?

Reddit r/AI_Agents 工具

摘要

作者正在测试一个原型,该原型在多代理工具执行中提供经过密码学验证的授权证据,询问这是否解决了开发人员的一个重大生产问题。

我正在进行市场验证实验,并希望得到技术性回答,而非炒作。考虑这一点:用户授权:'为客户A退款最多300美元。'系统变为:人类 → 编排器 → 代理A → 子代理B → MCP/API工具。现在子代理B调用支付工具。支付系统需要知道的不只是:'B是否已认证?'它可能需要验证:• 这最初是否由正确的用户授权?• B是否实际被授权?• 授权范围是否比父代理更窄?• 限额是否仍为300美元?• 这是否是客户A?• 这些是否是确切的授权参数?• 授权是否已过期?• 授权是否已被使用?• 是否从另一个执行中移植了有效的授权? 显然存在现有的构建块:OAuth/令牌交换、SPIFFE、OPA/Cedar、短期/JIT凭证、Macaroons/Biscuit、API网关。我试图确定开发人员是否仍需在这些组件之间构建太多自定义粘合代码以用于真正的多代理工具执行。我测试的架构不会替代这些系统。它将在敏感工具执行之前立即为现有的策略/授权决策层提供经过密码学验证的授权证据。我试图回答一个问题:这是否是一个足够痛苦的生产问题,以至于你会真正评估一个原型?如果你认为这不必要、已解决或框架错误,请告诉我你今天将如何实现300美元的示例。这种反馈与注册一样有价值。
查看原文

相似文章

工具调用返回 200,并不能证明你的智能体完成了操作。你是如何验证操作是否成功的?

Reddit r/AI_Agents

一位实践者分享了一种情况:AI 智能体的工具调用返回成功(200/ID),但预期操作实际上并未完成(例如,邮件仍停留在草稿箱中)。他们建议在每次写入操作后回读验证,将操作标记为“已验证”“已确认收到”或“与实际结果不符”,并询问其他人如何验证智能体的操作。

你如何验证你的智能体确实做了它声称做过的事?

Reddit r/AI_Agents

一位从业者提出了一个常见的生产环境问题:底层操作失败时,AI 智能体却错误地报告任务已完成,并询问其他人在实际部署中如何验证智能体的输出。作者正在研究这一问题,并计划分享社区回答的汇总。