AI代理应如何安全地发现、支付并验证外部能力?

Reddit r/AI_Agents 产品

摘要

文章描述了一个面向AI代理的能力层,使其能够发现、支付并验证外部服务,并带有严格的控制措施,如支出限额、持久收据和重放保护,应用于欧盟合规工具。

我们一直在为需要使用外部服务的AI代理构建一个能力层。其理念是,代理不应盲目调用API或获得无限权限。它应当能够: - 发现某项能力实际做什么 - 读取其输入模式、限制和价格 - 执行自身的支出限制 - 仅支付已接受的调用 - 收到结果以及可验证的收据 - 避免请求被重放时产生重复收费 我们目前将该模型应用于三个实际运行的能力组: • 欧盟电子发票就绪 • 欧盟进口预检 • 欧盟能效标签和EPREL检查 每组公开五个限定范围的工具。代理可以使用基于凭据的MCP集成,或直接使用x402流程,并以Base上的USDC按接受的调用次数付费。 我们认为最重要的部分不是支付本身,而是围绕它的控制: • 产品范围限定的工具 • 机器可读的模式 • 最大支出策略 • 精确一次与重放保护 • 对无效或不可收费结果零收费 • 持久收据 • 故障即关闭的就绪与部署控制 我们感兴趣的是其他代理构建者如何处理这个问题。AI代理是否应该被允许在严格的预算、权限和收据策略下自主发现并支付能力?还是每个新的外部能力都需要首先获得人工批准? 披露:我们正在构建上述描述的系统。
查看原文

相似文章

AI 代理处理关键功能究竟需要什么?

Reddit r/AI_Agents

本文讨论了 AI 代理在关键功能中的安全风险,尤其是在代理商务中,并强调了内外部保障措施的必要性,突出了像 Authoryze 这样的风险缓解工具。

我们是否需要对AI智能体进行身份验证?

Reddit r/AI_Agents

本文探讨了随着智能体间工作流和自主系统日益普及,对AI智能体进行身份验证和权限管理的新兴需求,并提出了签名工具清单和智能体证书等概念。

AI代理需要安全层才能获得企业信任

Reddit r/AI_Agents

本文介绍了一种针对AI代理的护栏平台,该平台提供控制层,用于阻止恶意提示、幻觉、危险操作和成本激增,从而在企业环境中实现安全的自主AI。