AI代理应如何安全地发现、支付并验证外部能力?
摘要
文章描述了一个面向AI代理的能力层,使其能够发现、支付并验证外部服务,并带有严格的控制措施,如支出限额、持久收据和重放保护,应用于欧盟合规工具。
我们一直在为需要使用外部服务的AI代理构建一个能力层。其理念是,代理不应盲目调用API或获得无限权限。它应当能够:
- 发现某项能力实际做什么
- 读取其输入模式、限制和价格
- 执行自身的支出限制
- 仅支付已接受的调用
- 收到结果以及可验证的收据
- 避免请求被重放时产生重复收费
我们目前将该模型应用于三个实际运行的能力组:
• 欧盟电子发票就绪
• 欧盟进口预检
• 欧盟能效标签和EPREL检查
每组公开五个限定范围的工具。代理可以使用基于凭据的MCP集成,或直接使用x402流程,并以Base上的USDC按接受的调用次数付费。
我们认为最重要的部分不是支付本身,而是围绕它的控制:
• 产品范围限定的工具
• 机器可读的模式
• 最大支出策略
• 精确一次与重放保护
• 对无效或不可收费结果零收费
• 持久收据
• 故障即关闭的就绪与部署控制
我们感兴趣的是其他代理构建者如何处理这个问题。AI代理是否应该被允许在严格的预算、权限和收据策略下自主发现并支付能力?还是每个新的外部能力都需要首先获得人工批准?
披露:我们正在构建上述描述的系统。
相似文章
AI 代理处理关键功能究竟需要什么?
本文讨论了 AI 代理在关键功能中的安全风险,尤其是在代理商务中,并强调了内外部保障措施的必要性,突出了像 Authoryze 这样的风险缓解工具。
我们是否需要对AI智能体进行身份验证?
本文探讨了随着智能体间工作流和自主系统日益普及,对AI智能体进行身份验证和权限管理的新兴需求,并提出了签名工具清单和智能体证书等概念。
AI代理如何在付款到达签署者之前证明该付款是允许的?
探讨AI代理如何以加密方式向签署者证明付款在执行前已获授权,解决自主金融交易中的信任和安全问题。
AI代理需要安全层才能获得企业信任
本文介绍了一种针对AI代理的护栏平台,该平台提供控制层,用于阻止恶意提示、幻觉、危险操作和成本激增,从而在企业环境中实现安全的自主AI。
金融合规基础设施作为AI代理问责制的蓝图——包含现有技术调查
本文认为,数十年来为自动化金融交易建立的问责制基础设施为治理AI代理提供了蓝图,借鉴了FINRA规则5310和SEC规则17a-4等具体监管机制。