如何安全地赋予AI代理执行链上交易的权限?
摘要
本文讨论了AI代理执行链上交易的安全问题,并提出了一种策略/执行层架构,引入Agaemon作为AI代理与区块链之间的控制层,以确保安全且目的明确的操作。
我们看到代理参与金融领域。在此过程中,AiFi一词开始出现。AI代理在推理和决策方面变得越来越好。那么问题是,当AI代理需要执行链上交易时会发生什么?我们不一定希望代理拥有无限制的权限来:1) 转移无限资金 2) 与任意合约交互 3) 执行超出其预期目的的交易。因此,我们正在探索一种架构,其中AI代理不直接控制区块链。相反:AI代理 -> 策略/执行层 -> 区块链。代理请求一个操作。执行层检查一切是否符合策略,然后进行检查和执行。我们将这个想法构建为Agaemon——本质上是一个执行/控制层,设计用于位于AI代理和链上执行之间。我很好奇。我很好奇那些构建AI代理、钱包、DeFi协议和链上基础设施的人们怎么看。我们是否正在看到代理作为金融层的未来。我很好奇听到你们对此的看法。
相似文章
代理人的行动应由谁控制?
本文讨论了控制AI代理执行不可逆操作的授权层的需求,介绍了Agaemon作为一种解决方案,允许代理决定行动,同时确保它们在明确权限和策略内运行。
AI 代理最危险的部分始于其获得执行权限之时
本文强调了 AI 代理获得基础设施执行权限所带来的关键风险,认为如果没有外部准入层来防止灾难性故障,现有的安全护栏是不够的。
当AI代理跨越多个系统时,谁真正拥有权限?
本文讨论了跨越多个系统的AI代理工作流中权限和治理的挑战,质疑权限和策略如何在交易链中交互。
@EdgeAlphaLabs: 智能体AI的新兴控制平面不仅仅依赖于身份验证,而是基于执行的授权:证明哪个智能体…
本文认为,智能体AI需要超越身份验证的基于执行的授权,强调运行时控制和事务级保障,以应对NIST和NCSC提出的安全挑战。
AI代理需要安全层才能获得企业信任
本文介绍了一种针对AI代理的护栏平台,该平台提供控制层,用于阻止恶意提示、幻觉、危险操作和成本激增,从而在企业环境中实现安全的自主AI。