你们如何保障能够实际操作资金的AI自主代理的安全?

Reddit r/AI_Agents 工具

摘要

本文介绍了一个面向自主代理的免费信任层,它通过执行委托来防止未经授权的金融交易,使用TSS/MPC进行安全签名和不可变的审计跟踪。

我们为自主代理构建了一个专注于委托执行的信任层。基本上,“当代理试图执行超出其给定参数的操作时会发生什么?” 我们目前正在免费提供它,以换取实际使用团队的诚实、建设性反馈。我与许多构建涉及资金的代理的人交谈过,大多数人已经有某种形式的软件级护栏、监控或人工批准。我们不断回到的问题是:如果代理本身被入侵、提示注入,或者只是做出了错误决定,会发生什么?这就是我们瞄准的差距。我们的层位于代理和支付/执行基础设施之间。在执行任何操作之前,它会检查诸如支出限额、批准的收款人和交易策略等内容。如果操作超出代理的委托范围,它无法产生授权签名。签名使用TSS/MPC,每个决策都留下不可变的审计跟踪。所以理念不是更信任代理,而是确保即使代理被入侵,也无法超出其被授予的权限行事。如果您正在构建已经在进行交易、支付或操作真实资金的自主代理,我们很乐意让您测试它。在我们验证期间,我们很乐意免费提供它,并且我们也对已有可观交易量的团队开放资助。如果相关,请DM我,我也同样感兴趣了解您今天是如何解决这个问题的。
查看原文

相似文章