我构建了一个AI代理的问责层——在行动前约束其能力,在行动后证明其行为

Reddit r/AI_Agents 工具

摘要

Cinchor是一个开源工具,为AI代理提供问责层,允许开发者通过哈希、签名、仅追加记录在行动前约束代理能力,并在行动后证明行为。它包含TypeScript、Python和Go的SDK,无需代币、钱包或Gas即可运行。

我曾与大多数团队交流,他们都遇到了同样的困境:给代理真实的能力(转移资金、推送变更、操作账户),它做了一件你事后无法辩护的事情,整个流程就会退回到人工介入。Cinchor是一个同时完成这两部分的原语。行动前约束:你铸造一个限定于单个代理的能力(支出上限、白名单、过期时间)。每个行动都会对照它进行检查,策略外的行动在发生前即被拒绝。行动后证明:决策经过哈希、签名,并锚定到仅追加记录中,因此任何人都可以稍后重新计算并发现被篡改的字段。有一个无需注册即可在约30秒内运行的在线演示:给代理一个预算,观察它被允许两次,超出后被阻止,验证记录,然后篡改一个字段,看校验拒绝它。它适用于任何代理栈。提供API以及TypeScript、Python和Go的客户端SDK,全部采用Apache-2.0许可证,因此你可以精确查看哪些内容被哈希和签名。整个流程中无需代币、钱包或Gas。演示、SDK以及关于其工作原理(哪些功能已经成熟,哪些还处于早期阶段)的文章都在第一条评论中。我最希望得到的反馈是:这个方法在哪里是错误的,它与你已经信任的某个方案是否重复,或者你绝不会在路径中引入第三方的地方。
查看原文

相似文章

AgentBound: 自主AI智能体的可验证行为治理

arXiv cs.AI

AgentBound提出了一种运行时治理框架,用于自主AI智能体,通过并行组合委托授权、行为章程和站点行动合约来强制执行可验证的行为监督,并生成密码学可验证的收据。