我厌倦了那些无所不能的代理,于是构建了这层专门阻拦它们的防护层。
摘要
作者开发了Scyvera,这是一个运行时强制执行工具,通过实施声明权限和记录决策来规范AI代理,以解决生产系统中的治理空白问题。
每个人都在构建AI智能体。却无人关注如何治理它们。MCP统一了智能体与工具的通信协议,A2A标准化了智能体间的对话方式——但两者都未涉及智能体实际被允许执行的操作边界。因此我构建了这一控制层,如今它以运行时执行器的形式正式发布。```python from scyvera import ContractEnforcer enforcer = ContractEnforcer.load("contract.yaml") enforcer.gate("push_to_main", "side_effect") def deploy(): ... # 不在合约范围内 → 执行前抛出ContractViolationError``` 每个智能体都会预先声明其权限范围、副作用及审批边界,执行器将在运行时严格校验这些声明。所有决策(允许/拒绝/待审批)将写入不可变审计日志。该项目采用MIT协议开源,已获20+星标,且规范与框架解耦——无论您使用n8n、LangGraph或其他工具均可适配。它目前无法做到的是:无法阻止开发者绕过执行器直接调用未授权函数。此已知限制已在文档中说明。很好奇各位在生产环境中是否遇到过治理难题?目前是如何解决的?
相似文章
可信赖的智能代理AI层
作者正在构建Synapsor,一个面向AI代理的测试版工具,提供受管内存、分阶段写入、回放、权限和审计追踪,并正在寻求代理开发者的反馈。
我们不断构建更智能的智能体。但几乎没有人构建能真正阻止它们的层。
文章探讨了AI智能体控制机制的关键缺口,介绍了VION协议作为运行时层,用于执行身份验证、权限管理、验证、审计和停止功能,以确保安全部署。
我构建了一个治理层,让AI智能体可以构建自己的工具,但不能越过我设定的红线
作者构建了Arcforge,这是一个治理层,允许AI智能体生成并注册自己的工具(例如,通过OpenAPI创建支付工具),同时在智能体持有API密钥之前就强制执行策略限制(例如,阻止一笔9,999美元的收费)。这是一个早期原型,正在寻求关于护栏的反馈。
我受够了AI代理在生产环境中静默失败,于是为它们构建了一个运行时控制层
作者构建了一个运行时控制层,以解决AI代理在生产环境中静默失败的问题。
谁授予了你的AI代理权限?
讨论AI代理工作流中的安全漏洞,即代理在关键步骤中假设存在人类监督,并提出了一个运行时控制平面,用于强制执行权限,并在破坏性操作前要求人工批准,通过Tandem演示进行了说明。