为AI代理构建治理层,为部署代理的团队提供免费访问权限
摘要
Igris Security 提供免费访问 AI 代理治理层的服务,解决生产环境中的问题,如工具访问控制、审计日志记录、提示注入防护、PII 数据脱敏和成本管理。
我是 Abhishek,Igris Security 的联合创始人。我们是一家早期创业公司,没有资金,团队很小。我宁愿有5个团队在积极使用它并告诉我哪里有问题,也不愿有一个带着假标识的登陆页面。*免费访问,无时间限制,无需信用卡* 如果您正在部署代理,并且以下任何一项对您有效,请评论或私信我,我会为您设置。我们在生产环境中遇到代理的六个问题,以及我们为每个问题构建的解决方案:
任何代理都可以调用任何工具。您连接 MCP 后,一个共享令牌意味着本应读取记录的代理也可以删除记录。我们在工具调用层实现默认拒绝的 RBAC。
没有记录代理实际做了什么。应用日志显示请求,但不显示工具调用、拒绝或返回的数据。我们为每次调用保留审计跟踪。
在任何面向客户的内容上都有提示注入风险。用户和模型之间没有防护。我们在线检查提示和响应。
PII 和秘密信息到达提供商。脱敏在两个方向运行 - 在提示离开前,以及在响应渲染前。
Token 消耗没有上限。一个用户可以在一夜之间产生巨额账单。我们为每个用户设置预算和速率限制。
每个提供商都需要重写策略。添加第四个模型,就需要第四次重新实现脱敏。我们提供一个策略,与提供商无关。
我很乐意在评论中分享更多细节。
相似文章
我构建了一个治理层,让AI智能体可以构建自己的工具,但不能越过我设定的红线
作者构建了Arcforge,这是一个治理层,允许AI智能体生成并注册自己的工具(例如,通过OpenAPI创建支付工具),同时在智能体持有API密钥之前就强制执行策略限制(例如,阻止一笔9,999美元的收费)。这是一个早期原型,正在寻求关于护栏的反馈。
按治理层而非功能列表划分的AI智能体管理工具
分析指出,大多数企业AI智能体安全投资集中在模型层护栏和可观测性,在访问层和协议层留下了关键缺口。援引2026年报告,75%的企业AI智能体仍处于未保护状态,原因是这些层的覆盖面几乎为零。
我厌倦了那些无所不能的代理,于是构建了这层专门阻拦它们的防护层。
作者开发了Scyvera,这是一个运行时强制执行工具,通过实施声明权限和记录决策来规范AI代理,以解决生产系统中的治理空白问题。
@bibryam: AI Agent Governance Toolkit - 由微软提供,通过确定性策略执行、...
微软发布了 Agent Governance Toolkit,这是一个面向AI智能体的开源运行时执行工具,提供确定性策略执行、零信任身份验证和沙箱隔离,覆盖全部10项OWASP Agentic风险,并拥有超过13,000个测试。
AI代理需要安全层才能获得企业信任
本文介绍了一种针对AI代理的护栏平台,该平台提供控制层,用于阻止恶意提示、幻觉、危险操作和成本激增,从而在企业环境中实现安全的自主AI。