为AI代理构建治理层,为部署代理的团队提供免费访问权限

Reddit r/AI_Agents 工具

摘要

Igris Security 提供免费访问 AI 代理治理层的服务,解决生产环境中的问题,如工具访问控制、审计日志记录、提示注入防护、PII 数据脱敏和成本管理。

我是 Abhishek,Igris Security 的联合创始人。我们是一家早期创业公司,没有资金,团队很小。我宁愿有5个团队在积极使用它并告诉我哪里有问题,也不愿有一个带着假标识的登陆页面。*免费访问,无时间限制,无需信用卡* 如果您正在部署代理,并且以下任何一项对您有效,请评论或私信我,我会为您设置。我们在生产环境中遇到代理的六个问题,以及我们为每个问题构建的解决方案: 任何代理都可以调用任何工具。您连接 MCP 后,一个共享令牌意味着本应读取记录的代理也可以删除记录。我们在工具调用层实现默认拒绝的 RBAC。 没有记录代理实际做了什么。应用日志显示请求,但不显示工具调用、拒绝或返回的数据。我们为每次调用保留审计跟踪。 在任何面向客户的内容上都有提示注入风险。用户和模型之间没有防护。我们在线检查提示和响应。 PII 和秘密信息到达提供商。脱敏在两个方向运行 - 在提示离开前,以及在响应渲染前。 Token 消耗没有上限。一个用户可以在一夜之间产生巨额账单。我们为每个用户设置预算和速率限制。 每个提供商都需要重写策略。添加第四个模型,就需要第四次重新实现脱敏。我们提供一个策略,与提供商无关。 我很乐意在评论中分享更多细节。
查看原文

相似文章

按治理层而非功能列表划分的AI智能体管理工具

Reddit r/AI_Agents

分析指出,大多数企业AI智能体安全投资集中在模型层护栏和可观测性,在访问层和协议层留下了关键缺口。援引2026年报告,75%的企业AI智能体仍处于未保护状态,原因是这些层的覆盖面几乎为零。

AI代理需要安全层才能获得企业信任

Reddit r/AI_Agents

本文介绍了一种针对AI代理的护栏平台,该平台提供控制层,用于阻止恶意提示、幻觉、危险操作和成本激增,从而在企业环境中实现安全的自主AI。