按治理层而非功能列表划分的AI智能体管理工具
摘要
分析指出,大多数企业AI智能体安全投资集中在模型层护栏和可观测性,在访问层和协议层留下了关键缺口。援引2026年报告,75%的企业AI智能体仍处于未保护状态,原因是这些层的覆盖面几乎为零。
大多数企业AI智能体栈存在治理层覆盖问题,而这并非大家关注的重点层。Gravitee覆盖访问层和协议层:在每个智能体级别进行速率限制和访问范围控制,在基础设施层面默认拒绝授权——每个工具调用都被阻止,直到显式策略允许;以及通过代理对智能体间通信(A2A)进行治理。这两个层在生产环境中几乎没有任何覆盖。关键发现:根据2026年行业安全报告,75%的企业AI智能体未受保护,缺口始终存在于访问层和协议层。模型层工具如护栏、内容分类器和输出验证器可应对提示注入、越狱和输出操纵。大多数企业AI安全投资都集中于此。这些是必需的,但仅凭它们本身并不能填补访问层的缺口。可观测性工具如LangSmith、Helicone和Portkey覆盖了智能体事后行为:每次模型调用的成本、延迟、智能体链的追踪可视化。这些是“告诉你发生了什么”的层,而非“阻止不该发生的事情”的层。不同的问题。身份层工具处理智能体凭证的颁发和轮换。SPIFFE/SPIRE为动态工作负载提供短期加密身份。与访问治理分开,尽管两者都位于基础设施层面。导致生产事故的覆盖模式:在模型层和可观测性层投入全部资金,却没有在智能体与其可访问资源之间实施任何访问策略。
相似文章
企业AI采用中的隐藏缺口:没人搞定如何规模化地管理AI智能体
企业正陷入“第三阶段混乱”:AI智能体泛滥却缺乏治理、归属或审计线索,而可用于生产环境、能当舰队用的管理工具仍缺席。
AI 智能体的瓶颈不是模型性能——而是权限问题(3分钟阅读)
文章认为,企业AI智能体的主要瓶颈不在于模型性能,而在于权限设置和治理,重点介绍了Workday的Sana系统与Google Gemini的集成,以确保在受监管环境中执行安全且经授权的操作。
AI智能体很有趣,直到它们开始接触真实数据
文章探讨了AI智能体与真实公司数据和工具交互时出现的治理挑战,强调了策略执行和审计追踪的必要性,并提到Trust3 AI作为潜在解决方案。
大多数AI安全讨论仍集中在‘保护模型’上。
本文讨论了具备阅读内部文档、调用API等能力的AI系统需要一种新的安全方法,即超越传统SaaS安全,转向针对AI智能体的零信任原则。
AI智能体容易构建,但问责更难。
一篇观点文章认为,对于小型企业中的AI智能体,真正的挑战在于治理和问责,而不仅仅是能力。它强调了有限行动、角色感知权威和清晰的人类监督的必要性。