AI 智能体的瓶颈不是模型性能——而是权限问题(3分钟阅读)
摘要
文章认为,企业AI智能体的主要瓶颈不在于模型性能,而在于权限设置和治理,重点介绍了Workday的Sana系统与Google Gemini的集成,以确保在受监管环境中执行安全且经授权的操作。
企业AI智能体面临的主要挑战是权限问题而非模型性能。Workday通过将其核心记录系统作为治理层,集成Google Gemini并强调智能体准确性来应对这一问题。这种设置确保智能体在用户定义的权限范围内运行,这对于人力资源和财务等受监管领域至关重要。
查看缓存全文
缓存时间: 2026/06/01 18:37
# AI 代理的瓶颈不是模型性能——而是权限
来源:https://venturebeat.com/orchestration/the-ai-agent-bottleneck-isnt-model-performance-its-permissions
企业级 AI 代理正在停滞不前——不是因为模型性能,而是因为权限问题。每一个代理工作流最终都会撞上同一堵墙:这个代理被允许触碰哪些数据、代表谁行动,以及系统如何知道这些?
Workday 的答案是将其现有的记录系统变成代理的治理层。该公司产品与技术总裁 Gerrit Kazmaier 在接受 VentureBeat 采访时表示,客户在拼凑代理解决方案时常常遇到困难。
“Sana 确保审批和安全性模型的完整性始终得到遵守,”Kazmaier 说。“坦白说,这正是我们看到客户在尝试通过直接访问原始数据来构建 DIY AI 时所面临的困境——安全性模型的丰富性丢失了,结果变得过于宽泛。”
Workday 于 3 月推出了 Sana(https://newsroom.workday.com/2026-03-17-Introducing-Sana-from-Workday-Superintelligence-for-Work-That-Finds-Answers,-Takes-Action,-and-Automates-Workflows),并扩大了与 Google 的合作,将其 Sana 代理记录系统引入 Gemini Enterprise(https://venturebeat.com/orchestration/google-and-aws-split-the-ai-agent-stack-between-control-and-execution)——因此基于 Sana 构建的代理在那里也可被发现。
## 构建精确性
Kazmaier 表示,他们面临的最大障碍是确保代理的准确性,尤其是对于人力资源和财务用户。
“几乎正确是不可接受的,”Kazmaier 说。“想想看,正确支付薪酬、完成账目结算或可靠地管理工作排班。”
这里评估准确性的难度比大多数 AI 场景都要高。策略配置、基于角色的安全机制和组织层级结构深度相互关联——一个小错误会被放大。而且与大多数生成式 AI 输出不同,人力资源和财务查询往往缺乏纠正循环。等到工资单处理错误或面试安排出错时,损害已经造成。
Workday 通过将 Gemini 作为基础推理层,并在其上添加其上下文引擎和业务流程逻辑来解决这个问题。Workday 还增加了验证和分类模型,在执行前对输出进行“审查”。
准确性和身份实际上是同一个问题:系统是否足够了解代理、授权人以及记录的当前状态,从而正确行动?
Workday 的优势在于,它能够从客户提供的数据中推断出其组织结构。第三方身份提供商(如 Okta)已经通过检查 Workday 来验证其信息,因此 Workday 的上下文成为许多企业的记录系统。Kazmaier 表示,Sana 自助服务代理使用 Gemini 作为对话界面来触发工作流。然后,用户通过 Workday 的身份和安全模型进行身份验证和授权。Sana 代理只会代表该用户行动,并只能在其当前权限范围内操作。
审计追踪遵循相同的逻辑:Gemini 仅保留交互日志,而主要审计日志保留在 Workday 及其客户内部。
对于人力资源和财务领域的许多从业者而言,代理记录系统中的权限和治理层在受监管领域中至关重要。
“它必须存在于记录系统中,这不是偏好问题,而是唯一可行的方式,”Würk 产品总监 Dan Obendorfer 在一封发给 VentureBeat 的电子邮件中表示。“如果你的权限定义在数据实际存储位置之外的某个地方,那你就已经输了。”
Compance.AI 的首席技术官兼联合创始人 Kadan Stadelmann 也独立提出了同样的观点。“如果没有代理的所有权、性能、成本或操作,混乱就会产生。”
相似文章
AI代理的真正瓶颈或许在于证明身份
文章指出,智能不再是AI代理的主要瓶颈;相反,在自主操作获得信任之前,证明代理的身份、权限和问责制才是关键挑战。
我认为大多数“AI agent”项目失败是因为人们跳过了乏味的权限层
作者认为,成功的AI agent产品需要一个健壮的权限系统,包括只读、草稿、审批、有限执行和审计层,优先考虑安全性而非表面的神奇效果。
你们当中那些在生产环境中运行AI代理的人——实际上是如何管理它们的权限的?
本文探讨了工程师如何管理生产环境中AI代理的权限,强调了普遍存在的权限过大和缺乏审计追踪的问题。
按治理层而非功能列表划分的AI智能体管理工具
分析指出,大多数企业AI智能体安全投资集中在模型层护栏和可观测性,在访问层和协议层留下了关键缺口。援引2026年报告,75%的企业AI智能体仍处于未保护状态,原因是这些层的覆盖面几乎为零。
企业AI的下一个失败模式不是提示词。而是所有权、工具访问和过度信任代理。
文章认为,企业AI的下一个失败模式将源于代理工作流的所有权不明确和过度信任,而非模型故障,并引用了被投毒的MCP工具和缺乏监控的例子。