为什么一旦智能体调用其他智能体,智能体防护栏和权限映射就会失效?

Reddit r/AI_Agents 新闻

摘要

本文讨论了在多智能体AI系统中,当智能体调用其他智能体时,管理权限和防护栏的挑战,强调需要能在混合环境中工作且无需重写智能体的可扩展工具。

一旦智能体开始编排其他智能体或基于上下文动态调用工具,简单的IAM很快变得混乱。单个顶层权限授予无法告诉你链条下游三跳实际发生的事情。我们正在尝试构建一个真正的权限映射,而不仅仅是'这个智能体有API访问X',而是跨委托调用的工具和数据的实际可达图。手动进行在超过少数几个智能体后就无法扩展。混合环境使情况更糟。自研智能体、SaaS智能体、云原生智能体,每个暴露权限的方式不同,将它们整合成一个连贯的映射本身就是一个项目。是否有人使用真正的工具来做这件事,而不是在一周内就过时的文档?特别感兴趣于不需要重写每个智能体来发出权限遥测的方法,因为在混合技术栈中这不现实。
查看原文

相似文章

如何在运行时强制执行智能体的安全护栏?

Reddit r/AI_Agents

一位从业者询问团队如何在运行时对自主智能体强制执行安全护栏,而不是依赖无法落地的政策文档,涉及智能体何时应自主行动、何时需要人工审批才能操作生产数据和执行外部操作。

为管理生产环境 AI 智能体的工程师而写

Reddit r/AI_Agents

一篇工程领域的讨论,探讨如何在 AI 智能体已经部署到生产环境后修改它的权限和授权范围,对比了配置部署、IAM/RBAC、Cedar 和 OPA 等策略引擎,以及网关/代理层等不同方案。