AI 代理不是用户，那么我们为什么给它用户凭证？
摘要
本文质疑为 AI 代理授予用户凭证的做法，并提出一个更细粒度的身份系统，以提高生产环境中的安全性和问责性。
在观察代理如何被授予访问 GitHub、Jira、Slack、数据库 MCP 工具等服务时，我一直思考这个问题。一个简单的模式似乎是：用户 → 代理 → 工具。因此，代理只是继承了属于用户的权限。然而，当代理：在用户离开后继续运行、按计划运行、将任务委托给另一个代理、对单个请求执行超过五十个操作时，会发生什么？在那个时刻，我不确定仅用户身份是否足够。拥有用户 ID + 代理 ID + 任务/会话 ID 是否更合逻辑？这样我们可以回答诸如以下问题：谁发起了这个？哪个代理实际执行了操作？赋予了什么权限？我能否在不撤销用户权限的情况下撤销该代理？我一直在研究各种方法，如 Lyzr 的 Control Plane、SailPoint 的 Agentic Fabric、Fiddler 以及多个供应商原生堆栈，它们似乎都针对问题的不同方面。我很好奇，在生产环境中人们在做什么：你们的代理拥有自己的身份，还是主要依赖委托的用户凭证？
相似文章
我们是否需要对AI智能体进行身份验证？
本文探讨了随着智能体间工作流和自主系统日益普及，对AI智能体进行身份验证和权限管理的新兴需求，并提出了签名工具清单和智能体证书等概念。
智能体需要身份标识
文章认为，当AI智能体在共享工作空间中自主执行操作时，必须为每个操作明确归属到智能体及其负责的人类，以确保监督和信任。没有适当的身份和审计追踪，团队无法安全地将更复杂的任务委托给智能体。
我认为大多数AI代理的安全性远低于其开发者的预期
文章认为，AI代理安全常被过度强调，尤其是对提示注入的关注，而忽视了更广泛的风险，如未授权工具使用、数据访问和金融交易。它呼吁更多地关注代理在生产环境中实际可能被操控执行的任务。
AI代理的真正瓶颈或许在于证明身份
文章指出，智能不再是AI代理的主要瓶颈；相反，在自主操作获得信任之前，证明代理的身份、权限和问责制才是关键挑战。
AI 智能体开始干正事了。但收据在哪？
文章指出了一个日益严重的问题：AI 智能体可以执行复杂任务，但其工作难以检查、信任和交接。作者提出了一种“工作凭证”系统，以提供透明、可分享的证明，展示智能体执行了哪些步骤、使用了哪些来源以及置信度，旨在帮助非技术用户自信地使用代理式 AI。