20个代理之后,我们终于承认自己不知道公司里到底有多少代理
摘要
一家公司分享了他们在组织内部追踪AI代理的困难,最终开发了一个代理注册表,用于解决可发现性、访问控制、日志和使用指标等问题,并最终采用了TrueFoundry的解决方案。
毫不夸张地说,当我们试图为安全审查做盘点时,发现了一些已被开发、部署但被已换团队的人遗忘的代理。没有负责人,没有文档,仍在运行,仍持有生产环境凭据。促使我们修复的并非“想要更好的工具”,而是“我们无法回答基本问题”:哪些代理可以访问客户数据?哪些实际在运行,哪些已被遗弃?如果某个代理开始出问题,凌晨2点该找谁?代理注册表最终需要妥善回答四个问题:可发现性(真正的目录,而非口口相传的知识)、访问控制(谁可以调用什么)、跟踪/日志(这个代理实际做了什么、何时、代表谁)以及基本使用指标(这个东西是否还在运行)。这四个方面缺一不可,否则你只是做了一个更漂亮的电子表格。我们先内部拼凑了一个版本,但后来评估了几家供应商的解决方案,因为问题显然不会自行消失。最终我们选择了TrueFoundry的代理注册表,因为它涵盖了全部四个维度,我们不用再自己维护胶水代码。这并非唯一选择,只是最符合我们已意识到自身需求的那个。毕竟……有人遇到过同样的情况吗?你们现在如何管理代理清单?
相似文章
当公司拥有100个AI代理时会发生什么?
本文探讨了在企业环境中管理多个AI代理所面临的挑战,强调需要全面的清单和监督以防止代理蔓延。
如今AI代理太多,却没有干净的方式来展示我们构建的成果
本文强调了在分散平台上管理和展示众多AI代理日益严重的问题,并介绍了HiFlixy作为创建有组织、可共享代理作品集的解决方案。
MIT的研究人员记录了各大实验室正在部署的30个AI智能体。其中只有4个有公开文档说明该智能体的功能、不能做什么以及发生故障时的处理方式。
MIT研究人员编制了2025年AI Agent Index,记录了来自主要实验室的30个已部署的AI智能体,然而只有4个提供了公开文档,解释智能体的功能、局限性及故障模式,揭示了重大的透明度缺口。
构建智能体的难点不在于开发一个,而在于运维五个。
本文讨论了在生产环境中运行多个AI智能体的运维挑战,强调可观测性、恢复与会话管理,而非单个智能体的初期开发。
我查阅了396家金融科技公司的公开AI声明,只有143家能展示真正执行操作的智能体
对396家欧洲金融科技公司公开AI声明的分析发现,只有36%的公司展示了在生产环境中采取真实行动的智能体证据,其余都是Copilot。文章指出,关于生产智能体错误操作的事故处理机制几乎没有公开信息。