我们从3个AI代理开始。现在我意识到我们无意中构建了一个小型分布式系统。

Reddit r/AI_Agents 新闻

摘要

作者反思了管理多个AI代理在扩展时的挑战,将其与微服务中的基础设施问题进行比较,并提到了像Lyzr这样的集中管理工具。

我们从三个AI代理开始。一个处理支持工单,一个从内部工具拉取数据,另一个基本上是一个特定工作流的助手。没什么特别的。然后人们开始制作更多。几周后,我们到处都是代理。不同的提示词、不同的工具、不同的版本、不同的人负责它们。这时我才恍然大悟……困难不再是构建代理了。而是要知道到底在运行什么。一个代理有一个旧的工具权限,没人记得给过它。另一个已经更新了两次,但文档还描述着第一个版本。有人问我一个代理使用的是哪个模型版本,我不得不翻遍三个不同的地方才找到答案。这和“如何构建代理?”是完全不同的问题。它开始更像是基础设施问题。我一直在尝试为实际的代理定义使用基于Git的工作流,最近遇到了一个专门用于集中管理代理的“控制平面”的想法。我偶然发现了一个来自Lyzr的实现,这让我思考代理基础设施是否会成为技术栈中的一个独立层。感觉有点像微服务的早期日子……起初,5个服务感觉完全可控。突然间,你有50个,急需一张地图。好奇是否有人也达到了代理的这个阶段。当代理数量超过几个后,你的设置是什么样的?
查看原文

相似文章