生产环境中的多智能体:在实践中是什么样的,你们又放弃了哪些做法?
摘要
一篇社区讨论帖,询问实践者生产环境中的多智能体 LLM 系统究竟是什么样的——他们采用了哪些架构、放弃了哪些方案,以及如何处理流程控制、评估和人工介入。
我看到的大多数多智能体内容都是“一个编排器生成一堆智能体,然后它们彼此交流”。我怀疑这主要是在消耗 token,而且很难调试,但我想听听真正运行这类系统的人的经验,尤其是有真实用户或内部流程依赖这些系统的人。我说的“多智能体”,是指任何超出单个带工具的 LLM 循环的系统:固定流水线、路由器、监督者模式,或你正在运行的其他架构。核心问题:你的系统是什么样的(流水线、路由器、监督者,还是其他形式)?流程由谁控制:你的代码(图/状态机),还是 LLM?你一开始就用了多个智能体,还是先用了一个智能体加工具?如果后来才拆分,是什么限制迫使你这么做(上下文大小、工具过多、准确性、延迟)?你尝试过哪些方案,又因为成本太高、不稳定或难以维护而放弃了?如果你有时间:人类在哪些环节参与流程(审批、升级处理、审核队列)?你如何进行跨智能体的评估和链路追踪?
相似文章
是否有人在生产环境中部署了多智能体AI员工?
关于在生产环境中部署多智能体AI系统的讨论,其中不同的智能体负责规划、执行、沟通和项目管理,询问实际经验与瓶颈。
多智能体系统是否已准备好投入生产?
一位开发者分享了对多智能体系统的挫败感,指出它们比单智能体系统复杂得多,且结果往往更差,并寻求关于协调和减少复杂性的工具建议。
有人想了解先进公司是如何在实际生产环境中运行AI代理的吗?
作者在一家AI基础设施公司工作,观察到在实际生产环境中运行AI代理更多是关于环境、访问控制、隔离和安全状态管理,而非模型本身,并询问社区是否想要详细的架构模式。
一个真正的多智能体系统的运行时架构是什么样的?
对生产中多智能体AI系统运行时架构的实践性探讨,涉及编排、记忆、状态性以及Temporal、LangGraph和自定义方法等工具选择。
有没有人真正在生产环境中使用AI代理(面对真实用户,不是演示,也不是10个测试用户)?你的技术栈是什么?有没有人在尝试将代理用于生产后又回归传统代码——为什么?
一个讨论贴,询问关于拥有100+用户的真实AI代理部署情况,涉及技术栈和扩展问题,以及回归传统代码的经验。