有谁在生产环境中运行经过恰当编排的AI代理?
摘要
一位开发者寻求推荐用于多代理AI工作流程的生产编排工具,支持分支、重试和人在环审批,因为他们当前基于FastAPI的解决方案已变得难以维护。
我们有一个多代理设置,不同的LLM处理管道中的不同部分:分类、提取和人工审核循环。目前,编排是通过一个FastAPI应用实现的,里面有大量的if/else和try/except语句块,已经变得难以维护。重试逻辑很粗糙,运行失败的位置没有可见性,每次添加新的代理步骤都需要修改意大利面条式代码。我需要一个能够处理多步骤AI工作流程的工具,支持分支、重试,并理想情况下支持人在环审批,而无需从头编写编排逻辑。人们在生产环境中用什么来实现?
相似文章
贵公司使用哪个平台满足AI代理的可观测性和可靠性需求?
一位构建多代理金融工作流的开发者寻求社区关于生产环境中AI代理可观测性和可靠性工具的建议,分享了对碎片化现状和级联故障的困扰。
是否有人在生产环境中部署了多智能体AI员工?
关于在生产环境中部署多智能体AI系统的讨论,其中不同的智能体负责规划、执行、沟通和项目管理,询问实际经验与瓶颈。
当底层业务流程存在问题,如何在生产工作流中扩展AI代理?
一位实践者分享了在生产环境中扩展多智能体AI系统所面临的挑战,包括处理影子工作流(未记录的Slack线程和电子表格)、跨系统(ERP到CRM)的上下文丢失,以及跨部门所有权问题。他们向经历过这些现实问题的人寻求建议。
"在什么情况下添加另一个代理实际上会损害您的系统?问这个是因为我的6代理流水线比旧的2代理流水线更慢且更不可靠"
一位开发者分享了使用AI编排框架(LangGraph, CrewAI, AutoGen)的真实体验,指出了原型设计便捷性与生产可靠性之间的权衡,并向社区询问如何处理失败、人机协同和Token成本问题。
在生成环境中运行AI代理:如何控制它们实际允许执行的操作?
一位开发者寻求关于如何在生产环境中控制和约束AI代理行为的建议,特别是当它们与真实系统(如数据库和客户数据)交互时,询问当前实践情况以及这是否是一个已知的难题。