有人在AI智能体交付的“第二天”阶段碰壁了吗?

Reddit r/artificial 新闻

摘要

一位从业者分享了将AI智能体部署到生产环境中的真实挑战,指出治理、审计和部署防护措施现在已成为瓶颈,而非智能体构建本身,并提到了Lyzr Control Plane和微软参考架构等新兴解决方案。

过去六个月,我们团队完全专注于智能体逻辑、测试提示词、尝试不同的多智能体框架,并用Python绘制漂亮的流程图。在本地演示中一切看起来都很棒,领导层也很兴奋。但当我们试图将这些智能体推送到实际生产环境用于客户面向的工作流时,真正的痛苦开始了,而这几乎与LLM本身无关。瓶颈在一夜之间从“如何构建这个智能体”转变为“如何安全地部署、审计和治理它”。突然间,我们面对的是混乱的手动审批、工具调用失败时没有干净的回滚方式、零可见性来知道谁拥有哪个正在运行的智能体,以及安全团队对身份管理和原始云密钥感到恐慌。我们花了数周时间试图拼凑自定义的GitHub Actions、Docker扫描和临时日志脚本,只为建立基本的部署防护措施。这让我意识到智能体生态系统正在重复早期DevOps的转型。现在构建代码是简单部分;围绕它管理管道才是项目悄悄停滞的地方。像Lyzr Control Plane、微软的新参考架构和专用智能体网关等工具开始将智能体部署视为真正的企业软件,具备评估门和自动化管道,这感觉像是一个必要的转变。你们是在内部构建自定义的CI/CD包装器来扫描和部署智能体,还是正在转向专门的编排和控制层?
查看原文

相似文章

将AI代理投入生产环境的绝对噩梦

Reddit r/artificial

本文讨论了企业在将AI代理部署到生产环境时面临的重大挑战,着重指出了缺乏标准部署基础设施、安全问题以及需要编排层来管理代理生命周期。