在AI代理投入生产之前，还缺少哪些基础设施？
摘要
关于运行AI代理所需基础设施缺失的讨论，包括监控、权限、恢复和审计追踪，质疑这是否会成为新的基础设施类别。
现在很多AI代理的演示令人印象深刻，但我一直在想，当这些系统进入真正的生产工作流程时，会出现什么问题。难点可能不再仅仅是：“代理能否完成任务？”而可能是：代理在哪里运行？如何监控？谁批准高风险操作？如何从故障中恢复？日志、权限和审计追踪如何处理？长时间运行的任务出错时该怎么办？对于正在构建或部署代理的人来说：你们是在用内部工具解决这些问题，还是使用现有的工作流/编排平台，或者认为这会成为一个新的基础设施类别？很好奇目前整个体系中哪个部分最让人头疼。
相似文章
我们是否缺少一个面向AI智能体的运维层？
本文探讨了AI智能体在生产环境中运维工具的缺失，重点关注错误处理、状态重放、安全性和审批流程等挑战。
AI 代理在无人值守运行时，实际基础设施配置如何？
这是一个关于运行无人值守 AI 代理的基础设施配置的讨论，涵盖了执行环境、工具管理、密钥管理、版本控制、故障处理和调度等方面。
大规模在生产环境中运行AI代理——你遇到了哪些痛点，哪些方法真正有效？
讨论大规模在生产环境中部署AI代理的挑战和成功策略，涵盖常见痛点与有效解决方案。
在生产环境中，你们如何跟踪AI智能体的实际行为？
本文重点介绍了团队在监控生产环境中AI智能体时面临的挑战，尤其涉及合规性和健康状况，并邀请探讨当前实践与不足之处。
有人想了解先进公司是如何在实际生产环境中运行AI代理的吗？
作者在一家AI基础设施公司工作，观察到在实际生产环境中运行AI代理更多是关于环境、访问控制、隔离和安全状态管理，而非模型本身，并询问社区是否想要详细的架构模式。