AI智能体在实际工作流中真正失败的地方（非演示环境）
摘要
讨论AI智能体在实际工作流中失败的地方，重点指出协调问题、混乱输入下的可靠性问题，以及在生产中减少人工干预的挑战。
大多数AI智能体的演示看起来很惊艳，因为它们是在受控环境中成功的——步骤清晰、API稳定、任务定义明确。但当你将它们放入实际工作流时，失败点变得更有趣。在实践中，智能体的瓶颈更多在于协调而非“智能”。处理部分信息、从工具错误中恢复、决定何时停止或继续、以及在更长的任务链中保持上下文——这些往往是率先出问题的地方。我注意到的另一个模式是：自主性并非主要瓶颈。真正的挑战在于混乱输入下的可靠性，尤其是当用户期望类似人类的判断，而系统依然基于概率步骤运行时。很好奇这里其他人是如何在生产中评估智能体的：你们衡量成功的依据是任务完成率、对边缘情况的鲁棒性，还是在执行过程中仍需要多少人工干预？
相似文章
生产环境中的AI代理：演示中绝不会提及的失败模式
对在生产环境中部署AI代理的真实挑战的实用深度剖析，涵盖演示与可靠系统之间的差距、提示注入等攻击面，以及安全自主性的设计原则。
AI代理的失败方式鲜有人论及。以下是我亲眼所见。
文章强调了AI代理工作流程中实际的系统级失败，例如上下文泄漏和幻觉细节，认为这些通常是基础设施问题而非模型缺陷。
有没有人也觉得AI代理在事情变得复杂之前都表现得很惊艳？
对AI代理令人印象深刻的演示和可靠的实际执行之间差距的反思，认为当前代理擅长结构化任务但在不可预测条件下会失败，并指出近期AI角色将主要集中于带人类监督的窄范围自动化。
AI 智能体开始暴露出大多数工作流程原本就已支离破碎的事实
文章认为，AI 智能体揭示了企业工作流程实际上是多么缺乏结构和混乱不堪，暗示成功的自动化更多取决于整洁的系统和完善文档，而非先进的模型。
AI代理能否在没有人类干预的情况下切实自动化复杂工作流程？
关于AI代理是否能在没有持续人工监督的情况下可靠地自动化复杂、多步骤工作流程的讨论，询问当前的限制和经验。