难以启齿的真相：是不是有人也觉得 AI 智能体在实际工作流中太不可靠了？
摘要
一位从业者分享了对 AI 智能体在多步骤工作流中不可靠性的沮丧，指出生产环境失败率高达 70-95%，加上漂移和静默失败问题，导致知识工作者普遍对其缺乏信任。
我一直在尝试和开发 AI 智能体，说实话，它的可靠性快把我逼疯了。只要是多步骤的任务，能不能正确完成全凭运气，感觉随时可能在第三步悄悄崩掉。你们是真的在生产环境里跑自主智能体处理实际工作，还是大家都在撞同一堵非确定性的墙？还有别人遇到漂移和静默失败的问题吗？我看到一组数据：目前的 AI 智能体普遍被认为无法胜任自主的多步骤任务。生产环境的失败率在 70% 到 95% 之间，约 62% 的知识工作者认为它们不可信，因为错误不断累积、静默失败频发，经常打断长周期的工作流。
相似文章
AI智能体在实际工作流中真正失败的地方（非演示环境）
讨论AI智能体在实际工作流中失败的地方，重点指出协调问题、混乱输入下的可靠性问题，以及在生产中减少人工干预的挑战。
AI agents初体验令人惊艳，但工作流一乱就麻烦不断
对AI agents的反思：在狭窄的监督任务中令人印象深刻，但由于会话过期、上下文漂移和静默失败等问题，在长期运行、混乱的工作流程中显得脆弱且不可靠。
团队在信任AI代理用于实际工作流程之前应问什么问题？
本文提出了团队在信任AI代理用于实际工作流程之前应考虑的关键问题，重点关注可靠性、责任感和正确性。
我认为很多人低估了不可靠 Agent 的成本有多高
作者指出，不可靠 AI Agent 的隐性成本在于持续人工监控所带来的认知开销，并强调在实际落地中，可预测性与环境稳定性远比模型的原始智能更重要。当 Agent 运行在受控且经过验证的环境中，而非充满不确定性的环境时，实际工作流的效率将得到显著提升。
AI相关可靠性事件频发
本文探讨了使用AI代理处理运维任务（如值班工作）的兴起趋势，但警告其复杂性可能导致意外可靠性事件，并引用了安全会议上的近期演讲和案例。