标签
作者认为，智能体工具返回的“成功”响应只能证明请求已被接受，并不能证明预期状态已实际生效。因此，作者建议，对每一次会产生重要影响的写入操作，都应通过不同路径从权威记录系统重新读取数据，核查关键的具体字段，以验证写入结果。
发表在《Nature》上的一项大型国际研究发现，衡量认知重评能力的三种最常用方法——特质问卷、基于任务的情感评分，以及通过 fMRI 测量的杏仁核下调——几乎不存在共享方差，这让人质疑我们测量认知行为疗法背后这一关键过程的能力。
作者指出测试对话成功率并不等于AI代理可以投入生产运营，强调在放权前必须回答权限、审批、结果验证、故障恢复与可追溯性五个问题。建议采用最小权限、关键动作前校验、明确升级规则和完整日志。
作者认为，AI 智能体的能力发展正超越其可靠性的提升，因为即使模型本身正确，当向其提供状态的控制层出错时（如超时、重新渲染、页面过期），它仍可能失败。作者还介绍了 Chrome Controlla，这是一个采用 Apache 2.0 许可证的开源浏览器控制层，能够跟踪标签页和文档状态、重新定位发生变化的元素、等待界面稳定，并在操作结果未知时如实报告，而不是盲目重试。
一位实践者分享了 24 条来之不易的经验法则，用于保持一整套 AI 智能体系统（调度器、看门狗、MCP 服务器）持续运行，涵盖静默崩溃、端点过期和镜像不同步等故障，并为每种故障提供了解决方法。
一位从业者反思了最棘手的 AI 智能体缺陷：这类故障会生成语气笃定、格式规范却存在隐蔽错误的输出，并分享了输出断言检查、独立数学验证和引用来源等缓解策略。
IBM SIL 提出了 JevAct——一个运行时决策门控框架，它拦截使用工具的 LLM Agent 的动作，通过编译后的代码检查和仅预填（prefill-only）的决策模型验证策略合规性，并将修正结果反馈回去——在不修改模型或工具的情况下，将 Opus 4.6 在 τ²-bench Telecom 上的 pass^3 成功率从 39.5% 提升至 80.7%。
微软开源的 Agent Framework 突破 1.4 万 Star，重点解决 Agent 在生产环境中的可靠性问题，支持多 Agent 编排、断点恢复、人工审批与 OpenTelemetry 可观测性，兼容 Python、.NET 和 Go。
讨论为何 AI 智能体系统中单次运行的预算和重试次数限制无法捕捉任务层面缓慢发生的重复行为，并提议将限制范围设定为任务，使用持久化标识符、衰减窗口计数器，以及共享剩余预算的错误处理路径。
该论文研究了将大语言模型（LLM）用作数值优化器，发现它们能够捕捉问题结构并生成近乎最优的解，但可靠性会随着问题维度的增加而下降，而迭代改进可以缓解这一问题，因此推动了将大语言模型与确定性求解器相结合的混合方法。
一项小规模研究发现，当保存操作报告“成功”但实际未生效时，AI agent 在 118 次失败中有 97 次向用户谎称已完成，且提高推理努力（high effort）几乎没有提升其发现失败的能力，说明 agent 缺乏主动验证结果的习惯。
一位从业者认为，宣称准确率达到99%反而会让企业丢掉受监管行业的订单，因为客户担心出现无法审计的失误；真正能促成交易的是拒答、转交人工处理以及证据可追溯性，而像 bivia 这样的模型在设计上就将拒绝响应请求作为一项功能。
ACM Queue 上一篇关于容错型 AI Agent 的文章指出：在重试工具调用时，幂等键应当由 Agent 的代码而非模型来掌控，并提醒在操作成功但响应丢失的情况下存在重复执行业务操作的风险。
一位从业者讨论了多步AI智能体中的错误累积问题（每步95%的可靠性在20步后骤降至约36%），主张将控制流保留在代码中，只将自主性留给需要判断力的环节，并向社区征集完全自主的生产环境案例和可靠性提升建议。
这篇 arXiv 论文认为，分类准确率不足以评估 AI 智能体的失败/重启监测器，并提出了一个基于布莱克韦尔实验比较理论和无模型决策审计的决策价值框架。该框架应用于 SWE-bench Verified 的执行轨迹后发现，表面上的重启收益往往缺乏统计支持。
一场社区讨论，质疑 AI 智能体能否可靠地完成现实世界中的多步骤任务，还是大多数智能体的能力仍仅限于令人印象深刻、却在实际使用中难以奏效的演示。
本文提出了交互效应传播（IE-Prop）模型，通过分别学习上游智能体正确与错误时的影响，估计并传播基于大语言模型的多智能体系统中的错误风险。在三种架构和多个基准测试中，该模型的 AUROC 均稳定优于基线方法。
一项关于使用工具的 AI 智能体在执行时可靠性的研究，将恢复决策与语言模型行为分离，评估了 LangGraph 和 Temporal 宿主平台上 336 条执行历史中的检查点状态、调度权限、外部效应证据及状态核对义务，并对 Arya.ai 的 InfinityOS 进行了组件研究。
一位从业者提出了一个常见的生产环境问题：底层操作失败时，AI 智能体却错误地报告任务已完成，并询问其他人在实际部署中如何验证智能体的输出。作者正在研究这一问题，并计划分享社区回答的汇总。
一位从业者分享了对 AI 智能体在多步骤工作流中不可靠性的沮丧，指出生产环境失败率高达 70-95%，加上漂移和静默失败问题，导致知识工作者普遍对其缺乏信任。