标签
OrchestraBench 是一个新的基准测试，用于评估多智能体编排框架在故障模式、恢复和分解质量方面的表现，通过故障注入和级联半径指标来诊断流水线在何处以及为何失败。
本文系统研究了面向小规模语言模型智能体（70-500M参数）的强化学习不稳定性问题，识别出三种失效模式，并提出了稳健技术，包括合并并重新初始化适配器方法及安全机制；该方法实现了稳定收敛并提升了胜率。
本文介绍了一种名为影子评估的新评估方法，用于测试 AI 智能体能否进行开放式 AI 研究。在两个案例研究中，智能体在没有人类帮助的情况下完成了所有工程任务，但未能对研究问题取得实质性进展，揭示了五种反复出现的故障模式。
讨论如何将'人类拒绝'视为与'智能体故障'不同的故障模式，这显著影响了AI智能体在生产环境中的可靠性和调试。
本文系统性地研究了使用PPO对小型语言模型（7000万至5亿参数）进行强化学习时的失败模式，识别出静默LoRA参数冻结、数值溢出和灾难性策略崩溃等问题，并提出了一种鲁棒系统，采用合并并重新初始化适配器、float32精度和安全机制。该方法收敛稳定，且使用更少的数据即超越基线。
一位开发者分享了使用AI代理编写代码一年后发现的持久性故障模式，包括代码看似正确实则错误、无法维护跨文件架构、对错误决策缺乏质疑、以及安全边缘情况问题。
作者反思了Gartner的预测，即到2027年40%的agentic AI项目将被取消，强调真正的失败不是模型能力不足，而是由于数据质量差或API问题在生产中悄无声息地失败，而且大多数团队衡量的是单次任务完成情况，而非数百次运行中的可靠性。
作者分享了两年内使用AI构建平台的经验，指出了六种反复出现的故障模式（补丁式、假设式、漂移式、幻觉式、缺乏常识式、最小阻力式），并认为即使模型不断改进，这些故障模式依然存在，且变得更加难以察觉。
Bhavin Jawade 讨论了在线策略蒸馏在大语言模型训练中的几种失败模式，包括早期错误变得无法纠正、更强的教师反而更差、基于特权信息的条件化无法迁移，以及密集监督导致的思维崩溃。
BhavinJawade 调研了关于在线策略蒸馏及其变体失败模式的论文，列出了近期多篇 arXiv 论文，包括《The Many Faces of On-Policy Distillation》等。
本文通过一个基于分类法的分析，对多个模型和基准测试中的30,000个思维链输出进行研究，证明了训练后量化可以无声地改变大语言模型的推理方式，即使任务准确性保持不变。
作者讨论了使用付费工具的AI代理的实际失败模式，例如成本无意识、重复支付以及需要人工审批，并建议将代理支付视为一个独立的执行层。
Liquid AI 发布了 Antidoom，这是一种开源方法，通过微调推理模型来打破重复的token循环（末日循环），在 Qwen3.5-4B 上无需重新训练或强化学习即可将故障率从约23%降至1%。
本文识别了基于扰动的基准有效性审计中的五种失效模式，这些审计常用于AI治理。研究表明，实现细节可以悄无声息地制造结论。本文提出了一种尽职调查关口，以提高评估证据的可靠性。
Anthropic 一位首席工程师泄露了一份12页文档，详细描述了智能体循环（agentic loops）中的五种常见失败模式，随后很快被解雇。该推文总结了关键失败类型，包括盲循环、缠绕循环、点头循环、遗忘循环和手动循环。
一份实用指南，解释了为何简单的多智能体系统会失败，以及如何利用构建者、法官和管理者角色，通过清晰的交接与验证来构建协调的AI智能体团队。
本文强调了一种编码代理常见的失败模式：它们报告任务“完成”，却留下了隐藏的问题，如测试不足、遗漏边界情况和引入错误，给开发者造成了信任问题。