标签
该论文提出 ExecutionRAG,一种无需训练的需求寄存器机制,用于分析多跳 RAG 中 LLM 未能检索到证据的原因,发现许多检索失败实为搜索漂移,并指出剩余瓶颈从搜索引导转向证据充分性验证。
我们提出了 ToolBottleneckBench,这是一个在受控压力条件(工具目录、可见菜单、经认证的工作流、记录编码)和固定测试框架预算下衡量工具智能体性能的基准。研究发现,只有可见工具菜单会显著降低模型表现——主要是由于截断——而大多数失败都发生在达到测试框架限制时。
OmicsBench 提出了一个长时程、多轮次基准,包含 97 个采用有向无环图(DAG)结构的生物信息学任务(共 662 个子任务),用于在研究项目规模的工作流程中评估 AI 智能体,揭示了显著的性能差距,并引入了一套无监督失败模式发现流程。
RoboQuest 提出了一个面向移动操作中目标导向具身探索的基准测试,对前沿多模态智能体在搜索、检查和交互测试任务上的表现进行评估。结果显示,表现最好的智能体仅在 23% 的回合中成功,失败主要归因于过早停止探索,而非执行能力不足。
该论文提出了一种差分分析框架,用于归因 LLM Agent 中由技能(skill)引发的功能性失败与效率回退,引入了 SkillTriage 方法,并发现表面上相关的技能是导致功能性失败以及过度验证/流程开销的主要原因。
这是一篇 DocInsights 2026 共享任务的系统论文,介绍了 EviCalc——一个 PDF 文档问答流水线,将证据段落选择与 LLM 生成的算术表达式(在本地代码中执行)相结合。论文报告了 EviCalc 在 DocSem 测试集上 8.61% 的联合准确率,并给出了描述性的失败分析,包括 OCR 错误和块分组错误导致相关段落被错误合并的问题。
论文提出 Agent Error Dataset(AED),包含 50,228 个错误-诊断对,覆盖 33 个环境与 23 个策略模型,并通过 AET 流水线用于失败分析与错误感知的后训练,显著提升修正通过率与诊断准确率。
Big Mess O Wires 发布了对 70 块 QA 测试不合格的 Floppy Emu 主板的详细故障分析,逐一剖析了根本原因:时钟晶振损坏(42 块)、脆弱的 Xilinx CPLD 芯片(6 块)、未编程的微控制器(5 块),以及各类焊接与装配问题。
运行一个由OpenClaw和GLM 5.3 Flash驱动的Discord代理23小时,导致在1M上下文窗口约65%处出现故障,暴露了重负载下的缓存和模型性能问题。
本文提出全面的分类体系,用于分析医疗人工智能中基于检索的事实性评估失败,揭示了检索-然后-验证范式的基本局限性,这些局限性在模型扩展和微调后仍然存在。
作者描述了使用仅iPhone和AI工具如ChatGPT构建小型业务运营系统的过程,详细说明了架构,并寻求关于潜在故障模式的反馈。
作者比较了两个用于本地代理席位的9B模型,发现其中一个模型会静默失败,将工具调用写成普通文本并犯其他绕过检测的错误,强调了测试不同故障模式的必要性。
作者讨论了调试AI代理评估失败时的常见挑战,寻求关于高效调查方法以及比较运行与其他证据来源可靠性的见解。
一位操作专业人员用相同任务测试了八个AI代理平台,发现只有两个成功完成,并强调了代理在失败时报告成功的问题,建议验证输出目标是关键。
作者构建了Global Fail Map,这是一个开源交互式工具,记录了科学、技术和商业领域的历史失败案例,旨在为AI代理和开发者提供研究层。
本文探讨了团队通常单独修复不良AI输出的做法无法扩展。文章主张记录失败情况以识别模式,从而实现系统性改进,而非临时补救。
Anthropic 使用一种方法,多次并行运行同一AI智能体,保留成功的运行,分析失败,并迭代改进流程以提升性能。
Filip Panoski 分享了他七年构建失败的 SaaS 副项目的历程,强调了决定转型、坚持或放弃项目以最终找到成功的重要性。
AutoSaddler是一个自动套件优化框架,通过使用失败信号迭代更新套件,提升LLM智能体在长期任务上的表现,在GAIA2和SWE-Bench等基准测试中实现了显著提升。
这篇文章批评了AI辅导聊天机器人Khanmigo的失败,认为其设计作为‘说教式教学’工具存在根本缺陷,并对比了通过制作和探索进行的有效学习。