failure-analysis

标签

Cards List
#failure-analysis

超越检索失败:理解大语言模型为何在多跳 RAG 中遗漏证据

arXiv cs.CL ↗ · 2026-10-16 缓存

该论文提出 ExecutionRAG,一种无需训练的需求寄存器机制,用于分析多跳 RAG 中 LLM 未能检索到证据的原因,发现许多检索失败实为搜索漂移,并指出剩余瓶颈从搜索引导转向证据充分性验证。

0 人收藏 0 人点赞
#failure-analysis

ToolBottleneckBench:在受控压力和固定测试框架预算下衡量工具智能体的性能

arXiv cs.CL ↗ · 2026-10-16 缓存

我们提出了 ToolBottleneckBench,这是一个在受控压力条件(工具目录、可见菜单、经认证的工作流、记录编码)和固定测试框架预算下衡量工具智能体性能的基准。研究发现,只有可见工具菜单会显著降低模型表现——主要是由于截断——而大多数失败都发生在达到测试框架限制时。

0 人收藏 0 人点赞
#failure-analysis

OmicsBench:面向研究规模生物信息学任务的 AI 智能体长时程多轮基准测试

arXiv cs.AI ↗ · 2026-10-16 缓存

OmicsBench 提出了一个长时程、多轮次基准,包含 97 个采用有向无环图(DAG)结构的生物信息学任务(共 662 个子任务),用于在研究项目规模的工作流程中评估 AI 智能体,揭示了显著的性能差距,并引入了一套无监督失败模式发现流程。

0 人收藏 0 人点赞
#failure-analysis

RoboQuest:能够搜索、检查和测试的通用物理智能体

Hugging Face Daily Papers ↗ · 2026-10-07 缓存

RoboQuest 提出了一个面向移动操作中目标导向具身探索的基准测试,对前沿多模态智能体在搜索、检查和交互测试任务上的表现进行评估。结果显示,表现最好的智能体仅在 23% 的回合中成功,失败主要归因于过早停止探索,而非执行能力不足。

0 人收藏 0 人点赞
#failure-analysis

@dabit3: https://x.com/peterpme/status/2100947795788128297… https://arxiv.org/html/2608.11888v1… https://x.com/robinebers/status…

X AI KOLs Timeline ↗ · 2026-10-05 缓存

该论文提出了一种差分分析框架,用于归因 LLM Agent 中由技能(skill)引发的功能性失败与效率回退,引入了 SkillTriage 方法,并发现表面上相关的技能是导致功能性失败以及过度验证/流程开销的主要原因。

0 人收藏 0 人点赞
#failure-analysis

证据优先,算术其次:DocSem 的系统报告与失败案例分析

arXiv cs.CL ↗ · 2026-10-01 缓存

这是一篇 DocInsights 2026 共享任务的系统论文,介绍了 EviCalc——一个 PDF 文档问答流水线,将证据段落选择与 LLM 生成的算术表达式(在本地代码中执行)相结合。论文报告了 EviCalc 在 DocSem 测试集上 8.61% 的联合准确率,并给出了描述性的失败分析,包括 OCR 错误和块分组错误导致相关段落被错误合并的问题。

0 人收藏 0 人点赞
#failure-analysis

Agent Error Dataset:扩展 50,000 组错误—诊断对,用于失败分析与错误感知的后训练

Hugging Face Daily Papers ↗ · 2026-09-30 缓存

论文提出 Agent Error Dataset(AED),包含 50,228 个错误-诊断对,覆盖 33 个环境与 23 个策略模型,并通过 AET 流水线用于失败分析与错误感知的后训练,显著提升修正通过率与诊断准确率。

0 人收藏 0 人点赞
#failure-analysis

Floppy Emu 硬件故障分析结果

Hacker News Top ↗ · 2026-09-29 缓存

Big Mess O Wires 发布了对 70 块 QA 测试不合格的 Floppy Emu 主板的详细故障分析,逐一剖析了根本原因:时钟晶振损坏(42 块)、脆弱的 Xilinx CPLD 芯片(6 块)、未编程的微控制器(5 块),以及各类焊接与装配问题。

0 人收藏 0 人点赞
#failure-analysis

我运行Francis作为1M上下文Discord代理23小时,并在上下文窗口65%时目睹它彻底失控

Reddit r/openclaw ↗ · 2026-09-29

运行一个由OpenClaw和GLM 5.3 Flash驱动的Discord代理23小时,导致在1M上下文窗口约65%处出现故障,暴露了重负载下的缓存和模型性能问题。

0 人收藏 0 人点赞
#failure-analysis

基于检索的开放式评估在何处失败?从长篇医疗答案事实性验证中自动归纳分类体系

arXiv cs.CL ↗ · 2026-09-28 缓存

本文提出全面的分类体系,用于分析医疗人工智能中基于检索的事实性评估失败,揭示了检索-然后-验证范式的基本局限性,这些局限性在模型扩展和微调后仍然存在。

0 人收藏 0 人点赞
#failure-analysis

我构建了一个仅限iPhone的AI操作系统。什么会最先崩溃?

Reddit r/AI_Agents ↗ · 2026-09-27

作者描述了使用仅iPhone和AI工具如ChatGPT构建小型业务运营系统的过程,详细说明了架构,并寻求关于潜在故障模式的反馈。

0 人收藏 0 人点赞
#failure-analysis

我在本地代理席位中换上了一个“更好”的9B模型。在80次尝试中,它有5次将工具调用静默地写成了普通文本。

Reddit r/AI_Agents ↗ · 2026-09-27

作者比较了两个用于本地代理席位的9B模型,发现其中一个模型会静默失败,将工具调用写成普通文本并犯其他绕过检测的错误,强调了测试不同故障模式的必要性。

0 人收藏 0 人点赞
#failure-analysis

当你的AI代理评估检测到失败时,你实际会怎么做?

Reddit r/AI_Agents ↗ · 2026-09-26

作者讨论了调试AI代理评估失败时的常见挑战,寻求关于高效调查方法以及比较运行与其他证据来源可靠性的见解。

0 人收藏 0 人点赞
#failure-analysis

在八个AI代理平台上运行一次构建。两个完成。如何捕捉那些报告成功的失败?

Reddit r/AI_Agents ↗ · 2026-09-25

一位操作专业人员用相同任务测试了八个AI代理平台,发现只有两个成功完成,并强调了代理在失败时报告成功的问题,建议验证输出目标是关键。

0 人收藏 0 人点赞
#failure-analysis

我构建了一个开源研究地图:记录失败的科学、公司和被取消的大型项目

Reddit r/AI_Agents ↗ · 2026-09-14

作者构建了Global Fail Map,这是一个开源交互式工具,记录了科学、技术和商业领域的历史失败案例,旨在为AI代理和开发者提供研究层。

0 人收藏 0 人点赞
#failure-analysis

逐一审查单个AI输出无法扩展。审查失败模式才行,但几乎没人做后者。

Reddit r/artificial ↗ · 2026-08-31

本文探讨了团队通常单独修复不良AI输出的做法无法扩展。文章主张记录失败情况以识别模式,从而实现系统性改进,而非临时补救。

0 人收藏 0 人点赞
#failure-analysis

@0xNixxx: Anthropic 同时运行同一智能体10次以获得3个有效结果 运行10次 → 保留3次 → 分析7次失败 → 修复测试框架 → 再次运行 - …

X AI KOLs Timeline ↗ · 2026-08-30 缓存

Anthropic 使用一种方法,多次并行运行同一AI智能体,保留成功的运行,分析失败,并迭代改进流程以提升性能。

0 人收藏 0 人点赞
#failure-analysis

@FilipPanoski: SaaS 最难的部分:意识到没人想要你构建的东西。然后做出决定:→ 转型 → 坚持 → 放弃

X AI KOLs Following ↗ · 2026-08-29 缓存

Filip Panoski 分享了他七年构建失败的 SaaS 副项目的历程,强调了决定转型、坚持或放弃项目以最终找到成功的重要性。

0 人收藏 0 人点赞
#failure-analysis

AutoSaddler:基于智能体执行轨迹的持久化更新自动套件优化

Hugging Face Daily Papers ↗ · 2026-08-24 缓存

AutoSaddler是一个自动套件优化框架,通过使用失败信号迭代更新套件,提升LLM智能体在长期任务上的表现,在GAIA2和SWE-Bench等基准测试中实现了显著提升。

0 人收藏 0 人点赞
#failure-analysis

Sal Khan的AI教育工具为何失败:论通过实践学习与通过讲授教学的对比

Hacker News Top ↗ · 2026-08-23 缓存

这篇文章批评了AI辅导聊天机器人Khanmigo的失败,认为其设计作为‘说教式教学’工具存在根本缺陷,并对比了通过制作和探索进行的有效学习。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈