LongDS-Bench:关于长程自主数据分析的失败
摘要
LongDS是一个用于评估AI智能体在源自Kaggle笔记本的长程、多轮数据分析任务上的基准测试;实验表明,最佳模型仅能达到48%的准确率,且随着轮数增加准确率显著下降。
查看缓存全文
缓存时间: 2026/06/01 03:18
论文页面 - LongDS-Bench:长程智能数据分析的失败原因分析
来源:https://huggingface.co/papers/2605.30434
摘要
LongDS基准测试利用Kaggle笔记本中的真实任务,评估智能体在长时间数据分析会话中维护和更新分析状态的能力。
真实世界的数据分析本质上是迭代的,但现有基准测试大多评估孤立或短交互任务,未能测试智能体在长程范围内跟踪不断变化的分析上下文的能力。我们提出LongDS,一个用于长程、多轮数据分析的基准测试,要求智能体维护、更新、恢复和组合不断变化的分析状态。LongDS包含68个任务,这些任务基于真实的Kaggle笔记本构建,涵盖2,225个回合,跨越地球科学、商业、教育等六个领域。任务围绕状态演化模式(例如反事实扰动、回溯、多状态组合)设计,平均依赖跨度为11.3个回合。在评估五个最先进的模型后,我们发现最佳模型的平均准确率仅为48.45%,从早期回合到晚期回合性能下降近47个百分点,且长程错误占失败原因的52%至69%。进一步分析表明,增加智能体步骤并不一定能提高性能,这表明关键瓶颈在于保持正确的分析状态,而非增加交互预算。我们发布LongDS以支持可靠的长程智能数据分析研究。代码和数据将在 https://github.com/zjunlp/DataMind 发布。
查看arXiv页面 (https://arxiv.org/abs/2605.30434) 查看PDF (https://arxiv.org/pdf/2605.30434) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.30434)
在你的智能体中获取此论文:
hf papers read 2605.30434
没有最新的CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型链接此论文
在模型的README.md中引用 arxiv.org/abs/2605.30434 以从此页面链接。
引用此论文的数据集0
没有数据集链接此论文
在数据集的README.md中引用 arxiv.org/abs/2605.30434 以从此页面链接。
引用此论文的Space0
没有Space链接此论文
在Space的README.md中引用 arxiv.org/abs/2605.30434 以从此页面链接。
包含此论文的收藏集0
没有收藏集包含此论文
将此论文添加到一个收藏集 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
我的自研架构可能刚刚达到了 ARC-AGI 2026 里程碑获奖水平的 4 倍
作者声称其自研的混合架构在 ARC-AGI-3 基准上取得 15.85%(29/183 关卡)的成绩,约 4 倍于 2026 里程碑获奖水平。该架构由稀疏化的 Gemma-4-31B-It 结合 OpenJEV、HRM/TRM「右半球」及双向胼胝体子系统构成,并在 QASPer LongBench 上以 62.23% KV cache 达到接近稠密模型的性能,附两篇预印本和开源仓库。
@browser_use:DeepSeek V4.1 Flash 1017 在长程浏览器操作任务上追平 Opus 5.5,价格便宜 19 倍,得分超过 75/100,与 Opus 5.5 持平,几乎达到 Astra 水平……
DeepSeek V4.1 Flash 1017 在长程浏览器操作基准测试中追平了 Opus 5.5 的表现,而每任务成本仅为后者的 1/19,树立了新的性价比帕累托前沿。
九个模型、五项编码任务、一块16GB显卡
一项基准测试在单块16GB的RX 9060 XT显卡上,让九个模型完成了五项高难度的自包含编码任务,评判标准包括隐藏测试用例、随机化暴力验证器和性能门槛。DeepSeek-v4.1-flash和量化版Qwen3.8-27B(kvstream分支)均获得了满分5/5,而另外几个开源权重模型则在区间调度、星号堆模式匹配等算法设计任务上失利。
@cramforce:我用 http://scriptc.dev 对比 bun --aot 做了基准测试,scriptc 比 bun --aot 快 1.6 倍。这个基准测试值得相信吗……
一条推文宣传 scriptc——一个 TypeScript 转原生编译器,声称比 bun --aot 快 1.6 倍——同时坦率地警告说,该基准测试并不可信,因为 scriptc 正是针对这个基准测试进行优化的。推文介绍了 scriptc 基于 LLVM 的编译管线、覆盖率报告、npm 包打包以及交叉编译为原生二进制文件和 WebAssembly 的能力。
17 个 AI、7700 手扑克:前沿模型 vs 廉价模型 vs 本地模型 vs Jev [P]
一项基准测试让 17 个 AI 进行了 7700 手单挑无限注德州扑克,结果发现廉价推理 LLM 的表现与前沿模型相当,而一个仅 30 行的 Python 胜率脚本击败了专用决策模型,并与 Claude Opus 5.5 打成平手。