SearchHorizonBench: A Benchmark for Search Value in AI Agents

Hugging Face Daily Papers 论文

摘要

论文提出 SearchHorizonBench,一个用于评估 AI 智能体从执行经验中估计搜索价值的基准数据集,包含 45,632 次执行记录,发现历史校准可将 Brier 误差降低 16.2%,但历史估计器仅能解释不到 2% 的搜索增益方差。

AI 智能体必须判断再次搜索是否值得其成本。答题成功率只能反映问题难度,而这一决策需要估计搜索带来的额外收益。我们提出 SearchHorizonBench,一个用于从执行经验中学习和评估搜索价值的基准数据集。成对续写与重复执行将预期搜索增益与生成噪声分离,并把预测质量与决策效用联系起来。该资源包含 3,168 个问题上的 45,632 次执行记录。在 1,632 个留出问题上,历史校准将 Brier 误差降低 16.2%,且改进主要集中在成功率层面的信息上。搜索增益的标准差为 21.4 个百分点,而所测试的历史估计器在点估计上仅能解释这一方差的不到 2%。匹配配置下的学习曲线在不同训练规模上进一步探究了这一差异。在参考 token 价格下,自由选择策略相较于最优恒定动作带来 2.49 个百分点的效用提升机会,这主要由增益信息驱动。可复用的历史记录、冻结的数据划分、强基线以及评分工具,为开发和评估价值感知搜索智能体提供了共同的基础。
查看原文
查看缓存全文

缓存时间: 2026/10/28 05:28

论文页面 - SearchHorizonBench:面向AI智能体的搜索价值基准

来源:https://huggingface.co/papers/2610.34714

摘要

SearchHorizonBench 评估了智能体如何从执行历史中学习估计额外搜索的价值,结果表明历史校准能够提升预测准确性,但大部分搜索增益的方差仍未得到解释。

AI 智能体必须决定何时值得付出代价进行下一次搜索。回答成功概率 (https://huggingface.co/papers?q=Answer-success%20probabilities) 反映的是问题本身的难度,而这一决策则需要估计搜索带来的额外收益。我们提出了 SearchHorizonBench (https://huggingface.co/papers?q=SearchHorizonBench),这是一个用于从执行经验中学习和评估搜索价值 (https://huggingface.co/papers?q=search%20value) 的基准。通过配对续写和重复执行,该基准将预期搜索增益与生成噪声分离开来,并将预测质量与决策效用关联起来。该数据集包含 3,168 个问题共 45,632 次执行。在 1,632 个保留问题上,历史校准 (https://huggingface.co/papers?q=historical%20calibration) 将 Brier 误差 (https://huggingface.co/papers?q=Brier%20error) 降低了 16.2%,且改进主要集中在成功层面的信息上。搜索增益 (https://huggingface.co/papers?q=Search%20gains) 的标准差为 21.4 个百分点,而已测试的历史估计器在点估计中解释的方差不足 2%。匹配配置的学习曲线 (https://huggingface.co/papers?q=Matched-configuration%20learning%20curves) 在不同训练规模下探测了这一差异。在参考 Token 价格下,自由选择观测相比最佳固定动作可带来 2.49 个点的效用提升机会,这主要由增益信息驱动。可复用的历史记录、冻结的数据划分、强基线以及评分为工具,为开发和评估具备价值感知的搜索智能体 (https://huggingface.co/papers?q=value-aware%20search%20agents) 提供了共同基础。

查看 arXiv 页面 (https://arxiv.org/abs/2610.34714) · 查看 PDF (https://arxiv.org/pdf/2610.34714) · 项目页面 (https://ethanning.github.io/SearchHorizonBench/) · GitHub (https://github.com/EthanNing/SearchHorizonBench) · 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.34714)

在你的智能体中获取该论文:

hf papers read 2610.34714

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型:0

暂无关联该论文的模型。

在模型 README.md 中引用 arxiv.org/abs/2610.34714,即可从本页面链接该模型。

引用该论文的数据集:0

暂无关联该论文的数据集。

在数据集 README.md 中引用 arxiv.org/abs/2610.34714,即可从本页面链接该数据集。

引用该论文的 Spaces:0

暂无关联该论文的 Space。

在 Space README.md 中引用 arxiv.org/abs/2610.34714,即可从本页面链接该 Space。

收录该论文的合集:0

暂无收录该论文的合集。

将该论文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接该合集。

相似文章

LoHoSearch:超越人类难度上限的长时域搜索智能体基准

arXiv cs.CL

LoHoSearch是一个用于评估长时域搜索智能体的新基准,基于包含700万维基百科实体的知识图谱构建。它引入了具有大搜索空间和结构复杂性的问题,以超越人类编写的难度上限,并显示出最佳模型仅达到34.74%的准确率。

SearchAuditor:长时程搜索智能体故障的审计与归因

arXiv cs.AI

本文介绍了SearchAuditBench,这是一个包含1,243条带有专家标注的失败长时程搜索智能体轨迹的基准测试,以及SearchAuditor,一个从多视角进行审计的框架,用于定位、归因并修复智能体故障。实验表明,SearchAuditor优于基线方法,在使用GPT-5.5等前沿模型时,端到端通过率达到32.3%。