SearchHorizonBench: A Benchmark for Search Value in AI Agents
摘要
论文提出 SearchHorizonBench,一个用于评估 AI 智能体从执行经验中估计搜索价值的基准数据集,包含 45,632 次执行记录,发现历史校准可将 Brier 误差降低 16.2%,但历史估计器仅能解释不到 2% 的搜索增益方差。
查看缓存全文
缓存时间: 2026/10/28 05:28
论文页面 - SearchHorizonBench:面向AI智能体的搜索价值基准
来源:https://huggingface.co/papers/2610.34714
摘要
SearchHorizonBench 评估了智能体如何从执行历史中学习估计额外搜索的价值,结果表明历史校准能够提升预测准确性,但大部分搜索增益的方差仍未得到解释。
AI 智能体必须决定何时值得付出代价进行下一次搜索。回答成功概率 (https://huggingface.co/papers?q=Answer-success%20probabilities) 反映的是问题本身的难度,而这一决策则需要估计搜索带来的额外收益。我们提出了 SearchHorizonBench (https://huggingface.co/papers?q=SearchHorizonBench),这是一个用于从执行经验中学习和评估搜索价值 (https://huggingface.co/papers?q=search%20value) 的基准。通过配对续写和重复执行,该基准将预期搜索增益与生成噪声分离开来,并将预测质量与决策效用关联起来。该数据集包含 3,168 个问题共 45,632 次执行。在 1,632 个保留问题上,历史校准 (https://huggingface.co/papers?q=historical%20calibration) 将 Brier 误差 (https://huggingface.co/papers?q=Brier%20error) 降低了 16.2%,且改进主要集中在成功层面的信息上。搜索增益 (https://huggingface.co/papers?q=Search%20gains) 的标准差为 21.4 个百分点,而已测试的历史估计器在点估计中解释的方差不足 2%。匹配配置的学习曲线 (https://huggingface.co/papers?q=Matched-configuration%20learning%20curves) 在不同训练规模下探测了这一差异。在参考 Token 价格下,自由选择观测相比最佳固定动作可带来 2.49 个点的效用提升机会,这主要由增益信息驱动。可复用的历史记录、冻结的数据划分、强基线以及评分为工具,为开发和评估具备价值感知的搜索智能体 (https://huggingface.co/papers?q=value-aware%20search%20agents) 提供了共同基础。
查看 arXiv 页面 (https://arxiv.org/abs/2610.34714) · 查看 PDF (https://arxiv.org/pdf/2610.34714) · 项目页面 (https://ethanning.github.io/SearchHorizonBench/) · GitHub (https://github.com/EthanNing/SearchHorizonBench) · 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.34714)
在你的智能体中获取该论文:
hf papers read 2610.34714
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用该论文的模型:0
暂无关联该论文的模型。
在模型 README.md 中引用 arxiv.org/abs/2610.34714,即可从本页面链接该模型。
引用该论文的数据集:0
暂无关联该论文的数据集。
在数据集 README.md 中引用 arxiv.org/abs/2610.34714,即可从本页面链接该数据集。
引用该论文的 Spaces:0
暂无关联该论文的 Space。
在 Space README.md 中引用 arxiv.org/abs/2610.34714,即可从本页面链接该 Space。
收录该论文的合集:0
暂无收录该论文的合集。
将该论文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接该合集。
相似文章
LoHoSearch:超越人类难度上限的长时域搜索智能体基准
LoHoSearch是一个用于评估长时域搜索智能体的新基准,基于包含700万维基百科实体的知识图谱构建。它引入了具有大搜索空间和结构复杂性的问题,以超越人类编写的难度上限,并显示出最佳模型仅达到34.74%的准确率。
SearchAuditor:长时程搜索智能体故障的审计与归因
本文介绍了SearchAuditBench,这是一个包含1,243条带有专家标注的失败长时程搜索智能体轨迹的基准测试,以及SearchAuditor,一个从多视角进行审计的框架,用于定位、归因并修复智能体故障。实验表明,SearchAuditor优于基线方法,在使用GPT-5.5等前沿模型时,端到端通过率达到32.3%。
跨数据库查询与网络搜索的混合深度研究基准测试
本文介绍了HybridDeepResearch,一个用于评估AI智能体在需要整合网络搜索和SQL查询任务上的基准测试,揭示了即使最先进的模型在跨结构化和非结构化数据维护约束方面也存在困难。
Agent-ValueBench:一个评估智能体价值观的综合基准
本文提出了 Agent-ValueBench,这是一个旨在评估自主智能体价值观的综合基准,揭示了智能体的价值观与其底层语言模型存在分歧。
K-Bench:评估模型在真实科学代理请求中的性能
论文介绍了 K-Bench 01,一个用于评估 AI 代理在真实科学请求中性能的基准,揭示了没有模型能持续达到可接受性能的阈值,过度声明是常见的失败模式。