LifeSearch:面向现实生活与生产力的深度研究智能体基准评测

Hugging Face Daily Papers 论文

摘要

LifeSearch 推出了一项包含 203 个中英文任务的基准,用于评估深度研究智能体在现实生活和生产力场景中的表现,涵盖 4,000 多条专家编写的评分细则,并对 12 个先进智能体进行了实验,发现即使是表现最好的前沿智能体(GPT-5.6 Sol),得分也仅为 63.4%。

深度研究(DR)智能体通过多步骤推理、长程网络搜索和证据综合,满足开放式信息需求。然而,现有基准主要聚焦于学术研究或合成任务,对 DR 智能体在现实生活和职业生产力场景中的能力评估仍不充分。为弥补这一空白,我们推出 LifeSearch,这是一个具有挑战性的基准,包含 203 项中文和英文任务,源自涵盖 7 个具体生活与生产力领域的真实用户查询种子。通过超过 4,500 小时的人工标注,我们构建了 4,000 多条由专家编写的细粒度评分标准,既涵盖报告内容的覆盖度和准确性标准,也包括明确规定数值、单位、日期和 URL 的具体标准。我们在统一的评估框架下,对 12 个先进的 DR 智能体开展了广泛实验,系统分析了其性能模式和失效模式。我们发现,即使是表现最好的前沿智能体 GPT-5.6 Sol,其得分也仅为 63.4%,表明在贴近现实的生活和职业 DR 任务上仍有很大的改进空间。我们通过将候选大语言模型评判器的结果与人工评分标准标签进行比较,选定评分配置;一项人工排名研究表明,基准综合得分与人类判断高度一致(Spearman 的 ρ= 0.89,Kendall 的 τ= 0.81)。LifeSearch 提供了严谨的评估框架,并为推动 DR 智能体服务于现实生活和生产力场景奠定了基础。
查看原文
查看缓存全文

缓存时间: 2026/10/14 10:51

论文页面 - LifeSearch:面向现实生活与生产力的深度研究智能体基准测试

来源:https://huggingface.co/papers/2610.18092

摘要

深度研究(DR)智能体通过多步推理、长程网页搜索和证据综合来满足开放式信息需求。然而,现有基准主要聚焦于学术研究或合成任务,对 DR 智能体在现实生活和专业生产力场景中的能力评估仍不充分。为填补这一空白,我们推出 LifeSearch,这是一个具有挑战性的基准,包含 203 项中英文任务,这些任务源自真实用户的查询种子,涵盖 7 个具体的生活与生产力领域。通过超过 4,500 小时的人工标注,我们构建了 4,000 多条由专家编写的细粒度评分标准,既涵盖报告内容在覆盖度和准确性方面的要求,也包含明确规定数值、单位、日期和 URL 的具体标准。我们在统一的评估框架下,对 12 个先进的 DR 智能体开展了广泛实验,系统分析了它们的性能模式和失败类型。我们发现,即便是表现最佳的前沿智能体 GPT-5.6 Sol,得分也仅为 63.4%,表明其在贴近现实的生活与专业 DR 任务中仍有很大的改进空间。我们通过将候选大语言模型评判器与人工评分标准标签进行比较来选择评分配置,一项人工排序研究表明,基准综合得分与人工判断高度一致(Spearman’s ρ=0.89,Kendall’s τ=0.81)。LifeSearch 为推动 DR 智能体应用于现实生活与生产力场景提供了严谨的评估框架和基础。

查看 arXiv 页面 (https://arxiv.org/abs/2610.18092)查看 PDF (https://arxiv.org/pdf/2610.18092)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.18092)

在你的智能体中获取这篇论文:

hf papers read 2610\.18092

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型关联这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.18092,即可从此页面链接到该模型。

引用这篇论文的数据集0

没有数据集关联这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.18092,即可从此页面链接到该数据集。

引用这篇论文的 Spaces0

没有 Space 关联这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.18092,即可从此页面链接到该 Space。

收录这篇论文的合集0

没有合集收录这篇论文

将这篇论文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接到该合集。

相似文章

LifeSide:将 AI 智能体作为终身数字伴侣的基准测试

arXiv cs.CL

LifeSide 是一个用于评估 AI 智能体作为终身数字伴侣的新基准,涵盖记忆追踪、用户理解、隐私控制和情感陪伴四个维度,基于 2,000 个用户画像和 111K 个任务在多会话场景下进行测试。结果表明,即便是顶尖模型也难以在长期交互中保持准确的用户理解和真实的情感陪伴。

介绍 LifeSciBench

OpenAI Blog

OpenAI 推出 LifeSciBench,这是一个包含 750 个专家编写任务的基准测试,用于评估 AI 系统在现实生命科学研究工作流中的表现,包括证据处理、分析和科学推理。