LifeSearch:面向现实生活与生产力的深度研究智能体基准评测
摘要
LifeSearch 推出了一项包含 203 个中英文任务的基准,用于评估深度研究智能体在现实生活和生产力场景中的表现,涵盖 4,000 多条专家编写的评分细则,并对 12 个先进智能体进行了实验,发现即使是表现最好的前沿智能体(GPT-5.6 Sol),得分也仅为 63.4%。
查看缓存全文
缓存时间: 2026/10/14 10:51
论文页面 - LifeSearch:面向现实生活与生产力的深度研究智能体基准测试
来源:https://huggingface.co/papers/2610.18092
摘要
深度研究(DR)智能体通过多步推理、长程网页搜索和证据综合来满足开放式信息需求。然而,现有基准主要聚焦于学术研究或合成任务,对 DR 智能体在现实生活和专业生产力场景中的能力评估仍不充分。为填补这一空白,我们推出 LifeSearch,这是一个具有挑战性的基准,包含 203 项中英文任务,这些任务源自真实用户的查询种子,涵盖 7 个具体的生活与生产力领域。通过超过 4,500 小时的人工标注,我们构建了 4,000 多条由专家编写的细粒度评分标准,既涵盖报告内容在覆盖度和准确性方面的要求,也包含明确规定数值、单位、日期和 URL 的具体标准。我们在统一的评估框架下,对 12 个先进的 DR 智能体开展了广泛实验,系统分析了它们的性能模式和失败类型。我们发现,即便是表现最佳的前沿智能体 GPT-5.6 Sol,得分也仅为 63.4%,表明其在贴近现实的生活与专业 DR 任务中仍有很大的改进空间。我们通过将候选大语言模型评判器与人工评分标准标签进行比较来选择评分配置,一项人工排序研究表明,基准综合得分与人工判断高度一致(Spearman’s ρ=0.89,Kendall’s τ=0.81)。LifeSearch 为推动 DR 智能体应用于现实生活与生产力场景提供了严谨的评估框架和基础。
查看 arXiv 页面 (https://arxiv.org/abs/2610.18092)查看 PDF (https://arxiv.org/pdf/2610.18092)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.18092)
在你的智能体中获取这篇论文:
hf papers read 2610\.18092
还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用这篇论文的模型0
没有模型关联这篇论文
在模型的 README.md 中引用 arxiv.org/abs/2610.18092,即可从此页面链接到该模型。
引用这篇论文的数据集0
没有数据集关联这篇论文
在数据集的 README.md 中引用 arxiv.org/abs/2610.18092,即可从此页面链接到该数据集。
引用这篇论文的 Spaces0
没有 Space 关联这篇论文
在 Space 的 README.md 中引用 arxiv.org/abs/2610.18092,即可从此页面链接到该 Space。
收录这篇论文的合集0
没有合集收录这篇论文
将这篇论文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接到该合集。
相似文章
LifeSide:将 AI 智能体作为终身数字伴侣的基准测试
LifeSide 是一个用于评估 AI 智能体作为终身数字伴侣的新基准,涵盖记忆追踪、用户理解、隐私控制和情感陪伴四个维度,基于 2,000 个用户画像和 111K 个任务在多会话场景下进行测试。结果表明,即便是顶尖模型也难以在长期交互中保持准确的用户理解和真实的情感陪伴。
HealthAgentBench: 面向前沿AI智能体的统一真实医疗智能体环境基准套件
本文介绍了HealthAgentBench,一个包含54个真实医疗任务的套件,用于评估前沿AI智能体。研究发现,即使是最强的智能体(Codex GPT-5.5)也仅能达到约42%的成功率,凸显了巨大的改进空间。
VibeLifeBench:你的生活智能体能否在生活世界中主动且持续地行动?
介绍了VibeLifeBench,这是一个包含200个长周期任务、覆盖十个日常生活领域的基准测试,用于在模拟的多周生活世界中评估主动且持续的LLM智能体。当前前沿模型得分较低,凸显了现有智能体与现实生活辅助之间的差距。
OSWorld2.0:长周期真实世界任务中计算机使用代理的基准评测
OSWorld 2.0 是一个新的基准测试,用于评估计算机使用代理在 108 个长周期真实工作流程上的表现。当前像 Claude Opus 4.8 和 GPT-5.5 这样的代理完成率较低,凸显了它们在处理复杂多步骤任务时的显著局限性。
介绍 LifeSciBench
OpenAI 推出 LifeSciBench,这是一个包含 750 个专家编写任务的基准测试,用于评估 AI 系统在现实生命科学研究工作流中的表现,包括证据处理、分析和科学推理。