OSWorld2.0:长周期真实世界任务中计算机使用代理的基准评测

Hugging Face Daily Papers 论文

摘要

OSWorld 2.0 是一个新的基准测试,用于评估计算机使用代理在 108 个长周期真实工作流程上的表现。当前像 Claude Opus 4.8 和 GPT-5.5 这样的代理完成率较低,凸显了它们在处理复杂多步骤任务时的显著局限性。

现有的计算机使用基准测试未能捕捉到真实世界计算机使用的现实性、复杂性和长周期需求,从而限制了它们揭示前沿代理局限性的能力。我们推出了 OSWorld 2.0,这是一个包含 108 个长周期计算机使用工作流程的基准测试,覆盖日常和专业任务,旨在捕捉复杂且具有挑战性的真实世界现象。每个任务代表一个真实的端到端工作流程,人类用户完成一个任务的中位数时间约为 1.6 小时,而 Claude Opus 4.7 在最大思考模式下平均需要 318 次工具调用(相比之下,OSWorld 1.0 中约为 30 次)。OSWorld 2.0 针对真实工作流程中常见但在先前基准测试中未被充分代表的挑战现象,涵盖交互设计挑战(如流式交互和动态环境)以及代理模式挑战(如跨源推理、隐式状态推断和视觉空间精度)。任务基于真实的输入工件,并对照真实的状态化用户配置文件数据进行交叉验证,同时包含单独的安全报告,用于审计安全敏感的执行。在我们主要的 500 步二元完成指标下,采用最大思考和批量工具调用的 Claude Opus 4.8 表现最佳,但仅完成了 20.6% 的任务,部分评分为 54.8%;GPT-5.5 的令牌效率高得多,但在接近 13% 时达到瓶颈。这些结果表明,当前代理距离专业级计算机使用还有很大差距:它们并非在基本 GUI 控制或编码上出错,而是会丢失约束条件、遗漏任务中途出现的信息、猜测而非询问用户、跳过验证,并且在任务依赖于必须恢复的隐藏状态时最显吃力。
查看原文
查看缓存全文

缓存时间: 2026/06/30 07:35

论文页面 - OSWorld2.0:在长期真实世界任务中测试计算机使用智能体的基准

来源:https://huggingface.co/papers/2606.29537

作者:

作者名单略,保持原文英文

摘要

OSWorld 2.0 提供了一个全面的基准测试,用于评估计算机使用智能体在复杂真实工作流程中的表现,揭示了当前智能体在推理和任务完成方面的局限性。

现有的计算机使用基准未能捕捉到真实计算机使用的现实性、复杂性和长期需求,限制了它们揭示前沿智能体局限性的能力。我们推出了 OSWorld 2.0,这是一个包含 108 个长期计算机使用工作流程(https://huggingface.co/papers?q=computer-use%20workflows)的基准,涵盖日常和专业任务,旨在捕捉复杂且具有挑战性的真实世界现象。每个任务都代表一个真实的端到端工作流程,人类用户完成其中位时间约为 1.6 小时,而使用 Claude Opus 4.7 并开启最大思维模式时,平均需要 318 次工具调用(https://huggingface.co/papers?q=tool%20calls),相比之下 OSWorld 1.0 中约为 30 次。OSWorld 2.0 针对真实工作流程中常见但先前基准中未得到充分体现的挑战性现象,包括交互设计挑战(如流式交互和动态环境)以及智能体模式挑战(https://huggingface.co/papers?q=agent-pattern%20challenges)(如跨源推理(https://huggingface.co/papers?q=cross-source%20reasoning)、隐式状态推断(https://huggingface.co/papers?q=implicit-state%20inference)和视觉空间精度(https://huggingface.co/papers?q=visual-spatial%20precision))。任务基于真实的输入工件,并与真实的带状态用户画像数据进行交叉引用,同时包含独立的审计安全敏感执行的安全报告(https://huggingface.co/papers?q=safety%20reports)。在我们主要的 500 步二进制完成指标(https://huggingface.co/papers?q=binary-completion%20metric)下,Claude Opus 4.8 在最大思维模式和批量工具调用(https://huggingface.co/papers?q=tool%20calls)下表现最佳,但仅完成了 20.6% 的任务,部分得分为 54.8%;GPT-5.5 在 token 效率上高得多,但结果稳定在 13% 附近。这些结果表明,当前智能体距离专业级别的计算机使用仍有很大差距:它们并非在基本的 GUI 控制或编码上出错,而是会丢失约束条件、错过任务中途到达的信息、猜测而非询问用户、跳过验证,并且在任务依赖于必须恢复的隐藏状态时最为挣扎。

查看 arXiv 页面(https://arxiv.org/abs/2606.29537)查看 PDF(https://arxiv.org/pdf/2606.29537)项目页面(https://osworld-v2.xlang.ai/)GitHub104(https://github.com/xlang-ai/OSWorld-V2)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2606.29537)

在您的智能体中获取此论文:

hf papers read 2606.29537

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

无模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2606.29537 以从本页面链接。

引用此论文的数据集0

无数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2606.29537 以从本页面链接。

引用此论文的 Spaces0

无 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2606.29537 以从本页面链接。

包含此论文的收藏集0

无收藏集包含此论文

将此论文添加到收藏集(https://huggingface.co/new-collection)以从本页面链接。

相似文章

WorkBench再访:两年后的工作场所智能体

arXiv cs.CL

本文在WorkBench基准发布两年后再次对其进行评估,显示当前最佳智能体(Claude Opus 4.8)能完成89%的任务,且仅有2.5%的有害副作用,而2024年GPT-4的完成率为43%,有害率为26%。研究发现,能力与安全性同步提升,开放权重模型大幅降低了成本,但一些基本错误仍然存在。

MyPCBench:面向个人智能计算机使用代理的基准测试

Hugging Face Daily Papers

MyPCBench 在模拟的 Linux 桌面环境中,通过真实世界的网络应用评估作为个人助手的计算机使用代理,结果显示 Claude Opus 4.6 的任务完成率最高,达到 55.4%,但在涉及多个应用和长时间操作的任务上仍存在困难。