OSWorld2.0:长周期真实世界任务中计算机使用代理的基准评测
摘要
OSWorld 2.0 是一个新的基准测试,用于评估计算机使用代理在 108 个长周期真实工作流程上的表现。当前像 Claude Opus 4.8 和 GPT-5.5 这样的代理完成率较低,凸显了它们在处理复杂多步骤任务时的显著局限性。
查看缓存全文
缓存时间: 2026/06/30 07:35
论文页面 - OSWorld2.0:在长期真实世界任务中测试计算机使用智能体的基准
来源:https://huggingface.co/papers/2606.29537
作者:
摘要
OSWorld 2.0 提供了一个全面的基准测试,用于评估计算机使用智能体在复杂真实工作流程中的表现,揭示了当前智能体在推理和任务完成方面的局限性。
现有的计算机使用基准未能捕捉到真实计算机使用的现实性、复杂性和长期需求,限制了它们揭示前沿智能体局限性的能力。我们推出了 OSWorld 2.0,这是一个包含 108 个长期计算机使用工作流程(https://huggingface.co/papers?q=computer-use%20workflows)的基准,涵盖日常和专业任务,旨在捕捉复杂且具有挑战性的真实世界现象。每个任务都代表一个真实的端到端工作流程,人类用户完成其中位时间约为 1.6 小时,而使用 Claude Opus 4.7 并开启最大思维模式时,平均需要 318 次工具调用(https://huggingface.co/papers?q=tool%20calls),相比之下 OSWorld 1.0 中约为 30 次。OSWorld 2.0 针对真实工作流程中常见但先前基准中未得到充分体现的挑战性现象,包括交互设计挑战(如流式交互和动态环境)以及智能体模式挑战(https://huggingface.co/papers?q=agent-pattern%20challenges)(如跨源推理(https://huggingface.co/papers?q=cross-source%20reasoning)、隐式状态推断(https://huggingface.co/papers?q=implicit-state%20inference)和视觉空间精度(https://huggingface.co/papers?q=visual-spatial%20precision))。任务基于真实的输入工件,并与真实的带状态用户画像数据进行交叉引用,同时包含独立的审计安全敏感执行的安全报告(https://huggingface.co/papers?q=safety%20reports)。在我们主要的 500 步二进制完成指标(https://huggingface.co/papers?q=binary-completion%20metric)下,Claude Opus 4.8 在最大思维模式和批量工具调用(https://huggingface.co/papers?q=tool%20calls)下表现最佳,但仅完成了 20.6% 的任务,部分得分为 54.8%;GPT-5.5 在 token 效率上高得多,但结果稳定在 13% 附近。这些结果表明,当前智能体距离专业级别的计算机使用仍有很大差距:它们并非在基本的 GUI 控制或编码上出错,而是会丢失约束条件、错过任务中途到达的信息、猜测而非询问用户、跳过验证,并且在任务依赖于必须恢复的隐藏状态时最为挣扎。
查看 arXiv 页面(https://arxiv.org/abs/2606.29537)查看 PDF(https://arxiv.org/pdf/2606.29537)项目页面(https://osworld-v2.xlang.ai/)GitHub104(https://github.com/xlang-ai/OSWorld-V2)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2606.29537)
在您的智能体中获取此论文:
hf papers read 2606.29537
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
无模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2606.29537 以从本页面链接。
引用此论文的数据集0
无数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2606.29537 以从本页面链接。
引用此论文的 Spaces0
无 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2606.29537 以从本页面链接。
包含此论文的收藏集0
无收藏集包含此论文
将此论文添加到收藏集(https://huggingface.co/new-collection)以从本页面链接。
相似文章
WorkBench再访:两年后的工作场所智能体
本文在WorkBench基准发布两年后再次对其进行评估,显示当前最佳智能体(Claude Opus 4.8)能完成89%的任务,且仅有2.5%的有害副作用,而2024年GPT-4的完成率为43%,有害率为26%。研究发现,能力与安全性同步提升,开放权重模型大幅降低了成本,但一些基本错误仍然存在。
MyPCBench:面向个人智能计算机使用代理的基准测试
MyPCBench 在模拟的 Linux 桌面环境中,通过真实世界的网络应用评估作为个人助手的计算机使用代理,结果显示 Claude Opus 4.6 的任务完成率最高,达到 55.4%,但在涉及多个应用和长时间操作的任务上仍存在困难。
WeaveBench:混合界面计算机使用代理的长时域真实世界基准测试
WeaveBench是一个用于在长时域真实世界任务中跨多种界面(GUI、CLI、代码)评估计算机使用代理的新基准测试。它揭示了当前模型仅达到41.2%的通过率,且仅基于结果的评分高估了性能,凸显了评估中的重大差距。
GTA-2:从原子工具使用到开放式工作流的通用工具Agent基准测试
GTA-2 引入了一个分层基准,用于评估通用工具Agent在原子工具使用和开放式工作流中的表现,揭示了显著的能力鸿沟:前沿模型在复杂任务上仅取得14.39%的成功率,尽管在原子任务上表现尚可。
TOBench:面向真实世界工具使用智能体的任务导向全模态基准
TOBench是一个新的基准测试,用于评估AI智能体在真实世界、任务导向的工具使用中的表现,涉及多模态输入和闭环验证。实验表明,像Qwen 3.5 Plus这样的顶级模型仅达到41%的成功率,远低于94%的人类基准,凸显了显著的差距。