OpenGCUA:迈向全栈开放的通用计算机使用智能体

Hugging Face Daily Papers 论文

摘要

OpenGCUA 引入了一个开放的通用计算机使用智能体(GCUA)全栈方案,结合了视觉与编程接口、代码执行以及从执行框架到模型的决策迁移。在 OSWorld-v2 基准上,该方案在八个模型上均提升了任务得分,同时将每任务平均步骤数减少了 53%。

计算机使用正迎来一个转折点:关注点正在从仅限 GUI 交互,扩展到通过视觉与编程接口在用户计算机上完成任务的系统。我们将**通用计算机使用智能体**(Generalist Computer-Use Agent,GCUA)定义为一种系统——模型可以自主选择如何通过视觉和编程接口进行观察、执行操作并组织其工作。然而,前沿实现(如 GPT-6 Astra 的计算机使用系统)在很大程度上仍是闭源的,限制了对其设计的系统性研究。我们推出了 **Open Generalist CUA(OpenGCUA)**,这是一个与社区共同开发并开放 GCUA 完整技术栈的长期项目。本报告呈现了 OpenGCUA 的首个版本。代码执行是本智能体设计的核心特性:它使中间结果能够决定后续操作,并使模型能够将其已有的编程能力直接应用于计算机交互。我们还提出了**从执行框架到模型的决策迁移**(harness-to-model decision transfer),将部分观察和任务状态决策从固定的执行框架规则转移到模型自身。在 OSWorld-v2 上,我们的完整配置在所有八个评估模型(包括 GPT-6 Astra 和 Claude Opus 5)上均提升了任务得分,平均部分得分提高了 19.6 分,相比仅使用批量 GUI 执行,每个任务的报告步骤数平均减少了 53.0%。我们开源了实现代码与提示词、全部八个模型的评估轨迹,以及真机执行框架(real-device harness)和跨设备 SDK 的初步版本。该执行框架应对了基准测试未能充分涵盖的真机挑战,而 SDK 则为计算机、移动端和浏览器提供统一的编程接口。在我们真机执行框架下的四个真实 macOS 任务中,Qwen3.8-Max 的部分运行所使用的报告推理 token 数量达到 GPT-6 Astra 的 19.4 倍,凸显了不同模型在真机执行效率上的显著差异。
查看原文
查看缓存全文

缓存时间: 2026/10/16 07:02

论文页面 - OpenGCUA:迈向完全开放的通用计算机使用栈

来源:https://huggingface.co/papers/2610.22200

作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

OpenGCUA 引入了一个开放的通用计算机使用智能体,集成了视觉与编程接口、从固定框架到模型的决策迁移以及代码执行,以提升各模型的任务性能和效率。

计算机使用正迎来一个转折点:关注点正从仅限 GUI 的交互,扩展到通过视觉与编程接口 (https://huggingface.co/papers?q=visual%20and%20programmatic%20interfaces) 在用户计算机上完成任务的系统。我们将通用计算机使用智能体 (https://huggingface.co/papers?q=generalist%20computer-use%20agent)(GCUA)定义为一种系统:模型在视觉与编程接口之间自行选择如何观察、行动并组织其工作。然而,前沿实现(如 GPT-6 Astra 的计算机使用系统)在很大程度上仍然是封闭的,限制了对其设计的系统性研究。我们提出了 Open Generalist CUA(OpenGCUA),这是一个持续进行的项目,旨在与社区一起开发并开放 GCUA 的完整栈。本报告呈现了 OpenGCUA 的首个发布版本。代码执行 (https://huggingface.co/papers?q=Code%20execution) 是我们智能体设计的关键特性:它让中间结果决定后续操作,并使模型能够将其已有的编程能力直接应用于计算机交互。我们还提出了从固定框架到模型的决策迁移 (https://huggingface.co/papers?q=harness-to-model%20decision%20transfer),将选定的观察结果和任务状态决策从固定的框架规则转移到模型自身。在 OSWorld-v2 (https://huggingface.co/papers?q=OSWorld-v2) 上,我们的完整配置在所有八个被评估的模型上均提升了任务得分,包括 GPT-6 Astra 和 Claude Opus 5,相比批量仅 GUI 执行方式,平均部分得分提高了 19.6 分,每任务报告步数平均减少了 53.0%。我们开源了我们的实现和提示词、全部八个模型的评估轨迹,以及真实设备框架 (https://huggingface.co/papers?q=real-device%20harness) 和跨设备 SDK (https://huggingface.co/papers?q=cross-device%20SDK) 的初步版本。该框架解决了基准测试未能完全涵盖的真实设备挑战,而 SDK 则提供了跨计算机、移动端和浏览器的统一编程接口。在我们真实设备框架下的四个真实 macOS 任务中,部分 Qwen3.8-Max 运行使用的报告推理 token 数量是 GPT-6 Astra 的 19.4 倍,凸显了不同模型在真实设备执行效率上的显著差异。

查看 arXiv 页面 (https://arxiv.org/abs/2610.22200) 查看 PDF (https://arxiv.org/pdf/2610.22200) 项目页面 (https://tongyi-mai.github.io/OpenGCUA/) GitHub (https://github.com/Tongyi-MAI/OpenGCUA) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.22200)

引用本文的模型 0

没有模型链接到本文。

在模型 README.md 中引用 arxiv.org/abs/2610.22200 即可从本页面链接。

引用本文的数据集 0

没有数据集链接到本文。

在数据集 README.md 中引用 arxiv.org/abs/2610.22200 即可从本页面链接。

引用本文的 Spaces 0

没有 Space 链接到本文。

在 Space README.md 中引用 arxiv.org/abs/2610.22200 即可从本页面链接。

收录本文的合集 0

没有合集收录本文。

将本文添加到合集 (https://huggingface.co/new-collection) 即可从本页面链接。

相似文章

ToolCUA:迈向计算机使用代理的 GUI-工具路径编排优化

Hugging Face Daily Papers

ToolCUA 是一个全新的代理框架,通过分阶段训练和强化学习,优化计算机使用代理的 GUI-工具路径选择。它通过在 GUI 操作和高级工具调用之间进行有效交替,在 OSWorld-MCP 上达到了最先进的性能。

计算机使用代理

OpenAI Blog

# 计算机使用代理 来源: [https://openai.com/index/computer-using-agent/](https://openai.com/index/computer-using-agent/) 通过计算机使用代理(Computer-Using Agent)为Operator提供支持,这是AI与数字世界交互的通用接口。今天我们推出了[Operator⁠\(在新窗口中打开\)](https://operator.chatgpt.com/)的研究预览版,这是一个能够在网络上为你执行任务的代理。Operator由计算机使用代理(CUA)驱动,这是一个结合了GPT-4o视觉功能的模型

Operator 系统卡

OpenAI Blog

# Operator 系统卡 来源:[https://openai.com/index/operator-system-card/](https://openai.com/index/operator-system-card/) 本报告概述了在发布 Operator 前开展的安全工作,包括外部红队测试、根据我们准备框架进行的前沿风险评估,以及为解决关键风险领域而构建的缓解措施概览。## Operator 系统卡 特定风险领域 - 有害任务 - 模型错误 - 提示注入 准备度评分卡