OSWorld-Science:面向科学软件学习与使用的计算机操作智能体基准

Hugging Face Daily Papers 论文

摘要

OSWorld-Science 面向基于视觉语言模型(VLM)的计算机操作智能体,提出了一套针对科学软件的基准与评测环境,涵盖 146 个由专家设计的任务,涉及分子绘制、病理影像、统计分析、物理仿真等多个领域,采用基于产物的评估器,并配备专用的智能体运行框架。

科学软件对基于视觉语言模型(VLM)的计算机操作智能体提出了严苛的考验:完成一项科研工作流程需要解读专业界面、操作科学对象,并产出可验证的结果。为此,我们提出了 OSWorld-Science——一个将科学上有意义的任务、基于产物的评测方法以及高效的智能体运行框架相结合的基准与评测环境,用于研究科学领域中的计算机操作能力。该基准包含 12 个 VLM 和 146 个高质量任务,覆盖多个科学领域与软件环境,涵盖分子绘制与逆合成分析、病理图像分析、统计计算以及物理仿真等工作流程。任务通过专家提案与人机迭代协作设计开发,并依据科学价值与难度进行筛选。针对每类任务的执行型评估器会检查应用程序状态与生成的产物,包括分子结构、分割掩膜、图表及数值结果,并对未完成的结果给予部分分。我们开发的专用运行框架集成了模型适配器、交互循环控制与轨迹日志功能,以支持不同模型与交互策略的对比研究。实验结果表明,当前最强大的 VLM 即使在强运行框架的支持下,在应对科学领域的关键问题时仍面临诸多挑战。我们还对基准评测结果在多语言、推理强度、上下文长度等因素上的表现进行了分析,得出了若干重要结论与研究方向,以指导后续发展。总体而言,我们提供了一个整合性框架,将专家定义的科学目标与可验证的软件结果连接起来,从而能够对科学工作流程中的智能体能力与运行框架设计进行系统化评估。
查看原文
查看缓存全文

缓存时间: 2026/10/01 08:23

论文页面 - OSWorld-Science:面向科学软件学习与使用的计算机使用智能体基准

来源:https://huggingface.co/papers/2609.39903 发布于 9 月 30 日

·

提交者:https://huggingface.co/iLOVE2D

Tianyu (https://huggingface.co/iLOVE2D)于 10 月 1 日

作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

科学软件对基于视觉语言模型(VLM)的计算机使用智能体提出了严苛的考验:完成一项研究工作流需要解读专业化的软件界面、操作科学对象,并产出可验证的结果。为此,我们提出 OSWorld-Science——一个基准测试与评估环境,将具有科学意义的任务、基于工件(artifact)的评估方式,以及用于研究科学领域计算机使用的高效智能体运行框架(harness)整合在一起。该基准包含针对 12 种 VLM 的 146 个高质量任务,覆盖多个科学领域与软件配置,所涉工作流包括分子绘制与逆合成、病理图像分析、统计计算以及物理仿真等。任务的开发采用专家提案与迭代式人机协同设计的方式,并根据科学价值与难度进行筛选。针对每个任务设计的基于执行的评估器会检查应用状态与生成的工件(包括分子结构、分割掩码、图像以及数值结果),并对不完整的输出给予部分分数。我们的专用运行框架集成了模型适配器、交互循环控制与轨迹日志记录功能,便于对不同模型及交互策略进行对比。实验结果表明,即使配备强大的运行框架,当前最先进的 VLM 在解决科学领域的关键问题时仍面临诸多挑战。我们还从多语言能力、推理投入(reasoning effort)、上下文长度等多个维度对基准测试结果进行了分析,得出若干重要结论与后续发展方向,以助力未来的研究工作。总体而言,我们提供了一个集成框架,将专家定义的科学目标与可验证的软件产出连接起来,从而实现对科学工作流中智能体能力与运行框架设计的系统性评估。

查看 arXiv 页面 (https://arxiv.org/abs/2609.39903) · 查看 PDF (https://arxiv.org/pdf/2609.39903) · 项目页面 (https://discoailab.github.io/osworld-science-page/) · GitHub 仓库 (https://github.com/DiscoAILab/OSWorld-Science) · 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.39903)

在你的智能体中获取本文:

hf papers read 2609\.39903

没有最新版 CLI?运行:curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型 0

暂无模型关联本文

在模型 README.md 中引用 arxiv.org/abs/2609.39903,即可将该模型链接到本页面。

引用本文的数据集 1

SciAILab/OSWorld-Science-data 约 2 小时前更新 • 429 • 2 (https://huggingface.co/datasets/SciAILab/OSWorld-Science-data)

引用本文的 Spaces 1

包含本文的合集 0

暂无包含本文的合集

将本文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接到该合集。

相似文章

OpenComputer:面向计算机使用智能体的可验证软件世界

Hugging Face Daily Papers

OpenComputer 提出了一种框架,用于为计算机使用智能体创建可验证的软件环境,集成了状态验证器、自改进验证层、任务合成以及评估系统,覆盖33个桌面应用程序。实验表明,其验证器与人类判断的一致性优于LLM作为判断者,且前沿智能体在端到端完成方面仍面临困难。