PersonaCUABench:面向多样化用户画像的计算机使用代理评测基准

Hugging Face Daily Papers 论文

摘要

论文提出 PersonaCUABench,通过 74 个任务和 44 个不同用户画像来评估计算机使用代理(CUA)。研究发现,与原始指令相比,任务完成率平均下降 36%,表明 CUA 在满足真实用户的个性化需求和约束方面仍存在显著不足。

计算机使用代理(Computer-use agents, CUA)通常基于固定的任务规格进行评测,但真实用户可能会遗漏需求、添加约束,或要求在执行重要操作前获得确认。完成基准测试中的指令,并不等于真正服务于提出请求的人。我们提出 PersonaCUABench,该基准在 11 个领域中固定 74 个任务,仅改变提出请求的用户身份。一个画像代理(persona agent)扮演四组画像中的 44 个用户之一,用自己的语言改写每条指令并回答 CUA 的提问,而 CUA 只能看到对话内容,无法获取用户画像或原始指令。在九种基础模型(共 3,330 次运行)上,平均任务完成率相对原始请求下降了 36%。这种损失有两个来源:在得分下降的样本中,59.9% 的情况下代理确实在处理用户的请求但仍然做错了;11.2% 的情况是用户要求停止但被检测器判定为失败。即使画像请求被完全执行,用户给出最高满意度评价的比例也仅为 62.7%,而原始请求的这一比例为 84.1%。因此,CUA 的评测不仅应关注任务完成情况,还应评估其是否满足用户表达的需求和约束。代码:https://github.com/MatrAIx-ai/PersonaCUABench。项目主页:https://matraix.ai/research/persona-cua.html
查看原文
查看缓存全文

缓存时间: 2026/10/30 03:16

论文页面 - PersonaCUABench:面向多样化用户角色的计算机使用智能体评测基准

来源:https://huggingface.co/papers/2610.22990 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

PersonaCUABench 揭示了计算机使用智能体经常无法满足真实用户的需求和约束条件,相比固定基准指令,其任务完成率和用户满意度均有所下降。

计算机使用智能体(https://huggingface.co/papers?q=Computer-use%20agents)(CUA)通常基于固定的任务规格进行评测,但用户可能省略某些需求、添加额外约束,或在执行关键操作前需要获得批准。完成基准指令并不意味着真正满足了发起请求的用户。我们提出了 PersonaCUABench(https://huggingface.co/papers?q=PersonaCUABench),该基准固定了 11 个领域中的 74 项任务,仅改变发起请求的用户身份。一个角色智能体(persona agent)(https://huggingface.co/papers?q=persona%20agent),扮演四组共 44 个用户角色之一,用该用户自己的措辞重写每条指令并回答 CUA 的提问,而 CUA 只能看到对话内容,无法获取用户画像或原始指令。在九种基座模型(共 3,330 次运行)上,平均任务完成率(https://huggingface.co/papers?q=task%20completion)相比原始请求下降了 36%。性能损失有两个来源:在失分单元格中,59.9% 的情况下智能体确实针对用户的请求进行了处理但仍然出错,另有 11.2% 是用户要求停止操作却被评测工具判定为失败。即使角色请求被完全完成,用户给出最高满意度评分的情况也仅占 62.7%,而原始请求这一比例为 84.1%。因此,CUA 不仅应在任务完成度上被评测,还应评估其是否满足用户表达的需求和约束。代码:https://github.com/MatrAIx-ai/PersonaCUABench(https://huggingface.co/papers?q=PersonaCUABench)。项目页面:https://matraix.ai/research/persona-cua.html

查看 arXiv 页面 (https://arxiv.org/abs/2610.22990) 查看 PDF (https://arxiv.org/pdf/2610.22990) 项目页面 (https://matraix.ai/research/persona-cua.html) GitHub (https://github.com/MatrAIx-ai/PersonaCUABench) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.22990)

在你的智能体中获取此论文:

hf papers read 2610.22990

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

暂无模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.22990 即可将此页面与之关联。

引用此论文的数据集 0

暂无数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.22990 即可将此页面与之关联。

引用此论文的 Spaces 0

暂无 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.22990 即可将此页面与之关联。

包含此论文的收藏集 0

暂无收藏集包含此论文

将此论文添加到收藏集 (https://huggingface.co/new-collection) 即可将此页面与之关联。

相似文章

MedCUA-Bench:面向临床计算机操作智能体的截图型基准测试

arXiv cs.AI

MedCUA-Bench是一个新的基准测试,用于评估计算机操作智能体在临床软件任务上的表现,涵盖10个医学领域的18个场景,并包含安全维度。结果显示,当前智能体表现不佳,尤其在真实OpenEMR上,凸显了可靠性方面的显著差距。

MyPCBench:面向个人智能计算机使用代理的基准测试

Hugging Face Daily Papers

MyPCBench 在模拟的 Linux 桌面环境中,通过真实世界的网络应用评估作为个人助手的计算机使用代理,结果显示 Claude Opus 4.6 的任务完成率最高,达到 55.4%,但在涉及多个应用和长时间操作的任务上仍存在困难。

通过用户手册使计算机使用代理适应新软件

arXiv cs.AI

论文提出 MAGE 框架,利用用户手册作为可扩展的程序性知识来源,同时改进计算机使用代理(CUA)的推理与训练,在六个应用上提升了任务成功率并减少了对人工标注数据的依赖。

PersonaChatBench:使用多样化模拟用户评估聊天助手

arXiv cs.CL

该论文介绍了 PersonaChatBench,这是一个评估框架,通过将固定任务与由私密角色卡引导的多样化模拟用户配对,在六个领域中评估 20 个语言模型,衡量任务结果、角色需求满足程度以及模拟器保真度。结果表明,出色的任务表现并不总能转化为对个体用户需求的满足,各模型的优势也因角色和领域而异。