PersonaCUABench:面向多样化用户画像的计算机使用代理评测基准
摘要
论文提出 PersonaCUABench,通过 74 个任务和 44 个不同用户画像来评估计算机使用代理(CUA)。研究发现,与原始指令相比,任务完成率平均下降 36%,表明 CUA 在满足真实用户的个性化需求和约束方面仍存在显著不足。
查看缓存全文
缓存时间: 2026/10/30 03:16
论文页面 - PersonaCUABench:面向多样化用户角色的计算机使用智能体评测基准
来源:https://huggingface.co/papers/2610.22990 作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
PersonaCUABench 揭示了计算机使用智能体经常无法满足真实用户的需求和约束条件,相比固定基准指令,其任务完成率和用户满意度均有所下降。
计算机使用智能体(https://huggingface.co/papers?q=Computer-use%20agents)(CUA)通常基于固定的任务规格进行评测,但用户可能省略某些需求、添加额外约束,或在执行关键操作前需要获得批准。完成基准指令并不意味着真正满足了发起请求的用户。我们提出了 PersonaCUABench(https://huggingface.co/papers?q=PersonaCUABench),该基准固定了 11 个领域中的 74 项任务,仅改变发起请求的用户身份。一个角色智能体(persona agent)(https://huggingface.co/papers?q=persona%20agent),扮演四组共 44 个用户角色之一,用该用户自己的措辞重写每条指令并回答 CUA 的提问,而 CUA 只能看到对话内容,无法获取用户画像或原始指令。在九种基座模型(共 3,330 次运行)上,平均任务完成率(https://huggingface.co/papers?q=task%20completion)相比原始请求下降了 36%。性能损失有两个来源:在失分单元格中,59.9% 的情况下智能体确实针对用户的请求进行了处理但仍然出错,另有 11.2% 是用户要求停止操作却被评测工具判定为失败。即使角色请求被完全完成,用户给出最高满意度评分的情况也仅占 62.7%,而原始请求这一比例为 84.1%。因此,CUA 不仅应在任务完成度上被评测,还应评估其是否满足用户表达的需求和约束。代码:https://github.com/MatrAIx-ai/PersonaCUABench(https://huggingface.co/papers?q=PersonaCUABench)。项目页面:https://matraix.ai/research/persona-cua.html
查看 arXiv 页面 (https://arxiv.org/abs/2610.22990) 查看 PDF (https://arxiv.org/pdf/2610.22990) 项目页面 (https://matraix.ai/research/persona-cua.html) GitHub (https://github.com/MatrAIx-ai/PersonaCUABench) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.22990)
在你的智能体中获取此论文:
hf papers read 2610.22990
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型 0
暂无模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2610.22990 即可将此页面与之关联。
引用此论文的数据集 0
暂无数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2610.22990 即可将此页面与之关联。
引用此论文的 Spaces 0
暂无 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2610.22990 即可将此页面与之关联。
包含此论文的收藏集 0
暂无收藏集包含此论文
将此论文添加到收藏集 (https://huggingface.co/new-collection) 即可将此页面与之关联。
相似文章
MedCUA-Bench:面向临床计算机操作智能体的截图型基准测试
MedCUA-Bench是一个新的基准测试,用于评估计算机操作智能体在临床软件任务上的表现,涵盖10个医学领域的18个场景,并包含安全维度。结果显示,当前智能体表现不佳,尤其在真实OpenEMR上,凸显了可靠性方面的显著差距。
MyPCBench:面向个人智能计算机使用代理的基准测试
MyPCBench 在模拟的 Linux 桌面环境中,通过真实世界的网络应用评估作为个人助手的计算机使用代理,结果显示 Claude Opus 4.6 的任务完成率最高,达到 55.4%,但在涉及多个应用和长时间操作的任务上仍存在困难。
CUA-Master:通过开放世界递归改进扩展计算机操作智能体
CUA-Master 提出嵌套双环递归改进框架,通过开放世界语料、自催化任务合成与反馈引导的快照回滚重试机制持续提升计算机使用代理(CUA)性能,其 27B 模型在 OSWorld Verified 等基准上取得竞争力表现。
通过用户手册使计算机使用代理适应新软件
论文提出 MAGE 框架,利用用户手册作为可扩展的程序性知识来源,同时改进计算机使用代理(CUA)的推理与训练,在六个应用上提升了任务成功率并减少了对人工标注数据的依赖。
PersonaChatBench:使用多样化模拟用户评估聊天助手
该论文介绍了 PersonaChatBench,这是一个评估框架,通过将固定任务与由私密角色卡引导的多样化模拟用户配对,在六个领域中评估 20 个语言模型,衡量任务结果、角色需求满足程度以及模拟器保真度。结果表明,出色的任务表现并不总能转化为对个体用户需求的满足,各模型的优势也因角色和领域而异。