Claw-Anything: 在更广泛的用户数字世界访问权限下,对始终在线个人助手进行基准测试

Hugging Face Daily Papers 论文

摘要

介绍了Claw-Anything,这是一个基准测试,用于评估始终在线的个人AI助手在涵盖长时间跨度、多种服务和多样化设备交互的综合用户活动上下文中的表现。实验表明,即使是GPT-5.5也仅达到34.5%的pass@1,突显了当前智能体能力与始终在线辅助需求之间的显著差距。

大型语言模型智能体日益被设想为始终在线的个人助手,能够访问用户数字世界中任何相关的内容。然而,当前系统仅能操作该世界的一小部分,限制了上下文敏感推理和有效辅助。现有的基准测试同样只提供部分用户状态,因此无法在这种广泛、始终在线的设置中捕捉性能。为了弥补这一差距,我们引入了Claw-Anything,这是一个沿三个维度扩展智能体上下文的基准测试:长周期活动历史、相互依赖的后端服务,以及跨多个设备的集成GUI和CLI交互。为了实例化这一设置,我们通过多轮事件注入模拟了数月的用户活动,产生复杂的世界状态和现实的噪声,包括无关事件和冲突信号。智能体必须在丰富的上下文环境中进行推理,同时对此类噪声保持鲁棒。这种扩展范围还使得能够评估主动辅助能力,要求智能体预测用户需求并提供及时建议。实验表明,即使是GPT-5.5也仅达到34.5%的pass@1,远低于先前基准测试,凸显了当前智能体能力与始终在线个人辅助需求之间的差距。除了基准测试,我们还发布了一个自动化数据生成管道,生成了2,000个训练环境,并将基础模型提升了23.7%,展示了其可扩展数据基础设施的实用性。
查看原文
查看缓存全文

缓存时间: 2026/05/26 06:43

论文页面 - Claw-Anything:评估拥有更广泛用户数字世界访问权限的始终在线个人助手

来源:https://huggingface.co/papers/2605.26086 作者:

,

,

,

,

,

,

,

,

,

摘要

Claw-Anything 基准测试在涵盖长时间跨度、多种服务和多样化设备交互的综合用户活动上下文中评估大语言模型代理,以衡量真正的始终在线个人助手能力。

大语言模型代理(https://huggingface.co/papers?q=Large%20language%20model%20agents)越来越多地被设想为始终在线的个人助手(https://huggingface.co/papers?q=personal%20assistants),能够访问用户数字世界中任何相关内容。然而,当前系统仅能覆盖该世界的狭窄片段,限制了上下文敏感推理和有效辅助。现有基准测试同样仅提供部分用户状态,因此无法在这种广泛、始终在线的场景中捕捉性能。为填补这一空白,我们推出了 Claw-Anything,一个从三个维度扩展代理上下文的基准测试:长时间跨度的活动历史、相互依赖的后端服务,以及跨多设备的集成 GUI 与 CLI 交互。为实例化这一设定,我们通过多轮事件注入(https://huggingface.co/papers?q=multi-round%20event%20injection)模拟了数月的用户活动(https://huggingface.co/papers?q=user%20activity),生成复杂的全局状态和真实噪声,包括无关事件和冲突信号。代理必须在丰富的上下文环境中进行推理,同时对这种噪声保持鲁棒性。这一扩展范围还使得能够评估主动辅助(https://huggingface.co/papers?q=proactive%20assistance)能力,要求代理预测用户需求并提供及时建议。实验表明,GPT-5.5 仅达到 34.5% 的 pass@1(https://huggingface.co/papers?q=pass%401),远低于此前基准测试,突显了当前代理能力与始终在线个人助手要求之间的差距。伴随基准测试,我们发布了一个自动化数据生成流水线(https://huggingface.co/papers?q=automated%20data-generation%20pipeline),生成了 2,000 个训练环境,并将基础模型提升了 23.7%,证明了其可扩展数据基础设施的实用性。

查看 arXiv 页面(https://arxiv.org/abs/2605.26086)查看 PDF(https://arxiv.org/pdf/2605.26086)GitHub4(https://github.com/LiberCoders/CLaw-Anything)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.26086)

在您的代理中获取此论文:

hf papers read 2605\.26086

没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

无模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2605.26086 即可在此页面链接。

引用此论文的数据集1

LiberCoders/Claw-Anything 查看器•更新于 4 分钟前 • 2.22k • 2 (https://huggingface.co/datasets/LiberCoders/Claw-Anything)

引用此论文的 Space0

无 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2605.26086 即可在此页面链接。

包含此论文的收藏0

无收藏包含此论文

将此论文添加到一个收藏(https://huggingface.co/new-collection)即可在此页面链接。

相似文章

本地优先的个人AI助手(Telegram)(征集功能创意)

Reddit r/AI_Agents

作者正在开发ClawLite,一个开源、本地优先的个人AI助手,通过Ollama在你自己的机器上运行,并通过Telegram与你交互。它具备多智能体研究(含来源交叉核对)、带Markdown导出的分层记忆、默认拒绝的治理机制,以及轻量级Windows安装程序。作者正在向社区征集功能创意。

开源AI助手之间的自主深度差距排名

Reddit r/AI_Agents

本文对三个开源AI助手——OpenClaw、Vellum和Hermes——在自主深度方面进行排名,衡量它们能在无需人工干预的情况下自主执行任务的距离。文章强调了原始能力、配置复杂度和长序列可靠性之间的权衡。

MyPCBench:面向个人智能计算机使用代理的基准测试

Hugging Face Daily Papers

MyPCBench 在模拟的 Linux 桌面环境中,通过真实世界的网络应用评估作为个人助手的计算机使用代理,结果显示 Claude Opus 4.6 的任务完成率最高,达到 55.4%,但在涉及多个应用和长时间操作的任务上仍存在困难。