π-Bench:评估长时间跨度工作流中的主动式个人助手智能体
摘要
π-Bench是一个新的基准测试,包含100个多轮任务,涉及5个特定领域的用户画像,并隐藏了用户意图,旨在评估个人助手智能体在长时间跨度工作流中的主动式协助能力。
查看缓存全文
缓存时间: 2026/05/22 02:24
论文页面 - π-Bench:在长时程工作流中评估主动性个人助理代理
来源:https://huggingface.co/papers/2605.14678 作者:
,
,
,
,
,
,
,
,
,
,
,
,
摘要
在个人代理系统中,主动性辅助需要通过持续的多轮交互来识别隐藏的用户意图,而当前的基准测试未能充分评估这一点。
个人助理代理(https://huggingface.co/papers?q=personal%20assistant%20agents)的兴起,例如 OpenClaw,凸显了大语言模型(https://huggingface.co/papers?q=large%20language%20models)在支持用户日常生活与工作方面日益增长的潜力。这些场景中的核心挑战是主动性辅助(https://huggingface.co/papers?q=proactive%20assistance),因为用户往往从表述不清的请求开始,并留下重要的需求、约束或偏好未加说明。然而,现有的基准测试很少评估代理能否在用户明确说明之前识别并作用于这些隐藏意图,尤其是在用户需求逐渐显现的持续多轮交互(https://huggingface.co/papers?q=multi-turn%20interactions)中。为弥补这一空白,我们引入了 π-Bench,一个用于主动性辅助的基准测试,包含跨 5 个领域特定用户画像(https://huggingface.co/papers?q=domain-specific%20user%20personas)的 100 个多轮任务。通过整合隐藏用户意图(https://huggingface.co/papers?q=user%20intents)、任务间依赖关系以及跨会话连续性,π-Bench 评估了代理在扩展交互中预测和满足用户需求的能力,并联合衡量了长时程轨迹(https://huggingface.co/papers?q=long-horizon%20trajectories)中的主动性(https://huggingface.co/papers?q=proactivity)与任务完成度(https://huggingface.co/papers?q=task%20completion),从而更好地反映真实世界的使用情况。实验表明:(1) 主动性辅助仍然具有挑战性;(2) 任务完成度与主动性之间存在明显区别;(3) 在后续任务中,先前的交互对于主动意图解析具有价值。
查看 arXiv 页面(https://arxiv.org/abs/2605.14678)查看 PDF(https://arxiv.org/pdf/2605.14678)项目页面(https://simplified-reasoning.github.io/Pi-Bench)GitHub7(https://github.com/Simplified-Reasoning/Pi-Bench)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2605.14678)
在你的代理中获取此论文:
hf papers read 2605\.14678
没有最新CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型链接此论文
在模型的 README.md 中引用 arxiv.org/abs/2605.14678,即可从本页链接此模型。
引用此论文的数据集0
没有数据集链接此论文
在数据集的 README.md 中引用 arxiv.org/abs/2605.14678,即可从本页链接此数据集。
引用此论文的Space0
没有Space链接此论文
在Space的 README.md 中引用 arxiv.org/abs/2605.14678,即可从本页链接此Space。
包含此论文的收藏0
没有收藏包含此论文
将此论文添加到一个收藏(https://huggingface.co/new-collection)中,即可从本页链接此论文。
相似文章
I made a custom llama.cpp build optimized for 7900xtx (one or two). for qwen 3.8 next and 27B. includes optimizations for PciE x4 and tensor parallel. read inside! (no AI slop)
I found a lot of room on the table for these cards so I decided to make a specialized build to squeeze all I could. first The results: qwen 3.8 next Q3_K_XL: 920tk/s pp8192 (2 cards, ram offload), 24/27 tk/s on prose, 40+ tk/s on code with MTP but without MoE expert cache (which IS included if yuo want, read below) qwen 3.8 27B Q8_0: 1600 tk/s pp8192, 60/65 tk/s prose, 100+ tk/s code, tensor parallel. this is measured with ONE CARD BEHIND the chipset on X4. with cards on a good PciE x8 on cpu I
我们有一年时间来全面解决安全问题
文章讨论了GLM 5.3-flash的发布,这是一款开放权重的AI模型,经济实惠且功能强大,引发了对其可能被滥用于黑客活动的担忧。文章呼吁使用前沿的LLMs,对整个科技行业的安全漏洞采取紧急行动。
相比GPT-4o直接视觉处理,我将图像处理token使用量减少了约95%,同时保持了大致相同的准确度。这有多重要?[P]
一位研究人员分享了初步结果,展示了一种方法,与GPT-4o相比,将图像处理token使用量减少约95%,同时保持了相似的准确度,并寻求关于其重要性的反馈。
当前LLM架构真的能实现AGI吗?
一位软件工程师质疑当前LLM架构能否实现AGI,指出诸如自回归生成和缺乏实时学习等限制。
LLM 0.35
这篇文章可能涵盖了 LLM 0.35 版本的发布,这是对大型语言模型的更新。