ScrambleToolBench:即使自有地图指向下一步,智能体仍会穷举搜索
摘要
介绍了ScrambleToolBench,一个交互式终端基准测试,通过移除语义线索来测试智能体是否能够通过试错自主发现工具行为,揭示了语言模型难以适应结构变化并退化为穷举搜索的问题。
查看缓存全文
缓存时间: 2026/08/04 05:37
论文页面 - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step
Source: https://huggingface.co/papers/2608.02358
摘要
要在开放世界环境中稳健运行,自主智能体应能仅通过交互来推断陌生系统的行为,即使在缺乏文档的情况下也是如此。然而,现有的工具使用基准在静态环境中暴露语义工具模式,使智能体能够依赖先验知识而非自主探索。为解决这一局限,我们引入了 ScrambleToolBench——一个交互式终端基准,旨在隔离行为推理。通过去除语义线索并强制执行连续任务课程,该基准要求智能体完全通过试错交互来发现隐藏的工具行为。该基准还引入了动态挑战,包括映射漂移、随机动作失败和时间执行窗口,以评估智能体能否在环境变化时修正并调整其假设。我们对最先进语言模型的评估表明,成功的初始发现并不能转化为稳健的适应能力。当面临诸如映射漂移等结构性变化时,智能体无法使用诸如循环追踪之类的演绎策略,反而表现出信念惯性或退化为穷举搜索。增加测试时推理只会放大这种代价高昂的暴力搜索,而无法实现演绎性恢复。尽管为智能体配备持久记忆可减少复合错误,但它们仍无法高效推断结构性变化,这突显了当前智能体推理中的空白。
查看 arXiv 页面 (https://arxiv.org/abs/2608.02358) 查看 PDF (https://arxiv.org/pdf/2608.02358) GitHub (https://github.com/declare-lab/ScrambleToolBench) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.02358)
在您的智能体中获取此论文:
hf papers read 2608\.02358
还没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型
没有模型链接此论文
在模型 README.md 中引用 arxiv.org/abs/2608.02358 以从此页面链接它。
引用此论文的数据集
没有数据集链接此论文
在数据集 README.md 中引用 arxiv.org/abs/2608.02358 以从此页面链接它。
引用此论文的 Space
没有 Space 链接此论文
在 Space README.md 中引用 arxiv.org/abs/2608.02358 以从此页面链接它。
包含此论文的收藏
没有包含此论文的收藏
将此论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面链接它。
相似文章
超越函数调用:在工具环境不可靠性下对工具使用代理进行基准测试
介绍ToolBench-X,这是一个基准测试,用于评估各种工具环境可靠性隐患下的大语言模型代理,揭示了与干净环境相比性能上的显著差距。
奇妙智能体竞赛:强大的工具使用者,薄弱的导航者
奇妙智能体竞赛(AAR)推出了一个新的基准测试,包含1,400个有向无环图(DAG)谜题实例,用于评估LLM智能体在分叉-合并工具链和维基百科导航中的表现。评估结果显示,智能体在工具使用方面表现出色(错误率<17%),但在导航方面苦苦挣扎(27-52%的失败率),暴露了现有线性基准测试无法发现的关键差距。
当工具失灵:LLM智能体动态重新规划与异常恢复的基准测试
ToolMaze基准测试评估了LLM智能体处理真实世界工具故障的能力,揭示了隐式语义故障导致的性能下降最为显著,而动态重新规划仍是模型扩展或提示工程无法解决的关键瓶颈。
超越排行榜:大型语言模型代理中工具使用、规划与推理失败的综合分析
本文综合了2023-2026年间27篇基准测试、分类学和审计论文,形成了一个统一的LLM代理局限性分类体系,识别出六大失败集群,包括工具调用错误、规划失败、长期退化、多代理协调问题、安全性问题以及测量有效性问题。
关于TASTE:提升智能体基准测试的覆盖度与难度
TASTE是一种自动化方法,通过自适应对比n-gram建模和迭代难度优化来演化工具序列,从而生成覆盖更广工具使用、更具挑战性的智能体基准测试。生成的τ^c-Bench显示,在现有基准测试中几乎饱和的模型性能大幅下降,表明这是基准饱和而非模型具备稳健能力。