ScrambleToolBench:即使自有地图指向下一步,智能体仍会穷举搜索

Hugging Face Daily Papers 论文

摘要

介绍了ScrambleToolBench,一个交互式终端基准测试,通过移除语义线索来测试智能体是否能够通过试错自主发现工具行为,揭示了语言模型难以适应结构变化并退化为穷举搜索的问题。

为了在开放世界环境中稳健运行,自主智能体应当能够仅通过交互来推断不熟悉系统的行为,即使在没有文档的情况下也是如此。然而,现有的工具使用基准测试在静态环境中暴露语义工具模式,使得智能体能够依赖先验知识而非自主发现。为解决这一局限,我们引入了ScrambleToolBench,一个旨在隔离行为推理的交互式终端基准测试。通过移除语义线索并强制执行连续的任务课程,该基准测试要求智能体完全通过试错交互来揭示隐藏的工具行为。该基准测试进一步引入了动态挑战,包括映射漂移、随机动作失败和时间执行窗口,以评估智能体是否能够在环境变化时修正和调整其假设。我们对最先进语言模型的评估表明,成功的初始发现并不能转化为稳健的适应。当面临映射漂移等结构变化时,智能体无法使用循环追踪等演绎策略,反而表现出信念惯性或退化为穷举搜索。增加测试时推理只会放大这种昂贵的暴力搜索,而无法实现演绎恢复。虽然为智能体配备持久记忆可以减少累积错误,但它们仍然无法高效推断结构变化,这凸显了当前智能体推理中的差距。
查看原文
查看缓存全文

缓存时间: 2026/08/04 05:37

论文页面 - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step

Source: https://huggingface.co/papers/2608.02358

摘要

要在开放世界环境中稳健运行,自主智能体应能仅通过交互来推断陌生系统的行为,即使在缺乏文档的情况下也是如此。然而,现有的工具使用基准在静态环境中暴露语义工具模式,使智能体能够依赖先验知识而非自主探索。为解决这一局限,我们引入了 ScrambleToolBench——一个交互式终端基准,旨在隔离行为推理。通过去除语义线索并强制执行连续任务课程,该基准要求智能体完全通过试错交互来发现隐藏的工具行为。该基准还引入了动态挑战,包括映射漂移、随机动作失败和时间执行窗口,以评估智能体能否在环境变化时修正并调整其假设。我们对最先进语言模型的评估表明,成功的初始发现并不能转化为稳健的适应能力。当面临诸如映射漂移等结构性变化时,智能体无法使用诸如循环追踪之类的演绎策略,反而表现出信念惯性或退化为穷举搜索。增加测试时推理只会放大这种代价高昂的暴力搜索,而无法实现演绎性恢复。尽管为智能体配备持久记忆可减少复合错误,但它们仍无法高效推断结构性变化,这突显了当前智能体推理中的空白。

查看 arXiv 页面 (https://arxiv.org/abs/2608.02358) 查看 PDF (https://arxiv.org/pdf/2608.02358) GitHub (https://github.com/declare-lab/ScrambleToolBench) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.02358)

在您的智能体中获取此论文:

hf papers read 2608\.02358

还没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型

没有模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2608.02358 以从此页面链接它。

引用此论文的数据集

没有数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2608.02358 以从此页面链接它。

引用此论文的 Space

没有 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2608.02358 以从此页面链接它。

包含此论文的收藏

没有包含此论文的收藏

将此论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面链接它。

相似文章

奇妙智能体竞赛:强大的工具使用者,薄弱的导航者

arXiv cs.CL

奇妙智能体竞赛(AAR)推出了一个新的基准测试,包含1,400个有向无环图(DAG)谜题实例,用于评估LLM智能体在分叉-合并工具链和维基百科导航中的表现。评估结果显示,智能体在工具使用方面表现出色(错误率<17%),但在导航方面苦苦挣扎(27-52%的失败率),暴露了现有线性基准测试无法发现的关键差距。

关于TASTE:提升智能体基准测试的覆盖度与难度

Hugging Face Daily Papers

TASTE是一种自动化方法,通过自适应对比n-gram建模和迭代难度优化来演化工具序列,从而生成覆盖更广工具使用、更具挑战性的智能体基准测试。生成的τ^c-Bench显示,在现有基准测试中几乎饱和的模型性能大幅下降,表明这是基准饱和而非模型具备稳健能力。