AdaExploreBench:面向发展中环境中主动探索与测试时自适应的LLM智能体基准测试

Hugging Face Daily Papers 论文

摘要

AdaExploreBench 提出了一个基准测试,用于检验LLM智能体能否主动发现隐藏的环境规则并适应未经通知的规则漂移;对八个领先LLM的实验表明,当前模型在获取相关证据和检测过时知识方面存在困难。

大语言模型(LLM)智能体正越来越多地部署在陌生且不断演变的环境中,这要求它们主动探索、理解并适应环境动态。然而,现有基准测试很少检验智能体是否能够主动发现环境的运作方式并随之演变而进行适应。为填补这一空白,我们提出了 AdaExploreBench,一个面向发展中环境中主动探索与测试时自适应的基准测试。AdaExploreBench 将环境动态具象化为隐藏规则,要求智能体主动获取证据并推断规则。在隐式规则漂移条件下,潜在规则会在未经宣布的情况下发生变化,要求智能体从性能退化中检测到先前知识已过时,并重新进行探索。对八个领先LLM的实验表明,主动且自适应的探索依然具有挑战性:GPT-6 Sol 仅达到 61.9% 的校准准确率,而提供充分证据或移除规则漂移可使平均性能显著提升近10%。这些结果揭示了当前LLM智能体的一个关键瓶颈:一旦拥有信息充分的证据,它们往往能够有效地进行推理,但在主动获取正确证据以及识别先前获取的证据何时已不再有效方面仍存在困难。
查看原文
查看缓存全文

缓存时间: 2026/10/20 07:34

论文页面 - AdaExploreBench:面向演化环境中主动探索与测试时适应的 LLM Agent 基准测试

来源:https://huggingface.co/papers/2610.25950 发布于 10 月 19 日

·

提交者 https://huggingface.co/JiayuJeff

Jeff (https://huggingface.co/JiayuJeff) 于 10 月 20 日发布

作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

AdaExploreBench 评估 LLM Agent 是否能够主动发现隐藏的环境规则并适应未预先通知的变化,揭示了当前模型在寻找相关证据和检测过时知识方面的不足。

大语言模型(LLM)Agent 越来越多地部署在陌生且不断演化的环境中,这要求它们能够主动探索、理解并适应环境动态。然而,现有基准测试很少考察 Agent 是否能够主动发现环境的运作方式并随环境演化而适应。为填补这一空白,我们提出了 AdaExploreBench (https://huggingface.co/papers?q=AdaExploreBench),一个用于评估演化环境中主动探索 (https://huggingface.co/papers?q=proactive%20exploration) 与测试时适应 (https://huggingface.co/papers?q=test-time%20adaptation) 的基准。通过将环境动态具象化为隐藏规则 (https://huggingface.co/papers?q=hidden%20rules),AdaExploreBench (https://huggingface.co/papers?q=AdaExploreBench) 要求 Agent 主动获取证据并推断规则。在隐式规则漂移 (https://huggingface.co/papers?q=implicit%20rule%20drift) 条件下,潜在规则会在未经宣布的情况下发生变化,要求 Agent 从性能下降中检测到先前知识已过时并重新探索。在八个领先 LLM 上的实验表明,主动且自适应的探索仍然具有挑战性:GPT-6 Sol 仅达到 61.9% 的校准准确率,而提供充足证据或移除规则漂移可使平均性能提升接近 10%。这些结果揭示了当前 LLM Agent (https://huggingface.co/papers?q=LLM%20agents) 的一个关键瓶颈:它们往往在获得信息性证据后能够有效推理,但在主动获取正确的证据以及识别先前获取的证据何时不再有效方面存在困难。

查看 arXiv 页面 (https://arxiv.org/abs/2610.25950) 查看 PDF (https://arxiv.org/pdf/2610.25950) 项目页面 (https://hkust-knowcomp.github.io/AdaExploreBench/) GitHub1 (https://github.com/HKUST-KnowComp/AdaExploreBench) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.25950)

在你的 Agent 中获取此论文:

hf papers read 2610\.25950

没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型:0

没有模型链接此论文。

在模型 README.md 中引用 arxiv.org/abs/2610.25950 即可从此页面链接。

引用此论文的数据集:0

没有数据集链接此论文。

在数据集 README.md 中引用 arxiv.org/abs/2610.25950 即可从此页面链接。

引用此论文的 Spaces:0

没有 Space 链接此论文。

在 Space README.md 中引用 arxiv.org/abs/2610.25950 即可从此页面链接。

包含此论文的合集:0

没有合集包含此论文。

将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面链接。

相似文章

三思而后行:LLM 智能体的自主探索

Hugging Face Daily Papers

本文指出自主探索是大语言模型智能体的关键能力,并提出了先探索后行动范式,该范式将信息收集与任务执行解耦,以提升适应性和实际性能。同时引入了探索检查点覆盖率作为可验证的指标,用于评估探索的广度。

BenchTrace:用于测试LLM智能体反思能力与受控演进的基准

arXiv cs.AI

BenchTrace是一个用于评估LLM智能体自我进化能力的基准,重点通过包含1,821个标注回合的数据集以及两个评估任务——反思评估与进化评估——来测试反思与受控演进。使用Qwen3-32B和GPT-4.1进行的实验表明,两个模型均表现不佳,主要瓶颈在于诊断,并存在泛化与遗忘问题。