AdaExploreBench:面向发展中环境中主动探索与测试时自适应的LLM智能体基准测试
摘要
AdaExploreBench 提出了一个基准测试,用于检验LLM智能体能否主动发现隐藏的环境规则并适应未经通知的规则漂移;对八个领先LLM的实验表明,当前模型在获取相关证据和检测过时知识方面存在困难。
查看缓存全文
缓存时间: 2026/10/20 07:34
论文页面 - AdaExploreBench:面向演化环境中主动探索与测试时适应的 LLM Agent 基准测试
来源:https://huggingface.co/papers/2610.25950 发布于 10 月 19 日
·
提交者 https://huggingface.co/JiayuJeff
Jeff (https://huggingface.co/JiayuJeff) 于 10 月 20 日发布
作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
AdaExploreBench 评估 LLM Agent 是否能够主动发现隐藏的环境规则并适应未预先通知的变化,揭示了当前模型在寻找相关证据和检测过时知识方面的不足。
大语言模型(LLM)Agent 越来越多地部署在陌生且不断演化的环境中,这要求它们能够主动探索、理解并适应环境动态。然而,现有基准测试很少考察 Agent 是否能够主动发现环境的运作方式并随环境演化而适应。为填补这一空白,我们提出了 AdaExploreBench (https://huggingface.co/papers?q=AdaExploreBench),一个用于评估演化环境中主动探索 (https://huggingface.co/papers?q=proactive%20exploration) 与测试时适应 (https://huggingface.co/papers?q=test-time%20adaptation) 的基准。通过将环境动态具象化为隐藏规则 (https://huggingface.co/papers?q=hidden%20rules),AdaExploreBench (https://huggingface.co/papers?q=AdaExploreBench) 要求 Agent 主动获取证据并推断规则。在隐式规则漂移 (https://huggingface.co/papers?q=implicit%20rule%20drift) 条件下,潜在规则会在未经宣布的情况下发生变化,要求 Agent 从性能下降中检测到先前知识已过时并重新探索。在八个领先 LLM 上的实验表明,主动且自适应的探索仍然具有挑战性:GPT-6 Sol 仅达到 61.9% 的校准准确率,而提供充足证据或移除规则漂移可使平均性能提升接近 10%。这些结果揭示了当前 LLM Agent (https://huggingface.co/papers?q=LLM%20agents) 的一个关键瓶颈:它们往往在获得信息性证据后能够有效推理,但在主动获取正确的证据以及识别先前获取的证据何时不再有效方面存在困难。
查看 arXiv 页面 (https://arxiv.org/abs/2610.25950) 查看 PDF (https://arxiv.org/pdf/2610.25950) 项目页面 (https://hkust-knowcomp.github.io/AdaExploreBench/) GitHub1 (https://github.com/HKUST-KnowComp/AdaExploreBench) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.25950)
在你的 Agent 中获取此论文:
hf papers read 2610\.25950
没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型:0
没有模型链接此论文。
在模型 README.md 中引用 arxiv.org/abs/2610.25950 即可从此页面链接。
引用此论文的数据集:0
没有数据集链接此论文。
在数据集 README.md 中引用 arxiv.org/abs/2610.25950 即可从此页面链接。
引用此论文的 Spaces:0
没有 Space 链接此论文。
在 Space README.md 中引用 arxiv.org/abs/2610.25950 即可从此页面链接。
包含此论文的合集:0
没有合集包含此论文。
将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面链接。
相似文章
AdaPlanBench:在世界和用户约束下评估大型语言模型智能体的自适应规划能力
AdaPlanBench是一个动态基准测试,用于评估LLM智能体在多轮交互中根据逐步显现的世界和用户约束进行自适应规划的能力。实验表明,当前模型尤其难以应对用户约束。
三思而后行:LLM 智能体的自主探索
本文指出自主探索是大语言模型智能体的关键能力,并提出了先探索后行动范式,该范式将信息收集与任务执行解耦,以提升适应性和实际性能。同时引入了探索检查点覆盖率作为可验证的指标,用于评估探索的广度。
生产环境中的高效基准测试:一项演化LLM代理研究
本文探索生产环境中LLM代理的高效重复评估方法,比较自适应测试和固定子集等技术,并提供部署的实用建议。
BenchTrace:用于测试LLM智能体反思能力与受控演进的基准
BenchTrace是一个用于评估LLM智能体自我进化能力的基准,重点通过包含1,821个标注回合的数据集以及两个评估任务——反思评估与进化评估——来测试反思与受控演进。使用Qwen3-32B和GPT-4.1进行的实验表明,两个模型均表现不佳,主要瓶颈在于诊断,并存在泛化与遗忘问题。
ACED-Bench:评估大语言模型智能体如何获取因果证据并据此采取行动
ACED-Bench 提出了一项神经符号基准,将自然语言科学情境与隐藏的概率图模型相结合,以评估大语言模型智能体能否在 180 项核心任务和一套包含 150 道题的资格测试中,主动设计实验、收集因果证据并做出正确的因果决策。