HSPR:通过层级后验推断恢复软件代理基准测试分数
摘要
该论文提出层级分数后验恢复方法(HSPR),通过结合历史响应模式与自适应任务选择,仅用小子集即可高效估计软件代理在完整基准测试上的分数,在SWE-bench系列任务库上取得最低的平均与最大绝对误差。
查看缓存全文
缓存时间: 2026/10/20 07:34
论文页面 - HSPR:通过层级后验推断恢复软件智能体基准分数
来源:https://huggingface.co/papers/2610.24611
摘要
层级分数后验恢复(Hierarchical Score Posterior Recovery)通过结合历史响应模式与自适应任务选择,从小子集中估计完整的基准分数,从而提升智能体评估效率。
在完整基准上评估软件智能体的成本很高。小子集可以保留智能体的排名,但得到的分数不够准确。历史响应提供了有用的结构信息,但对于新的目标智能体而言,源响应相同的任务可能产生不同的结果。我们提出层级分数后验恢复(HSPR),该方法将源拟合响应因子与不确定的组成功率相结合。观测到的目标结果会更新目标潜在状态和组成功率的后验分布;后验引导的采集策略用于选择后续任务。其基于分数的准则等于完整分数后验方差的期望单步削减量。观测到的成功结果与未查询任务的后验预测计数共同构成完整分数的后验分布。最终估计使用该后验分布的中位数,并结合源选择校准。在SWE-bench系列的四个任务库上,当任务预算为10%时,HSPR在四个任务库中的三个上取得了最低的平均绝对误差(MAE),在全部四个上取得了最低的最大绝对误差(MaxErr),均优于其他对比方法。在对照实验中,去除组不确定性或替换自适应查询分别导致宏平均MAE上升。在5%-20%的预算范围内,宏平均MAE均呈下降趋势。
查看 arXiv 页面 (https://arxiv.org/abs/2610.24611) 查看 PDF (https://arxiv.org/pdf/2610.24611) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.24611)
在你的智能体中获取此论文:
hf papers read 2610.24611
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型:0
暂无模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2610.24611,即可从此页面链接到该模型。
引用此论文的数据集:0
暂无数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2610.24611,即可从此页面链接到该数据集。
引用此论文的 Space:0
暂无 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2610.24611,即可从此页面链接到该 Space。
收录此论文的合集:0
暂无合集收录此论文
将此论文加入合集即可从此页面链接到该合集。
相似文章
对智能体因果发现进行基准测试与增强
论文提出 Heuresis,一个使用匿名模拟数据的因果发现基准,用于评估 LLM 智能体在数据驱动下进行细粒度、证据驱动的因果发现调整能力。结果显示 GPT-6.1 Sol 在全部六个数据族上超过最佳算法选择,最难族上邻接 F1 提升 14%。
面向序贯筛选的历史特征残差适配
该论文提出采集时残差自适应方法,在固定实验预算下保留可复用的基础打分器并学习排名修正,使 20 个测试筛选任务的命中回收率从 22.58% 提升至 28.61%(相对提升 26.7%),并优于多种对照方法。
先减半后贪心:面向后验成功率的自适应采样,具有近乎最优的实例依赖性
论文提出 Halve-Then-Greedy(HTG)算法,用于固定预算下的自适应实验设计,以最大化推荐设计均值超过目标的后验概率,并证明了近最优的实例相关样本复杂度界。
Incident-Arena:让智能体在可靠性上更进一步
论文提出 Incident-Arena,一个人工构建的基准,包含 20 个基于真实开源软件、部署于临时 Kubernetes 集群的任务,用于评估 AI 智能体在生产环境事故响应(agentic SRE)中的可靠性。即使是最强的模型配置,Pass@1 也仅为 64.3%。
SciΠvot:在科学研究自主智能体的关键时刻评估首席科学家的判断力
SciΠvot 是一个基于 248 个人工纠正案例的基准,用于评估 LLM 智能体在科研自主研究关键时刻的科学判断力;结果显示前沿模型常偏好有缺陷的原始计划而非专家修正方案,整体表现低于人类研究者。