rTaste:研究智能体有品味吗?评估早期研究判断力

Hugging Face Daily Papers 论文

摘要

rTaste 通过让六个模型提出并排序源自近期 NLP 论文的 415 个实验,评估前沿 LLM 研究智能体能否做出良好的早期研究判断,发现仅有 73 个实验既合理又超越了种子论文,且智能体的预测和排名并未明显优于更简单的基线方法。

研究智能体有品味吗——即在实验结果未知之前,能判断哪些实验值得开展?我们向六个前沿模型提供七篇近期 NLP 论文。每个模型作为研究智能体单独或以团队形式工作,提出最小可行实验(MVE),预测每个实验能否通过其自设的阈值,并对它们进行排名。随后由一个独立的执行者尝试所有 MVE(包括排名最后的),再由三个模型审计员对结果进行评判。在 415 个 MVE 中,有 194 个被判定为合理、有价值且新颖,但其中不到一半(73 个)同时被判定为超越了种子论文且并非显而易见。智能体的首选实验比随机选择更常与审计员最看重的实验一致,但并未证明优于直接选择论文中首先写出的实验。它们的预测优于基准率,但与仅获得论文和注册信息的同一模型的新实例相比,准确度并未可衡量地提高。团队成本更高,却没有带来提案质量的明显整体提升。智能体产出了许多有价值的实验,但支持其排名能改善实验选择这一说法的证据仍然有限。评估框架以及全部 415 个 MVE 的数据集(含预测和审计结果)可在 https://github.com/ArtKanke/rTaste 获取。
查看原文
查看缓存全文

缓存时间: 2026/11/02 19:31

论文页面 - rTaste:研究智能体有“品味“吗?评估早期研究判断力

来源:https://huggingface.co/papers/2610.40488

研究智能体有“品味“吗?

我们选取了六个前沿模型,输入七篇近期的 NLP 论文,并要求每个模型分别以单个智能体和团队协作的形式,以这些论文为灵感开展新颖的研究。每个智能体提出了五个小型实验,为每个实验设定了通过阈值,预测其是否能通过,并对它们进行了排名。

随后,另一个智能体逐一执行了所有实验(包括排名最后的实验),并由三个模型评审员对结果进行评判。

在 415 个实验中:

  • 194 个被评判为可靠、有价值且新颖
  • 其中仅 73 个同时超越了种子论文,且并非显而易见

智能体的首选实验比随机选择更常与评审员最看重的实验相匹配,但并未表现出优于它们最先写出的实验。它们的预测优于基准率,但与仅阅读论文和实验计划的同一模型的第二个实例相比,并没有可衡量的优势。

如有任何问题,请在 X 上联系我:https://x.com/artkanke?s=11

相似文章

关于TASTE:提升智能体基准测试的覆盖度与难度

Hugging Face Daily Papers

TASTE是一种自动化方法,通过自适应对比n-gram建模和迭代难度优化来演化工具序列,从而生成覆盖更广工具使用、更具挑战性的智能体基准测试。生成的τ^c-Bench显示,在现有基准测试中几乎饱和的模型性能大幅下降,表明这是基准饱和而非模型具备稳健能力。

如何构建真正衡量品味的基准测试

arXiv cs.AI

本文介绍了 TasteBench,这是一个以专家评判为金标准的成对比较基准,用于衡量视觉语言模型(VLM)在视觉、品牌、图书和科技领域的“品味”,同时提出了一套控制方案,用于量化并校正位置偏差、词汇泄漏和难度上限等评估伪差。