rTaste:研究智能体有品味吗?评估早期研究判断力
摘要
rTaste 通过让六个模型提出并排序源自近期 NLP 论文的 415 个实验,评估前沿 LLM 研究智能体能否做出良好的早期研究判断,发现仅有 73 个实验既合理又超越了种子论文,且智能体的预测和排名并未明显优于更简单的基线方法。
查看缓存全文
缓存时间: 2026/11/02 19:31
论文页面 - rTaste:研究智能体有“品味“吗?评估早期研究判断力
来源:https://huggingface.co/papers/2610.40488
研究智能体有“品味“吗?
我们选取了六个前沿模型,输入七篇近期的 NLP 论文,并要求每个模型分别以单个智能体和团队协作的形式,以这些论文为灵感开展新颖的研究。每个智能体提出了五个小型实验,为每个实验设定了通过阈值,预测其是否能通过,并对它们进行了排名。
随后,另一个智能体逐一执行了所有实验(包括排名最后的实验),并由三个模型评审员对结果进行评判。
在 415 个实验中:
- 194 个被评判为可靠、有价值且新颖
- 其中仅 73 个同时超越了种子论文,且并非显而易见
智能体的首选实验比随机选择更常与评审员最看重的实验相匹配,但并未表现出优于它们最先写出的实验。它们的预测优于基准率,但与仅阅读论文和实验计划的同一模型的第二个实例相比,并没有可衡量的优势。
如有任何问题,请在 X 上联系我:https://x.com/artkanke?s=11
相似文章
品味代理:长期任务中品味的衡量与提升
本文介绍了 Taste-Bench,一个用于衡量 LLM 代理长期决策品味的基准,发现前沿模型准确率较低,且品味可通过蒸馏训练提升。
关于TASTE:提升智能体基准测试的覆盖度与难度
TASTE是一种自动化方法,通过自适应对比n-gram建模和迭代难度优化来演化工具序列,从而生成覆盖更广工具使用、更具挑战性的智能体基准测试。生成的τ^c-Bench显示,在现有基准测试中几乎饱和的模型性能大幅下降,表明这是基准饱和而非模型具备稳健能力。
如何构建真正衡量品味的基准测试
本文介绍了 TasteBench,这是一个以专家评判为金标准的成对比较基准,用于衡量视觉语言模型(VLM)在视觉、品牌、图书和科技领域的“品味”,同时提出了一套控制方案,用于量化并校正位置偏差、词汇泄漏和难度上限等评估伪差。
扮演真正的研究者:一套评估前沿大语言模型及代理系统在研究生命周期中的基准测试集
本文介绍了AARR(扮演真正的研究者)基准系列,旨在评估前沿大语言模型和代理系统在细粒度研究场景中的表现。首个基准AARRI-Bench显示,即使表现最佳的代理成功率也仅为68.3%,凸显了其在领域敏感性和细微推理能力方面的不足。
TasteVal:前沿 AI 的实验研究品味每 3 个月翻一番,最强模型现已超越人类基线
TasteVal 报告指出,自 2025 年 12 月以来,前沿 AI 模型的实验研究品味大约每 3 个月翻一番,其中 Opus 5.5 已经超过了专家级人类基线——这一指标是预测编码自动化后 ASI 可能以多快速度实现的关键因素。