标签
论文提出了“投资者的终极考试”(Investor's Last Exam,ILE),这是一个由买方投资者主导的股票研究基准,用于评估人工智能智能体在冻结信息集下的研究质量、预测准确度与模拟投资表现。结果显示,最强模型(GPT-6 Astra、Claude Opus 5.5)的研究能力较强,但预测表现仍显著不足。
一篇介绍 MIOE 的论文。MIOE 是一项因果消融基准,利用互换干预来评估大语言模型(Qwen3-8B/4B)是否在机制层面解决了实体类型判定和包含关系预测等本体任务。研究发现,分布式子空间方法表现最佳,但尚未完全将本体知识与辅助类别信息解耦。
论文提出 Bottle-SPU(Bottle-SKU)大规模多SKU洗发水瓶表面缺陷检测基准,包含13,119张图像与20,419个实例级标注框,并提出原型引导的动态域调制方法 ProDMM,通过SKU视觉原型生成低秩查询/值调制,以提升跨产品变体的缺陷检测泛化能力。
论文提出 DecompGym 基准,包含来自九类问题族的 81 个实例,用于评估 12 个 GPT、Claude、Gemini 编码智能体设计与实现 Benders 分解和列生成求解器的能力,并比较了独立重生成与反思两种失败修复策略的效果。
SkillCT 提出一个多维度智能体技能评估基准,从静态规范、动态行为稳健性与人工辅助三个层面覆盖九个评估维度,并提出无需执行的质量评估基线,可降低评测成本并提升下游任务成功率。
该论文批判性地审视了 CLadder 这一广泛用于评估大语言模型因果推理能力的基准,揭示其中存在具有高度预测性的表面模式。随机森林等简单模型在该基准生成的数据集上表现良好,而商业大语言模型的表现却缺乏稳健性,这表明它们的优异成绩源于利用捷径,而非真正的因果推理。
洛斯阿拉莫斯国家实验室和 NVIDIA 的研究人员提出了一项由专家精心编制、包含 250 道惯性约束聚变问题的基准测试,用于评估大语言模型的科学知识运用能力、物理推理能力和定量分析能力。他们将前沿开源和闭源模型与领域专用模型 Prospero 进行比较,发现专业化训练能够提高得分,但关键的物理学错误仍然存在,并建议在投入进一步的专业化训练之前,先评估现有能力以及检索带来的收益。
该论文研究了将大语言模型(LLM)用作数值优化器,发现它们能够捕捉问题结构并生成近乎最优的解,但可靠性会随着问题维度的增加而下降,而迭代改进可以缓解这一问题,因此推动了将大语言模型与确定性求解器相结合的混合方法。
SciGame 是一个受控基准,将科学文献转化为包含原始环境和反事实环境的结构化卡片,用于评估大语言模型智能体发现科学定律的能力。对五个前沿模型的实验表明,先验知识可能损害表现,自适应实验仅对能力较强的模型有帮助,而良好的解释可能掩盖定量分析上的失败。
FilingLoop 推出了一个用于企业信息披露审查与修订的交互式基准和自演进大语言模型智能体框架,以 380 项美国证券交易委员会(SEC)IPO 审查任务为基础,采用需求级评估,通过无需更新模型权重的程序性学习,将需求满足率从 24.28% 提升至 27.96%。
该论文介绍了 LibStructBench,这是一个基于文档的基准,用于评估 AI 智能体重建测序文库结构和分子实验流程的能力。研究发现,前沿智能体在精确重建方面仍不可靠,且模型选择比智能体运行框架的选择更为重要。
Voice Arena 推出了 Turing TTS,这是一个通过“欺骗率”衡量听众将 AI 语音误认为人类语音频率的基准测试;即使是表现最好的模型 Gemini 3.8 Flash TTS,也只有约 10% 的时候能骗过听众。
一个名为 Turing TTS 的新基准测试衡量人类听众将 AI 生成的语音误认为真实人类语音的频率,目前 Gemini 3.8 Flash TTS 在 A/B 语音识别测试中是最擅长欺骗人类的模型。
Turing TTS 是一项新推出的评估,用于衡量人类听众将 AI 生成的语音误认为真人语音的频率;即使是最优秀的文本转语音(TTS)模型,也仅在约 10% 的情况下骗过听众,这引发了关于如何更好地衡量语音 AI 进展的讨论。
作者构建了 5dive,一个面向 AI 智能体的开源服务端浏览器运行时,并在 Online-Mind2Web 的 100 项真实网站任务及 4 项受控任务上,将其与 OpenClaw、Hermes 和 Chrome 中的 Claude 进行了基准测试。结果发现,表现最好的几种配置通过率相近,但速度和成本差异显著,其中 5dive(pi)成本最低,总计仅 0.65 美元。
VictoriaMetrics 发布了一份开源基准测试,在相同的单节点硬件上对比了 VictoriaLogs、Loki、Elasticsearch、OpenSearch、SigNoz 和 ClickStack 的结构化日志摄取性能及内部实现,重点分析了摄取速度、查询延迟和磁盘占用之间的权衡。
SwarmChat 团队在 ProgramBench 上对 1–16 个编程智能体进行了基准测试,发现并行智能体团队以多消耗约 36% 的 token 为代价,缩短了约 5 小时的耗时,但在时间充足的情况下,并不能稳定胜过单个智能体。
Artificial Analysis 更新了 HLE Diamond 基准评测,显示开源权重模型在该高难度基准上落后闭源模型超过 30 分。