benchmark

标签

Cards List
#benchmark

投资者的终极考试:AI智能体能否在不预知未来的情况下进行股票投资?

arXiv cs.AI ↗ · 2026-10-31 缓存

论文提出了“投资者的终极考试”(Investor's Last Exam,ILE),这是一个由买方投资者主导的股票研究基准,用于评估人工智能智能体在冻结信息集下的研究质量、预测准确度与模拟投资表现。结果显示,最强模型(GPT-6 Astra、Claude Opus 5.5)的研究能力较强,但预测表现仍显著不足。

0 人收藏 0 人点赞
#benchmark

大语言模型能否忠实地完成本体工程任务?一项机制可解释性研究

arXiv cs.AI ↗ · 2026-10-31 缓存

一篇介绍 MIOE 的论文。MIOE 是一项因果消融基准,利用互换干预来评估大语言模型(Qwen3-8B/4B)是否在机制层面解决了实体类型判定和包含关系预测等本体任务。研究发现,分布式子空间方法表现最佳,但尚未完全将本体知识与辅助类别信息解耦。

0 人收藏 0 人点赞
#benchmark

原型引导的动态域调制与面向洗发水瓶表面缺陷检测的大规模多SKU基准

arXiv cs.AI ↗ · 2026-10-31 缓存

论文提出 Bottle-SPU(Bottle-SKU)大规模多SKU洗发水瓶表面缺陷检测基准,包含13,119张图像与20,419个实例级标注框,并提出原型引导的动态域调制方法 ProDMM,通过SKU视觉原型生成低秩查询/值调制,以提升跨产品变体的缺陷检测泛化能力。

0 人收藏 0 人点赞
#benchmark

DecompGym:面向分解算法设计的 LLM 智能体基准评测

arXiv cs.AI ↗ · 2026-10-31 缓存

论文提出 DecompGym 基准,包含来自九类问题族的 81 个实例,用于评估 12 个 GPT、Claude、Gemini 编码智能体设计与实现 Benders 分解和列生成求解器的能力,并比较了独立重生成与反思两种失败修复策略的效果。

0 人收藏 0 人点赞
#benchmark

SkillCT:用于智能体技能评估的多维基准与免执行基线

arXiv cs.AI ↗ · 2026-10-31 缓存

SkillCT 提出一个多维度智能体技能评估基准,从静态规范、动态行为稳健性与人工辅助三个层面覆盖九个评估维度,并提出无需执行的质量评估基线,可降低评测成本并提升下游任务成功率。

0 人收藏 0 人点赞
#benchmark

评估大语言模型的因果推理能力:程序化生成挑战的案例研究

arXiv cs.AI ↗ · 2026-10-31 缓存

该论文批判性地审视了 CLadder 这一广泛用于评估大语言模型因果推理能力的基准,揭示其中存在具有高度预测性的表面模式。随机森林等简单模型在该基准生成的数据集上表现良好,而商业大语言模型的表现却缺乏稳健性,这表明它们的优异成绩源于利用捷径,而非真正的因果推理。

0 人收藏 0 人点赞
#benchmark

科学应用中的语言模型评估:以惯性约束聚变为例

arXiv cs.AI ↗ · 2026-10-31 缓存

洛斯阿拉莫斯国家实验室和 NVIDIA 的研究人员提出了一项由专家精心编制、包含 250 道惯性约束聚变问题的基准测试,用于评估大语言模型的科学知识运用能力、物理推理能力和定量分析能力。他们将前沿开源和闭源模型与领域专用模型 Prospero 进行比较,发现专业化训练能够提高得分,但关键的物理学错误仍然存在,并建议在投入进一步的专业化训练之前,先评估现有能力以及检索带来的收益。

0 人收藏 0 人点赞
#benchmark

将大型语言模型理解为数值优化器

arXiv cs.AI ↗ · 2026-10-31 缓存

该论文研究了将大语言模型(LLM)用作数值优化器,发现它们能够捕捉问题结构并生成近乎最优的解,但可靠性会随着问题维度的增加而下降,而迭代改进可以缓解这一问题,因此推动了将大语言模型与确定性求解器相结合的混合方法。

0 人收藏 0 人点赞
#benchmark

SciGame:让智能体在现实与反事实世界中玩科学发现游戏

arXiv cs.AI ↗ · 2026-10-31 缓存

SciGame 是一个受控基准,将科学文献转化为包含原始环境和反事实环境的结构化卡片,用于评估大语言模型智能体发现科学定律的能力。对五个前沿模型的实验表明,先验知识可能损害表现,自适应实验仅对能力较强的模型有帮助,而良好的解释可能掩盖定量分析上的失败。

0 人收藏 0 人点赞
#benchmark

FilingLoop:面向公司信息披露审查与修订的大语言模型智能体评估与演进

arXiv cs.AI ↗ · 2026-10-31 缓存

FilingLoop 推出了一个用于企业信息披露审查与修订的交互式基准和自演进大语言模型智能体框架,以 380 项美国证券交易委员会(SEC)IPO 审查任务为基础,采用需求级评估,通过无需更新模型权重的程序性学习,将需求满足率从 24.28% 提升至 27.96%。

0 人收藏 0 人点赞
#benchmark

评估和提升 AI 智能体对测序方案的理解能力

arXiv cs.AI ↗ · 2026-10-31 缓存

该论文介绍了 LibStructBench,这是一个基于文档的基准,用于评估 AI 智能体重建测序文库结构和分子实验流程的能力。研究发现,前沿智能体在精确重建方面仍不可靠,且模型选择比智能体运行框架的选择更为重要。

0 人收藏 0 人点赞
#benchmark

Astra 在机器人智能领域超越所有模型

Reddit r/singularity ↗ · 2026-10-31

据报告,Astra 在机器人智能基准测试中超越了所有其他模型,标志着具身 AI 能力的显著进步。

0 人收藏 0 人点赞
#benchmark

Qwen27b 对比 GPT 6

Reddit r/LocalLLaMA ↗ · 2026-10-30

一篇从能力和性能方面比较阿里巴巴的 Qwen 2 7B 模型与 OpenAI 的 GPT-6 的文章。

0 人收藏 0 人点赞
#benchmark

@rohanpaul_ai:语音 AI 现在已经足够出色,可以将偏好和拟人程度作为独立目标进行评分。@voicearena_ai 上线…

X AI KOLs Timeline ↗ · 2026-10-30 缓存

Voice Arena 推出了 Turing TTS,这是一个通过“欺骗率”衡量听众将 AI 语音误认为人类语音频率的基准测试;即使是表现最好的模型 Gemini 3.8 Flash TTS,也只有约 10% 的时候能骗过听众。

0 人收藏 0 人点赞
#benchmark

@svpino:现在有了一个衡量人类语音识别能力的基准测试。以下是他们的测量方法:你……

X AI KOLs Timeline ↗ · 2026-10-30 缓存

一个名为 Turing TTS 的新基准测试衡量人类听众将 AI 生成的语音误认为真实人类语音的频率,目前 Gemini 3.8 Flash TTS 在 A/B 语音识别测试中是最擅长欺骗人类的模型。

0 人收藏 0 人点赞
#benchmark

@shobhitbanga:第 2/15 则 我们真的在衡量我们最终希望语音 AI 模型实现的目标吗?最好的 AI 语音是……

X AI KOLs Following ↗ · 2026-10-30 缓存

Turing TTS 是一项新推出的评估,用于衡量人类听众将 AI 生成的语音误认为真人语音的频率;即使是最优秀的文本转语音(TTS)模型,也仅在约 10% 的情况下骗过听众,这引发了关于如何更好地衡量语音 AI 进展的讨论。

0 人收藏 0 人点赞
#benchmark

我在 100 项真实网站任务上测试了 openclaw、hermes、Chrome 中的 claude 和我自己的浏览器

Reddit r/AI_Agents ↗ · 2026-10-30

作者构建了 5dive,一个面向 AI 智能体的开源服务端浏览器运行时,并在 Online-Mind2Web 的 100 项真实网站任务及 4 项受控任务上,将其与 OpenClaw、Hermes 和 Chrome 中的 Claude 进行了基准测试。结果发现,表现最好的几种配置通过率相近,但速度和成本差异显著,其中 5dive(pi)成本最低,总计仅 0.65 美元。

0 人收藏 0 人点赞
#benchmark

VictoriaLogs 与 Loki、Elasticsearch、OpenSearch、SigNoz 及 ClickStack 在结构化日志摄取方面的对比

Lobsters Hottest ↗ · 2026-10-30 缓存

VictoriaMetrics 发布了一份开源基准测试,在相同的单节点硬件上对比了 VictoriaLogs、Loki、Elasticsearch、OpenSearch、SigNoz 和 ClickStack 的结构化日志摄取性能及内部实现,重点分析了摄取速度、查询延迟和磁盘占用之间的权衡。

0 人收藏 0 人点赞
#benchmark

我们在 ProgramBench 上测试了 1–16 个编程智能体。以下是速度与 token 用量之间的权衡。

Reddit r/AI_Agents ↗ · 2026-10-30

SwarmChat 团队在 ProgramBench 上对 1–16 个编程智能体进行了基准测试,发现并行智能体团队以多消耗约 36% 的 token 为代价,缩短了约 5 小时的耗时,但在时间充足的情况下,并不能稳定胜过单个智能体。

0 人收藏 0 人点赞
#benchmark

Artificial Analysis 更新 HLE Diamond:开放权重模型落后逾 30 分

Reddit r/singularity ↗ · 2026-10-30

Artificial Analysis 更新了 HLE Diamond 基准评测,显示开源权重模型在该高难度基准上落后闭源模型超过 30 分。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈