benchmark

标签

Cards List
#benchmark

Drama 3 刚刚升级了(1 分钟阅读)

TLDR AI ↗ · 2026-10-30 缓存

Fish Audio 为 Drama 3 语音模型发布了升级后的权重,使其在 Artificial Analysis 的 Provider Voice 和 Controlled Voice 两个 Speech Arena 榜单上均位列开源权重模型第一,并在发音鲁棒性基准测试中排名第一。

0 人收藏 0 人点赞
#benchmark

如果你在构建本地语音代理,Hugging Face 的 Open TTS 排行榜值得关注

Reddit r/AI_Agents ↗ · 2026-10-29

Hugging Face 的 Open TTS 排行榜不仅比较 TTS 模型,还对推理实现进行基准测试,涵盖流式性能(TTFA)、推理速度、语音质量(WER/CER、说话人相似度)以及 GPU/CPU 结果——对构建本地语音代理的开发者非常有价值。

0 人收藏 0 人点赞
#benchmark

@Suhail:在 real-swe 中获得独立验证!

X AI KOLs Timeline ↗ · 2026-10-29 缓存

Suhail 分享了一项独立验证结果,显示 particle-1 在真实软件工程基准测试中实现了相同的性能,同时减少了 43% 的 token 消耗。

0 人收藏 0 人点赞
#benchmark

哪个编程智能体最能发挥本地 Qwen 3.8 27B 的潜力?我对比了 10 个,并记录了 token 用量、缓存情况和沙箱拦截情况

Reddit r/AI_Agents ↗ · 2026-10-29

一位开发者在搭载 M5 Max 的 MacBook Pro 上,使用本地 Qwen 3.8 27B 模型对 10 个编程智能体进行了基准测试,比较了通过率、词元用量、缓存复用和沙盒行为。Pi 最为精简,而 Qwen Code 的词元消耗最高,还有几个智能体尽管设置为离线模式,仍尝试访问网络。

0 人收藏 0 人点赞
#benchmark

关于我几周前在这里界定范围的多步骤智能体安全护栏的最新进展

Reddit r/AI_Agents ↗ · 2026-10-29

作者分享了一个多步骤智能体防护机制的首个可运行版本,该机制会在执行不可逆操作前,重新核查该操作所依赖的事实;同时还提供了一项基准测试,分别报告检出率和误报率——在本地 Qwen2.5-7B 模型上运行时,经过保守的归一化处理后,误报率达到 0%。

0 人收藏 0 人点赞
#benchmark

@llama_index: 我们为文档解析器搭建了一座鬼屋。Boo Bench 是 179 页专门把解析器逼入重复循环的内容。有一个模型看到……

X AI KOLs Following ↗ · 2026-10-29 缓存

LlamaIndex 发布了 Boo Bench,这是一个由 179 页文档页面组成的基准测试集,专门设计用来诱骗解析器和视觉语言模型进入重复循环。该基准配有排行榜和论文,测量各系统返回结果的"无鬼影"频率。

0 人收藏 0 人点赞
#benchmark

“大家把自己学术生涯中最难的研究问题丢进去,模型一个接一个地解决了,涵盖许多不同领域。”

Reddit r/singularity ↗ · 2026-10-29

研究人员报告称,他们把自己职业生涯中最难的研究问题输入到一个新的AI模型中,模型横跨多个不同领域,将这些问题逐一解决。

0 人收藏 0 人点赞
#benchmark

@modal:Nova 让 Opus 4.8 在 Terminal-Bench 2.1 上略微领先 Fable 5。Modal Sandboxes 让团队能够将 Nova 的智能体循环解耦……

X AI KOLs Following ↗ · 2026-10-29 缓存

Nova 报告称,其基于 Modal Sandboxes 构建的 Agent OS 将 Claude Opus 4.8 在 Terminal-Bench 2.1 上的得分提升至 83.9%,略高于 Fable 5 的 83.8%,且未进行任何微调,表明智能体编排如今已能与前沿模型能力相媲美。

0 人收藏 0 人点赞
#benchmark

club-3090 / qengine / RedHatAI/Qwen3.8-27B-INT4

Reddit r/LocalLLaMA ↗ · 2026-10-29

一位用户报告称,在双 RTX 3090 显卡上使用 QEngine 运行量化的 RedHatAI/Qwen3.8-27B-INT4 模型,速度明显快于此前使用 FP8 的 vLLM 配置,并分享了配置和模型仓库的链接。

0 人收藏 0 人点赞
#benchmark

诊断参照缺口:视觉支架在多模态推理中能解决与不能解决的问题

Hugging Face Daily Papers ↗ · 2026-10-29 缓存

该论文将“指代鸿沟”——即无法将语言与视觉实体建立关联——确定为多步骤多模态推理的关键瓶颈,并推出了 ReGap-Bench,表明编号等与任务相匹配的外部指代标记,无需训练即可将准确率提升高达 25%。

0 人收藏 0 人点赞
#benchmark

[基准测试更新] Basalt 的新 PR(Strata 分支)创下新纪录:IQ3_S Qwen3.8 Flash Next 在单张 RTX 5080 和 51 GB 内存上运行,提示词处理速度达 5500 tok/s,峰值生成速度高达 275 tok/s(在 opencode 实时编程会话期间)

Reddit r/LocalLLaMA ↗ · 2026-10-29

Basalt(Strata 的一个分支)合入了新的 PR,搭配 IQ3_S 量化的 Qwen3.8 Flash Next,在单张 RTX 5080 和 64GB DDR5 内存的配置下创下了新的基准测试纪录:在实时 opencode 编程会话中,提示词处理速度达到 5500 token/秒,峰值生成速度高达 275 token/秒。

0 人收藏 0 人点赞
#benchmark

MemSteer:将用户历史转化为智能体记忆优化的监督信号

Hugging Face Daily Papers ↗ · 2026-10-29 缓存

MemSteer 由北京大学与微软亚洲研究院合作开发,能够将用户历史自动转化为针对智能体记忆的监督测试,MemSteer-Opt 则利用这些证据优化存储、检索与呈现方式,无需人工标注数据或微调,在 ATM-Bench 与 RHELM 上超越了 BM25 基线。

0 人收藏 0 人点赞
#benchmark

5 个前沿大语言模型根据 50 个提示词为 39 个本地大语言模型评分

Reddit r/LocalLLaMA ↗ · 2026-10-29

一位爱好者使用 5060 Ti,在 50 个提示词上对 39 个本地大语言模型进行了基准测试,随后让四个前沿大语言模型(Gemini 3.8、GPT-6.1 的不同变体、Gemini 4)对输出进行评分,结果将 Bonsai-2 27B 和 Underdog-Saluki 27B 列为能力最强的模型,同时将 Nanbeige4.2 3B 和 Gemma-4 12B 等较小模型评为最适合微调的基础模型。

0 人收藏 0 人点赞
#benchmark

视觉语言模型在3D推理上在哪里失败?

Hugging Face Daily Papers ↗ · 2026-10-29 缓存

该论文提出了BedBench,一个包含十三个程序化生成的3D推理任务的受控基准,结果显示视觉语言模型能够做出正确的单个判断,却无法恢复并一致地应用精确的逐色计数(准确率为7.2%,而人类为93.3%),并主张应从精确正确性、一致性以及对视觉的依赖性等多个维度进行评估,而非仅看准确率。

0 人收藏 0 人点赞
#benchmark

MAServeBench:面向层级协作工作负载的多智能体 LLM 服务系统基准测试

Hugging Face Daily Papers ↗ · 2026-10-29 缓存

MAServeBench 是一个基准测试框架,将多智能体协作作为可配置的负载维度,用于评估 LLM 服务系统与 GPU/NPU 硬件性能;它通过层级化语义轨迹实现可复现的依赖追踪与任务级测量。

0 人收藏 0 人点赞
#benchmark

当需求相互作用时:通过相互依赖的规范扩展长周期编程能力

Hugging Face Daily Papers ↗ · 2026-10-29

CodeSpecWeave 是一个用于合成长程编码任务的框架,这些任务具有丰富且相互依赖的规格要求。该框架生成了 4,670 个训练任务和一个包含 100 个任务的基准测试集;在这些任务上进行强化学习训练,显著提升了 DeepSWE-v1.1 相较于基线的性能。

0 人收藏 0 人点赞
#benchmark

HALO:基于人类的主动式智能体细粒度评估

Hugging Face Daily Papers ↗ · 2026-10-29 缓存

HALO 提出了一套人工标注的基准与包含 8,000 条回复的数据集,用于评估主动型 AI 智能体。研究发现,过度主动(时机过早或强度过大)是主要的失败模式,占被拒回复的 61% 以上。

0 人收藏 0 人点赞
#benchmark

EditAgent:重新思考智能体图像编辑

Hugging Face Daily Papers ↗ · 2026-10-29 缓存

EditAgent 提出一种新的智能体图像编辑框架,通过将编辑步骤路由到多样化的专用编辑器并利用验证记录进行列表式评判,同时扩展了智能体的动作空间与观察空间,显著提升了复杂图像编辑任务的可靠性与效率。

0 人收藏 0 人点赞
#benchmark

Qwen 3.8 27B 对比 Nanbeige 4.3 33B,运行于 4 张 R9700:在我的工作负载下的实际 TPS 和每小时任务数

Reddit r/LocalLLaMA ↗ · 2026-10-28

一位用户在配备 4 张 R9700 GPU 的硬件配置上,对比了 Qwen 3.8 27B 与 Nanbeige 4.3 33B 在实际场景中的吞吐表现,发现 Qwen 在词元生成速度和每小时任务量上分别领先约 25% 和 45%,且在思考模式下准确率更高。

0 人收藏 0 人点赞
#benchmark

Google 发布 Gemini 4 Carbon,在网络安全领域实现"重大飞跃"

The Verge ↗ · 2026-10-28 缓存

Google发布前沿模型Gemini 4 Carbon,在编码、智能体任务和网络安全方面实现显著提升,在Artificial Analysis Intelligence Index、SEC-bench Pro和ExploitGym等多个基准上领先Claude Opus 5.5和GPT-6 Astra,定价与Argon一致。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈