ai-benchmarking

标签

Cards List
#ai-benchmarking

@MTSlive: AVERI 标准总监 @prpaskov 揭示了他们如何在 Google DeepMind 未看到基准测试的情况下对 Gemini 进行评估。

X AI KOLs Following ↗ · 2026-09-29 缓存

AVERI 标准总监揭示了一种用于 Gemini 的隐私保护基准测试方法,该方法使用 OpenMined 提供的安全飞地,允许在不暴露数据或模型权重的情况下进行模型评估,基于早期为更安全 AI 审计而进行的试点项目。

0 人收藏 0 人点赞
#ai-benchmarking

Solar Decide 与 Jev 基准对比:57.8% vs 83.3%

Reddit r/ArtificialInteligence ↗ · 2026-09-29

用户对 Solar Decide AI 模型与 Jev 进行基准测试,用于处理 Roblox 游戏中的聊天报告,发现 Solar Decide 性能显著较低且误报率更高,导致回退到 Jev。

0 人收藏 0 人点赞
#ai-benchmarking

我们能否对这些模型性能帖子进行一些质量控制?

Reddit r/LocalLLaMA ↗ · 2026-09-28

一位社区成员对低质量的模型性能帖子表示不满,并倡导更严格的标准,包括详细的上下文以便复现和质量评估。

0 人收藏 0 人点赞
#ai-benchmarking

皂液器基准测试!

Reddit r/LocalLLaMA ↗ · 2026-09-27

基准测试结果比较了AI模型如Opus 5.5、DeepSeek V4.1 Flash和ChatGPT 5.6 Sol在生成皂液器机制的HTML动画方面的表现。

0 人收藏 0 人点赞
#ai-benchmarking

有人曾对AI智能体进行SOLIDWORKS CSWA考试的基准测试吗?

Reddit r/LocalLLaMA ↗ · 2026-09-25

本文探讨了通过SOLIDWORKS CSWA考试对AI智能体进行基准测试,以评估其在真实认证场景中的能力,并提到AI在Parametric CAD Bench等基准测试中的得分持续上升。

0 人收藏 0 人点赞
#ai-benchmarking

Stefano Ermon:自回归推理是顺序执行且受内存限制的。扩散模型设计用于映射到GPU——这就是它获胜的原因。

Reddit r/artificial ↗ · 2026-09-25

Augment Code将其编码代理后端切换到Stefano Ermon的Mercury 2.5扩散模型,在生产环境中实现了82%的延迟降低和90%的成本削减。文章强调了扩散模型的性能优势以及独立AI基准测试工具的必要性。

0 人收藏 0 人点赞
#ai-benchmarking

AI 现在正被评估其是否能真正进行实验室科学,而不仅仅是回答问题:包括运行实验、操作设备、读取仪器以及从失败中恢复。

Reddit r/singularity ↗ · 2026-09-24

AI 系统现正接受评估,以检验其在实际实验室任务中的表现,如运行实验、操作设备、读取仪器和从失败中恢复,这标志着从理论科学到应用科学的转变。

0 人收藏 0 人点赞
#ai-benchmarking

@LiorOnAI: Fireworks 刚刚推出了 Specialized Intelligence Index。它在医疗保健、法律等领域的实际工作中对模型进行基准测试…

X AI KOLs Timeline ↗ · 2026-09-23 缓存

Fireworks 推出了 Specialized Intelligence Index (SII),这是一个基准测试工具,用于评估 AI 模型在医疗保健、法律和网络安全等行业真实世界任务中的表现,专注于实际工作表现而非标准化测试。

0 人收藏 0 人点赞
#ai-benchmarking

@rohanpaul_ai: VoiceArena 推出了 Diarization Bench,以在相同的实际音频和评分规则下比较 12 个说话人分离系统。…

X AI KOLs Following ↗ · 2026-09-23 缓存

VoiceArena 推出了 Diarization Bench,这是一个在真实音频上比较 12 个说话人分离系统的基准测试,突出了准确性如何随重叠下降以及领口效应对错误率的影响。

0 人收藏 0 人点赞
#ai-benchmarking

SpecialEduBench: 视觉语言模型在自闭症儿童语言干预中知识、技能和态度的基准测试

arXiv cs.CL ↗ · 2026-09-23 缓存

SpecialEduBench是一个基准,旨在评估视觉语言模型执行自闭症儿童语言干预的能力,涵盖知识、技能和态度维度。

0 人收藏 0 人点赞
#ai-benchmarking

前沿模型的智能成本比图表。Opus 5.5 实现显著跃升。

Reddit r/singularity ↗ · 2026-09-22

本文讨论了比较前沿AI模型智能与成本的图表,强调Opus 5.5在该指标上代表了显著改进。

0 人收藏 0 人点赞
#ai-benchmarking

Claude Opus 5.5 智能、性能与价格分析(Max)

Hacker News Top ↗ · 2026-09-22 缓存

Artificial Analysis 使用其智能指数和各类基准测试,对 Claude Opus 5.5 的智能、性能和定价进行了全面评估。

0 人收藏 0 人点赞
#ai-benchmarking

@ChrisGPT: 正确。人们常说开源模型落后于前沿六个月。但“开源”这个概念太宽泛了,一个需要……

X AI KOLs Following ↗ · 2026-09-21 缓存

这篇文章讨论了开源AI模型如Qwen在大约两个季度后匹配前沿能力的模式,以GPT-5和Qwen3.5-27B为例,并质疑这种趋势是否会持续,如Astra和Fable 5.1等模型。

0 人收藏 0 人点赞
#ai-benchmarking

我在有限显存(16-20GB)上对 Qwen 3.8 27B 的测试

Reddit r/LocalLLaMA ↗ · 2026-09-20

本文测试了在有限显存环境下各种量化版本的 Qwen 3.8 27B AI 模型,比较了它们在动画生成、应用开发和单词生成等任务上的表现。

0 人收藏 0 人点赞
#ai-benchmarking

Vals,由 Andreessen Horowitz 支持,正寻求成为 AI 评测的行业标杆

TechCrunch AI ↗ · 2026-09-19 缓存

Vals,这家由 Andreessen Horowitz 支持的初创公司,正在通过评估模型在复杂真实任务上的表现来确立 AI 评测的行业标准,防止作弊并确保评估的准确性。

0 人收藏 0 人点赞
#ai-benchmarking

@bnjmn_marie:如果多次重试,Qwen3.8 27B 在 DeepSWE 1.1 上可以达到 92.04%,比 GPT-6 Astra 报告的约 74% 高出约 18 个百分点。我运行了 20 个配…

X AI KOLs Timeline ↗ · 2026-09-15 缓存

Qwen3.8 27B 通过重试在 DeepSWE 1.1 上达到 92.04%,超越了 GPT-6 Astra 的 74%,展示了较小模型在可靠性策略下的潜力。

0 人收藏 0 人点赞
#ai-benchmarking

Artificial Analysis Capability Indices v1.1 (2分钟阅读)

TLDR AI ↗ · 2026-09-15 缓存

Artificial Analysis 发布了 Intelligence Index v4.2,这是一个临时更新,包含新评估如 AA-Briefcase 和 GDP.pdf,增加了私人测试集以防止作弊,关键结果显示 Anthropic 和 OpenAI 领先。

0 人收藏 0 人点赞
#ai-benchmarking

AA Intelligence Index v4.1 到 v4.3 的动态过渡

Reddit r/LocalLLaMA ↗ · 2026-09-14

本文分析了 AA Intelligence Index 从 v4.1 到 v4.3 的过渡,详细说明了基准权重的变化如何影响 AI 模型的智能评分和成本效益,其中 GPT-6 Astra 等模型有显著改进。

0 人收藏 0 人点赞
#ai-benchmarking

终端压缩工具真的能为我们省钱吗?

Reddit r/AI_Agents ↗ · 2026-09-12

一项针对多个AI模型运行测试终端压缩工具的研究表明,令牌节省并未带来显著的成本降低,突显出令牌压缩并不等同于成本优化。

0 人收藏 0 人点赞
#ai-benchmarking

Hyper-τ-bench: 评估构建代理的代理(4分钟阅读)

TLDR AI ↗ · 2026-09-09 缓存

Sierra AI 开源了 Hyper-τ-bench,这是一个新的基准测试,用于评估AI模型构建客户服务代理的能力,揭示了自主构建的局限性以及在人类协助下的改进。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈