5 个前沿大语言模型根据 50 个提示词为 39 个本地大语言模型评分

Reddit r/LocalLLaMA 新闻

摘要

一位爱好者使用 5060 Ti,在 50 个提示词上对 39 个本地大语言模型进行了基准测试,随后让四个前沿大语言模型(Gemini 3.8、GPT-6.1 的不同变体、Gemini 4)对输出进行评分,结果将 Bonsai-2 27B 和 Underdog-Saluki 27B 列为能力最强的模型,同时将 Nanbeige4.2 3B 和 Gemma-4 12B 等较小模型评为最适合微调的基础模型。

这只是我跑了大约 10–20 个小时的一些东西(期间一直在添加模型),做了各种测试/基准测试,并让 4 个前沿大语言模型给本地大语言模型的回答打分(Claude 也算参与了一点评分,它的 token 太珍贵了)。下面的文字是大语言模型生成的,说实话,我懒得用自己的话重写,因为我也就是看看这些结果,然后继续折腾我的本地智能体。觉得你们中有些人可能会感兴趣。大模型跑了大约 44 个提示词/测试,小模型跑了 66 个。有些是我写的,大部分是 AI 写的,而 AI 生成的测试大多基于我之前用 AI 智能体做过的工作。评分花了大约 30–40 美元的 Argon 用量,Codex 评分则用掉了两个 5 小时的额度周期,至于 Antigravity 上的 Gemini 3.8,谁在乎呢。Astra、Sol、Terra、Argon、Gemini 和 Opus 5.5 都写了一些测试,我们平均每个参与者写的测试/基准测试数量应该差不多。所有测试都在一台配备 5060 Ti 16GB、64GB 内存和 5800X3D 的机器上进行。输出长度为 3 千 token,有些测试,比如调试,只有 1 个提示词,具体到调试测试,用的是我在一个项目中遇到的真实 bug。评分完成后,四位评委分别查看了各自的评分表、智能体数量、速度和六份示例回答,然后选出两个模型:自己最喜欢的(目前能力最强的),以及最适合作为基础的(适合进行微调并为其配备专用模型的)。Gemini 3.8 能力前三名:Bonsai-2 27B PQ2、Underdog-Saluki 27B、Qwen3.6 35B-A3B 基础模型前三名:Nanbeige4.2 3B、Gemma-4 12B Q6、Bonsai-2 27B PQ2 Terra(GPT-6.1)能力前三名:Bonsai-2 27B PQ2、Underdog-Saluki 27B、Gemma-4 12B Q6 基础模型前三名:Bonsai-2 27B PQ2、Underdog-Saluki 27B、Nanbeige4.2 3B Sol(GPT-6.1 Sol)能力前三名:Bonsai-2 27B PQ2、Underdog-Saluki 27B、Qwen3.6 35B-A3B 基础模型前三名:Underdog-Saluki 27B、Bonsai-2 27B PQ2、Qwen3.6 35B-A3B Argon(Gemini 4)能力前三名:Underdog-Saluki 27B、Bonsai-2 27B PQ2、Gemma-4 12B Q6 基础模型前三名:Gemma-4 12B Q6、Qwen3.6 35B-A3B、OmniCoder 9B Q8
查看原文

相似文章

我在 MacBook Air M5 上对 21 款本地大模型进行了代码质量与速度的性能评测

Reddit r/LocalLLaMA

一位开发者在 MacBook Air M5 上使用 HumanEval+ 对 21 款本地大模型进行了基准测试,发现 Qwen 3.6 35B-A3B (MoE) 以 89.6% 的得分和 16.9 tok/s 的速度位居榜首,而 Qwen 2.5 Coder 7B 仅需 4.5 GB 内存即可达到 84.2% 的性能,拥有最佳的内存性价比。值得注意的是,Gemma 4 系列的表现远低于预期(31B 版本仅得 31.1%),这可能是受 Q4_K_M 量化策略的影响。

HalBench:我构建了一个自定义的谄媚与幻觉基准测试,并评估了4个前沿模型(Sonnet 4.6、Grok 4.3、GPT 5.4 和 Gemini 3.1 Pro),希望得到关于接下来应运行哪些开源模型的建议!

Reddit r/LocalLLaMA

HalBench 是一个新的开放基准测试,用于衡量大语言模型中的谄媚与幻觉现象,通过 3,200 个基于错误前提的提示对四个前沿模型进行了测试。结果显示,Sonnet 4.6 和 Grok 4.3 在诚实反驳方面优于 GPT-5.4 和 Gemini 3.1 Pro。