@svpino:在本地电脑上跑 Hermes 微调版 Gemma 4 或 Qwen 3.5,简直是最佳组合,不试真的会后悔……
摘要
开发者称,Hermes 微调版 Gemma 4 与 Qwen 3.5 在本地大模型性能上表现最佳,足以媲美付费 BigAI 模型。
查看缓存全文
缓存时间: 2026/04/22 06:20
在本地电脑上跑 Gemma 4 或 Qwen 3.5 的 Hermes,简直就是最佳组合。在你再花一毛钱给大模型厂商之前,一定得先试试这个。
相似文章
@theemozilla: 我们正在努力改善 Hermes 中的本地模型体验,每个参数量级的最佳本地模型是什么?
用户询问针对不同 VRAM 级别(8-16GB、24-32GB、128GB)的最佳本地 AI 模型推荐,提到了 Gemma4、Qwen 和 DeepSeek 变体,因为他们正在改进 Hermes 中的本地模型支持。
@itsolelehmann: 按价格层级划分的 Hermes 最佳模型配置:1. 预算无限时:选用 GPT 5.5 或 Claude Opus …
本文介绍了 Hermes 应用中按预算层级划分的 AI 模型配置,推荐预算无限时使用 GPT 5.5 和 Claude Opus 4.7 等高端方案,预算有限时使用 DeepSeek V4 Flash 等经济高效的备选方案,并可通过 Qwen 3.6 进行本地部署,实现零推理成本。
@MiaAI_lab: 如果你主要使用本地大模型进行Hermes风格的智能体循环,这可能会让你惊讶:Qwen 3.6 35B 实际上 *击败* 了 Dee…
根据MiaAI Lab的基准测试,Qwen 3.6 35B 在工具密集型和编码相关工作流上优于DeepSeek v4 Flash。
@analogalok:我刚刚在8GB RTX 4060上完全本地运行了Gemma 4 26B A4B MoE模型,搭配Hermes智能体,现在它正在回测交易策略……
一位开发者展示了在8GB RTX 4060上本地运行Gemma 4 26B MoE模型,结合Hermes智能体,完全自动化回测交易策略,凸显了本地LLM作为自主智能体的日益增强的能力。
通俗版对比:Qwen3.6 35b-a3b 与 Gemma4-26b-a4b-it
Gemma 4-26b-a4b-it 基本是个基础扎实、能稳妥完成任务的 B 等生。Qwen3.6-35b-a3b 则是考出 A+ 的优等生,做完任务后还有余力搞点锦上添花的发挥。在我的 16GB 显存显卡上,两款模型运行速度相当。测试环境为 Windows 下的 LM Studio,采用推荐推理设置。使用的模型:unsloth/gemma-4-26B-A4B-it-UD-Q4_K_S 与 AesSedai/Qwen3.6-35B-A3B IQ4_XS。大家有不同意见吗?**更新:** 看来我之前用 Gemma 4 的方式不太对。[Sadman782 的评论](https://www.redd