试了 LFM2.5-24-A2B,垃圾。没错,我再次确认。我甚至不信任它能正确剥一颗花生

Reddit r/LocalLLaMA 新闻

摘要

一位 LocalLLaMA 用户分享了量化版 LFM2.5-24B-A2B(Q4_K_M GGUF)模型的糟糕实测体验,指出其存在循环复读、在 agentic 任务上代码生成崩溃,以及即使使用了修复后的聊天模板和 Hermes 集成,插件开发结果依然很差。

编辑:模型是 LFM2.5-24B-A2B-Q4_K_M.gguf 昨天我发了一个看起来过于简短的帖子,吐槽这个被大家吹捧的垃圾模型(大概率是机器人水军,我还真想看看它们能用这模型跑出什么成果)。链接:https://www.reddit.com/r/LocalLLaMA/comments/1xb9hrb/tried_lfm2524a2b_its_crap/ 主要批评是我没有提供任何配置信息。好,那就补上。 我先尝试在 llamaampere 上运行,这是一个针对特定架构优化的 llama.cpp 版本,之前它能让我以对我来说相当高的 40-60 tk/s 速度正确运行 Qwen 3.8 27b Q4 Small,结果也令人满意。但用它跑 LFM2.5 并不是个好选择,模型不停地自我循环,连最简单的事情都会翻车。不过我在一张 RTX A4500 上跑出了 130tk/s,也算是个小成就吧哈哈。 然后我直接换到 LM Studio,想着行吧,牺牲点速度看看表现如何。结果它反而稳定了那种不稳定的行为。我简单聊了几句,回答基本算是正确的。 **配置信息,给你们这些不看配置就来喷的控制狂:** LMSTUDIO -> 所有 Engine & Frameworks 已更新至 2026年10月22日,最新版本全部显示绿色对勾 模型:https://preview.redd.it/sw6dnz6agzwh1.png?width=608&format=png&auto=webp&s=43154be5df8ce228fe6ee9e9a3471f74e0348576 后来我读到这个模型号称在 openclaw、hermes 等 agentic harness 上做了超棒的训练,他们还把这当作一大卖点。于是我安装了 hermes desktop 并将其连接到 hermes。肯定有人要来喊模板修复的事,放心,我已经准备好了。 https://huggingface.co/peculiar-ragdoll/Sharp-LFM2.5-Chat-Templates/raw/main/chat_template.jinja 用的是这个模板修复版。我在 hermes desktop 中让它写一个简单的插件,用来调用微软的 garnet(一个 Redis 的替代品)。结果由 ChatGPT 进行分析——它主导了 prompt 工程并用 GPT Sol 检查结果: "LFM2.5-24B-A2B 在 Hermes 内存插件任务上表现糟糕:它生成的代码有错误,遗漏了必需的功能,而且在没有端到端测试的情况下声称已验证通过。" 我用了修复版模板(sharp 模板修复)试了一下,情况没太大变化。有什么建议吗? 编辑:模型名称:LFM2.5-24B-A2B-Q4_K_M.gguf
查看原文

相似文章

LFM 2.5 QAD

Reddit r/LocalLLaMA

LiquidAI发布LFM 2.5,一款针对量化部署优化的语言模型,并提供GGUF格式,可在Hugging Face上获取。

全新LFM2.5 8b A1b模型!!

Reddit r/LocalLLaMA

介绍LFM2.5 8b A1b,一款性能与Nemotron 3 Nano相当但速度更快的新AI模型。SmallCode正在增加对非标准工具调用的支持。

LFM 2.6B 非常有趣。

Reddit r/LocalLLaMA

作者分享了使用 LFM 2.6B 的亲身经历,这是一款为手机设计的小型模型,作者称赞其速度和完成快速任务的实用性,例如摘要和自动补全,不过它只有 128k 的上下文限制。

LiquidAI/LFM2.5-2.6B-GGUF

Hugging Face Models Trending

此 Hugging Face 模型卡片介绍了 LiquidAI 的 LFM2.5-2.6B 模型(GGUF 量化格式),并提供了通过 llama.cpp、vLLM、Ollama 等工具在本地运行的说明。