试了 LFM2.5-24-A2B,垃圾。没错,我再次确认。我甚至不信任它能正确剥一颗花生
摘要
一位 LocalLLaMA 用户分享了量化版 LFM2.5-24B-A2B(Q4_K_M GGUF)模型的糟糕实测体验,指出其存在循环复读、在 agentic 任务上代码生成崩溃,以及即使使用了修复后的聊天模板和 Hermes 集成,插件开发结果依然很差。
编辑:模型是 LFM2.5-24B-A2B-Q4_K_M.gguf
昨天我发了一个看起来过于简短的帖子,吐槽这个被大家吹捧的垃圾模型(大概率是机器人水军,我还真想看看它们能用这模型跑出什么成果)。链接:https://www.reddit.com/r/LocalLLaMA/comments/1xb9hrb/tried_lfm2524a2b_its_crap/
主要批评是我没有提供任何配置信息。好,那就补上。
我先尝试在 llamaampere 上运行,这是一个针对特定架构优化的 llama.cpp 版本,之前它能让我以对我来说相当高的 40-60 tk/s 速度正确运行 Qwen 3.8 27b Q4 Small,结果也令人满意。但用它跑 LFM2.5 并不是个好选择,模型不停地自我循环,连最简单的事情都会翻车。不过我在一张 RTX A4500 上跑出了 130tk/s,也算是个小成就吧哈哈。
然后我直接换到 LM Studio,想着行吧,牺牲点速度看看表现如何。结果它反而稳定了那种不稳定的行为。我简单聊了几句,回答基本算是正确的。
**配置信息,给你们这些不看配置就来喷的控制狂:**
LMSTUDIO -> 所有 Engine & Frameworks 已更新至 2026年10月22日,最新版本全部显示绿色对勾
模型:https://preview.redd.it/sw6dnz6agzwh1.png?width=608&format=png&auto=webp&s=43154be5df8ce228fe6ee9e9a3471f74e0348576
后来我读到这个模型号称在 openclaw、hermes 等 agentic harness 上做了超棒的训练,他们还把这当作一大卖点。于是我安装了 hermes desktop 并将其连接到 hermes。肯定有人要来喊模板修复的事,放心,我已经准备好了。
https://huggingface.co/peculiar-ragdoll/Sharp-LFM2.5-Chat-Templates/raw/main/chat_template.jinja
用的是这个模板修复版。我在 hermes desktop 中让它写一个简单的插件,用来调用微软的 garnet(一个 Redis 的替代品)。结果由 ChatGPT 进行分析——它主导了 prompt 工程并用 GPT Sol 检查结果:
"LFM2.5-24B-A2B 在 Hermes 内存插件任务上表现糟糕:它生成的代码有错误,遗漏了必需的功能,而且在没有端到端测试的情况下声称已验证通过。"
我用了修复版模板(sharp 模板修复)试了一下,情况没太大变化。有什么建议吗?
编辑:模型名称:LFM2.5-24B-A2B-Q4_K_M.gguf
相似文章
@noctus91: 我最近从 Qwen 3.5 9B 切换到了 @liquidai 的 LFM2.5-8B-A1B,它迅速成为我在 H… 中的默认本地模型
一位用户分享了从 Qwen 3.5 9B 切换到 Liquid AI 新推出的 LFM2.5-8B-A1B 模型的积极体验,称赞其在代理任务上的速度和可靠性,同时指出编码仍然是其弱项。该模型是一个 8B MoE 架构,具有 1.5B 活跃参数和 128K 上下文,针对设备和服务器端使用进行了优化。
LFM 2.5 QAD
LiquidAI发布LFM 2.5,一款针对量化部署优化的语言模型,并提供GGUF格式,可在Hugging Face上获取。
全新LFM2.5 8b A1b模型!!
介绍LFM2.5 8b A1b,一款性能与Nemotron 3 Nano相当但速度更快的新AI模型。SmallCode正在增加对非标准工具调用的支持。
LFM 2.6B 非常有趣。
作者分享了使用 LFM 2.6B 的亲身经历,这是一款为手机设计的小型模型,作者称赞其速度和完成快速任务的实用性,例如摘要和自动补全,不过它只有 128k 的上下文限制。
LiquidAI/LFM2.5-2.6B-GGUF
此 Hugging Face 模型卡片介绍了 LiquidAI 的 LFM2.5-2.6B 模型(GGUF 量化格式),并提供了通过 llama.cpp、vLLM、Ollama 等工具在本地运行的说明。