LFM 2.6B 非常有趣。
摘要
作者分享了使用 LFM 2.6B 的亲身经历,这是一款为手机设计的小型模型,作者称赞其速度和完成快速任务的实用性,例如摘要和自动补全,不过它只有 128k 的上下文限制。
相似文章
2.6B 参数模型支持工具调用和 128K 上下文,现可在手机上以 30 tok/s 运行
Liquid AI 发布了 LFM2.5-2.6B,这是一个 2.69B 参数模型,支持 128K 上下文和工具调用,专为多步骤智能体工作流优化,可在手机上以 30 tok/s 运行,Q4_K_M GGUF 文件约 1.67GB。不过,与更大的模型相比,其在编码和知识密集型任务上仍然较弱。
LFM2.5-2.6B 已发布
Liquid AI 发布了 LFM2.5-2.6B,一款专注于智能体能力的新型小模型。作者很期待测试它在文档摘要等大规模任务中的表现。
@noctus91: 我最近从 Qwen 3.5 9B 切换到了 @liquidai 的 LFM2.5-8B-A1B,它迅速成为我在 H… 中的默认本地模型
一位用户分享了从 Qwen 3.5 9B 切换到 Liquid AI 新推出的 LFM2.5-8B-A1B 模型的积极体验,称赞其在代理任务上的速度和可靠性,同时指出编码仍然是其弱项。该模型是一个 8B MoE 架构,具有 1.5B 活跃参数和 128K 上下文,针对设备和服务器端使用进行了优化。
@maximelabonne:不到两天就出现了LFM2.5-2.6B的首批微调版本。这个看起来很棒!
Maxime Labonne 强调了 LFM2.5-2.6B 的早期微调成果,同时 Bad Theory Labs 发布了两个开放权重模型:BTL-4 35B(前沿智能体推理模型)和 Macaw 2.7B(设备端 Mac 智能体),在 BFCL v4 上表现突出。
LiquidAI/LFM2.5-2.6B
Liquid AI released LFM2.5-2.6B, a 2.6B-parameter hybrid model optimized for on-device deployment with 128K context, agentic post-training, and fast inference (220 tok/s on Apple M5 Max) under 2.5GB memory.