标签
Maxime Labonne 庆祝他关于 LFM3-1.7B 小型语言模型的帖子在五天内获得了 1,000 个赞。
作者测试了 Liquid AI 的 LFM3-1.7B 模型(Q8_0 GGUF 格式,通过 llama.cpp/ROCm 运行),用于压缩和摘要任务。测试结果显示在 Strix Halo 以及 7900 XTX+XT 张量拆分配置上具有出色的预填充/解码吞吐量,并且作为一个 1.7B 模型,在 32k-64k 上下文长度下表现出乎意料的连贯性。
GuppyLM 是一个约 900 万参数的小型语言模型,可在单个 Colab 笔记本上用 5 分钟从零训练完成,模拟一条叫 Guppy 的鱼说话,旨在证明自训语言模型并非玄学、人人可上手。
Mica v0.5 4B 的演示:这是一个小型本地模型,可将 Minecraft 中的自然语言请求分解为一系列概率性多项选择决策,使机器人能够从赤手空拳开始,完成收集猪排和合成下界合金锭等复杂的多目标任务。
Liquid AI 推出 LFM3 开放权重模型系列,采用卷积、滑窗注意力与全局注意力混合的三层架构,1.7B 文本模型性能超越前代 2.6B 模型,并在 agent 基准上表现突出。
Liquid AI 发布第三代 Liquid Foundation Models(LFM3),首批包含六个 2B 级模型,覆盖文本、视觉、音频、全模态和决策任务,采用开放权重并共享主干架构,可在手机、笔记本和边缘设备上运行,权重已上线 Hugging Face。
Liquid AI 推出新一代 Liquid Foundation Models 系列 LFM3,采用共享骨干的多模态(文本、视觉、音频、全模态、决策)混合架构,首批 2B 参数级模型开放权重,可本地微调并跨设备运行。
发布了 Spark-X2.6-1.7B 小模型,参数量不到 4B 版本的一半,但在 SWE Verified(59.8 vs 62.8)和 τ²-bench(85.3 vs 86.9)两项基准上性能接近。
CCORE 发布了基于 Qwen3.5-4B 的独立微调模型 Qwen3.5-4B-3D-Coder,专注于通用代码编写与高质量 Three.js 交互式 3D 场景生成,目前已提供 Q4_K_M 和 Q8_0 量化版本,完整 FP16 权重和训练数据集将在训练完成后公开。
Liquid AI 发布 LFM3-1.7B 的 GGUF 版本,支持在 CPU/GPU 上本地推理,兼容 llama.cpp、Ollama、LM Studio 等工具,并提供经过量化感知蒸馏(QAD)的 Q4_0 检查点,以恢复量化损失的精度。
Liquid AI 发布了 LFM3-1.7B,这是一款拥有 17.3 亿参数的三重混合架构文本模型,专为本地智能体和边缘部署而设计,具备 256K token 的上下文窗口,在 4 位精度下仅需约 1 GB 内存,并支持通过单 GPU 微调实现领域专精。
Unsloth 发布 NVIDIA Nemotron 3.5 Bolt E4B 的 GGUF 量化版本(Q4_K_M),这是一个基于 Gemma-4-E4B-it 进一步后训练的小语言模型(SLM),专为低内存、低首字延迟的本地语音助手与嵌入式/边缘设备场景优化。
作者微调了一个 360M 参数的 Qwen2.5-Coder-0.5B 模型,使其像真正的终端一样预测屏幕变化,可以模拟 vim、tmux、snake 等应用,展示了小型世界模型在字符网格界面中维持一致状态的可行性。
Recursive 发布了 Flint,这是一款可在笔记本上运行的免费 400 亿参数混合专家(MoE)编程模型。该公司声称该模型主要由其自动化 AI 研究系统 Eureka Machine 构建。Flint 以同规模而言实现了较高的 token 吞吐量和出色的 SWE-Bench Verified 成绩,目前已以 Apache 2.0 许可证在 Hugging Face 上开源。
Mica v0.5 是一个 4B 参数的决策模型,在单张消费级 GPU 上实现极速推理(256 token 仅 19.8 ms),并在 JevBench Hard 和 JDI 上取得 4B 级别最佳成绩,采用 Apache-2.0 开源协议发布。
一个小型开放模型 `qwen3-4b-deslop`,是基于 `Qwen3-4B-Instruct` 微调而来的模型,在一台 MacBook Air 上训练完成,用于消除常见的 AI 写作惯用手法(如破折号、"不是 X,而是 Y"句式、三项并列列表等)。它将每千字的 AI 味评分从 121 降至 12.5,同时保持事实准确性,并可通过 Ollama 在本地运行。
Spark-X2.6-4B 是一款紧凑的 4B 端侧语言模型,以 GGUF 格式发布。它针对代码、智能体、长上下文和多语言任务进行了改进的后训练,并支持可控的思考预算。据称在同等规模的开源模型中达到了最先进性能,可匹敌甚至超越约 9B 参数的模型。
Pearl-Chat 论文介绍了一个专为低资源班图语 Luganda 设计的 8.5M 参数因果解码器 Transformer,使用 JAX/Flax NNX 从零构建,并训练了自定义字节级 BPE 分词器,实现了相比 LLaMA-3/Gemma 约两倍的压缩改进。
PrismML 推出基于 Qwen3.5 的 Ternary Bonsai 2 系列新模型 2B、4B 和 9B,采用 {−1, 0, +1} 三值权重表示,内存占用比全精度模型小 9 倍以上,并在吞吐与能效上最高提升 5 倍和 3 倍,面向手机、电脑和可穿戴设备上的本地智能体场景。
Mr.Chatterbox-2.7B-Chat 是一个完全基于 1800-1899 年英国印刷文本从零训练的 2.7B 语言模型,并用真实维多利亚时代语料微调以维多利亚绅士口吻对话,其微调数据 97.2% 为真实 19 世纪原文。