small-language-model

Maxime Labonne celebrates reaching 1,000 likes in five days for his post about the LFM3-1.7B small language model.

The author tested Liquid AI's LFM3-1.7B model (Q8_0 GGUF via llama.cpp/ROCm) for compression and summarization, reporting strong prefill/decode throughput on Strix Halo and tensor-split 7900 XTX+XT setups, plus unexpectedly coherent performance at 32k-64k context lengths for a 1.7B model.

GuppyLM is a small ~9M-parameter language model that can be trained from scratch in 5 minutes on a single Colab notebook. It simulates a fish named Guppy talking about water, food, and light, aiming to prove that training your own language model isn't magic — it's something anyone can do.

A showcase of Mica v0.5 4B, a small local model that decomposes natural-language requests in Minecraft into chains of probabilistic multiple-choice decisions, enabling a bot to complete complex multi-goal tasks like gathering porkchops and crafting a netherite ingot from bare hands.

Liquid AI 推出 LFM3 开放权重模型系列，采用卷积、滑窗注意力与全局注意力混合的三层架构，1.7B 文本模型性能超越前代 2.6B 模型，并在 agent 基准上表现突出。

Liquid AI 发布第三代 Liquid Foundation Models（LFM3），首批包含六个 2B 级模型，覆盖文本、视觉、音频、全模态和决策任务，采用开放权重并共享主干架构，可在手机、笔记本和边缘设备上运行，权重已上线 Hugging Face。

Liquid AI 推出新一代 Liquid Foundation Models 系列 LFM3，采用共享骨干的多模态（文本、视觉、音频、全模态、决策）混合架构，首批 2B 参数级模型开放权重，可本地微调并跨设备运行。

发布了 Spark-X2.6-1.7B 小模型，参数量不到 4B 版本的一半，但在 SWE Verified (59.8 vs 62.8) 和 τ²-bench (85.3 vs 86.9) 两项基准上性能接近。

CCORE 发布了基于 Qwen3.5-4B 的独立微调模型 Qwen3.5-4B-3D-Coder，专注于通用代码编写与高质量 Three.js 交互式 3D 场景生成，目前已提供 Q4_K_M 和 Q8_0 量化版本，完整 FP16 权重和训练数据集将在训练完成后公开。

Liquid AI 发布 LFM3-1.7B 的 GGUF 版本，支持在 CPU/GPU 上本地推理，兼容 llama.cpp、Ollama、LM Studio 等工具，并提供经过量化感知蒸馏（QAD）的 Q4_0 检查点以恢复量化损失的精度。

Liquid AI released LFM3-1.7B, a 1.73B-parameter tri-hybrid text model designed for local agents and edge deployment with a 256K-token context window, fitting in about 1 GB of memory at 4-bit precision and supporting single-GPU fine-tuning for domain specialization.

Unsloth 发布 NVIDIA Nemotron 3.5 Bolt E4B 的 GGUF 量化版本（Q4_K_M），这是一个基于 Gemma-4-E4B-it 进一步后训练的小语言模型（SLM），专为低内存、低首字延迟的本地语音助手与嵌入式/边缘设备场景优化。

作者微调了一个 360M 参数的 Qwen2.5-Coder-0.5B 模型，使其像真正的终端一样预测屏幕变化，可以模拟 vim、tmux、snake 等应用，展示了小型世界模型在字符网格界面中维持一致状态的可行性。

Recursive released Flint, a free 40B-parameter mixture-of-experts coding model that runs on laptops, claiming it was built largely by its automated AI research system, the Eureka Machine. Flint achieves high token throughput and strong SWE-Bench Verified results for its size, and is available under the Apache 2.0 license on Hugging Face.

Mica v0.5 是一个 4B 参数的决策模型，在单张消费级 GPU 上实现极速推理（256 token 仅 19.8 ms），并在 JevBench Hard 和 JDI 上取得 4B 级别最佳成绩，采用 Apache-2.0 开源协议发布。

A small open model, qwen3-4b-deslop, is a Qwen3-4B-Instruct fine-tune trained on a MacBook Air that removes common AI writing tics (em dashes, 'not X, but Y', lists of three), cutting the slop score from 121 to 12.5 per 1000 words while keeping factual accuracy, and it runs locally via Ollama.

Spark-X2.6-4B is a compact 4B on-device language model released in GGUF format, featuring improved post-training for coding, agentic, long-context, and multilingual tasks along with a controllable thinking budget. It claims state-of-the-art performance among similarly sized open-source models, matching or surpassing ~9B parameter models.

Pearl-Chat 论文介绍了一个专为低资源班图语 Luganda 设计的 8.5M 参数因果解码器 Transformer，使用 JAX/Flax NNX 从零构建，并训练了自定义字节级 BPE 分词器，实现了相比 LLaMA-3/Gemma 约两倍的压缩改进。

PrismML 推出基于 Qwen3.5 的 Ternary Bonsai 2 系列新模型 2B、4B 和 9B，采用 {−1, 0, +1} 三值权重表示，内存占用比全精度模型小 9 倍以上，并在吞吐与能效上最高提升 5 倍和 3 倍，面向手机、电脑和可穿戴设备上的本地智能体场景。

Mr.Chatterbox-2.7B-Chat 是一个完全基于 1800-1899 年英国印刷文本从零训练的 2.7B 语言模型，并用真实维多利亚时代语料微调以维多利亚绅士口吻对话，其微调数据 97.2% 为真实 19 世纪原文。