标签
一个个人项目描述了一个村庄模拟：一个 144M 参数的 julia-1「直觉」模型在 CPU 上给村民的动作打分，embeddinggemma 负责检索相关记忆，而 Gemma 4 e4b（6 GB 笔记本 GPU）只在计划失败或出现意外时才被调用。结果显示这个「直觉」很少感到不确定；而每晚从错误中学习规则，把每个山谷的受伤数从 2.73 降到了 0.53。
一份精选的小型到中型模型列表（大多在 35B 以下），适合在普通电脑上运行 LLM 代理而无需高端 GPU，按能力排序，并突出标注了支持视觉的模型。
一位用户询问，Gemma 4 E4B 是否仍然是最佳的小型多模态模型（参数少于 8B／内存占用低于 6GB），适合通过 MLX 在 Mac 上运行支持工具调用的本地个人助理，并提到尝试 Ling 3.0 tiny、LFM 系列模型以及 Qwen 3.5 4B/9B 均未成功。
Yann LeCun 和 Randall Balestriero 通过数学方法证明了 Platonic Representation Hypothesis（柏拉图式表征假说），并表明使用与场景相关的正样本视图进行 JEPA 训练，可以用减少42倍的数据实现图文对齐。其中，一个1.09亿参数的文本 JEPA 模型在跨模态基准测试中超越了高达720亿参数的 LLM。
前 OpenAI、前特斯拉 AI 负责人 Karpathy 在一次 16 分钟对谈中表示，Agent 并非魔法，而是大规模蒸馏的结果；他主张用小模型配合正确工具和闭环反馈来构建真正有效的 Agent 技术栈，而不是一味追求更大的模型。
Microsoft 发布了 Mage-VL-Cowork，一个紧凑的 4B 视觉-语言模型，在单一策略中同时支持 GUI 交互与终端/代码执行，在 OSWorld-Verified 基准上取得 66.0% 的成绩——这是 4B 规模下的最佳结果——通过五阶段课程学习和在线强化学习实现。
研究训练小规模GPT-2模型于儿童日常语音转录（BabyView）和合成儿童导向对话（TinyDialogues）数据上，发现模型会显著特化于特定儿童的语言环境，多儿童数据能提升对混合留出语言的预测但对语法基准改进有限，表明小数据语言学习不仅取决于数据量，还取决于环境来源与匹配度。
datalab-to 发布了 Tesseract OCR 引擎的继任者 indra，其突出之处在于仅有 100 万个参数，却在基准测试中展现出质量和速度的显著提升。
实验探索用 DeepSeek-V4.1-Flash 作为协调者指挥 4 个 Qwen3.5-9B 本地小模型对二进制程序进行逆向工程，结果显示小模型协作在小任务上纯属开销，但协调者动态改写工人提示和提供工具是最有趣的发现。
一位实践者在 Qwen3.5-4B 上使用 10 种智能体运行框架测试了 5 项任务，发现失败源于精确匹配编辑、机械地遵循指令、计数错误和 API 不匹配，而非工具调用格式错误。10 个智能体中有 6 个通过了全部任务，在相同硬件上，最长运行时间是最短的 11 倍。
作者提议用小模型取代大型“无所不知”的 AI 模型，让小模型在由检索智能体构建、存储于外部的知识“地图”中导航，以存储空间换取内存，同时保持结果的可重复性。文章权衡了这一构想的利弊，并邀请大家参与讨论。
一项针对 Terminal-Bench Lite 的基准研究发现，对于 Qwen3.5-9B，一个极简的 IPython 运行框架可以匹敌更重量级的生产级 agent 框架；同时，小型模型 agent 运行间波动很大程度上源于嘈杂的工具输出，而非模型本身。
推文分享了一套实用配方：找到可重复任务，用任意模型完成并记录运行结果，然后微调最小的开源权重模型（如 FastConformer）达到目标精度，从而以极小算力获得接近 SOTA 的速度与性能。作者以自己用 Parakeet 采集数据训练 FastConformer 的实际经验为例。
普林斯顿大学与Google的联合论文提出JevAgentHarness，将智能体工作流中的常规决策（如工具选择）交给经智能体实际状态训练的小型决策模型（如AgentDecision-4B），在保持成功率的同时使成本降低81%–89%、速度提升最高2.5倍。
开发者介绍了 **amber-8**，一个将 80 年代汇编式确定性代码与本地小决策模型的概率判断相结合的编程实验，用于把自然语言指令拆解为可执行的栈操作代码。
中国研究者发表题为《The End of Harness Engineering》的论文，主张围绕模型编写的程序性 harness 应由自动化循环自动生成并打分迭代，人类只需负责编写评测集，而大模型本身保持不变。
Maxime Labonne 指出，像 d1-omni-600M 这样的小型决策模型在经过微调后可以非常高效。Leonie 分享了使用 Unsloth 和 Hugging Face TRL 在免费 GPU 上用 30 分钟微调 d1-3B 决策模型的笔记本。
一个拥有 6 亿参数的 d3-edge 模型，在数千个示例上通过 SFT + LoRA 进行微调后，在类型化决策任务上超越了拥有 270 亿参数的 d3 决策模型，并在 Banking77 上取得了几乎与之持平的表现，凸显了微调小型专用模型相较于使用大型通用模型的价值。
最近几周海外团队频繁基于 GLM-5.3-Flash 在垂直领域做后训练并达到 SOTA，包括法律领域的 glm-legal、知识工作的 Ultramarine、网络安全的 apex-flash-1，以及 Datadog 用于生产事故排查的 SRE 模型 Scout 1.0。
文章介绍了海外小型AI实验室Paper Instruments（YC S25批次，融资约400万美元），其专注于大模型后训练与非可验证领域的智能体强化学习，发布了基于GLM-5.3 Flash后训练的Ultramarine 1 Flash模型，宣称在知识工作任务上接近Claude Fable 5的性能，但成本仅约为其六十分之一，后训练总成本约30万美元，采用开源加推理API的商业模式。