标签
Agents-A1-4B是InternScience推出的一款紧凑型4B参数模型，在多项智能体和推理基准测试中取得了最先进的结果，通过扩展能力而非参数规模超越了更大模型。
本文研究了当一个小型4B参数模型作为设备端研究代理时，其引用的忠实性由何种因素决定，发现更多源文本的暴露能提升忠实性，而检索召回率则限制了覆盖率。
OvisOCR2 是一个0.8B参数量的端到端文档解析模型，能将文档页面图像转换为Markdown格式，通过结合监督微调、强化学习和模型融合，在公开基准上取得了最先进的分数。
PrismML 宣布推出 Bonsai 27B，这是首款能在手机上运行的 270 亿参数模型，提供三进制和 1 位变体（分别为 5.9 GB 和 3.9 GB），能够在本地设备上实现多步推理和智能体工作流，全部以 Apache 2.0 许可证开源。
发布了一个接口，用于管理两个在智能手机上本地运行的小模型（4B 和 1.7B）。4B 在高端手机上运行良好；1.7B 在推理时存在稳定性问题，正在通过深度微调进行改进，使用 130k 示例并从 32B 教师模型中进行蒸馏。
本推文解释如何使用 dlt 收集追踪数据，并通过四个步骤用更小的 1.7B 模型替换 744B 参数的智能体。
QLLM 引入了一种无需Transformer或Mamba的新型架构，实现了O(1)推理且无KV缓存。已发布一个1亿参数的模型作为概念验证，代码开源。
一个拥有1.17亿参数的Silia模型在H100 GPU上使用8200万个token训练了5小时。该模型严重欠训练，但提供了与nanoGPT的对比。
本文提出用一个小型开源模型的隐藏状态训练的轻量级确定性探针替代 Multi-Meta-RAG 中专有的 GPT-3.5 元数据提取器。该探针达到 90.9% 的准确率，优于 GPT-3.5（80.9%）和子串基线（88.0%），同时避免了允许列表漂移和 API 成本。
Ternlight 是一个 7 MB 的嵌入模型，通过 WASM 在浏览器中运行，无需任何 API 调用或服务器即可实现快速语义搜索。它以 npm 包的形式提供，只需三行代码即可使用。
SupraLabs 发布了 Supra-Router-51M，一个仅有 51M 参数的微小模型，用于将提示路由到合适的大型或小型模型，实现低延迟编排。同时还发布了一个配套数据集。
Competence Gate 是一个用于 Qwen3.5-4B 的 LoRA 适配器，它利用内部置信度信号来控制工具使用（直接回答、网络搜索、本地检索），从而改进错误检测和隐私保护。
用户宣布他们从零开始训练了一个自定义的78M参数AI架构，在8x3090设备上使用1B个token耗时12小时，声称该模型现在可以说话了。
用户称赞 Gemma 4 e2b 模型在低端硬件上的速度和输出质量，将其与 ChatGPT 3.5 和 4 进行正面比较，并询问其他能在老旧电脑上运行良好的小模型推荐。
一篇新的AI研究论文描述了一个微型模型作为管理者，将任务路由到更大的模型，通过在困难编程基准上编排一组模型而非依赖单一模型，超越了ChatGPT、Gemini和Claude等前沿模型。
一个5M参数的模型通过使用连续潜空间测试时计算，在困难逻辑谜题上以极低的推理成本超越了前沿LLM。
这篇博客文章探讨了使用强化学习训练一个小模型来检测不同LLMs的写作风格，并提供了代码和追踪信息。
Meta FAIR最新论文提出Autodata方法，通过智能数据科学家Agent自主生成和优化高质量数据，使4B小模型在法律推理任务上击败397B大模型，预示数据质量可弥补参数量鸿沟，为数据pipeline和scaling提供新思路。
LiquidAI 发布了 LFM2.5-230M，一个 230M 参数的语言模型，专为在有限硬件上运行而设计，支持 transformers、vLLM 和 SGLang。
Liquid AI 发布 LFM2.5-230M，这是一款轻量级基础模型，可在从云端 GPU 到 CPU 乃至 Raspberry Pi 的设备上运行，在工具使用和数据提取任务上表现出色。