small-models

描述了一个双层小型LLM架构：一个本地常驻代理（Raven）运行在RTX5080上，以及一个在线推理栈（Trinity Cortex），包含三个小模型和一个知识图谱，论证了小模型在基于图的推理中优于大型前沿模型。

本文报告了在小AI模型上测试程序性技能迁移实验的首批人工结果，提供了关于技能如何在模型间迁移的见解。

为小模型构建了一个智能体框架，让Qwen 3.5 4b能够管理服务器。

提出一种使用Three.js的盲视觉范式，用于测试从大模型提取的过程性脚手架能否在无需微调的情况下提升小模型输出，并由盲评模型验证。

一篇新闻报道，讨论了尽管行业趋势倾向于大型模型，但谷歌依然坚持使用小型AI模型进行代码生成。

ObviousBench 是一个专门为评估小型 AI 模型而设计的新基准。

微软AI Frontiers发布了一系列浏览器智能体，能够通过“观察-思考-行动”循环，从像素直接到动作，实现填写表单和预订等功能。提供4B、9B和27B三种参数规模，可在普通硬件上部署。

一位 Reddit 用户探讨了小规模本地语言模型（1B-4B 参数）在自动化和脚本编写方面的潜力，并询问了专注于这一应用场景的资源。

最近发展区策略优化（ZPPO）通过使用重新构建的提示来改进知识蒸馏，帮助学生从正确和错误的回答中学习，尤其在小模型规模下提升了性能。

CacheRL训练用于多步工具调用任务的小型智能体基础模型，通过缓存回滚和混合奖励塑造，以100倍更少的计算量实现了92%的过程准确率（接近GPT-5的94%），并在知识迁移、缓存感知奖励以及迭代SFT/GRPO训练方面进行了创新。

Apodex 发布了开源权重的小型模型（0.8B、2B、4B），专为智能体验证任务优化，同时推出了用于本地智能体工作流的 AgentHarness 评估框架。

TechCrunch报道称，随着成本不断攀升，企业开始考虑转向更便宜、更小的AI模型，而非始终使用最强大的模型，这可能引发行业转变。布赖恩·阿姆斯特朗等人的预测表明，12-18个月内，80%的工作负载可能运行在价格便宜99%的模型上，这将严重冲击OpenAI和Anthropic等主要AI实验室。

一位开发者测试了小型边缘模型（LFM2.5、Gemma 变体）在多个对话轮次中保持一个事实的能力，发现模型常常自信地否认知道仍在上下文中的信息，这给智能体架构带来了信任问题，并暗示了记忆与格式规范之间的权衡。

观察到对小AI模型的高需求，体现在Qwen系列9B参数以下模型的下载量上。

关于构建多模型金融剧游戏的实地报告，其中每个代理运行在不同实验室的小模型上，展示了模型异构性的工程挑战和优势。

一位开发者认为，边缘AI社区忽视了那些可以在智能手机等设备上本地运行的小型专门模型，并以自建的离线摩尔斯电码识别功能为例。该项目使用了小于5MB的AI模型，基于TensorFlow/Keras和LiteRT，从数据生成到移动端集成的整个流程均为自建。

谷歌的Gemma 4 12B引入了无需编码器的多模态架构，可与更大模型竞争，但基准测试对比显示它在大多数任务上落后于Qwen 2.5 9B。文章还涵盖了相关进展，包括开放权重模型的安全风险、Uber对Claude Code的支出上限以及NeurIPS对未校准AI检测器的误用。

一份指南，解释如何通过将固定流程编译成更小的微调模型，而不是反复提示前沿模型，从而使代理工作流成本降低高达462倍。

由前高盛和Meta员工创立的AethexAI筹集了300万美元，为非洲和中东市场打造语音AI，使用小模型降低延迟，并推出带有API和SDK的平台。

演示显示，Qwen3.6 35B A3B 结合 NVIDIA 的 LocateAnything-3B 作为视觉工具，能够通过检测字段位置准确填写纸质表格，证明小型模型可以通过协作完成单个大模型无法胜任的任务。