适合网页研究/编码代理的小型到中型模型清单

Reddit r/LocalLLaMA 新闻
small-models local-inference llm-agents coding-agents web-research open-models

摘要

一份精选的小型到中型模型列表（大多在 35B 以下），适合在普通电脑上运行 LLM 代理而无需高端 GPU，按能力排序，并突出标注了支持视觉的模型。

我正在整理一份我认为值得考虑的模型清单，面向那些想在"普通电脑"上运行 LLM 的用户，特别是用于代理（agent）场景，但又不想为此购买价格高昂的显卡。按能力从强到弱排序，目前有： - Qwen 3.8 27B - Qwen 3.6 35B A3B - Jais 3 7B - Gemma 12B（因为支持视觉而收录） - XHToken/SparkX2.6 4B - FrogNano 4B - Gemma E4B（因为体积小**且**支持视觉而收录） - Ling 3.0 Tiny 8B A1B 还有其他我可能遗漏的有趣的小型模型（<10B）吗？或者你觉得哪些不应该被忽略？ 另外，有没有哪些你觉得应该被排除、甚至不应该收录的？
查看原文

相似文章

在政治动荡前值得获取的模型

Reddit r/LocalLLaMA

一份精选的推荐AI模型列表（例如Qwen3.5、Gemma 4、Mistral Medium），适用于统一内存最高256GB的系统，涵盖创意、编程、智能体及通用聊天等使用场景。

超智能小型模型与超高效率大型模型之争

Reddit r/LocalLLaMA

本文探讨了功能强大的本地化小型大语言模型与为效率优化的大型模型之间的争议，并通过MiniCPM5 2B和MoE Qwen3.6 35B在CPU上的运行表现进行对比分析。