标签
Inflect-Micro-v2 是一个紧凑型文本转语音模型,参数不足1000万,支持CPU/CUDA推理和长文本处理,已在Hugging Face上发布。
一位开发者分享了微调小型开放模型时令人惊讶的经验教训,包括基础模型往往已经在预期改进点上达到极限,真正的弱点在于行为(屈服),而微调需要仔细的衡量和平衡。
一位开发者使用一个小型900KB的Transformer模型进行过拟合,将100MB的CSV文件压缩到7MB,展示了一种使用过拟合神经网络进行数据压缩的新颖方法。
开源OCR模型Unlimited OCR基于DeepSeek OCR,仅3B参数便在OmniDocBench v1.5上取得93.23分,超越DeepSeek OCR和Gemini 2.5等对手。
Surya 2是一个拥有6.5亿参数的OCR模型,在olmocr上达到83.3%的准确率,声称是最精确的小型OCR模型,这得益于字符标记化技术,提高了准确率和模型大小。
Nanbeige 4.1,一个来自中国Indeed的3B模型,在需要600+工具调用的任务上性能优于更大的Qwen模型。
据报道,使用 SYNTH 训练的 600M 参数推理模型在巴黎地铁的工业应用中超越了 397B 模型和 Sonnet 4.5,凸显了小型专用模型的有效性。
Inflect-Nano,一个极致微小的463万参数文本转语音模型,已经发布。
来自Apodex家族的一个40亿参数开放模型在网页研究基准上优于300亿参数模型,这归因于精心构建的训练数据和自我验证技术,而非原始规模,表明AI能力发展趋向更民主化。
VibeThinker-3B是一个仅有30亿参数的小模型,却在MathQA基准测试中达到了堪比约300亿参数模型的性能,展现了极高的效率。
WeiboAI 发布了 VibeThinker-3B,一个在本地测试编码任务的小型 3B 推理模型,在算法问题上取得了 3/3 的成绩。
介绍了Glimmer,一个10,000参数的语言模型,在FineWeb-Edu的50万个token上训练,采用标准Llama架构,可在HuggingFace上获取。
一个3B模型VibeThinker-3B通过在Qwen2.5-Coder上进行后训练优化,包括课程SFT、多领域RL、离线自我蒸馏以及最终的基于RL的指令阶段,在可验证推理任务上取得了极具竞争力的结果。
一位用户讨论将小型自动补全模型(2500万参数)作为学习项目来构建,提到硬件限制(32GB VRAM)、数据要求(约1亿个token),并寻求关于数据集和自动补全式训练的数据格式的建议。
作者测试了 Apodex 4B-SFT 和 35B mini 模型,发现 4B-SFT 在多跳搜索任务中超越其他 4B 模型且无幻觉,并指出将答案检查与生成分离的设计理念。
这个模型小巧、经济实惠、开源(Apache 2.0)、可本地部署,代表了向透明和自主AI的转变。
一个4B开源模型在 CharXiv 图表理解基准上击败了 Mythos 5,展示了可自由获取的小模型的强大性能。
Cohere 发布了 North Mini Code,这是其首个基于 Apache 2.0 的开源编码模型,设计小巧、成本效益高、可本地部署,并专注于代理性能。
CJ Zafir团队推出了Mac-1,一个6.6B参数的小模型,可在Mac本地运行仅需7GB内存,能链式调用487个Mac原生工具,推理速度达65 tok/s,旨在颠覆云端大模型主导的Agent范式。