标签
预计 Liquid AI 将很快发布新款 100B 参数的 Liquid Foundation Model,利用其快速的 LLM 架构和高实用性的 SLMs。
一份关于构建和微调小型语言模型的逐步指南,专为初学者、研究人员和非程序员设计,包含动手实践示例和Colab笔记本。
讨论了大语言模型(LLMs)与小语言模型(SLMs)之间的权衡,质疑在生产用例中是否总是需要更大的模型,并探讨了AI部署的未来。
一个从零开始在英文维基百科上训练、并经过指令微调以用于对话式AI的2.7亿参数语言模型,作为独立研究项目开发。
关于Hashicorp创始人Mitchell Hashimoto声称本地AI模型还不够好的讨论,但有证据反驳,表明小语言模型在编码方面已经有效超过一年了。
CogGuard是一种用于边缘智能服务的主动预警框架,它将基于LLM的离线画像构建与基于SLM的在线评分预测解耦,在教育和操作数据集上实现了更低的预测误差,同时将构建时间减少48%,微调时间减少19%。
用户正在使用 Unsloth 和 TRL 实现带验证器的推理训练,报告了使用小型 SLM 和微型 RM 本地生成类似 GRPO 的样本的进展,并承诺很快发布视频。
Neural_avb 发布了一个轻量级的 Answer-eq 奖励模型,用于问答任务的强化学习训练,声称与外部评判 LM 的一致性达到 80%,且比 F1/ROUGE/BertScore 更快。
一位用户分享了使用Google Colab以13.99加元在A100 GPU上训练9B参数LLM的工作流程,指出整个过程可以过夜运行,并感叹训练小语言模型已不再困难。
SupraLabs 宣布成立,专注于训练和发布面向边缘设备的开源小型语言模型(SLM),已在 Hugging Face 上发布 Supra-Mini-v4-2M 等模型。
用户分享了一份日常使用的AI模型列表(Codex 5.5、Deepseek v4 pro、Kimi 2.6)以及用于微调的模型(Qwen 3.5系列、Gemma4 E4B、GPT-oss 20B),目标是微调小型语言模型(SLM)成为专家语言模型(ELM)。
两款全新的开源小语言模型即将发布:其中一款体积缩小高达 93 倍,精度仍达到 SOTA 水平;另一款则超越了 OpenAI 近期发布的模型。首款模型将于明日发布。
一位新手在尝试用 Qwen2.5-7B-Instruct 给员工笔记做摘要时遭遇幻觉,现求助适用于 2000 token 以内、能合并同类标签的小模型及提示策略。
实证研究表明,在去中心化自治组织(DAO)中作为边缘原生治理防火墙时,小型语言模型凭借系统1直觉可获得100%对抗鲁棒性,但引入系统2推理后却完全崩溃。