small-language-model

标签

Cards List
#small-language-model

LFM2.5-2.6B:随处部署智能体(8分钟阅读)

TLDR AI · 4天前 缓存

Liquid AI 发布了 LFM2.5-2.6B,这是一款紧凑的智能体模型,设计为完全在设备端运行,从而实现免费推理、低延迟和隐私保护。文章详细介绍了其训练流程,包括 SFT、教师特化、蒸馏和智能体强化学习。

0 人收藏 0 人点赞
#small-language-model

Deploy local agents everywhere with LFM2.5-2.6B

Hugging Face Blog · 5天前 缓存

Liquid AI releases LFM2.5-2.6B, a compact agentic model designed for on-device deployment, supporting tool calling and multi-step workflows with efficient inference on CPUs and GPUs.

0 人收藏 0 人点赞
#small-language-model

[新模型!] Supra2-100M Base 和 Instruct——快去看看吧!

Reddit r/LocalLLaMA · 5天前

SupraLabs 发布了 Supra2-100M Base 和 Instruct 模型,这是一个新的小型语言模型系列,包含社区驱动的改进、基准测试和一个 GGUF 版本。

0 人收藏 0 人点赞
#small-language-model

极简RAG模型:B1ade 335M嵌入模型与1B参数小型语言模型

arXiv cs.CL · 2026-07-31 缓存

介绍了B1ade,一种极简RAG架构,包含一个335M零训练嵌入模型和一个通过GRPO在723M tokens上训练的1B小型语言模型,展示了涌现归因行为,无需大规模预训练即可获得具有竞争力的问答性能。

0 人收藏 0 人点赞
#small-language-model

Nanbeige4.2-3B:在紧凑模式下释放智能体能力

arXiv cs.CL · 2026-07-27 缓存

Nanbeige4.2-3B 是一个紧凑的 3B 参数通用智能体模型,采用 Looped Transformer 从零开始预训练,在智能体和推理任务上表现出色,在多个基准测试中超越了更大的模型。该模型和代码均已开源。

0 人收藏 0 人点赞
#small-language-model

两种不同规模的智能体AI:Nanbeige4.2-3B与Laguna S2.1(9分钟阅读)

TLDR AI · 2026-07-27 缓存

比较了两个用于智能体工作负载的新AI模型:采用循环Transformer架构的紧凑型Nanbeige4.2-3B,以及大型混合专家模型Laguna S2.1,两者均在Hugging Face上发布。

0 人收藏 0 人点赞
#small-language-model

OpenLanguageModel: 面向教育与科研的可读可组合小型语言模型预训练

arXiv cs.CL · 2026-07-21 缓存

OpenLanguageModel (OLM) 是一个开源的PyTorch库,用于构建和预训练小型语言模型,其架构代码可读且可组合,连接了教育与科研。

0 人收藏 0 人点赞
#small-language-model

openbmb 发布 MiniCPM5-2B,目前尚未在 Hugging Face 可用

Reddit r/LocalLLaMA · 2026-07-20

OpenBMB 发布了 MiniCPM5-2B,一个拥有 20 亿参数的语言模型,目前尚未在 Hugging Face 上架。

0 人收藏 0 人点赞
#small-language-model

小规模语言与视觉语言模型网络代理中GRPO的学习率门控失败:受控零结果及其机制

arXiv cs.AI · 2026-07-15 缓存

本文研究了GRPO后训练是否能提升小规模(4B-8B)语言与视觉语言模型网络代理的性能。结果发现了一个受控的零结果:没有任何配置能在已掌握任务上带来可信的提升,且中高学习率会导致性能退化或崩溃,揭示了退化与崩溃状态之间的双重分离。

0 人收藏 0 人点赞
#small-language-model

Index SLM 技术报告

arXiv cs.CL · 2026-07-14 缓存

Bilibili 发布了 Index-1.9B 系列开源小语言模型,该系列在 2.8 万亿 token 上进行了预训练,在基准测试中取得有竞争力的性能。四个模型包括基础版、纯净版(无指令数据)、聊天版以及带有检索增强生成用于角色扮演的角色版。

0 人收藏 0 人点赞
#small-language-model

我以独立研究项目的形式,从零开始开发了一个拥有2.7亿参数的语言模型

Reddit r/LocalLLaMA · 2026-07-05 缓存

一个从零开始在英文维基百科上训练、并经过指令微调以用于对话式AI的2.7亿参数语言模型,作为独立研究项目开发。

1 人收藏 1 人点赞
#small-language-model

高效小型语言模型的Wiola架构

arXiv cs.AI · 2026-07-03 缓存

Wiola是一种新颖的小型语言模型(SLM)架构,引入了五个独立设计的组件——SRPE、GCLA、ATM、DSFF和WiolaRMSNorm——旨在提高效率和连贯性,发布了从1.2亿到15亿参数的多个规模,并与HuggingFace Transformers集成。

0 人收藏 0 人点赞
#small-language-model

@akshay_pachaar: 如果你使用LLM作为评判,这篇内容就是为你准备的。(请收藏)大多数团队通过调用一个前沿…

X AI KOLs Following · 2026-06-30 缓存

详细介绍了一种训练小型LLM评判器来评估智能体输出的方法,取代了昂贵的前沿模型,并附带一个用于部署的Claude Code插件。

0 人收藏 0 人点赞
#small-language-model

@liquidai:推出LFM2.5-230M:这是我们最小的模型,专为快速运行而设计,可在任何地方(CPU、NPU和GPU)上运行,以实现代理型任务…

X AI KOLs Timeline · 2026-06-25 缓存

Liquid AI发布了LFM2.5-230M,这是一个拥有230M参数的小型模型,针对CPU、NPU和GPU上的快速推理进行了优化,适用于手机和机器人等设备上的代理型任务。

0 人收藏 0 人点赞
#small-language-model

LiquidAI/LFM2.5-230M

Hugging Face Models Trending · 2026-06-24 缓存

Liquid AI发布了LFM2.5-230M,一款紧凑的230M参数混合模型,针对设备端部署进行了优化,边缘推理速度快(在Galaxy S25 Ultra上达到213 tok/s),并通过强化学习构建,适用于智能体任务。

0 人收藏 0 人点赞
#small-language-model

[新模型] SupraLabs 刚刚发布了 supra-title-FFT-preview,115K 样本,几乎是我们的首个聊天标题数据集的10倍

Reddit r/LocalLLaMA · 2026-06-20

SupraLabs 发布了 supra-title-FFT-preview,一个完全微调的0.4B参数模型,用于聊天标题生成,在115K样本上训练——比之前的数据集大了近10倍。

0 人收藏 0 人点赞
#small-language-model

@xdotli: 我的朋友 @xeophon 认为编码问题已经解决了,这里有一个验证:一个3B模型接受了以算法效率为重点的训练……

X AI KOLs Timeline · 2026-06-20 缓存

Nanbeige 4.1,一个3B模型,在编码任务中专注于算法效率,超越了Qwen3-30b-A3b和Qwen 3.5 4b,实现了600多次工具调用的长时任务。

0 人收藏 0 人点赞
#small-language-model

@cjzafir: 一个3B参数的小语言模型:VibeThinker(基于Qwen 2.5微调)性能媲美Claude Opus 4.5。性能与以下模型相当: > De…

X AI KOLs Timeline · 2026-06-17 缓存

VibeThinker是一个3B参数的模型,基于Qwen 2.5微调,通过创新的后训练方法(包括多路径思维和在数学、编程、科学上的分阶段训练),实现了与Claude Opus 4.5以及更大的模型(如DeepSeek v3)相当的性能。

0 人收藏 0 人点赞
#small-language-model

微软测试Phi Silica在Nvidia GPU上用于Windows AI(6分钟阅读)

TLDR AI · 2026-06-17 缓存

微软正在测试Phi Silica在Nvidia GPU上的支持,允许开发者在配备RTX 30系列或更新GPU的Windows设备上本地运行这一小型语言模型,不过缺少仅限NPU的功能,比如提示压缩。

0 人收藏 0 人点赞
#small-language-model

为什么微博的迷你VibeThinker-3B再次引发AI界关于基准测试的争论(15分钟阅读)

TLDR AI · 2026-06-17 缓存

微博的VibeThinker-3B,一个3B参数模型,声称在数学和编程基准测试中匹配或超越DeepSeek V3.2和Gemini 3 Pro等更大模型的推理性能,引发了关于基准测试可靠性和扩展必要性的争论。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈