small-language-model

标签

Cards List
#small-language-model

面向实体、关系与事件抽取的校准类型化决策

Hugging Face Daily Papers ↗ · 2026-10-12 缓存

发布 CalOn,一个 0.6B 参数的校准类型化决策模型,用于实体、关系与事件抽取,速度达每秒 120 句,是 GLiNER2 的 5.5 倍,并在 40 个基准上超越基线。权重、推理与训练代码均以 Apache 2.0 开源。

0 人收藏 0 人点赞
#small-language-model

创建 Laya:全新 8 亿参数基于物理的类型化决策模型,支持 73k 上下文窗口和图像输入

Reddit r/LocalLLaMA ↗ · 2026-10-10

NandakishorM 开源了基于物理的类型化决策模型 Vega(800M 及 4B 参数版本),采用 Test-Time Training 引擎 + 适配器架构,支持 73k 上下文和图像输入,通过在隐藏层构建"结果山谷"并用带摩擦的小球物理模拟来判定输出意图,单次推理超越多项 JEV 基准。

0 人收藏 0 人点赞
#small-language-model

基于 Granite 4.2 3B 构建的 3.66B 形式逻辑模型 · Hugging Face

Reddit r/LocalLLaMA ↗ · 2026-10-10

webAI 发布了 TwIL LM3 Pro,一个基于 IBM Granite 4.2 3B、仅针对形式逻辑(如前提蕴含判断、规则归纳、Lean 证明批判)微调的 3.66B 模型,在逻辑复合基准上以不到一半的参数量追平 Qwen3-8B,并提供可在 CPU/4GB 显存上运行的 GGUF 量化版本。

0 人收藏 0 人点赞
#small-language-model

Phocinae/Phocinae-Largha-150M-v1

Hugging Face Models Trending ↗ · 2026-10-08 缓存

Phocinae-Largha-150M-v1 是一个拥有 144.3M 参数的决策模型(基于 mmBERT-small),可接受结构化状态以及类型化的是非题/选择题/评分题,只需一次前向推理即可输出带置信度的校准答案;在自建的英文评测集上达到 0.906 的准确率,GPU fp16 下延迟低至 21ms。

0 人收藏 0 人点赞
#small-language-model

AI决策模型将如何改变内容审核

TechCrunch AI ↗ · 2026-10-06 缓存

Musubi发布了PolicyLM-1.7B,这是一个开放权重的决策模型,旨在以低于50毫秒的时延实时执行以简单英语撰写的内容政策,且政策变更时无需重新训练。此次发布正值Typesafe AI的Jev引发各方对决策模型的高度关注之际,OpenAI与Amazon也推出了各自的竞争模型。

0 人收藏 0 人点赞
#small-language-model

Clef Flash 在 RTX 5080 上实时玩贪吃蛇

Reddit r/LocalLLaMA ↗ · 2026-10-05

Clef Flash 是一个在 RTX 5080 上以 Q4 量化运行的 9B 模型,仅凭简单的视觉指令就能实时游玩 Google 贪吃蛇(在游戏 135 毫秒的转向时限内),无需任何训练或对游戏状态进行破解。

0 人收藏 0 人点赞
#small-language-model

nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB

Hugging Face Models Trending ↗ · 2026-10-05 缓存

NVIDIA 发布 Nemotron-3.5-Bolt-E4B-4GB,一款基于 Gemma-4-E4B-it 后训练的小语言模型(8B 总参数、4B 有效参数,Q4_K_M 量化),专为低内存、低首字延迟的本地语音助手与嵌入式边缘场景优化,采用 OpenMDW-1.1 开放许可。

0 人收藏 0 人点赞
#small-language-model

Peacebell —— 一个从零开始训练的小型语言模型

Reddit r/LocalLLaMA ↗ · 2026-10-02

一位独立开发者开源了 Peacebell,一个从零开始训练的领域专用小型语言模型(291M 和 148M 参数版本),专注于第二次世界大战相关内容,使用自建训练流水线、基于 Wikipedia 整理的合成数据进行训练,同时发布了配套的私有问答式二战基准测试、在线 Demo 以及一个定制化的 vLLM 分支。

0 人收藏 0 人点赞
#small-language-model

@MaximeRivest:哇,太期待试用了。在专用 8B 模型上我们能做非常多的事!

X AI KOLs Timeline ↗ · 2026-10-02 缓存

Ai2(@allen_ai)发布开源模型 AstaBrief 8B,可将复杂研究问题与文献片段转化为带引用的报告,支持本地运行,开放权重与训练数据;@MaximeRivest 表示期待尝试小型专用 8B 模型的潜力。

0 人收藏 0 人点赞
#small-language-model

Amazon 凭借 Strands Decider 2B 加入决策模型竞赛(7 分钟阅读)

TLDR AI ↗ · 2026-10-02 缓存

Amazon 推出 Strands Decider 2B,这是一款 2B 参数的小型开源决策模型,它将 Qwen3.5-2B 大语言模型主体的 LM 头替换为指针头,从而在智能体工作流中实现快速、低延迟的分类与评分。

0 人收藏 0 人点赞
#small-language-model

Jeff-Qwen3.5-0.8B v1.2 + 9 个 LoRA 适配器:放在 Qwen3.8-27B 前面,决策速度提升 38 倍,准确率 +8.7 分,额外内存不到 2 GB

Reddit r/LocalLLaMA ↗ · 2026-10-01

Jeff-Qwen3.5-0.8B 加上 9 个任务专用 LoRA 适配器的个人发布版,作为快速、已校准的「系统 1」分类器置于大模型之前,宣称在额外内存不到 2 GB 的情况下,相比 Qwen3.8-27B 决策速度快 38 倍,准确率高出 8.7 分。

0 人收藏 0 人点赞
#small-language-model

@rohanpaul_ai:中国最强的小型推理模型(VibeThinker-3B)刚刚被一个来自奥斯汀的 3.6B 模型击败。> webAI 的 TwIL-LM3-Pro…

X AI KOLs Timeline ↗ · 2026-09-30 缓存

webAI 发布了 TwIL-LM3-Pro,一个 3.66B 的开源推理模型,在形式逻辑基准测试上超越了 VibeThinker-3B、Qwen3.5-4B 和 LFM2.5-8B-A1B,并可通过 llama.cpp 以约 2 GiB 的 Q4 构建在本地运行。

0 人收藏 0 人点赞
#small-language-model

@svpino:这个开源模型仅用 3.66B 参数就在 BIG-Bench Hard 逻辑子集上拿下 95.4%。TwIL-LM3-Pro 是一个……

X AI KOLs Following ↗ · 2026-09-30 缓存

TwIL-LM3-Pro 是一个 3.66B 参数的开源模型,在 BIG-Bench Hard 逻辑子集上取得 95.4% 的成绩,体积小到可以直接在笔记本电脑本地运行,展示了针对特定任务的小模型进行专业化后训练的强大威力。

0 人收藏 0 人点赞
#small-language-model

FLOORA:一个与人类对齐、面向建筑设计的领域专用语言模型

arXiv cs.LG ↗ · 2026-09-30 缓存

Autodesk Research 推出了 FLOORA——一系列用于建筑布局生成的小型领域专用语言模型,其核心是使用一种自定义的领域特定语言(DSL)。其中 0.6B 参数的模型在面对分布外的建筑案例时,表现优于体量大得多的前沿模型,VLM 评审胜率最高可达 92%。

0 人收藏 0 人点赞
#small-language-model

xiaomi-research/Xiaomi-OCR-0

Hugging Face Models Trending ↗ · 2026-09-29 缓存

Xiaomi-OCR-0 是一个统一的 0.8B 视觉语言模型,面向文档解析与以 OCR 为核心的理解任务,基于 Qwen3.5-0.8B-Base 构建,在 Real5-OmniDocBench 上排名第一,并在 OCR VQA 基准上超越了 Qwen3.5-2B 等更大规模的模型。

0 人收藏 0 人点赞
#small-language-model

SelfJev

Product Hunt ↗ · 2026-09-28 缓存

SelfJev 是一个可自行部署的开源 4B 决策模型,支持对任意文本提出有类型的提问(是/否、单选、多选、评分),并给出经过校准的概率;同时通过 TypeSafe 的 SDK 实现 Jev 兼容,并可用自有数据进行微调。

0 人收藏 0 人点赞
#small-language-model

训练了我的第一个小型语言模型

Reddit r/LocalLLaMA ↗ · 2026-09-25

作者训练了一个小型语言模型来替代Gemini Flash进行摘要任务,达到了97%的准确率和0.06秒的延迟,适合在内部应用中部署。

0 人收藏 0 人点赞
#small-language-model

@NFT_Chen: 什么?!一个仅0.6B的本地开源决策模型在Typed Decisions上超越了Laya!AgentJev-0.6B vs Laya: 准确率…

X AI KOLs Timeline ↗ · 2026-09-22 缓存

AgentJev-0.6B是一个小型开源AI决策模型,在Typed Decisions上超越了Laya,准确率更高,计算量显著减少,实现了更快的本地推理。

0 人收藏 0 人点赞
#small-language-model

尼泊尔法律专长通过生成式和抽取式预训练变压器(NepLEGiT)

arXiv cs.CL ↗ · 2026-09-16 缓存

本文介绍了NepLEGiT,一种专门在尼泊尔法律文本上从头预训练的小型语言模型,旨在提升尼泊尔法律知识的可及性和服务交付。

0 人收藏 0 人点赞
#small-language-model

有人能解释一下'使用系统提示控制推理'是什么意思吗?

Reddit r/artificial ↗ · 2026-09-14 缓存

这篇文章详细介绍了NVIDIA的Nemotron-3-Nano-4B-GGUF模型的发布,这是一款小型语言模型,旨在处理推理和非推理任务,且推理可通过系统提示进行控制。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈