@ash_csx:本周我们将发布两款开源 SLM。1. 其中一款体积缩小高达 93 倍,精度仍媲美 SOTA。2. 另一款……
摘要
两款全新的开源小语言模型即将发布:其中一款体积缩小高达 93 倍,精度仍达到 SOTA 水平;另一款则超越了 OpenAI 近期发布的模型。首款模型将于明日发布。
本周我们将发布两款开源 SLM。
1. 其中一款体积缩小高达 93 倍,精度仍媲美 SOTA。
2. 另一款超越了 OpenAI 近期发布的模型。
模型 #1 将于明天发布 👀 https://t.co/NBXSlhGsUi
查看缓存全文
缓存时间: 2026/05/12 10:50
本周我们将发布两款开源 SLM。
- 其中一款精度媲美 SOTA,而规模最多可缩小 93 倍。
- 另一款则超越了近期发布的 OpenAI 模型。
Model #1 将于明天发布 👀 https://t.co/NBXSlhGsUi
相似文章
@cjzafir: 垂直语言模型(VLMs)正在击败顶级大语言模型。这些参数量7B到15B的小型专精模型在各自的细分领域击败了SoTA模型……
作者演示了,通过使用开源模型和Codex编排进行高性价比微调,小型垂直语言模型(6B-15B)能够在细分基准上超越顶级大语言模型,仅用价值300美元的数据集就取得了成果。
不再有开源SLM??
该帖子质疑小语言模型(SLMs)是否将不再开源,引发了关于开源AI未来的讨论。
@TheAhmadOsman: 终于大家都在谈论小型专用模型了,下面的推文是17个月前发的
一条推文强调了Jina AI的ReaderLM-v2,这是一个4GB的小型模型,能从杂乱的DOM元素中高精度提取信息,体现了小型专用语言模型的趋势。
大型语言模型在某些营销任务中过于庞大。小语言模型登场。
ZeroGPU推出了针对广告技术任务的专用小语言模型(SLM),与大型语言模型相比,成本更低、性能更快。这些小语言模型在CPU上运行,已帮助早期采用者Dappier将费用降低了50%。
Index SLM 技术报告
Bilibili 发布了 Index-1.9B 系列开源小语言模型,该系列在 2.8 万亿 token 上进行了预训练,在基准测试中取得有竞争力的性能。四个模型包括基础版、纯净版(无指令数据)、聊天版以及带有检索增强生成用于角色扮演的角色版。