又一个精彩发布。今天我们为多款LFM2.5模型推出用于推测解码的新草稿模型： 1.2B版：https://huggingface.co/LiquidAI/LFM2.5-1.2B-Instruct-DSpark
2.6B版：https://huggingface.co/LiquidAI/LFM2.5-2.6B-DSpark
8B-A1B版：https://huggingface.co/LiquidAI/LFM2.5-8B-A1B-DSpark
技术博客：https://liquid.ai/blog/lfm2.5-dspark…

LiquidAI/LFM2.5-1.2B-Instruct-DSpark · Hugging Face

来源：https://huggingface.co/LiquidAI/LFM2.5-1.2B-Instruct-DSpark
Liquid AI

LFM2.5-DSpark 是专门为LFM2.5架构适配DSpark的推测解码草稿模型系列。它们能让LFM2.5模型在不降低质量的前提下实现更快运行速度。

这是 LiquidAI/LFM2.5-1.2B-Instruct (https://huggingface.co/LiquidAI/LFM2.5-1.2B-Instruct) 的草稿模型。在SGLang框架中，解码速度可提升约2倍。该模型也能通过Metal后端在Apple芯片设备上本地运行。

了解更多关于LFM2.5-DSpark的信息，请参阅我们的技术博客。

🗒️ 模型详情

LFM2.5-1.2B-Instruct-DSpark是具备以下特性的DSpark推测解码草稿模型：

• 目标模型：LiquidAI/LFM2.5-1.2B-Instruct (https://huggingface.co/LiquidAI/LFM2.5-1.2B-Instruct)
• 草稿参数量：2.957亿（BF16精度）
• 骨干网络：5层全注意力层，隐藏维度=2048，中间层维度=6144，采用SiLU/SwiGLU激活，分组查询注意力机制，注意力头数=32/关键值头数=8，头维度=64
• 额外预测头：马尔可夫头（秩256）+ 置信度头
• 区块大小：9
• 词表规模：65,536

LFM2.5-DSpark系列的其他模型：

📊 性能表现

基准测试

推测解码具有精确性：目标模型会验证每个提议的token，因此生成的文本与目标模型独立生成的结果完全一致。具体性能基准请参见 LiquidAI/LFM2.5-1.2B-Instruct (https://huggingface.co/LiquidAI/LFM2.5-1.2B-Instruct)。

接受率

每个解码步骤的平均接受token数（测试条件：1×H100，批量大小1，贪心解码）。数值越高表示每次目标模型前向传播能接受更多草稿提议的区块，解码速度越快（区块大小为9时，理论上限为10）。

设备端与GPU推理

🏃 运行方式（SGLang）

需要使用包含LFM2目标模型DSpark支持的SGLang版本（PR #31041 (https://github.com/sgl-project/sglang/pull/31041)）。启动时需附加草稿模型：

python -m sglang.launch_server \
  --model-path LiquidAI/LFM2.5-1.2B-Instruct \
  --speculative-algorithm DSPARK \
  --speculative-draft-model-path LiquidAI/LFM2.5-1.2B-Instruct-DSpark \
  --speculative-draft-attention-backend flashinfer \
  --disable-radix-cache --mem-fraction-static 0.75 --port 30000

随后可向 http://localhost:30000/v1 端点发送OpenAI兼容格式的请求。区块大小参数已配置在草稿模型的 config.json 中；基准测试使用的是去掉三个 --speculative-* 标志的相同命令。

📬 联系方式

• 有问题或想建立联系？欢迎加入我们的Discord社区
• 若对边缘部署定制解决方案感兴趣，请联系销售团队

引用

@article{liquidAI202626B,
  author  = {Liquid AI},
  title   = {LFM2.5-2.6B: Agents Everywhere},
  journal = {Liquid AI Blog},
  year    = {2026},
  note    = {www.liquid.ai/blog/lfm2-5-2-6b},
}

@article{liquidAI2026dspark,
  author = {Liquid AI},
  title = {LFM2.5-DSpark: Up to 3.2x Faster Inference from H100 to MacBook},
  journal = {Liquid AI Blog},
  year = {2026},
  note = {www.liquid.ai/blog/lfm2.5-dspark},
}

Liquid AI (@liquidai): 今天我们发布了LFM2.5-1.2B-Instruct、LFM2.5-2.6B和LFM2.5-8B-A1B的DSpark草稿模型。这些模型通过微不足道的内存开销换取显著的解码速度提升，同时保持输出质量不变。

轻量级草稿模型会提议一个区块，供目标模型验证…