LiquidAI/d1-3B
摘要
LiquidAI 发布了 d1-3B,这是一个基于 LFM2.5-VL-3B 构建的开源 30 亿参数多模态决策模型,能在单次前向传播中对文本/JSON/图像状态的类型化问题给出答案,且不输出任何 token,在消费级 GPU 上可实现 8 毫秒的决策速度。
查看缓存全文
缓存时间: 2026/10/08 12:31
LiquidAI/d1-3B · Hugging Face
来源:https://huggingface.co/LiquidAI/d1-3B Liquid AI
d1-3B 是一个 3B 参数的决策模型,基于 LFM2.5-VL-3B 构建。你给它一个状态(文本、JSON、图像或其组合)和一组问题,它会在一次前向传播中返回经过校准的、带类型标注的答案,输出 token 数为零。
- Decision Index 0.2.1 上 10B 以下最佳决策模型:48.57 分,超过所有 4B 和 9B 模型,也超过 Decider 35B-A3B(47.11)。
- 多模态:同一状态中支持图像和文本。在 11 个公开图像基准上得分 74.1(LFM2.5-VL-3B:73.9)。
- 速度快:在 NVIDIA RTX 4090 上单次决策 8 ms,AMD MI325X 上 9 ms,Apple M5 Pro 上 30 ms。
了解更多关于 open d1 的信息,请参阅我们的博客文章。
💻 演示:无需任何设置即可在 Hugging Face Space 中体验 d1-3B:Open d1 Arcade:使用 d1-3B 的 10 个演示合集
🗒️ 模型详情
| 模型 | 参数量 | 描述 |
|---|---|---|
| LFM2.5-VL-3B | 3.1B | 通用视觉-语言模型(基座) |
| d1-3B | 3.1B | 针对单次传播、经校准的决策进行后训练 |
d1-3B 是一个多模态决策模型,具有以下特性:
- 总参数量:3.12B
- 视觉编码器:SigLIP2 NaFlex 形状优化 400M
- 上下文长度:32,768 tokens
- 词表大小:128,000
我们建议在任何需要是非判断、从命名选项中选择或评分的流水线中使用 d1-3B:路由与分诊、内容审核、意图与主题分类、抽取检查、重排序、LLM-as-a-judge 评分、智能体护栏以及视觉检查。它不是聊天模型,也不生成文本。
🏃 使用方法
安装依赖(需要 transformers>=5.14):
pip install "transformers>=5.14" torch torchvision pillow
模型自带代码,请使用 trust_remote_code=True 加载:
import torch
from transformers import AutoModel
from transformers.image_utils import load_image
device = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
dtype = torch.float32 if device == "cpu" else torch.bfloat16
model = AutoModel.from_pretrained("LiquidAI/d1-3B", trust_remote_code=True, dtype=dtype).to(device)
# 文本:对一个状态提出多个命名问题,单次传播全部回答
questions = {
"refund": {
"type": "noul",
"instructions": "Is the customer asking for a refund?",
},
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": {
"billing": "Charges, refunds, invoices",
"technical": "App or site faults",
"fraud": "Suspected unauthorised use",
},
},
"urgency": {
"type": "score",
"instructions": "How urgent is this?",
"criteria": ["Can wait", "Today", "Blocking the customer now"],
},
}
print(model.system_one("I was charged twice this month, please refund one of them.", questions))
# 图像:照片就是整个状态
image = load_image("http://images.cocodataset.org/val2017/000000039769.jpg") # 沙发上的两只猫
cats = {
"type": "choice",
"instructions": "How many cats are there?",
"criteria": {"one": "One", "two": "Two", "more": "Three or more"},
}
print(model.system_one(None, {"cats": cats}, images=[image]))
# 批量:多个请求打包在一起,无填充
tickets = ["Where is my parcel? It was due Monday.", "The app crashes when I open settings."]
print(model.system_one_batch([(t, {"team": questions["team"]}) for t in tickets]))
调用 system_one(state, questions, images=None):在一次传播中对一个状态提出多个命名问题。状态及其图像只读取一次,供所有问题使用。
system_one_batch([(state, questions[, images]), ...]):多个请求打包,无填充。
状态是一个字符串、任意 JSON 值,或者当图像就是整个状态时为 None。
问题与答案
问题遵循 Decision Index schema:type、instructions 和 criteria。
type | criteria | 答案字段 |
|---|---|---|
noul:是或否 | 可选:{"true": "...", "false": "..."} 用于定义两侧 | noul:P(是) |
choice:命名选项之一 | {name: description} | choice、confidence、probabilities |
score:2 到 10 个有序等级 | 等级描述列表,从最低开始 | score(期望等级)、confidence、probabilities、legend |
每次调用返回 {"answers": {name: answer}, "usage": {"input_tokens": n, "output_tokens": 0}}。
⚡ 速度
热调用,一次一个请求:单个问题、一个状态上三个问题、3.4k token 状态和 384 px 图像。最后一列是将 64 个状态打包在一次传播中的吞吐量。
边缘推理
我们在 Apple M5 Pro 上测量延迟,并与 NVIDIA 合作,在 NVIDIA Jetson AGX Thor、Jetson AGX Orin 64 GB 和 Jetson Orin Nano 上进行测量。
| 单个问题 | 3 个问题,单次传播 | 3.4k token 状态 | 384 px 图像 | 64 个状态,打包 | |
|---|---|---|---|---|---|
Apple M5 Pro (mps) | 30 ms | 41 ms | 640 ms | 62 ms | 78/s |
| NVIDIA Jetson AGX Thor | 16 ms | 20 ms | 220 ms | 35 ms | 262/s |
| NVIDIA Jetson AGX Orin 64 GB | 26 ms | 35 ms | 560 ms | 83 ms | 110/s |
| NVIDIA Jetson Orin Nano | 50 ms | 73 ms | 1,640 ms | 202 ms | 38/s |
GPU 推理
我们在 NVIDIA RTX 4090 和 AMD MI325X 上以 bf16 精度测量延迟,取 20 次运行的中位数。
| 单个问题 | 3 个问题,单次传播 | 3.4k token 状态 | 384 px 图像 | 64 个状态,打包 | |
|---|---|---|---|---|---|
| NVIDIA RTX 4090 | 8 ms | 21 ms | 102 ms | 17 ms | 475/s |
| AMD MI325X | 9 ms | 14 ms | 44 ms | 18 ms | 1,106/s |
在 NVIDIA GPU 上,model.compile(mode="reduce-overhead") 会将单个问题作为 CUDA graph 运行(RTX 4090 行使用了此功能)。不使用时,单个问题需要 16 ms。使用新形状的第一次调用需要支付内核选择或编译的开销,因此请对你要服务的形状进行预热。
📊 性能
所有结果均基于公开基准测试。
Decision Index 0.2.1
我们使用官方评分器对 d1-3B 进行评分(非排行榜提交)。其他所有行来自公开排行榜 v0.2.1。
| 模型 | 大小 | Decision Index | Knowledge | Language | Retrieval | Tools | Arts |
|---|---|---|---|---|---|---|---|
| Winnow-12B | 12B | 50.02 | 33.8 | 56.0 | 54.0 | 71.0 | 30.0 |
| d1-3B | 3B | 48.57 | 23.8 | 56.4 | 52.8 | 74.5 | 36.3 |
| Decider 35B-A3B | 36B | 47.11 | 31.8 | 55.5 | 54.7 | 56.5 | 32.6 |
| JPT-9B | 9.7B | 46.89 | 31.7 | 56.7 | 44.6 | 67.0 | 28.6 |
| Decision 1.0 Lux | 9.7B | 43.49 | 30.9 | 48.0 | 50.0 | 57.2 | 26.4 |
| JPT-4B | 4.7B | 43.04 | 28.7 | 52.5 | 45.0 | 57.2 | 25.8 |
| Jet v6.2 | 4.7B | 42.60 | 28.7 | 43.9 | 48.2 | 62.9 | 27.0 |
| Decider 4B | 4.7B | 40.70 | 25.7 | 46.0 | 44.7 | 58.6 | 25.0 |
| Winnow-E4B | 8.0B | 39.89 | 22.3 | 45.1 | 43.8 | 62.5 | 22.8 |
| Decider 2B | 2.3B | 28.97 | 14.9 | 32.6 | 37.3 | 42.4 | 14.6 |
以决策形式呈现的基准测试
除了 Decision Index 之外,我们还添加了几个基于公开基准的内部评估。
| 基准 | d1-3B | Decider 4B | Decider 2B |
|---|---|---|---|
| SQuAD 2.0 | 85.3 | 76.0 | 67.7 |
| Civil Comments | 93.0 | 92.8 | 93.6 |
| MASSIVE intent | 87.3 | 88.3 | 81.1 |
| HelpSteer2 | 36.7 | 42.0 | 32.0 |
| PubMedQA | 66.0 | 63.3 | 65.7 |
| BoolQ | 86.7 | 89.0 | 87.3 |
| XNLI | 85.0 | 88.6 | 85.0 |
| PAWS-X | 76.9 | 69.8 | 59.5 |
| 均值 | 77.1 | 76.2 | 71.5 |
d1-3B 在 DecisionBench(eng v1,全部 23,900 行)上得分 71.8,在 Fast Decisions(dev split)上得分 69.3。
视觉
11 个公开图像基准,以各基准选项上的决策形式读取(每个最多 1,000 行),与基座模型对比:
| 基准 | d1-3B | LFM2.5-VL-3B |
|---|---|---|
| AI2D | 79.9 | 80.9 |
| BLINK | 59.2 | 58.7 |
| CV-Bench | 82.1 | 87.6 |
| HallusionBench | 65.3 | 65.0 |
| MMBench | 84.9 | 84.3 |
| MME | 82.1 | 82.4 |
| MMStar | 59.9 | 61.2 |
| MMVP | 77.0 | 73.7 |
| POPE | 88.5 | 90.1 |
| VisualWebBench | 71.4 | 78.3 |
| VL-RewardBench | 65.0 | 50.9 |
| 均值 | 74.1 | 73.9 |
| ImajevBench(dev 和 calibration,253 行) | 64.0 | 66.8 |
移除图像后,相同问题得分为 45.1,说明答案确实来自图像。
📬 联系方式
- 有问题或想交流?加入我们的 Discord 社区
- 如对边缘部署的定制方案感兴趣,请联系我们的销售团队。
引用
@article{liquidAI2026opend1,
author = {Liquid AI},
title = {Open d1: Edge decision models for text, vision, and audio},
journal = {Liquid AI Blog},
year = {2026},
note = {https://www.liquid.ai/blog/d1-open},
}
@article{liquidai2025lfm2,
title = {LFM2 Technical Report},
author = {Liquid AI},
journal = {arXiv preprint arXiv:2511.23404},
year = {2025}
}
相似文章
宣布 d1 获得视觉能力(2 分钟阅读)
Liquid AI 宣布其决策模型 d1 现在支持图像、文本或两者组合作为输入,声称在 6 项真实世界应用中的 4 项上匹配或超越 GPT-6.1 Sol,同时成本降低 19 到 200 倍,响应速度显著更快。d1 在单次前向传播中直接返回是/否、选项或评分的概率,无需生成任何 token,响应时间在 200–300 毫秒之间。
Liquid AI 的 d1-ultra 决策模型在帕累托前沿上占据了非常有利的位置
Liquid AI 发布了 d1-ultra,这是一款多模态决策模型,可在单次前向传播中处理文本和图像,无需生成 token 即可返回经过校准的概率。该公司声称,该模型在 Artificial Analysis 决策指数中表现最佳,定价为每百万输入 token 0.042 美元。
LiquidAI/LFM2.5-VL-3B · Hugging Face
LiquidAI releases LFM2.5-VL-3B, a 3B multimodal model for on-device deployment with improved OCR, grounding, and efficient inference, available in multiple formats including GGUF, ONNX, and MLX.
Open d1:面向文本、视觉和音频的边缘决策模型(6 分钟阅读)
Liquid AI 发布了 d1 决策模型家族的两款开放权重模型 d1-3B 和 d1-OMNI-600M,支持文本、视觉和音频模态,通过单次前向传递直接输出答案,在 Decision Index 上超越同规模模型,并可在 NVIDIA Jetson 边缘设备上实现实时推理。
@heyshrutimishra:AI 模型正变得足够小,可以直接在你的设备上做出实时决策。Liquid AI 刚刚发布了两款决策模型……
Liquid AI 发布了 Open d1,这是两个开放权重的多模态决策模型(d1-3B 和 d1-omni-600M),可在设备端实现实时推理。其中 3B 模型在 RTX 4090 上的决策延迟仅为 8 毫秒,在 Jetson Orin Nano 上为 50 毫秒。