LiquidAI/d1-3B

Hugging Face Models Trending 模型

摘要

LiquidAI 发布了 d1-3B,这是一个基于 LFM2.5-VL-3B 构建的开源 30 亿参数多模态决策模型,能在单次前向传播中对文本/JSON/图像状态的类型化问题给出答案,且不输出任何 token,在消费级 GPU 上可实现 8 毫秒的决策速度。

Task: image-text-to-text Tags: transformers, safetensors, lfm2_vl, image-text-to-text, liquid, lfm2.5, edge, decision, classification, calibration, system-one, multimodal, decision-model, conversational, custom_code, ar, zh, en, fr, de, hi, id, it, ja, ko, pl, pt, ru, es, th, vi, arxiv:2511.23404, base_model:LiquidAI/LFM2.5-VL-3B, base_model:finetune:LiquidAI/LFM2.5-VL-3B, license:other, endpoints_compatible, region:us
查看原文
查看缓存全文

缓存时间: 2026/10/08 12:31

LiquidAI/d1-3B · Hugging Face

来源:https://huggingface.co/LiquidAI/d1-3B Liquid AI

d1-3B 是一个 3B 参数的决策模型,基于 LFM2.5-VL-3B 构建。你给它一个状态(文本、JSON、图像或其组合)和一组问题,它会在一次前向传播中返回经过校准的、带类型标注的答案,输出 token 数为零。

  • Decision Index 0.2.1 上 10B 以下最佳决策模型:48.57 分,超过所有 4B 和 9B 模型,也超过 Decider 35B-A3B(47.11)。
  • 多模态:同一状态中支持图像和文本。在 11 个公开图像基准上得分 74.1(LFM2.5-VL-3B:73.9)。
  • 速度快:在 NVIDIA RTX 4090 上单次决策 8 ms,AMD MI325X 上 9 ms,Apple M5 Pro 上 30 ms。

了解更多关于 open d1 的信息,请参阅我们的博客文章。

图片

💻 演示:无需任何设置即可在 Hugging Face Space 中体验 d1-3B:Open d1 Arcade:使用 d1-3B 的 10 个演示合集

🗒️ 模型详情

模型参数量描述
LFM2.5-VL-3B3.1B通用视觉-语言模型(基座)
d1-3B3.1B针对单次传播、经校准的决策进行后训练

d1-3B 是一个多模态决策模型,具有以下特性:

  • 总参数量:3.12B
  • 视觉编码器:SigLIP2 NaFlex 形状优化 400M
  • 上下文长度:32,768 tokens
  • 词表大小:128,000

我们建议在任何需要是非判断、从命名选项中选择或评分的流水线中使用 d1-3B:路由与分诊、内容审核、意图与主题分类、抽取检查、重排序、LLM-as-a-judge 评分、智能体护栏以及视觉检查。它不是聊天模型,也不生成文本。

🏃 使用方法

安装依赖(需要 transformers>=5.14):

pip install "transformers>=5.14" torch torchvision pillow

模型自带代码,请使用 trust_remote_code=True 加载:

import torch
from transformers import AutoModel
from transformers.image_utils import load_image

device = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
dtype = torch.float32 if device == "cpu" else torch.bfloat16
model = AutoModel.from_pretrained("LiquidAI/d1-3B", trust_remote_code=True, dtype=dtype).to(device)

# 文本:对一个状态提出多个命名问题,单次传播全部回答
questions = {
    "refund": {
        "type": "noul",
        "instructions": "Is the customer asking for a refund?",
    },
    "team": {
        "type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {
            "billing": "Charges, refunds, invoices",
            "technical": "App or site faults",
            "fraud": "Suspected unauthorised use",
        },
    },
    "urgency": {
        "type": "score",
        "instructions": "How urgent is this?",
        "criteria": ["Can wait", "Today", "Blocking the customer now"],
    },
}
print(model.system_one("I was charged twice this month, please refund one of them.", questions))

# 图像:照片就是整个状态
image = load_image("http://images.cocodataset.org/val2017/000000039769.jpg")  # 沙发上的两只猫
cats = {
    "type": "choice",
    "instructions": "How many cats are there?",
    "criteria": {"one": "One", "two": "Two", "more": "Three or more"},
}
print(model.system_one(None, {"cats": cats}, images=[image]))

# 批量:多个请求打包在一起,无填充
tickets = ["Where is my parcel? It was due Monday.", "The app crashes when I open settings."]
print(model.system_one_batch([(t, {"team": questions["team"]}) for t in tickets]))

调用 system_one(state, questions, images=None):在一次传播中对一个状态提出多个命名问题。状态及其图像只读取一次,供所有问题使用。

system_one_batch([(state, questions[, images]), ...]):多个请求打包,无填充。

状态是一个字符串、任意 JSON 值,或者当图像就是整个状态时为 None。

问题与答案

问题遵循 Decision Index schema:type、instructions 和 criteria。

typecriteria答案字段
noul:是或否可选:{"true": "...", "false": "..."} 用于定义两侧noul:P(是)
choice:命名选项之一{name: description}choice、confidence、probabilities
score:2 到 10 个有序等级等级描述列表,从最低开始score(期望等级)、confidence、probabilities、legend

每次调用返回 {"answers": {name: answer}, "usage": {"input_tokens": n, "output_tokens": 0}}。

⚡ 速度

热调用,一次一个请求:单个问题、一个状态上三个问题、3.4k token 状态和 384 px 图像。最后一列是将 64 个状态打包在一次传播中的吞吐量。

边缘推理

我们在 Apple M5 Pro 上测量延迟,并与 NVIDIA 合作,在 NVIDIA Jetson AGX Thor、Jetson AGX Orin 64 GB 和 Jetson Orin Nano 上进行测量。

单个问题3 个问题,单次传播3.4k token 状态384 px 图像64 个状态,打包
Apple M5 Pro (mps)30 ms41 ms640 ms62 ms78/s
NVIDIA Jetson AGX Thor16 ms20 ms220 ms35 ms262/s
NVIDIA Jetson AGX Orin 64 GB26 ms35 ms560 ms83 ms110/s
NVIDIA Jetson Orin Nano50 ms73 ms1,640 ms202 ms38/s

GPU 推理

我们在 NVIDIA RTX 4090 和 AMD MI325X 上以 bf16 精度测量延迟,取 20 次运行的中位数。

单个问题3 个问题,单次传播3.4k token 状态384 px 图像64 个状态,打包
NVIDIA RTX 40908 ms21 ms102 ms17 ms475/s
AMD MI325X9 ms14 ms44 ms18 ms1,106/s

在 NVIDIA GPU 上,model.compile(mode="reduce-overhead") 会将单个问题作为 CUDA graph 运行(RTX 4090 行使用了此功能)。不使用时,单个问题需要 16 ms。使用新形状的第一次调用需要支付内核选择或编译的开销,因此请对你要服务的形状进行预热。

📊 性能

所有结果均基于公开基准测试。

Decision Index 0.2.1

我们使用官方评分器对 d1-3B 进行评分(非排行榜提交)。其他所有行来自公开排行榜 v0.2.1。

模型大小Decision IndexKnowledgeLanguageRetrievalToolsArts
Winnow-12B12B50.0233.856.054.071.030.0
d1-3B3B48.5723.856.452.874.536.3
Decider 35B-A3B36B47.1131.855.554.756.532.6
JPT-9B9.7B46.8931.756.744.667.028.6
Decision 1.0 Lux9.7B43.4930.948.050.057.226.4
JPT-4B4.7B43.0428.752.545.057.225.8
Jet v6.24.7B42.6028.743.948.262.927.0
Decider 4B4.7B40.7025.746.044.758.625.0
Winnow-E4B8.0B39.8922.345.143.862.522.8
Decider 2B2.3B28.9714.932.637.342.414.6

以决策形式呈现的基准测试

除了 Decision Index 之外,我们还添加了几个基于公开基准的内部评估。

基准d1-3BDecider 4BDecider 2B
SQuAD 2.085.376.067.7
Civil Comments93.092.893.6
MASSIVE intent87.388.381.1
HelpSteer236.742.032.0
PubMedQA66.063.365.7
BoolQ86.789.087.3
XNLI85.088.685.0
PAWS-X76.969.859.5
均值77.176.271.5

d1-3B 在 DecisionBench(eng v1,全部 23,900 行)上得分 71.8,在 Fast Decisions(dev split)上得分 69.3。

视觉

11 个公开图像基准,以各基准选项上的决策形式读取(每个最多 1,000 行),与基座模型对比:

基准d1-3BLFM2.5-VL-3B
AI2D79.980.9
BLINK59.258.7
CV-Bench82.187.6
HallusionBench65.365.0
MMBench84.984.3
MME82.182.4
MMStar59.961.2
MMVP77.073.7
POPE88.590.1
VisualWebBench71.478.3
VL-RewardBench65.050.9
均值74.173.9
ImajevBench(dev 和 calibration,253 行)64.066.8

移除图像后,相同问题得分为 45.1,说明答案确实来自图像。

📬 联系方式

引用

@article{liquidAI2026opend1,
  author  = {Liquid AI},
  title   = {Open d1: Edge decision models for text, vision, and audio},
  journal = {Liquid AI Blog},
  year    = {2026},
  note    = {https://www.liquid.ai/blog/d1-open},
}
@article{liquidai2025lfm2,
  title   = {LFM2 Technical Report},
  author  = {Liquid AI},
  journal = {arXiv preprint arXiv:2511.23404},
  year    = {2025}
}

相似文章

宣布 d1 获得视觉能力(2 分钟阅读)

TLDR AI

Liquid AI 宣布其决策模型 d1 现在支持图像、文本或两者组合作为输入,声称在 6 项真实世界应用中的 4 项上匹配或超越 GPT-6.1 Sol,同时成本降低 19 到 200 倍,响应速度显著更快。d1 在单次前向传播中直接返回是/否、选项或评分的概率,无需生成任何 token,响应时间在 200–300 毫秒之间。

LiquidAI/LFM2.5-VL-3B · Hugging Face

Reddit r/LocalLLaMA

LiquidAI releases LFM2.5-VL-3B, a 3B multimodal model for on-device deployment with improved OCR, grounding, and efficient inference, available in multiple formats including GGUF, ONNX, and MLX.