@Alex_tra_memory: Decision 3.0 现已支持 Core ML，d3-lite 正在 M5 Pro 上实时将 1,000 个 pull request 分类到 vllm-sr 工作组中，每个…

X AI KOLs Timeline 模型
core-ml apple-silicon on-device multimodal open-source inference

摘要

Decision 3.0 已转换为面向 Apple 芯片的 Core ML 版本，在 M5 Pro 上完全在设备端将 1,000 个 pull request 分类到 vllm-sr 工作组中，每个 PR 仅需 0.12 秒，lite、nano 和 mini 三个变体已统一在一个仓库中。

Decision 3.0 现已支持 Core ML，d3-lite 正在 M5 Pro 上实时将 1,000 个 pull request 分类到 vllm-sr 工作组中：每个 PR 0.12 秒，8.3 个 PR/秒，数据完全不离开 Mac，lite、nano 和 mini 均已完成转换并统一在一个仓库中 https://huggingface.co/FluidInference/d3-coreml… https://github.com/FluidInference/FluidUse…
查看原文
查看缓存全文

缓存时间: 2026/10/12 05:23

FluidInference/d3-coreml · Hugging Face

来源：https://huggingface.co/FluidInference/d3-coreml

https://huggingface.co/FluidInference/d3-coreml#decision-30–core-mlDecision 3.0 — Core ML

Decision 3.0（https://huggingface.co/collections/vllm-sr/decision-30）由 vLLM Semantic Router 团队开发，已转换为适用于 Apple 芯片的 Core ML 版本：支持在设备端处理文本、图像和视频请求。与上游版本保持相同的契约：每个问题仅需一次前向传播，在最后一个 prompt token 处进行 255 路 FP32 读出，为每个选项给出一个概率值，不生成任何文本。

每个文件夹均为完整发布版本（包含文本计算图、视觉编码器、主机查找表、Python 主机代码），并配有各自的 README，涵盖文件说明、与上游版本的一致性对比及运行速度。Swift 端：FluidUse（https://github.com/FluidInference/FluidUse）中的 D3VisionManager 可加载其中任意版本。

许可证：Apache-2.0，与上游一致。

Xunzhuo（@XunzhuoLiu）： 推出 Decision 3.0：迈向开放的多模态基础决策模型 ⚡

开源且达到最先进水平，参数规模从 0.6B 到 27B：在我们的评测中，在两个 Jev Decision Index 榜单上均排名第一，处于新的 Pareto 前沿。

HF 合集 🤗：https://t.co/I7RfrzJqRc

#OpenSource #Jev #LLM

相似文章