@art_zucker：昨天和今天我在 `transformers` 中开发了新的 "decision" 流水线，以支持所有 `jev` 类模型。这将……

X AI KOLs Following 2026/10/14 14:10 工具

huggingface transformers inference pipeline open-source developer-tools

摘要

一位开发者分享了在 Hugging Face `transformers` 中开发新 "decision" 流水线的进展，旨在通过 `transformers serve` 支持所有 jev 类模型，为碎片化的模型生态系统带来标准化。

昨天和今天我在 `transformers` 中开发了新的 "decision" 流水线，以支持所有 `jev` 类模型。这将为当前混乱的生态系统带来良好的标准 👀 也就是说，通过简单高效的 `transformers serve`，支持所有 jev/clef/von 等模型

查看原文

查看缓存全文

缓存时间: 2026/10/16 20:44

昨天和今天我一直在开发新的 “decision” 管道，以支持 transformers 中所有类似 jev 的模型。

这将为目前混乱的生态带来良好的规范 👀 也就是说，通过简单高效的 transformers serve 命令，即可支持所有 jev/clef/von 等模型。

相似文章

Reddit r/AI_Agents

本文分析了Jev和开放的决策模型生态系统，重点介绍了它如何通过实现异构推理来转变智能体架构，这有助于降低生产AI系统的成本并实现语义决策自动化。

Reddit r/LocalLLaMA

tftf 是一个轻量级流式流水线，用于操作 HuggingFace safetensors 模型，支持 FP8 反量化、LoRA 合并等操作，无需将完整模型加载到内存中，从而最小化 RAM 和 VRAM 开销。

X AI KOLs Timeline

一位开发者为 jina-reranker-v3.5 AI 模型创建了一个 Jev 风格的 API 封装，使其充当决策引擎，展示了它在电车难题场景中的确定性行为，并突出了其训练重点在于检索相关性而非理性。

X AI KOLs Timeline

LLM2Jev是一个开源工具，它将本地HuggingFace模型适配为使用Choice、Score和Noul框架执行结构化决策，提供仅预填充推理，并与Transformers和SGLang集成。

X AI KOLs Timeline

本文介绍了 'ruby_decision_model,' 一个 Ruby gem，它使得与决策模型如 JEV 的交互成为可能，提供了一个用于带有校准概率的类型化问题的客户端，并支持多个提供商如 OpenRouter 和 Typesafe。