@ollama：Ollama 现已支持本地运行的 Jev 风格决策模型。使用 Nimble 等决策模型来处理工单分派……

X AI KOLs Following 产品
ollama local-inference decision-models model-routing api open-source

摘要

Ollama 新增了对 Jev 风格决策模型（如 Nimble）的支持，全部在本地运行，可用于工单分派、模型路由和内容审核等任务，通过全新的本地 /v1/systemone API 实现。

Ollama 现已支持本地运行的 Jev 风格决策模型。 使用 Nimble 等决策模型来处理工单分派、模型路由和内容审核等任务。 ollama pull nimble 下面这是 Nimble 通过全新的本地 /v1/systemone API 做出决策，在 Ollama 赛车游戏中运行的样子 https://t.co/HPLMmxcTSj
查看原文
查看缓存全文

缓存时间: 2026/09/30 22:12

Ollama 现在支持 Jev 式的决策模型，且完全在本地运行。

使用 Nimble 这样的决策模型来处理工单分诊、模型路由和内容审核等任务。

ollama pull nimble

下面是 Nimble 通过全新的本地 /v1/systemone API，在 Ollama 赛车游戏中大显身手的演示——它不断做出决策：https://t.co/HPLMmxcTSj

相似文章

llama.cpp 新增功能：决策模型

Reddit r/LocalLLaMA

llama.cpp 服务器现在通过新的 /v1/systemone 端点支持"决策模型"，在该端点下，单次前向传播即可为类型化的选项（choice/score/yes-no）计算带概率的得分，而不再生成文本。多个 ggml-org 模型（Julia-1、Laya、Kev-4B、lev、OpenJev）现已提供 GGUF 格式，遵循 TypeSafe 的 Jev System One 格式规范。

@omarsar0: https://x.com/omarsar0/status/2107472222398886011

X AI KOLs Timeline

Omar Santos 提供了一份指南，介绍如何将 TypeSafe AI 的决策模型 Jev 用作 LLM judge 来评估智能体。他展示了相比只看最终回复，读取完整轨迹（工具调用、结果、错误）如何提升生产级评估与监控系统的可靠性和一致性。