ej

Product Hunt 模型
edge-ai lightweight-model local-inference decision-making open-source cpu-inference

摘要

ej 是一个仅 11.4MB 的本地模型，专为运行时定义选项的类型化决策设计，可在 CPU 上单次前向推理输出概率分布，涵盖选择、是非与有序评分任务，并附带训练、评估与基准测试工具链。

<p> 一个仅 11MB 的本地模型，一次前向推理即可完成类型化决策 </p> <p> <a href="https://www.producthunt.com/products/ej-jev-but-for-edge-devices?utm_campaign=producthunt-atom-posts-feed&amp;utm_medium=rss-feed&amp;utm_source=producthunt-atom-posts-feed">讨论</a> | <a href="https://www.producthunt.com/r/p/1275189?app_id=339">链接</a> </p>
查看原文
查看缓存全文

缓存时间: 2026/10/10 08:32

# ej：一个 11MB 的本地模型，单次前向推理即可输出类型化决策 | Product Hunt 来源：https://www.producthunt.com/products/ej-jev-but-for-edge-devices 我构建 ej 是为了解决一个比通用分类更窄的问题：给定一些状态和一组决策问题（其选项可在运行时定义），在单次前向推理中为每个问题返回一个概率分布。它支持选择题、是/否判断以及有序评分，运行在 CPU 上，无需 token 生成，仅作为一个 11.4 MB 的模型文件发布。仓库包含训练、评估、适配、打包权重以及基准测试工具。

相似文章

Microsoft-Decision-1

Product Hunt

Microsoft 推出 Decision-1 决策打分模型，用于代理与工作流的路由、分类、验证和控制，单次推理即可输出各选项的校准概率。该模型基于 Qwen3.5-9B 后训练，据称中位延迟比 GPT-6 Sol 快约 35 倍，现已在 Microsoft Foundry 上线。

@yibie: https://x.com/yibie/status/2104076142500069608

X AI KOLs Timeline

本文展示了如何将GLM-5.3-Flash转换为Jev式的System One决策模型，通过单次前向传播实现类型化决策，基准测试显示其在准确性和速度上与专用模型相当。

vllm-sr/d3

Hugging Face Models Trending

vllm-sr/d3 是 Decision 3.0 的 27B 多模态基础决策模型，支持文本、JSON、图像与视频输入，可在一次调用中完成选择、是非与评分决策并输出概率，无需生成文本。它在 Jev Decision Index 上以 66.3 排名官方文本榜第一，较 Decision 2.0 提升 10.4，并在 AMD MI325X 上实现 27 req/s 的服务性能。