最小的 Jev-like 模型

Reddit r/LocalLLaMA 模型
tiny-decide decision-making edge-deployments browser open-source compact-models

摘要

TinyDecide 是一个 10M 参数的 Jev-like 模型（约 6MB），在 Decision Index 排行榜上表现超过更大的模型，并且可以在浏览器、Node.js、Python、Rust 中运行，甚至能在 ESP32 微控制器上运行。

TinyDecide 是一个拥有 10M 参数的 Jev-like 模型，体积仅约 6MB。它比 Decision Index 排行榜上的所有模型都要小，但表现远超其体量。它几乎可以在任何地方运行：浏览器、Node.js、Python、Rust，甚至 ESP32 上都可以。https://huggingface.co/TheREZOR/TinyDecide
查看原文

相似文章

qev-0.8b · 新一代 SOTA 超轻量本地决策模型

Reddit r/LocalLLaMA

qev-0.8b 是一个 0.8B 参数的本地决策模型，只需一次前向传播即可对任意输入输出经过校准的概率。在 Benchmark Heaven 上以 77.1% 的成绩在 27 个同规模模型中排名第一，p50 延迟仅 3.5 毫秒，在笔记本上运行仅占用 1.3 GB 内存。提供 CUDA、MLX 和 GGUF 三种格式，并能泛化到训练中从未见过的游戏（俄罗斯方块、吃豆人、2048、打砖块、打地鼠）。

Amazon 发布自家 Jev 克隆，决策模型席卷网络

TechCrunch AI

Amazon Web Services 发布了 Strands Decider 2B，一个受 TypeSafe 的 Jev 启发的开源决策模型，基于 Qen3.5-2B 构建，为智能体工作流提供快速、低成本、校准化的决策能力，而非进行完整的 LLM 生成。

从文本决策到像素：Jev-Style视觉选择模型研究

arXiv cs.AI

PixelJev被介绍为一种原生图像决策接口，使用小型开放多模态模型将图像、指令和候选集映射到结构化选择。该研究表明，在Pets等基准测试中，自适应提高了准确性，并突出了校准和泛化方面的挑战。