标签
使用 Jev(基于 Qwen 3.8 27B 的 LoRA 决策模型)驱动的贪吃蛇游戏。 模型在每一步操作时,根据棋盘状态的文本描述进行决策,延迟约为 600ms,运行在 llama.cpp 环境中。
TypeSafe 的 Jev 决策模型现已支持多模态输入,新增了 Box 问题类型和 assets 字段,可返回结构化、符合 Schema 的答案(choice、noul、score、box),并附带概率,可直接在代码中使用,无需再解析自由格式的 LLM JSON 输出。
Jev 决策模型现已支持多模态输入,允许在状态和问题中同时传入图像,并新增了 Box 类型,可返回 YOLO 风格的边界框用于目标定位。此次更新还支持并行问答,适用于交互式视觉应用,其中图像和 Box 功能仍处于实验阶段。
Liquid AI 发布 d1-ultra,一款多模态决策模型,在 112 项评测中超越 Jev 1.14 及所有其他决策模型,输出经校准的概率答案,现已在 Liquid API 上线,价格为每百万输入 token 0.042 美元。
Liquid AI 发布了 d1-ultra,这是一款多模态决策模型,可在单次前向传播中处理文本和图像,无需生成 token 即可返回经过校准的概率。该公司声称,该模型在 Artificial Analysis 决策指数中表现最佳,定价为每百万输入 token 0.042 美元。
作者将 Jev 决策模型集成到开源 agent 框架 TrueForge 中,实现比让 LLM 做全部决策低 150 倍成本的结构化选择,并结合 Claude Opus 复核低置信度结果,保持同等准确率。
作者介绍了 DecisionLoop,一个用小型决策模型替代 LLM 处理意图识别、工具选择与控制流的 Python 智能体框架,初步测试在工具调用准确率、成本和延迟上优于基于 LangChain 的 LLM 智能体,并寻求架构反馈与基准测试建议。
推文讨论 SubQ Snap 的延迟数据:100K tokens 约 660ms、384K tokens 约 2.5 秒,接近线性扩展而非二次注意力的 15 倍增长,使决策模型能一次处理超长多模态上下文。
SubQ 发布长上下文决策模型 Snap,支持 384K 多模态上下文、每 token 计算成本恒定,并以极低定价($0.05/百万输入 token,输出免费)冲击企业级 AI 经济性。
Subquadratic 发布 SubQ Snap,号称首个面向企业级真实工作负载的长上下文决策模型,在 Hugging Face 决策指数上取得 61.6/61.7 的成绩,超过 Jev 的 57.9,且声称每个词元的计算量不会随上下文增长而增加。
文章介绍了 TypeSafe AI 的 Jev 'System One' 决策模型在开源 Agent Harness 中的表现:在 40 个决策任务上达到与 Opus 相同的准确率,同时决策成本降低约 150 倍,并通过置信度校准将不确定答案路由到人工审核。
Cloudflare 发布 Clef-omni,一个基于 Qwen3-Omni-30B-A3B 后训练的多模态决策模型,可直接接收音频与视频输入,在单次前向传播中输出每个选项的概率,意图路由类基准表现强劲。
一段视频演示展示了完全由本地运行的 Clef-Flash 9B 决策模型处理网页浏览任务的过程。该模型在运行时提取页面文本以指导决策,并在 11–17 秒内完成任务,但在复杂用户界面上的性能会下降。
教程演示如何用 Unsloth Studio 无代码微调 Qwen 基础模型,将其转变为可输出结构化决策与置信度分数的决策模型,准确率从约 34% 提升到 65%。
vllm-sr/d3 是 Decision 3.0 的 27B 多模态基础决策模型,支持文本、JSON、图像与视频输入,可在一次调用中完成选择、是非与评分决策并输出概率,无需生成文本。它在 Jev Decision Index 上以 66.3 排名官方文本榜第一,较 Decision 2.0 提升 10.4,并在 AMD MI325X 上实现 27 req/s 的服务性能。
H2O.ai 发布开源 Apache-2.0 4B 决策模型 H2O-Lightning-4B,基于 Qwen3.5-4B 微调,通过单次前向传播输出校准概率,JevBench 综合得分 72.5,超越 Jev 1.13 成为榜首开源模型,后续将推出 12B 和 31B 版本。
Phocinae-Largha-150M-v1 是一个拥有 144.3M 参数的决策模型(基于 mmBERT-small),可接受结构化状态以及类型化的是非题/选择题/评分题,只需一次前向推理即可输出带置信度的校准答案;在自建的英文评测集上达到 0.906 的准确率,GPU fp16 下延迟低至 21ms。
EmpirioLabs 发布了 Aplomb 1,一个基于 Qwen3.5-4B 构建的开源权重 5.3B 决策模型,可处理最高 100 万 token 的文本、图像、视频和音频输入,能为工具参数返回概率,在 Decision Index 上在 4B 以下模型中登顶,同时在 5.3B 及以下规模的 38 个基准中声称在 8 项上取得领先分数。
LiquidAI 发布了 d1-3B,这是一个基于 LFM2.5-VL-3B 构建的开源 30 亿参数多模态决策模型,能在单次前向传播中对文本/JSON/图像状态的类型化问题给出答案,且不输出任何 token,在消费级 GPU 上可实现 8 毫秒的决策速度。
IFM 发布 K2-Type-0.9B,一个基于 Apache-2.0 协议的 0.9B 决策模型。它接收一个状态和多个带类型的问题(noul、choice、score),在单次前向传播中返回校准后的概率,在 JevBench 公开集上得分 0.762,延迟为 20-60 毫秒。