@bojie_li: 我想稍微改变一下对Jev类模型的看法。刚发布时,我以为它只是一个分类……
摘要
作者重新评估Jev类模型的价值,认为随着模型足够快和便宜,原本靠if-else拼接的业务逻辑、实时语音交互、计算机操作和机器人决策都可以交给System 1模型处理,形成SOTA后台深思考模型与System 1实时模型分工的新范式。
查看缓存全文
缓存时间: 2026/10/10 14:52
我想稍微调整一下对 Jev 类模型的看法。它刚发布时,我以为那只是一个分类模型——现有的 LLM 解码一个 token 就完事了。现在我意识到,这在技术上并不难,关键在于 System 1 式的思维:世界是事件驱动的,每次只做一个小小的、简单的决策。
首先,以前 LLM 被用在 agent 的 react 循环内部,我们会尽量避免在外层 harness 和业务逻辑中使用 LLM,否则成本和延迟会让人难以承受。而 Jev 和今天刚发布的 Pine Computer 的逻辑表明:只要模型足够快、足够便宜,很多过去只能用 if-else 拼凑起来的业务逻辑,现在都可以交由模型来运行。
再往深一层想,人类的实时决策其实更像是 System 1 模式,而非自回归式的大模型。
-
在语音对话中,人类每隔几百毫秒就会做出一次交互判断——是否打断、是否附和、是否暂停——这是让 AI 语音听起来像真人的关键。在 GPT-Live 1 这样的全双工模型和 TML 交互模型中,模型每个几百毫秒的时间片也只输出几个 token。
-
在电脑操作(computer use)中,人类每隔几百毫秒就会决定下一步点哪里;一旦界面发生变化,就不会再点原来打算点的位置了。Pine Computer 将 computer use 从回合制转变为事件驱动,并尽可能将输出从坐标简化为标签。
-
在机器人领域,人类每隔几百毫秒就在规划下一个动作,或者中止当前动作。
在交互场景中,观察-反馈循环的频率可能比智商更重要。全双工模型、Jev 和 Pine Computer 都指向一个新方向:SOTA 后台模型负责深度思考和问题求解,而 System 1 模型负责实时语音交互、电脑操作、业务逻辑判断,甚至未来的具身操作。
相似文章
VideoJev:面向视频理解与交互的 System One 模型
VideoJev 提出了基于 System One 范式的视频理解与交互模型家族,通过共享打分头替代自回归解码,统一时序定位与视频问答,并利用缓存推理和联合推理大幅提升效率。VideoJev-4B 和 VideoJev-35B-A3B 在时序定位基准上显著超越骨干模型,视频问答推理加速超过 100 倍。
@0xCheshire: Jev 是目前最佳的 System 1 决策模型之一,这是毋庸置疑的。但它有一个致命缺陷:它不是…
这篇帖子比较了 AI 模型 Jev 和 Laya,突出了 Laya 在实时游戏决策中的开源、本地和低延迟能力。
@leeoxiang:像 JEV 这样的决策模型为 VoiceAgent 带来了新的可能性,jev 在轮次切换检测上非常精准……
作者讨论了 JEV 这类决策模型在 VoiceAgent 中的新可能性,认为其在轮次切换检测上非常精准,并列举了若支持判断用户是否说完、是否打断、情绪识别、是否拒绝识别及是否调用工具等能力,可显著提升语音助手体验,甚至无需端到端模型。
Chinese-Jev:将系统一模型应用于中文任务
本文介绍了Chinese-Jev,一个旨在提高中文任务决策准确性和效率的系统一模型,通过领域特定的微调和一个新的基准测试CJ-Bench进行评估。
# Jev 及类 Jev 模型在电话语音机器人中的真正用武之地
## 以语音 AI 编排平台产品负责人的视角,看分类模型在电话语音机器人中的真实价值 作为语音 AI 编排平台的产品负责人,本文作者分析了 Jev 及同类分类模型在电话语音机器人场景中的实际用途,并梳理了 Laya、Clef、CMF、Nimble、Kev 等竞品构成的生态格局。 ### 核心观点 - **单一 LLM 无法独立支撑生产级对话**。在真实通话场景中,仅靠一个大语言模型难以稳定完成端到端的对话流程。 - **分类模型仍然不可或缺**。它们在**延迟**、**成本**和**结构化输出**三个维度上,依然具备 LLM 难以替代的优势: - **延迟更低**:分类任务的响应速度远快于生成式调用,对实时通话体验至关重要; - **成本更低**:轻量级模型的推理开销远小于大参数量 LLM; - **结构化输出更稳定**:分类结果天然就是离散标签,便于下游系统直接消费,减少解析失败与幻觉风险。 ### 结论 在生产环境中,**编排层 + 分类模型 + LLM** 的组合仍然是更务实的架构选择:把意图识别、路由分流、情绪判断等高频、低延迟、强结构化的任务交给分类模型,而将开放对话、复杂推理与内容生成交给 LLM。两者各司其职,才能同时兼顾体验、稳定性与成本。