@bojie_li: 我想稍微改变一下对Jev类模型的看法。刚发布时,我以为它只是一个分类……

X AI KOLs Timeline 新闻

摘要

作者重新评估Jev类模型的价值,认为随着模型足够快和便宜,原本靠if-else拼接的业务逻辑、实时语音交互、计算机操作和机器人决策都可以交给System 1模型处理,形成SOTA后台深思考模型与System 1实时模型分工的新范式。

我想稍微改变一下对Jev类模型的看法。刚发布时,我以为它只是一个分类模型——现有的LLM解码一个token就能完成。现在我意识到,技术上这并不难,关键在于System 1式思维:世界是事件驱动的,每次只需要做一个很小、很简单的决策。 首先,以前LLM被用在agent的react循环内部,我们尽量避免在外层框架和业务逻辑中使用LLM,否则成本和延迟会令人难以承受。而Jev以及今天刚发布的Pine Computer逻辑表明,只要模型足够快、足够便宜,过去靠if-else语句拼接的大量业务逻辑,现在都可以在模型上运行。 再深入思考一下,人类的实时决策其实更接近System 1模型,而非自回归式LLM。 - 在语音对话中,人类每隔几百毫秒就会做出交互判断——是否打断、同意还是暂停——这是让AI语音听起来像真人的关键。在GPT-Live 1和TML交互模型这样的全双工模型中,每个几百毫秒的时间片只输出几个token。 - 在计算机操作中,人类每隔几百毫秒就决定下一步点击哪里;一旦界面发生变化,就不会再点击原本准备好的位置。Pine Computer将计算机操作从回合制转变为事件驱动,并尽可能将输出从坐标简化为标签。 - 在机器人领域,人类每隔几百毫秒就在规划下一个动作,或者停止当前动作。 在交互中,observe-feedback循环的频率可能比智商更重要。全双工模型、Jev和Pine Computer都指向一个新方向:SOTA后台模型负责深度思考和问题求解,而System 1 Models负责实时语音交互、计算机操作、业务逻辑判断,甚至未来的具身操作。
查看原文
查看缓存全文

缓存时间: 2026/10/10 14:52

我想稍微调整一下对 Jev 类模型的看法。它刚发布时,我以为那只是一个分类模型——现有的 LLM 解码一个 token 就完事了。现在我意识到,这在技术上并不难,关键在于 System 1 式的思维:世界是事件驱动的,每次只做一个小小的、简单的决策。

首先,以前 LLM 被用在 agent 的 react 循环内部,我们会尽量避免在外层 harness 和业务逻辑中使用 LLM,否则成本和延迟会让人难以承受。而 Jev 和今天刚发布的 Pine Computer 的逻辑表明:只要模型足够快、足够便宜,很多过去只能用 if-else 拼凑起来的业务逻辑,现在都可以交由模型来运行。

再往深一层想,人类的实时决策其实更像是 System 1 模式,而非自回归式的大模型。

  • 在语音对话中,人类每隔几百毫秒就会做出一次交互判断——是否打断、是否附和、是否暂停——这是让 AI 语音听起来像真人的关键。在 GPT-Live 1 这样的全双工模型和 TML 交互模型中,模型每个几百毫秒的时间片也只输出几个 token。

  • 在电脑操作(computer use)中,人类每隔几百毫秒就会决定下一步点哪里;一旦界面发生变化,就不会再点原来打算点的位置了。Pine Computer 将 computer use 从回合制转变为事件驱动,并尽可能将输出从坐标简化为标签。

  • 在机器人领域,人类每隔几百毫秒就在规划下一个动作,或者中止当前动作。

在交互场景中,观察-反馈循环的频率可能比智商更重要。全双工模型、Jev 和 Pine Computer 都指向一个新方向:SOTA 后台模型负责深度思考和问题求解,而 System 1 模型负责实时语音交互、电脑操作、业务逻辑判断,甚至未来的具身操作。

相似文章

VideoJev:面向视频理解与交互的 System One 模型

Hugging Face Daily Papers

VideoJev 提出了基于 System One 范式的视频理解与交互模型家族,通过共享打分头替代自回归解码,统一时序定位与视频问答,并利用缓存推理和联合推理大幅提升效率。VideoJev-4B 和 VideoJev-35B-A3B 在时序定位基准上显著超越骨干模型,视频问答推理加速超过 100 倍。

# Jev 及类 Jev 模型在电话语音机器人中的真正用武之地

Reddit r/AI_Agents

## 以语音 AI 编排平台产品负责人的视角,看分类模型在电话语音机器人中的真实价值 作为语音 AI 编排平台的产品负责人,本文作者分析了 Jev 及同类分类模型在电话语音机器人场景中的实际用途,并梳理了 Laya、Clef、CMF、Nimble、Kev 等竞品构成的生态格局。 ### 核心观点 - **单一 LLM 无法独立支撑生产级对话**。在真实通话场景中,仅靠一个大语言模型难以稳定完成端到端的对话流程。 - **分类模型仍然不可或缺**。它们在**延迟**、**成本**和**结构化输出**三个维度上,依然具备 LLM 难以替代的优势: - **延迟更低**:分类任务的响应速度远快于生成式调用,对实时通话体验至关重要; - **成本更低**:轻量级模型的推理开销远小于大参数量 LLM; - **结构化输出更稳定**:分类结果天然就是离散标签,便于下游系统直接消费,减少解析失败与幻觉风险。 ### 结论 在生产环境中,**编排层 + 分类模型 + LLM** 的组合仍然是更务实的架构选择:把意图识别、路由分流、情绪判断等高频、低延迟、强结构化的任务交给分类模型,而将开放对话、复杂推理与内容生成交给 LLM。两者各司其职,才能同时兼顾体验、稳定性与成本。