@mvanhorn 的推文:https://x.com/mvanhorn/status/2100784142850097482
摘要
Jev 是一个新的AI模型,专注于快速决策,提供比前沿大语言模型快20-200倍、便宜40-400倍的性能,由 Diogo Almeida 发布。
查看缓存全文
缓存时间: 2026/09/18 18:50
Jev 到底是什么?人们已用它构建的九大应用场景
简而言之:想象 AI 的多项选择题,而非 AI 的写作任务。
它不聊天。它做出你的软件能直接执行的决策:“是垃圾邮件吗?”“该用哪个工具?”“需要人工介入吗?”
激动人心之处在于:在 TypeSafe 自身的工作流基准测试中,它的速度大约快 200 倍,成本低 400 倍,响应时间仅为毫秒级。
其强大之处在于:想象一个应用或智能体无需与大型语言模型进行数百次昂贵而缓慢的对话,就能做出数百个小型判断。
将大型模型用于需要深度思考和写作的任务,而用 Jev 处理其间的快速决策。
顺便一提,它是由 ChatGPT 联合创造者、RLHF 联合发明者之一 Diogo Almeida 在两年秘密研发后推出的。
以上是简要介绍。以下是实际证据。
过去30天内,我扫视了所有相关原始文件,并逐一手动核对了重要帖子与实时页面。发布两天后,该启动帖已获得 6.6 万个赞和 3140 万次浏览。
Diogo Almeida @CompleteSkeptic · 9月16日 在共同发明 ChatGPT 之后,我不断自问:为什么超越人类水平的聊天模型未能导向通用人工智能(AGI)?
过去两年,我秘密研发了一种新的模型训练方式(RLCD),并发布了一种全新的前沿 AI 模型:Jev。 • 快 20-200 倍 • 便宜 40-400 倍 (展开更多)3.6K 13K 69K 34M
基于它构建的浏览器智能体一天内获得了 180 万次浏览。一位开发者统计了他的账单:大约 5000 次请求,花费约两美元,涵盖了分类、模型路由、意图识别和引导。
Michael @MichaelLee04 · 9月16日 我今天早些时候获得了 Jev 的访问权限(感谢 @hackgoofer)。到目前为止,我运行了约 5000 次请求(花费我约 2 美元),涉及分类、模型路由、意图识别、引导等多种任务。
简而言之,Jev 提供了一种新的智能决策原语,独立于(展开更多) 引用 Diogo Almeida @CompleteSkeptic · 9月16日 在共同发明 ChatGPT 之后,我不断自问:为什么超越人类水平的聊天模型未能导向通用人工智能(AGI)?
过去两年,我秘密研发了一种新的模型训练方式(RLCD),并发布了一种全新的前沿 AI 模型:Jev。 • 快 20-200 倍 • 便宜 40-400 倍 2:56 128 22 13K 491K
我并非这些工作流的执行者。我只是将研究指向社区,并对人们实际发布的内容进行了排名。在 31 个具有明确来源和真实数据的工作流候选者中,以下 9 个值得借鉴,每个都附有可复制的实操方案。
🧠 机制,六十秒速览
你输入应用状态和一个类型化的问题,它返回一个带有概率的类型化决策。无需 JSON 提示,无需解析层,无需验证。
只有三种问题类型,这就是全部:Choice 从最多 255 个选项中选择一个,Score 将某物置于一个量表上,Noul 以 0 到 1 之间的数字回答“是”或“否”。每个答案都包含 probabilities(概率)和 confidence(置信度)分数。单次调用中询问关于同一状态的二十个问题,它们会并行评估,因此二十个问题的成本约等于一个问题。输入成本为每百万令牌 0.042 美元。输出免费。
社区与我的推文形成了相同的框架,且传播更广:大型语言模型生成答案,Jev 做出决策,2278 个赞。
我的标题数字附有脚注。TypeSafe 将响应时间定为 70 至 500 毫秒,比前沿模型快 40 至 200 倍。其官网展示的确切配对来自他们自身的工作流评估:快 193.6 倍,成本低 444.6 倍。其基准比较对象很重要:
所以,这是他们的主页,首先展示的是与 GPT-5 X Terra(OpenAI 的一个中档模型)的并排对比。
- Nimrod,YouTube,13,747 次浏览
这个名字并非引用卡尼曼,尽管其模型类别被称为 System One(系统一)。
Jev 这个名字的真正由来,并非卡尼曼,而是一位 19 世纪的经济学家 William Stanley Jevons(威廉·斯坦利·杰文斯)。
- Dots and Arrows,YouTube,14,597 次浏览
杰文斯悖论:让资源变得更便宜,人们反而会消费更多。用此命名你的决策模型,本身就是一种宣言。
这也是个梗。Rob Shocks 在他那条 231,655 次浏览的解析视频中剪入了一个“My name is Jeff”的片段,而最高赞评论(142 个赞)就是“My name is Jev 把我笑死了”。Diogo 本人也亲自回应了这些玩笑(129 个赞)。
1. 🌐 浏览器智能体:7 秒找到航班,仅需 0.0039 美元
它是什么。 一个微小的开源浏览器智能体,由 Jev 选择下一次点击,仅在需要输入时才唤醒一个小型语言模型。
谁在运行它。 Gregor Zunic,Browser Use 的创始人。7.2K 赞,1.8M 次浏览,7.6K 收藏。他在帖子中注明视频以 1 倍速播放。
Gregor Zunic @gregpr07 · 9月17日 重磅:Browser Use + Jev = 超快 ⚡
查找航班仅需 7 秒,成本仅 0.0039 美元 🤯
每一步都是新的动作空间 DOM 状态空间 小型语言模型回退处理输入 (顺便说一句,这个视频是 1 倍速) 构建了一个微小的开源浏览器智能体。点击下方尝试 ↓ 24 28 40 8.2K 2.4M
为何入选。 它是任何人用该模型构建的最受关注的作品,也是最清晰地展示了这种屡试不爽的模式的示例:每一步都是新的动作空间,DOM 作为状态,Jev 在候选者中进行选择,生成仅作为回退。LangChain 自身的撰文提到,Kyle Jeong(Browserbase)也在用同样的方式,成本低至几分之一美分。
实操方案就是这个代码库:browser-use/jev-ultrafast。在自己动手之前,先克隆它。
2. 🧹 即时压缩:对每个工具调用评分并丢弃无用部分
它是什么。 用一次 Jev 扫描取代每个编码智能体在上下文上限时运行的摘要提示,这次扫描会对每个工具调用的相关性进行评分,并删除无效内容。
谁在运行它。 Tamara Tran 提出了问题并在当天下午就发布了答案。5K 赞,554.4K 次浏览。
tamara @tamarajtran · 21 小时前 找到了 @typesafeai Jev 的完美用例: 即时压缩 在 2026 年,为什么压缩仍然是一个摘要提示? Jev 可以通过为每个工具调用评分并丢弃无关内容来实现即时压缩 33 97 98 9.1K 2.6M
Alex Volkov 将其作为 Claude 插件运行并公布了数据:1 秒内将会话从近 100 万令牌压缩到 86K。1.9K 赞,3.5K 收藏。
Alex Volkov @altryne · 18 小时前 这太疯狂了。这使用了 @typesafeai Jev 模型作为 Claude 的插件,来审查所有不必要的工具调用,运行只需 1 秒! 真的,1 秒就能将我的 Claude 会话从近 100 万压缩到… 86K 令牌!😮 让你的 Claude 安装并配置(展开更多) 引用 tamara @tamarajtran · 21 小时前 0:05 找到了 @typesafeai Jev 的完美用例: 即时压缩 在 2026 年,为什么压缩仍然是一个摘要提示? Jev 可以通过为每个工具调用评分并丢弃无关内容来实现即时压缩 12 94 21 6.9K 902K
为何入选。 因为 Diogo 的回复揭示了它的未来方向。304 个赞。
Diogo Almeida @CompleteSkeptic · 21 小时前 回复 @tamarajtran 和 @typesafeai 是的!将编码智能体从围绕 KV 缓存进行设计中解放出来 56 50 79 6K
如果一个工具能在 1 秒内完成评分和丢弃,而不是进行摘要,那么上下文窗口就不再是你需要绕开设计的限制了。这是一个潜力股。Browser Use 在视频中更炫酷;而压缩是每个编码智能体用户今天都能感受到的实用改进。
将以下内容粘贴到 Claude Code 中,这是 Alex 的确切安装命令:
安装并配置:https://github.com/tamaratran/fast-jev-compaction
3. 🛡️ 安全审查员,从工具链中解耦
它是什么。 每个编码工具链都运行一个分类器,在自动模式执行前询问“这个命令应该执行吗?”。直到本周,这个分类器还是产品封闭部分的一部分。
谁在运行它。 Vercel,在生产环境中。Guillermo Rauch:fx 的默认模式是自动,带有一个分析每个命令的安全审查员,而 Jev 在 p95 比率上比当前运行的模型快达 18 倍且更准确。3.7K 赞,392.4K 次浏览。
Guillermo Rauch @rauchg · 9月17日
我们从 @typesafeai 看到了非凡的结果。fx 的默认模式是自动,带有一个分析每个命令的安全审查员。
那个审查员目前运行在 GPT Luna 上。Jev 在 p95 上快达 18 倍 并且 更准确。它将被整合到 @vercel AI Gateway 中,并可能成为新的默认选项。
引用 Pranit @fazxes · 9月17日
我们用 @typesafeai 的 Jev 对 fx 自动模式(安全)分类器进行了基准测试。
简而言之:比我们当前的首选 gpt-5.6-luna 快约 5-18 倍且更准确
13 62 17 3.9K 412K
为何入选。 因为这是一个带有 p95 数据的生产迁移案例,并且 LangChain 在第二天就发布了开源版本 AutoModeMiddleware。Rob Shocks 那条 231,655 次浏览、3,526 个赞的解析视频,适合发给想在十分钟内了解整个故事的同事。
LangChain 版本的原文代码:
from langchain.agents import create_agent
from langchain_typesafe.experimental.middleware import (
AutoModeMiddleware,
)
guardrail = AutoModeMiddleware(tools=["bash"])
agent = create_agent("openai:gpt-5.6-luna", middleware=[guardrail])
4. 🚦 模型路由作为中间件,而非系统提示
它是什么。 将 Jev 置于你的模型集群之前,让它为每个请求选择由哪个模型处理,并将概率保留在智能体状态中以便审计选择。
谁在运行它。 LangChain,在 Sydney Runkle 的《使用 Jev 构建工具链》中。232 赞,31.1K 次浏览,是已发布的最清晰的实操指南。
Sydney Runkle @sydneyrunkle · 17 小时前 文章:使用 Jev 构建工具链 智能体在循环中运行:一个 LLM 决定做什么,一个工具执行,一个模型评估结果,然后继续这个循环,直到任务完成。 智能体和 LLM 最初很难…(展开更多)52 28 22.2K 459K
为何入选。 模型路由是整个语料库中最常被提及的 Jev 用途;它是本文开头那篇“5000 次请求花费 2 美元”帖子中提到的五种工作负载之一。LangChain 将它从一个系统提示中的段落,变成了你可阅读的 11 行代码。
from langchain.agents import create_agent
from langchain_typesafe.experimental.middleware import (
ModelChoice,
ModelRouterMiddleware,
)
router = ModelRouterMiddleware(
choices={
"fast": ModelChoice(
model="openai:luna",
criteria="直接查询、提取和局部修改。",
),
"powerful": ModelChoice(
model="openai:sol",
criteria="架构和高风险决策。",
),
},
instructions="选择能够完成任务的最经济模型。",
)
agent = create_agent("openai:gpt-5.6-luna", middleware=[router])
使用 pip install langchain-typesafe 安装,并设置 TYPESAFE_API_KEY。
5. 🔎 RAG 精度提升:正常检索,然后删除无关内容
它是什么。 保持你的检索器原样。对它返回的每个文本块用 Jev 提出一个是非问题,然后删除未通过的文本块。
谁在运行它。 Kush Bhuwalka 用一句话概括:在所有检索到的文本块上运行 Jev 并删除无关内容。416 赞。
Kush @kushbhuwalka · 19 小时前 有人意识到 @typesafeai jev 解决了 RAG 中的精度问题吗? 你可以在所有检索到的文本块上运行 jev 并删除无关内容。 5 9 6 9 1.6K 94K
为何入选。 精度一直是 RAG 中未解决的一半,因为修复方案总是需要对每个文本块进行另一次 LLM 调用,这在检索时成本高昂。在输出令牌免费且延迟低于一秒的情况下,逐块判断的成本甚至低于产生该块的向量检索。这是我根据文档 API 编写的、与 Kush 描述一致的示例:
from typesafe_sdk import Noul, TypeSafeClient
client = TypeSafeClient()
kept = []
for chunk in retrieved_chunks:
verdict = client.system_one(
state={"question": user_question, "chunk": chunk.text},
questions={
"relevant": Noul(
instructions="该文本块包含回答问题所需的信息",
),
},
)
if verdict.answers["relevant"].noul > 0.5:
kept.append(chunk)
6. 🎮 实时循环:Minecraft、Doom 和读心启动器
它是什么。 在每秒运行多次的循环内做出决策,这是前沿模型完全无法参与的。
谁在运行它。 Wuyang Zhou 让 Jev 和 GPT-6 Astra 一起玩 Minecraft,Jev 负责快速反应,Astra 负责提前规划,同时对抗多个僵尸。374 赞,51.4K 次浏览。
Wuyang Zhou @wuyang_zhou · 19 小时前 我让 Jev 和 GPT-6 Astra 通过我的智能体系统实时玩 Minecraft。 他们甚至能同时对抗多个僵尸 🤯🤯🤯 Jev 做快速决策,而 Astra 提前规划。 设置见评论区。5 77 11.2K 139K
Nader Dabit 构建了一个按键预测神器:输入“我刚下载的 pdf”,最新的 PDF 就会在每次按键时都成为首选项,且置信度为 100%,耗时约 100 毫秒。264 赞。
为何入选。 TypeSafe 自身的演示就是 Doom,模型被要求每秒决策约十次。两位独立的解说者计算出了这个循环的相同成本:
Jev 以每秒约 10 次决策的速度实时运行,计算下来大约是每小时 7 美元。
- AI WITH Rithesh,YouTube,19,904 次浏览
每秒十次决策,每小时七美元,这使它与 LLM 属于不同的类别。而 Minecraft 的分工——快速模型反应,慢速模型规划——是本列表中所有实时应用共享的模式。
7. 📬 批量规模下的邮件分类
它是什么。 将 Jev 指向邮箱导出文件,并让它并行对每封邮件进行排序、评分和标记。
谁在运行它。 YouTube 上的 vogel 频道(60,996 次浏览,526 赞)用 8 个 worker,以 100 封为一批,处理了 1500 封导出邮件。LangChain 的撰文将 Ryan Vogel 列为它关注的三个项目之一。Syntax(33,933 次浏览,1,052 赞)构建了相同的东西,外加一个从问题到 API 调用仅需 300 毫秒的家庭自动化演示。
为何入选。 它是整个语料库中被复制最多的演示,而吞吐量的计算正是关键。
我们这里的余额只有 5 美元,这正说明了这个模型有多便宜。
- vogel,YouTube,60,996 次浏览
这是 TypeSafe 自身的快速入门指南原文,它本身就是一个邮件分类流水线:
pip install typesafe-sdk
from typesafe_sdk import Choice, Noul, Score, TypeSafeClient
client = TypeSafeClient()
response = client.system_one(
state="嗨,我已经尝试连接我的 Stripe 账户 3 天了,但一直失败。我正在损失销售额。请尽快帮忙。",
questions={
"department": Choice(
instructions="应由哪个团队处理",
criteria={
"billing": "支付或订阅问题",
"technical": "漏洞或集成问题",
"sales": "定价或账户问题",
},
),
"frustration": Score(
instructions="客户表现出的沮丧程度",
criteria=[
"冷静,只是陈述事实",
"沮丧但仍有礼貌",
"非常愤怒,用词激烈",
],
),
"is_urgent": Noul(
instructions="该信息传达了紧迫性或时间敏感性",
),
},
)
print(response.answers["department"].choice)
print(response.answers["frustration"].score)
print(response.answers["is_urgent"].noul)
8. 🗂️ 文档的地图-归约处理:777 个判断,只需四分之一美分
它是什么。 一组问题,所有文档,一次性全部处理。这是用前沿模型在经济上不可能实现,用传统分类器则效果平庸的工作负载。
谁在运行它。 Every 的评估主管 Mike Taylor,进行了最干净的测试:他自己的 27 篇文章加上 10 篇 AI 风格的对应文章,每篇 21 个问题,全部在一次请求中完成。777 个判断在 0.7 秒内完成,成本约四分之一美分。
相似文章
@sydneyrunkle: https://x.com/sydneyrunkle/status/2100754364545761643
TypeSafe AI 发布了 Jev,这是一个 System One 模型,用于代理循环中的快速结构化决策,与传统 LLMs 相比,在分类任务中提供高达 200 倍更快的推理和 400 倍更低的成本。
@0xMovez 的推文:https://x.com/0xMovez/status/2101007482919227841
本文提供了一个十步指南,教你如何使用TypeSafe AI的System One模型Jev来构建最快的AI代理大脑,与LLMs相比,它能提供更快且更便宜的决策。
@0xCodila: Jev是人工智能行业的'互联网时刻' 它能在毫秒级别告诉你代理和LLMs的下一步,以...的成本
Jev被呈现为一种变革性的AI工具,它能优化代理和LLMs的决策,显著降低成本并提高效率,并提供逐步设置路线图。
来自 TypeSafe.ai 的 Jev 在 X 上备受关注。有很多有趣的应用案例。它不是大语言模型,而是一个超级快速、低成本的决策引擎,具有 Luna 级别的智能。
来自 TypeSafe.ai 的 Jev 是一个快速且低成本的决策引擎,在对齐监控任务中显著优于其他解决方案,提供了极佳的性价比。
@levie:令人难以置信的是,仍有整个宇宙的AI创新存在,甚至不在我们大多数人的……
一款名为Jev的新前沿AI模型被宣布,处理速度提升20-200倍,能力显著提高,突显了其在企业代理工作流中的潜力。