@0xMovez 的推文:https://x.com/0xMovez/status/2101007482919227841
摘要
本文提供了一个十步指南,教你如何使用TypeSafe AI的System One模型Jev来构建最快的AI代理大脑,与LLMs相比,它能提供更快且更便宜的决策。
查看缓存全文
缓存时间: 2026/09/19 00:50
Jev 工程:如何用 10 步构建最快的 AI Agent 决策大脑(完整设置)
你构建的每个 Agent 都面临同样的问题:一个每次调用成本 0.03 美元的大语言模型,却陷入循环,回答是非题、选择下一个执行单元、评估相关性。
这些决策不需要生成内容。它们需要一个专为决策而生的模型。
这套 10 步设置将为你的 Agent 配备一个专用的决策大脑。安装一次。然后衡量它。接着替换所有昂贵的分叉路径。
杰文斯悖论是 1865 年提出的一条定律:当蒸汽机更高效地使用煤炭时,总煤炭消耗量不降反升。
关注我的 Substack 获取最新 AI 动态:movez.substack.com
这正是 AI 领域的全球性难题。Token 成本每个季度都在下降。使用量却呈爆炸式增长。账单总额却保持不变甚至增长。由 @typesafeai 开发的 Jev 就是为了打破这一循环。
它是一个系统一模型:你发送状态和预定义问题,它返回带概率的类型化答案。没有文本生成。没有聊天。没有自回归循环。
它只做一件事:决策。而且它比大语言模型执行相同任务快 200 倍、便宜 400 倍。
01. 拆分 - 找出决策点,而非文本
Jev 是 TypeSafe AI 的系统一模型。你提供信息和预定义问题,它返回带概率的类型化答案。它无法撰写简报、生成代码或用文字解释其推理过程。
从这样的任务开始:
python 研究三种新的 AI Agent 工具并起草明天的简报。保存草稿供我审阅。
这个任务包含几个决策点:我们是否有足够的信息源?下一个执行单元是哪个?草稿是否准备好审阅?
这些就是 Jev 的候选应用场景。获取信息源、撰写段落、保存文件这些操作仍然属于你的工具和生成模型。像“执行十个动作后停止”这样的明确规则应写在代码里。
拆分很简单:如果操作是创建文本,就留给大语言模型;如果操作是从列表中选择选项、为某个值打分或回答是/否,就交给 Jev。
02. 演练场 - 编码前先测试单个问题
打开 TypeSafe 演练场。如果需要,登录并完成账户的访问流程。
将此作为你的状态添加一个问题:“下一个执行单元应该是什么?”
python { “goal”: “在晨间简报中比较三个 AI Agent 工具。”, “completed_work”: “尚未收集信息源。”, “available_workers”: [“研究员”, “文稿撰写者”], “constraint”: “保存草稿供审阅,不要发布。” }
定义三个选项:
- research 用于收集缺失的证据,
- write 用于在证据充足时起草内容,
- review 用于请求不明确或工作已完成时。
运行它。然后用实际的研究笔记替换“已完成工作”字段,并比较决策结果。这是官方快速入门指南中描述的基本交互方式。
03. SDK - 安装并连接 API
你需要一个启用了 API 访问权限的 TypeSafe 账户,以及来自密钥设置的密钥。API 调用费用将计入该账户。
安装 Python 3.12 或更新版本,然后打开终端。
python$ mkdir jev-starter $ cd jev-starter $ python3 -m venv .venv $ .venv/bin/python -m pip install –upgrade typesafe-sdk
python> mkdir jev-starter
cd jev-starter py -3 -m venv .venv ..venv\Scripts\python.exe -m pip install –upgrade typesafe-sdk
安装 Node.js/npm 后,添加 TypeSafe 的官方技能包:
python npx skills add typesafe-ai/skills –skill typesafe-ai
提示时选择你支持的 Agent。该技能包会提供集成指令。Jev 本身通过 API 运行。
04. 任务移交 - 将决策保存为本地 JSON 队列
在 jev-starter 目录内、.venv 目录外创建 chief.py。这是一个独立的决策路由器:输入一个任务,让 Jev 选择目标队列,将任务移交流程保存在你的电脑上。
python import json import os from getpass import getpass from pathlib import Path from uuid import uuid4 from typesafe_sdk import Choice, TypeSafeAPIError, TypeSafeClient
if not os.environ.get(“TYPESAFE_API_KEY”): os.environ[“TYPESAFE_API_KEY”] = getpass(“TypeSafe API key: “).strip()
goal = input(“Goal: “).strip() if not goal: raise SystemExit(“Enter a goal.”) notes = input(“Completed work: “).strip() or “Nothing yet.” state = {“goal”: goal, “completed_work”: notes}
try: with TypeSafeClient(model=“jev-1.13.0”) as client: result = client.system_one( state=state, questions={ “next_worker”: Choice( instructions=“Choose the next step for a research briefing.”, criteria={ “research”: “Collect evidence still needed for the goal.”, “write”: “Draft the briefing from sufficient evidence.”, “review”: “Goal unclear, outside scope, or work complete.”, }, ) }, ) except TypeSafeAPIError as error: raise SystemExit(f“API error {error.status}; see Step 8.“)
answer = result.choices[“next_worker”] destination = “review” if answer.choice in {“research”, “write”} and answer.confidence >= 0.85: destination = answer.choice
folder = Path(file).resolve().parent / “queue” / destination folder.mkdir(parents=True, exist_ok=True) job = folder / f“{uuid4().hex}.json“ payload = dict(state, choice=answer.choice, confidence=answer.confidence, destination=destination, status=“queued”) job.write_text(json.dumps(payload, indent=2, ensure_ascii=False), encoding=“utf-8”) print(“Saved handoff:”, job)
python $ .venv/bin/python chief.py TypeSafe API key: •••••••••• Goal: Compare three AI-agent tools for tomorrow’s briefing Completed work: No sources collected yet Saved handoff: /Users/you/jev-starter/queue/research/a3f8…json
打开那个 JSON 文件。它包含你的请求、进度、Jev 的选择、置信度和目标队列。每次运行都会在 queue/research、queue/write 或 queue/review 下创建一个新文件。
这些是本地任务队列。保存的任务会等待执行单元来消费它。
置信度阈值设为 0.85。你可以使用工作流中的标注示例来调整它。置信度不是准确率百分比。
05. 问题类型 - 选择、打分和是非判断
Jev 提供三种问题类型,每种都为特定类型的决策而设计:
一个有用细节:Jev 看不到你的问题 ID。将字段命名为 safe_to_publish 并不会提供任何指令。请将实际要求放在问题中,并清晰地描述每个选项。
同时要提供证据。“研究员完成了”告诉 Jev 的信息量远少于提供信息源、发现和剩余差距。将这些字段与原始请求分开。
系统一模型会并行评估请求中的每个问题。添加问题几乎不会改变响应时间,成本仅增加为额外问题支付的 token 费用。
06. 动态菜单 - 每次交互时重建选项
浏览器的可用操作在每次点击后都会变化。Browser Use 构建一个包含当前观测到的控件的新列表,并让 Jev 从中选择。只有当输入字段需要填写时,才使用小型大语言模型生成文本。
GIF
将此设计应用于你的幕僚长角色。从当前存在且可用的执行单元中构建选项。选择研究材料时,包含当前的信息源 ID。
工具改变状态后刷新选项。否则你的决策模型将从昨天的菜单中选择。
07. 并行处理 - 一次调用中批量处理问题
你的调度器可能需要一个执行单元、一个紧急程度评分和一个审批检查。如果三者都能检查相同的状态,就将它们一起发送。
TypeSafe 支持并行问题和投机分支:询问可能的下一步行动,然后仅使用与所选分支相关的答案。
问题之间不能读取彼此的答案。如果某个决策需要最新的搜索结果,请先执行搜索。
python result = client.system_one( state=state, questions={ “next_worker”: Choice( instructions=“Choose the next step.”, criteria={…} ), “urgency”: Score( instructions=“Rate request urgency.”, labels=[“low”, “medium”, “high”, “critical”] ), “safe_to_run”: Noul( instructions=“The requested action is safe to execute without human review.” ), }, )
Browser Use 示例揭示了另一个瓶颈。其优化运行时将浏览器协议的中位调用次数从 1,092 次减少到 101 次,同时在三组匹配对测试中,中位任务时间缩短了 25%。两个版本使用的是相同的模型。
更改包括一次性读取页面状态,以及避免对无关动画进行新的预测。在考虑使用更快的模型之前,先检查重复的工具调用。
08. 安全护栏 - 设置限制和停止条件
对于晨间简报,允许收集信息源和创建草稿,然后在审阅环节停止。发布应该需要单独的权限检查。
应用程序还需要一个操作限制、一个花费限制和保存的进度。中断后,在重复任何操作之前,它应该检查最后完成的动作。一个自信的答案无法证明文件已保存或消息已发送。
Browser Use 在 Jev 选择 DONE 后独立检查结果。为你的完成检查借鉴这种分离机制。
python AGENT HANDOFF BRIEF
阅读 TypeSafe 技能并检查我的执行单元接口。将 chief.py 的 JSON 队列连接到现有的研究和写作处理程序。
防止重复处理。每次操作后保存进度。添加调用和花费限制,在不确定时进行审阅,并设置草稿存在完成检查。将发布置于审批之后。明确识别缺失的连接器。
如果入门脚本运行失败,使用错误信息来选择修复方案:
深入探讨 // JEV 模型接入框架
Agent 在一个循环中运行:大语言模型决定做什么,工具执行,模型评估结果,循环继续直到任务完成。两个原语使这变得更容易:用于结构化请求的工具调用和用于结构化结果的结构化输出。
但即使有了这些,循环中的每个决策仍然需要一次完整的模型调用。
这就是为什么模型接入框架比模型本身更重要。
模型接入框架是在同一个模型上实现 78% 与 42% 性能差异的关键。相同的权重。不同的循环工程。模型接入框架决定了性能。
像 Claude Code、Codex 和 Cursor 这样的编码接入框架已经提供了一些方法,在危险操作执行前对其进行分类。
这种分类步骤逐渐帮助建立了人们对 Agent 的信任。直到现在,它一直被锁在接入框架的闭源部分中。
现在既然有了一个既便宜又高效的分类模型,你可以采用相同的模式,并将其应用到所有 Agent。
相同的模型。相同的工具。不同的接入框架。不同的结果。
LangChain 的 AutoModeMiddleware 使用 Jev 在工具执行前检查每个工具调用是否存在风险决策。一行中间件代码。零生成 token 用于安全检查。
python from langchain.agents import create_agent from langchain_typesafe.experimental.middleware import ( AutoModeMiddleware, )
Jev 在执行前检查每个工具调用
阻止高风险操作,批准安全操作
guardrail = AutoModeMiddleware(tools=[“bash”])
agent = create_agent(“openai:gpt-5.6-luna”, middleware=[guardrail])
接入框架为你提供了两层 Jev。顶部的模型路由器选择能处理请求的最便宜模型。底部的自动模式门在危险工具调用执行前阻止它们。
两层都不生成文本。两层都不会增加你能感知到的延迟。两者都运行在相同的每百万 token 0.042 美元的定价上。
09. 成本 - 每百万 token 0.042 美元能买到什么
Jev 1.13 的输入 token 成本为每百万 0.042 美元,输出 token 不收费。假设每次决策消耗 1000 个计费输入 token,那么 10,000 次决策仅需为 Jev 推理支付 0.42 美元。
航班演示中报告的 0.0039 美元包含了其记录的 90,558 个 Jev 输入 token 加上文本辅助工具的报告费用。浏览器成本不在此计算范围内。其大约 7 秒的计时是从初始页面观察之后开始的,不包括运行后新的验证时间。
它能找到航班结果。但它不预订机票。
对于不同的工作负载,Vercel 的 fx 团队报告称,其安全分类速度比 GPT-5.6-Luna 快约 5-18 倍,同时准确度也有所提高。
该比较针对的是分类器,而非整个 Agent 运行的时长。
Diogo Almeida @CompleteSkeptic · 9月16日 回复 @CompleteSkeptic 我们相信未来是代码+AI,因此创建了工作流评估来反映这一点
Jev 成本:每十亿输入 token 42 美元(0.042 美元/百万 token),输出 token 永久免费(它们太便宜了,我们的新架构无需计量)
Jev 命名源于杰文斯悖论,并基于…更多内容 402 143.5K 758K
跟踪每个完成任务的花费。一个廉价的决策如果将执行单元送入错误分支,其成本可能超过决策本身。
10. 部署 - 五个生产用例
完成基本设置后,Jev 已经能够读取任务状态并在预定义选项之间做出选择。现在你只需决定要自动化哪个重复性决策。
01. 控制浏览器
Browser Use 使用 Jev 选择下一个动作和正确的页面元素。该 Agent 在 7 秒内找到航班,仅花费 0.0039 美元。
Gregor Zunic @gregpr07 · 9月17日 突发新闻:Browser Use + Jev = 超快速度 ⚡
查找航班耗时 7 秒,仅花费 0.0039 美元 🤯
每一步都有新的动作空间 DOM 状态空间 使用小型大语言模型进行回退输入
(顺便说一下,这段视频是 1 倍速播放的) 构建了一个小型开源浏览器 Agent。在下方试用 ↓ 251 863 8.4K 2.6M
如何复现: 运行官方 Browser Use 项目,添加你的 TypeSafe 和 OpenRouter 密钥,然后给 Agent 一个网站和目标。Jev 选择动作和目标元素,浏览器执行决策。
02. 研究分类:
Hassan 使用 Jev 对 1,018 篇 AI 研究论文进行了分类。整个分类过程仅花费 0.08 美元,每篇论文的端到端中位延迟为 256 毫秒。
Hassan @nutlope · 9月17日 Jev + Kimi K3 用于欺诈检测!
摘要:Jev 在 1.42 秒内分类了 100 封邮件,然后我将不确定的案例路由给 Kimi K3。整个流程正确了 96/100,总花费仅约 0.07 美元。 视频未加速,查看实时运行过程! 这是我的流程: 我给了 Jev 100 封邮件…更多内容 59 598 4 553K
如何复现: 将每篇论文的标题和摘要发送给 Jev,然后将你的主题定义为 Choice 选项。保存选择的类别,并将最相关的论文发送给你的写作 Agent。
03. 处理收件箱:
Riley Brown 演示了 Jev 如何对传入邮件进行分类并决定下一步操作。500 封邮件分类仅花费 3.5 美分。
Riley Brown @rileybrown · 9月17日 是的,@typesafeai 的 Jev 非常酷。它在几秒内分类了 500 封邮件。花费仅 3.5 美分。117 138 3.8K 246K
如何复现: 将每封邮件作为状态传入,然后将回复、研究、等待和审阅添加为 Choice 选项。将每个答案连接到对应的文件夹或邮件 Agent。
04. 模型间任务路由:
LangChain 使用 Jev 根据任务在更便宜和更强大的模型之间选择。简单任务交给快速模型,复杂任务交给推理模型。
python from langchain.agents import create_agent from langchain_typesafe.experimental.middleware import ( ModelChoice, ModelRouterMiddleware, )
router = ModelRouterMiddleware( choices={ “fast”: ModelChoice( model=“openai:luna”, criteria=“Direct lookups, extraction, localized changes.”, ), “powerful”: ModelChoice( model=“openai:sol”, criteria=“Architecture and high-stakes decisions.”, ), }, instructions=“Choose the least costly model that can complete the task.”, )
agent = create_agent(“openai:gpt-5.6-luna”, middleware=[router])
05. 即时上下文压缩
Tamara 找到了完美的用例:即时压缩。在 2026 年,为什么压缩还是用摘要提示?Jev 可以通过对每次工具调用打分并丢弃无关内容来实现即时压缩。
tamara @tamarajtran · 9月
相似文章
@sydneyrunkle: https://x.com/sydneyrunkle/status/2100754364545761643
TypeSafe AI 发布了 Jev,这是一个 System One 模型,用于代理循环中的快速结构化决策,与传统 LLMs 相比,在分类任务中提供高达 200 倍更快的推理和 400 倍更低的成本。
@noisyb0y1: https://x.com/noisyb0y1/status/2102309802072272956
Jev 是 TypeSafe AI 推出的一款新型 AI 模型,专为快速、低成本的决策而优化,在速度和成本方面相比传统 AI 模型有显著提升。
体验Jev——一种有趣的AI代理方法
作者讨论了尝试使用Jev,这是一种专注于决策的AI代理工具,与使用大型语言模型处理所有任务相比,它声称在速度和成本上有显著优势。
@Saccc_c:我强烈推荐大家亲自尝试 Jev——它能将您的 Codex 操作速度提升10倍,并节省大量……
TypeSafe AI 推出 Jev,这是一款针对自动化优化的 System One Model,决策速度比传统 LLMs 快193.6倍,成本低444.6倍,并提供类型化输出和置信度估计。
@0xCodila: Jev是人工智能行业的'互联网时刻' 它能在毫秒级别告诉你代理和LLMs的下一步,以...的成本
Jev被呈现为一种变革性的AI工具,它能优化代理和LLMs的决策,显著降低成本并提高效率,并提供逐步设置路线图。