还在 Jev 等候名单上吗？我托管了 OpenJev，免费使用，快去试试吧！

TypeSafe 在周二宣布了 Jev：你提供数据加类型化问题（是/否、选择一、0–N 刻度），它为每个选项返回概率，速度快得惊人。我注册了然后刷新收件箱，刷了很多次。与此同时，Matt Mastracci 提交了 vLLM PR #57250，这在 DiffusionGemma 上使用单个去噪步骤实现了相同的功能。这个模型基本上是在填写选择题的答题卡。我的“快速一瞥”变成了连续三天的折腾，现在有了 OpenJev：一个提供 Jev API 的开源服务器，只需更改基础 URL 就能让 TypeSafe 的 SDK 工作。如果你还在等待 Jev 的访问权限，今天就可以开始玩了。代码（Apache-2.0 许可证）：https://github.com/razorback16/openjev Docker：razorback16/openjev（vLLM + API 在一个容器中）免费托管 API：https://codiv.ai（每账户 100M token，无需信用卡）你的提示和答案不会被存储，只存储 token 计数以用于配额。它运行在我的 RTX PRO 6000 上，这块卡一夜之间被提升为“生产基础设施”了！它好用吗？Matt 对 Jev 和 DiffusionGemma-as-Jev 进行了实时评估：准确率大致持平（在他 8 个评估集上，198/201 对 Jev 的 191/201），且 DiffusionGemma 在 DGX Spark 上更快。RTX PRO 6000 则不同：模型延迟 Frontier LLMs（TypeSafe 的数据）3–329 秒（喝咖啡时间），Jev（发布）70–500 毫秒端到端，OpenJev 通过 api.codiv.ai 约 170 毫秒 p50 端到端（GPU 上约 73 毫秒）。这是基于未合并的 vLLM PR 的 v0.1 版本。如果 Reddit 把它挤爆了，你会看到 529 错误，那是我的 GPU 在请求稍等。致谢：Matt Mastracci（核心想法和 vLLM 工作是他的），TypeSafe（System One 想法和 API），NVIDIA 和 Google（DiffusionGemma），以及 vLLM 团队。只是 TypeSafe 想法的粉丝，与公司无关。欢迎反馈、报告错误、用例想法，或者你最奇怪的是/否问题！