新的 system 1.5 模型在所有 4 个基线上都大幅超越 JEV,并且在图像 JEV 基准测试中排名第一(没错,它是多模态的)
摘要
新款模型 Wity-1 是一个推理决策模型,定位介于 Jev 这类非推理决策模型与完全推理的 LLM 之间。据称它在全部 4 项基准测试中击败了 Jev,并在 Image Jev Bench 上排名第一,同时支持多模态。它只进行"刚刚好"的推理——直到内部 LLM 概率表明答案已经得出。
**Wity-1** 是一个推理决策模型。与 **JEV** 这类不做推理的决策模型不同,也不同于进行完全推理的普通大语言模型,**Wity-1** 处于两者之间:我们只进行**恰到好处**的推理,直到大语言模型内部的概率分布表明答案已经产生为止。
相似文章
超越Jev:更快、更准、多模态能力提升 [P]
Intern-Decision 多模态模型家族(0.8B、2B、4B)已发布,其中4B模型在决策任务中超越Jev 1.13.0,支持快速本地部署,并在概率问题上改进了校准。
Jev introduces a new shape of LLM - System One, aka Decision Models
Jev是由TypeSafe AI推出的一款新型AI模型,归类为System One或决策模型,其输出浮点数用于垃圾邮件检测、排名等分类任务,并具有竞争力的定价。
Jeeves:推理改进类Jev决策模型
Jeeves是一个9B参数的推理增强类Jev决策模型,采用扩散起草器,与先前的模型如Kev和Jev相比,在域外基准测试上实现了更高的准确性。
Jev 之类的决策模型并未胜过 LLM-as-a-judge 或传统分类器
Red Hat Developer 的一篇文章对 TypeSafe AI 的 Jev “System One” 决策模型与基于 LLM-as-a-judge 的护栏以及传统的零样本文本分类器进行了基准测试,结论是:尽管决策模型具备 schema 安全、低延迟和零样本等优势,但它们并没有明确优于这些既有的替代方案。
Show HN: JevBench,一个用于类型化决策模型的可复现基准测试
JevBench v1.3.0 是一个用于Jev类决策模型的可复现基准测试,基于智能性、校准度、速度和成本对52个系统进行评估和排名。