nokia-applied-research/AnyJev：将任意 LLM 转化为 Jev 风格的决策模型
摘要
Nokia Applied Research 开源了 AnyJev 库，可将任意 LLM 转化为 Jev 风格的决策模型，通过旋转预算（rotating budget）和闭式头（closed-form head）拟合实现无微调的概率校准输出，大幅降低 order-flip 率并提升自动决策比例。
查看缓存全文
缓存时间: 2026/10/05 21:32
Jiamu Zhang1 Tianze Yang1 Yucheng Shi2 Liang Wu1
1 Nokia, Sunnyvale, CA 2 Tencent Hunyuan
来自 Qwen3-8B 处理真实 BANKING77 样本的结果。所有数字均为模型输出。
Jev mode · 2048 与 Minesweeper · NanoJev 迷宫 · L0 何时有效 · 小模型 · 研究日志（含负面结果）
相似文章
LLM-as-Jev：LLM 本身就是 Jev 式决策模型——何时以及如何对其进行微调
论文提出了 LLM-as-Jev，一种保留原有架构的框架，可从 LLM 的下一词元概率中提取经过校准的决策分布，并表明现代 LLM 本身就是有效的 Jev 式决策模型：微调在较弱模型和特定任务上能带来针对性的提升，而 KL 锚定则可防止对话生成性能退化。
@NFT_Chen: 太棒了！立即通过本地化决策引擎将任何LLM转换为Jev模型！LLM2Jev带来Jev的统一Ch…
LLM2Jev是一个开源工具，它将本地HuggingFace模型适配为使用Choice、Score和Noul框架执行结构化决策，提供仅预填充推理，并与Transformers和SGLang集成。
@omarsar0：推荐一篇关于将 Jev 等决策模型集成到 harness 中的论文。
一篇推荐论文，提出将 Jev 等决策模型集成到 agent harness 中，通过蒸馏得到一个 4B 开源决策模型，在 JevAgentHarness 内超越 Jev 本体且成本更低。
@akshay_pachaar：我刚把 Jev 嵌入了一个开源 agent 框架。（决策成本比 LLM 低 150 倍）Agent 们在决策上烧掉大量 token，而这些决策其实只是从简短列表中选一个……
作者将 Jev 决策模型集成到开源 agent 框架 TrueForge 中，实现比让 LLM 做全部决策低 150 倍成本的结构化选择，并结合 Claude Opus 复核低置信度结果，保持同等准确率。
JevAgentHarness：对与大语言模型共享控制权的决策模型进行基准测试、部署与训练
JevAgentHarness 论文提出将智能体的工具选择委托给小型决策模型，通过拟合置信度阈值，在降低成本和延迟的同时保持任务成功率，并发布了 AgentDecisionBench 基准和 AgentDecision-4B 开源模型。