论文页面 - LLM-as-Jev：LLM 本身已是 Jev 式决策模型——何时以及如何对其进行微调

来源：https://huggingface.co/papers/2610.02076

摘要

Jev 式决策模型会在预定义选项上返回类别概率分布，而不生成自由文本，从而让软件系统可以直接对其输出做出响应。在本工作中，我们研究了通用 LLM 在开箱即用的情况下在多大程度上已经具备这一能力，以及微调在何时才是真正必要的。我们提出 LLM-as-Jev，这是一个保留架构的框架，它直接从带方括号的数字标识符上的下一 token 概率中提取经过校准的决策。LLM-as-Jev 同时提供一种免训练的推理方法和一个微调目标：前者通过树分解的列表式损失来优化候选选择，后者则利用 KL 散度惩罚将辅助预测锚定在基础模型上。在 Qwen3.5-4B 和 Qwen3-0.6B 上进行评估后，我们发现现代 LLM 天然就是有效的决策模型：在不做任何训练的情况下，4B 模型就能匹敌基于同一骨干构建的社区 Jev 式模型，性能优于字母 logit 读出方式，支持任意数量的选项，并且原生支持基于图像的多模态决策。微调带来的收益是针对特定场景的，而非普适的——它能显著提升较弱的模型和特定任务（例如多选项意图路由）的表现，但对于强劲的骨干模型则收益递减。至关重要的是，我们的 KL 锚定机制能够防止对话式文本生成能力退化，而在能力较强的模型上，LoRA 取得了最优的性能表现。

查看 arXiv 页面 (https://arxiv.org/abs/2610.02076) 查看 PDF (https://arxiv.org/pdf/2610.02076) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.02076)

在你的 agent 中获取这篇论文：

hf papers read 2610.02076

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型：0

没有模型与该论文关联

在模型 README.md 中引用 arxiv.org/abs/2610.02076，即可将此页面与之关联。

引用此论文的数据集：0

没有数据集与该论文关联

在数据集 README.md 中引用 arxiv.org/abs/2610.02076，即可将此页面与之关联。

引用此论文的 Spaces：0

没有 Space 与该论文关联

在 Space README.md 中引用 arxiv.org/abs/2610.02076，即可将此页面与之关联。

包含此论文的合集：0

没有合集包含此论文

将此论文添加到合集 (https://huggingface.co/new-collection) 以将此页面与之关联。