标签
论文提出了 LLM-as-Jev,一种保留原有架构的框架,可从 LLM 的下一词元概率中提取经过校准的决策分布,并表明现代 LLM 本身就是有效的 Jev 式决策模型:微调在较弱模型和特定任务上能带来针对性的提升,而 KL 锚定则可防止对话生成性能退化。
TypeSafe AI 推出 Jev,这是一款针对自动化优化的 System One Model,决策速度比传统 LLMs 快193.6倍,成本低444.6倍,并提供类型化输出和置信度估计。