Jev 中的跨原语一致性

Hugging Face Daily Papers 论文

摘要

该论文介绍了 PrimaCons,这是一个用于评估 Jev 中跨基元一致性的四轴基准,并提出了一种跨基元残差校准器(CPRC)。该校准器将不一致性降低了 58.57%,将准确率提高了 2.97%,同时在预测决策失败时达到 0.91 的 ROC-AUC。

Jev 通过类型化查询原语实现基于大语言模型(LLM)的高效决策,使同一语义状态能够以不同形式表达,例如二元查询和多项选择查询。然而,不同原语之间的决策一致性尚未得到系统评估。本研究提出了 PrimaCons,这是一个四轴基准,用于在保持查询语义不变的前提下评估跨原语一致性。对三种规模的 Jev 进行的评估表明,四个轴上均存在一致性违例。我们的分析显示,这些违例呈现出系统性模式,且跨原语差异能够预测决策失败,ROC-AUC 达到 0.91。为缓解这些不一致性,我们提出了跨原语残差校准器(CPRC),它在冻结的骨干网络上附加一个轻量级残差网络,并联合优化预测准确率与跨原语一致性。在留一域验证协议下,CPRC 将跨原语不一致性降低了 58.57%,并将准确率提高了 2.97%,证明了其在域内和域外场景中的有效性。我们的研究结果确立了跨原语一致性作为评估 Jev 的一个关键维度,并提供了一种提高其决策可靠性的实用方法。代码和基准可在 https://github.com/67L1/PrimaCons-CRPR 获取。
查看原文
查看缓存全文

缓存时间: 2026/11/03 15:36

论文页面 - Jev 中的跨原语一致性

来源:https://huggingface.co/papers/2610.38623 发表于 10 月 28 日

·

提交者:https://huggingface.co/67L11

Xu (https://huggingface.co/67L11)于 11 月 3 日提交

摘要

通过一种残差校准器,对 Jev 的跨原语一致性进行基准评估并加以改进,该校准器能够减少不一致性并提高决策准确率。

Jev 通过类型化查询原语 (https://huggingface.co/papers?q=typed%20querying%20primitives) 实现基于大语言模型 (LLMs) 的高效决策,使同一语义状态能够以不同格式表达,例如二元查询和多项选择查询。然而,不同原语之间的决策一致性尚未得到系统评估。本研究提出了 PrimaCons (https://huggingface.co/papers?q=PrimaCons),这是一个四轴基准,用于在保持查询语义不变的同时评估跨原语一致性 (https://huggingface.co/papers?q=cross-primitive%20consistency)。对三种规模的 Jev 进行评估后发现,所有四个轴上都存在一致性违例。我们的分析表明,这些违例呈现系统性模式,并且跨原语差异能够预测决策失败,其 ROC-AUC (https://huggingface.co/papers?q=ROC-AUC) 达到 0.91。为缓解这些不一致性,我们提出了跨原语残差校准器 (https://huggingface.co/papers?q=Cross-Primitive%20Residual%20Calibrator) (CPRC),它在冻结的骨干网络 (https://huggingface.co/papers?q=frozen%20backbone) 上附加一个轻量级残差网络 (https://huggingface.co/papers?q=residual%20network),并联合优化预测准确率和跨原语一致性 (https://huggingface.co/papers?q=cross-primitive%20consistency)。在留一域评估协议下,CPRC 将跨原语不一致性降低了 58.57%,并将准确率提高了 +2.97%,证明了其在域内和域外场景中的有效性。我们的研究结果确立了跨原语一致性 (https://huggingface.co/papers?q=cross-primitive%20consistency) 作为评估 Jev 的关键维度,并提供了一种提高其决策可靠性的实用方法。代码和基准可在 https://github.com/67L1/PrimaCons (https://huggingface.co/papers?q=PrimaCons)-CRPR 获取。

查看 arXiv 页面 (https://arxiv.org/abs/2610.38623)查看 PDF (https://arxiv.org/pdf/2610.38623)GitHub0 (https://github.com/67L1/PrimaCons-CRPR)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.38623)

在你的智能体中获取这篇论文:

hf papers read 2610\.38623

没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型关联这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.38623,即可从此页面建立关联。

引用这篇论文的数据集0

没有数据集关联这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.38623,即可从此页面建立关联。

引用这篇论文的 Spaces0

没有 Space 关联这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.38623,即可从此页面建立关联。

收录这篇论文的合集0

没有合集收录这篇论文

将这篇论文添加到合集 (https://huggingface.co/new-collection),即可从此页面建立关联。

相似文章

[转帖] Jev 1.14.0 在棘手问题上虚张声势

Reddit r/AI_Agents

Jev 1.14.0 在二元问题上实现了较好的整体校准(ECE 为 0.023),但按难度细分后发现,它在高难度问题上明显过度自信,幅度约为 22 个百分点,超出了该子集的校准阈值。

降低了我的Jev裁判器的校准误差 [D]

Reddit r/MachineLearning

作者在数据集上对Jev裁判器进行了基准测试,通过从人类标注示例中学习,将其校准误差降低了68.1%,提高了生产环境中置信度的对齐性,同时分类准确性没有显著变化。

用动作条件预测一致性诊断JEPA世界模型

arXiv cs.LG

提出动作条件预测一致性(ACPC),这是一种JEPA世界模型的诊断方法,用于衡量在动作条件展开中干净观测与扰动观测如何发散,并为预测误差和规划器成本提供理论界限。在多个视觉控制任务上的实验验证了该诊断在LeWM和PLDM等模型上的有效性。