Chinese-Jev:将系统一模型应用于中文任务

Hugging Face Daily Papers 论文

摘要

本文介绍了Chinese-Jev,一个旨在提高中文任务决策准确性和效率的系统一模型,通过领域特定的微调和一个新的基准测试CJ-Bench进行评估。

像Jev这样的系统一模型为需要决策而非开放式响应的任务提供了生成式语言模型的高效替代方案。然而,现有的Jev模型在中文决策准确性方面表现有限,限制了它们在通用和专用场景中的实用性。在本文中,我们介绍了Chinese-Jev,一个通过统一数据处理和训练流程来解决这一差距的系统一模型。我们的数据处理协议将异构的中文标注转换为候选选项上的概率目标,从而实现跨领域和问题格式的共享训练公式。为了实现高效推理,Chinese-Jev采用轻量级仅编码器骨干网络进行文本编码,并通过面向决策的训练来学习对候选答案进行评分。为了解决预训练分布与下游中文场景之间的不对齐问题,我们首先在包含1000万个示例的通用语料库上训练模型,然后分别针对医疗、法律和金融领域进行微调。为了评估通用和领域特定中文场景中的决策准确性和校准性,我们引入了Chinese-Jev基准测试(CJ-Bench)。在第一阶段预训练后,Chinese-Jev在通用领域任务上的准确性比闭源Jev模型高出1.24%,同时实现了20.3倍的速度提升。随后的领域特定微调在医学领域使准确性比Jev提高了4.0%,并在专用领域达到Jev平均准确性的92%,同时速度提升17倍,每个示例的平均延迟仅为15毫秒。我们进一步演示了在移动设备上部署INT8量化模型,实现了每个决策约1.0秒的推理延迟。该项目可在https://gulucaptain.github.io/Chinese-Jev/获取。
查看原文
查看缓存全文

缓存时间: 2026/09/30 08:22

论文页面 - Chinese-Jev:将SystemOne模型应用于中文任务

来源:https://huggingface.co/papers/2609.36965

摘要

SystemOne模型(如Jev)为需要决策而非开放式回答的任务提供了生成式语言模型的高效替代方案。然而,现有的Jev模型在中文决策准确性上表现有限,限制了其在通用和专业场景中的实用性。本文介绍了Chinese-Jev,这是一个通过统一数据处理和训练流程解决该问题的SystemOne模型。我们的数据处理协议将异构的中文标注转换为候选选项的概率目标,实现了跨领域和问题格式的共享训练公式。为实现高效推理,Chinese-Jev采用轻量级仅编码器主干进行文本编码,并通过面向决策的训练学习评估候选答案。为解决预训练分布与下游中文场景的不匹配问题,我们首先在包含1000万样本的通用语料库上训练模型,然后针对医疗、法律和金融领域分别进行微调。为评估通用和特定领域中文设置中的决策准确性和校准性,我们引入了Chinese-Jev基准(CJ-Bench)。经过第一阶段预训练,Chinese-Jev在通用领域任务上的准确性超过闭源Jev模型1.24%,同时实现20.3倍的速度提升。随后的领域特定微调使模型在医疗领域相比Jev获得4.0%的准确性提升,并在专业领域达到Jev平均准确性的92%,同时实现17倍的速度提升,每个样本平均延迟仅为15毫秒。我们进一步展示了INT8量化模型在移动设备上的部署,每个决策的推理延迟约为1.0秒。项目地址:https://gulucaptain.github.io/Chinese-Jev/。

查看arXiv页面 (https://arxiv.org/abs/2609.36965)查看PDF (https://arxiv.org/pdf/2609.36965)项目页面 (https://gulucaptain.github.io/Chinese-Jev/)GitHub1 (https://github.com/gulucaptain/Chinese-Jev)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.36965)

通过代理获取此论文:

hf papers read 2609.36965

没有最新CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型

0

暂无模型关联此论文

在模型的README.md中引用 arxiv.org/abs/2609.36965 即可从此页面链接。

引用此论文的数据集

0

暂无数据集关联此论文

在数据集的README.md中引用 arxiv.org/abs/2609.36965 即可从此页面链接。

引用此论文的Space

0

暂无Space关联此论文

在Space的README.md中引用 arxiv.org/abs/2609.36965 即可从此页面链接。

包含此论文的合集

0

暂无合集包含此论文

将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面链接。

相似文章

SearchJev:一个快速且经过校准的搜索代理 System-1 模型

Hugging Face Daily Papers

SearchJev 为搜索代理引入了一个快速且经过校准的 System-1 模型,它无需自回归生成即可为决策打分,并通过用于校准决策的软标签学习(SLCD)来降低延迟、提升置信度的可靠性。将 SearchJev 与 System-2 模型结合的双系统代理在 BrowseComp-Plus 上实现了最高 4.7 倍的加速,同时将答案准确率从 45% 提升至 54%。