我构建了一个开放权重的替代方案,针对Jev / TypeSafe - 介绍OpenJudgement-4B(早期预览版)
摘要
OpenJudgement-4B-Preview是一款基于Qwen的实验性AI模型,专注于分类和评分任务的微调,作为开放权重的早期预览替代品。
我发布了OpenJudgement-4B-Preview,一个基于Qwen的实验性模型,在自定义数据集上微调,用于分类、评分和真伪判断。它直接对答案选项进行评分,并使用Python将结果格式化为包含概率的JSON。它仍然使用LLM作为骨干,但不是逐个token生成响应。它尚未完成,且还未达到Jev的水平。我非常欢迎反馈,特别是它出错的例子。可通过api使用:https://kitani.ai/models/kitani/OpenJudgement-4B-Preview(付费)模型和推理代码:https://huggingface.co/kitaniai/OpenJudgement-4B-Preview
相似文章
Jev 已有开放权重竞争者 - Deem 9b
Deem 9b 是一个用于校准决策的开放权重 AI 模型,由 LibertAI Labs 发布,作为 TypeSafe 的 Jev 的竞争者,具有诚实的基准测试和开放资源。
Qwen公司已经推出了一款Jev竞争对手。尚未开放权重。
Qwen公司发布了一款名为decision-model-preview的新AI模型作为竞争对手,但它缺乏开放权重,只有一个文档页面可用。
我将 Qwen3.8-27B Q2_64 + llama.cpp 转换为一个完全 TypeSafe AI 兼容的 Jev 风格系统。OpenAI API 仍然完整!全球首个支持视觉的 Jev 风格模型!显存占用低于 10 GB,在 RTX 3090 上延迟 170 毫秒,聊天速度约 140 tok/s。在包含 22,000 个请求的多样化类型决策基准测试中,准确率为 76%,而 Jev-1.13 为 88%。
Bonsai-Llama-Jev 是一个开源的、支持视觉的类型决策推理系统,可在本地运行,具有低显存占用和高准确率,在多样化基准测试中超越其他系统。
@interfaze_ai: Jev,现在开源:Lev 一个基于 Qwen 主干的4B开源 System One 模型。其小尺寸下的最佳性能……
Lev 是一个基于 Qwen 的4B开源AI模型,旨在通过单次前向传播实现高效的类型化决策,输出令牌为零,并在其尺寸下取得强劲的基准测试成绩。
一个基于Qwen3.5 4B微调的Jev风格模型
作者使用LoRA对Qwen3.5 4B进行了微调,结合公开数据和合成数据创建了一个Jev风格模型,实现了性能提升,并开源了模型和数据集。