我构建了一个开放权重的替代方案,针对Jev / TypeSafe - 介绍OpenJudgement-4B(早期预览版)

Reddit r/LocalLLaMA 模型

摘要

OpenJudgement-4B-Preview是一款基于Qwen的实验性AI模型,专注于分类和评分任务的微调,作为开放权重的早期预览替代品。

我发布了OpenJudgement-4B-Preview,一个基于Qwen的实验性模型,在自定义数据集上微调,用于分类、评分和真伪判断。它直接对答案选项进行评分,并使用Python将结果格式化为包含概率的JSON。它仍然使用LLM作为骨干,但不是逐个token生成响应。它尚未完成,且还未达到Jev的水平。我非常欢迎反馈,特别是它出错的例子。可通过api使用:https://kitani.ai/models/kitani/OpenJudgement-4B-Preview(付费)模型和推理代码:https://huggingface.co/kitaniai/OpenJudgement-4B-Preview
查看原文

相似文章

Jev 已有开放权重竞争者 - Deem 9b

Reddit r/singularity

Deem 9b 是一个用于校准决策的开放权重 AI 模型,由 LibertAI Labs 发布,作为 TypeSafe 的 Jev 的竞争者,具有诚实的基准测试和开放资源。

我将 Qwen3.8-27B Q2_64 + llama.cpp 转换为一个完全 TypeSafe AI 兼容的 Jev 风格系统。OpenAI API 仍然完整!全球首个支持视觉的 Jev 风格模型!显存占用低于 10 GB,在 RTX 3090 上延迟 170 毫秒,聊天速度约 140 tok/s。在包含 22,000 个请求的多样化类型决策基准测试中,准确率为 76%,而 Jev-1.13 为 88%。

Reddit r/LocalLLaMA

Bonsai-Llama-Jev 是一个开源的、支持视觉的类型决策推理系统,可在本地运行,具有低显存占用和高准确率,在多样化基准测试中超越其他系统。

一个基于Qwen3.5 4B微调的Jev风格模型

Reddit r/LocalLLaMA

作者使用LoRA对Qwen3.5 4B进行了微调,结合公开数据和合成数据创建了一个Jev风格模型,实现了性能提升,并开源了模型和数据集。