inclusionAI/ZwZ2 27B/9B/4B(Qwen 微调模型)
摘要
inclusionAI 发布了 ZwZ2 系列(27B/9B/4B),基于 Qwen3.6 微调的视觉语言模型,通过 EvidenceConnect 构建的多区域验证数据与 GRPO 训练,在六大领域 25 个基准上均超越基座模型,总体准确率从 55.52 提升至 60.51(+4.99)。
✨ 模型概述 ZwZ2-27B 是 Zooming-without-Zooming-v2(ZwZ2)中基于 Qwen3.6-27B 的模型。它通过比较、聚合、匹配和多步推理,学习关联不同区域的视觉证据。训练使用完整图像;推理无需缩放工具。在涵盖六个领域的 25 项基准测试中,它在每项测试上的表现均优于基础模型,总体准确率从 55.52 提升至 60.51(提高 4.99 个百分点)。提升范围涵盖细粒度感知、空间推理、长上下文理解、多模态智能体以及通用视觉推理。⚙️ 方法与数据 EvidenceConnect 基于 SA-1B 图像构建经过验证的多区域问题:将 3–7 个相关区域分为一组,并利用仅供数据构建使用的放大视图生成问题。通过跨模型一致性检验和逐一移除区域的测试来核验答案。将经过验证的问题转换为四选一任务,并使用 GRPO 进行训练,无需额外的监督微调阶段。三种模型规模均使用约 2 万条训练样本。策略模型接收的是带有彩色区域轮廓的完整图像;特权裁剪视图布局仅用于数据构建。数据模式和合成流程请参见 ZwZ2-RL-VQA。https://preview.redd.it/eup6n3gb9lyh1.png?width=2400&format=png&auto=webp&s=36e2f6775935370613342691e080e7e7a54e7702 https://preview.redd.it/amts18kd9lyh1.png?width=2088&format=png&auto=webp&s=9f7e3028a21265b9b79fc429dbce75d86bf59b13 https://huggingface.co/inclusionAI/ZwZ2-27B-GGUF https://huggingface.co/inclusionAI/ZwZ2-9B-GGUF https://huggingface.co/inclusionAI/ZwZ2-4B-GGUF
相似文章
Qwen3.6-27B
阿里巴巴 Qwen 团队发布 270 亿参数新语言模型 Qwen3.6-27B,并公布基准测试结果。
@cjzafir:Qwen 3.5 4B 和 8B 模型太棒了。我今天微调了一个 4B 模型,在全精度和 Q8 量化版本上达到了 98% 的准确率…
一位开发者报告称,使用 Unsloth 微调 Qwen 3.5 4B 和 8B 模型后取得了高准确率,这表明业界正转向针对细分任务使用专用的专家语言模型(ELMs)。
Qwen 3.8 27B 发布:开放权重,目前最好的本地稠密模型
Qwen 发布了 Qwen3.8-27B,这是一个开放权重的 27B 稠密视觉语言模型,在编程、专业工作和长周期智能体任务上取得了重大进展,提供 FP8 版本并支持灵活的思考控制。
Qwen 3.8 27B 在 Artificial Analysis Intelligence Index 上获得 52 分
在 Simon Willison 的博客文章中强调,Qwen 3.8 27B AI 模型在 Artificial Analysis Intelligence Index 上取得了 52 分。
migtissera/Tess-4.5-27B(Qwen 微调)
Continuity Research 发布 Tess-4.5-27B,一个基于 Qwen3.8-27B 微调的 27B 开源权重模型,主打本地单卡运行的工程与智能体能力,BenchLocal 成绩与基座持平但推理 token 少 25%,并附带多 token 预测草稿头以提升本地推理速度。