Qwen3-VL-2B 是在“土豆”设备上进行 JSON 提取的唯一可行的 VLM 吗?

Reddit r/LocalLLaMA 模型

摘要

作者声称 Qwen3-VL-2B 是低端硬件上进行 JSON 提取的唯一可行的视觉语言模型,性能优于 Qwen3-VL-4B 等大型模型,但它却未出现在主要基准测试中。

在 3 台“土豆”笔记本(Intel i3、8GB 内存、Win11、集成显卡)上花费了无数小时测试后,我得出了这个结论。要在低端硬件上可靠地从图像中提取数据并转为 JSON,其他模型根本无法望其项背。然而,它却完全缺席了主要基准测试,比如 Artificial Analysis 或 Open LLM Leaderboard(而 4B 版本却榜上有名)。在我(非科学)的测试中,Qwen3-VL-2B Q4_K_M GGUF 在此特定数据提取任务上轻松胜过 Qwen3-VL-4B 和 Qwen3.5 2B。其余模型甚至远未达到可接受的结果。 - 为什么它被基准测试忽略? - 还有没有其他模型能在土豆设备、手机或树莓派上真正处理 JSON 提取?
查看原文

相似文章

@akshay_pachaar:大家都忽略了这个新的 JSON 提取模型!—— 开源权重 —— 准确率媲美 Gemini Flash 3.5 —— 速度快 3 倍……

X AI KOLs Following

Datalab 发布了 'lift',一个开源权重的 9B 视觉模型,能从 PDF 和图片中一步直接提取符合 schema 约束的 JSON,准确率媲美 Gemini Flash 3.5,速度却是其 3 倍。它支持多页文档处理,可通过 vLLM 或 Hugging Face 自托管部署,代码采用 Apache-2.0、模型采用 OpenRAIL-M 许可协议发布。