在RTX 3060上运行的Qwen3.6-35B-A3B能否取代Google Vision进行收据到JSON的提取?

Reddit r/LocalLLaMA 新闻

摘要

一位开发者分享了在RTX 3060上使用本地Qwen VL模型将日语收据解析为JSON的经验,取代了Google Vision,结果显示关键字段提取准确,每张收据约需31秒。

我尝试用本地Qwen模型替代收据处理流程中的Google Vision。我有一个旧版的LINE消息机器人,可以发送收据照片,然后通过Google Vision解析为JSON并保存到SQLite中。最近我再次尝试,但改为本地运行。配置:RTX 3060 12GB、llama.cpp、Qwen3.6-35B-A3B 12GB目标GGUF量化、Paperless-ngx用于上传收据图像,输出为JSON/SQLite。效果相当不错。在大约30张日语收据上,我真正关心的字段始终正确:商店、日期、小计、税费、总额。速度不算快,但对这个用例来说可以接受:每张收据约31.75秒,峰值VRAM约11.06 GiB。我在这里写了详细内容:https://rafaelviana.com/article/qwen-receipt 还有其他人使用本地VLM进行枯燥的文档提取工作吗?收据、发票、表格等。
查看原文

相似文章

Wow!Qwen 3.6:35b-a3b 在 3090 上……太惊人了。

Reddit r/artificial

一位用户分享了在二手 RTX 3090 上运行量化版 Qwen 3.6:35b-a3b 模型的惊人结果:将模型放入显存后,输出速度达到每秒 160 个 token,并以 75 秒的视频处理时间展示了视觉能力。

在 RTX 3060 + 5060 Ti 上成功运行 Qwen 3.8 27B EXL3

Reddit r/LocalLLaMA

一名用户成功运行了 Qwen 3.8 27B AI 模型在 RTX 3060 和 5060 Ti GPU 的混合设置上,使用 exllamav3 的张量并行技术,在启用 MTP 的情况下达到约每秒 50 个令牌的速度。