在RTX 3060上运行的Qwen3.6-35B-A3B能否取代Google Vision进行收据到JSON的提取?
摘要
一位开发者分享了在RTX 3060上使用本地Qwen VL模型将日语收据解析为JSON的经验,取代了Google Vision,结果显示关键字段提取准确,每张收据约需31秒。
我尝试用本地Qwen模型替代收据处理流程中的Google Vision。我有一个旧版的LINE消息机器人,可以发送收据照片,然后通过Google Vision解析为JSON并保存到SQLite中。最近我再次尝试,但改为本地运行。配置:RTX 3060 12GB、llama.cpp、Qwen3.6-35B-A3B 12GB目标GGUF量化、Paperless-ngx用于上传收据图像,输出为JSON/SQLite。效果相当不错。在大约30张日语收据上,我真正关心的字段始终正确:商店、日期、小计、税费、总额。速度不算快,但对这个用例来说可以接受:每张收据约31.75秒,峰值VRAM约11.06 GiB。我在这里写了详细内容:https://rafaelviana.com/article/qwen-receipt 还有其他人使用本地VLM进行枯燥的文档提取工作吗?收据、发票、表格等。
相似文章
Wow!Qwen 3.6:35b-a3b 在 3090 上……太惊人了。
一位用户分享了在二手 RTX 3090 上运行量化版 Qwen 3.6:35b-a3b 模型的惊人结果:将模型放入显存后,输出速度达到每秒 160 个 token,并以 75 秒的视频处理时间展示了视觉能力。
Qwen3-VL-2B 是在“土豆”设备上进行 JSON 提取的唯一可行的 VLM 吗?
作者声称 Qwen3-VL-2B 是低端硬件上进行 JSON 提取的唯一可行的视觉语言模型,性能优于 Qwen3-VL-4B 等大型模型,但它却未出现在主要基准测试中。
我将 Qwen3.8-27B 在 RTX 3090 上优化至单请求 99 tps 和批量请求 1150 tps
作者在 RTX 3090 GPU 上优化了 Qwen3.8-27B 模型的推理,通过各种量化和优化技术,实现了单请求高达 99 tps 和批量处理 1150 tps 的性能,并在 GitHub 上发布了更新的代码。
在 RTX 3060 + 5060 Ti 上成功运行 Qwen 3.8 27B EXL3
一名用户成功运行了 Qwen 3.8 27B AI 模型在 RTX 3060 和 5060 Ti GPU 的混合设置上,使用 exllamav3 的张量并行技术,在启用 MTP 的情况下达到约每秒 50 个令牌的速度。
试了 Qwen3.6-27B-UD-Q6_K_XL.gguf 配 CloudeCode,真不敢相信居然能用
用户报告称,在 RTX 5090 本地运行 Qwen3-27B-UD-Q6_K_XL.gguf,200K 上下文速度约 50 tok/s,编码表现出乎意料地可用,标志着本地模型质量大幅跃升。