Gemma 4 视觉

很多人在 [Gemma 4 模型需求帖](https://www.reddit.com/r/LocalLLaMA/comments/1srgqk4/which_gemma_model_do_you_want_next/) 里呼吁下一版 Gemma 加强视觉能力，这说明大家根本没给 Gemma 4 开足视觉预算。Gemma 4 原生支持[可变图像分辨率](https://huggingface.co/google/gemma-4-31B-it#5-variable-image-resolution)，但默认视觉预算只有 280（约 645 K 像素），远远不够。这种设置下，它连小字 OCR 都失败，在我眼里基本等于“半盲”。 在 llama.cpp 里，可以用两个参数控制 Gemma 4 的视觉预算：`--image-min-tokens` 和 `--image-max-tokens`，引擎会在这之间自适应分配。官方默认 40 / 280，实在太低。我习惯设成 560 / 2240，此时再模糊的细枝末节也能被它揪出来。为什么拉到 2240——不是官方上限 1120 的两倍吗？实测 2240 反而比 1120 效果更好，我怀疑是 llama.cpp 在 min-max 区间里做自适应缩放导致的。 此外，`--batch-size` 和 `--ubatch-size` 也必须大于等于你设的 `image-max-tokens`。我配 2240 时把这两项都开到 4096。显存直接飙车：q8_0 满上下文下，默认约 63 GB，拉高后约 77 GB。 如果你用 Ollama，在[这个 issue](https://github.com/ollama/ollama/issues/15626) 被解决前基本没戏。不过花这 14 GB 显存绝对值：预算给足后，Gemma 4 的视觉直接 SOTA，OCR 把 Qwen 3.5、Qwen 3.6、GLM OCR、Kimi K2.5 全打爆。Kimi K2.6 我还没测，云模型我拒绝碰。