全新Google Gemma 4 12B自称性能接近26B模型——我们实测了这两款！
摘要
Google全新Gemma 4 12B模型宣称性能接近26B模型。在RTX 4090的本地测试中，26B-A4B模型更快且表现更佳，但12B模型显存占用更少，适合笔记本电脑使用。
我们在同一台RTX 4090上本地运行了这两款模型，并给它们分配了相同的任务：编写一个自包含的HTML5 Canvas动画，包含真实物理效果，所有代码集成在一个文件中，不依赖任何库。共三个场景：一个高尔顿板、两个方块碰撞墙壁、以及一个混沌三摆。输出结果：Gemma 4 26B-A4B：显存占用15 GB，生成6.9k tokens，速度138 tok/s；Gemma 4 12B：显存占用9 GB，生成8.9k tokens，速度80 tok/s。同属Gemma 4系列，但26B-A4B在每个场景中均胜出，且运行速度快约1.7倍——而它仅用了4B活跃参数。不过12B表现也非常接近，且显存占用几乎减半，这使其成为16 GB笔记本电脑的理想模型。
相似文章
谷歌新推出的Gemma 4 12B模型旨在任何配备16GB RAM的笔记本电脑上运行
谷歌发布Gemma 4 12B，这是一款紧凑型AI模型，专为仅需16GB RAM的本地笔记本使用而优化，具备多令牌预测以及针对文本、音频和图像的简化多模态能力。
昨天在我的3090上跑了gemma 4 12b，我觉得本地模型领域已经变了
一位用户报告称，通过GGUF量化在单张RTX 3090上本地运行了谷歌的Gemma 4 12B模型，发现其性能强劲，包括真实的256k上下文、多模态能力以及函数调用功能，在编码任务上甚至优于更大的70B模型。
@analogalok: 我刚刚在我的 RTX 4060 上用 llama.cpp + CUDA 13.2 跑了 Google 全新的 Unsloth Gemma4 12B 密集 GGUF，每秒 21 个 token…
Google 新推出的 Gemma 4 12B 是一个纯解码器 transformer，采用无编码器的多模态输入，在达到强大基准性能的同时，尺寸足够小，可以在廉价 GPU 上本地运行。它采用 Apache 2.0 许可证发布。
Gemma 4 QAT 基准测试结果（AMD 7900 XTX）：速度更快，显存占用更少，质量无损
一位用户在 AMD 7900 XTX 上对 Google 的 Gemma 4 QAT 模型进行了基准测试，报告显示生成速度提升高达 45%，吞吐量提高 83%，显存占用大幅减少（例如 12B QAT 模型节省 5.7GB），且与标准权重相比质量无损。
@KanikaBK: Google刚刚投下了一颗AI重磅炸弹！一场十亿美元的游戏开始了。Gemma 4 12B在你的笔记本电脑上运行。16GB内存，那就是……
Google发布了Gemma 4 12B，这是一个采用Apache 2.0许可证的开源多模态AI模型，可在拥有16GB内存的笔记本电脑上本地运行，面向企业边缘部署。