Gemma 4 12B 在4080 Super上的首次编程代理测试

Reddit r/LocalLLaMA 工具
gemma-4 coding-agent vscodium pi-agent llama-cpp python test

摘要

一位用户使用Pi Agent扩展在VSCodium中将Gemma 4 12B作为编程代理进行了测试，成功执行了一项任务：创建一个读取日志并输出JSON的Python脚本。该模型自主处理工具使用，零错误。

我刚刚将新的Gemma 4 12B放入VSCodium中，配合Pi Agent扩展，测试它如何处理工具，它第一次就完美通过了测试。我给它一个提示，要求编写一个Python脚本，逐行读取日志，提取错误模块，并将计数输出到JSON文件。我还告诉它生成自己的模拟日志数据，并运行实时终端测试来验证结果。代理并没有只是吐出一段代码让我复制粘贴，而是真正开始工作。它创建了脚本，用混合随机日志填充了一个虚拟的app.log文件，打开终端Shell运行代码，并验证了输出，零错误或路径错误。 * **模型:** Gemma 4 12B (Unsloth UD-Q4\\_K\\_XL) * **上下文:** 32K (`--ctx-size 32768`) * **KV缓存:** 8-bit (`--cache-type-k q8_0 --cache-type-v q8_0`) * **层:** \\-1 (完全卸载到GPU) * **采样器:** Flash Attention 开启, `--temp 1.0`, `--top-p 0.95`, `--top-k 64`, `--min-p 0.05`, `--repeat-penalty 1.15` * `llama.cpp + cuda`
查看原文

相似文章

Gemma 4 31B 的能力让我惊讶

Reddit r/LocalLLaMA

一位用户分享了轶事发现：Gemma 4 31B 在理解和重构杂乱的学术代码方面优于 Qwen 3.6 模型，并与 Opus 4.7 能力相当，还突出了一个 Gemma 擅长的基准测试（SciCode）。

Gemma 4 12B 是我的新主力

Reddit r/LocalLLaMA

作者分享了从 Qwen 3.6 切换到 Gemma 4 12B（Unsloth Q5_K_XL）进行本地编程的体验，称赞其即插即用的设置、更好的语法准确性以及可控的 VRAM 使用，尽管在速度上略有取舍。