首批Gemma 4 12B微调模型已就绪
摘要
首批Gemma 4 12B微调模型变体现在已在Hugging Face上线，由多位开发者提供GGUF格式。
现在你可以开始构建你的Gemma 4 12B收藏集了 :) [https://huggingface.co/igorls/gemma-4-12B-it-heretic-GGUF](https://huggingface.co/igorls/gemma-4-12B-it-heretic-GGUF) [https://huggingface.co/ReadyArt/Melody1437-12B-v0.4-GGUF](https://huggingface.co/ReadyArt/Melody1437-12B-v0.4-GGUF) [https://huggingface.co/DuoNeural/Gemma4-12B-IT-Abliterated-GGUF](https://huggingface.co/DuoNeural/Gemma4-12B-IT-Abliterated-GGUF) [https://huggingface.co/OpenYourMind/gemma-4-12B-it-abliterated-uncensored](https://huggingface.co/OpenYourMind/gemma-4-12B-it-abliterated-uncensored)
相似文章
Gemma 4 四重发布：12B、12B QAT、26B-A4B QAT 和 31B QAT 无审查异端版
llmfan46 在 Hugging Face 上发布了一组四重未经审查、微调并量化的 Gemma-4 模型，包括 12B、26B-A4B 和 31B 变体，提供 QAT 和 GGUF 格式。
G4-Meromero-31B-Uncensored-Heretic 现已发布，它是 Gemma 4 31B 的微调版本，专为创意任务设计，KLD为0.0100，拒绝率为15/100！
G4-Meromero-31B-Uncensored-Heretic 是 Gemma 4 31B 的微调版本，将拒绝率降低至15/100，同时保持KL散度为0.01，保留了模型质量。它专为创意任务设计，可在Hugging Face上以GGUF量化格式获取。
Unsloth Gemma 4 QAT MTP 辅助模型现已可用
Unsloth 发布了 Gemma 4 QAT MTP 辅助模型，以 GGUF 文件形式在 Hugging Face 上提供，支持 q8_0 及更大量化格式。
@LyalinDotCom: 如果你正在通过 @ollama 等待 Gemma 4 12b，它已经来了：gemma4:12b gemma4:12b-it-q4_K_M gemma4:12b-it-q8_0 gemma4:12b-…
Gemma 4 12b 模型现已可通过 Ollama 获取，提供多种量化版本用于本地 AI 推理。
更多Gemma 4模型即将推出
谷歌宣布即将推出更多Gemma 4模型，可能包含一个120B参数的模型。