标签
Akwin123专门为文案写作和创意写作任务微调了Gemma-4-31B-it,在使用QLoRA的定制基准测试中,相对于基础模型实现了+290 Elo的提升。该模型是开源的,可在Hugging Face上获取。
一位开发人员正在将Gemma 4 31b重建为一个更小的26b模型,通过移除弱SWA层、添加基于注意力的残差网络(来自Moonshot)以及使用topK logit目标进行再训练,旨在实现更好的长上下文和性能。
介绍 Agentic Swarm,一款开源桌面应用,利用 Google 的 Gemma-4 模型协调 5 个 AI 智能体,完全离线运行。
Xenova 使用 Fable 5 编写优化内核,在 M4 上的 WebGPU 中为 Gemma 4 实现了每秒 255 个 token 的速度,展示了用于端侧推理的代理内核优化。
Google总结了2026年6月的主要AI更新,包括推出Gemini 3.5 Live Translate、Android 17、新款Google Home Speaker,以及本地AI模型如Gemma 4 12B,同时还有Gemini 3.5 Flash的计算机使用能力。
Ollama 宣布,Gemma 4 在 Apple Silicon 上使用 MLX 后速度提升近 90%,这得益于默认启用的改进多 token 预测机制,并支持自动调节以避免减速。
作者在Google的AI Agent Harness Engineering演讲中,展示了一个使用Gemma 4本地大语言模型的金融智能体,该智能体在15 GB RAM下运行,性能与前沿模型相当。
认识 Gemma 4 12B Agentic Fable5,一个本地运行的 GGUF 模型,专为编码、终端任务和代理工作流设计,下载量已超 20.6 万次。
Cerebras 和 Google DeepMind 将于6月28日至29日举办一场24小时黑客马拉松,采用 Gemma 4 模型,搭载超快的 Cerebras 推理,并提供5000美元奖金。
A multi-agent system with over 100 agents collaborates for a week to accelerate Gemma 4 on vLLM by 5x, demonstrating emergent self-organized communication and resource pooling.
一个包含100多个AI智能体协作一周以提升vLLM中Gemma 4推理速度的实验,最终实现了5倍加速,并揭示了自我监管、分工协作和知识共享等涌现行为。
推文宣布了 Gemma 4 31B 多模态模型,速度快如火箭,称这是通往超级智能的第一步。
一位开发者展示了在8GB RTX 4060上本地运行Gemma 4 26B MoE模型,结合Hermes智能体,完全自动化回测交易策略,凸显了本地LLM作为自主智能体的日益增强的能力。
一位用户询问为什么 Gemma 4 26b 相比 Qwen 模型关注度较低,并分享了他们在 3090 上使用这些模型构建个人助手项目的经验。
一篇分析文章,探讨为何 Gemma 4 尽管具备 QAT 与视觉支持等优势,却相比 Mistral 缺乏社区微调,以及社区惯性是否会最终发生转变。
Qt Creator 20 现在通过 Agent Client Protocol 支持本地 AI 编码助手,可以集成在消费级硬件上运行的开源权重模型(如 GPT-OSS 和 Gemma 4)。
Gemma 4 QAT 31B 模型在 KV 缓存量化时表现出更好的行为,表明推理效率得到提升。
讨论了在双 9060 XT GPU 配置上运行 Gemma 4 31B 模型的 Q6 量化版本,很可能是用于本地推理。
Gemma 4 12B 的一个新微调版本,基于 Fable 5 的推理进行训练,在智能体编码基准测试中实现了显著提升(从15%到55%),并且可以使用 llama.cpp 的自定义分支在 8GB VRAM GPU 上本地运行。
用户报告称,Gemma 4 26b 在语言学习和科学查询方面优于 Qwen 3.5/3.6,尽管在编码任务上稍显逊色,并邀请大家讨论小型 MoE 模型在编码以外的其他用例。