Gewell - Gemma4 推理引擎

Reddit r/LocalLLaMA 2026/09/21 09:56 工具

inference-engine gemma4 ai-tool machine-learning dev-tool

摘要

Gewell 发布专为 Gemma4 AI 模型设计的推理引擎，以简化部署和执行。

暂无内容

查看原文

相似文章

X AI KOLs Timeline

Mia-AiLab发布了Gemmable 4 12B，这是Google Gemma 4 12B模型的微调版本，使用了Fable-5风格推理和助手轨迹，提供GGUF和MLX格式用于本地推理。

Hugging Face Blog

Google DeepMind 发布 Gemma 4，这是一系列前沿多模态模型，已在 Hugging Face 上以 Apache 2 协议开源，针对端侧部署进行了优化，并支持多种推理框架。

arXiv cs.CL

Gemma 4 引入了新一代开放权重、原生多模态语言模型，采用密集和混合专家架构，具备思考模式以进行高级推理，提高了效率并支持长上下文能力。

Hugging Face Daily Papers

Gemma 4 技术报告介绍了新一代开放权重、原生多模态语言模型，采用多样化的架构，推理能力增强，并在各项任务中性能提升。模型参数范围从 2.3B 到 31B，并具备生成推理轨迹的思考模式。

Reddit r/LocalLLaMA

新的Gemma AI模型正在竞技场AI平台上展示，有关于可能的Gemma 5或相关版本的推测。