在英特尔N100上使用llama.cpp的帮助？
摘要
用户寻求在英特尔N100迷你PC上运行llama.cpp与Gemma 4 E2B的建议，询问是使用CPU还是iGPU，以及应该针对哪个后端。
我有一台全天候运行Proxmox的英特尔N100迷你PC。我想使用llama.cpp服务器配合Gemma 4 E2B处理小任务。我应该仅使用CPU，还是使用iGPU？如果使用iGPU，应该针对哪个后端？
相似文章
一台10年前的Xeon就够了
一篇博客文章，详细介绍了如何仅使用CPU和DDR3内存，在10年前的Xeon服务器上运行Gemma 4 AI模型，并使用了自定义的llama.cpp优化。
运行 gemma-4-26B-A4B 不需要 GPU
作者展示了在仅使用 CPU 的系统上，通过 Koboldcpp 高效运行 Gemma-4-26B-A4B 模型，在一台旧台式机上达到了每秒 7 个 token 的速度，这表明运行本地大语言模型推理可能并不需要强大的 GPU。
[WIP] Gemma 4 MTP
llama.cpp 是一个开源 C/C++ 库，用于在各种硬件上高效进行 LLM 推理，支持多种量化格式和 GPU 后端。本篇 README 详细介绍了其功能、安装方法以及近期更新，包括 Hugging Face 缓存迁移和多模态支持。
PSA：测试你在 llama.cpp 中的“线程”参数（我的情况提升了 80% 的性能）
一位用户使用 Gemma 4 在 llama.cpp 中针对混合 CPU-GPU 推理进行了线程数基准测试，发现在混合核心 CPU 上使用 16 个线程而非 6 个可提升 80% 的性能，并分享了最佳命令配置。
@TraffAlex: 消费级GPU的最佳本地LLM——llama.cpp指南（2026年6月）我目前在消费级硬件上实际运行的内容。Eve…
截至2026年6月，面向消费级GPU的最佳本地LLM指南，使用llama.cpp在8-32GB显存上运行如Gemma 4-12B、Qwen3.6-27B和Nex-N2-Mini等模型，包含设置和启动命令。