llama.cpp 在混合专家模型（MoE）和 GPU+CPU 卸载场景下，P 核比 E 核更慢？

Reddit r/LocalLLaMA 2026/07/24 18:29 工具

performance cpu-cores moe-model gpu-offloading inference

摘要

观察到在使用 GPU+CPU 卸载运行混合专家模型时，llama.cpp 在 P 核上的运行速度比 E 核慢。

暂无内容

查看原文

相似文章

Reddit r/LocalLLaMA

一位开发者创建了llama.cpp的实验性分支，该分支仅将已使用的专家（expert）而非完整层卸载到显存，从而在RTX 2060 12GB等显存有限的GPU上为MoE模型带来了速度提升。作者正在寻找测试者，以验证其在其他Nvidia GPU上的性能表现。

Reddit r/LocalLLaMA

一个 llama.cpp PR 增加了基于热力图的“热”MoE 专家 GPU 缓存，在 8GB VRAM 下对某些模型将 tok/s 提升了约 1.7-2 倍，但对其他模型结果不一。

Reddit r/LocalLLaMA

本文分享了一个 llama.cpp 的性能优化技巧，展示了增大微批大小（`-ub`）并结合部分 CPU 卸载（`--n-cpu-moe`）可以显著提升 gpt-oss-120b 等大型模型在消费级 GPU 上的提示词处理速度。

Reddit r/LocalLLaMA

一位用户对 exllamav3 和 llama.cpp 进行了 CPU 卸载推理的基准测试，显示 exllamav3 对于 Qwen 模型更快，但对于其他模型更慢，具体取决于硬件和模型架构。

arXiv cs.AI

本文对在共享异构硬件上调度多个LLM进行了实证研究，重点关注CPU-GPU卸载和抢占的性能影响。研究发现，卸载会导致非线性的解码吞吐量下降，尤其是对于较小的模型，而抢占开销主要由模型状态重载主导，为未来多模型调度器的设计提供了指导。