server-hardware

标签

Cards List
#server-hardware

换用 EPYC:我必须解决的问题,以及前后数据对比

Reddit r/LocalLLaMA ↗ · 昨天

一篇详细记录将多 GPU LLM 推理平台从 Core Ultra 7 265KF 迁移至 EPYC 7443 平台的文章,涵盖 BMC 风扇问题修复、内存超频、BIOS/PCIe 调优以及 llama.cpp 优化——使 MoE 模型的解码速度最高提升至原来的 4.2 倍,并显著提升带宽和 IOPS。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈