标签
AMD的Ryzen AI Max平台配备128GB统一内存,可本地推理高达2000亿参数的大模型,旨在将AI工作负载从云端转移到紧凑的个人硬件上。
用户报告称,其搭载Nvidia GB10(DGX)的Asus Ascent在运行Gemma4-31B等大语言模型时,速度比Ryzen AI Max还要慢(预期应有2-4倍加速),并分享了他们的llama-cpp配置以供调试。