我的 Strix Halo 每天最多花费 0.48 美元

这是人们在抱怨运行速度慢、新用户被建议避开它们时从未提及的一点。这 48 美分是最坏情况下的数字，即同时运行多个模型/编译任务，CPU、GPU 和 NPU 全开持续 24 小时。当处于静音模式、功耗极低且体积仅相当于一个小型路由器时，我只能在 Q8_XL Qwen 3.6 35B 上达到 50 tps。我知道你的 Nvidia 显卡要快得多，但如果你考虑的不只是原始 GPU 显存速度/计算能力，或者你在意体积/噪音/能耗，我看不出还有什么可比性。一块 A6000 单卡功耗就是 300W，是 Strix Halo 设备总功耗预算的两倍。即使在当前价格虚高的情况下，我认为这些设备也具有极高的价值。它们提供的远不止是 GPU 和内存。任何不用于推理的资源都可以自由用于托管你需要的任何服务，这套组合非常全能。Mac 也是如此。