双 DGX Spark（华硕 GX10）MiniMax M2.7 实测

Reddit r/LocalLLaMA 新闻
local-inference dgx-spark minimax-m2-7 power-efficiency

摘要

用户实测两台华硕 GX10（DGX Spark）运行 MiniMax-M2.7-AWQ-4bit，每块仅约 100 W，生成速度 30–40 tokens/s，彻底替代嘈杂的多 GPU 机架。

大家好，我原先用双 3090 加 8 张 MI50 32 GB，被噪音和发热折磨疯了。受 [这篇帖子](https://www.reddit.com/r/LocalLLaMA/comments/1sli7xr/2x_asus_ascent_gx10_minimax_m27_awq_cloud/) 和 NVIDIA 论坛讨论启发，我入手了两台华硕 GX10（DGX Spark），结果爽翻。每台推理功耗仅 100 W 左右，首 Token 时间确实长，但对我来说完全可接受。无需折腾，直接跑 [https://huggingface.co/cyankiwi/MiniMax-M2.7-AWQ-4bit/](https://huggingface.co/cyankiwi/MiniMax-M2.7-AWQ-4bit/)，用开源代码加 Hermes Agent，零报错，一路丝滑，爱了！ 下面是用 llama benchy 跑的详细数据（--depth 0 4096 8192 16384 32768 --latency-mode generation）： | test | t/s | peak t/s | ttfr (ms) | est_ppt (ms) | e2e_ttft (ms) | |----------------:|----------------:|-------------:|------------------:|------------------:|------------------:| | pp2048 | 3452.05 ± 73.32 | | 626.82 ± 19.83 | 511.74 ± 19.83 | 626.84 ± 19.83 | | tg32 | 38.84 ± 0.01 | 40.09 ± 0.01 | | | | | pp2048 @ d4096 | 2848.85 ± 35.82 | | 2022.61 ± 28.98 | 1907.54 ± 28.98 | 2022.65 ± 28.98 | | tg32 @ d4096 | 37.37 ± 0.23 | 38.57 ± 0.24 | | | | | pp2048 @ d8192 | 2579.85 ± 18.26 | | 3523.69 ± 61.33 | 3408.62 ± 61.33 | 3523.73 ± 61.33 | | tg32 @ d8192 | 36.27 ± 0.14 | 37.44 ± 0.15 | | | | | pp2048 @ d16384 | 2411.34 ± 7.68 | | 6791.62 ± 57.14 | 6676.55 ± 57.14 | 6791.66 ± 57.14 | | tg32 @ d16384 | 34.12 ± 0.11 | 35.23 ± 0.12 | | | | | pp2048 @ d32768 | 1988.05 ± 12.95 | | 15512.61 ± 147.98 | 15397.54 ± 147.98 | 15512.65 ± 147.98 | | tg32 @ d32768 | 30.72 ± 0.08 | 31.00 ± 0.00 | | | | | pp2048 @ d102400 | 1167.98 ± 9.19 | | 78208.55 ± 573.73 | 78118.97 ± 573.73 | 78208.59 ± 573.73 | | tg32 @ d102400 | 21.63 ± 0.07 | 23.00 ± 0.00 | | | | 我已经考虑把 MI50 卖掉了 😉 编辑：补充 llama benchy 信息，并追加 100 k 深度测试。
查看原文

相似文章

Deepseek V4 flash 在 DGX Spark 上的性能

Reddit r/LocalLLaMA

一位 Reddit 用户分享了在双华硕 GX10 DGX Spark 配置上运行 DeepSeek V4 Flash 的经验，详细介绍了性能指标、配置和功耗，并提供了不同上下文长度下的吞吐量基准测试结果。