@RayFernando1337: 让他发挥。现在拥有两台DGX Sparks真是太有趣了。
摘要
一位Twitter用户讨论拥有两台NVIDIA DGX Sparks系统,而另一位用户报告通过模型更新到DFlash2-7后,token吞吐量达到每秒67个。
查看缓存全文
缓存时间: 2026/08/30 00:00
让他大展身手吧。现在拥有两台 DGX Sparks RN 正是充满乐趣的时刻。
Sufyan (@sfxnz): 默认模式现在是双序列的 DFlash2-7。
刚测出在上下文长度为327k时,结构化模式下可达67 tokens/s。之前在四序列的 DFlash2-5 上是51 tokens/s。
依然保持在327k上下文长度。
尽情享用吧。
相似文章
入手了两台 DGX Spark。既兴奋又困惑!
一位用户分享了购买两台 Nvidia DGX Spark(约6100美元/台)的经历,用于学习和编程工作流,并询问 GLM 5.3 flash 的本地部署配方以及 Nvidia 论坛是否是获取相关资讯的最佳渠道。
@MiaAI_lab: 刚刚为您的 2 台 DGX Sparks 升级了 DeepSeek v4 Flash。单次每秒 66.6 tokens,6 个并发会话时可达 153.7 tokens/秒……
MiaAI Lab 发布了一项升级方案,用于在两台 DGX Spark 节点上使用 vLLM 结合 DSpark 推测解码和 NVFP4 KV-cache 来部署 DeepSeek V4 Flash,在六个并发会话中实现了高达 153.7 tokens/秒 的吞吐量。
@krunkosaurus:过去几周我花了 6 万美元买了 12 台 DGX Spark,大家可能觉得我很奇怪。但我完全……
一位用户分享自己花了 6 万美元购买 12 台 DGX Spark,以便在本地运行接近前沿水平的 AI 模型。此前有消息称 NVIDIA 发布了新版 64GB DGX Spark,且所有型号价格均有所上涨。
@NVIDIARTXSpark:想要在你的 NVIDIA DGX Spark 上获得更高的每秒 token 数?探索三种加速 MoE 推理的技术,从优化内核…
@NVIDIARTXSpark 分享了三种加速 NVIDIA DGX Spark 上混合专家模型(MoE)推理的技术,涵盖优化内核、FP8 量化和多 token 预测,以提升每秒 token 吞吐量。
@TechMDAI:DGX spark 社区正火热
DGX spark 社区目前活动频繁且热情高涨。