@YRSM_Simon: 这是什么黑科技!测试了 @MiaAI_lab 更新的 DeepSeek V4.1 Flash 配方,4 台 DGX Sparks, TP4,改进…
摘要
在 4 台 DGX Sparks 上测试更新的 DeepSeek V4.1 Flash 模型配方,显示出显著的性能提升,尤其是在冷预填充、代码生成和文本生成速度方面。
查看缓存全文
缓存时间: 2026/09/26 13:01
这是什么黑魔法!
测试了 @MiaAI_lab 更新的 DeepSeek V4.1 Flash 配方,4台 DGX Sparks,TP4,性能提升非常显著:
• 冷预处理:在4K–256K输入下提速59%–146% • 单路径代码生成:66 → 123 tok/s,提升85% • 单路径文本生成:46 → 87 tok/s,提升89%
下方图片展示了升级前后对比 👇
在禁用思考功能下测试。感谢 Mia 和社区贡献者!
Mia (@MiaAI_lab): 需要极致速度?没错 ⚡️
4倍 DGX Sparks 上的 DeepSeep v4.1 Flash 正在变得… 离谱 🤯
解码性能提升
- 单流散文解码速度现达 87 tok/s
- 4流时为 163.6 tok/s
- 单流代码解码速度达 124.8 tok/s
- 4流时为 246.8 tok/s
相似文章
@MiaAI_lab: 刚刚为您的 2 台 DGX Sparks 升级了 DeepSeek v4 Flash。单次每秒 66.6 tokens,6 个并发会话时可达 153.7 tokens/秒……
MiaAI Lab 发布了一项升级方案,用于在两台 DGX Spark 节点上使用 vLLM 结合 DSpark 推测解码和 NVFP4 KV-cache 来部署 DeepSeek V4 Flash,在六个并发会话中实现了高达 153.7 tokens/秒 的吞吐量。
Deepseek V4 flash 在 DGX Spark 上的性能
一位 Reddit 用户分享了在双华硕 GX10 DGX Spark 配置上运行 DeepSeek V4 Flash 的经验,详细介绍了性能指标、配置和功耗,并提供了不同上下文长度下的吞吐量基准测试结果。
@ViC305: 18小时后:DeepSeek-V4.1-Flash 现已量化至 4.75 bpw EXL3,适用于 4× DGX Spark TP4 目标。权重已完…
DeepSeek-V4.1-Flash 已量化至 4.75 bpw EXL3,以便部署在 4× DGX Spark 上,优化内存使用并实现高效本地推理,同时有计划进行验证和进一步优化。
@danielhanchen: DeepSeek刚刚发布了用于V4 Flash和Pro的DSpark,一种新的投机解码方法,将吞吐量提升51%至400%!…
DeepSeek发布了DSpark,一种投机解码方法,可将V4 Flash和Pro的吞吐量提升51%至400%,同时还开源了DeepSpec代码库,用于训练和评估草稿模型。
DGX Sparks与新模型:我的测试与结果
本文介绍了在NVIDIA DGX Sparks硬件上测试DeepSeek V4 Flash和Qwen3.8等AI模型的结果,详细说明了性能指标、上下文长度、基准分数以及操作见解。