模型训练完成后,Nemo 已将 @deepseek_ai V4 Flash 在我的 2 节点 @NVIDIAAI DGX 集群上重新上线,我能够...
摘要
Michael Gannotti 分享道,在完成模型训练后,他已将 DeepSeek 的 V4 Flash AI 模型在其 NVIDIA DGX 集群上重新上线,这使他能够恢复本地推理以运行智能体。
查看缓存全文
缓存时间: 2026/08/24 03:46
训练完成后,我已让 @deepseek_ai V4 Flash 模型在2节点 @NVIDIAAI DGX 集群上重新上线,现在又能在本地推理中运行所有智能体了 https://t.co/ihwq5D3M58
相似文章
@MichaelGannotti: 在2个@NVIDIAAI DGX Sparks上工作
DeepSeek-V4.1-Flash AI模型被用于NVIDIA DGX Spark单元上,以自动执行内核工作、读取项目文档并开启pull request,展示了软件开发中的真实AI自动化。
@0xSero: Deepseek-V4-Flash 帮助我设置 Nvidia 的 Dynamo 进行分离推理。我已经让这个模型成为…
用户 @0xSero 分享说 Deepseek-V4-Flash 正在帮助他们设置 Nvidia 的 Dynamo 进行分离推理,他们发现它在代理工作流和编程方面非常强大,现在已经在本地使用它替代了 Claude。
DeepSeek v4.1 Flash
DeepSeek 推出了 DeepSeek-V4.1-Flash,这是一款旨在增强能力、提升推理速度、实现原生视觉理解并具备可扩展性的新型 AI 模型,是其最新架构系列的一部分。
@MiaAI_lab: 刚刚为您的 2 台 DGX Sparks 升级了 DeepSeek v4 Flash。单次每秒 66.6 tokens,6 个并发会话时可达 153.7 tokens/秒……
MiaAI Lab 发布了一项升级方案,用于在两台 DGX Spark 节点上使用 vLLM 结合 DSpark 推测解码和 NVFP4 KV-cache 来部署 DeepSeek V4 Flash,在六个并发会话中实现了高达 153.7 tokens/秒 的吞吐量。
DeepSeek-V4-Flash 284B 在 5.3GB 内存上运行
一位开发者展示了 Mference,这是一个新的推理引擎,通过从 SSD 流式加载专家,仅用约 5.3GB 内存即可运行 MoE 模型(如 DeepSeek-V4-Flash),并配有原生 Mac 应用和兼容 OpenAI 的服务器。