DGX Monarch - 双 DGX Spark 通过 ComfyUI 实现双路渲染

Reddit r/LocalLLaMA 工具

摘要

DGX Monarch 是个人开发的开源项目,让使用者能在双 DGX Spark 集群上通过 ComfyUI 进行图像/视频生成,达到近 2 倍的渲染速度提升,支持 BF16/FP8/NVFP4/INT8 等多种精度。作者同时分享了使用 AI 辅助开发此项目所耗费的各平台订阅成本。

对于那些一直想用双 Spark 集群通过 ComfyUI 做图像/视频生成的朋友来说——今天就是你们的日子。这个个人项目我从今年四月开始开发,现在已经到了可以放心公开发布的阶段。简单来说:用这个仓库,你能获得接近 2 倍的渲染速度。效果因模型和设置而异。支持 BF16/FP8/NVFP4/INT8 等精度,具体取决于模型。不支持 GGUF。 仓库链接:https://github.com/Deen-Media/dgx-monarch(强烈建议在读完 README 后再看 FAQ) 接下来的内容会无聊得多,如果你只想直接上手使用,可以跳过。警告已经发出,我可不退还你阅读到这里所花的任何时间,尤其是读完整篇文章的话。 更多字。四个毫无意义的字。好,检查完毕。 在你问之前——是的,我在开发过程中大量使用了 AI。但我大部分时间都花在验证输出结果和性能,以及实际使用这个项目上。至于可维护性,我一直在并将继续尽我所能保持我所建立的开发工作流的更新,以便能安全地加入新模型而不破坏任何现有功能。我不打算分享这些开发工作流,因为就我个人而言,考虑到确保它们可以安全分享所需的精力,我认为分享它们没有多大价值。需要澄清的是,我指的是我个人的 AI Agent 开发工作流,而不是仓库中附带的 ComfyUI 示例工作流。在我看来,这类工作流应该由你自己来构建和定制。我完全预期会有 AI 生成的 PR,我也明白说到底不过是你的垃圾代码对抗我的垃圾代码。我唯一的要求是:你真正坐下来验证/渲染/测试你的改动,并附上结果。我也需要时间来审查和测试,请耐心等待。我非常喜欢使用这个工具,并希望继续使用下去。维护对我来说是次要的,但讽刺的是,使用和维护是相辅相成的。用 vibe coding 做一个小项目很容易,但用 vibe 维护一个大项目非常困难且昂贵(不仅是时间,更是金钱)。 为了透明起见,像这样的项目从开始到现在,每周都会把我的以下订阅额度耗尽(我说的是 0% 归零): OpenAI: - 1 个 Astra $200 账号*(现已升级为 Astra $500 账号**) - 1 个 Business Astra 席位 *我利用了每一次累积/全球重置的机会,在全球重置上运气不错。 **纯粹是为了在社区获得一两个小时提前通知的全球随机重置时,用超快速度(其实主要是为了利用重置额度)尽快关闭那些质量很差的 PR。而且我很享受付两倍多的钱,换来大致相同的使用额度。 Anthropic: - 1 个 Fable $200 账号 - 1 个 Business Fable 席位 Cursor: - 1 个 Fable $200 账号(Grok 没有碰过可运行的代码,它有别的用途) Google: - 1 个 Ultra $250 账号(别慌——Gemini 也没碰过可运行的代码) (注:这个项目启动的时候,Astra/Fable 还不存在。那时候挺好玩的。) 只要条件允许,我会继续维持这些订阅,因为我还有其他项目打算在未来几个月内发布(更多 DGX 相关的)。但总有一天,继续维持所有这些订阅将不再合理。无论是因为本地模型终于足够强大和高效来处理我的工作流,还是前沿模型成本飙升、使用额度随着补贴时代的结束而缩水,又或者项目本身不再需要高水平的维护(不太可能)。 就这些,感谢阅读。
查看原文

相似文章

入手了两台 DGX Spark。既兴奋又困惑!

Reddit r/LocalLLaMA

一位用户分享了购买两台 Nvidia DGX Spark(约6100美元/台)的经历,用于学习和编程工作流,并询问 GLM 5.3 flash 的本地部署配方以及 Nvidia 论坛是否是获取相关资讯的最佳渠道。

Deepseek V4 flash 在 DGX Spark 上的性能

Reddit r/LocalLLaMA

一位 Reddit 用户分享了在双华硕 GX10 DGX Spark 配置上运行 DeepSeek V4 Flash 的经验,详细介绍了性能指标、配置和功耗,并提供了不同上下文长度下的吞吐量基准测试结果。