我们构建了一个工具,可以在任何云GPU上一键安装ComfyUI、Ollama、OpenWebUI等框架,并在会话之间保存您的完整设置 [R]

Reddit r/MachineLearning 工具

摘要

swm 是一个开源工具,通过一键安装ComfyUI、Ollama等框架来简化云GPU的使用,并能在会话之间自动保存整个工作区,从而实现跨提供商的无缝迁移。

我们每次租用GPU来运行Ollama + OpenWebUI或ComfyUI时都会遇到同样的问题:头45分钟都在重新安装所有东西。自定义节点、模型、配置,全都得重来。Docker镜像很快过时,不同提供商有不同的基础镜像,没有什么是真正可移植的。我们受够了,于是构建了swm。以下是它为ComfyUI用户提供的具体功能: swm gpus -g a100 --max-price 2.00 --sort price 可以在一个视图中显示RunPod、Vast ai、Lambda及其他7个提供商中最便宜的可用GPU。 swm pod create — 在你选择的任何提供商上启动一个实例。 swm setup install comfyui — 在pod上安装ComfyUI。 接下来的重点是工作区同步。你的整个设置——自定义节点、模型、输出、配置——都存储在兼容S3的对象存储中(我使用B2)。完成后,运行 swm pod down,它会推送所有内容,终止实例,下次你在任何提供商上启动时只需拉取,一切都会恢复到原来的状态。再也不需要每次会话重新安装15个自定义节点和重新下载检查点了。 我们还构建了一个生命周期保护机制,因为我们经常在会话中睡着,醒来后看到愚蠢的账单。它会监控GPU利用率,如果30分钟(可配置)内没有活动,就会自动保存工作区并终止。节省的钱多到我们都不好意思承认了,哈哈。 其他一些功能: * 后台自动同步守护进程每60秒推送更改,这样你就不用记着去保存了。 * 针对包含大量小文件的大型工作区的Tar模式,将所有内容打包成一个S3对象,而不是60万次单独上传。 * 如果你不仅仅是使用Stable Diffusion,它还支持vLLM、Ollama、Open WebUI、SwarmUI和Axolotl。 * 与Cursor、Claude Code、Codex、Windsurf兼容,如果你想让你的AI代理为你管理GPU实例。 免费、开源、Apache 2.0许可证。pipx install swm-gpu 网站:[https://swmgpu.com](https://swmgpu.com/) GitHub:[https://github.com/swm-gpu/swm](https://github.com/swm-gpu/swm) 欢迎任何租用GPU的人提供反馈。你当前工作流中最烦人的部分是什么?我们也正在寻找开源仓库的贡献者,以及关于要包含的新框架/扩展的建议。请分享你的想法。
查看原文

相似文章

Comfy-Org/ComfyUI

GitHub Trending (daily)

ComfyUI is an open-source, modular node-based AI engine for generating images, videos, 3D models, and audio, with support for state-of-the-art open-source models and cloud/desktop deployment.