我们构建了一个工具,可以在任何云GPU上一键安装ComfyUI、Ollama、OpenWebUI等框架,并在会话之间保存您的完整设置 [R]
摘要
swm 是一个开源工具,通过一键安装ComfyUI、Ollama等框架来简化云GPU的使用,并能在会话之间自动保存整个工作区,从而实现跨提供商的无缝迁移。
我们每次租用GPU来运行Ollama + OpenWebUI或ComfyUI时都会遇到同样的问题:头45分钟都在重新安装所有东西。自定义节点、模型、配置,全都得重来。Docker镜像很快过时,不同提供商有不同的基础镜像,没有什么是真正可移植的。我们受够了,于是构建了swm。以下是它为ComfyUI用户提供的具体功能:
swm gpus -g a100 --max-price 2.00 --sort price 可以在一个视图中显示RunPod、Vast ai、Lambda及其他7个提供商中最便宜的可用GPU。
swm pod create — 在你选择的任何提供商上启动一个实例。
swm setup install comfyui — 在pod上安装ComfyUI。
接下来的重点是工作区同步。你的整个设置——自定义节点、模型、输出、配置——都存储在兼容S3的对象存储中(我使用B2)。完成后,运行 swm pod down,它会推送所有内容,终止实例,下次你在任何提供商上启动时只需拉取,一切都会恢复到原来的状态。再也不需要每次会话重新安装15个自定义节点和重新下载检查点了。
我们还构建了一个生命周期保护机制,因为我们经常在会话中睡着,醒来后看到愚蠢的账单。它会监控GPU利用率,如果30分钟(可配置)内没有活动,就会自动保存工作区并终止。节省的钱多到我们都不好意思承认了,哈哈。
其他一些功能:
* 后台自动同步守护进程每60秒推送更改,这样你就不用记着去保存了。
* 针对包含大量小文件的大型工作区的Tar模式,将所有内容打包成一个S3对象,而不是60万次单独上传。
* 如果你不仅仅是使用Stable Diffusion,它还支持vLLM、Ollama、Open WebUI、SwarmUI和Axolotl。
* 与Cursor、Claude Code、Codex、Windsurf兼容,如果你想让你的AI代理为你管理GPU实例。
免费、开源、Apache 2.0许可证。pipx install swm-gpu 网站:[https://swmgpu.com](https://swmgpu.com/) GitHub:[https://github.com/swm-gpu/swm](https://github.com/swm-gpu/swm)
欢迎任何租用GPU的人提供反馈。你当前工作流中最烦人的部分是什么?我们也正在寻找开源仓库的贡献者,以及关于要包含的新框架/扩展的建议。请分享你的想法。
相似文章
@heygurisingh: 卧槽……一个团队刚刚开源了一个 AWS 模拟器,仅用 13 MiB 内存就能在笔记本上运行整个云服务。……
Floci 是一个新开源的轻量级 AWS 模拟器,仅用 13 MiB 内存即可在笔记本上运行 45 项服务,为 LocalStack 等基于 Docker 的工具提供了更快速、更节省资源的替代方案。
Comfy-Org/ComfyUI
ComfyUI is an open-source, modular node-based AI engine for generating images, videos, 3D models, and audio, with support for state-of-the-art open-source models and cloud/desktop deployment.
@motatoeshq: 我们如何将 opencomputer.dev 扩展到 100 万个沙盒
OpenComputer 为 AI 智能体提供长期运行、持久化的云虚拟机,支持有状态、始终在线的计算,并允许动态调整资源,作为临时沙盒的替代方案。
我为TradingAgents框架构建了一个本地GUI——兼容Ollama
一位开发者给TradingAgents多智能体LLM股票分析框架构建了本地Web GUI,支持多种LLM提供商,并添加了实时管线可视化、报告阅读器和多会话聊天等功能。
我们构建了首个用于匹配开源LLM与GPU的交互式博客。
AgentSwarms推出了一款交互式、游戏化的博客,通过根据模型大小和量化方式计算VRAM需求,帮助用户将开源LLM与合适的GPU匹配,将基础设施规划转变为一种引人入胜的体验。