gpu-provisioning

SkyPilot是一个开源工具，可自动在18个云提供商中寻找并配置最便宜的GPU用于AI工作负载，通过竞价实例和自动管理将成本降低高达10倍。

TurboServe 是一个专为流式视频生成工作负载设计的服务系统，采用在线调度方法，协调会话放置和 GPU 资源分配，以降低延迟和成本。