RunPod、Vast.ai 和 AWS 上 Spot/可抢占型 H100 和 A100 定价 - 2026 年 6 月数据 [D]

Reddit r/MachineLearning 新闻

摘要

截至 2026 年 6 月,RunPod、Vast.ai 和 AWS 上 H100 和 A100 的 Spot/可抢占型 GPU 定价分析,指出了显著折扣但也存在波动性和可用性问题。

基于前几周按需比较的跟进——这次拉取了 Spot/可抢占型定价,因为这才是真正谈论节省成本的地方,适用于任何运行检查点训练或批处理作业的场景。检查时间:2026 年 6 月。Spot/可抢占型层级,单 GPU。 ~ H100 80GB - Spot/可抢占型 RunPod:$1.80-$2.40/小时,社区 Spot,可随时终止且无通知。 Vast.ai:$1.47-$2.00/小时(在较冷门市场中低至 $1.03/小时),范围广泛,取决于主机。 AWS(P5,Spot):技术上可用,$2.50-$3.10/小时,极其有限,经常在任何价格下都不可用。 ~ A100 80GB - Spot/可抢占型 RunPod:社区 Spot 低至 $0.20-0.40/小时(高波动性),这一端的可靠性快速下降。 Vast.ai:通常 $0.67/小时,更低价格对应可靠性较低的主机,市场竞拍,价格因主机评分而异。 AWS(P4d,Spot):约 $1.00-1.50/小时,比 P5 Spot 更稳定可用。 最突出的点是:Spot 相比按需的折扣是真实的——H100 优惠 40-60%,A100 有时更多——但提供商之间 Spot 的价差远大于按需。你比较的不是苹果对苹果,而是苹果对“此时从卡车上掉下来的任何东西”。AWS 上 H100(P5)的 Spot 目前更像是一个理论价格点,而非实用价格——可用性太低,以至于“查了价格”和“实际能拿到一个”是两个不同问题。Vast.ai 的最低价看起来很诱人,直到你查看主机可靠性评分。$0.67/小时的 A100 和 $1.50/小时的 A100 不是同一个产品,尽管它们以相同方式列出。这个层级只有在你作业检查点做得好的情况下才有意义——任何面向客户或延迟敏感的工作,Spot 都不值得冒险,无论价格如何。我不卖任何东西,只是为自己的训练运行追踪这些数据,并猜测这里其他人也在做同样的计算。有没有人现在真的在生产批处理作业中使用 Spot?好奇你们实际遇到的打断率与宣传的是否一致。
查看原文

相似文章