runpod

开发者发布免费工具 ModelAnalysis.si，可跨 450+ 模型计算 API 调用与自托管（RunPod 租用 GPU）之间的成本盈亏平衡点，支持输入/输出 token 量与缓存命中率调节、VRAM 量化规格估算，以及基于实时定价和 ELO 排名的帕累托前沿分析。

Runpod 发布 FlashBoot，一种针对 AI 模型的无服务器方案，将空闲模型迁移到更便宜的存储，并在需要时将其调回 GPU，冷启动时间低于 200 毫秒，相比传统云服务降低成本 90%。

截至 2026 年 6 月，RunPod、Vast.ai 和 AWS 上 H100 和 A100 的 Spot/可抢占型 GPU 定价分析，指出了显著折扣但也存在波动性和可用性问题。

一条推文讨论了在中文模型上使用企业数据进行微调，并将其部署到Runpod serverless，作为昂贵API调用的经济高效的替代方案。