h100

一个拥有1.17亿参数的Silia模型在H100 GPU上使用8200万个token训练了5小时。该模型严重欠训练，但提供了与nanoGPT的对比。

截至 2026 年 6 月，RunPod、Vast.ai 和 AWS 上 H100 和 A100 的 Spot/可抢占型 GPU 定价分析，指出了显著折扣但也存在波动性和可用性问题。

Red Hat 演示了使用推测解码可以将 LLM 推理速度从 145 tokens/秒提升至 424 tokens/秒，且使用相同 H100 硬件，质量无损失，凸显了面向生产服务的一项重要优化。

分析了AI算力因非可互换性而无法成为商品的观点，用商品市场类比表明标准参考加基差交易可能实现商品化。

DiffusionGemma 的内部测试显示，在实际工作负载下，H100 与 A100 GPU 之间存在显著的性能差异；H100 在并发下的扩展性更好，且效率因工作负载类型而异，这引发了对基准测试可靠性的质疑。

SANA世界模型的因果版本已发布，可在单个H100 GPU上实现接近实时的视频生成推理，并附带开源代码和演示。

一位用户注意到英伟达 H100 GPU 似乎突然从所有云平台上消失了，引发了关于供应限制的讨论。

该基准测试将 Gemma 4 的多 Token 预测 (MTP) 与 z-lab 的 DFlash 推测性解码方法在单张 H100 GPU 上进行了比较，结果显示 MTP 在密集模型上更快，而 DFlash 在 MoE 模型上更快。

SpaceXAI 与 Cursor 联手构建先进的编程与知识工作 AI，结合 Cursor 的开发者触达能力与 SpaceX 百万 H100 等效 Colossus 超算。

10 万卡 H100 数据中心的大致估算数字，取整至便于快速心算的数量级：- 仅 GPU：~30 亿美元 - 完整数据中心：~50 亿美元 - 功耗：~0.2 GW - 年用电量：1 TWh - 年电费：~5000 万美元