@modal: 了解 @ProximalHQ 如何利用 Modal Clusters 构建自研后训练技术栈,实现按需多节点集群与 GPU 自动扩缩容……
摘要
Proximal 分享了其基于 Modal Clusters 构建的自研后训练基础设施,实现按需多节点集群与 GPU 自动扩缩容,以应对突发推理负载并打造高质量训练数据。
查看缓存全文
缓存时间: 2026/10/08 22:06
看 @ProximalHQ 如何使用 Modal Clusters 构建自定义后训练(post-training)技术栈,实现按需创建多节点集群和 GPU 自动扩缩容,以应对突发性推理工作负载。
Proximal (@ProximalHQ): 在 Proximal,我们相信构建自己的研究基础设施对于设计最高质量的训练数据至关重要
今天,我们将分享更多关于内部后训练技术栈的信息
相似文章
@modal:@datologyai 团队通过在 Modal 上生成大量合成数据,对其 Curation Studio 进行了大规模测试,扩展……
DatologyAI 发布 Curation Studio,面向训练自研模型的团队提供可定制的前沿数据筛选服务,并在 Modal 上利用数百块 B300 GPU 进行大规模合成数据测试验证。
@modal:Tinker 改变了人们进行后训练的方式。我们非常喜欢它,与我们合作的许多团队也一样。但随着这些团队……
Modal 发布 Spindle,一个开源、与 Tinker 兼容的训练服务器,可在 Modal 工作区中运行,让现有 Tinker 脚本无需改动即可迁移,并以 GPU 时间计费取代按 token 计费。
@quasagroup: Modal Review: Run AI Workloads Without Managing Servers https://youtu.be/a8vuwYK90-Q?si=vYj7YpobSXGNCDpQ… via @YouTube
Modal 是一个专为 AI 工作负载设计的无服务器云平台,支持推理、训练和沙箱,通过纯 Python 代码实现从零到上千 GPU 的瞬间扩展,大幅降低延迟并加速产品上市。
@modal: 在 Modal Runtime 上刚刚发布: - 多节点集群 - VM 沙箱 - 沙箱 Sidecar - 粘性会话 更多内容:
Modal 在 Modal Runtime 活动上宣布了多项新功能,包括多节点集群、VM 沙箱、沙箱 Sidecar 以及粘性会话,进一步扩展其面向可扩展 AI 和计算工作负载的平台能力。
@charles_irl: 推理并非一切,但它确实需要一个新的技术栈——不是 Kubernetes,也不是 SLURM。在 @modal,我们深入探索构建…
Modal 工程师详细介绍了他们实现真正无服务器 GPU 用于 AI 推理的方法,结合了云缓冲区、自定义内容寻址文件系统以及 CPU/GPU 检查点/恢复,从而在几十秒内(而不是几分钟)扩展副本。