@modal:Tinker 改变了人们进行后训练的方式。我们非常喜欢它,与我们合作的许多团队也一样。但随着这些团队……
摘要
Modal 发布 Spindle,一个开源、与 Tinker 兼容的训练服务器,可在 Modal 工作区中运行,让现有 Tinker 脚本无需改动即可迁移,并以 GPU 时间计费取代按 token 计费。
查看缓存全文
缓存时间: 2026/10/22 21:43
Tinker 改变了人们进行后训练的方式。我们是它的忠实拥趸,与我们合作的许多团队也是如此。但随着这些团队的规模不断扩大,他们反复提到同样的两个问题:按 token 计费的成本很快就会攀升,而且你只能使用服务提供商决定支持的模型和功能。
我们认为,一个好的 API 值得拥有不止一种实现。
今天,我们发布了 Spindle,这是一个开源、兼容 Tinker 的训练服务器,可在你的 Modal 工作区中运行。你现有的 Tinker 脚本无需修改即可运行,而且由于服务器由你掌控,你支付的是 GPU 使用时间的费用,而不是 token 费用。
相似文章
@modal: 了解 @ProximalHQ 如何利用 Modal Clusters 构建自研后训练技术栈,实现按需多节点集群与 GPU 自动扩缩容……
Proximal 分享了其基于 Modal Clusters 构建的自研后训练基础设施,实现按需多节点集群与 GPU 自动扩缩容,以应对突发推理负载并打造高质量训练数据。
@quasagroup: Modal Review: Run AI Workloads Without Managing Servers https://youtu.be/a8vuwYK90-Q?si=vYj7YpobSXGNCDpQ… via @YouTube
Modal 是一个专为 AI 工作负载设计的无服务器云平台,支持推理、训练和沙箱,通过纯 Python 代码实现从零到上千 GPU 的瞬间扩展,大幅降低延迟并加速产品上市。
@modal: 在 Modal Runtime 上刚刚发布: - 多节点集群 - VM 沙箱 - 沙箱 Sidecar - 粘性会话 更多内容:
Modal 在 Modal Runtime 活动上宣布了多项新功能,包括多节点集群、VM 沙箱、沙箱 Sidecar 以及粘性会话,进一步扩展其面向可扩展 AI 和计算工作负载的平台能力。
@modal:@datologyai 团队通过在 Modal 上生成大量合成数据,对其 Curation Studio 进行了大规模测试,扩展……
DatologyAI 发布 Curation Studio,面向训练自研模型的团队提供可定制的前沿数据筛选服务,并在 Modal 上利用数百块 B300 GPU 进行大规模合成数据测试验证。
@modal: @vllm_project 和 @sgl_project 服务器在 Modal 上的新副本启动速度提升 3-10 倍。阅读文章了解具体实现方式 ——…
Modal 宣布,通过优化 GPU 健康管理和 CUDA 上下文检查点机制,vLLM 和 SGLang 服务器副本的启动速度提升了 3-10 倍。