@PyTorch: 信息流动得越快,进步也就来得越快,而这正是开源真正闪耀的地方……
摘要
在首届 PyTorch Conference China 上,PyTorch Foundation 执行董事 Mark Collier 认为,开源能够通过加快硬件、模型和推理之间的信息流动来加速前沿 AI 的发展。他援引了 Shopify 每日基于 PyTorch 和 vLLM 在生产环境中迭代智能体的实践作为例证,并宣布 Alibaba Cloud(阿里云)、Ant Group(蚂蚁集团)和 Cambricon(寒武纪)成为基金会的新成员。
查看缓存全文
缓存时间: 2026/09/30 22:12
“信息流动得越快,进展就越快——而这恰恰是开源真正大放异彩的地方。”
在 2026 年中国 PyTorch 大会上,PyTorch Foundation 执行董事 @sparkycollier 深入阐述了开源的价值——在 AI 硬件、模型架构和推理引擎快速演进的当下,开源的推动作用尤为重要。
在他的主题演讲《在开放环境中构建前沿智能》中,Mark 将这一挑战描述为硬件、模型与推理之间的协同问题,而信息的流动速度可能成为瓶颈。
Mark 以一个具体案例加以说明:@Shopify 在生产环境中部署智能体,当出现故障时,失败数据会通过 PyTorch 反馈到训练中,并通过 @vllm_project 重新上线服务,从而推动模型持续改进。
Mark 在上海的完整主题演讲:https://youtu.be/DAS-mrer7Os?si=BvoUetqmNvyN1wN8… 报名参加 2026 年 10 月 20–21 日在圣何塞举办的北美 PyTorch 大会: http://hubs.la/Q04qPqdB0
TL;DR:在首届中国 PyTorch 大会上,PyTorch Foundation 邀请者阐述了“信息流动速度决定前沿进展“的观点,用 vLLM、SGLang、Shopify 等案例说明开源如何加速模型训练与服务,并宣布 Alibaba Cloud、Ant Group、Cambricon 加入基金会,愿景是让任何模型能在任何芯片、任何云上被训练和服务。
在开放环境中构建前沿智能
开场:第一届中国 PyTorch 大会
“很荣幸能站在这里……这是在中国举办的第一届 PyTorch 大会。“讲者指出,这是一个大事件,同时也是把不同领域的专家汇聚到一起的机会。本次大会将活动本身与 Open Infra Foundation 及其开发者、CNCF 以及 PyTorch Foundation 结合在一起。
整个技术栈由很多层组成,需要在不同层面上协同工作。今天要讲的,正是 PyTorch Foundation 社区所推进的那一层——服务于这个时代的开源 AI,也就是构建和提供智能的那一层,讲者将其比喻为“我们每天用来驱动智能体的那些’大脑’“。
PyTorch Foundation 的项目与增长
PyTorch Foundation 目前已有六个项目,覆盖构建、服务、优化模型以及编排模型(如强化学习)的工作。讲者回顾了这条演进路径:
- Meta 在多年前开源了 PyTorch,那是一个了不起的时刻;
- 几年后,Meta 创建了非营利组织 PyTorch Foundation;
- 去年基金会进一步扩展,如今已承载六个关键项目。
过去一年的增长令人难以置信,而这并不意外:模型训练规模前所未有,“推理实际上已经超过训练”,成为数据中心中规模最大的工作负载。
具体数据方面:
- PyTorch 一年内贡献者数量增长了 44%
- vLLM 贡献者增长了 185%,其联合创始人也出席了本次大会
讲者强调,这些软件只有在使用者手中才真正有趣。
拥抱开放策略带来的收益
上午的 MiniMax 分享被作为一个典型案例:他们正在使用大量开源工具构建和发布前沿模型,同时开放模型权重,为下游创造收益——而这些收益真正让所有人受益。
讲者给出两个具体例子:
例一:ComfyUI 的第零天集成。 新模型发布后的 48 小时内,就已经完成了与 ComfyUI 的集成——这是一个非常流行的工具,人们用它处理视频模型、做出各种有趣且大胆的尝试。
例二:AMD 优化 MiniMax 开放权重模型。 就在当天刚发布的信息中,AMD 采用 MiniMax 的开放权重模型,借助被广泛采用的推理引擎 vLLM,在 19 天内针对全新的 AMD 架构完成优化,性能提升了 11 倍。
“同样的硬件,不到三周时间,性能提升 11 倍。“讲者评论道,在我们行业中这种情况以前从未真正存在过。在算力受限的时代,在软件层投入非常重要,而这一切离开开源都不可能实现。
速度定义前沿
归根结底,这一切关乎速度。回到几个月前甚至一年前,典型做法是训练与推理/服务截然分开:花几个月甚至更长时间训练一个模型,然后交给平台工程团队进行扩容和横向扩展,接着再训练下一个模型。这或许仍是今天一些企业的做法。
但在前沿的真正玩家那里,流程已经越来越接近持续学习的循环。在这种场景中,真正的瓶颈是信息的流动速度:
- 需要快速协调不断演进的硬件架构——新芯片、新一代硬件、新厂商不断进入 AI 加速器市场;
- 新的模型架构不断出现;
- 推理引擎也在快速迭代。
这本质上是一个协同问题。讲者总结道:“信息流动得越快,进展就能越快。而这恰恰是开源大放异彩的地方。”
以 vLLM 和 SGLang 为例,当新模型、开放模型发布时——Kimi K3、MiniMax 和 Qwen3.8——它们都实现了第零天的支持。这是大量开源工作付出的努力的结晶。任何一家公司、任何一个国家,或者任何试图以不那么协作的方式完成这件事的人,都绝无可能做到这一点。
Shopify:智能体在生产环境中的日常迭代
讲者回到真正的用户视角,以 Shopify 为例——全球最大的电子商务平台之一。
Shopify 已将智能体深度部署到自身业务中,直接服务于使用其平台的商户。他们的做法是:
- 让智能体在生产环境中运行;
- 每天如果智能体出现故障、没有正确回答问题,就直接把这个失败案例带回去用于 PyTorch 训练;
- 模型改进后,立刻通过 vLLM 重新上线服务。
“他们每天都在更新模型权重。“讲者感叹这令人震撼。
在衡量成果时,讲者强调前沿的定义不只是“谁的基准测试分数最高“(即所谓“刷榜“),还包括:试图解决什么问题、业务价值在哪里、成本是多少、速度有多快。Shopify 的实践实现了:
- 96% 的成本降低;
- 从一个开放的 2B 模型出发,进行缩放、强化学习、微调,让它快了很多倍;
- 最终达到每分钟 2000 次请求的处理量。
愿景:任何模型 × 任何芯片 × 任何云
PyTorch Foundation 的愿景相当宏大,需要全世界共同努力。讲者概括为一句话:
借助聚焦于模型训练和服务的开源软件,希望达到这样的境界——任何模型,都可以在任何芯片、任何云上进行训练和服务,为世界任何角落的任何智能体提供支持。
PyTorch Foundation 的成员企业在这些领域都是领导者,其中一些公司同时在多个领域投入:既训练模型,又制造芯片,还在生产环境中运行服务或运营云平台。讲者宣布了最新的成员变动:
- Alibaba Cloud:白金会员
- Ant Group:新的黄金会员
- Cambricon:新的白金会员
接口、CI 测试与上游贡献
为了实现上述愿景,讲者指出了基金会与合作企业需要共同投入的方向:
提供正确的接口。 在 PyTorch 等软件中必须提供正确的接口,以支持不同的后端。这需要上游贡献,才能真正启用不同的加速器。
CI 测试。 讲者表示“这一点我怎么强调都不为过“。基金会拥有庞大的 CI 测试基础设施,长期目标是能够针对全世界每一个加速器,对 PyTorch 的每一次提交进行测试。几天前刚发布的 PyTorch 2.14 已经可以看到进展:许多 AI 加速器公司正在直接向上游贡献代码,追求这一愿景。
组织与工作组。 组织这类活动是基金会最重要的工作之一。基金会设有加速器集成工作组(accelerator integration working group),由两位联合主席主持,他们将在第二天带来主题演讲——这是推进这项极其重要工作最关键的工作组之一。
结语:以华为为例
讲者最后表示,要举出对上游工作如此投入、并在实现愿景所需的各个领域都有所作为的公司,“我想不出比 Huawei 更好的例子”。他随即邀请 LeYoung(John)上台,分享华为正在做的贡献。
Source:PyTorch 大会演讲视频(https://www.youtube.com/watch?v=DAS-mrer7Os)
相似文章
@PyTorch: The PyTorch Foundation is the vendor-neutral home for the open source intelligence layer developers use for training, o…
The PyTorch Foundation is the vendor-neutral home for the open source intelligence layer developers use for training, optimizing, serving, orchestrating, and running models on ANY chip in ANY cloud for ANY agent explains @sparkycollier Executive Director of the PyTorch Foundation during keynote at #PyTorchCon China in Shanghai
@PyTorch: Live from Shanghai, @sparkycollier delivers his keynote, “Building Frontier Intelligence in the Open,” at PyTorch Confe…
Live from Shanghai, @sparkycollier delivers his keynote, “Building Frontier Intelligence in the Open,” at PyTorch Conference China 2026. Mark focuses on how PyTorch supports an open ecosystem where researchers, developers, model builders, and hardware companies can build and optimize AI across a growing range of models and compute. From open models to new accelerator architectures, Mark is exploring how open development expands who can build AI, helps breakthroughs move from experimentation to p
@PyTorch:中国有250多家机构为PyTorch基金会项目做出贡献,其中包括@DeepSpeedAI、Helion、PyT…
中国已有250多家机构加入PyTorch基金会,阿里云、Cambricon和蚂蚁集团获得了相应会员等级,这些机构的代表还将在上海举行的PyTorch中国大会上发表主题演讲。
@PyTorch: 没有任何单个项目、公司或社区能独自构建 AI 技术栈。在模型、框架、云原生技术…
这条推文强调了开源社区之间的协作,包括来自 Linux Foundation、Ant Group、Huawei 和 TCC 的演讲者,在 KubeCon、OpenInfraSummit 和 PyTorch Con China 2026 等活动中,以构建一个可互操作的 AI 生态系统。
@PyTorch: 开源放大全栈优势,实现最低令牌成本。PyTorch就是一个典型例子:自推出以来……
NVIDIA详细介绍了其与PyTorch等开源生态系统共同开发的全栈推理软件,如何在Blackwell GPU上将令牌成本降低多达5倍,来自Baseten、Cognition、Deep Infra等的实际部署展示了性能提升。