@PyTorch: 想了解更多基于全新 PyTorch 原生 TPU 后端 TorchTPU 构建的新 vLLM 和 SGLang 引擎?去认识 Qi Zhou 等人……
摘要
PyTorch Conference North America 演讲预告:来自 Google 和 Meta 的演讲者将介绍 TorchTPU——一个 PyTorch 原生的 TPU 后端,让 vLLM 和 SGLang 能够在 TPU 上原生运行,同时保留现有的调度器、批处理系统、OpenAI 兼容 API 以及 torch.compile 工作流。
查看缓存全文
缓存时间: 2026/10/01 22:29
想了解更多关于基于全新 PyTorch 原生 TPU 后端 TorchTPU 构建的新版 vLLM 和 SGLang 引擎吗?
在圣何塞举办的 PyTorch Conference North America 上,来找到 Google 的 Qi Zhou、Meta 的 Colin Taylor 和 Angela Yi。他们将介绍如何着重让现有的 @sgl_project 和 @vllm_project 基础设施原生运行在 TPU 上,同时保留 GPU 用户已经熟悉的调度器、批处理系统、OpenAI 兼容 API 以及 torch.compile 工作流。
由于这些服务引擎仍保持在上游,新模型和新功能无需专门的 TPU 实现即可在 TPU 上运行。了解它在各技术栈中如何工作,以及他们在生产环境中积累的经验,涵盖编译时间、tracing 下的设备放置、KV 缓存布局和跨芯片集合通信等。
现在就注册 #PyTorchCon NA:https://hubs.la/Q04v4SL60
注册 | PyTorch Conference North America:深度学习大会
来源:https://events.linuxfoundation.org/pytorch-conference-north-america/register/?utm_campaign=41307495-PyTorch%20Conference%202026%20-%20North%20America&utm_source=Speakers
**开源 AI 的下一步走向在此揭晓。**不要错过!
PyTorch Conference 票价
各档位的报名截止时间为相应日期太平洋时间晚上 11:59。
普通参会者
超级早鸟价 Mar 31–Apr 10, 2026
早鸟价 Apr 11–Jul 31, 2026
标准价 Aug 1–Sep 4, 2026
晚期票 Sep 5–Oct 21, 2026
$ 999 USD
学术人员*
超级早鸟价 Mar 31–Apr 10, 2026
早鸟价 Apr 11–Jul 31, 2026
标准价 Aug 1–Sep 4, 2026
晚期票 Sep 5–Oct 21, 2026
$ 249 USD
团队报名?一次购买 10 张及以上门票可享受 85 折优惠。请联系[email protected]以领取优惠。
*须提供学生/教职员工身份证明
报名包含什么?
您的 PyTorch Conference 注册包括:
- 全部大会内容——主旨演讲、会议分论坛、圆桌讨论等。
- 社交活动与交流活动:Flare Party
- 社区博览会入场资格
- 午餐、上午和下午的咖啡与茶点
- 大会周边礼品
- 精彩的 AI 社区派对,DE LA SOUL 为你现场演出
注册类型
学术人员: 学术与学生注册适用于当前全职在读学生及教职员工。符合条件的申请人需要上传有效的、由所在机构签发并显示有效期的证件副本、当前学期成绩单,或在报名时证明自己是全职学生或教职员工的在职证明。如有任何疑问,请联系[email protected]。
小微企业: 我们的小微企业报名折扣适用于年收入低于 500 万美元且员工少于 30 人的公司。请联系[email protected]获取小微企业报名折扣码。
演讲嘉宾: 您应该已在接受邀请的邮件中收到注册链接。若未收到,请联系[email protected]了解更多详情。
赞助商: 注册链接已通过邮件发送至贵公司的赞助对接人。如需以赞助商身份注册,请联系贵公司的赞助对接人。如有其他问题,请发送邮件至[email protected]。
媒体: 如果您是媒体从业者,希望参加此次活动,但尚未收到免费入场码,请联系[email protected],我们的公关团队会与您联系。
其他信息
温馨提示: 我们从不出售参会者名单或联系信息,也不授权他人这样做。如果您收到声称出售 Linux Foundation 活动参会者名单的邮件,请将其转发至[email protected]。
奖学金
了解有关奖学金与差旅资助的更多信息。
发票与出席证明
注册发票: 您可以在完成报名后收到的确认邮件中,于付款收据信息部分下载发票收据。如果下载的发票收据不能满足您的需求,或者您需要重新发送确认邮件,请提交申请。请在申请中说明您对发票收据的额外自定义要求。
出席证明: 您可以直接从您的 LFX 个人资料面板下载出席证明,在 LF Events 栏目下的“过往活动“部分中获取。请注意:我们通过报名系统核验出席情况,出席证明仅在活动结束后开放下载。
退款政策
取消报名: 如果因故必须取消,请重新登录您的报名信息,点击“Register/Modify“按钮,然后选择“Unregister“。仅在主活动开始前两周内收到的取消申请(包括批量购票发票申请、同期活动及附加服务)方可获得退款,退款将在取消后 7 至 10 个工作日内以信用卡退款的形式显示在账单上。退款仅能退回至原支付所用的信用卡。
请注意,所有退款均需收取6% 的手续费。
转让登记: 如果您无法出席,可以将报名转让给其他参会者。要转让报名,请重新登录您的报名信息,点击“Register/Modify“按钮,然后在确认页面上选择“Transfer Registration“。如需进一步协助,请发送邮件至[email protected]。
相似文章
@PyTorch:认识 @Meta 的软件工程师 Zongwei Zhou,他将担任 #PyTorchCon 北美峰会主题演讲嘉宾。了解 TorchTPU 和……
PyTorch Conference North America(10月20-21日,圣何塞)聚焦主题演讲嘉宾 Zongwei Zhou——Meta 软件工程师,他将探讨如何通过 TorchTPU 和智能体驱动的开发方式,让复杂的 AI 工作负载在不同硬件之间实现可移植性和高性能。
@PyTorch:@Google 与 @Meta 推出 TorchTPU,实现 Google TPU 的原生 PyTorch 支持!真正的 eager 执行与 torch.compile 后端……
Google 与 Meta 联合发布开源项目 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,支持真正的 eager 执行与 torch.compile 集成,并在 Llama 3 405B 和 Qwen 3 MoE 上实现近线性扩展。
Google 与 Meta 为 TPU 带来原生 PyTorch 支持(17 分钟阅读)
Google 与 Meta 合作开发 TorchTPU,这是一个面向 Google TPU 的开源原生 PyTorch 后端,支持开箱即用的运行、eager 模式以及与 torch.compile 的集成,性能具有竞争力,取代了 PyTorch/XLA 的诸多限制。
@PyTorch:在PyTorch Conference North America 2026上,直接聆听并与PyTorch、@vllm_project等工作者交流。
PyTorch Conference North America 2026将举办与PyTorch及相关项目专家的讨论会,重点关注AI框架、推理引擎和硬件集成的最新进展。
Google 开源 TorchTPU:面向 TPU 的原生 PyTorch 后端
Google 开源了 TorchTPU,这是其 TPU 的原生 PyTorch 后端,支持自定义 ATen 内核、XLA 编译缓存、torch.compile() 集成以及分布式训练,并提供了 Llama、Qwen 和 ResNet 等模型的示例。