@PyTorch: 想了解更多基于全新 PyTorch 原生 TPU 后端 TorchTPU 构建的新 vLLM 和 SGLang 引擎？去认识 Qi Zhou 等人……

X AI KOLs Following 事件
pytorch tpu inference vllm sglang conference torchtpu

摘要

PyTorch Conference North America 演讲预告：来自 Google 和 Meta 的演讲者将介绍 TorchTPU——一个 PyTorch 原生的 TPU 后端，让 vLLM 和 SGLang 能够在 TPU 上原生运行，同时保留现有的调度器、批处理系统、OpenAI 兼容 API 以及 torch.compile 工作流。

想了解更多基于全新 PyTorch 原生 TPU 后端 TorchTPU 构建的新 vLLM 和 SGLang 引擎吗？ 请在 PyTorch Conference North America（圣何塞）上找到来自 @Google 的 Qi Zhou，以及来自 @Meta 的 Colin Taylor 和 Angela Yi。他们将讲述如何聚焦于让现有的 @sgl_project 和 @vllm_project 基础设施在 TPU 上原生运行，同时保留 GPU 用户已经熟悉的调度器、批处理系统、OpenAI 兼容 API 以及 torch.compile 工作流。 由于服务引擎仍保留在上游，新的模型和功能无需专门的 TPU 实现即可在 TPU 上运行。欢迎了解这些内容如何贯穿各个技术栈，以及他们在生产环境中实践所获得的经验，包括编译时间、tracing 下的设备放置、KV 缓存布局和跨芯片集合通信（collectives）。 立即报名 #PyTorchCon NA：https://hubs.la/Q04v4SL60
查看原文
查看缓存全文

缓存时间: 2026/10/01 22:29

想了解更多关于基于全新 PyTorch 原生 TPU 后端 TorchTPU 构建的新版 vLLM 和 SGLang 引擎吗？

在圣何塞举办的 PyTorch Conference North America 上，来找到 Google 的 Qi Zhou、Meta 的 Colin Taylor 和 Angela Yi。他们将介绍如何着重让现有的 @sgl_project 和 @vllm_project 基础设施原生运行在 TPU 上，同时保留 GPU 用户已经熟悉的调度器、批处理系统、OpenAI 兼容 API 以及 torch.compile 工作流。

由于这些服务引擎仍保持在上游，新模型和新功能无需专门的 TPU 实现即可在 TPU 上运行。了解它在各技术栈中如何工作，以及他们在生产环境中积累的经验，涵盖编译时间、tracing 下的设备放置、KV 缓存布局和跨芯片集合通信等。

现在就注册 #PyTorchCon NA：https://hubs.la/Q04v4SL60

注册 | PyTorch Conference North America：深度学习大会

来源：https://events.linuxfoundation.org/pytorch-conference-north-america/register/?utm_campaign=41307495-PyTorch%20Conference%202026%20-%20North%20America&utm_source=Speakers

**开源 AI 的下一步走向在此揭晓。**不要错过！

PyTorch Conference 票价

各档位的报名截止时间为相应日期太平洋时间晚上 11:59。

普通参会者

超级早鸟价 Mar 31–Apr 10, 2026
早鸟价 Apr 11–Jul 31, 2026
标准价 Aug 1–Sep 4, 2026
晚期票 Sep 5–Oct 21, 2026

$ 999 USD

学术人员*

超级早鸟价 Mar 31–Apr 10, 2026
早鸟价 Apr 11–Jul 31, 2026
标准价 Aug 1–Sep 4, 2026
晚期票 Sep 5–Oct 21, 2026

$ 249 USD

团队报名？一次购买 10 张及以上门票可享受 85 折优惠。请联系[email protected]以领取优惠。

*须提供学生/教职员工身份证明

报名包含什么？

您的 PyTorch Conference 注册包括：

  • 全部大会内容——主旨演讲、会议分论坛、圆桌讨论等。
  • 社交活动与交流活动：Flare Party
  • 社区博览会入场资格
  • 午餐、上午和下午的咖啡与茶点
  • 大会周边礼品
  • 精彩的 AI 社区派对，DE LA SOUL 为你现场演出

注册类型

学术人员： 学术与学生注册适用于当前全职在读学生及教职员工。符合条件的申请人需要上传有效的、由所在机构签发并显示有效期的证件副本、当前学期成绩单，或在报名时证明自己是全职学生或教职员工的在职证明。如有任何疑问，请联系[email protected]。

小微企业： 我们的小微企业报名折扣适用于年收入低于 500 万美元且员工少于 30 人的公司。请联系[email protected]获取小微企业报名折扣码。

演讲嘉宾： 您应该已在接受邀请的邮件中收到注册链接。若未收到，请联系[email protected]了解更多详情。

赞助商： 注册链接已通过邮件发送至贵公司的赞助对接人。如需以赞助商身份注册，请联系贵公司的赞助对接人。如有其他问题，请发送邮件至[email protected]。

媒体： 如果您是媒体从业者，希望参加此次活动，但尚未收到免费入场码，请联系[email protected]，我们的公关团队会与您联系。

其他信息

温馨提示： 我们从不出售参会者名单或联系信息，也不授权他人这样做。如果您收到声称出售 Linux Foundation 活动参会者名单的邮件，请将其转发至[email protected]。

奖学金

了解有关奖学金与差旅资助的更多信息。

发票与出席证明

注册发票： 您可以在完成报名后收到的确认邮件中，于付款收据信息部分下载发票收据。如果下载的发票收据不能满足您的需求，或者您需要重新发送确认邮件，请提交申请。请在申请中说明您对发票收据的额外自定义要求。

出席证明： 您可以直接从您的 LFX 个人资料面板下载出席证明，在 LF Events 栏目下的“过往活动“部分中获取。请注意：我们通过报名系统核验出席情况，出席证明仅在活动结束后开放下载。

退款政策

取消报名： 如果因故必须取消，请重新登录您的报名信息，点击“Register/Modify“按钮，然后选择“Unregister“。仅在主活动开始前两周内收到的取消申请（包括批量购票发票申请、同期活动及附加服务）方可获得退款，退款将在取消后 7 至 10 个工作日内以信用卡退款的形式显示在账单上。退款仅能退回至原支付所用的信用卡。

请注意，所有退款均需收取6% 的手续费。

转让登记： 如果您无法出席，可以将报名转让给其他参会者。要转让报名，请重新登录您的报名信息，点击“Register/Modify“按钮，然后在确认页面上选择“Transfer Registration“。如需进一步协助，请发送邮件至[email protected]。

相似文章