@PyTorch:在PyTorch Conference North America上,vLLM Omni团队技术负责人Ricardo Noriega de Soto和Alexander Brooks,Pr…
摘要
在PyTorch Conference North America上,Ricardo Noriega de Soto和Alexander Brooks将演示如何将vLLM的前缀缓存机制扩展到多阶段流水线,以提升推理速度并减少GPU内存开销,为优化复杂AI工作负载提供实用策略。
查看缓存全文
缓存时间: 2026/09/10 02:17
在 PyTorch 北美会议上,vLLM 全能团队的技术负责人 Ricardo Noriega de Soto 与 Red Hat 首席机器学习工程师 Alexander Brooks 将共同演示,如何将 vLLM 的前缀缓存机制扩展至多阶段流水线,从而在提升推理速度的同时降低 GPU 内存开销。
欢迎于 10 月 20 日来到圣何塞,学习优化复杂 AI 工作负载的实用策略:https://hubs.la/Q04v4SL60
#PyTorchCon @vllm_project
注册 | PyTorch 北美会议
来源:https://events.linuxfoundation.org/pytorch-conference-north-america/register/?utm_campaign=41307495-PyTorch%20Conference%202026%20-%20North%20America&utm_source=Speakers
共同决策开源 AI 的未来。切勿错过!
PyTorch 会议注册费用
注册截止日期为各阶段对应日期的太平洋时间晚上 11:59。
参会者
超级早鸟期 2026年3月31日–4月10日
早鸟期 2026年4月11日–7月31日
标准期 2026年8月1日–9月4日
晚期 2026年9月5日–10月21日
$ 999 USD
学术界人士*
超级早鸟期 2026年3月31日–4月10日
早鸟期 2026年4月11日–7月31日
标准期 2026年8月1日–9月4日
晚期 2026年9月5日–10月21日
$ 249 USD
组建团队参会?一次购买 10 个及以上注册名额可享 75 折优惠。请联系 [email protected] 获取优惠码。
*必须提供有效学术身份证明
注册权益
您的 PyTorch 会议注册包含:
- 所有会议内容——主题演讲、分论坛、专题讨论等。
- 社交活动与交流:Flare Party
- 社区博览会入场资格
- 午餐、上下午茶点
- 会议纪念品
- DE LA SOUL 演出的 AI 社区狂欢夜
注册类型
学术界人士: 学术及学生注册适用于当前全日制学生、教职员工。符合条件者需上传由教育机构颁发的有效身份证明文件(显示有效期)、当前课程成绩单,或证明当前为学生/全职教职员工的就业证明。如有疑问,请联系 [email protected]。
小微企业: 小微企业注册优惠适用于年收入低于 500 万美元且员工少于 30 人的公司。请联系 [email protected] 申请小微企业注册优惠码。
演讲嘉宾: 您应在录用通知邮件中收到注册链接。若未收到,请联系 [email protected] 了解详情。
赞助商: 赞助商注册链接已通过邮件发送至贵公司的赞助对接人。如需以赞助商身份注册,请联系贵公司赞助对接人。如有其他问题,请发送邮件至 [email protected]。
媒体: 如果您是希望参与本次活动的媒体成员且未获得免费参会码,请联系 [email protected],我们的公关团队将与您联系。
其他信息
重要提示: 我们绝不销售与会者名单或联系信息,也不授权他人进行此类行为。如收到声称销售 Linux 基金会活动与会者名单的邮件,请转发至 [email protected]。
奖学金
了解更多关于奖学金与差旅资助 (https://events.linuxfoundation.org/pytorch-conference-north-america/attend/scholarships-travel-funding/) 的信息。
发票与出席证明
注册发票: 发票收据可从注册后收到的确认邮件中“支付收据信息”部分下载。若下载的发票收据不满足需求或需要重新发送确认邮件,请提交请求 (https://docs.google.com/forms/d/e/1FAIpQLSdFIGoXFCt5gVxXL4WGY9NsFhqhBrNFQfsx3ps8RfSVf9HUYg/viewform?usp=sf_link)。请在请求中注明发票收据所需的任何额外定制内容。
出席证明: 您可从 LFX 个人面板 (https://openprofile.dev/myevents) 的“过往活动”栏目中直接下载出席证明。请注意:我们通过注册系统验证出席情况,证明文件将在活动结束后方可下载。
退款政策
取消注册: 如因任何原因需要取消注册,请重新登录您的注册账户 (https://register.linuxfoundation.org/pytorch-conference-na-26),点击“注册/修改”按钮,然后选择“取消注册”。退款仅在主活动开始日期两周前收到的取消申请中予以处理(包括团购发票申请、关联活动及附加项目),退款将在取消后 7-10 个工作日内以信用卡账户贷记形式显示。退款仅能退至原支付信用卡。
请注意,所有退款将收取 6% 手续费。
替换参会者: 若您无法出席,可替换其他参会者代替取消注册。要替换参会者,请重新登录您的注册账户 (https://register.linuxfoundation.org/pytorch-conference-na-26),点击“注册/修改”按钮,然后在确认页面选择“转让注册”。如需进一步协助,请发送邮件至 [email protected]。
相似文章
@PyTorch: vLLM (@vllm_project) 是一款高吞吐量、内存高效的大语言模型推理与服务引擎。在 #PyTorchCon 北美…
本文介绍了vLLM,一款用于大语言模型的高吞吐量推理引擎,并详细说明了其在PyTorchCon北美会议上的会议和活动。
@PyTorch:来自 @inferact 的 Simon Mo (@simon_mo_) 在 #PyTorchCon 2026 上介绍 @vllm_project 的最新进展,重点阐述各项优化…
来自 Inferact 的 Simon Mo 在 PyTorchCon 2026 上介绍了 vLLM 项目的最新进展,重点展示了跨 TPU、AMD 和 NVIDIA 硬件的 KV cache 管理和内核优化,以应对 LLM 在性能和可扩展性方面面临的挑战。
@PyTorch:在2026年PyTorch北美大会上,@MistralAI研究工程师、vLLM维护者Nicolò Lucchesi将展示……
Nicolò Lucchesi将在2026年PyTorch北美大会上,介绍与AWS和RedHat合作的关于vLLM中面向混合模型的解耦服务演进的成果。
@PyTorch:强化学习后训练已成为现代大语言模型开发的关键阶段,但部署一个端到端流水线需要更多…
文章宣传了在北美PyTorch会议上关于使用ROCm在AMD Instinct GPU上启用开源vime强化学习后训练框架的海报展示,并提供了会议的注册详情。
@PyTorch: 想了解更多基于全新 PyTorch 原生 TPU 后端 TorchTPU 构建的新 vLLM 和 SGLang 引擎?去认识 Qi Zhou 等人……
PyTorch Conference North America 演讲预告:来自 Google 和 Meta 的演讲者将介绍 TorchTPU——一个 PyTorch 原生的 TPU 后端,让 vLLM 和 SGLang 能够在 TPU 上原生运行,同时保留现有的调度器、批处理系统、OpenAI 兼容 API 以及 torch.compile 工作流。