@PyTorch: 对优化ARM CPU上的混合专家模型LLM推理感兴趣吗?在他于PyTorch Conference North America的演讲中,…
摘要
在PyTorch Conference North America上,来自Fujitsu Research India的Maajid Khan将发表演讲,探讨使用vLLM和OpenVINO优化ARM CPU上的混合专家模型LLM推理。
查看缓存全文
缓存时间: 2026/09/25 10:37
对优化ARM CPU上的混合专家(MoE)大语言模型推理感兴趣?
在北美PyTorch大会上,来自富士通研究院印度分部的Maajid Khan将探讨如何使用vLLM和OpenVINO实现高效的MoE LLM推理,并分享在ARM架构上有效运行这些模型的实用策略。
注册并加入我们,10月20-21日,圣何塞:https://hubs.la/Q04v4SL60
#PyTorchCon
注册 | 北美PyTorch大会
来源:https://events.linuxfoundation.org/pytorch-conference-north-america/register/?utm_campaign=41307495-PyTorch%20Conference%202026%20-%20North%20America&utm_source=Speakers
开源AI的未来在此决定。切勿错过!
PyTorch大会注册费
注册截止日期为太平洋时间相应日期的晚上11:59。
参会者
超级早鸟票2026年3月31日–4月10日
早鸟票2026年4月11日–7月31日
标准票2026年8月1日–9月4日
晚期票2026年9月5日–10月21日
999美元
学术人员*
超级早鸟票2026年3月31日–4月10日
早鸟票2026年4月11日–7月31日
标准票2026年8月1日–9月4日
晚期票2026年9月5日–10月21日
249美元
团队参与?一次购买10张以上注册可享75折优惠。请联系[email protected]获取优惠码。
*需提供有效的学术身份证明
注册包含内容?
您的PyTorch大会注册包括:
- 所有会议内容 – 主题演讲、会议环节、专题讨论等。
- 社交活动与交流机会:Flare Party
- 社区博览会入场券
- 午餐、上午及下午的咖啡与茶点
- 活动纪念品
- AI社区派对,DE LA SOUL乐队献演
注册类型
**学术人员:**学术及学生注册面向当前全职学生、教职员工。符合条件者需上传其院校颁发的有效身份证明(需显示有效期)、当前课程成绩单,或注册时仍为全职学生或教职员工的在职证明。如有疑问,请联系[email protected]。
**小型企业:**我们的小型企业注册折扣适用于年收入低于500万美元且员工少于30人的公司。请联系[email protected]获取小型企业注册折扣码。
**演讲者:**您应在录用通知邮件中收到注册链接。如未收到,请联系[email protected]了解更多详情。
**赞助商:**注册链接已通过邮件发送给贵公司的赞助联系人。如需以赞助商身份注册,请联系贵公司的赞助联系人。如有更多疑问,请邮件联系[email protected]。
**媒体:**如果您是媒体成员,希望参加此活动但尚未获得免费参会凭证,请联系[email protected],我们的公关团队将与您联系。
补充信息
**温馨提示:**我们从不出售参会者名单或联系信息,也未授权他人销售。如果您收到声称出售Linux基金会活动参会者名单的邮件,请将其转发至[email protected]。
奖学金
了解更多关于奖学金和差旅资助(https://events.linuxfoundation.org/pytorch-conference-north-america/attend/scholarships-travel-funding/)机会。
发票与参会证明
**注册发票:**发票收据可在您注册后收到的确认邮件中的付款收据信息部分下载。如果下载的发票收据无法满足您的需求,或您需要重发确认邮件,请提交申请(https://docs.google.com/forms/d/e/1FAIpQLSdFIGoXFCt5gVxXL4WGY9NsFhqhBrNFQfsx3ps8RfSVf9HUYg/viewform?usp=sf_link)。请在申请中注明对发票收据的任何额外定制需求。
**参会证明:**您可以直接从您的LFX仪表板(https://openprofile.dev/myevents)的“过往活动”部分下载参会证明。请注意:我们通过注册系统核实参会情况,证明仅在活动结束后提供下载。
退款政策
**取消注册:**如因任何原因必须取消,请重新登录您的注册页面(https://register.linuxfoundation.org/pytorch-conference-na-26),点击“注册/修改”按钮,选择“取消注册”。仅接受在活动开始日期前两周内收到的取消申请(包括团购发票请求、同场活动及附加服务)方予退款,退款将在取消后7 – 10个工作日内以信用卡贷记方式返还。退款仅限于原支付信用卡。
请注意,所有退款均需收取6%的手续费。
**替换参会者:**如果您无法参加,可以替换其他参会者而非取消。要替换参会者,请重新登录您的注册页面(https://register.linuxfoundation.org/pytorch-conference-na-26),点击“注册/修改”按钮,在确认页面选择“转让注册”。如需进一步协助,请邮件联系[email protected]。
相似文章
@PyTorch: 在 @vllm_project 中的弹性专家并行性允许您在活动的混合专家部署期间动态添加或移除GPU…
本文推广了在2026年PyTorch Conference North America上关于vLLM中弹性专家并行性的演讲,讨论了如何在混合专家部署中动态添加或移除GPU,同时最小化停机时间。
@PyTorch: vLLM (@vllm_project) 是一款高吞吐量、内存高效的大语言模型推理与服务引擎。在 #PyTorchCon 北美…
本文介绍了vLLM,一款用于大语言模型的高吞吐量推理引擎,并详细说明了其在PyTorchCon北美会议上的会议和活动。
@PyTorch:来自 @inferact 的 Simon Mo (@simon_mo_) 在 #PyTorchCon 2026 上介绍 @vllm_project 的最新进展,重点阐述各项优化…
来自 Inferact 的 Simon Mo 在 PyTorchCon 2026 上介绍了 vLLM 项目的最新进展,重点展示了跨 TPU、AMD 和 NVIDIA 硬件的 KV cache 管理和内核优化,以应对 LLM 在性能和可扩展性方面面临的挑战。
@PyTorch:在PyTorch Conference North America上,vLLM Omni团队技术负责人Ricardo Noriega de Soto和Alexander Brooks,Pr…
在PyTorch Conference North America上,Ricardo Noriega de Soto和Alexander Brooks将演示如何将vLLM的前缀缓存机制扩展到多阶段流水线,以提升推理速度并减少GPU内存开销,为优化复杂AI工作负载提供实用策略。
@PyTorch:在2026年PyTorch北美大会上,@MistralAI研究工程师、vLLM维护者Nicolò Lucchesi将展示……
Nicolò Lucchesi将在2026年PyTorch北美大会上,介绍与AWS和RedHat合作的关于vLLM中面向混合模型的解耦服务演进的成果。