标签
PyTorch Con 2026 主题演讲预告:智能体人工智能基金会执行董事 Mazin Gilbert 将探讨大语言模型如何从智能体行为中学习,提出五层智能体栈架构,并介绍将智能体评估结果作为 PyTorch 训练奖励反馈的开放研究方向。
将于10月20-21日在圣何塞举办的PyTorch北美大会将展出来自Moreh的Bongwoo Bak关于KV缓存块放置的海报,涵盖vLLM在GPU、CPU和共享存储之间的卸载策略。该推文还介绍了大会的注册等级和票价信息。
PyTorch Conference North America(圣何塞,10月20-21日)将迎来 IBM Research 的 Carlos Costa,他是 llm-d 的联合创始人,将分享 llm-d 项目在生成式 AI 服务方面实现最先进的性能的最新进展,包括多租户 QoS 和零停机运维能力。
在 PyTorch Conference North America 2026 上,AMD 团队将展示 MoRI 通信栈与 vLLM 结合,实现跨 pod 的宽专家并行(Wide Expert Parallelism)以及基于 RDMA 的 KV 缓存传输,用于 AMD Instinct GPU 上的分离式 MoE 服务。
RadixArk 的 Yihao Wang 和 Kevin Mi 将在圣何塞举办的 PyTorch Conference North America 2026(10月20-21日)上介绍 SGLang-Diffusion——一个面向扩散模型的高性能服务框架,内容涵盖请求调度、内存管理、批处理策略以及基于 PyTorch 的推理优化。
Meta 的 Kaiming Cheng 将在 PyTorch Conference North America 2026 上展示 KernelAgent——一个由硬件指导的多智能体框架,用于优化 GPU Triton 内核。在 100 个 KernelBench L1 任务上,该框架相比先前版本实现了 2.02 倍的加速,相比默认的 `torch.compile` 实现了 1.56 倍的加速。
PyTorch Conference North America(10月20-21日,圣何塞)聚焦主题演讲嘉宾 Zongwei Zhou——Meta 软件工程师,他将探讨如何通过 TorchTPU 和智能体驱动的开发方式,让复杂的 AI 工作负载在不同硬件之间实现可移植性和高性能。
PyTorch Conference North America 将迎来一场由 AWS 的 Esha Lakhotia 和 Pinak Panigrahi 带来的演讲,介绍如何在 AWS Trainium 上对 PyTorch 工作负载进行性能剖析,内容涵盖从 torch.profiler 数据采集到结合 AI 辅助分析的周期级硬件调试。该活动将于 10 月 20-21 日在圣何塞举行。
PyTorch 大使 Abdulsalam Bande 将在 PyTorch Conference North America 2026 上展示 ERRC(面向张量并行 LLM 通信的熵再投资残差修正)的海报,通过压缩 GPU 间通信来提升多 GPU LLM 推理效率。大会还将呈现涵盖开源 AI 技术栈的完整会议议程。
在 PyTorch Conference North America 2026 上,AMD 的 Liz Li 和 Jiahui Cao 将带来主题演讲《Extending TorchInductor with FlyDSL》,介绍一个面向高性能 GEMM 的 MLIR 原生 GPU kernel 后端。该后端与 TorchInductor 的编译及自动调优流水线集成,并在 AMD Instinct GPU 上与 Triton 进行性能对比测试。
PyTorch 官方博客发布了面向 PyTorch Conference North America 2026(圣何塞)的 Ray 专题指南,重点介绍来自 Anyscale、Google、LinkedIn、Pinterest 和 Uber 的演讲嘉宾带来的主旨演讲与会议内容,涵盖 Ray 与 Kubernetes 的协同发展、弹性训练栈以及可扩展的强化学习(RL)。
本文介绍了vLLM,一款用于大语言模型的高吞吐量推理引擎,并详细说明了其在PyTorchCon北美会议上的会议和活动。
本文推广了在PyTorch Conference North America上的一场演讲,专注于使用PyTorch和vLLM使企业智能体推理达到生产就绪状态,涵盖生态系统更新和注册详情。
本文推广了在2026年PyTorch Conference North America上关于vLLM中弹性专家并行性的演讲,讨论了如何在混合专家部署中动态添加或移除GPU,同时最小化停机时间。
一则关于PyTorch Conference North America演讲的公告,Ziming将讨论使用OpGuard进行LLM训练中的比特级调试。
在PyTorch Conference North America上,来自Fujitsu Research India的Maajid Khan将发表演讲,探讨使用vLLM和OpenVINO优化ARM CPU上的混合专家模型LLM推理。
文章宣传了在北美PyTorch会议上关于使用ROCm在AMD Instinct GPU上启用开源vime强化学习后训练框架的海报展示,并提供了会议的注册详情。
PyTorch Conference North America 2026将包含一场由Red Hat工程师主持的会议,介绍Cross-Repository CI Relay,以简化下游仓库的CI集成。文中提供了注册详情和活动亮点。
在2026年PyTorch北美大会上,Dhritiman Das将展示一个基于PyTorch的检索引擎,该引擎使用PyTorch作为检索、过滤和排名的主要运行时,专为LinkedIn的信息流和搜索等可扩展用例设计。
2026年的PyTorch Conference北美版将包括Chris Lattner关于统一软件栈以解决AI生态系统中碎片化的演讲,并提供注册详情。