标签
由 PyTorchKR 和 XCENA 联合主办的 KVCache Meetup Korea 2026 邀请了来自 XCENA、SK 海力士、FuriosaAI 和 LMCache 的嘉宾,围绕 CXL 内存池化、GPU/HBM Roofline 分析、RNGD 上的批次调度以及进程隔离的 KV Cache 服务进行了演讲。
PyTorch 宣布将举办一场关于 PyTorch 2.15 版本的在线问答网络研讨会,届时 Meta 工程师将详细介绍各项新功能,包括重写的 NCCL 后端、NIXL 单边传输、更精细的 FSDP2/流水线并行内存控制,以及在 NVIDIA Blackwell 和 Apple 芯片上更快的 NVFP4/FP8 解码。
PyTorch 基金会项目 Ray 宣布成立面向加速器的 Ray 特别兴趣小组(SIG),汇聚硬件厂商、云服务商和 Ray 社区,围绕厂商中立的路线图展开协作,涵盖硬件感知测试、拓扑感知调度以及 Ray Direct Transport。
River API 现已支持使用任意自定义损失函数训练 LLM。损失函数使用 PyTorch 编写,在本地完成追踪后以计算图的形式发送到 API,并在 River 的远程 GPU 集群上以并行化和内存高效流式处理的方式大规模执行。
PyTorch 在 PyTorchCon 北美大会上举办了大使聚会,向这些通过活动、内容创作和指导来推动 PyTorch 基金会项目(包括 PyTorch、vLLM、DeepSpeed、Ray、Helion 和 Safetensors)发展的社区领袖们致敬。
PyTorch Day Japan 2026 将于 12 月 10 日在东京举行,届时来自 DeepSpeed 的 Masahiro Tanaka 将发表题为“DeepSpeed 前沿探索:社区驱动的优化,实现最先进的训练性能”的演讲,介绍分布式 AI 训练性能与可扩展性方面的创新。
PyTorch 2.15 发布,包含 3,117 次提交,重写的 NCCL 后端成为默认、新增 NIXL 单向传输、FSDP2 与流水线并行的更细粒度控制,并在 NVIDIA Blackwell(NVFP4)和 Apple Silicon(FP8)上带来更快的 LLM 解码,同时扩展了 AMD、Intel、ROCm 等平台支持。
一个极简、自包含的 PyTorch 手动实现的 Transformer 分类器自动微调(autograd)代码,旨在帮助建立对 autograd 底层工作原理的直观理解,以及梯度如何在注意力模块中流动。
2026 年北美 PyTorch 大会在圣何塞举行,与会者完成了为期一整天的讲师指导培训,为参加由 Linux 基金会教育部门提供的全新 PyTorch 认证助理(PTCA)考试做准备。与会者反馈积极,尤其肯定了 GPU 实操实验,以及除模型训练之外对基准测试和性能分析的讲解。
一位开发者分享了 ApexW,这是一款实验性的 PyTorch 优化器,采用紧凑的优化器状态和基于 Triton 的执行路径,声称在大张量工作负载下,优化器步骤的执行速度约为原来的 1.5 倍,优化器状态内存占用减半——同时也坦言,在包含大量小张量的模型上会出现性能下降,且端到端性能提升微乎其微。
GPU 内核工程系列课程第 1 讲的实用笔记,涵盖 CUDA 13 对 GPU 计算能力的最低要求、驱动程序/工具包/PyTorch 运行时之间的区别、异步 GPU 计时的常见陷阱,以及如何修复 Nsight Compute 的 ERR_NVGPUCTRPERM 性能分析计数器权限错误。
Sebastian Raschka 发布了一套时长 11 小时、共 8 个视频的课程,讲解如何在 PyTorch 中从零构建推理模型,涵盖评估、推理扩展、基于可验证奖励的强化学习以及知识蒸馏等内容,是其此前《Coding LLMs from the Ground Up》课程的续作。
Hugging Face 发布了一个 torch-neuronx 模型支持查询 Space,可查看哪些 Hub 上的模型能在 AWS Trainium 上直接运行,并提供可复现的运行脚本和 NEFF 缓存以跳过编译。目前仅覆盖 text-generation 与 image-text-to-text 类 Transformers 模型,未来将扩展到 diffusers 和 sentence transformers。
PyTorch Foundation 欢迎其 2026 届 24 名大使,他们来自尼日利亚、布基纳法索、新加坡、印度、罗马尼亚、西班牙、英国和美国等全球社区,旨在推动开源 AI 的教育、指导与贡献。
PyTorch Foundation 于 PyTorch Conference North America 2026 宣布新增九家成员,包括 Platinum 级的 Nebius、Nscale 和 Shopify,以及 Silver 级的 LightSeek Foundation 和 Lablup,进一步巩固其作为开源 AI 中心枢纽的地位。
PyTorch 公布了 2026 年 PyTorch 贡献者奖获奖名单,在 #PyTorchCon 2026 上表彰了在 PyTorch、vLLM、DeepSpeed、Ray、Helion 和 Safetensors 等项目中做出贡献的社区成员,并由 Red Hat 赞助颁奖。
一篇博客文章揭示,在 PyTorch 中,一个损失函数的前向计算结果可以恰好为 0.0,而其反向传播却能执行任意图灵完备的计算。这使得供应链攻击成为可能:一个恶意的正则化包可以在训练过程中悄悄篡改模型权重。
TorchTitan 发布重大性能与架构更新,新增对 DeepSeek-V4、Qwen3.5、Kimi K3、Muse Spark Open 等 SOTA 模型的完整 5D 并行支持,并推出统一后训练与智能体工作负载的 TitanRL 框架,FlexShard 与 torch_checkpointing 大幅提升大规模训练效率。
在 PyTorchCon 2026 上,CrusoeAI 的 Yiwei Song 介绍了 Crusoe 的 LLM 后训练平台,其中包括 Crusoe Managed RL——一个与 Tinker API 兼容的服务,让客户可以自定义开放权重模型,而 GPU 基础设施则由 Crusoe 负责运维。
Cohere 的 Rachad Alao 在 PyTorchCon 2026 上发表演讲,探讨开放科学如何推动透明且安全的 AI 基础模型开发,倡导开放架构、独立审计以及 PyTorch、TorchTitan 和 vLLM 等工具的应用。