标签
SOLAR是一个框架，它利用LLM前端和确定性分析，从PyTorch和JAX源代码自动推导经过验证的光速性能界限，从而为深度学习工作负载提供余量分析和优化洞察。
Kuma是一个编译器/运行时，它将导出的PyTorch模型编译成自包含的WebGPU可执行文件，从而实现无需Python或服务器依赖的直接浏览器推理。
TokenSpeed-Kernel是一个可移植、高性能的内核系统，用于LLM推理，实现零厂商特定模型代码，并支持多种GPU架构，在AMD MI355X上实现高达3.6倍的吞吐量提升。
PyTorchCon 北美大会将于2026年10月20日至21日在加利福尼亚州圣何塞举行，早鸟注册截止到7月31日。
WeightsLab 是一个开源、PyTorch 原生的工具，允许团队在训练过程中暂停、检查实时损失信号，并在数据问题（如标签错误和类别不平衡）影响模型性能之前发现它们。它专为处理图像、视频和 LiDAR 点云的计算机视觉工程师而设计。
一个简化的开源 PyTorch 实现，包含可逐行验证的源代码映射，专为教育目的设计。
分享一份GitHub上的机器学习系统笔记，涵盖大语言模型训练推理相关的分布式计算、并行化、量化和PyTorch内部机制，适合对ML系统感兴趣的学习者。
本文探讨了使用LLM引导的自动调优来加速PyTorch的Helion DSL中的内核配置搜索，取代了较慢的Likelihood-Free Bayesian Optimization方法。
一份关于监督微调（SFT）训练AI代理的详细教程，完全基于纯PyTorch从零构建，使用Qwen3-0.6B模型，解释了下一个词元预测和标签掩码的机制。
LMCache 是一个 KV 缓存管理层，通过缓存并复用 KV cache 来加速大模型推理、降低显存消耗，已获 9.2K star 并加入 PyTorch 基金会，被 NVIDIA Dynamo 集成。
MiniT2I 是一个极简的直接RGB文本到图像生成器，使用像素空间MM-JiT去噪器，结合流匹配和冻结的FLAN-T5-Large文本令牌，并开源了JAX/Flax和PyTorch实现以及检查点。
本文解释了 PyTorch 中的 torch.compile 堆栈，详述了从 API 到 Dynamo、FX 图、ATen 操作以及用于 JIT 编译的 Torch Inductor 的各个步骤。
PyTorch Foundation正在为大使计划征集提名，该计划支持组织活动、创作内容、指导新手以及为开源做贡献的社区领袖。申请开放至2026年6月18日，重点关注代表性不足的地区。
本教程来自NVIDIA，介绍了将FP8量化PyTorch模型转换为TensorRT推理引擎用于生产部署的端到端工作流程，涵盖ONNX导出和性能分析。
Inflect-Nano-v1 是一个极小的英文文本转语音模型，总推理参数（包括其声码器）为 4.63M，专为本地高效的语音合成实验而设计。
privacy-filter.cpp 在性能上比 PyTorch 实现快约 1.6 倍至 18 倍。
一个适合初学者的GitHub仓库，涵盖PyTorch基础，包括张量初始化、运算、索引和重塑，拥有超过900颗星。
一个GitHub开源项目，从零实现完整的GPT训练流程，包含数据预处理、预训练、SFT和RLHF后训练，全部基于原生PyTorch，适合想深入理解Transformer原理的开发者。
首次PyTorch Meetup新加坡活动汇聚了AI从业者，围绕vLLM更新、主权智能和开源交流进行了技术讲座。