pytorch

本文将 SmoothQuant 集成到 PyTorch 的原生栈中，以在 Intel Xeon CPU 上高效进行小型 NLP 模型的 INT8 推理，实现了高达 5.8 倍的加速，且精度损失可忽略不计。

一项实验使用相同的GRPO配方训练三个从头开始的LLM，得到了不一致的结果，GRPO在某些模型中降低了性能，特别是中等规模的那个，并且与规模没有明显的关系。

本文介绍了一种代数通用且可微分的线性时序逻辑评估引擎，该引擎在名为telos的PyTorch库中实现，用于处理人工智能中的软值系统。

一位YouTube创作者在休整期后回归，教授从零开始构建分布式训练框架，专注于DeepSeek、MoE和MLA等高级AI主题，并强调培养解决问题的能力和自信心。

这条推文讨论了不使用 autograd 和 torch.nn 模块抽象来编写模型代码的方法，强调手动反向传播和直接矩阵计算。

torch-preflight 是一款新的 PyTorch 代码 linter，无需执行代码或 GPU 即可捕获常见的浪费 GPU 资源的 bug，还能估算显存使用量，以便在为实例付费前判断训练是否可行。

AMD upstreamed optimizations to PyTorch/TorchTitan and TorchAO for FP8 training on AMD Instinct GPUs, achieving up to 13.4% throughput gains on Llama3-8B and recovering 89% of FP8 quantization overhead on DeepSeek-V3 via fused Triton kernels.

PyTorchCon 北美宣布 Cohere 首席AI官 Joelle Pineau 将担任主题演讲嘉宾。活动将于10月20-21日在加利福尼亚州圣何塞举行，重点是通过开放研究与协作推动AI发展。

PyTorch 宣布推出其认证助理（PTCA）项目，这一认证旨在帮助早期从业者验证其在模型设计、训练和部署方面的动手 AI 工程技能。

Meta introduced Muse Glimmer, an open-weight 30B-parameter model distilled from Muse Spark for on-device agentic workflows, with ExecuTorch now supporting running it on NVIDIA GPUs and Apple silicon.

PyTorch 北美大会 2026 公布了主题演讲阵容，将邀请来自 Meta、NVIDIA、Google Cloud 等 AI 组织的领导者，于 2026 年 10 月 20 日至 21 日在圣何塞举行。

PyTorch基金会宣布PyTorchCon北美大会的主题演讲嘉宾Matt Collier，大会将于10月20日至21日在圣何塞举行，他将分享基金会关于开源AI和PyTorch生态系统的愿景。

NVIDIA and PyTorch explain how kernel fusion in CUDA improves GPU memory bandwidth by combining multiple operations into a single kernel, reducing round-trips through global memory and kernel launch overhead.

PyTorch 北美大会（10月20-21日，圣何塞）将设应用分会场，展示开发者如何在 LLM、多模态 AI、机器人、科学计算及生产部署中使用 PyTorch。大会还设有 PyTorch 核心、推理、内核工程和负责任 AI 等分会场。

本教程介绍如何使用Transformer模型，从训练到推理，重点讲解自回归生成、prefill（预填充）与decode（解码）阶段，以及用于高效推理的键值缓存。

This paper introduces DFSC, a PyTorch environment built around a Mittag-Leffler Spectral Layer (MLSL) that enables error-controlled, differentiable fractional propagation in hybrid neural models. It separates known fractional dynamics from data-driven corrections, supports batched/dense/sparse operator paths, and provides certified error bounds in certain regimes.

TAGTorch is an open-source PyTorch library that unifies tools for topology, algebra, and geometry-aware machine learning, covering preprocessing, architectures, training techniques, and model analysis.

Documentation reference for MSLK 1.3.0, a library of fused GPU kernels for transformer workloads including attention, quantization, GEMM, and MoE routing, supporting CUDA and ROCm with PyTorch integration.

PyTorch 2.13 发布版为 Apple Silicon 带来 FlexAttention，通过融合的 LinearCrossEntropyLoss 实现高达 12 倍加速，并将大词表模型的峰值内存降低 4 倍，同时还更新了分布式训练、编译和端侧推理。

Netron 是一个开源的可视化工具，用于查看神经网络、深度学习和机器学习模型文件，支持 ONNX、PyTorch、TensorFlow 等多种格式，可通过浏览器、桌面端或 Python 使用。