标签
NVIDIA 报告了在 HSTU 推理测试中使用 PyTorch AOTI 后端的显著加速,在理想情况下最高可达 2.38 倍,并强调了用于大规模生成式推荐系统的工具如 recsys-examples 和 nv-embedding-cache。
TorchSpec 是一个用于训练推测解码草稿模型的 PyTorch 原生框架,与 vllm 合作发布,并在 NVIDIA GB200 硬件上使用 Kimi K3 草稿模型进行了演示。
PyTorch 2.14版本引入了容错性作为c10d的一等概念,支持进程组的原地重配置,同时带来了NVGEMM内核、新的nccl2后端以及Apple Silicon的原生线性代数等特性。
PyTorch Conference North America 是一项在圣何塞举行的活动,专注于智能体AI和技术挑战,特色是来自领先科技组织的演讲者。
PyTorch 2.14 引入了对 Inductor、PyTorch Distributed、动态形状、Apple Silicon 支持等方面的更新,并有现场问答和 PyTorchCon 公告。
一本从零开始学习强化学习的实践指南,重点介绍使用PyTorch和Stable Baselines3库的CartPole环境。
文章讨论了使用 NVIDIA FLARE 构建联邦多模态 AI 工作流,通过外部化和张量流等技术解决分布式数据带来的挑战,优化模型分布并减少内存需求。
本文详细解析了Moonshot AI发布的Kimi K3模型(2.8万亿参数,100万token上下文)的架构,并展示了如何从零开始用PyTorch实现其七项核心创新,包括KDA循环注意力、门控MLA和稳定潜在MoE。
AMD发布了其开源GPU计算平台的重大更新ROCm 10.0,标志着十年发展历程,并通过ROCm.AI引入了原生智能体AI开发体验。
PyTorch Conference North America 2026将举办与PyTorch及相关项目专家的讨论会,重点关注AI框架、推理引擎和硬件集成的最新进展。
NVIDIA展示了如何使用NVIDIA模型优化器进行量化感知蒸馏(QAD)来改进Nemotron 3.5 Lightning模型,在保持代理基准准确性的同时减少内存使用并提高吞吐量。
本文介绍了DataKernelBench,这是一个用于评估LLMs在优化GPU内核以处理数据库查询方面的基准测试,相比如torch.compile等基线方法实现了加速。
首届 PyTorch 日本活动宣布,由 PyTorch 基金会、Hugging Face、IBM 和三菱电机于 12 月 10 日在东京举办,重点包括 AI 训练、推理和负责任 AI 的技术演讲。
TRANSIT是一种运行时,使统一虚拟内存对大规模LLM训练实用,无需更改代码即可将GPU使用率降低高达50%,并将在PyTorch Conference North America上展示。
上海 KubeCon、CloudNativeCon、OpenInfraSummit 和 PyTorchCon China 的主题演讲阵容已公布,演讲嘉宾来自 The Linux Foundation 和 NVIDIA 等组织。
TimesFM 3.0 是由 Google Research 开发的一个预训练时间序列基础模型,在 Hugging Face 上发布,提供 PyTorch 权重,用于时间序列预测任务。
PyTorch Conference North America 公布了主题演讲阵容,重点介绍了开源生态系统的四大方向:强化核心、扩展多硬件支持,演讲者来自各大科技机构。
PyTorch 提供了一个原生微调库,支持首日 Hugging Face 检查点,适用于阿里巴巴的开源权重 Qwen3.8-2.4T-A95B 模型,可在 NVIDIA 系统上进行高效训练和部署,并支持可配置推理。
Edward Yang 将在 PyTorchCon 北美担任主题演讲嘉宾,讨论 PyTorch 的演进与未来。活动定于 10 月 20-21 日在加利福尼亚州圣何塞举行。
AI编程代理编写运行时适配器,以弥合新模型架构和软件栈之间的差距,使得数千个HuggingFace模型能够在IBM Spyre加速器上实现首日支持。