pytorch-conference

标签

Cards List
#pytorch-conference

@PyTorch:大语言模型如何从智能体的行为中学习?在 #PyTorchCon 2026 上,@AgenticAIFdn 执行董事 Mazin Gilbert 探讨了…

X AI KOLs Following ↗ · 2026-10-21 缓存

PyTorch Con 2026 主题演讲预告:智能体人工智能基金会执行董事 Mazin Gilbert 将探讨大语言模型如何从智能体行为中学习,提出五层智能体栈架构,并介绍将智能体评估结果作为 PyTorch 训练奖励反馈的开放研究方向。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:当GPU显存耗尽时,@vllm_project 会将KV缓存卸载到CPU或存储中。@_llm_d_ 追踪每个块的存放位置……

X AI KOLs Following ↗ · 2026-10-20 缓存

将于10月20-21日在圣何塞举办的PyTorch北美大会将展出来自Moreh的Bongwoo Bak关于KV缓存块放置的海报,涵盖vLLM在GPU、CPU和共享存储之间的卸载策略。该推文还介绍了大会的注册等级和票价信息。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:充分发挥你的 AI 基础设施价值。IBM Research 杰出工程师 Carlos Costa 同时也是 @_llm_d_ 项目的联合创始人

X AI KOLs Timeline ↗ · 2026-10-12 缓存

PyTorch Conference North America(圣何塞,10月20-21日)将迎来 IBM Research 的 Carlos Costa,他是 llm-d 的联合创始人,将分享 llm-d 项目在生成式 AI 服务方面实现最先进的性能的最新进展,包括多租户 QoS 和零停机运维能力。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:在跨 pod 运行大规模 Mixture-of-Experts 模型面临两大主要挑战:专家分发与合并流量,以及在 prefill 和 decode 之间传输 KV 缓存。

X AI KOLs Timeline ↗ · 2026-10-10 缓存

在 PyTorch Conference North America 2026 上,AMD 团队将展示 MoRI 通信栈与 vLLM 结合,实现跨 pod 的宽专家并行(Wide Expert Parallelism)以及基于 RDMA 的 KV 缓存传输,用于 AMD Instinct GPU 上的分离式 MoE 服务。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:SGLang-Diffusion 是一个面向扩散模型的高性能服务框架,专为大规模离线生…

X AI KOLs Timeline ↗ · 2026-10-09 缓存

RadixArk 的 Yihao Wang 和 Kevin Mi 将在圣何塞举办的 PyTorch Conference North America 2026(10月20-21日)上介绍 SGLang-Diffusion——一个面向扩散模型的高性能服务框架,内容涵盖请求调度、内存管理、批处理策略以及基于 PyTorch 的推理优化。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:优化内核可能非常耗时,并且需要深厚的专业知识。KernelAgent 是一个多智能体协作框架,能够 c…

X AI KOLs Following ↗ · 2026-10-08 缓存

Meta 的 Kaiming Cheng 将在 PyTorch Conference North America 2026 上展示 KernelAgent——一个由硬件指导的多智能体框架,用于优化 GPU Triton 内核。在 100 个 KernelBench L1 任务上,该框架相比先前版本实现了 2.02 倍的加速,相比默认的 `torch.compile` 实现了 1.56 倍的加速。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:认识 @Meta 的软件工程师 Zongwei Zhou,他将担任 #PyTorchCon 北美峰会主题演讲嘉宾。了解 TorchTPU 和……

X AI KOLs Following ↗ · 2026-10-08 缓存

PyTorch Conference North America(10月20-21日,圣何塞)聚焦主题演讲嘉宾 Zongwei Zhou——Meta 软件工程师,他将探讨如何通过 TorchTPU 和智能体驱动的开发方式,让复杂的 AI 工作负载在不同硬件之间实现可移植性和高性能。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:从 torch.profiler 到硬件周期:实用性能剖析指南 AWS Trainium:专为下一代……量身打造

X AI KOLs Following ↗ · 2026-10-06 缓存

PyTorch Conference North America 将迎来一场由 AWS 的 Esha Lakhotia 和 Pinak Panigrahi 带来的演讲,介绍如何在 AWS Trainium 上对 PyTorch 工作负载进行性能剖析,内容涵盖从 torch.profiler 数据采集到结合 AI 辅助分析的周期级硬件调试。该活动将于 10 月 20-21 日在圣何塞举行。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch: ERRC:面向张量并行 LLM 通信的熵再投资残差修正 | PyTorch 大使 Abdulsalam Bande 将出席 PyTorch Conference North America 2026

X AI KOLs Following ↗ · 2026-10-03 缓存

PyTorch 大使 Abdulsalam Bande 将在 PyTorch Conference North America 2026 上展示 ERRC(面向张量并行 LLM 通信的熵再投资残差修正)的海报,通过压缩 GPU 间通信来提升多 GPU LLM 推理效率。大会还将呈现涵盖开源 AI 技术栈的完整会议议程。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:现代 AI 工作负载依赖种类日益增多的专用 GPU kernel,而没有任何单一的 kernel 生成后端能在所有算子上都达到最优……

X AI KOLs Timeline ↗ · 2026-10-02 缓存

在 PyTorch Conference North America 2026 上,AMD 的 Liz Li 和 Jiahui Cao 将带来主题演讲《Extending TorchInductor with FlyDSL》,介绍一个面向高性能 GEMM 的 MLIR 原生 GPU kernel 后端。该后端与 TorchInductor 的编译及自动调优流水线集成,并在 AMD Instinct GPU 上与 Triton 进行性能对比测试。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:随着越来越多的团队在安全、受治理的基础设施上扩展开源 AI,Ray 已成为贯穿整个 AI 生命周期的关键…

X AI KOLs Following ↗ · 2026-09-30 缓存

PyTorch 官方博客发布了面向 PyTorch Conference North America 2026(圣何塞)的 Ray 专题指南,重点介绍来自 Anyscale、Google、LinkedIn、Pinterest 和 Uber 的演讲嘉宾带来的主旨演讲与会议内容,涵盖 Ray 与 Kubernetes 的协同发展、弹性训练栈以及可扩展的强化学习(RL)。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch: vLLM (@vllm_project) 是一款高吞吐量、内存高效的大语言模型推理与服务引擎。在 #PyTorchCon 北美…

X AI KOLs Timeline ↗ · 2026-09-29 缓存

本文介绍了vLLM,一款用于大语言模型的高吞吐量推理引擎,并详细说明了其在PyTorchCon北美会议上的会议和活动。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch: 想知道如何使用@PyTorch和@vllm_project使企业智能体推理达到生产就绪状态,并深入了解…

X AI KOLs Following ↗ · 2026-09-27 缓存

本文推广了在PyTorch Conference North America上的一场演讲,专注于使用PyTorch和vLLM使企业智能体推理达到生产就绪状态,涵盖生态系统更新和注册详情。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch: 在 @vllm_project 中的弹性专家并行性允许您在活动的混合专家部署期间动态添加或移除GPU…

X AI KOLs Following ↗ · 2026-09-26 缓存

本文推广了在2026年PyTorch Conference North America上关于vLLM中弹性专家并行性的演讲,讨论了如何在混合专家部署中动态添加或移除GPU,同时最小化停机时间。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:在生产环境中调试LLM训练异常困难,因为细微的比特级错误往往在损失曲线出现异常之前就已出现。

X AI KOLs Timeline ↗ · 2026-09-25 缓存

一则关于PyTorch Conference North America演讲的公告,Ziming将讨论使用OpGuard进行LLM训练中的比特级调试。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch: 对优化ARM CPU上的混合专家模型LLM推理感兴趣吗?在他于PyTorch Conference North America的演讲中,…

X AI KOLs Timeline ↗ · 2026-09-25 缓存

在PyTorch Conference North America上,来自Fujitsu Research India的Maajid Khan将发表演讲,探讨使用vLLM和OpenVINO优化ARM CPU上的混合专家模型LLM推理。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:强化学习后训练已成为现代大语言模型开发的关键阶段,但部署一个端到端流水线需要更多…

X AI KOLs Timeline ↗ · 2026-09-21 缓存

文章宣传了在北美PyTorch会议上关于使用ROCm在AMD Instinct GPU上启用开源vime强化学习后训练框架的海报展示,并提供了会议的注册详情。

0 人收藏 0 人点赞
#pytorch-conference

在圣何塞举办的PyTorch Conference North America 2026上,Red Hat工程师Jewel Muraledharan和Subin George Malana将……

X AI KOLs Following ↗ · 2026-09-19 缓存

PyTorch Conference North America 2026将包含一场由Red Hat工程师主持的会议,介绍Cross-Repository CI Relay,以简化下游仓库的CI集成。文中提供了注册详情和活动亮点。

0 人收藏 0 人点赞
#pytorch-conference

@PyTorch:在2026年PyTorch北美大会上,Dhritiman Das,机器学习基础设施高级软件工程师(@Li…)

X AI KOLs Timeline ↗ · 2026-09-17 缓存

在2026年PyTorch北美大会上,Dhritiman Das将展示一个基于PyTorch的检索引擎,该引擎使用PyTorch作为检索、过滤和排名的主要运行时,专为LinkedIn的信息流和搜索等可扩展用例设计。

0 人收藏 0 人点赞
#pytorch-conference

@Modular: 碎片化在整个AI生态系统中造成了税负。在本年度的@PyTorch Conference上,@clattner_llvm将展示一个…

X AI KOLs Timeline ↗ · 2026-09-15 缓存

2026年的PyTorch Conference北美版将包括Chris Lattner关于统一软件栈以解决AI生态系统中碎片化的演讲,并提供注册详情。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈