标签
在 PyTorchCon 2026 上，Ion Stoica 回顾了 Ray 从强化学习演变为现代 AI 工作负载背后分布式计算层的历程，重点介绍了针对 TPU Pod 和 Blackwell GPU 的拓扑感知调度、NIXL GPU 传输、TorchFT 集成，以及未来用 Rust 重写核心组件并深化 Kubernetes 集成的计划。
全栈 AI 云平台 Nscale 已加入 PyTorch 基金会，成为白金会员，Nick Jones 加入理事会，Eyal Lantzman 加入技术咨询委员会。此前，Nscale 宣布计划收购 Ray 背后的公司 Anyscale。
Chef Robotics 训练其食品组装机器人背后的 Vision-Language-Action 模型速度提升 10 倍，在 16 块 A100 上实现 92% 的多 GPU 扩展效率，依托 Anyscale 与 Ray 平台加速分布式训练。
Robert Nishihara 宣布将举办一场关于大规模 LLM 推理的网络研讨会，内容涵盖 KV cache、分页注意力、前缀缓存、连续批处理等引擎优化技术，以及 Ray、vLLM、SGLang 的集成、智能体部署和 GPU/Token 成本对比。
PyTorch 官方博客发布了面向 PyTorch Conference North America 2026（圣何塞）的 Ray 专题指南，重点介绍来自 Anyscale、Google、LinkedIn、Pinterest 和 Uber 的演讲嘉宾带来的主旨演讲与会议内容，涵盖 Ray 与 Kubernetes 的协同发展、弹性训练栈以及可扩展的强化学习（RL）。
在Kubernetes上对分布式LLM推理进行基准测试，发现未认证的控制平面端口和安全暴露，缓解措施如NetworkPolicy和WireGuard对性能有影响。
Lila Sciences在Ray Summit上介绍了他们的内部自助式AI研究平台，该平台使用Flight、Ray和GitOps来支持通过优化的构建-测试-学习循环实现自动化科学发现。
NVIDIA BioNeMo 推理运行时通过优化内核、CUDA Graphs 和 Ray 加速生物分子结构预测模型，实现高吞吐量，同时保持与 PyTorch 工作流程的集成。
RayOrch引入了一种编程模型和分布式执行引擎，用于基础模型数据准备中的谱系控制数据流，与现有系统如RayData和Daft相比，在GPU上实现了显著加速。
Pinterest Engineering 分享了一项关于 CPU 瓶颈和网络驱动程序问题的详细调查，这些问题导致基于 Ray 的训练任务在其 Kubernetes 平台上崩溃，并提供了分析性能问题的经验教训。
英国AI云服务商Nscale以16.5亿美元收购软件初创公司Anyscale，通过增加工作负载管理和扩展能力来强化其AI计算堆栈。
Molt 是来自 NVIDIA NeMo 的开源、原生 PyTorch 的智能体强化学习框架，旨在使用 Ray、vLLM 和 NVIDIA AutoModel 对大型多模态智能体模型进行可扩展的全异步训练。
Ray 2.56已发布，包含Ray Data的稳定性改进以及Ray Serve的重构，以提升LLM服务的性能。
Ray 2.56 已发布，改进了 Ray Data、面向 LLM 的 Ray Serve、GPU 域感知放置组以及 Kubernetes 集成。
Robert Nishihara 强调了一篇关于解耦RL工作负载的论文，表明使用计算优化的H800进行预填充，带宽优化的H20进行解码，可以分别将rollout时间减少21-51%和47%，强调没有单一硬件类型适合所有阶段。
Ray Serve LLM 在 Ray 2.56 中，对预填充密集型工作负载实现了高达 4 倍的吞吐量提升，对解码密集型工作负载实现了 24 倍的提升，在生产基准测试中与基于 Rust 的路由框架（如 vllm-router）性能相当，这是与 Google Cloud GKE 团队合作宣布的。
这篇来自Anyscale的博客文章解释了LLM服务中Prefill-Decode（PD）分离的直觉，展示了如何将预填充和解码阶段分配到专用GPU上，在使用Ray和vLLM的AMD MI325X上实现高达2.7倍的有效吞吐量提升和67%的成本节省，同时也讨论了PD分离何时没有帮助。
Anyscale on Azure 现已公开预览。Daniel Arrizza 和 Paul Yu 将主持一场工作研讨会，探讨如何在 Azure 租户内构建和部署生产级 AI 工作负载，并与现有 Azure 服务集成。
微软 AI 发布了 MAI-Thinking-1，一个拥有 350 亿活跃参数/1 万亿总参数的 MoE 推理模型，在 STEM 和编码任务上具有竞争力，使用 Ray 进行分布式训练和编排。
Snowflake现在支持基于Ray的作业级批量推理，通过单一API调用即可在数百万非结构化数据点上执行分布式GPU，从而扩展模型推理。