标签
PyTorch 的 Helion 内核 DSL 已集成到 vLLM 的线性后端中，单一的自动调优 GEMM 实现即可覆盖 Standard GEMM、Split-K 和 Swap-AB 等多种变体，并在 NVIDIA Hopper GPU 上超越 CUTLASS 与 DeepGEMM 后端，部分工作负载的吞吐量提升超过 10%。
PyTorch团队讨论了PyTorch作为深度学习领域既作为参考语言又作为实现语言的概念，强调了其在验证优化的内核实现中的作用，以及大型语言模型生成明确的前向-后向代码的潜力。