标签
NVIDIA recsys-examples 现已通过 Dynamo-Triton 提供端到端的 HSTU 生成式推荐推理工作流，结合 PyTorch AOTI 编译与 FlexKV 支持的 KV 缓存，在 RTX PRO 6000 Blackwell GPU 上实现了最高 5.93 倍的延迟降低。