标签
一篇技术文章介绍了 GPU 加速的权重传送（Weight Teleportation），这是一套 Blackwell 原生的 delta 权重同步流水线，可将采样器暂停时间降至 0.23 秒以下，端到端权重同步耗时降至 4 秒以内，适用于大规模强化学习（RL），在大多数工作负载上超越了集群内 P2P RDMA 方案。
FLAMIA 提出了一族面向 NVIDIA Blackwell GPU 的混合精度注意力内核，利用 MXFP8 与 NVFP4/FP8 路径，在避免因果信息泄漏的同时加速 Transformer 训练，在 B200/B300 上实现约 1.06–1.42 倍的前向与反向注意力加速。
文章详细介绍了 FlashAttention-4 的优化技术，包括用于解码的 S/P 乒乓方法以重叠操作，在 NVIDIA Blackwell GPU 上实现了高达 16% 的性能提升。
llama.cpp的一个分支引入了TurboQuant TQ3_4S量化方法，该方法映射到Blackwell FP4张量核心，在GB10上实现高达221%的提示处理加速，同时以Q3的大小保持接近Q4的质量。
一条推文指出，经过 abliterated 处理、NVFP4 量化的 Gemma-4-12B 模型（7.7 GB）在实际任务中能够与 Qwen 3.6-35B 相媲美，同时在 Blackwell GPU 上运行快速，展现了显著的效率提升。
英伟达发布了 RTX Spark，这是一款专为 Windows PC 设计的 Arm 芯片，集成了 20 核 Grace CPU、最高 6,144 个 Blackwell GPU 核心和最高 128GB 统一内存，旨在为轻薄笔记本和紧凑台式机带来高性能和 AI 能力。
LongLive-2.0 引入了一种基于NVFP4的并行基础设施，用于长视频生成，在训练上实现了高达2.15倍的加速，推理上实现了1.84倍的加速，5B模型达到了45.7 FPS。