@QuixiAI: DGX Spark 的 NVIDIA 开源内核驱动迎来两项修复——进程退出时,释放的 GPU 内存现已归还操作系统……

X AI KOLs Timeline 新闻

摘要

DGX Spark 的 NVIDIA 开源内核驱动迎来两项修复:进程退出时释放的 GPU 内存将归还操作系统,同时为 GPU 访问系统内存产生的缺页异常启用大页机制,首次访问带宽从 0.4 提升至 19.6 GiB/s。

DGX Spark 的 NVIDIA 开源内核驱动迎来两项修复 - 进程退出时,释放的 GPU 内存现已归还操作系统(此前:64 GB 内存“不翼而飞”,vLLM 无法启动)- GPU 访问系统内存时的缺页异常获得大页支持:首次访问带宽从 0.4 提升至 19.6 GiB/s
查看原文

相似文章

@QuixiAI: https://x.com/QuixiAI/status/2092804334417236135

X AI KOLs Following

这是 NVIDIA 开放 GPU 内核模块的一个分支,它支持消费级 GeForce GPU(3090、4090、5090)之间的 PCIe 点对点通信,允许直接通过 PCIe 进行数据传输,从而显著提升多 GPU 性能。