模组开发者解锁英伟达 RTX 20、30 和 40 系列 GPU 隐藏的 AI 性能,使部分基准测试成绩提升近一倍

Reddit r/artificial 新闻

摘要

模组开发者解锁了英伟达 RTX 20、30 和 40 系列 GPU 隐藏的 AI 处理能力,通过调用被禁用的硬件资源,使其在某些基准测试中的性能提升至接近原来的两倍。

暂无内容
查看原文

相似文章

RTX Pro 4500 Blackwell 性能实测

Reddit r/LocalLLaMA

一位用户分享了将 Nvidia RTX Pro 4500 Blackwell 32GB GPU 与 RTX 5060 Ti 16GB 进行 AI 推理性能对比的基准测试结果,显示根据模型大小和量化水平,速度提升了 1.6 到 6 倍。

# Modify and load custom VBIOS on Windows and Linux, on Blackwell 2.0 (RTX 50 Series)/Ada(RTX 40 Series)/Ampere (RTX 30 Series) without flashing, for example to lower power limits (and which cards were tested) **在 Windows 和 Linux 上无需刷写即可修改和加载自定义 VBIOS,适用于 Blackwell 2.0(RTX 50 系列)/ Ada(RTX 40 系列)/ Ampere(RTX 30 系列),例如降低功率限制(及测试过的显卡)**

Reddit r/LocalLLaMA

三款新工具让用户无需刷写即可在 Windows 和 Linux 上修改并加载 NVIDIA RTX 30/40/50 系列 GPU 的自定义 VBIOS 镜像,从而实现更高的功耗上限、解锁电压调节以及更大的超频偏移,同时保持显卡原始固件完整。

@no_stp_on_snek:哦啦啦,我们在这儿发现了什么?

X AI KOLs Timeline

据报道,一个 Linux 内核模块黑客手段在 NVIDIA RTX 3090 显卡上实现了快 1.9 倍的 BF16 张量运算,将 BF16 TFLOPS 从 82 提升到 155,并提高了 cuBLAS GEMM 性能——因为 NVIDIA 出厂时这些显卡的张量运算采用 fp32 累加,运行速度只有一半。