@loktar00:你一直把 3090 的功耗限制设在 210 到 240 之间就不管了吗?其实可以压得更低,省下…
摘要
用户 @loktar00 分享发现,RTX 3090 在推理负载下可以把功耗限制降到远低于常见的 210-240W 范围,最低约 120W,显著减少发热和耗电。
查看缓存全文
缓存时间: 2026/10/01 10:20
一直就这样把 3090 的功率限制设在 210 到 240 之间,然后就不管了吗?
其实功率可以调得更低,还能帮你省下不少发热和功耗!
我一路试到了 120W https://t.co/EvyhS3SH4Y
相似文章
@Snixtp: 针对单张 RTX 3090 的更多能效测试 长文速读:- 我在单张 RTX 3090 上测试了 8 个本地大语言模型(LLM),功率限制从 100W 到 45…
本文展示了 8 个本地大语言模型在 RTX 3090 上的基准测试结果,显示功率能效在约 225W 时达到峰值,而在满功率下收益递减。
探寻4x 3090的甜点
一位用户分享了在运行Qwen3.6-27B与vLLM的4x RTX 3090平台上进行的功耗限制测试,发现220W是在最小化吞吐量损失下实现峰值效率的甜点。
3090 FE 用户注意:运行大语言模型会导致显存过热
运行本地 LLM 的 RTX 3090 Founders Edition 用户可能正在把显存“烤熟”:基准测试显示,默认风扇和功耗曲线会让 GDDR6X 在开始生成 token 后的几秒内达到 112°C,远高于其 96°C 的持续运行额定温度。发帖者建议将显卡功耗限制在 270W,并将风扇转速设为 100%(或限制在 240W,风扇转速设为 70%),代价是吞吐量下降约 30%;他还指出,降压并无帮助,因为 Nvidia 只在功耗超过 300W 时应用时钟频率偏移。
停止浪费电力
作者展示了如何在通过 llama.cpp 运行量化 Qwen 模型时,在不牺牲推理速度的前提下,将 RTX 4090 的功耗降低高达 40%。通过 nvidia-smi 限制 GPU 功耗上限并调整 llama-server 参数,用户可显著降低发热与噪音,并延长硬件使用寿命。
@TeksEdge:一位本地性能达人仅用单张RTX 3090运行Qwen3.8-27B,达到约381 tok/s。这位开发者将24GB的RTX 3090变成了一个mo…
一位开发者通过使用DFlash2和前缀缓存等优化技术,在单张RTX 3090上运行Qwen3.8-27B模型,实现了高达381 tok/s的推理速度,特别适用于RAG和编程助手等文档相关任务。