你会用4000美元做什么?

Reddit r/LocalLLaMA 新闻

摘要

一位拥有5090 GPU的用户讨论如何花费4000美元来增强其AI模型测试和编码能力,包括对媒体创作和额外本地计算能力的考量。

我已经有一个5090,主要用于Hermes和编码。我唯一羡慕的是尝试那些无法放入我VRAM的模型。我确实想涉足更多媒体创作(我知道5090在这方面会更好),而且我在想,我也可以用spark来进行编码(给它一些更聪明的模型可能受益的问题,或者只是总体上增加本地计算能力)。
查看原文

相似文章

我的4.8万美元GPU服务器值吗?

Hacker News Top

一位前FAANG工程师讲述了为独立AI研究构建一台配备六张RTX 6000 Ada显卡、价值4.8万美元的GPU服务器的经历,详细介绍了构建过程、电源限制以及与云GPU租用的成本对比。

4张R9700、2张Mi210 或 4张4080S 32G

Reddit r/LocalLLaMA

用户正在比较GPU选项,如R9700、Mi210和4080S,以实现128GB VRAM用于并行运行多个AI模型,考虑因素包括成本、性能和兼容性。