8台 R9700 系统升级

Reddit r/LocalLLaMA 新闻

摘要

一位用户展示了一台定制 AI 工作站,配备 8 块 Radeon R9700 GPU、一颗 Threadripper 9955WX 处理器和双海韵电源。该工作站从 4 块 GPU 升级至 8 块,以便在本地运行更大的模型。

只是想展示一下我的机器。基础机箱是一个老款海盗船,上面装了一个便宜的 AliExpress 显卡支架。系统配置:-Threadripper 9955WX -128GB DDR5 5600,升级到 256GB 实在太贵了 -华擎 WRX 90 WS EVO -2200W 海韵 + 1600W 海韵电源 -8 张 R9700 -PCIe 拆分卡和 6 根延长线,不过遇到了一些问题,准备买一个重定时器。我从 4 张显卡升级到了 8 张,这样等新的更大模型出来时,就能有更多余量。目前仍在运行 qfn,试过 GLM 5.3 Flash,但 QFN 搭配 radiance 的体验确实非常好。
查看原文

相似文章

为 10 人初创公司搭建 4x R9700 工作站

Reddit r/LocalLLaMA

一位用户分享了为 10 人初创公司搭建的 4x AMD Radeon R9700 AI Pro 工作站(总显存 128GB,Threadripper 9970x),用于部署 Qwen 3.8 Next Flash/27B 和 DSV4 Flash 模型,在 16 个并发会话下报告了强劲的聚合预填充/解码吞吐量。

4 张 R9700 配 127 美元二手 EPYC 的装机方案:每台整机总成本 1.07 万美元。我组了三台(384GB 显存)

Reddit r/LocalLLaMA

一位搭建者分享了三台自托管推理服务器,每台配备 4 张 Radeon AI PRO R9700 显卡(每台约 1.07 万美元,总计 384GB 显存),通过 vLLM-Radiance/ROCm 运行 Qwen3.8-27B,并提供了详细的吞吐量、延迟和长上下文基准测试结果。搭建这些服务器的起因是托管模型开始拒绝执行枪械行业研究任务。

4台 6000 Pro,供公司使用

Reddit r/LocalLLaMA

一位用户分享了如何使用完全本地部署的 AI 技术栈为 40 名员工(其中 10 名开发者)提供服务:该技术栈由一台配备 4 张 RTX 6000 Blackwell MaxQ GPU(384GB 显存)的 4U 服务器驱动,通过 vLLM 运行 DeepSeek V4 Flash,通过 llama.cpp 运行 Qwen 3.8 27B 和 K2-Horizon 7B,并结合 n8n 自动化、OpenWebUI、Whisper/Vexa AI 的 Teams 会议转录功能,以及用于营销的 ComfyUI。

4张R9700、2张Mi210 或 4张4080S 32G

Reddit r/LocalLLaMA

用户正在比较GPU选项,如R9700、Mi210和4080S,以实现128GB VRAM用于并行运行多个AI模型,考虑因素包括成本、性能和兼容性。