8台 R9700 系统升级
摘要
一位用户展示了一台定制 AI 工作站,配备 8 块 Radeon R9700 GPU、一颗 Threadripper 9955WX 处理器和双海韵电源。该工作站从 4 块 GPU 升级至 8 块,以便在本地运行更大的模型。
相似文章
为 10 人初创公司搭建 4x R9700 工作站
一位用户分享了为 10 人初创公司搭建的 4x AMD Radeon R9700 AI Pro 工作站(总显存 128GB,Threadripper 9970x),用于部署 Qwen 3.8 Next Flash/27B 和 DSV4 Flash 模型,在 16 个并发会话下报告了强劲的聚合预填充/解码吞吐量。
4 张 R9700 配 127 美元二手 EPYC 的装机方案:每台整机总成本 1.07 万美元。我组了三台(384GB 显存)
一位搭建者分享了三台自托管推理服务器,每台配备 4 张 Radeon AI PRO R9700 显卡(每台约 1.07 万美元,总计 384GB 显存),通过 vLLM-Radiance/ROCm 运行 Qwen3.8-27B,并提供了详细的吞吐量、延迟和长上下文基准测试结果。搭建这些服务器的起因是托管模型开始拒绝执行枪械行业研究任务。
4台 6000 Pro,供公司使用
一位用户分享了如何使用完全本地部署的 AI 技术栈为 40 名员工(其中 10 名开发者)提供服务:该技术栈由一台配备 4 张 RTX 6000 Blackwell MaxQ GPU(384GB 显存)的 4U 服务器驱动,通过 vLLM 运行 DeepSeek V4 Flash,通过 llama.cpp 运行 Qwen 3.8 27B 和 K2-Horizon 7B,并结合 n8n 自动化、OpenWebUI、Whisper/Vexa AI 的 Teams 会议转录功能,以及用于营销的 ComfyUI。
@TheAhmadOsman: 嘿我的朋友,不错的配置。如果8x RTX PRO 6000是真正的目标,我会把它当成一个严肃的基础设施建设,而不是一个工作站……
关于搭建配备8张RTX PRO 6000 GPU的高端AI工作站的建议,强调适当的基础设施、散热,以及避免重复使用DDR4。
4张R9700、2张Mi210 或 4张4080S 32G
用户正在比较GPU选项,如R9700、Mi210和4080S,以实现128GB VRAM用于并行运行多个AI模型,考虑因素包括成本、性能和兼容性。