AMA - 新本地AI设备
摘要
用户升级了他们的本地AI设备，采用了新的Turin风格芯片组和另一块RTX 6000 WS GPU，并在AMA中分享了这一体验。
https://preview.redd.it/k7r0l6e0cx6h1.jpg?width=3206&format=pjpg&auto=webp&s=5d75ee62340b68d300d1c34db2a5d3ca5c67ccc1 经过一段时间的讨论，我下定决心升级到新的Turin风格芯片组和另一块RTX6000 WS。
相似文章
@andrewchen：体验本地AI模型的主要缺点在于你会买一块GPU，然后另一块，接着又一块……
Andrew Chen分享了他为本地AI实验购买多块GPU的经历，在5090 eGPU上以100 tok/s运行Qwen3.6 27B密集模型，并将其与Sonnet 4.6进行比较。
@TheAhmadOsman: 温馨提醒，开始使用本地AI所需的一切就是： - 2x RTX 3090（在r/hardwareswap上花$700-$900入手） -…
提醒一下，两块RTX 3090加上Qwen 3.6 27B或Gemma 4 31B等开源模型，就可以运行强大的本地AI代理，性能堪比Opus 4.5，配合Claude Code、自托管SearXNG等工具使用。
@leopardracer: https://x.com/leopardracer/status/2055341758523883631
一位用户分享了他们搭建双GPU本地AI实验室的经验，使用了RTX 4080 Super和5060 Ti，通过llama.cpp和llama-swap运行Qwen 3.6模型，以降低API成本并实现无限制的实验。
从双3090升级 - 应该添加什么？（双A6000/5090/48GB 4090？）
关于从双RTX 3090升级到替代方案（如双A6000、RTX 5090或48GB RTX 4090）的讨论，可能用于AI/ML工作负载。
@gippp69: 这位用户看到一张430美元的AI账单，于是干脆在桌下自己搭了个AI实验室 RTX 5090 + RTX 4090, 56GB VRAM, 128GB RAM, …
一位用户在桌下搭建了一个私人AI实验室，使用RTX 5090和RTX 4090显卡，运行Qwen、DeepSeek、Llama等本地开源模型，以避免API费用。