我的家庭数据中心

Reddit r/LocalLLaMA 新闻
home-lab gpu-setup machine-learning self-hosted hardware ai-training

摘要

用户描述了他们的家庭数据中心设置，包含多个用于机器学习实验、训练和智能体编程的高端系统。

系统1：Threadripper 3960x 24核 4块3090 ti 128GB DDR4 系统2：Xeon 8352 36核 4块5070 ti 128GB DDR4 系统3：Intel 14700k 24核 64GB DDR5 5090 系统4：Ryzen 5950x 16核 64GB DDR4 2块5070 ti 第一个系统使用两个电源来应对这些3090s接近2000W的满载功耗。起初有些担心，但已经稳定运行大约一个月了。Intel那台是工程样品，花了100美元。我主要用它来运行嵌入模型。我用它们进行各种机器学习实验、项目和一些智能体编程。目前，3090s正在用从更大模型中蒸馏出的数据训练一个TTS LoRA。5070s运行Qwen 27B用于编程，Nemotron流式STT和Moss TTS用于我正在构建的交互式智能体。最近的这些Qwen模型在编程上已经足够好了。有时我会让它们整夜在代码仓库上工作。主要是样板改进，但能在没有Token成本的情况下完成实际工作，这太不可思议了。除了这些硬件显而易见的成本之外。热爱这个社区 ❤️
查看原文

相似文章

数据中心移动到你的设备上（4分钟阅读）

TLDR AI

Perplexity在2026年台北国际电脑展上发布了一款混合本地-云端推理系统，该系统能智能地在设备端模型和云端模型之间路由查询，基于其早前的Personal Computer agent构建。

AI 在家（第一部分）：一箱零碎

Hacker News Top

作者分享了一个 DIY 项目，利用廉价的二手服务器 GPU 和旧 PC 零件搭建一个经济实惠的家庭 AI 设备，以避免使用云服务。