@gippp69: 这位用户看到一张430美元的AI账单,于是干脆在桌下自己搭了个AI实验室 RTX 5090 + RTX 4090, 56GB VRAM, 128GB RAM, …

X AI KOLs Timeline 新闻

摘要

一位用户在桌下搭建了一个私人AI实验室,使用RTX 5090和RTX 4090显卡,运行Qwen、DeepSeek、Llama等本地开源模型,以避免API费用。

这位用户看到一张430美元的AI账单,干脆在桌下自己搭了个AI实验室。 RTX 5090 + RTX 4090,56GB显存,128GB内存,Proxmox,以及本地运行的Qwen / DeepSeek / Llama模型,无需API密钥——其他人每次测试提示词还在付费呢。 这套设置最妙的部分:api_key: “not-needed”。 他的智能体可以扫描GitHub、Reddit和RSS订阅,阅读笔记,通宵测试想法,即使崩溃也不会变成另一张账单。如果出问题,他改改配置就好,不用操心信用卡限额。 大多数人按token租用AI。而他把桌面设备变成了私人机器,即使关闭控制面板也能工作。
查看原文
查看缓存全文

缓存时间: 2026/05/17 05:28

这哥们看到430美元的AI账单后,直接在自己桌底下搭了个AI实验室

RTX 5090 + RTX 4090,56GB显存,128GB内存,跑Proxmox和本地Qwen/DeepSeek/Llama模型,不用API密钥——而其他人还在为每次测试提示词付费。

这套配置最妙的地方在于:api_key: "not-needed"

他的AI代理可以扫描GitHub、Reddit和RSS订阅,阅读笔记,整夜测试新想法,哪怕崩溃了也不会变成另一张账单。如果出了问题,他改的是配置文件,而不是信用卡额度。

大多数人按token租用AI。而他把一张办公桌变成了私人机器,就算仪表盘关了也能继续运行。

相似文章