@rohanpaul_ai: 有人辞去了数据中心的工作,租了一个空仓库,里面放满了成排的服务器。向客户收费…
摘要
一位前数据中心员工创业,使用vLLM在专用服务器上为客户提供私有隔离的AI模型部署,每月收费4-6千美元。
有人辞去了数据中心的工作,租了一个空仓库,里面放满了成排的服务器。
每月向客户收取4-6千美元,提供私有隔离部署。
每个客户获得专用机器来托管模型。他全部使用vLLM运行。
https://t.co/ypSseiQFov
查看缓存全文
缓存时间: 2026/06/28 09:58
有人辞去了数据中心的工作,租了一个空仓库,里面摆满了一排排服务器机器。向客户收取每月4000至6000美元的费用,提供私有隔离部署。每个客户获得专用的机器来托管模型。他所有的部署都运行在vLLM上。https://t.co/ypSseiQFov
相似文章
@rohanpaul_ai: AI正在变成一个非常物理的问题。你需要土地、电网电力、许可、混凝土、冷却以及漫长的建设周期……
Vantage Data Centers、Oracle和OpenAI之间一项超过150亿美元的合作伙伴关系旨在解决AI的物理基础设施挑战,包括土地、电力和冷却。
@Skaly__Bull: 传统AI技术栈正在消亡 他们只是还不知道而已 1万美元的企业服务器、数据中心GPU、机架和…
作者认为传统企业AI技术栈已经过时,声称一台599美元的Mac mini运行Ollama就能以80%的质量本地处理80%的AI工作负载,而成本仅为租用云GPU的一小部分。
@viks_rum: https://x.com/viks_rum/status/2077650169265590727
对向前沿AI实验室出售训练数据这一蓬勃发展的业务进行了深入分析,详细介绍了六种不同的数据产品以及市场的财务动态。
@gippp69: 这位用户看到一张430美元的AI账单,于是干脆在桌下自己搭了个AI实验室 RTX 5090 + RTX 4090, 56GB VRAM, 128GB RAM, …
一位用户在桌下搭建了一个私人AI实验室,使用RTX 5090和RTX 4090显卡,运行Qwen、DeepSeek、Llama等本地开源模型,以避免API费用。
你愿意在家里托管部分AI数据中心吗?
Sunrun启动了一项试点计划,客户在家中托管AI计算节点,并获得参与报酬,从而为AI公司创建一个分布式计算网络。