请不要因为这个问题责怪我…
摘要
用户询问人们如何通过本地LLM设置赚钱，考虑到GPU设备的高昂成本，并探讨硬件领域的潜在职业机会。
问题是……你们如何通过本地LLM设置赚钱？（当然除了编程）我看到人们花那么多钱在本地运行LLM的计算能力上，许多人说他们的设备已经回本或者赚得更多（我猜他们不是指与提供商token相比节省了同样的钱）。你应该做些什么来证明购买4x6000 GPU设备（现在接近5万美元）是合理的？也许我会找到新的职业机会，因为我喜欢与硬件打交道……
相似文章
你认为运行本地大型语言模型的专用硬件会很快变得平价吗？
讨论了运行本地大模型的平价专用硬件的可能性，考虑到中国制造商大规模生产低成本硬件的能力。
构建本地 LLM 设备的人会关注 RTX Ada/工作站显卡的价格吗？还是只关注消费级显卡如 5090？
讨论本地 LLM 设备构建者是否会监控像 RTX 6000 Ada 这样的工作站 GPU 的价格，还是主要关注像 RTX 5090 这样的消费级显卡，以及是否存在针对这些不频繁但高风险的购买的专门跟踪工具。
高端私有本地 LLM 方案真的值得吗？
一位用户在纠结，投入 5×3090 GPU 的高端本地 LLM 配置，能否在保障数据隐私的同时，追平 Claude 或 GPT 等云端服务。
AMD 未来 GPU 产品。一些适合构建 LLM 的有趣产品。你会用它们搭建什么样的 LLM 机器？
关于即将推出的 AMD GPU 产品及其搭建 LLM 机器潜力的讨论，并向社区征求构建建议。
本地大语言模型已不再民主...硬件门槛已失控。
作者认为，由于硬件成本高昂，运行本地大语言模型已变得难以企及，这与早期消费级GPU尚能胜任的情况形成鲜明对比，并对看似不再民主的访问权表达了不满。