拥有能本地运行模型的硬件比以往任何时候都重要

Reddit r/ArtificialInteligence 新闻

摘要

一篇观点文章,主张个人应优先拥有能本地运行开源AI模型的硬件,以维护隐私和独立性。文章引用近期的政府限制以及GPT-5.6 Sol等模型的发布,认为这是精英阶层控制先进AI的迹象。

过去几周让我沉思良久。我本就相信普通人与精英之间的差距会随时间拉大。美国政府封禁Fable 5和Mythos之后,我得到了确认。我们正走向一个世界:我们运行过时的模型,而精英阶层已经拥有AGI。我不认为这是阴谋论。我认为这就是我们在未来12个月内会看到的情况,而OpenAI刚刚证实了这一点:它们只向美国政府挑选的授权公司发布了GPT-5.6 Sol及其系列模型。 我看到很多人担心这担心那,争先恐后地为这两家前沿实验室喝彩,对每一次更新垂涎欲滴。但重点应该反过来:深入理解机器学习和人工智能究竟是什么,从而掌握其潜力,并以大多数人不用的方式去使用它。然而,我们却一个接一个地粗制滥造,追逐虚幻的财富,因为如今社交媒体上看到的都是幸存者偏差。用户X靠他们粗制的创业项目月入1万美金,所以我也行,却忽略了数百万没能成功的人。 我认为方向应该不同。首先,保护你的数据、你的秘密以及你完全独立于这些大型AI实验室的能力。‘但是Massi,没有Opus 4.8或GPT-5.5,我就没法拼凑我的公开构建网站了 xD。’你需要的远不止这些。我敢打赌,如今十个人里有九个甚至无法充分发挥前沿模型的能力,因为他们交给模型的任务,六个月前的模型就已经能很好地完成了。所以从现在开始。投资于你自己和你的未来。不要让价格不断攀升。购买GPU以及任何你需要的硬件,以便尽可能好地运行开源和开放权重模型。 我知道这看起来是一笔巨大或毫无意义的开销,人们会告诉你今天的硬件六个月后就会过时,因为模型越来越重。那么看看GLM 5.2、Kimi 2.6和DeepSeek 4已经能做到什么,你就会发现当前公开的模型已经绰绰有余。总有一天你会感谢我,当那些你深爱的实验室让你以今天10倍的成本运行12个月前的模型,而精英阶层掌握着全世界所有的算力和最好的模型,把我们生吞活剥。还有你的隐私。 如今人们把一切都发送到云端模型:密钥、文档、照片。记住,你迄今为止发送的一切都存在他们的服务器上,你的数据会成为他们下一个模型的训练集。但如果你对此感到满意,仍然希望建立月入1万美金的SaaS,并像鹦鹉一样重复说硬件太贵、那些模型不是前沿模型,那么我有坏消息告诉你。你会为此付出代价,而且会到一个为时已晚的地步。 我认为政府也会使出浑身解数阻止开源模型的发展。所以还有一点:深入学习机器学习。研究AI的工作原理,如何微调模型。这样,从大型基础模型出发,每个人都可以构建自己的工作流程,并推动开源的发展,因为这可能是我们最后剩下的阵地。你没有多少时间了。不要想太多。开始拉远你与他们之间的距离。
查看原文

相似文章

本地 AI 应成为常态

Hacker News Top

本文指出,出于隐私和可靠性方面的顾虑,不应依赖云端托管的 AI API,并倡导采用设备端 AI 处理模式,文中以一款利用 Apple 本地模型 API 的原生 iOS 应用为例进行了说明。