@TheAhmadOsman:我们正进入一个时代——用运行在昂贵硬件上的模型,制造能够在廉价硬件上运行的模型……
摘要
Ahmad Osman 认为,我们正进入一个新时代:运行在昂贵硬件上的大型模型将被用来创建可以在廉价硬件上运行的模型,而 ODS 的使命是让本地 AI 成为日常设备(例如一台 2013 年的笔记本电脑)上的默认选项。
我们正进入一个时代——用运行在昂贵硬件上的模型,制造能够在廉价硬件上运行的模型
观看我们如何让本地 AI 成为默认选项
查看缓存全文
缓存时间: 2026/10/04 01:08
我们正在进入这样一个时代:用运行在昂贵硬件上的模型,让模型在廉价硬件上也能运行。
看我们如何让 Local AI 成为默认选项
Ahmad (@TheAhmadOsman): 如果你的奶奶没法在她那台 2013 年的笔记本上运行 Local AI,那我们的任务就算失败了。
这就是我们为 ODS 设定的门槛。
我们要让 Local AI 成为默认选项,而在这个过程中,“local” 这个词将不再有必要——因为它本来就是默认(的)。
相似文章
@TheAhmadOsman: 我不是随便说说的,但我们对ODS的使命是确保AI的未来是本地化的。看我们实现这一目标…
Ahmad Osman宣布了ODS的使命:让AI本土化,让用户能轻松在自己的硬件上运行开源模型和智能体应用。
@TheAhmadOsman: 但如果人们找不到或买不起本地运行模型的硬件,开源AI还有意义吗?当然有。这个问题…
这条推文认为,即使目前硬件稀缺,开源AI仍然有价值,因为模型会变得更高效,更便宜的硬件也会出现。
@gregosuri: Ahmad说得对
Ahmad指出,他建议的2000美元GPU已涨至8000美元,而OsmanticAI正在开发ODS,以便在任何机器上运行本地AI模型,即使GPU资源有限的用户也能使用。
本地模型是否比预期更快变得“足够好”?
这篇文章讨论了本地AI模型在日常任务中日益增长的可行性,暗示了向混合架构的转变,这种架构优化成本和延迟,而不是仅仅依赖前沿的云模型。
@TheAhmadOsman: 你应该购买RTX 3090并学习如何在本地运行模型。精英们不想让你知道,但运行本地模型…
一条推文建议用户购买RTX 3090以在本地运行AI模型,声称这简单、性能出色且便宜。