@gregosuri: Ahmad说得对
摘要
Ahmad指出,他建议的2000美元GPU已涨至8000美元,而OsmanticAI正在开发ODS,以便在任何机器上运行本地AI模型,即使GPU资源有限的用户也能使用。
Ahmad说得对
查看缓存全文
缓存时间: 2026/09/16 14:11
Ahmad 说得对
Ahmad (@TheAhmadOsman): 你看,我之前推荐大家2000美元买的显卡,现在涨到8000美元了
但别担心,我们 @OsmanticAI 正在努力让 ODS 在任何设备上都能运行,这样即使你“显卡拮据”,也可以运行本地模型
相似文章
@TheAhmadOsman:我们正进入一个时代——用运行在昂贵硬件上的模型,制造能够在廉价硬件上运行的模型……
Ahmad Osman 认为,我们正进入一个新时代:运行在昂贵硬件上的大型模型将被用来创建可以在廉价硬件上运行的模型,而 ODS 的使命是让本地 AI 成为日常设备(例如一台 2013 年的笔记本电脑)上的默认选项。
@TheAhmadOsman: 本地AI现在很好了
Ahmad宣布了一个本地AI硬件竞技场,使用ODS在RTX PRO 6000、DGX Spark、Strix Halo、M5 MacBook Pro和ChatGPT等硬件上对LLM进行基准测试,并邀请社区为未来的比较提供意见。
@TheAhmadOsman: 温馨提醒,开始使用本地AI所需的一切就是: - 2x RTX 3090(在r/hardwareswap上花$700-$900入手) -…
提醒一下,两块RTX 3090加上Qwen 3.6 27B或Gemma 4 31B等开源模型,就可以运行强大的本地AI代理,性能堪比Opus 4.5,配合Claude Code、自托管SearXNG等工具使用。
@guohao_li:是的,确实是时候认真考虑购买更多GPU并开始构建我们自己的本地AI堆栈了。我很好奇…
一位研究人员表示,是时候购买更多GPU并构建本地AI堆栈了,并提到Qwen 3.5 27B和GLM 5.2等模型消除了永久底层阶级的威胁。
@TheAhmadOsman: 放下一切——为何硬件价格(包括2020年的二手RTX 3090)越来越贵——无论前沿……
这条推文讨论了硬件价格上涨(包括二手RTX 3090),并认为前沿智能不仅限于数据中心,从而论证了看好本地/开源AI的理由。