@TheAhmadOsman: 本地AI现在很好了
摘要
Ahmad宣布了一个本地AI硬件竞技场，使用ODS在RTX PRO 6000、DGX Spark、Strix Halo、M5 MacBook Pro和ChatGPT等硬件上对LLM进行基准测试，并邀请社区为未来的比较提供意见。
本地AI现在很好了
查看缓存全文
缓存时间: 2026/07/29 22:12
本地AI现在很不错了，顺便说一句。
Ahmad (@TheAhmadOsman)： 我们使用ODS搭建了一个本地AI硬件竞技场
大模型（LLM）竞赛将在以下设备间进行：
- RTX PRO 6000
- DGX Spark
- Strix Halo
- M5 MacBook Pro
- 云端（ChatGPT）
告诉我们你还想看什么。
我们将让本地AI成为默认选项。
相似文章
@TheAhmadOsman: 本地AI人群必胜。看我们将其设为默认。
在Nvidia的Local AI State of the Union活动中，人们对本地AI的兴趣高涨，现场座无虚席。
@TheAhmadOsman: 温馨提醒，开始使用本地AI所需的一切就是： - 2x RTX 3090（在r/hardwareswap上花$700-$900入手） -…
提醒一下，两块RTX 3090加上Qwen 3.6 27B或Gemma 4 31B等开源模型，就可以运行强大的本地AI代理，性能堪比Opus 4.5，配合Claude Code、自托管SearXNG等工具使用。
@DeRonin_: 我目前的本机AI配置：- 2x DGX Spark 链接 (256gb) > GLM 5.2 @ 2bit, 推理 + 代理循环 - Mac Studio M3 Ultr…
一位用户描述了他们完全本地的AI堆栈，使用多个硬件设备运行GLM、Qwen和Kimi等中国模型，声称相比GPT-5.5和Opus 4.8等前沿模型节省了87%的成本，同时提到了自托管视频生成的计划。
@RayFernando1337: https://x.com/RayFernando1337/status/2070621713952579990
关于是在本地运行AI模型还是通过API运行的详细分析，涵盖了RTX 5090、RTX PRO 6000和DGX Spark等硬件选项，重点讨论了内存与带宽的权衡、成本考虑以及隐私需求。
@TheAhmadOsman: 重磅消息 与 NVIDIA 合作，让本地AI成为默认
宣布与 NVIDIA 合作，使本地AI成为默认选项。