标签
一条推文反驳了“没有CUDA的Mac对AI毫无用处”的说法,并展示了相关基准测试结果:一台Mac Mini在处理30B参数模型时,生成速度可达56 t/s。推文认为,Mac Mini足以胜任本地推理任务,而DGX则在训练和预填充环节表现出色。
在4台DGX Spark机器上运行4-bit量化版GLM-5.2(753B MoE),Terminal-Bench 2.1得分为70.8%,而完整模型为81.0%。
由NVIDIA AI基础设施支持的NAIRR试点计划已支持超过700个研究项目,包括开发用于流体模拟的Walrus基础模型和用于储能的MIST分子基础模型。
NVIDIA 发布了 RTX Spark PC 和一系列更新,以在 RTX 和 DGX 生态系统中支持本地 AI 智能体,包括 OpenShell 运行时即将登陆 Windows、NemoClaw 扩展、性能提升以及与 Adobe 和 H Company 的集成。
用户报告称,其搭载Nvidia GB10(DGX)的Asus Ascent在运行Gemma4-31B等大语言模型时,速度比Ryzen AI Max还要慢(预期应有2-4倍加速),并分享了他们的llama-cpp配置以供调试。
有用户报告称,在运行 Qwen3.5-122b 模型且 GPU 高负载的情况下,成功使用自来水为 DGX 服务器降温,并维持了安全的温度水平。