gpus

卡内基梅隆大学软件工程研究所发布了一篇机器学习训练基础设施概述，涵盖了硬件考量（如GPU与CPU）以及内存需求等。

本文讨论了代理型AI如何可能将计算焦点从GPU转回CPU，引用了OpenAI的CFO和Ark Invest的CEO。它认为代理的推理涉及编排和通用任务，CPU处理这些任务更擅长。

Hugging Face 分享了社区硬件统计数据，展示了其用户中 GPU、CPU 和 Apple Silicon 的分布情况。

Modal介绍了他们开发的四个关键要素，可在几秒而非几分钟内启动无服务器GPU推理副本，从而实现对多变AI工作负载的高效GPU分配。

本文深入解析内存带宽作为本地 AI 硬件性能的关键指标，对比了 NVIDIA、Apple、AMD、Intel 等厂商在不同性能层级下的当前 GPU 与统一内存系统。