标签
内存现占AI加速器成本的63%,较2024年初的52%上升,这使得行业优先事项从工艺缩小转向数据移动优化。
John Carmack 评论了关于AI加速器的内存成本和容量问题,指出模型推理可以有确定性的内存访问模式,这与游戏渲染形成对比。
苹果已将其产品线(包括Mac和iPad)的价格上调数百美元,归因于AI投资导致内存成本飙升,使得芯片制造商将重心转向利润更高的数据中心内存。