标签
SK海力士推出CMM-Ax,这是与Marvell Technology共同开发的基于ASIC的CXL-PNM解决方案,旨在克服长上下文LLM推理中的内存瓶颈,吞吐量比仅使用GPU的系统最高提升5.5倍。
文章深度拆解了CXL技术如何打破AI内存墙,分析了从训练到推理阶段的内存瓶颈以及CXL在数据中心的应用前景。
Meta 开发了一款定制 CXL 桥接芯片(Vistara),用于在新服务器中复用旧 DIMM,以解决内存短缺问题并降低成本,同时不会显著影响性能。
Meta 正在开发定制的 CXL 2.0 芯片,桥接两种内存类型,从而在新款仅支持 DDR5 的服务器中复用旧款 DDR4 服务器内存,以降低硬件成本。
XCENA,一家由三星和SK海力士资深人士创立的芯片初创公司,融资1.35亿美元,用于开发一种以内存为核心的芯片,该芯片可在DRAM附近处理AI推理任务,从而减少CPU与GPU之间昂贵的数据传输。该公司的MX1芯片有望提高效率并降低基础设施成本。