@SKhynix：认识一下CMM-Ax，这是@SKhynix与Marvell Technology共同开发的基于ASIC的CXL-PNM解决方案。旨在克服内存瓶…
摘要
SK海力士推出CMM-Ax，这是与Marvell Technology共同开发的基于ASIC的CXL-PNM解决方案，旨在克服长上下文LLM推理中的内存瓶颈，吞吐量比仅使用GPU的系统最高提升5.5倍。
查看缓存全文
缓存时间: 2026/08/04 16:12
认识一下 CMM-Ax，这是 @SKhynix 与 Marvell Technology 合作开发的基于 ASIC 的 CXL-PNM 解决方案。
CMM-Ax 旨在克服长上下文 #LLM 推理中的内存瓶颈，其吞吐量比传统纯 GPU 系统最高可提升 5.5 倍。
#SKhynix #CXL #CMMAx #PNM #AI https://t.co/iCKjNOO8IU
相似文章
这家芯片初创公司刚融资1.35亿美元，押注AI的最大瓶颈不是计算，而是内存
XCENA，一家由三星和SK海力士资深人士创立的芯片初创公司，融资1.35亿美元，用于开发一种以内存为核心的芯片，该芯片可在DRAM附近处理AI推理任务，从而减少CPU与GPU之间昂贵的数据传输。该公司的MX1芯片有望提高效率并降低基础设施成本。
一家小型公司抢了AMD的风头，凭借采用老旧DDR4和28nm芯片的PCIe AI加速器，以仅240W功耗在本地运行700B参数大模型，向Nvidia发起挑战
台湾初创公司Skymizer发布了HTX301，这是一款PCIe AI加速器，采用较老的28nm芯片和DDR内存，仅需240W功耗即可在本地运行700B参数的大语言模型，对Nvidia和AMD的高功耗GPU解决方案构成挑战。
@LinQingV: 之前做LLM推理芯片架构探索的时候，我把四大AI推理ASIC公司的架构都翻过一遍。Groq、SambaNova、Tenstorrent、Cerebras。前三家的思路虽然各有侧重，但底层逻辑都在同一个框架里：片上大SRAM + dataf…
The article analyzes the AI inference ASIC architectures of Groq, SambaNova, Tenstorrent, and Cerebras, highlighting Cerebras's unique wafer-scale engine design. It discusses the benefits of deterministic latency and high bandwidth for LLM inference, while noting challenges like yield, cost, and KV cache bottlenecks.
台湾公司Skymizer发布HTX301 - 配备384GB内存、功耗约240瓦的PCIE推理卡
Skymizer发布HTX301，一款能够本地运行700B参数大语言模型、拥有高内存和低功耗的PCIE推理卡。
@pupposandro：在 Strix Halo 上比 llama.cpp 快 2.5 倍。我们刚刚为 AMD Ryzen AI MAX+ 395 iGPU（gfx1151，……）发布了 DFlash + PFlash
一套新工具集（DFlash + PFlash）在 AMD Ryzen AI MAX+ 395 iGPU 上实现了比 llama.cpp 快 2.5 倍的推理速度，展示了 Qwen3.6-27B 在 128 GiB 统一内存下的显著加速效果。