wafer-scale-engine

AMD与Cerebras宣布联合推出AI推理解决方案，该方案将AMD Helios机架级解决方案与Cerebras晶圆级引擎相结合，旨在实现超低延迟和高吞吐量。这种解耦式推理工作流预计每瓦每秒可处理的token数量提升高达5倍。

Cerebras 联合创始人解释了 WSE（晶圆级引擎）与 NVIDIA GPU 的根本区别：GPU 为图形设计通过堆叠核心和 NVLink 互联运行 AI，而 WSE 将整块晶圆做成单芯片，片上互联带宽和内存带宽远超 GPU 集群，推理速度大幅领先。

The article analyzes the AI inference ASIC architectures of Groq, SambaNova, Tenstorrent, and Cerebras, highlighting Cerebras's unique wafer-scale engine design. It discusses the benefits of deterministic latency and high bandwidth for LLM inference, while noting challenges like yield, cost, and KV cache bottlenecks.