Cerebras CS-4

# 产品 - 系统 - Cerebras 来源: https://www.cerebras.ai/cs4 ## **最快的人工智能，速度再提升。** 全新推出的 Cerebras CS-4 是一款革命性的机架级解决方案，其推理速度相比 GPU 提升高达30倍，经济效益更优，并提供了一条部署超大规模算力的简洁路径。它是前沿AI的架构基础。 ### 每套系统配备三个 WSE-3 Turbo 每块晶圆提供上一代高达两倍的速度 ### 单位晶圆性能提升 全新的供电、散热和I/O技术，释放单位晶圆更多性能 ### Nexus 机架级平台 支持在超大规模数据中心快速部署 ## 推理速度相比 GPU 提升高达30倍 得益于 WSE-3 Turbo，CS-4 的推理速度相比 GPU 系统提升高达30倍，树立了生产环境中最快推理速度的新纪录。 ## 更高的极速吞吐量 CS-4 解决方案将推理帕累托前沿向前推进，每瓦吞吐量相比 CS-3 提升高达10倍，同时生成令牌的速度相比生产GPU系统快30倍。其结果是，该系统旨在同时提供高吞吐量和交互能力。 ## 面向前沿的架构 通过将晶圆间互连延迟降低至2微秒，CS-4 在超过10万亿参数的模型上实现超过每秒1,000个令牌的处理速度，在前所未有的规模上保持交互式解码性能。 ## 专为超大规模打造 CS-4 是全新的 Cerebras Nexus 平台架构的首次迭代。它围绕模块化概念构建，包含三个基础要素：计算、供电和 I/O – 每一部分都实现了重大创新，以简化制造、部署、维护和升级。 ## 模块化计算背包设计 Cerebras 对服务器进行了根本性的重新构想。每个晶圆级背包都是一个独立的组件，将晶圆、电源转换、直接液冷、高速 I/O 和控制电子设备集成在一个紧凑的3D封装中，组件数量减少了50%。此设计简化了制造流程，并将部署时间从数天缩短至数小时。 ## 高密度供电 供电点与处理器的距离仅为0.5毫米——比传统GPU板卡约50毫米的距离近约100倍——CS-4 几乎消除了板级功率损耗。这使得能够向 WSE-3T 提供两倍的电力，从而实现更高的运行频率和更快的令牌生成速度。 ## 新一代晶圆 I/O 接口 CS-4 引入了新的可编程 I/O 子系统，将 I/O 带宽翻倍并降低了延迟，这对聚合式和分离式解决方案都大有裨益。晶圆 I/O 模块还允许晶圆在机架内部和跨机架链接，无需交换机，实现了低至两微秒的晶圆间延迟，这是实现拥有数十万亿参数模型交互性的关键。 ## 先部署基础设施，再部署算力 CS-4 将稳定的供电、散热和网络层与其模块化的晶圆级计算分离。Cerebras 供电机柜可以在计算单元到来之前安装并通过设施认证。然后，计算背包滑入指定位置，并连接到供电、散热和数据接口——将部署时间从数天缩短至数小时，同时简化了超大规模环境下的维护和未来升级。 ## CS-4 关键数据 ## 首批 CS-4 将于本季度开始出货。将最快的人工智能带入您的数据中心。 ## 常见问题