标签
Meta 开发了一款定制 CXL 桥接芯片(Vistara),用于在新服务器中复用旧 DIMM,以解决内存短缺问题并降低成本,同时不会显著影响性能。
Anthropic正与三星洽谈开发定制AI芯片,旨在实现硬件独立并提升效率。此举紧随OpenAI近期宣布推出定制芯片之后。
这条推文讨论了由于硬件限制,ML研究如何收敛于基于注意力、优化矩阵乘法(matmul)的算法,借鉴了‘硬件彩票’概念,并指出OpenAI的9个月芯片流片是硬件-研究协同设计的潜在迹象。
OpenAI 推出了与 Broadcom 合作打造的定制推理芯片 Jalapeño,标志着科技巨头在减少对英伟达依赖方面迈出了重要一步。
OpenAI 宣布与 Broadcom 合作设计了一款定制芯片,以增强其 AI 基础设施。
OpenAI 宣布了其首款定制AI芯片,专门用于运行ChatGPT及未来的AI代理,标志着在减少对外部硬件供应商依赖方面迈出了重要一步。
OpenAI 发布了其首款自研推理处理器 Jalapeño,与 Broadcom 合作开发,旨在提升每瓦性能并减少对 Nvidia GPU 的依赖。
一个自定义的FPGA实现,在80 MHz下运行带KV缓存的Transformer,实现每秒56,000 tokens,在微型LCD上运行microGPT。
一款逐门定制的数字芯片,在仅80 MHz频率下运行含KV缓存的Transformer,实现每秒超过56,000 tokens,并在FPGA上完成原型验证。