标签
OpenAI 宣布与 Broadcom 合作设计了一款定制芯片,以增强其 AI 基础设施。
OpenAI 宣布了其首款定制AI芯片,专门用于运行ChatGPT及未来的AI代理,标志着在减少对外部硬件供应商依赖方面迈出了重要一步。
OpenAI 发布了其首款自研推理处理器 Jalapeño,与 Broadcom 合作开发,旨在提升每瓦性能并减少对 Nvidia GPU 的依赖。
一个自定义的FPGA实现,在80 MHz下运行带KV缓存的Transformer,实现每秒56,000 tokens,在微型LCD上运行microGPT。
一款逐门定制的数字芯片,在仅80 MHz频率下运行含KV缓存的Transformer,实现每秒超过56,000 tokens,并在FPGA上完成原型验证。