硬件革命:为什么AI硬件永远改变了(3分钟阅读)
摘要
近期AI硬件的进展,包括OpenAI、Etched、亚马逊和SambaNova的定制芯片,标志着向针对AI工作负载的专用ASIC的重大转变,有望带来重大效率提升,并挑战英伟达的主导地位。
查看缓存全文
缓存时间: 2026/07/03 17:22
6月底,AI硬件领域迎来了重大突破,定制芯片从概念走向实际产品。OpenAI、Etched、亚马逊和SambaNova引领了这些显著发展,标志着行业的关键转变。这些创新有望提升AI处理能力和效率。
硬件变革:AI硬件为何从此彻底改变
AI硬件世界刚刚经历了极其忙碌的两周。6月底,定制芯片从纸面上的概念变成了实际运行的物理硬件。OpenAI、Etched、亚马逊和SambaNova几乎在同一时间采取了重大举措。
要理解其中缘由,可以把通用图形处理器(GPU)想象成世界级的全能厨师。他们能做任何菜肴,但需要花大量时间清理、阅读食谱和寻找食材。而定制芯片(ASIC)则像是只切金枪鱼的寿司专厨。他们只做一件事,但做得极快,毫无浪费。
6月底,整个行业决定:该请寿司师傅入场了。
深入解读六月硅片浪潮
这波硬件浪潮的速度史无前例。四家主要玩家几乎同步行动:
- OpenAI的“Jalapeño”芯片:与博通和Celestica合作,OpenAI在短短九个月内造出了首款定制芯片。早期测试样品已在实验室中运行内部机器学习负载。该公司计划到2029年以100亿瓦(10-gigawatt)的庞大规模部署这些定制芯片。
OpenAI@OpenAI·6月24日我们设计并制造了首款AI芯片:Jalapeño。
由OpenAI从头设计,并与@Broadcom合作量产,Jalapeño专为支持ChatGPT、Codex、API及未来智能体产品的LLM工作负载而生。
芯片是AI的基础显示更多1.4K3.7K22K6.9M
- Etched的“Sohu”芯片:这家初创公司公开了其采用台积电4nm工艺、专为Transformer模型设计的芯片。他们去掉了所有通用部件,只专注于AI数学运算。该芯片一次流片成功,筹集了8亿美元,并获得了超过10亿美元的远期合同。Etched声称,其8芯片服务器能以每秒500,000个token的速度运行Meta的Llama 70B模型!(虽然这是未经独立验证的自我报告数据)这展示了定制芯片的速度潜力。
Etched@Etched·6月30日我们正式公开亮相。
在成功完成A0流片、获得超过10亿美元客户合同以及筹集8亿美元后,我们已制造出第一批机架。
早期客户测试显示,我们在推理工作负载上实现了最先进的吞吐量、延迟和能效。
我们的第一批机架将于今年夏天发货。6071.4K9.2K5.8M
-
亚马逊的Trainium:十多年来,亚马逊一直将定制芯片严格限制在自己的云内部。但现在,他们正就向其他数据中心直接销售芯片进行早期洽谈。这是一次重大转变,对英伟达的王座构成了挑战。
-
SambaNova的SN50:这家初创公司推出了第五代AI芯片,旨在让企业AI运行更便宜、更简单。他们的系统可以在标准的风冷数据中心运行,这样企业无需重建设施。SambaNova正在寻求高达10亿美元的融资。
The Information@theinformation·6月25日SambaNova即将以100亿美元估值融资10亿美元,短短四个月内估值翻了五倍。
这家英特尔支持的芯片初创公司正将其推理芯片定位为英伟达GPU的低成本补充方案。
了解更多:英特尔支持的AI芯片公司SambaNova估值暴涨至100亿美元来自theinformation.com9226.4K
重新思考“护城河”
这波定制硬件浪潮让风投界开始重新思考什么能让一家AI公司拥有防御力。多年来,投资者将资金大量投入那些优化模型在通用GPU上运行的软件初创公司。但随着大型科技公司构建定制芯片,将这些优化直接硬编码到硅片中,那些仅靠软件的护城河正在被挤压。
但这并不意味着基础设施层已经没有机会。正如Tunguz所说,护城河不一定一开始就必须存在。虽然硬件初创公司通常需要巨大的技术领先优势才能起步,但持久的护城河实际上可以通过不懈的执行力、品牌建设和分销能力在时间中赢得。他以Salesforce为例,这家公司凭借在十年间更好的执行力和规模化能力,在云CRM市场上击败了技术更优的竞争对手。
Tomasz Tunguz@ttunguz·6月27日你的护城河是什么?
每个创始人在第三张幻灯片上都会遇到这个问题。大多数人的回答是技术差异化。但在应用层,这个答案一年内就会失效。
如果护城河是赢来的呢?75174K
新底线:硬件决定游戏规则
AI竞赛不再仅仅关乎谁能写出最好的算法。软件正迅速变成廉价的大宗商品。未来十年真正决定性的优势是物理层面的:设计定制芯片、确保电力供应、打造高效的硬件。赢得物理层的玩家将控制AI的未来。
相似文章
关于AI硬件(7分钟阅读)
一家风投公司对AI硬件市场现状及未来走向的看法。
“硬件是唯一的护城河”——我们应该现在购买新硬件还是等待?
文章讨论了硬件作为AI竞争优势日益增长的重要性,指出领先实验室更注重产品竞争力和计算规模,而非纯粹的AGI研究。文章强调了由此导致的消费级GPU供应紧张和硬件升级成本上升的问题。
下一个
本文讨论了人工智能从数据中心向笔记本电脑和台式机的转变,这一转变由Nvidia新的基于Arm的处理器和微软的AI集成推动,引发了企业硬件的重大升级周期。
AI 战争正从模型转向硬件,但我觉得讨论得远远不够
一篇评论文章认为,AI 竞争正从模型质量转向硬件部署与基础设施。文中指出,微软的 Project Solara、英伟达的 RTX Spark 以及字节跳动自研 CPU 等案例表明,智能体工作负载正推动着硅片与部署策略的革新。
AI价格暴跌:是软件的故事,而非硬件(14分钟阅读)
本文认为,AI推理成本的快速下降是由软件优化而非硬件改进驱动的,并且运行在消费级GPU上的开放权重模型正变得越来越能与前沿模型竞争。