超级计算研究人员记录AI硬件的演进历程
摘要
MIT林肯实验室的研究人员发表了系列林肯AI计算调查(LAICS)论文,记录并对比商用AI加速器的性能和功耗——从最初研究57款芯片,到最新版涵盖超过120款。
<p>随着人工智能正在改变各行业和国家安全格局,了解最新硬件能力对于保持技术优势至关重要。</p><p>AI加速器——即专门用于加速神经网络、深度学习和机器学习等能力的专用系统——近十年来一直是开发的重点领域。自2018年以来,<a href="https://www.ll.mit.edu/r-d/cyber-security-and-information-sciences/lincoln-laboratory-supercomputing-center" target="_blank">林肯实验室超级计算中心</a>(LLSC)的团队一直在开展林肯AI计算调查(LAICS,发音为"lace")。在发表了六<a href="https://github.com/areuther/ai-accelerators" target="_blank">篇论文</a>之后,LAICS继续汇总当前商用AI加速器的信息,并比较它们的峰值性能和峰值功耗。</p><p>LLSC工作人员Albert Reuther表示:"大约八年前,我们看到研究论文中描述的研究型AI加速器和发布的商用加速器数量急剧增加,实验室工作的政府资助方也开始向我们提出相关问题。这足以成为启动这项调查的动力。"LLSC负责运营和优化实验室数千名研究人员使用的高性能计算系统。</p><p>尽管AI加速器常用于机器学习等处理任务,但它们也可支持其他并行应用,例如模拟分子功能和加速流体动力学仿真——这些过程的计算成本非常高。</p><p>AI加速器技术有多种形式:中央处理器(CPU)、图形处理器(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)以及数据流加速器。每种加速器的能力略有不同。CPU可用于通用计算,而ASIC只能执行非常特定的任务。数据流加速器、FPGA和GPU则更加灵活,可针对各种工作负载进行配置。不同类型的加速器因设计不同,其效率和性能也有所差异。LAICS的目标是调研当前市场上的技术并进行比较,以找到最适合特定需求的加速器。</p><p>LAICS团队由Reuther领导,成员包括LLSC的Michael Jones、Peter Michaleas、Jeremy Kepner和Vijay Gadepally。该团队还与林肯实验室各领域的研究人员合作,包括先进技术部以及情报、监视与侦察和战术系统部的人员,了解加速器如何支持各自使命的研发工作。</p><p>该系列的第一篇论文研究了57款加速器,而最新一篇则考察了超过120款。团队比较加速器的主要指标是峰值性能和峰值功耗;然后按芯片、板卡或系统级别进行分类。论文中的所有数据均来自公开渠道,但由于一些公司倾向于对其性能和功耗数据保密,获取数据颇具挑战。为了掌握该领域的最新动态,Reuther每天运行新闻和引用搜索,报告新的技术文章、公司公告和行业演示。</p><p>Reuther说:"每年又有五到十家初创公司获得融资并发布新的AI加速器,这一直让我感到惊讶。人们可能以为这个领域已经足够饱和了,但随后又有一批创新加速器被推出。"</p><p>除了总结当前加速器的性能与峰值功耗对比外,每篇论文还探索该领域的一个新方面。例如,2022年发表的论文研究了性能提升的来源,发现提升源于更小、更密集的晶体管设计以及使用更低的数值精度(即计算更少的有效数字)。最新论文考察了可用的不同架构选择,分析了增加某些组件(如每处理器更多核心或并行性能)将如何改变系统。</p><p>Reuther计划在可预见的未来继续开展这项调查,并指出,仅在过去几个月里,就有六家新初创公司发布了他们的首款AI加速器。</p><p>Reuther说:"AI及其运行的硬件是如此热门的话题,林肯实验室作为公正的技术顾问,为选择和追求正确技术提供指导,这一点非常重要。我们的AI加速器调查帮助许多资助方和政府同事更好地了解AI加速器领域,并做出更好的研究和采购决策。这项调查对于确定LLSC未来系统采购中应考虑哪些GPU也极具价值,因此它不仅造福我们的资助方和使命项目,也造福所有LLSC用户。"</p><p>完整的论文系列及配套数据集可在此<a href="https://github.com/areuther/ai-accelerators" target="_blank">查看</a>。</p>
查看缓存全文
缓存时间:
2026/10/08 12:40
# 超算研究人员记录 AI 硬件的演进历程
来源:https://news.mit.edu/2026/supercomputing-researchers-document-evolution-ai-hardware-1006
随着人工智能正在改变各行各业和国家安全,了解最新的硬件能力对于保持技术优势至关重要。
AI 加速器——旨在加速神经网络、深度学习和机器学习等能力的专用系统——近十年来一直是主要的研发方向。自 2018 年以来,林肯实验室超级计算中心(Lincoln Laboratory Supercomputing Center,https://www.ll.mit.edu/r-d/cyber-security-and-information-sciences/lincoln-laboratory-supercomputing-center ,简称 LLSC)的团队一直在开展林肯 AI 计算调查(Lincoln AI Computing Survey,缩写 LAICS,读作 "lace")。在发表了六篇论文(https://github.com/areuther/ai-accelerators)之后,LAICS 仍在持续汇总当前商用 AI 加速器的信息,并比较它们的峰值性能和峰值功耗。
LLSC 工作人员 Albert Reuther 表示:"大约八年前,我们看到论文中描述的研究型 AI 加速器数量急剧上升,商用加速器也纷纷发布,实验室的政府资助方开始就这些加速器向我们提出问题。这足以成为启动这项调查的动力。"LLSC 负责运营和优化实验室数千名研究人员所使用的高性能计算系统。
尽管 AI 加速器通常用于机器学习等任务,但它们也能支持其他并行应用,例如模拟分子功能以及加速流体力学仿真——这些过程对计算资源的消耗非常大。
AI 加速器技术有多种形式:中央处理器(CPU)、图形处理器(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)以及数据流加速器。每种类型的加速器在能力上略有不同。CPU 可用于通用计算,而 ASIC 只能执行非常特定的任务。数据流加速器、FPGA 和 GPU 更加灵活,可以针对各种工作负载进行配置。不同类型的加速器在效率和性能上存在差异,具体取决于其设计方式。LAICS 的目标是调查目前市场上的现有技术,并对它们进行比较,以找到适合特定需求的最佳加速器。
LAICS 团队由 Reuther 带领,成员包括 LLSC 的 Michael Jones、Peter Michaleas、Jeremy Kepner 和 Vijay Gadepally。该团队还与林肯实验室其他部门的研究人员合作,包括先进技术部(Advanced Technology Division)以及情报、监视与侦察与战术系统部(Intelligence, Surveillance, and Reconnaissance and Tactical Systems Division),以了解加速器如何为这些部门的任务研发提供支持。
他们系列论文中的第一篇研究了 57 种加速器,而最新一篇则涵盖了 120 多种加速器。团队比较加速器所使用的主要指标是峰值性能和功耗;随后,他们根据加速器是芯片、板卡还是系统进行分类。论文中的所有数据均来自公开来源,这有时颇具挑战性,因为一些公司更愿意对其性能和功耗数据保密。为了及时掌握该领域的最新动态,Reuther 每天都会进行新闻和引用搜索,报告新的技术文章、公司公告和行业报告。
Reuther 说:"每年又有五到十家初创公司获得融资并宣布成立,然后发布新的 AI 加速器,这一直让我感到惊讶。人们可能会认为这个领域已经足够饱和了,但随后又会有一批创新的加速器被推出。"
除了总结当前加速器的性能与峰值功耗之外,每篇论文还探讨了该领域的一个新方面。例如,2022 年发表的论文研究了性能提升的来源,发现这些提升源于更小、更密集的晶体管设计以及使用更低的数值精度(即计算更少的有效数字)。最新一篇论文考察了可供选择的不同架构方案,分析了增加某些组件(如每个处理器更多的核心数或并行性能)将如何改变系统。
Reuther 计划在可预见的未来继续开展这项调查,并指出,仅在过去几个月里,就有六家新初创公司宣布了各自的首款 AI 加速器。
Reuther 说:"AI 及其运行的硬件是如此热门的话题,林肯实验室作为公正的技术顾问,为选择和推进合适的技术提供指导至关重要。我们的 AI 加速器调查帮助了许多资助方和政府同事更好地了解 AI 加速器的格局,并就相关问题做出更好的研究和采购决策。这项调查在确定我们应当为即将进行的 LLSC 系统采购考虑哪些 GPU 方面也非常有价值,因此它不仅造福我们的资助方和任务项目,也造福所有 LLSC 用户。"
全部论文及配套数据集可在以下地址找到:https://github.com/areuther/ai-accelerators
相似文章
TLDR AI
近期AI硬件的进展,包括OpenAI、Etched、亚马逊和SambaNova的定制芯片,标志着向针对AI工作负载的专用ASIC的重大转变,有望带来重大效率提升,并挑战英伟达的主导地位。
OpenAI Blog
# AI 与效率 来源: [https://openai.com/index/ai-and-efficiency/](https://openai.com/index/ai-and-efficiency/) 训练到 AlexNet 水平性能所需的总计算量(万亿浮点运算次/秒-天)。任意给定时间的最低计算点以蓝色显示,所有测量点以灰色显示。[2](https://openai.com/index/ai-and-efficiency/#citation-bottom-2),[5](https://openai.com/index/ai-and-efficiency/#citation-bottom-5),[6](https://openai.com/index/ai-and-efficiency/#citation-bottom-6),
Hacker News Top
本文概述了各种 AI 芯片架构,如 GPUs、TPUs 和 LPUs,讨论了它们的设计、扩展方法以及在 AI 行业中主要公司的采用情况。
Reddit r/ArtificialInteligence
本文讨论了人工智能从数据中心向笔记本电脑和台式机的转变,这一转变由Nvidia新的基于Arm的处理器和微软的AI集成推动,引发了企业硬件的重大升级周期。
OpenAI Blog
OpenAI 发布分析表明,自 2012 年以来,最大规模 AI 训练运行所使用的计算量以 3.4 个月的倍增周期呈指数级增长,累计增长 30 万倍,远远超过摩尔定律的增长速度。该分析预测这一趋势可能会继续,并呼吁增加学术 AI 研究经费以应对不断上升的计算成本。