NVIDIA与AWS合作，将AI大规模投入生产

<div id="bsf_rt_marker"></div><p><span style="font-weight: 400;">大规模构建AI系统极具挑战性，需要低延迟推理、快速向量搜索、强大的GPU性价比，以及能够在不增加运营复杂性的前提下扩展的基础设施。</span></p> <p><span style="font-weight: 400;">NVIDIA与Amazon Web Services（AWS）的最新合作解决了上述每一项挑战。通过Amazon OpenSearch和Amazon EC2，NVIDIA AI基础设施为企业提供了更实用的路径，以大规模部署AI。</span></p> <p><span style="font-weight: 400;">由NVIDIA RTX PRO 4500 Blackwell服务器版GPU驱动的EC2 G7实例，扩展了AI、图形、视频和数据分析工作负载的计算层；同时NVIDIA cuVS库通过将GPU加速的向量索引设为OpenSearch Serverless的默认选项，加速了检索层。随着AWS获得NVIDIA GB300的NVIDIA Exemplar云状态，客户可以确信其训练工作负载获得了优化后的峰值性能。</span></p> <h2><b>NVIDIA RTX PRO 4500 Blackwell服务器版多工作负载GPU为全新Amazon EC2 G7实例提供动力</b></h2> <p><span style="font-weight: 400;">Amazon EC2 G7实例将NVIDIA RTX PRO 4500 Blackwell服务器版GPU引入AWS，用于AI推理、图形、空间计算和GPU加速数据分析——提供一种专为生产工作负载设计的新实例类型，这些工作负载需要性能，但又无需承担客户管理GPU平台的运营开销。</span></p> <p><span style="font-weight: 400;">与G6实例相比，G7在AI推理性能上提升高达4.6倍，图形性能提升高达2.1倍，并且在使用NVIDIA cuDF库进行Apache Spark工作负载时，Amazon EMR上的GPU加速数据分析速度显著提升。</span></p> <p><span style="font-weight: 400;">通过支持最多八个GPU、256GB总GPU内存、700 Gbps的EFA网络连接以及最多7.6TB本地NVMe SSD存储——涵盖单、双、四、八GPU配置，裸机即将推出——G7实例让客户能够根据工作负载合理调整基础设施规模，而无需过度配置。</span></p> <p><span style="font-weight: 400;">该平台的多功能性意味着AI团队可获得更低延迟的推理。媒体和娱乐团队可获得高分辨率视频工作流和渲染。模拟、计算机辅助设计、虚拟桌面基础设施、游戏和空间计算团队可使用相同的实例类型处理图形密集型应用。数据团队可将GPU内存、本地存储和网络改进应用于分析管道和向量数据库工作负载。</span></p> <p><span style="font-weight: 400;">G7实例可通过AWS深度学习Amazon机器映像（AMI）、Amazon深度学习容器、Amazon EMR、Amazon EKS、Amazon ECS和图形AMI访问——并即将在Amazon SageMaker AI中推出。</span></p> <h2><b>NVIDIA cuVS使GPU加速向量搜索成为Amazon OpenSearch的默认选项</b></h2> <p><span style="font-weight: 400;">下一代Amazon OpenSearch Serverless为代理AI和动态工作负载提供支持，无需管理基础设施。它采用由NVIDIA cuVS驱动的GPU加速向量索引，作为所有向量集合的默认计算选择。</span></p> <p><span style="font-weight: 400;">对于构建</span><a href="https://blogs.nvidia.com/blog/what-is-retrieval-augmented-generation/"><span style="font-weight: 400;">检索增强生成</span></a><span style="font-weight: 400;">、语义搜索、推荐系统和代理AI应用的团队而言，这一转变至关重要。它将GPU驱动的向量搜索从一项专门的优化项目转变为AWS的标准能力。</span></p> <p><span style="font-weight: 400;">对客户的影响是直接的：与仅使用CPU的构建相比，向量索引速度提升高达10倍，成本仅为四分之一——使得在不到一小时内构建十亿级向量数据库变得切实可行。</span></p> <p><span style="font-weight: 400;">通过将NVIDIA cuVS设为OpenSearch Serverless的默认选项，AWS客户获得了从原始数据到生产级AI检索基础设施的更快路径——借助无服务器扩展，在工作负载空闲时降低运营开销。</span></p> <h2><b>AWS获得NVIDIA GB300训练性能的Exemplar云状态</b></h2> <p><span style="font-weight: 400;">AWS已获得NVIDIA GB300上训练工作负载的NVIDIA Exemplar云状态。这意味着AWS达到了NVIDIA用于对其参考架构进行AI工作负载基准测试的严格性能阈值。</span></p> <p><span style="font-weight: 400;">这一成就是AWS与NVIDIA团队深度协同工程的结果。通过NVIDIA Exemplar云计划，开发者和AI领导者可以确信，他们正在使用一致的高性能云基础设施进行大规模训练，帮助团队以更大的信心评估云提供商，改善总体拥有成本，并更高效地将AI项目从规划推进到生产。</span></p> <p><span style="font-weight: 400;">这些进步共同强化了AWS上AI基础设施栈的每一层。核心主线一致：生产级AI基础设施能够大规模运行，且不会增加运营团队的负担。</span></p> <p><i><span style="font-weight: 400;">了解更多信息，请参阅</span></i><a target="_blank" href="https://aws.amazon.com/about-aws/whats-new/2026/06/amazon-ec2-g7-generally-available/"><i><span style="font-weight: 400;">这篇AWS博客</span></i></a><i><span style="font-weight: 400;">。</span></i></p>