为什么大规模部署物理AI需要每一层都保证安全

# 为何大规模部署物理AI需要各层面的安全保障 来源: https://blogs.nvidia.com/blog/physical-ai-halos-safety/ 物理AI (https://www.nvidia.com/en-us/glossary/generative-physical-ai/)正迅速从研究走向大规模部署。根据ABI Research (https://my.abiresearch.com/research/15976/)的预测，到2035年，全球L3至L5级自动驾驶汽车(https://www.nvidia.com/en-us/glossary/autonomous-vehicles/)保有量将达到4900万辆；而Omdia (https://omdia.tech.informa.com/om146251/robotics-hardware-market-forecast--2026)预估，2026年至2035年间将部署约6000万台工业机器人。随着这些机器进入道路、工厂、仓库及其他与人类共享的环境，安全性必须与其部署规模同步扩展。 物理AI安全意味着要确保AI驱动的机器——包括自动驾驶汽车(https://www.nvidia.com/en-us/glossary/autonomous-vehicles/)、人形机器人(https://www.nvidia.com/en-us/glossary/humanoid-robot/)、工业机器人等——在将其决策转化为物理行动时能安全运行。这需要涵盖硬件、软件、AI、运行环境和部署全生命周期的安全保障，而不仅仅是部署前的一次性检查。 ## **为何安全是物理AI规模化发展的关键？** 经过多年测试与基准评估，自动驾驶汽车(https://www.nvidia.com/en-us/solutions/autonomous-vehicles/)持续扩大商业应用。这一进展要求开发者证明自动化系统如何应对潜在的硬件与软件故障、预期功能的局限性以及AI特有的风险。 随着自主机器进入工厂、仓库及与人类共享的其他环境，机器人技术正接近类似的临界点。 整个物理AI领域，制造商、监管机构、保险公司及工作场所安全团队都需要证据，证明硬件、软件、AI行为与运行环境能在无人干预的情况下协同安全工作。 ## **为何物理AI需要新的安全模型？** 四大转变定义了新的安全标准： - **动态环境需要情境感知安全。**道路、工厂和仓库无法通过静态区域或物理屏障完全控制。自主系统必须感知变化的条件，调整自身行为，并在发生意外情况时进入安全状态。 - **AI行为需要专门的保障体系。**测试必须评估AI软件与传统功能安全，采用设计时、运行时和验证时的防护机制。ISO/IEC TS 22440等新兴标准开始着手解决这些AI特有的风险。 - **部署是持续性的过程。**自动驾驶汽车和机器人通过软件与模型更新、新任务以及变化的运行条件不断演进。重大变更可能需要额外的安全测试。 - **大规模验证需要仿真与合成数据。**潜在场景的数量和复杂性要求将真实世界测试与仿真、合成数据生成及场景重建相结合。 这些转变共同要求安全措施贯穿设计、部署和验证的全过程，从底层硬件到AI行为乃至运行环境。 ## **NVIDIA为物理AI构建了怎样的安全基础？** 物理AI安全需要高度专业的工程、数据、流程和验证能力，这是很少有企业能独自复制的。NVIDIA的安全基础建立在自动驾驶安全领域十余年的发展之上，在功能安全、传感器融合、AI行为保障、视觉AI、仿真及真实世界验证方面积累了深厚的专业知识。 NVIDIA Halos (https://www.nvidia.com/en-us/ai-trust-center/halos/autonomous-vehicles/?deeplink=use-case-tabs--2)是首个也是唯一的物理AI全栈安全系统，帮助开发者在设计、验证和部署的每个层面工程化实现安全。这些原则在自动驾驶和机器人领域通用，而平台、标准和证据体系则针对各领域保持专属性。 在自动驾驶开发方面，Halos涵盖： - **硬件：**NVIDIA DRIVE AGX Thor (https://www.nvidia.com/en-us/solutions/autonomous-vehicles/in-vehicle-computing/)提供经过安全工程的加速计算，NVIDIA Hyperion (https://www.nvidia.com/en-us/solutions/autonomous-vehicles/drive-hyperion/)则为L4级自动驾驶汽车提供全栈车辆平台和参考架构。 - **操作系统与中间件：**Halos OS (https://blogs.nvidia.com/blog/halos-os-robotaxi-safety/)提供基于ASIL-D认证的DriveOS构建的统一软件基础。Halos Core和Halos Middleware支持系统隔离、监控和确定性通信。 - **端到端模型：**NVIDIA Alpamayo (https://www.nvidia.com/en-us/solutions/autonomous-vehicles/alpamayo/)提供开放的推理视觉语言行动模型，为长尾场景带来可解释性。 - **仿真与验证：**NVIDIA Halos安全评估框架 (https://docs.nvidia.com/common/resources/Nvidia_Halos_Safety_Evaluation_Framework_Tech_Brief.pdf)提供工具和指南，用于生成证据以支持不同自动化等级的自动驾驶汽车安全论证。 这些要素将云端AI开发与仿真同车载部署相连接，使安全证据能在车辆全生命周期内保持可追溯性。 在机器人领域，Halos涵盖： - **硬件：**NVIDIA IGX Thor (https://www.nvidia.com/en-us/edge-computing/products/igx/)是一个工业级模块，在单一平台上融合加速计算与功能安全，并配备专用功能安全岛。其设计旨在支持符合IEC 61508和ISO 13849等标准的系统开发。 - **软件：**用于IGX的Halos Core为安全相关的操作功能提供软件基础，包括故障检测、监控和报告，以及连接传感器、执行器和其他安全组件的通信与处理能力。 - **实时传感：**NVIDIA Holoscan传感器桥 (https://www.nvidia.com/en-us/technologies/holoscan-sensor-bridge/)将传感器数据与AI及安全相关处理相连接，帮助系统识别无效信息并执行预定义的安全响应。 - **仿真与验证：**NVIDIA Isaac Lab (https://developer.nvidia.com/isaac/lab)和NVIDIA Omniverse库 (https://developer.nvidia.com/omniverse)使开发者能在相关条件和边缘案例中测试机器人行为，作为真实世界验证的补充。 - **外部安全视角：**开源的NVIDIA Halos外部安全蓝图 (https://github.com/NVIDIA/halos-outside-in-safety)利用外部摄像头和视觉AI代理，将感知范围扩展到车载传感器之外，支持设施级监控和功能安全用例。 在自动驾驶和机器人领域，NVIDIA Halos AI系统检测实验室 (https://www.nvidia.com/en-us/ai-trust-center/physical-ai/safety-certification/)将安全、网络安全和AI安全要求转化为可重复的检测流程，并帮助准备Halos集成方案，以通过第三方机构的最终系统级认证。 ## **谁在与NVIDIA Halos安全生态系统共同构建？** NVIDIA Halos连接了构建、集成、评估和部署物理AI解决方案的企业，包括产品开发商、软件与嵌入式系统供应商、传感器与芯片公司、安全解决方案开发商以及认证机构。 在自动驾驶领域，Geely、Isuzu、Nissan（由Wayve软件驱动）和Einride正基于NVIDIA Hyperion构建L4级就绪的车辆，并由Halos OS提供支持。 Uber、Grab、Lyft等出行服务商也使用Hyperion来扩大自动驾驶出租车的开发和部署规模。NVIDIA Halos AI系统检测实验室 (https://www.nvidia.com/en-us/ai-trust-center/physical-ai/safety-certification/?_gl=1*qks3dj*_gcl_aw*R0NMLjE3ODc3NTcxODguQ2owS0NRanduYnJVQmhET0FSSXNBS0toUHBleEl2bnlBMGloYWR2bUEyTlIxVjlycFVSaVViZnZuYnFySWZOaUZaUGp3bnlnU3RfNTIxVWFBdTI1RUFMd193Y0I.*_gcl_au*MTM2NDIwNjE5Mi4xNzg4Mzk0NDg1Li0uLS4xNzg4Mzk0NTQ0LjEyNjE4OTg4MzkuMTc4OTE0OTcwMy4xNzg5MTczNzgz)的成员包括AUMOVIO、Bosch、Gatik、Hesai、Lucid、MIRA、onsemi、PlusAI、Sony、Valeo和Wayve，涵盖了自动驾驶开发、ADAS、传感器、芯片、系统集成、验证和安全保障等多个领域。 在机器人领域，acontis和QNX提供运行安全功能所需的可预测嵌入式软件，而Advantech (https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fwww.advantech.com%2Fen%2Fresources%2Fnews%2Fadvantech-mic-735-brings-functional-safety-to-physical-ai-systems&data=05%7C02%7Cpfox%40nvidia.com%7C0223fcf382c746a60e5d08df1201f825%7C43083d15727340c1b7db39efd9ccc17a%7C0%7C0%7C639249471820682901%7CUnknown%7CTWFpbGZsb3d8eyJFbXB0eU1hcGkiOnRydWUsIlYiOiIwLjAuMDAwMCIsIlAiOiJXaW4zMiIsIkFOIjoiTWFpbCIsIldUIjoyfQ%3D%3D%7C0%7C%7C%7C&sdata=jQ3sOLBihRlPDCJXaYi34Po9HVvyhUAnAByBPhB0TTQ%3D&reserved=0)和NexCOBOT则构建经过安全设计的NVIDIA IGX系统。Infineon、NXP、STMicroelectronics和Texas Instruments贡献传感器、安全微控制器及其他半导体技术。KION Group正在为自主叉车开发功能安全代理。Agility Robotics正将NVIDIA IGX Thor和Halos Core集成到其Digit 5人形机器人 (https://www.agilityrobotics.com/content/agility-unveils-digit-5-humanoid-robot-built-for-cooperatively-safe-work-at-scale)的安全系统中。 ## **NVIDIA Halos如何接受独立评估？** 在自动驾驶领域，TÜV SÜD认证了NVIDIA的汽车产品生命周期软件流程和DriveOS 6.0符合ISO 26262 ASIL D标准，同时认证了NVIDIA的汽车工程流程符合ISO/SAE 21434标准。TÜV Rheinland也对NVIDIA DRIVE AV进行了独立的UNECE安全评估。 在机器人领域，TÜV Rheinland正在检查NVIDIA IGX Thor、Halos OS和Holoscan传感器桥以准备功能安全认证，这建立在TÜV SÜD对Thor SoC和Halos Core符合ISO 26262的检查基础之上。 在整个物理AI领域，ANAB已认证NVIDIA Halos AI系统检测实验室为符合ISO/IEC 17020的检测机构。该实验室检测范围内的Halos集成，并帮助公司准备由独立第三方机构进行的最终认证。 那些能够规模化发展物理AI的企业，将不仅仅是构建功能最强大的系统。他们将构建能够在真实世界中被评估、认证、部署并赢得信任的系统。从设计之初就融入功能安全理念，正是将原型与可规模化解决方案区分开来的关键。 *了解更多关于用于**自动驾驶汽车* (http://nvidia.com/en-us/ai-trust-center/halos/autonomous-vehicles/)*和**机器人* (https://www.nvidia.com/en-us/ai-trust-center/halos/robotics/)*的NVIDIA Halos，探索物理AI的全栈安全架构。*