标签
Google Cloud 与 NVIDIA 宣布由 NVIDIA Vera Rubin NVL72 驱动的 A5X 实例正式商用,可扩展至最多 960,000 块 Rubin GPU,用于智能体推理和大规模强化学习,首批客户包括 Ineffable Intelligence 和 WPP。
NVIDIA 通过 Confidential Bare Metal、全新平台安全控制以及对 Grace Blackwell 和 Rubin 系统的支持,扩展其机密计算层,让前沿模型开发方能够在第三方基础设施上安全运行敏感工作负载,同时保持对模型和数据的掌控。
OpenAI 推出 Zero Data Retention(零数据留存)、Private Safety Processing(私密安全处理)和 Private Inference(私密推理),让企业在 OpenAI 无法访问其数据的前提下使用前沿 AI,回应了长期存在的隐私与合规顾虑。
本文提出了一种云原生的RAG架构,用于在IBM LinuxONE上实现安全、高通量的企业AI推理,使用Spyre加速器实现低于两秒的延迟,与离平台解决方案相比,性能提升20倍。
本文比较了Privatemode、Tinfoil、NEAR AI和Chutes的机密推理API,重点介绍了它们的安全功能,如端到端加密和可信执行环境,以及在模型选择和验证成熟度方面的权衡。
NVIDIA与HPE正在扩展其AI工厂合作,推出用于智能体AI的NVIDIA Vera CPU、用于HPE Private Cloud AI的NVIDIA Agent Toolkit,以及在整个产品组合中部署NVIDIA机密计算,助力企业将智能体AI投入生产。
NVIDIA的机密计算技术采用Blackwell GPU,已被苹果用于将其私有云计算扩展到Google Cloud,从而在保持强大隐私保护的同时,为Apple Intelligence功能提供安全的服务器端推理。
苹果宣布其私有云计算架构现已扩展到第三方硬件,具体来说是Google的服务器,利用Nvidia、Intel和Google的安全技术来为AFM 3 Cloud Pro等高级AI模型维持隐私保障。
一种新型软件攻击通过误配置Infinity Fabric来破坏AMD SEV-SNP的安全保证,使恶意虚拟机监视器能够对机密虚拟机进行任意读写访问。
本文介绍了 Kettle,一种经认证的构建系统,利用可信执行环境(TEE)生成加密可验证的软件溯源信息。它旨在通过将溯源文档直接与硬件签名的认证报告绑定,消除构建基础设施和操作人员对信任模型的影响。