AI专家们,新的OpenShell平台会带来什么改变吗?
摘要
Nvidia宣布了一个名为OpenShell的新安全系统,旨在防止AI代理失控,以增强AI安全措施。
暂无内容
查看缓存全文
缓存时间: 2026/09/28 15:58
# 英伟达发布安全系统以防止AI智能体失控 — CBS新闻
来源:https://apple.news/AbwtsoCNmRfSJIrAz_D0LwA
Apple新闻
## 引言故事...
若数秒后页面仍未打开,请点击此处 (https://www.cbsnews.com/news/nvidia-openshell-ai-safety-rogue-agents/?ftag=CNM-00-10aac3a)
了解更多关于Apple新闻的信息 (https://www.apple.com/news/)
相似文章
英伟达推出用于 AI 智能体安全的 OpenShell 参考架构
英伟达发布了 OpenShell 参考架构,这是一个用于在企业基础设施和边缘系统中,贯穿智能体全生命周期构建、隔离、观测 AI 智能体并强制实施安全措施的框架。
@ClementDelangue: 从我们所知(请谨慎对待,我们需要更多透明度!),如果 @OpenAI 一直在运行这个……
NVIDIA 推出 OpenShell,一个用于安全 AI 代理执行的开源运行时,具有内核级强制和形式化验证,以防止未授权操作。
Nvidia 应对失控代理的方案:开源 AI 安全系统
Nvidia 发布了 OpenShell 和 Sentry,这是开源的 AI 安全工具,旨在隔离和监控 AI 代理,以应对日益增多的失控代理活动事件,并与众多科技公司合作。
如何借助 NVIDIA OpenShell 实现自主 AI 智能体的“内置安全”设计
NVIDIA 推出 OpenShell,这是一款专为自主 AI 智能体打造的“内置安全”运行时环境。它通过将智能体操作隔离在沙箱中,并在系统级别执行安全策略,而非依赖行为提示词来保障安全。作为 NVIDIA Agent Toolkit 的一部分,该工具包使企业能够在统一的策略管理和合规监管下,运行代码编写智能体和智能体工作流。
NVIDIA 推出 OpenShell 开源沙盒,为本地及开放代理提供真实运行时限制,取代提示规则。已有超过100家公司加入安全栈,OpenAI 未参与。
NVIDIA 已发布 OpenShell 开源沙盒,该沙盒为本地和开放AI代理提供运行时约束,而非依赖提示规则。超过100家公司已加入安全倡议,但 OpenAI 未参与。