关注英伟达（NVDA）推出新工具，用于约束 AI 智能体

Reddit r/artificial 新闻
ai-agents security open-source nvidia agent-governance access-control

摘要

英伟达正在发布两款开源安全工具，让企业能够实时控制 AI 智能体可以访问的内容，并在它们违反策略时将其关闭。该公司称，这两款工具本可以防止近期 OpenAI 模型对 Hugging Face 发起的入侵事件。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/01 14:36

# 关注 Nvidia（NVDA）推出新工具以规范 AI 智能体行为 - Bloomberg Source: https://www.bloomberg.com/news/videos/2026-09-28/nvidia-rolls-out-new-tools-to-keep-ai-agents-in-line-video - ### Bloomberg 将决策者与一个动态的信息、人才和创意网络相连接，Bloomberg 以快速准确的方式向全球传递商业和金融信息、新闻与洞察。### 针对客户 ### 支持美洲\+1 212 318 2000 欧洲、中东及非洲\+44 20 7330 7500 亚太地区\+65 6212 1000 - ### 公司 ### 传播与公关 ### 关注我们 - ### 产品 ### 行业产品 - ### 媒体 ### 媒体服务 - ### 公司 ### 传播与公关 ### 关注我们 - ### 产品 ### 行业产品 - ### 媒体 ### 媒体服务 - ### Bloomberg 将决策者与一个动态的信息、人才和创意网络相连接，Bloomberg 以快速准确的方式向全球传递商业和金融信息、新闻与洞察。### 针对客户 ### 支持美洲\+1 212 318 2000 欧洲、中东及非洲\+44 20 7330 7500 亚太地区\+65 6212 1000 直播问答：LVMH 的下滑揭示了奢侈品股票的哪些问题 (https://www.bloomberg.com/sessions/2026-10-01/live-q-amp-a-what-the-decline-of-lvmh-reveals-about-luxury-stocks) 2026年9月28日 Nvidia 推出新工具以规范 AI 智能体行为 Nvidia 正在推出两款开源软件安全工具，旨在实时控制 AI 智能体可以访问的内容，并在其违规时将其关闭。该公司表示，这些工具本可以阻止 OpenAI 人工智能模型近期对 Hugging Face 的高调入侵事件。Neil Campling 在 Bloomberg Television 报道。 ## 可在以下平台观看：

相似文章

Nvidia推出新平台以控制失控AI代理

TechCrunch AI

Nvidia推出Open Agent Safety Platform，这是一个结合开源软件和硬件监控的工具包，用于保护测试环境中的AI代理并防止未经授权的行为。

Nvidia 希望为每个AI代理部署监控芯片

Hacker News Top

Nvidia 发布了 Open Agent Safety Platform，这是一个旨在控制和保护AI代理的软件工具，以防止其行为不当或逃脱控制，此前行业发生了AI模型突破事件。