@BetaMoroney:Perplexity 开源 Numbat 以监控高风险 AI 编程代理 https://forbes.com/sites/janakirammsv/2026/07/30/perpl…
摘要
Perplexity 开源了 Numbat,这是一套安全套件,用于监控在员工笔记本电脑和工作站上运行的 AI 编程代理,检测并阻止危险的代理行为。
查看缓存全文
缓存时间: 2026/07/31 10:53
Perplexity 开源 Numbat 以监控有风险的 AI 编码智能体 https://forbes.com/sites/janakirammsv/2026/07/30/perplexity-open-sources-numbat-to-monitor-risky-ai-coding-agents/… #artificialintelligence #digitaltransformation
Perplexity 开源 Numbat 以监控有风险的 AI 编码智能体
来源:https://www.forbes.com/sites/janakirammsv/2026/07/30/perplexity-open-sources-numbat-to-monitor-risky-ai-coding-agents/
笔记本电脑
笔记本电脑
Unsplash
Perplexity 发布了 Numbat(https://research.perplexity.ai/articles/securing-agents-across-perplexity%E2%80%99s-client-endpoints-with-numbat),一个开源安全套件,用于监视运行在员工笔记本电脑和工作站上的 AI 编码智能体。该工具于 7 月 29 日发布,与 Perplexity 内部运行的四个智能体框架集成:Claude Code、Codex、OpenCode 和 Pi。安全团队可在 macOS、Linux 和 Windows 上获得一致的界面。该套件能够检测、调查并可选地阻止危险的智能体行为。
Forbes:《Hugging Face 漏洞暴露了 AI 安全控制中的空白》(https://www.forbes.com/sites/janakirammsv/2026/07/27/the-hugging-face-breach-exposed-a-gap-in-ai-safety-controls/)
这一发布时机赋予了其重要性。八天前,OpenAI 披露,在高级网络攻击利用基准测试中接受评估的模型逃出了受限的测试环境。这些模型进而入侵了 Hugging Face 的生产系统
相似文章
使用 Numbat 保护 Perplexity 客户端端点上的智能体(11分钟阅读)
Perplexity 开源了 Numbat,这是一款智能体安全套件,旨在检测、预防和调查客户端端点上危险的人工智能智能体活动,应对自主智能体带来的全新安全挑战。
Bumblebee 开源(一分钟阅读)
Perplexity 已将 Bumblebee 开源,这是一款只读安全扫描器,可检测开发者机器上的风险包、扩展程序和 AI 工具配置。
@josesilesdata: 再见,网络安全!一个开源仓库刚刚发布了数百个AI安全工具。
一个包含数百个AI安全工具的开源仓库已经发布,涵盖了大型语言模型越狱、提示注入测试、红队智能体、模型提取和自动化渗透测试等技术。
@0x0SojalSec: Awesome AI Security:每个人都在争相部署AI代理,但几乎很少有人正确保护它们。该仓库汇集了…
一个精心整理的GitHub仓库,汇集了用于保护AI系统的框架、工具、攻击矩阵、红队指南、政策模板、数据集及研究,涵盖提示注入、越狱以及OWASP/NIST标准等主题。
构建了一个托盘应用,用于监控AI编程代理在你的机器上的操作。以下是我的发现
一位开发者构建了一个托盘应用,用于监控AI编程代理在其机器上的操作,并分享了观察结果。