Vegvisir:一款安全优先的AI代理框架。
摘要
Vegvisir 是一个开源 AI 代理框架,专注于安全性,具有记忆系统、上下文管理以及硬件绑定的密钥保护模块,用于保护 API 密钥。
大家好。我想与大家分享我过去几个月一直在开发的开源项目。Vegvisir 是一个代理框架,我构建它来解决我个人在大多数现有编码代理和自主系统中遇到的问题。框架本身是我最后构建的部分。我最早为一种实验性 AI 架构构建了记忆系统,但结果并不理想(因为我没有足够的硬件来对原型进行更多操作)。不过记忆系统是可行的,于是我继续开发。记忆系统为上下文管理系统铺平了道路,随后是技能/代理编译器系统等等。HBSE(硬件绑定密钥保护模块)是最后一部分。它旨在将密钥与模型及其易泄漏的特性隔离开,同时仍然支持这些模型依赖的服务(API 密钥)。我不打算在这里详细介绍所有细节。总之,我想与社区分享我的工作,欢迎您的反馈。Vegvisir 已上传到我的 GitHub,链接我会放在评论区。目前,Vegvisir "正式"仅支持 Linux(因为我自己的硬件不足,无法在其他平台上测试)。抱歉。感谢您花时间查看,希望它能对某些人有所帮助。
相似文章
Vegvisir 组件发布公告
作者宣布发布 Vegvisir 安全 AI 防护项目的组件系统,包括 Solarium、带有 Eternium 上下文管理器的 Continuum Memory System,以及 HBSE(硬件绑定机密安全区),旨在增强现有工具。
@IBuzovskyi: https://x.com/IBuzovskyi/status/2057914816015249515
Nous Research 发布了两个用于 AI 代理安全的基础设施组件:Bitwarden Secrets Manager 集成用于集中凭证管理,以及 iron-proxy 用于凭证保护,为自主代理形成了一个分层安全模型。
通往AGI之路中的安全保护
OpenAI 概述了在通往 AGI 过程中的全面安全措施,包括由 AI 驱动的网络防御、与 SpecterOps 的持续对抗性红队测试,以及为 Operator 等新兴 AI 代理设计的安全框架。该公司强调主动威胁检测、业界合作,以及安全措施与基础设施和模型的深度集成。
代理环境的安全与维护
一位开发者构建了 Terrarium,这是一个开源沙箱解决方案,用于安全运行多个AI代理,提供隔离世界、反向代理管理和状态回滚功能。
为AI智能体构建开源身份与审计层(MCP、LangChain、CrewAI、Python)
Vorim AI是一个针对AI智能体的开放协议身份与审计层,提供加密身份、范围限定权限、防篡改审计链,以及跨LangChain、CrewAI和OpenAI SDK等框架的一键撤销功能。