policy-engine

标签

Cards List
#policy-engine

帮助保护由大语言模型驱动的应用程序的开源项目

Reddit r/artificial ↗ · 2026-10-28

Sente Labs 开源了 extensible-mcp,这是一个 MCP 代理,可动态加载 MCP 服务器而不污染 LLM 上下文,同时对工具调用实施零信任策略控制(支持 Rego、CEL,如今还支持 Cedar)。工具定义存储在可查询的向量存储中,策略和凭据则置于 LLM 无法触及的位置,从而将用户意图与已授予的权限区分开来。

0 人收藏 0 人点赞
#policy-engine

Sapien:面向自主 AI 智能体的有状态策略引擎

arXiv cs.AI ↗ · 2026-10-02 缓存

Sapien 是一个有状态策略引擎,通过以有状态谓词来定义允许的工具调用序列,从而对自主 AI 智能体执行上下文感知的安全策略。它在几乎不牺牲智能体效用的前提下,拦截了 AgentDojo 上 93-95% 的攻击以及 Toolathlon 上 62-85% 的攻击,在长周期任务上表现优于静态工具白名单。

0 人收藏 0 人点赞
#policy-engine

UnYOLO: Agent credential broker and policy engine for your GitHub account

Hacker News Top ↗ · 2026-08-09 缓存

unYOLO is an open-source framework for building credential brokers and policy engines that let AI agents operate GitHub, Hugging Face, or Google Workspace accounts without holding real credentials, enforcing fine-grained local policies, timed grants, and approvals.

0 人收藏 0 人点赞
#policy-engine

开源了我实盘交易系统中的风险/授权层——寻找2-3位智能体构建者进行试点

Reddit r/AI_Agents ↗ · 2026-08-03

作者将自己实盘交易系统中的风险/授权层开源为一个独立的默认拒绝(fail-closed)策略引擎,该引擎在每次执行前评估智能体操作,并正在寻找智能体构建者进行试点。

0 人收藏 0 人点赞
#policy-engine

@_vmlops:微软开源了AI代理的治理层,这正是代理式AI所缺失的关键一环

X AI KOLs Timeline ↗ · 2026-05-26 缓存

微软开源了Agent Governance Toolkit(代理治理工具包),这是一个为AI代理设计的治理层,可强制执行策略、身份验证、沙箱隔离和审计日志,确保自主代理操作安全合规。

0 人收藏 0 人点赞
#policy-engine

外部准入不是拦截

Reddit r/AI_Agents ↗ · 2026-05-08

作者认为当前AI代理的安全措施(如护栏和监控)不足,提出“外部准入”作为一种更严格的模式,即暂扣执行权限,直到外部权威明确允许高风险操作。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈