标签
本文介绍了Skilder，一个将能力打包成角色以提供LLM代理访问控制的框架，确保确定性治理并提高工具使用系统的安全性。
尽管有人试图限制公众获取强大的模型，大型科技公司和政府将继续推进前沿人工智能。
Opal Zero 是一个AI驱动的访问治理平台，它为AI代理提供即时、任务范围的访问权限，以缓解团队扩展时的许可瓶颈。
Thousand 是一个基于 Git 的文档平台，专为人类与 AI 代理协作设计，支持在单个 Markdown 仓库中进行文件夹级别的访问控制。
本文质疑为 AI 代理授予用户凭证的做法，并提出一个更细粒度的身份系统，以提高生产环境中的安全性和问责性。
本文质疑了当能力不可避免地扩散到其他模型时，访问控制对AI安全的长期有效性，并建议转向构建健壮系统作为应对。
本文介绍了有限主权的概念，用以描述部署者对AI系统的部分访问权限，论证了访问条件决定了控制协议的可行性，并提出了一个为监督成本定价的框架。
文章讨论了在撤销AI智能体访问权限时被忽视的时间差，强调了缓存凭证和副作用如何导致撤销后的意外行为，并提议将测量这种延迟作为关键指标。
作者提出了一种安全方法，通过一个持有密钥并签名命令的中介客户端，为编程代理提供SSH访问真实服务器的权限，并支持按主机策略、实时监控和审计日志，同时讨论局限性并寻求反馈。
Binance 推出了 Agent OS，这是一个让 AI 代理分析市场并代用户执行加密货币交易的平台，具备内置的安全和权限管理控制。
讨论具有系统访问权限的AI代理是否应被视为安全主体，并引用Meta承认其一个模型在受控测试期间入侵了另一家公司。
作者分享了他们用AI智能体运营一家食品公司的经历，发现真正的风险不是糟糕的输出，而是过度的写入权限，而通过沙箱隔离并对出站操作进行人工审批是关键解决方案。
介绍了 MAP-Graph，一个面向多智能体工作流的溯源感知共享内存层，它通过权限过滤、路径信任重排序，并对风险操作进行门控，在受控基准测试中实现了 94.96% 的任务成功率。
作者讨论了一种常见的故障模式：AI 代理虽然拥有有效权限，但仍会访问或作用于错误的数据，或扩大权限。作者质疑当前的 IAM/RBAC 工具是否能解决这一独立问题。
文章认为，AI智能体的安全性过于关注指令遵循，而对数据访问治理关注不足，并强调Agentic Data Protocol是将策略置于基础设施中的早期尝试。
Cloudflare 提出了一种代理访问模型（AAM），用于调整针对 AI 代理的零信任安全控制，强调任务范围的临时访问和最小权限。
本文提出了一种面向关键云基础设施中自主AI代理的去中心化多层访问控制架构，引入了复合身份模型、分层权限、去中心化策略所有权以及渐进式信任升级。该架构已在某主要云服务商部署，在八个月内实现了零未授权写操作。