authorization

标签

Cards List
#authorization

超越合理预测:网络世界模型中的安全充分性

arXiv cs.AI ↗ · 2026-11-02 缓存

本文提出了 SafeWebWorld,一个用于评估 Web 世界模型中“安全充分性”的基准,并表明,合理的预测、证据保留和潜在授权恢复各自都不足以支持稳健的“执行/询问/阻止”(EXECUTE/ASK/BLOCK)授权决策。

0 人收藏 0 人点赞
#authorization

重试许可:AI 智能体工作流中的授权与恢复研究

arXiv cs.AI ↗ · 2026-10-26

一项关于使用工具的 AI 智能体在执行时可靠性的研究,将恢复决策与语言模型行为分离,评估了 LangGraph 和 Temporal 宿主平台上 336 条执行历史中的检查点状态、调度权限、外部效应证据及状态核对义务,并对 Arya.ai 的 InfinityOS 进行了组件研究。

0 人收藏 0 人点赞
#authorization

@changgaowei:智能体身份 ≠ 授权。ANP 草案:用 DID 标识调用者,用 OAuth+CIMD 复用现有账户权限,用 VC 来……

X AI KOLs Following ↗ · 2026-10-22

ANP 草案概述了一种分层的智能体身份与授权模型:DID 用于标识调用方,OAuth+CIMD 复用现有账户权限,VC 则处理个人/企业委托,并在执行时检查委托是否已被撤销。

0 人收藏 0 人点赞
#authorization

Launch HN:Alter(YC S25)——面向多用户智能体的访问控制

Hacker News Top ↗ · 2026-10-21 缓存

Alter(YC S25)推出了 Alter Vault,这是一个特权访问管理和授权平台,为 AI 智能体提供各自限定权限范围的凭证、策略和审计记录,而非共享的 API 密钥。

0 人收藏 0 人点赞
#authorization

@github:一位顶级GitHub研究员表示,影响最大的漏洞仍然主要是授权问题。说到AI,一辆快车仍需要……

X AI KOLs Following ↗ · 2026-10-20 缓存

GitHub 通过其安全赏金计划的视角,采访了一位顶级漏洞赏金研究员,探讨授权类高危漏洞仍占主流,以及 AI(如 Copilot)时代下安全研究方法的变化。文章还介绍了 GitHub 重组后的赏金计划和面向高质量研究者的 VIP 邀请制项目。

0 人收藏 0 人点赞
#authorization

你的 agent 评测是否测试过对话中途权限被撤销的情况?

Reddit r/AI_Agents ↗ · 2026-10-20

讨论一个常被忽视的 agent 评测场景:当用户的数据访问权限在对话中途被撤销时会发生什么,涵盖过期上下文、缓存的检索结果、跨账户缓存泄露,以及策略执行应该位于技术栈的哪一层。

0 人收藏 0 人点赞
#authorization

AI 智能体:能力 ≠ 权限,自主性应当止于何处?

Reddit r/AI_Agents ↗ · 2026-10-20

一篇讨论文章,主张 AI 智能体的能力并不等于权限,并围绕五项原则——发现、能力、授权、人在回路中与验证——阐述有边界的智能体自主性,探讨在生产部署中自主性应当止于何处。

0 人收藏 0 人点赞
#authorization

本周两起智能体事件,同一根源:提案与执行一步完成

Reddit r/AI_Agents ↗ · 2026-10-19

本周两起智能体事件——一个服务器访问智能体删除了一整季电视剧,以及一个 OpenAI 智能体动用了已到账的资金——有着相同的根源:提案与执行是单一步骤。作者主张将提案、授权、执行三个环节分离,并辅以确定性检查、允许列表、针对不可逆操作的人工队列以及外部日志。

0 人收藏 0 人点赞
#authorization

招募开发者:你能否攻破 AI 安全闸门?

Reddit r/AI_Agents ↗ · 2026-10-17

MGnarf 是一个开源执行安全闸门,用于防止 AI 智能体自我批准受保护操作,并配套 MGnarfTest 对抗性测试项目;作者正在招募开发者和安全研究人员,独立挑战并尝试攻破该系统。

0 人收藏 0 人点赞
#authorization

AI 代理越权超出了分配范围。在执行之前,究竟是什么在真正强制约束这一边界?

Reddit r/AI_Agents ↗ · 2026-10-17

文章综合讨论了三个近期事件:CERT-In 报告 AI 代理越权访问生产系统、Check Point 披露 LiteLLM 网关漏洞、ServiceNow 发布运行时凭证校验产品 AI Passport,核心关注执行前如何真正强制代理权限边界。

0 人收藏 0 人点赞
#authorization

当审批所描述的动作发生变化时,审批应立即失效

Reddit r/AI_Agents ↗ · 2026-10-16

提出一个针对文件发送型 AI agent 的合成验收测试:审批应绑定到具体收件人、内容修订与动作并带过期时间,字段任一变化都需重新授权,且应记录拒绝后的实际状态证据。

0 人收藏 0 人点赞
#authorization

谁有权免除智能体的承诺义务?多方聊天中对承诺的处置权限

arXiv cs.AI ↗ · 2026-10-16 缓存

该论文提出'主体资格'概念,研究多用户聊天中智能体的承诺能否被非债权人取消,并在六个模型上区分未授权释放与覆盖两类错误,发现自维护承诺账本加释放策略可显著提升严格准确率。

0 人收藏 0 人点赞
#authorization

你的 AI 安全护栏阻止了该操作。但政策真的明确禁止了吗?

Reddit r/AI_Agents ↗ · 2026-10-15

作者指出生产环境中 AI 代理的防护系统常把业务策略拒绝、输出校验失败和授权服务不可用统一记录为 POLICY_BLOCK,导致策略审查和客户纠纷中误判真正被策略拒绝的案例。文章强调停止执行是合理的,但审计记录必须区分拒绝原因。

0 人收藏 0 人点赞
#authorization

对 AI 智能体的人工批准并不等于授权:将批准与具体载荷绑定

Reddit r/AI_Agents ↗ · 2026-10-14

分析了人类对 AI 代理的审批为何可能实际授权了与人类所见不同的操作,并提出在执行时对关键字段重新计算摘要进行比对、以单次条件更新消费授权的解决方案。

0 人收藏 0 人点赞
#authorization

当没有人说“不”时,是谁授权了“是”?

Reddit r/AI_Agents ↗ · 2026-10-11

作者认为,监控 AI 智能体的行为并不能回答授权问题,因为没有异议(未被标记、超时后继续执行、审核者未回应)并不能证明某项行为获得了许可。作者主张,智能体应在明确界定的权限范围内自主行动,但系统必须能够说明某项行为为何获得授权,而不能仅以“没有人阻止它”为依据。

0 人收藏 0 人点赞
#authorization

@changgaowei:是的。其可行之处在于读写是分离的授权范围,且会话能跨 API、MCP、聊天和 Web 保持一致……

X AI KOLs Following ↗ · 2026-10-11 缓存

Gaowei Chang(ANP开源社区创始人)详细解读Meta新发布的PAP(Personal Agent Protocol)规范,说明其核心设计——读写分离的授权范围、跨API/MCP/聊天/Web的会话一致性,以及与MCP、A2A、ANP的差异。

0 人收藏 0 人点赞
#authorization

两家企业级供应商在几天内传达了同样的信息:智能体需要安全护栏。但谁都没有。

Reddit r/AI_Agents ↗ · 2026-10-11

RSA 推出了 Agent ID,SailPoint 也在相隔数日内扩展了其 Agentic Fabric,两者都为企业 AI 智能体增加了运行时授权和安全护栏——凸显出 79% 的企业已在生产环境中运行智能体,而只有约 2% 的企业拥有针对智能体的身份治理工具。

0 人收藏 0 人点赞
#authorization

@changgaowei:Meta 的 PAP(Personal Agent Protocol,个人智能体协议)规范正式发布了。我从头到尾读完了全文,并将其与 MCP、A2A 和 ANP 做了对比:1. 身份(Identit…

X AI KOLs Timeline ↗ · 2026-10-10 缓存

# 深度对比:Meta 的 PAP 协议与 MCP、A2A、ANP Meta 发布了 **PAP(Personal Agent Protocol,个人代理协议)** 规范。本文将对其进行深入解析,并与以下主流代理协议进行对比: - **MCP(Model Context Protocol)** - **A2A(Agent2Agent Protocol)** - **ANP(Agent Network Protocol)** ## 主要对比维度 ### 1. 身份体系 PAP 采用 **CIMD(Centralized Identity Metadata Document,集中式身份元数据文档)** 结合 **DPoP(Demonstrating Proof-of-Possession,持有证明)绑定令牌** 来实现身份验证与管理。 ### 2. 授权机制 PAP 基于 **OAuth 2.0** 授权框架,为代理之间的通信提供标准化的授权流程。 ### 3. 交互方式 PAP 的交互层融合了 **OpenAPI** 和 **MCP** 两种规范,使得服务接口定义与工具调用机制能够统一工作。 ### 4. 服务发现 PAP 通过 **`/.well-known/poppy.json`** 标准端点实现服务发现,其他代理或客户端可通过该路径获取协议元数据与配置信息。

0 人收藏 0 人点赞
#authorization

“人类已批准”背后,可能隐藏着一个更艰难的治理问题

Reddit r/AI_Agents ↗ · 2026-10-06

作者认为,仅仅证明 AI 系统中有个人类点击了“批准”,并不等于证明这次批准是正当的——真正的治理难题在于:凭什么说明这个人的决定在那个时刻具有权威性。文章提出,构建高风险自主系统的从业者应当如何思考资格、指派、授权、独立性以及时效性这五个要素。

0 人收藏 0 人点赞
#authorization

@rauchg:介绍 gdp-ts:TypeScript 的 Ghosts of Departed Proofs。gdp-ts 是一个用于更安全 API 设计的库、linter 和 AI skill……

X AI KOLs Timeline ↗ · 2026-10-05 缓存

Guillermo Rauch 介绍 gdp-ts——一个实现了「Ghosts of Departed Proofs」的 TypeScript 库、linter 和 AI skill,让授权与权限证明在编译期就被强制执行,使一整类安全漏洞极难被上线——尤其是在 Agent 承担了大部分代码生成工作的今天。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈