论文页面 - 有界代理：多智能体AI系统的委托认证安全

来源：https://huggingface.co/papers/2608.15888

摘要

代理主链通过会话感知的授权检查机制，防止大型语言模型代理中出现有害操作组合与委托滥用行为。

基于大型语言模型的代理可代表用户访问云服务、调用工具或触发其他代理。在会话启动时，代理权限虽被设定但保持静态，且每次请求独立评估，不参考先前行为。在权限范围内，代理可能违背委托任务行事，将单个允许的操作组合成禁止的结果，或将权限委托给次级代理而不限制其范围。提示词注入风险仅在代理具备执行此类操作的权限时才会构成威胁——因此这属于授权架构问题，而不仅是模型本身的问题。代理主链可追踪从一个委托主体到下一个的权限流转，通过六项授权检查评估每个请求，并依据累积的会话状态进行判断。代理主链会持续传递并限制委托范围与预算额度，通过组合闭包机制检查请求与历史操作的关系以阻止被禁止的组合行为，并在模型外部实施决策。我们证明了代理主链实现具备爆炸半径单调性与组合健全性；其中组合健全性仅适用于完全限制集与序列化准入下的被禁止操作组合。本次评估涵盖3,154个实例，包括InjecAgent、AgentDojo和ASB测试集。通过在首次合法工具调用后插入真实攻击调用，我们在独立于模型行为的条件下评估了受损模型的表现：AgentDojo数据泄露率在所有四个领域从75-100%降至0%；代理主链拦截了全部544例InjecAgent数据窃取案例。意图绑定机制将破坏性行为发生率从38.6%降至4.0%，将操纵行为发生率从90.5%降至12.1%。在空闲主机上，授权延迟在第99百分位为0.24毫秒；在949组AgentDojo任务注入配对测试中，效用指标分别下降了8.6和13.9个百分点。实现方案、评估工具及数据集均已开源。

查看arXiv页面 (https://arxiv.org/abs/2608.15888) 查看PDF (https://arxiv.org/pdf/2608.15888) 项目页面 (https://muruaga.ai/bounded-agents/evaluation) GitHub2 (https://github.com/xmuruaga/bounded-agents) 添加至论文集 (https://huggingface.co/login?next=%2Fpapers%2F2608.15888)

在代理工具中获取本论文：

hf papers read 2608\.15888

尚未安装最新CLI工具？运行以下命令安装：curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型

暂无模型引用本文

在模型README.md中引用 arxiv.org/abs/2608.15888 即可从本页链接。

引用本文的数据集

暂无数据集引用本文

在数据集README.md中引用 arxiv.org/abs/2608.15888 即可从本页链接。

引用本文的空间

暂无空间引用本文

在空间README.md中引用 arxiv.org/abs/2608.15888 即可从本页链接。

包含本文的论文集

暂无论文集包含本文

将本文添加至论文集 (https://huggingface.co/new-collection) 即可从本页链接。