迈向可安全审计的大模型智能体：一种统一的图表示方法

# 迈向可安全审计的大语言模型智能体：一种统一的图表示方法
来源：https://arxiv.org/abs/2605.06812
作者：Chaofan Li (https://arxiv.org/search/cs?searchtype=author&query=Li,+C)，Lyuye Zhang (https://arxiv.org/search/cs?searchtype=author&query=Zhang,+L)，Jintao Zhai (https://arxiv.org/search/cs?searchtype=author&query=Zhai,+J)，Siyue Feng (https://arxiv.org/search/cs?searchtype=author&query=Feng,+S)，Xichun Yang (https://arxiv.org/search/cs?searchtype=author&query=Yang,+X)，Huahao Wang (https://arxiv.org/search/cs?searchtype=author&query=Wang,+H)，Shihan Dou (https://arxiv.org/search/cs?searchtype=author&query=Dou,+S)，Yu Ji (https://arxiv.org/search/cs?searchtype=author&query=Ji,+Y)，Yutao Hu (https://arxiv.org/search/cs?searchtype=author&query=Hu,+Y)，Yueming Wu (https://arxiv.org/search/cs?searchtype=author&query=Wu,+Y)，Yang Liu (https://arxiv.org/search/cs?searchtype=author&query=Liu,+Y)，Deqing Zou (https://arxiv.org/search/cs?searchtype=author&query=Zou,+D)

查看 PDF (https://arxiv.org/pdf/2605.06812)

> 摘要：基于大语言模型（LLM）的智能体系统正迅速演进，通过动态工具调用、有状态记忆管理和多智能体协作来执行复杂的自主任务。然而，这种语义驱动的执行范式在底层物理事件与高层执行意图之间造成了严重的语义鸿沟，使得事后安全审计变得极其困难。现有的表示机制，包括静态软件物料清单（SBOM）和运行时日志，仅提供碎片化的证据，且无法捕捉认知状态的演变、能力绑定、持久性记忆污染以及在交互智能体之间的级联风险传播。为了弥合这一差距，我们提出了 Agent-BOM，一种用于智能体安全审计的统一结构表示方法。Agent-BOM 将智能体系统建模为分层属性有向图，将静态能力基座（如模型、工具和长期记忆）与动态运行时语义状态（如目标、推理轨迹和操作）分离开来。这些层级通过语义边和安全属性相连，将碎片化的执行轨迹转化为可查询的审计路径。基于 Agent-BOM，我们开发了一种基于图查询的路径级风险评估范式，并结合 OWASP 智能体十大风险进行了实例化。此外，我们在 OpenClaw 环境中实现了一个审计插件，能够从实时执行中构建 Agent-BOM。在代表性真实世界智能体攻击场景下的评估表明，Agent-BOM 能够重构隐蔽的攻击链，包括跨会话记忆投毒和工具滥用、能力供应链劫持和意外代码执行、多智能体生态系统劫持以及权限和信任滥用。这些结果表明，Agent-BOM 为复杂智能体生态系统中的根本原因分析和安全裁决提供了统一且可审计的基础。

## 提交历史

作者：Chaofan Li [查看邮件 (https://arxiv.org/show-email/9345ad8b/2605.06812)] **[v1]** 2026年5月7日 周四 18:14:29 UTC (5,277 KB)