论文页面 - PrivacyPeek：审计基于LLM的智能体获取了什么，而不仅仅是它们说了什么

来源：https://huggingface.co/papers/2606.00152

摘要

基于LLM的智能体正在迅速发展，能够自主调用外部工具为用户完成多步骤任务。然而，智能体常常获取超出任务所需范围的敏感信息。现有的隐私基准仅审计智能体的响应或外部行为所披露的内容，却忽视了数据首次进入智能体上下文的获取阶段。这些过度获取的信息距离完全泄露仅一步之遥——可能源于一次不小心操作或一次攻击。为了评估这一现象的普遍性，我们提出了PrivacyPeek，一个用于评估基于LLM的智能体在获取阶段隐私泄露的基准，涵盖7种获取行为和16个应用领域中的1,182个案例。具体来说，AcquisitionInspection检查智能体的工具调用轨迹，包括其调用的工具和接收的数据，以检测其在任务范围之外获取敏感信息的行为。ProbeElicitation随后发出后续探针，衡量攻击者能多容易地引出智能体已获取但未披露的敏感信息。我们在4个模型家族的10个基于LLM的智能体上进行的实验表明，不必要地获取敏感信息的现象十分普遍。此外，我们观察到任务完成能力与获取阶段泄露之间存在相关性。提示词级别的防御只能减少一小部分获取阶段的泄露，大部分仍未得到缓解。这些结果使得对获取阶段隐私的审计既紧迫又必要。我们的数据集和代码可在https://github.com/Xuan269/PrivacyPeek-Resource获取。

查看 arXiv 页面 (https://arxiv.org/abs/2606.00152) 查看 PDF (https://arxiv.org/pdf/2606.00152) GitHub3 (https://github.com/Xuan269/PrivacyPeek-Resource) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.00152)

在您的智能体中获取这篇论文：

hf papers read 2606\.00152

还没有最新的CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2606.00152 以从此页面链接到它。

引用此论文的数据集 0

没有数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2606.00152 以从此页面链接到它。

引用此论文的 Spaces 0

没有 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2606.00152 以从此页面链接到它。

包含此论文的收藏集 0

没有包含此论文的收藏集

将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从本页面链接到它。