PAAC：隐私感知型智能体设备-云协同框架

Hugging Face Daily Papers 论文
privacy agentic-systems device-cloud-collaboration llm security

摘要

本文提出了 PAAC，一种用于设备-云协同的隐私感知型智能体框架。该框架采用解耦架构和由大语言模型驱动的净化机制，在保护敏感数据的同时保持高性能。

大语言模型（LLM）智能体面临一种结构性矛盾：云端智能体提供强大的推理能力，但会暴露用户数据；而端侧智能体虽能保护隐私，却以牺牲整体能力为代价。现有的设备-云架构将此边界视为计算任务的分担，而非针对智能体工作负载的信任边界；现有的数据净化机制则迫使系统在策略灵活性与工具调用所需的结构保真度之间做出选择。在本研究中，我们开发了 PAAC，一种隐私感知型智能体框架，该框架将规划器-执行器的分解与设备-云边界对齐，使角色专业化本身成为隐私保护机制。云端智能体对保留每个敏感值推理角色但丢弃其实际内容的类型化占位符令牌进行推理，而端侧智能体则识别敏感文本片段，并将每一步的执行结果提炼为紧凑的关键发现。净化机制将端侧 LLM 的限制范围限定为建议应屏蔽哪些片段，而确定性注册表负责执行所有替换和还原操作，确保动作可直接在设备上执行。在三个严格隐私设置下的智能体基准测试中，PAAC 在隐私与准确性的帕累托前沿上占据主导地位，相较于最先进的设备-云基线模型，平均准确率提高了 15%-36%，平均泄露率降低了 2-6 倍，在固定实体分类体系之外的隐私目标上优势最为明显。我们还在涵盖数学、科学和金融等 10 个领域的 17 个额外基准测试中观察到一致的性能提升。
查看原文
查看缓存全文

缓存时间: 2026/05/13 12:15

论文页面 - PAAC：感知隐私的代理设备-云协作

来源: https://huggingface.co/papers/2605.08646

https://huggingface.co/papers/2605.08646#%F0%9F%94%91-tldr🔑 简要总结

PAAC 将设备-云的划分重新定义为信任边界而非计算资源的划分，并提出了两项协同工作的贡献：一种解耦的代理架构以及一种由大语言模型驱动的隐私清理器。

https://huggingface.co/papers/2605.08646#%F0%9F%A4%9D-decoupled-architecture🤝 解耦架构

云端进行推理与规划，设备端执行与判断。云端代理基于类型化的占位符标记（例如 \{BALANCE: ...\}）进行推理和规划；设备端代理识别敏感片段，使用真实值执行工具，并将每一步的结果提炼为紧凑的关键发现。角色专业化本身即成为隐私机制，而逐步提炼机制确保每个代理在多轮交互中的输入保持紧凑，从而避免了导致单代理流水线失效的轨迹耦合上下文膨胀问题。

https://huggingface.co/papers/2605.08646#%E2%9A%99%EF%B8%8F-proposerverifierregistry-sanitization⚙️ 提议者-验证者-注册表清理机制

设备端的大语言模型仅提议（片段，代理标记）对；确定性的只追加正则表达式注册表处理所有替换和还原操作。这保留了工具调用的保真度，实现了跨轮次的一致性，并锁定了首轮保护，即使设备端大语言模型后续受到侵害，隐私保护依然有效。

https://huggingface.co/papers/2605.08646#%F0%9F%93%8A-results-qwen3-4b–gemini-3-flash📊 实验结果（Qwen3-4B + Gemini 3 Flash）

  • 📈 在 \tau^2-Bench（航空/零售）和 GAIA 数据集上，与最先进的设备-云基线相比，准确率提升 15-36%，泄露率降低 2-6 倍
  • 🎯 在基于模式的方法泄露率达 38.6% 的开词汇目标（CLUTRR 人名）上，泄露率为 0%
  • 🪶 随着隐私强度增加，准确率和 Token 成本保持稳定；在 10 个领域的另外 17 个基准测试中均取得了增益

相似文章

CONCORD: 文档隔离下设备-云RAG的异步稀疏聚合

arXiv cs.AI

CONCORD是一个异步稀疏聚合框架，用于设备-云设置中文档隔离下的检索增强生成（RAG）。它将云视为异步到达的证据源而非持续同步的协同生成器，从而大幅提升吞吐量并将通信量减少数个数量级。

MemPrivacy：面向边缘-云智能体的隐私保护个性化记忆管理

Hugging Face Daily Papers

MemPrivacy 是一项研究，介绍了一种用于边缘-云 AI 智能体的隐私保护个性化记忆管理框架，该框架利用类型感知占位符在保护敏感数据的同时维持语义效用。本文包含一个新的基准数据集，并展示了其性能优于 GPT-5.2 和 Gemini-3.1-Pro 等通用模型。