智能体谈判中的行为隐私泄露:通过随机策略形式化并缓解推理攻击
摘要
本文形式化了多轮智能体谈判中的行为隐私泄露问题,并提出了一种自适应随机策略,该策略在提供差分隐私保证的同时,保持较高的谈判效用。
查看缓存全文
缓存时间: 2026/07/20 17:26
论文页面 - 主体谈判中的行为隐私泄露:通过随机策略形式化与缓解推断攻击
来源:https://huggingface.co/papers/2607.06815
摘要
自主谈判智能体越来越多地部署在保险和采购等高风险场景中。虽然密码学技术可以保护明确披露的约束值,但它们无法应对一种更隐蔽的威胁:行为隐私泄露——对手通过可观察的谈判动态(如让步轨迹、时机和收敛模式)推断出私有约束。本文研究了多轮谈判协议中的行为差分隐私。我们设计了一种自适应随机谈判策略,该策略同时保证 ((ε, δ))-差分隐私、报价序列的几乎必然收敛(当对手的保留价值允许时达成协议)以及高谈判效用。在 3,000 个合成双边谈判上的评估表明,我们的机制将对抗推断准确率降低了 43-50%,同时将谈判成功率和效用维持在 90% 以上,证明了在不显著损失性能的情况下可以实现强大的隐私保障。
查看 arXiv 页面 (https://arxiv.org/abs/2607.06815) 查看 PDF (https://arxiv.org/pdf/2607.06815) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.06815)
在你的代理中获取本文:
hf papers read 2607.06815
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型 0
没有模型链接到本文
在模型 README.md 中引用 arxiv.org/abs/2607.06815 以从本页链接。
引用本文的数据集 0
没有数据集链接到本文
在数据集 README.md 中引用 arxiv.org/abs/2607.06815 以从本页链接。
引用本文的 Space 0
没有 Space 链接到本文
在 Space README.md 中引用 arxiv.org/abs/2607.06815 以从本页链接。
包含本文的收藏 0
没有收藏包含本文
将本文添加到收藏 (https://huggingface.co/new-collection) 以从本页链接。
相似文章
自主AI与加密货币:自主交易市场中对隐私的需求
分析自主AI代理如何开始全天候交易、谈判和管理加密资产,以及为何零知识证明等隐私技术对于防止这一新兴自主交易市场中的抢先交易和监控至关重要。
LLM代理是否理性谈判?一个基于A2A/MCP的可验证多代理交互机制设计框架
本文提出了一种机制设计框架,用于验证使用A2A/MCP协议的LLM代理中的谈判和分配任务。它评估了多个模型的理性行为,发现机制级的激励兼容性并不会自动转移到LLM代理上。
联邦学习中的多智能体隐私博弈:一种统一的平均场视角
本文提出了一种用于联邦学习的平均场隐私博弈框架,能够对任意数量且具有异构隐私偏好的客户端进行可处理的纳什均衡分析,并实现个性化隐私保证。
保持信任的Agentic AI执行策略代数(阅读时间24分钟)
本文提出了一种策略代数,用于定义智能体AI系统中的保持信任的执行,通过对行动施加约束来确保可靠能力,并使用干预率和任务完成率等指标进行评估。
当聚合对齐产生误导:无需逐状态专家动作的策略修复审计
本文研究了在无法获取逐状态专家动作标签的情况下,对修复决策策略的自主AI系统的评估问题,采用了一个具有区域级诊断反馈的酒店定价模拟器。研究发现聚合对齐可能产生误导,并提议通过闭环结果而非行为距离来评估策略修复。