标签
QuanText是一种免训练且与大语言模型无关的机制，旨在保护文本数据集中的全局秘密，同时保持数据实用性。它受Statistic Maximal Leakage启发，采用随机量化，并实现了比竞争基线更好的经验性隐私-实用性权衡。
介绍了DP-SPIN，一个差分隐私框架，用于文本数据中语义概念的聚合测量和总结，并在CFPB、Amazon和Yelp数据集上进行评估。
本文提出了一种风格感知的、基于提示驱动的文本匿名化方法，利用大型语言模型在保留语义的同时抑制可识别的风格标记，将作者归属F1值降低60–70%，并优于基于差分隐私的方法。
本文提出α-split，一种用于联邦学习中差分隐私的双池分配方法。该方法解决了语音大语言模型中的跨组件预算崩溃问题，提升了模型效用并增强了对各类攻击的安全性。
RAPTOR是一个角色感知的框架，用于专家混合模型的差分隐私微调，解决了诸如裁剪干扰和噪声稀释等失败模式，并在实验中显示出相对于标准差分隐私基线的改进。
这篇论文展示了因果公平机制，特别是因果图上的边切割，能够跨各种合成数据生成器家族移植，包括GANs和扩散模型，对数据保真度和实用性影响极小。
本文探讨了split-LLM训练中的隐私失败问题，其中返回的梯度可以抵消诱饵机制并启用梯度反转攻击，从而破坏数据保护。
本文揭示了差分隐私语言模型中的隐私-幻觉权衡，其中更严格的隐私预算会增加幻觉风险，并探讨了缓解策略。
本文提出一种轻量级防御框架，旨在增强DP-SGD的经验隐私，且不增加理论隐私成本，并通过跨模型、数据集和威胁模型的广泛审计进行验证。
该论文研究了融合差分隐私任务模型时遇到的几何挑战，并提出了DP-Merging框架，在维持隐私保障的同时增强了模型的可融合性。
本文介绍了Private Best-of-N (PrivBoN)和Private Inference-Time Pessimism (PrivITP)方法，这些方法在推理时对齐中向奖励分数添加校准噪声，以实现差分隐私并减轻奖励哈希，且额外对齐成本最小。
美国商务部正在传阅一份提案，拟停止收集关于种族和性取向的人口普查数据，并将无证移民排除在2030年人口普查之外，这可能会重塑联邦资金分配和政治代表权。
本文介绍了StraightDP，一个面向文本条件修正流Transformer的几何感知差分隐私框架。它将隐私预算进行划分，用于发布类条件矩并使用DP-SGD，在强隐私水平下相较于统一DP训练提高了准确率和FID。
Noisegate 是一个开源的差分隐私网关，允许不可信的AI代理查询敏感数据集，并提供针对记录泄露的数学保证。它具备内置的攻防测试、经过验证的噪声机制，并作为Claude Desktop的MCP服务器运行。
DP-FedSOFIM 将曲率估计移至差分隐私联邦学习中的服务器端，在 O(d) 客户端内存下实现与 DP-FedGD 相同的隐私保证，并在早期轮次获得显著的准确率提升。
本文提出了一种用于联邦学习的平均场隐私博弈框架，能够对任意数量且具有异构隐私偏好的客户端进行可处理的纳什均衡分析，并实现个性化隐私保证。
提出了一种统一的事后检测框架，用于AI模型中的版权侵权检测，利用条件敏感性和差分隐私来跨模态衡量记忆化。
本文提出了因果工作负载——基于正交矩的差分隐私查询集——以实现从合成数据中进行有效的因果推断，并介绍了Causal-AIM和噪声感知多重插补等方法。
本文介绍了DP-NGD，一个实用框架，通过将曲率估计与私有数据解耦，并协调各向同性DP约束与各向异性二阶优化，将自然梯度下降与差分隐私相结合，在相同隐私预算下实现了最先进的准确率和高达10倍的收敛速度提升。
本文形式化了多轮智能体谈判中的行为隐私泄露问题，并提出了一种自适应随机策略，该策略在提供差分隐私保证的同时，保持较高的谈判效用。