标签
本文提出了一种去噪感知嵌入反转管道（DAEI），它能有效攻击噪声保护的文本嵌入，揭示了重大隐私风险，并对高斯噪声作为防御手段的有效性提出了挑战。
本文揭示了经过强化学习训练的多模态大型推理模型中的一个隐私漏洞：即使在最终答案中成功消除了敏感事实，模型仍可能在推理轨迹中重现这些事实。为此，本文提出LEMUR，一个无需训练、推理时运行的框架，利用熵动态来检测并抑制此类泄露。
本研究论文探讨了表格扩散模型中的隐私泄露问题，量化了训练设置、合成选择以及攻击者知识对隐私风险的影响。研究发现，即使在没有完美知识或庞大资源的情况下，攻击者仍能成功实施攻击，并揭示了启发式隐私评估指标的潜在缺陷。