anonymization

一种隐私中间件的概念，该中间件在发送到LLMs之前匿名化敏感数据以保护隐私，采用本地占位符映射，寻求可行性的反馈。

本研究审计了德国LLM生成简历中的人口统计信息泄露，发现尽管进行了匿名化处理，但由于微妙的语言差异，分类器能够可靠地区分男性和女性姓名，引发了对AI招聘流程中公平性的担忧。

本文通过减少用户特定文本生成中的风格信号，研究了LLMs中的隐私与个性化权衡，发现匿名化降低了风格保真度，同时保留了语义含义。

一项研究表明，人工智能训练数据集中来自数十年前的匿名化患者记录可能导致模型误诊当前患者，因为模型会关联历史健康状态，从而增加诊断错误的风险。

本文系统性地实证研究了在大型语言模型中匿名化输入数据时隐私与性能的权衡，发现匿名化会降低性能，且影响因模型能力和任务类型而异。

介绍GRASP，一种使用组相对策略优化来训练小型设备端语言模型进行对抗性匿名化的方法，在运行成本仅为前沿教师模型的一小部分的同时，改善了相对于DPO蒸馏基线的隐私-效用权衡。

TIM PG 是一款严格离线的 Windows 工具，它能在将剪贴板内容粘贴到 AI 工具之前自动掩码个人数据，确保本地数据安全隐私，无需依赖云服务。

介绍了无知识语言模型（KLLMs），该模型在实体匿名的语料库上进行预训练，以抑制参数化回忆并增强基于证据的推理，在上下文问答、事实验证和幻觉检测基准上取得了显著改进。

本文研究了LLM是否能够从角色约束政治分析文本中的风格化指纹识别出自己的模型家族，即使在提示层面匿名化后也是如此。研究结果证实匿名化不足，并对欧盟AI法案合规性和多智能体系统验证有影响。

AURA是一个基于LLM的匿名化框架，通过自适应隐私范围和mask-reconstruct方法在保护隐私以抵抗代理性网络搜索重新识别的同时，保持上下文效用，从而平衡隐私保护与效用保持。

本案例研究通过实证研究调查在检索增强生成(RAG)管道中应在何处应用匿名化以平衡隐私与可用性，并检查在不同阶段(数据集与生成的回答)进行匿名化的影响，为隐私风险缓解策略提供指导。