保护临床基础模型中的患者隐私:技术与法律视角
摘要
本文审视了临床基础模型中的隐私风险,其中模型介导的泄露即使在去标识化处理后仍可能导致患者重新识别。我们提出了一个实用的风险评估框架,并将现实中的泄露场景映射到HIPAA和GDPR等法律体系,提供了技术与法律相结合的综合缓解措施。
arXiv:2608.07705v1 公告类型:新
摘要:在大规模患者数据上训练的临床基础模型越来越多地用于决策支持、筛查和公共卫生。随着部署范围的扩大,隐私风险日益来自模型介导的泄露,但其普遍性和严重性仍未得到充分量化。模型可能泄露敏感的训练信息,从而以数据处理控制手段无法完全捕捉的方式实现患者重新识别。现有的框架(包括HIPAA和GDPR)对此类间接威胁提供的指导有限。我们提出了一个实用的框架来评估临床基础模型中的隐私风险,展示了跨部署环境下的现实泄露场景,将其映射到法律体系,并概述了技术与法律上的互补缓解措施。我们的分析提供了一种基于现实使用场景的情境化风险评估,以在严格保护患者隐私的同时保持医学基础模型的价值。
查看缓存全文
缓存时间: 2026/08/11 08:03
# 临床基础模型中的患者隐私保护:技术与法律视角 Source: https://arxiv.org/html/2608.07705 [![未命名图片](https://arxiv.org/html/2608.07705v
相似文章
Meddies PII:用于临床文本的开源多语言去标识化模型
Meddies PII 是一个用于临床文本去标识化的开源多语言模型及数据集,旨在移除患者标识符的同时保留临床事实。它利用动态提示生成的合成数据,以处理多样化的真实世界格式。
背景也重要:用可迁移攻击攻破医学视觉语言模型
MedFocusLeak 首次提出针对医学视觉语言模型的可迁移黑盒对抗攻击,通过不可察觉的背景扰动在六种成像模态上误导临床诊断。
你的模型丢弃了什么以及为什么你会想找回:从被丢弃的几何结构看掩码、指纹识别和隐私保护
本文提出了一个数学框架,用于分析在李群作用下机器学习模型丢弃的信息,引入了零纤维和稳定化子,并应用于数据掩码、模型指纹识别和隐私保护计算,在分子和图像任务上进行了测试。
一个用于医学大语言模型安全性、鲁棒性和公平性评估的多领域红队框架
本文提出了一个多领域红队框架,用于在690个临床相关场景中评估医学大语言模型的安全性、鲁棒性和公平性。结果表明,高聚合准确率可能掩盖关键失败,而结合临床专家审核的混合评估对于可信的安全性评估是必要的。
表格扩散模型中的隐私泄露:影响因素、攻击者知识与评估指标
本研究论文探讨了表格扩散模型中的隐私泄露问题,量化了训练设置、合成选择以及攻击者知识对隐私风险的影响。研究发现,即使在没有完美知识或庞大资源的情况下,攻击者仍能成功实施攻击,并揭示了启发式隐私评估指标的潜在缺陷。