你们是如何处理 PII 的?
摘要
一位正在构建 AI 个人助理的开发者提问:为了让助理发挥作用,必须将位置、学校信息等 PII 提供给 LLM,但又不想泄露敏感个人数据——如何在隐私治理与便利性之间权衡,妥善处理 PII。
我一直在尝试开发自己的个人助理版本。我发现作为个人助理,它会保存我的大量个人信息(不只是登录凭据,还有我住在哪里、孩子在哪里上学等等),而且有可能被发送到 LLM,从而泄露我的个人信息。但完全不泄露任何信息也不行,因为 LLM 需要知道我住在哪里才能给我送餐。想请教各位是怎么解决这个问题的?你们如何处理 PII,如何权衡治理与便利性。(我知道凭据会存到 vault 里,但 PII 略有不同。)
相似文章
向大语言模型发送PII数据
讨论向大语言模型发送个人身份信息(PII)的风险和注意事项。
每8个AI支持提示中就有1个包含个人数据。我认为我们在以错误的方式保护LLM。
对10,000条生产环境AI支持提示的分析发现,12.4%包含个人身份信息(PII),并认为LLM安全应聚焦于数据最小化和脱敏,而不仅仅是提示注入或越狱。
有没有人注意到企业级AI+PII处理实际上有多糟糕?
作者描述了一个常见的企业问题:在将数据发送给LLM之前进行PII脱敏会破坏输出,而他们正在构建一种解决方案,能够在不暴露原始数据的情况下恢复响应内容。
如何在不损害客户隐私和机密的前提下将AI融入我的工作流程?
一位虚拟助理寻求建议,希望在不泄露客户机密和隐私的情况下使用AI工具,在效率与道德关切之间取得平衡。
使用 AI 时的知识产权保护
一位从业者谈到与云端 AI 服务提供商分享新颖的研发想法和试验数据时的担忧,询问企业和研究人员实际如何保护自己的知识产权,以及本地/离线大语言模型是否是一种可行的替代方案——尽管它们能力更弱且对算力要求很高。