创建了一个免费工具，在提示词发送给服务提供商之前检测其泄露的 PII
摘要
发布了一款免费工具，帮助用户在服务提供商接收之前，检测大语言模型（LLM）提示词中泄露的个人身份信息（PII）。
大多数人并未意识到，他们在不经思考的情况下，会将多少个人数据包含在 AI 提示词中。客户姓名、医疗细节、公司内部信息……所有这些数据都会发送至服务提供商的服务器。该工具免费使用。请告诉我它的效果如何。[aisecuritygateway.ai/ai-leak-checker](http://aisecuritygateway.ai/ai-leak-checker)
相似文章
每8个AI支持提示中就有1个包含个人数据。我认为我们在以错误的方式保护LLM。
对10,000条生产环境AI支持提示的分析发现，12.4%包含个人身份信息（PII），并认为LLM安全应聚焦于数据最小化和脱敏，而不仅仅是提示注入或越狱。
PrivacyPeek：审计基于LLM的智能体获取了什么，而不仅仅是它们说了什么
介绍了PrivacyPeek，一个用于审计基于LLM的智能体在获取阶段隐私泄漏的基准，表明智能体经常收集超出必要范围的敏感数据，且现有防御措施不足。
野外的安全与隐私提示：用户向大语言模型提问什么及大语言模型如何回应
本文分析了用户向大语言模型提出的关于数字安全与隐私的真实问题，将其分为九个主题，并评估了商业模型和开放权重模型在回答质量和一致性上的表现。
向大语言模型发送PII数据
讨论向大语言模型发送个人身份信息（PII）的风险和注意事项。
有没有人注意到企业级AI+PII处理实际上有多糟糕？
作者描述了一个常见的企业问题：在将数据发送给LLM之前进行PII脱敏会破坏输出，而他们正在构建一种解决方案，能够在不暴露原始数据的情况下恢复响应内容。