创建了一个免费工具，在提示词发送给服务提供商之前检测其泄露的 PII
摘要
发布了一款免费工具，帮助用户在服务提供商接收之前，检测大语言模型（LLM）提示词中泄露的个人身份信息（PII）。
大多数人并未意识到，他们在不经思考的情况下，会将多少个人数据包含在 AI 提示词中。客户姓名、医疗细节、公司内部信息……所有这些数据都会发送至服务提供商的服务器。该工具免费使用。请告诉我它的效果如何。[aisecuritygateway.ai/ai-leak-checker](http://aisecuritygateway.ai/ai-leak-checker)
相似文章
每8个AI支持提示中就有1个包含个人数据。我认为我们在以错误的方式保护LLM。
对10,000条生产环境AI支持提示的分析发现，12.4%包含个人身份信息（PII），并认为LLM安全应聚焦于数据最小化和脱敏，而不仅仅是提示注入或越狱。
PrivacyPeek：审计基于LLM的智能体获取了什么，而不仅仅是它们说了什么
介绍了PrivacyPeek，一个用于审计基于LLM的智能体在获取阶段隐私泄漏的基准，表明智能体经常收集超出必要范围的敏感数据，且现有防御措施不足。
机构特定的LLM提示恢复去标识化系统及其金标准均遗漏的PHI
本研究证明，使用机构特定提示的大型语言模型能够恢复现有去标识化系统遗漏的受保护健康信息，从而增强电子健康记录中的数据隐私合规性。
PII-TRACE：面向多轮LLM对话中上下文感知PII检测的基准测试
介绍PII-TRACE，首个用于多轮LLM对话中上下文感知PII检测的基准，以及PII-Tracer，一个实现高实体级覆盖率的紧凑检测器。
野外的安全与隐私提示：用户向大语言模型提问什么及大语言模型如何回应
本文分析了用户向大语言模型提出的关于数字安全与隐私的真实问题，将其分为九个主题，并评估了商业模型和开放权重模型在回答质量和一致性上的表现。