有没有人注意到企业级AI+PII处理实际上有多糟糕？

Reddit r/artificial 新闻
enterprise-ai pii-handling data-privacy redaction ai-gateway compliance llm-workflow

摘要

作者描述了一个常见的企业问题：在将数据发送给LLM之前进行PII脱敏会破坏输出，而他们正在构建一种解决方案，能够在不暴露原始数据的情况下恢复响应内容。

过去几个月我们一直在构建一个AI网关，但遇到了一个意料之外的问题。我们接触过的大多数企业要么完全禁用LLM工具，要么悄悄使用它们并希望合规部门不会注意到。当我们深入研究原因时，问题总是指向同一个点——他们无法将原始的客户或患者数据发送给外部LLM，而那些声称能解决此问题的工具只完成了一半工作。它们在发送前进行脱敏。没问题。但LLM返回的响应中带有占位符，现在必须有人手动修复才能使用。医生笔记系统、HR工具、财务报告——如果没有原始值，输出就是有问题的。我们花了很长时间解决这个问题，构建了一个在返回时恢复响应的方案。数据从未以原始形式离开你的基础设施，但输出仍然可以端到端使用。目前仍在压力测试中。发现了漏洞。正在修复。好奇这里有没有人真正遇到过这个具体问题——不是泛泛的"AI和数据隐私"焦虑，而是特指脱敏破坏了工作流。你们是怎么处理的？
查看原文

相似文章