人们在暴露客户数据之前如何保护通过‘氛围编码’(vibe-coded)构建的智能代理?
摘要
一位B2B科技公司的安全工程师寻求建议,希望在不强制使用企业浏览器的情况下,通过会话级DLP防止员工构建的AI工具(‘氛围编码’代理)泄露数据。讨论了浏览器扩展和无代理SSE方案(如Red Access)等选项。
我供职于一家中等规模的B2B科技公司,管理层正在大力推动AI应用……结果,员工现在被允许为自己的工作流‘氛围编码’小型内部工具,我们还有一个小型AI工程团队负责将AI融入实际业务流程。从安全角度来看,这开始变得非常混乱。人们现在可以用Lovable、Replit之类工具构建小应用(比如连接文档、粘贴客户数据、上传电子表格、创建内部仪表盘、构建ChatGPT或Claude的包装器)……最初我们试图将其框定为‘允许使用哪些AI工具’,但我们很快意识到这在视角上过于狭隘,因为更大的问题是,一旦用户进入浏览器会话,公司数据会流向何处。传统DLP在某些场景下显得力不从心,常规网页过滤也是如此。它们可以告诉我有人访问了ChatGPT或上传了某个文件,但我需要了解浏览器会话内部到底发生了什么:敏感数据是否被粘贴到提示词中?文件是否上传到了Claude?内部工具是否因忘记身份验证而暴露给外部?AI包装器扩展是否在读取页面内容?这些操作是来自受管笔记本电脑还是承包商/BYOD设备?我也非常不希望强制所有人改用新的企业浏览器,除非别无选择。我知道Island/Talon这类工具能提供深度控制,但对我们文化和用户群体而言,那将是一个重大的变更管理项目。我试图了解在不构建过于复杂方案的前提下,GenAI提示级DLP/会话级DLP的实际可行选项。就我所知,CASB/SSE/网页过滤能提供广泛可见性,但可能遗漏浏览器会话细节。浏览器扩展安全方案如果通过MDM强制执行是有意义的,但在BYOD和承包商访问场景下效果较弱。我们正在考察的另一个方向是无代理SSE/网页会话安全,其控制点更侧重于访问/会话路径,而不是强制使用新浏览器或进行繁重的端点部署。Red Access是我们正在评估的方案之一,主要因为它更接近会话级DLP/安全网页访问,而不是完全替代浏览器。我并非认为它能解决所有问题——身份验证、路由、会话强制执行仍然需要其他手段。但控制会话而不让所有人切换浏览器的想法很有吸引力。对于已经处理过类似问题的人,你们最终用什么来防止GenAI数据泄露?会话级DLP是否真的有效,还是说你们最终回到了浏览器扩展/企业浏览器/阻断工具这条路上?
相似文章
开发人员发布AI代理时,你们的安全测试是怎样的?
一位正在为AI代理构建安全测试工具的开发者向社区询问:在发布前,他们针对提示注入、数据泄露等恶意输入进行测试的做法是怎样的?
在您用 vibe 编码开发另一个应用之前,请先阅读本文
本文警告了AI辅助“vibe 编码”应用中的安全漏洞,引用了SQL注入和数据库泄露等真实案例,并建议在处理敏感数据时尤其要谨慎。
如何阻止编码代理接触生产数据?
讨论防止AI编码代理意外修改生产数据库的策略,主张使用只读访问、沙盒环境和审批关口,而不是仅仅依赖提示。
如果你给AI智能体提供真实数据和一个发送按钮,它最终会泄露。我构建了一个工作空间,从结构上使其不可能发生。
作者分享了一种开源工作空间架构,通过强制执行人工把控的出站操作并将引擎与数据仓库隔离,从结构上防止AI智能体泄露私人数据。
@svpino: 许多公司正在禁止开发者将vibe编码的软件推送到生产环境。谁没料到这一点呢…
公司正在禁止开发者将vibe编码(AI生成的)软件推送到生产环境,凸显了在缺乏适当监管的情况下让自动生成的代码到达用户的风险。