我在消费级AR眼镜上构建了一个面部识别概念验证。保护我们隐私的摩擦力已经消失了。

Reddit r/artificial 新闻

摘要

一名安全研究人员使用消费级AR眼镜构建了一个面部识别概念验证,展示了隐形捕捉、商品化数据库和实时查找消除了以前保护隐私的摩擦力。

好吧,这个问题在我脑海里盘旋了好几周,最后我干脆把它做出来,看看自己是不是想多了。结果发现,并没有。我的工作是做安全,我一直听到同样的一句安慰话: > 所以我用测试控制的方式测试了它——试图打破它。 # 构建过程 我拿了一副外观普通的消费级AR眼镜,把它们连接起来,实现以下功能: * **触发:** 捏手指 * **捕捉:** 眼镜拍摄照片 * **处理:** 后端运行反向人脸图片查找 * **输出:** 我的视野里的小显示屏上弹出一个名字 花了几天时间。写了几百行代码。后端费用比我的咖啡开销还低。没有漏洞,没有巧妙之处。我没有发现任何新东西。而正是这一点真正击中了我;这里没有天才的黑客手法。这只不过是把货架上现成的乐高积木拼在一起而已。 # 真正的威胁:三个转变 我认为人们忽视的是这一点。面部识别是老新闻,反向图片搜索也是老新闻;这些都不是重点。重点是三件事在同一时间悄然发生: * **手势(无迹可寻):** 有人把手机对准你的脸很明显;你还能有一秒钟反应时间。眼镜看起来就是眼镜。没有任何征兆。 * **数据库(商品化):** 构建数据库曾经是难点。现在它只是一个付费API。已经有人替你完成了数据抓取。 * **等待时间(实时):** 以前你拍张照片,之后再查找。现在,对话进行到一半,答案就已经出现在你的镜片上,而且无需动手。 这三件事单独看都没什么。但把它们叠在一起,你就基本上一次性消除了所有摩擦力。 # 摩擦力的消亡 而摩擦力就是全部的关键。保护普通人的从来不是法律;而是识别陌生人既麻烦又显眼,所以没人会费这个劲。现在这一切都消失了。对我们大多数人来说,你的脸已经可以在两三次点击内关联到你的名字、工作、城市。 # ⚠️ 背景与威胁模型 有几件事我想说清楚,因为我不想成为那个构建了反乌托邦然后耸耸肩的人: * 这是一个封闭的概念验证。 * 我没有发布代码。 * 我没有构建任何数据库。 * 我不会说出眼镜或查找服务的名称。 * 我只在自己和几个同意测试的朋友身上测试过。 *重点在于威胁模型,而不是操作指南。* # 给防御者的问题 作为一个防御者,真正困扰我的是,几乎我们依赖的所有控制措施都假设你能**看到**摄像头。录制指示灯、"禁止摄影"标志、场馆规定——所有这一切在捕捉无声无息的那一刻就失效了。这个妖怪已经有点从瓶子里跑出来了。那么,向这里的专业人士提一个真诚的问题:**当捕捉在设计上就是隐形的时候,哪些控制措施实际上还能生效?** 是技术上的?是法律上的(比如从数据库端入手,类似Clearview的方式)?还是说我们……完蛋了?因为我能想到的每一条安全措施都假设你会注意到,而这个假设已经不再成立。真心希望有人能告诉我我错了。
查看原文

相似文章

引用 Nilay Patel

Simon Willison's Blog

Nilay Patel 认为,真正的增强现实眼镜不可避免地需要侵入性的摄像头录制和云端处理,带来社会性的隐私权衡,这可能使得该产品不值得追求。

# Meta 在智能眼镜上推出面部识别功能

Hacker News Top

# 安全研究人员在 Meta 智能眼镜配套应用中发现完整人脸识别管道 一名安全研究人员发现,Meta 的 Stella 智能眼镜配套应用(v273.0.0.21)内置了一套完整且可运行的人脸识别流程——包括三个本地模型、一个生物特征嵌入数据库以及一套通知系统。该功能在普通账户上处于休眠状态,但可通过直接调用的方式激活,引发了严重的隐私安全担忧。 ## 技术细节 该人脸识别管道包含以下核心组件: - **三个本地端机器学习模型**,部署于设备端,无需联网即可运行 - **生物特征嵌入数据库**,能够生成并存储 2048 维的人脸特征向量 - **通知触发系统**,可在识别到特定人物时发送 "Person Recognized"(已识别人员)通知 该管道具备完整的人脸检测与识别能力:先检测画面中的人脸,随后生成 2048 维的生物特征嵌入向量,并可触发相应的识别通知。 ## 当前状态 目前,Meta 尚未被观察到针对普通用户激活这一功能。在标准账户环境下,该管道处于休眠状态,但研究人员证实,通过直接调用相关接口,该流程可被完整启动并正常运行。 ## 隐私影响 此次发现引发了多方面的重大隐私担忧: - **隐蔽性**:智能眼镜的摄像头本身难以被旁观者察觉,配合实时人脸识别能力,可在当事人毫不知情的情况下完成身份识别 - **数据留存风险**:生物特征嵌入数据库的存在意味着用户面部数据可能被采集并持久化存储 - **功能预置争议**:将完整可用的识别管道以"休眠"形式内置于应用中,而非在获得用户明确授权后再行部署,这一做法本身即引发合规质疑 ## 背景 Meta 旗下的 Ray-Ban Meta 智能眼镜已具备拍照与录像功能,此前已引发隐私方面的讨论。此次发现的休眠人脸识别管道,将潜在的隐私风险提升至新的层级——从被动记录升级为主动的实时生物特征识别。 目前,Meta 尚未就此事作出公开回应,也未说明该功能的最终用途及部署计划。

面向设备上机器学习的全传感器智能眼镜平台

arXiv cs.LG

本文介绍了ARGO,一个面向设备上机器学习的智能眼镜平台,该平台集成了多模态传感器套件和优化的YOLOv11模型,用于实时城市障碍物识别,实现了隐私保护的本地处理,具有低延迟和2.483 MB的内存占用。