旧金山要求苹果和谷歌从应用商店下架AI‘脱衣’应用

# 旧金山要求苹果和谷歌从应用商店中删除AI"脱衣"应用 来源：https://www.wired.com/story/san-francisco-demands-apple-and-google-delete-ai-nudify-apps-from-app-stores/ 苹果和谷歌已被勒令下架能够对他人进行"脱衣"或"去衣"（https://www.wired.com/story/deepfake-nudify-technology-is-getting-darker-and-more-dangerous/）的应用，并被要求停止从这种有害技术中获利——根据WIRED看到的发给两家公司的停止函件。 周四，旧金山市检察官David Chiu向苹果和谷歌发出法律通知，要求它们从应用商店中移除13款"换脸"应用，这些应用允许用户创建AI生成的未经同意的裸体图像。信函称，这两家硅谷巨头应停止"协助和教唆"销售露骨的深度伪造图像，并"切断"与应用开发者的商业关系。 "生成未经同意的私密图像是非法、有害且完全不可接受的，"Chiu告诉WIRED。这位市检察官的办公室此前已对16个流行的深度伪造网站采取法律行动，他表示苹果和谷歌很可能从提供"脱衣"功能的应用中"赚取了数百万美元的费用"，它们应改进审核流程，从一开始就阻止这类应用出现在商店中。 "这些公司有责任确保其平台上的应用不会助长性虐待，"Chiu说。该市的法律信函指出，加州法律禁止支持制造深度伪造色情内容的服务（https://law.justia.com/codes/california/code-civ/division-3/part-3/section-1708-86/）。信函称，这些应用使用应用内支付，科技公司会从中抽取分成。"一些世界上最大、最成熟的科技公司正在助长这种行为，必须停止。" 研究人员多次发现（https://www.techtransparencyproject.org/articles/nudify-apps-widely-available-in-apple-and-google-app-stores）并报告（https://indicator.media/p/most-faceswap-apps-in-the-apple-and-google-stores-could-be-used-to-make-deepfake-nudes）苹果App Store和谷歌Play Store中存在允许人们使用AI生成色情图像的应用——其中一些应用甚至被评为适合儿童使用（https://www.techtransparencyproject.org/articles/apple-and-google-are-steering-users-to-nudify-apps）。尽管新法律（https://www.wired.com/story/how-to-remove-nudes-take-it-down-act/）和禁令（https://www.bbc.com/news/articles/cq8dp2y0z7wo）旨在应对网络上露骨深度伪造内容泛滥的问题，但科技和社交媒体公司仍在持续引导数百万人（https://www.wired.com/story/youtube-and-x-have-become-gateways-to-nudify-apps/）接触这种有害技术。 苹果（https://developer.apple.com/app-store/review/guidelines/）和谷歌（https://developer.apple.com/app-store/review/guidelines/）都有禁止在其平台上出现色情、虐待和骚扰的开发者政策。在研究人员和记者报道后，它们此前已移除了数十款"脱衣"和深度伪造应用。 谷歌发言人Dan Jackson告诉WIRED，该公司已因违反政策而删除了"数百款"带有脱衣功能的应用，包括Chiu办公室指出的五款Android应用，并采取了其他措施限制对它们的访问。 "Google Play不允许包含色情内容的应用，我们持续采取主动措施检测并移除含有有害内容的应用，"Jackson在一份声明中表示。"当违规行为被报告给我们时，我们会进行调查并迅速采取行动，针对这些应用，我们已暂停了数百款违规应用，并在我们的商店中限制了'脱衣'等相关搜索词。" 苹果告诉WIRED，开发者最终应对其应用的内容负责，那些不遵守规则的应用将被移除。该公司还表示，用户自己可以举报可能存在问题的应用（https://reportaproblem.apple.com/）。苹果发言人Adam Dema在给WIRED的声明中表示，该公司已移除旧金山市检察官指出的三款应用，并"正在终止其开发者在我们的计划中的账户"。该公司称，其他四名开发者必须"解决政策违规问题，否则同样面临被移除的风险"。 "App Store旨在为用户提供一个安全可信赖的地方，我们一直严格禁止设计用于生成、分发或消费色情内容的应用，"Dema在声明中表示。"'脱衣'应用违反我们的App Review Guidelines，我们已主动拒绝了许多此类应用，并移除了许多其他应用，包括在用户通过我们的报告工具标记它们时。" 过去五年中，一种利润丰厚的深度伪造"脱衣"技术在网上涌现——最明显的是xAI的Grok在1月份被用来创建数百万张（https://www.wired.com/story/grok-is-pushing-ai-undressing-mainstream/）色情图像。大量应用、网站和机器人允许用户（主要是男性）上传他人（绝大多数是女性和女孩）的照片，然后数字"移除"衣物或将其置于露骨的性场景中（https://www.wired.com/story/deepfake-nudify-technology-is-getting-darker-and-more-dangerous/）。 通常，创建色情深度伪造只需一张参考照片和几次点击，有些结果在几秒钟内就能生成。随着底层生成式AI技术的改进，图像和视频变得更加逼真（https://www.wired.com/story/deepfake-nudify-technology-is-getting-darker-and-more-dangerous/），一些服务免费提供部分结果，或收取小额费用来创建有害内容。WIRED和Indicator Media此前的报道已发现至少90所学校（https://www.wired.com/story/deepfake-nudify-schools-global-crisis/）发生过制作未成年人深度伪造性虐待图像的事件。 "这些图像被用来欺凌、羞辱和威胁女性和女孩，"Chiu说。"这个行业对个人的声誉、心理健康和自主权产生了可怕的影响。有受害者因此产生自杀念头。" 市检察官办公室调查的13款应用——八款在App Store上，五款在Play Store上——普遍将自己宣传为"换脸"工具，而创建色情深度伪造的能力则在使用后才能获得。其中一款下载量超过100万的应用网站上显示了十多种它将生成的AI图像风格，包括"比基尼女王曲线"、"平静丰满"和"电影感亲密"。许多风格展示的图片都伴随着性化的女性形象。另一款被针对的应用主页声称能制作"免费且无删减"的视频。WIRED不公布这些应用的名称，以避免引导用户前往。 这个问题对苹果和谷歌来说并不意外。过去一年中，多份报告指出两家公司平台上存在允许人们创建未经同意的裸体图像或视频的应用。今年1月（https://www.techtransparencyproject.org/articles/nudify-apps-widely-available-in-apple-and-google-app-stores）和4月（https://www.techtransparencyproject.org/articles/apple-and-google-are-steering-users-to-nudify-apps），独立监督组织Tech Transparency Project（TTP）在App Store和Play Store上发现了大约100款应用，以及一些平台上为脱衣技术投放的广告。（谷歌的Jackson表示，该公司已移除了TTP识别的大部分应用。）据估计，研究中发现的应用总下载量约为4.8亿次，总收入可能达到约1.2亿美元。 "我们本以为在第一份报告之后不会再看到这个问题——但第二份报告出来后情况同样糟糕，甚至更糟，"TTP主任Katie Paul说。"苹果和谷歌在营销中大力宣传其应用商店如何值得信赖和安全。但这根本不是现实情况。" 与此同时，康奈尔大学和乔治城大学的研究人员在5月发表的一篇预印本研究论文中，识别出谷歌和苹果应用商店中420款提供通用换脸功能的应用。他们测试了其中155款，看能否用于创建裸体图像换脸；在70%的案例中，这是可能的，并且这些应用没有包含防止此类使用的安全措施。 "没有一款应用被宣传为脱衣应用，"研究（https://arxiv.org/pdf/2605.24735）称。"这表明换脸应用以及许多其他形式的AI图像生成和编辑应用实际上是'双重用途'：它们通过表现得无害来规避平台的内容审核，但具备创建有害内容的能力。" 旧金山市检察官Chiu表示，在"完全震惊"于该技术的危害和规模后，他的办公室将继续追查这一问题。"我希望苹果和谷歌能立即移除这些应用，并加强其筛查系统，确保此类应用未来永远无法进入它们的平台，"他说。"我们希望这些公司能做出正确选择——但如果它们不这样做，我们将不得不考虑所有法律选项。" *更新时间：2026年7月17日下午4:10（美国东部时间）：补充了苹果发言人的评论。*