Instagram的AI检测一团糟（又来了）

# Instagram 的 AI 检测又是一团糟 来源：https://www.theverge.com/ai-artificial-intelligence/989617/instagram-ai-content-label-confusion Instagram 的可见 AI 标签本应帮助人们一目了然地快速识别合成生成的内容。然而，过去几周，用户（https://www.instagram.com/p/DcBv-fRIKBb/?img_index=3&igsh=MWsxMTRxemhvNzJscw%3D%3D）却报告称该系统已彻底混乱。他们表示，Meta 一直在自动为并非使用生成式 AI 工具创建或编辑的图片打上 "AI 内容" 标签。与此同时，真正的 AI 图像却漏网未被标记，给人的印象是 Instagram 上的一切都不可信。 这种标签错误的具体原因似乎各不相同。许多人表示，标签出现在使用类似 Canva 的背景移除工具编辑过的图片上，或者只是轻微使用了瑕疵修复工具。一位 Threads 用户（https://www.threads.com/@nissaonlyreads/post/DcV2e_dCpCP?xmt=AQG0TGsRYBBNcsASLVhk6-JN4cveliwNJwn3e3CsMZ0mwgC9GC-zZIPra56vapNvWvyGQy0）称 Instagram 在“每次涉及背景移除时”都会应用该标签，而另一位用户（https://www.threads.com/@tiiaaurora/post/DbvXhCkDPpa?xmt=AQG0CK2N5dEeXjHmNyZ36g0vCQrYrrzeH0Vl1nJc947glzPfDso2PJlVrRHl5n6rCoyiMl8）则表示在他们用 Canva 从照片中移除“一个斑点”后，标签就出现了，导致整张图片在 Instagram 上被标记为 AI。在其他情况下，原因甚至更不明确。 如果这种标签失误听起来耳熟，那么你可能还记得 2024 年类似的问题也曾困扰过 Instagram 上的照片（https://www.theverge.com/2024/6/24/24184795/meta-instagram-incorrect-made-by-ai-photo-labels），当时该功能推出仅几个月后，照片就被打上了“由 AI 制作”的标签。那年二月，Meta 宣布将扫描图片中的 IPTC 和 C2PA 元数据（https://www.theverge.com/podcast/874038/ai-deepfakes-war-on-reality-c2pa-labels），这些元数据可以相当确定地证明生成式 AI 是否被用于创建或操纵它们。但 Meta 对其具体方法一直语焉不详。据报道，在 2024 年，检测系统错误地标记了 Adobe 元数据显示曾使用生成式 AI 工具修饰过的照片，即使这些修改极其细微，且实质上仍然是同一张照片。Meta 随后承诺调整其标签方法，以更好地反映“图像中使用的 AI 程度”。Meta 还表示，它使用“其他公司在其工具生成的内容中包含的行业标准指标”，但目前没有关于这些指标是什么，以及 Meta 如何及何时进行扫描的最新信息。Meta 未回应澄清请求。 点击 Instagram 的 AI 内容标签时出现的弹窗截图。(https://platform.theverge.com/wp-content/uploads/sites/2/2026/09/Instagram-AI-Content-label-info.jpg?quality=90&strip=all&crop=0,0,100,100) 最近报道的错误标签与生成式 AI 的使用没有明确联系。虽然背景移除等*确实*经常使用机器学习，但这与 Photoshop 在物体选择和移除工具中使用了十多年的辅助性 AI 是同一种类型——而不是通常与欺骗性 AI 图像相关的生成式文生图工具。 Instagram 最近的一些 AI 标签错误似乎至少部分归咎于 Canva。在指出背景移除的标签问题后，内容策略师 Jess Bruno（https://www.threads.com/@thatjessbruno/post/DcTamviCNEE）报告称 Canva 向她做出了解释：该设计平台的一些辅助性 AI 工具“被错误地标记为生成式 AI”。该设计平台告诉 Bruno，其工具现在标记正确。Canva 背景移除帮助页面（https://go.skimresources.com/?id=1025X1701640&xs=1&url=https%3A%2F%2Fwww.canva.com%2Fen_gb%2Fhelp%2Fbackground-remover%2F）上的一条消息也称，使用该工具“不会将 Canva 的 AI 生成内容元数据添加到您的设计中”，尽管尚不清楚这条说明是否是新增的，Canva 也未回应置评请求。 然而，一些 Threads 用户（https://www.threads.com/@ln.goodman/post/DccL8s1FtXa）报告称，尽管 Canva 声称已解决其端的问题，但使用 Canva 的背景移除功能仍然会导致他们的图片被标记。其他 Threads 用户（https://www.threads.com/@hannah.brixton/post/Db_dFrrGTXX/all-this-is-to-say-canva-is-push ing-ai-into-a-lot-of-stuff-and-they-are/）也报告称，在工具修复之前他们使用该工具编辑的所有图片均未被 Instagram 标记，该工具也没有应用 Meta 据称用于检测 AI 生成内容的 C2PA 元数据。 在我为了测试什么会导致标签出现而进行的所有测试中，只有使用 Meta AI 应用编辑或完全生成的图片才被打上了标签。 12张使用 AI 编辑或生成的照片，以 Instagram 网格形式发布。(https://platform.theverge.com/wp-content/uploads/sites/2/2026/09/Instagram-AI-label-tests.jpg?quality=90&strip=all&crop=0,0,100,100) 还有报告称（https://www.threads.com/share/IzC4NOrQS/），在使用了 Canva 背景移除功能时（https://www.instagram.com/p/DbECl_KCBlK/），AI 标签被应用，尽管据称从未使用过该功能。一位用户发现 Meta 将标签应用在一张被“投毒”（https://www.threads.com/share/HHSLZAMp1/）的图片上——即被一个旨在使图片无法用于 AI 训练和/或降低其训练的 AI 模型质量的系统微妙地修改过——却未标记同一内容的未投毒版本。 AI 内容标签也被自动应用于歌手 Halsey 创立的化妆品公司 About Face 最近发布在 Instagram 上的照片。当一位评论者询问 AI 标签（https://www.instagram.com/p/DcHC1fEmk82/?carousel_share_child_media_id=3965149526192402682_39293096813&comment_id=18052312760797092）时，该品牌未具名的社交媒体经理表示，未使用 AI 创建这些图片。“这张照片是用我的 iPhone 拍摄的，然后由我在照片应用中稍作编辑。我们的品牌使用真实的艺术家[们]和真实的人们来创作您在我们所有平台上看到的所有内容，”About Face 回复道。 我联系了 About Face 以澄清使用了 iPhone 照片应用中的哪些工具，但该公司尚未回应。话虽如此，只有少数工具会向照片添加生成式 AI 元数据：空间重构、扩展以及在 iOS 27（https://www.apple.com/newsroom/2026/06/apple-intelligence-brings-powerful-ai-capabilities-into-everyday-experiences/）中更新的清理工具。这些工具使用 Apple Intelligence，并嵌入了 Google 的不可见 SynthID 水印；前两者添加了新的生成式元素，而第三种则允许用户移除分散注意力的物体或人。根据 Google 基于 Gemini 的验证，被标记的图片中并未嵌入 SynthID，但即使使用了这些 Apple Intelligence 工具，目前也不清楚为什么标签声称检测到的信号“通常识别的是完全由 AI 生成的内容，而不仅仅是经过 AI 修改的内容”。 说真的，Meta *到底*在扫描什么 AI 信号？公司通常会模糊其审核系统的具体细节，以防止不良行为者操纵系统，但现在，普通用户有充分的理由感到困惑。 [](https://platform.theverge.com/wp-content/uploads/sites/2/2026/09/rainforest-thumbs-up.jpg?quality=90&strip=all&crop=0,0,100,100) [](https://platform.theverge.com/wp-content/uploads/sites/2/2026/09/At-the-lodge.jpg?quality=90&strip=all&crop=0,0,100,100) 目前唯一我确知会触发 Instagram 应用 AI 内容标签的信号，是 Meta 自身生成式 AI 系统添加的那个。我测试了上述大多数工具，上传了使用 Canva 背景移除、Photoshop 背景擦除工具、Adobe 的 Firefly 生成式 AI 功能、Google Gemini 中的 Nano Banana 模型以及 iOS Apple Intelligence 功能编辑过的照片。有些是完全生成的，并且我确认其中几个包含了 C2PA 和 SynthID 信号。然而，在我的案例中，Meta 没有标记其中任何一个。 我在一个我创建的、信息极少的全新 Instagram 账号上发布了这些图片，并连续快速发布。我尽可能地表现得像一个机器人或 AI 农场，你可能会认为这是 Meta 应该寻找的首要目标。然而，即使在 Meta 上周宣布打击 AI 账户之后，该账户也未被标记为 AI 生成的个人资料，图片当时也未被打上标签（https://www.theverge.com/tech/986593/instagram-addresses-fake-ai-profile-slop）。如今，这些内容已公开发布近两周。 这些结果让我质疑 Meta 应用“AI 内容”标签的方式是否*有任何*道理。它们本应使人们更容易信任在 Instagram 上看到的内容，但就目前而言，我甚至不会相信这些标签本身。 **关注此故事的主题和作者**，以在您的个性化主页动态中查看更多类似内容，并接收电子邮件更新。 - Jess Weatherbed