Meta 自建 AI 检测系统，本可直接使用谷歌的

# Meta打造了自己的AI检测系统。其实它本该直接用谷歌的 来源：https://www.theverge.com/tech/968680/meta-ai-detection-labeling-content-seal-watermarks-synthid 今年3月，Meta的监督委员会呼吁该公司"履行公开承诺，运用自身工具"来帮助遏制欺骗性生成式AI内容在平台上的蔓延。Meta在7月做出了回应，推出了**Content Seal**——这是一种不可见的水印技术，用于标记由该公司新AI模型生成的图片。但这基本上只是Meta在发布其Muse图像和视频生成工具公告中的一个注脚。作为一个花大量时间审视AI标签系统的人，Content Seal并不能让我充满信心。已经有一些更成熟的解决方案，比如**C2PA内容凭证**和**谷歌的SynthID**，Meta本可以使用这些方案，而不是在明显更晚的时候推出自己的系统。 在深入了解Meta为何推出自己的系统后，我并不相信Meta对此深思熟虑过。根据Meta的描述，Content Seal的工作原理与**SynthID**类似。这种水印对人眼不可见，为AI生成的图像提供了一种"隐藏的来源信号"，可以通过检测工具扫描并标记，帮助在线用户区分深度伪造内容和真实内容。与SynthID一样，Meta也表示，即使图像被"裁剪、压缩、调整大小或截图"，Content Seal水印仍能保持完整并可被检测到。 那么，如果Content Seal在功能上做着同样的事情……为什么不直接采用SynthID呢？Meta已经是**内容来源与真实性联盟（C2PA）** 的指导委员会成员，该联盟与谷歌**一起**推广独立的"内容凭证"标准，这表明Meta愿意与其他人合作解决日益严重的AI检测问题。SynthID也已经被OpenAI采用，这显然表明谷歌也愿意向竞争对手的AI提供商开放其技术，以提高透明度。 尽管与谷歌的系统有这些相似之处，Content Seal在目前状态下仍有几个局限性。目前，用户只能通过Meta正在测试的一个**专用网络工具**来检测Content Seal水印，这意味着Meta并没有像**谷歌在Gemini中那样**，将这些检测功能集成到自己的Meta AI聊天机器人中。不过，这听起来可能正在开发中。Meta发言人Faith Eischen告诉*The Verge*，该公司正在"探索如何将检测功能带到人们遇到AI生成内容的地方"。考虑到这正是最需要AI检测的地方，而且已经有一段时间了，为什么不在发布时就提供呢？ 水印本身也只应用于由Meta AI应用和Meta.ai网站中的Muse模型生成的图像，这意味着在线用户无法用它来检测由Meta旧AI模型创建的内容。对生成视频的支持也尚未提供，不过Meta表示这"很快"就会到来。 *以下是Meta的检测工具成功标记出一张由自家Muse模型制作或编辑的图像时显示的信息。* 图片：Jess Weatherbed / The Verge Meta对其检测工具每天可以检查Content Seal的次数施加了限制。Eischen表示，这个速率限制是为了支持"正常使用"，同时保护检测系统不被滥用。Meta没有明确说明这种滥用会是什么样子——大概是指**破解系统**，以避免水印内容被检测到——但**谷歌**和**OpenAI的检测工具**也有类似的速率限制。C2PA是唯一一个不限制用户检查内容次数的系统。任何检测限制似乎都与大规模提高AI透明度的目标相悖，所以这对Meta的系统来说，感觉像是一个错失了比SynthID做得更好的机会。 在Meta自己的平台（如Facebook和Instagram）上，Eischen表示正在使用未指定的元数据"以及Content Seal水印"来帮助用户识别AI生成的内容。当我问Meta是否在指示其他在线平台（如TikTok和LinkedIn）如何检测Content Seal时，Eischen表示该公司"决心与行业同行合作，确保用户获得最佳体验"。这听起来像是对该标准的更广泛支持仍在进行中，这可能会阻止Muse生成的图像在Meta自有平台之外被有效标记。当我将一张用Meta的Muse模型制作的测试图像输入Gemini和官方的C2PA检测门户时，这两个工具都无法确认它是AI生成的。还有一个问题是，Content Seal能否与SynthID和内容凭证同时应用于图像和视频文件，而不会干扰这些其他标准。Meta没有对此提供任何公开澄清。 "像其他公司一样，我们原生地根据我们自己的技术规格和产品构建了Content Seal。需要多种方法协同工作才能在整个生态系统中解决这个问题，我们很高兴能为此做出贡献，"Eischen说。"我们很快就会有更多关于Content Seal的信息分享。" 鉴于Content Seal只能检测使用Meta最新AI模型生成的图像，我不禁要问，这家公司这段时间到底在干什么？Meta自**2023年以来**一直提供AI图像生成工具，所以已经产生了大量其专有系统无法检测的伪造内容。它还在2023年为Instagram和Facebook引入了AI标签，当时错误地将真实照片标记为"由AI制作"，激怒了许多摄影师。三年过去了，Meta仍然不确定如何将自己定位为AI内容的生产工厂和识别解决方案的提供者，尤其是在其自己的平台上。就连Meta的高层领导似乎也不知道接下来该怎么做。 在Lenny Rachitsky播客的一次采访中，**Instagram负责人Adam Mosseri**最初接受了这样的观点：不喜欢AI生成内容的人应该被允许将其排除在社交信息流之外——这听起来很像一个需要可靠AI标签系统的**过滤功能**。他甚至暗示，真实性本身将作为AI无法提供的东西而变得更加受欢迎。"在一个合成内容泛滥的世界里，我实际上认为人们会更喜欢寻求创造力和真实性以及真人，而不是更少，"Mosseri说。 但在同一次采访中，Mosseri说"我认为我们不应该过滤掉AI内容"，同时肯定"我们应该让你知道内容是否是AI内容"。Mosseri还**重申了他之前表达过的观点**，即"对真实媒体进行指纹识别可能比识别虚假媒体更实际"。这听起来不像Meta对自己开发可行AI标签系统的能力有信心。从将其社交平台建成"虾仁耶稣"和其他**生成式脑腐内容**的素材工厂以来，Meta有充足的时间来这样做，但Content Seal的发布仍然感觉像是仓促上马的产品。与类似且成熟的SynthID系统相比，它为消费者提供了任何独特的好处，反而只是创造了另一个人们必须费力验证AI内容的障碍。 也许Meta*本来就应该*像OpenAI那样采用谷歌的水印标准。如果真是这样，Facebook和Instagram用户可能会过得更好。Eischen告诉我，Meta多年来一直在贡献**开源水印研究**，所以这项技术并非一夜之间开发出来的，但我期待能有一个更好的面向消费者的体验来证明这一点。如果Meta想坚持使用自己的解决方案，那么它需要的不仅仅是一个半成品般的SynthID克隆版来证明它是真正认真对待AI透明度的——至少得是一个更可靠的版本。*路透社*已经发现，Content Seal在测试中未能检测出超过一半的Muse生成图像，这些图像在被裁剪后。 **关注本文的故事主题和作者**，即可在您的个性化首页信息流中看到更多类似内容，并接收邮件更新。 - Jess Weatherbed