SynthID Detector — 一个帮助识别AI生成内容的新平台

# SynthID 检测器——帮助识别AI生成内容的新门户 来源：https://blog.google/innovation-and-ai/products/google-synthid-ai-content-detector/ 您的浏览器不支持音频元素。 收听文章 此内容由Google AI生成。生成式AI处于实验阶段 \[\[时长\]\] 分钟 生成式AI的进步使人们能够以全新的方式创建内容——从文本到高质量的音频、图像和视频。随着这些能力的进步和更广泛的应用，真实性、上下文和验证的问题随之而来。 今天我们宣布推出SynthID检测器，这是一个验证门户，可以快速高效地识别用Google AI生成的内容。该门户在一个地方提供跨不同模态的检测功能，在快速演变的生成式媒体环境中提供了必要的透明度。它还可以突出显示内容中哪些部分更可能已使用SynthID进行了水印标记。 当我们推出SynthID时——一种嵌入难以察觉的水印并能够识别AI生成内容的最先进工具——我们的目标是提供一套新颖的技术解决方案，以帮助最小化错误信息和错误归属。 SynthID不仅保留了内容的质量，而且充当了强大的水印，即使在内容被共享或经历一系列转换后仍可检测到。虽然最初仅专注于AI生成的图像，但我们随后将SynthID扩展到了覆盖AI生成的文本、音频和视频内容，包括Google旗下Gemini、Imagen、Lyria和Veo模型生成的内容。已有超过100亿条内容已使用SynthID进行了水印标记。 ## SynthID检测器的工作原理 当您上传使用Google AI工具创建的图像、音频轨道、视频或文本时，该门户将扫描媒体中是否存在SynthID水印。如果检测到水印，该门户将突出显示最可能被水印标记的内容的特定部分。 对于音频，该门户指出检测到SynthID水印的特定片段，对于图像，它指出最可能有水印的区域。 *以下是SynthID检测器的工作方式*1： 1. **上传内容：**上传使用Google AI工具创建的图像、音频轨道、视频或文本。 2. **扫描水印：**该门户扫描上传的媒体，并检测上传的内容或其特定部分是否包含SynthID水印。 3. **查看结果：**该门户将呈现结果，如果检测到SynthID水印，将突出显示内容的哪些部分最可能已被水印标记。 我们今天开始向早期测试者推出此功能，之后将更广泛地提供。记者、媒体专业人士和研究人员可以加入我们的候选名单以获得SynthID检测器的访问权限。 ## 扩展SynthID生态系统 为了帮助建立一个可信的生态系统，我们已经开源了SynthID文本水印，因此任何开发人员都可以使用这项技术并将其集成到自己的模型中。 今年早些时候，我们在创建行业合作伙伴生态系统以扩展SynthID技术的使用方面迈出了第一步：我们与NVIDIA合作，对通过build.nvidia.com上的NVIDIA Cosmos预览NIM微服务生成的视频进行水印标记。这意味着网络上更多的内容都嵌入了SynthID，不仅仅是Google生成的内容。 同时，其他合作伙伴能够检测内容何时已使用SynthID进行了水印标记也很重要。这就是为什么我们今天还宣布与GetReal Security（全球领先的内容验证平台）的合作。 内容透明度仍然是一个复杂的挑战。为了继续知情并赋予人们与AI生成内容互动的权力，我们认为继续与AI社区合作并扩大透明度工具的访问权限是至关重要的。 *作者感谢Miguel de Andrés-Clavera和Google合作伙伴创新团队在开发SynthID检测器门户过程中提供的协助。* 在白色图表上显示"I/O 25"字符的插图 ## 在您的收件箱中获取来自Google的更多故事。 完成。仅需一个步骤。 检查您的收件箱以确认您的订阅。 您已订阅我们的新闻通讯。 您也可以通过订阅