标签
苹果宣布为iPhone 18 Pro推出Apple Reference Image，该功能使用签名的传感器数据和Private Cloud Compute来验证照片真实性并检测AI篡改。
文章对诸如SynthID等AI水印技术的隐私影响提出了担忧，质疑是否存在工具可以匿名化此类内容或使其看起来像人类撰写。
作者测试了统计文本水印在各种变换下的存活率，发现翻译和同义词替换常使水印保持完整，但完全意译会移除水印，代价是事实准确性降低。
Google将允许用户移除AI生成的图片、视频和歌曲中的可见水印，同时保留像SynthID这样的隐形水印以确保透明度。此举旨在平衡创意控制与安全性，并包括开源一个名为Credentio的新库，用于内容凭证。
The article argues that text AI watermarks are inherently trivial to remove, exploring the EU AI Act's watermarking requirements and the technical challenges of text steganography, including Google's SynthID approach.
谷歌地球短暂推出了一项用于创建虚假卫星图像的AI功能，随后迅速撤回，原因是担心该功能可能削弱人们对真实卫星图像的信任，并助长错误信息传播。专家质疑谷歌的SynthID水印技术是否足以防止滥用。
Google 地球新增的 AI 图像生成器（Nano Banana）可以创建逼真的经过改动的卫星和航拍图像，尽管带有 SynthID 水印，仍引发了对虚假信息的担忧。在 Digital Digging 展示出令人信服的伪造图像后，Google 宣布将回滚该功能。
谷歌的SynthID水印对退化具有很强的鲁棒性，但无法完全解决AI虚假信息问题；本文测试了其耐久性，并讨论了水印和元数据方法的局限性。
The Verge 批评 Meta 新推出的 AI 检测系统 Content Seal，认为其落后于谷歌的 SynthID，Meta 本应直接采用已有的解决方案而非自行构建。
本文实证评估了三种LLM水印方法（KGW、Unigram、SynthID-Text）在取证可采性标准下的表现，发现没有一种方法达到法院要求的证据标准：在保留语义的改写后，水印几乎100%被移除，甚至在攻击前假阴性率就很高。
谷歌的SynthID水印系统被用于揭穿一张伪造的AI生成图像，图像中是参议员米奇·麦康奈尔，这展示了深度伪造检测技术在一场高调恶作剧中的有效性。
一项详细的技术评审发现，Meta的Stable Signature、Google的SynthID和Adobe的TrustMark的检测准确率远低于声称的水平，存在高误报率和不可靠的水印。
OpenAI 宣布符合 C2PA 标准，为 AI 生成图片添加 SynthID 不可见水印，并发布公开验证工具 Verify，这是 AI 内容溯源的里程碑。
谷歌正在将SynthID和C2PA内容凭证验证扩展到Chrome和搜索中，同时OpenAI将SynthID嵌入其工具生成的图像中，这标志着在让AI生成内容更易于在线检测方面的一次重大推进。
谷歌的SynthID AI水印技术正被OpenAI、英伟达及其他公司采用，其应用范围已超出谷歌自身的AI模型。
OpenAI宣布新的内容溯源功能，包括C2PA内容凭证、来自Google DeepMind的SynthID水印，以及一个公开验证工具，用于识别来自其产品的AI生成图像，旨在提高透明度和信任度。
OpenAI 宣布了包括 C2PA 元数据和 SynthID 水印在内的新措施，以帮助验证由其模型生成的图片，同时还推出了一款公开验证工具。
OpenAI宣布新的内容溯源举措，包括符合C2PA标准、集成Google DeepMind的SynthID图像水印技术，以及预览一款验证工具，帮助用户识别AI生成的内容。
谷歌正在搜索、Gemini、Chrome、Pixel和云端中扩展内容透明度和验证工具，使用SynthID和C2PA内容凭证帮助用户识别AI生成或修改的内容。