美国首部此类AI透明度法律在加州生效

# 美国首部此类AI透明度法律在加州生效 来源：https://www.sfgate.com/politics/article/artificial-intelligence-law-california-22374394.php 档案照片：2026年6月17日，OpenAI首席执行官萨姆·奥尔特曼出席在法国东部埃维昂莱班举行的七国集团峰会时做出反应。 Mandel Ngan/AFP/Getty Images从本周开始，在加州投入使用的大型人工智能公司必须开始为AI生成的内容添加水印，以便用户知道什么是假的、什么不是。 一位来自门洛帕克的民主党人起草了《加州人工智能透明度法案》，该法案于2024年签署成为法律，其首个版本终于在上周日生效。现在，生成照片、音频或视频的AI公司必须在内容中包含难以移除的元数据，以便用户更容易判断该内容是否由人工智能创建。用户可以将其内容输入在线验证工具（https://c2pa.org/），以判断其真假。 文章在广告下方继续 这被誉为美国首部此类AI透明度法律。 “这是互联网内容呈现方式发生根本性变革的开端，”州参议员乔什·贝克尔表示。“大多数人在一夜之间不会注意到显著变化，但在表面之下，AI生成的图像、视频和音频将嵌入内容。可以将其视为类似营养标签的东西。” 贝克尔表示，过去几年他们一直在确保该法案“在技术上可行”，并确保公司能够实际执行且应当执行。 OpenAI已经实施了其名为SynthID的音频和视频水印技术（https://help.openai.com/en/articles/8912793-provenance-signals-content-credentials-synthid-in-openai-generated-content），该技术将帮助人们判断所看到的内容是否由该公司的AI工具创建。贝克尔表示，谷歌正在合规，但没有具体说明方式，Adobe也在合规。SFGATE联系了谷歌、Anthropic和Meta，询问他们如何整合新的水印功能，但在本文发布前未收到回复。 文章在广告下方继续 这项由贝克尔起草的法律（https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942）出台之际，人们对深度伪造的担忧无处不在。起草者此前在一份法案分析中表示，人工智能的快速发展使得制作虚假内容变得更“便宜”、更“容易”，也让辨别真伪变得更加困难，因此得名“深度伪造”。 贝克尔表示，深度伪造最令人担忧的一点是色情内容和政治信息的伪造日益增多。他说，对透明度的需求“至关重要”。 “行业领导者必须承担责任，明确标注AI生成的内容，并开发能够准确识别此类内容的工具，尤其是在没有可见披露的情况下。”贝克尔说。 新法律要求公司确保这些披露信息是永久性的，或者“极难去除”。 文章在广告下方继续 推广图标 访问我们的新应用，享受无广告阅读、精选地图等更多功能。 立即获取（https://sfgate.com/friend/） 该法案最初起草时就遭到一些反对（https://datainnovation.org/2024/11/californias-ai-transparency-law-is-a-misstep-other-states-should-avoid/），尤其是关于水印容易被篡改且无法防止任何高风险场景的观点。数据创新中心前高级政策经理霍丹·奥马尔指出的一个例子是，有人接到冒充家人的骚扰电话。在这种看似紧急的情况下，即使知道可以采取措施核实来电者是否真的是AI，个人也可能情绪化而非理性地回应。 该法律将在未来两年内再经过两轮推进后全面实施。 第二阶段定于2027年初实施，将向用户标明他们看到的是真人拍摄的原始画面，还是计算机生成的图像。第三阶段也是最后一阶段预计于2028年1月实施，将允许用户在自己创建的AI照片和视频中生成自己的元数据。 文章在广告下方继续 2026年8月5日 加州高级政治记者 Anabel Sosa是SFGATE的加州高级政治记者。她此前为《洛杉矶时报》报道州议会和选举。她拥有加州大学伯克利分校的调查新闻学硕士学位。您可以通过[email protected]联系她。