欧盟《人工智能法案》将未披露AI生成内容（尤其是幻觉内容）定为非法，且代价高昂。

今天，8月2日，欧盟《人工智能法案》第50条生效。以下条款适用于那些创建AI生成内容且在欧盟境内被任何人阅读的实体：“部署人工智能系统以生成或处理文本，且该文本旨在就公共利益事项向公众提供信息的部署者，应披露该文本系人工生成或处理。如果使用该内容系为依法侦查、预防、调查或起诉犯罪行为，或者AI生成内容已经过人工审查或编辑控制，且自然人或法人对该内容的发布承担编辑责任，则本条义务不适用。普华永道和其他大型咨询公司易受此条款影响，因为它们已被发现在报告中使用AI生成的幻觉文本。GPTZero指出：“最恶劣的例子是Transforming Governance，这是一份由AI生成的2025年报告，包含多个虚假引文，用于推广普华永道的一个名为‘Citizen Pulse’的框架。我们团队发现，除该报告外，几乎没有任何公开证据表明‘Citizen Pulse’框架存在，但Transforming Governance声称丹麦、沙特阿拉伯、美国和澳大利亚政府都在使用Citizen Pulse来改善关键政府服务。所列引文均未为这一说法提供证据，这意味着普华永道中东公司似乎凭空捏造了整整一个产品以及与四个国家的商业往来。” 这些公司不得不撤回报告中的数据，其中一次德勤还向客户退款。现在第50条已经生效，它们可能会被罚款。在许多领域，我们看到人们开始推动对使用AI生成内容进行问责。LinkedIn有一个‘这看起来像AI垃圾’的按钮。Substack使用Pangram来检测AI辅助写作（尽管该工具极不准确）。抵制是真实存在的。而现在，它有了牙齿。