AI网红正踏入未知领域

# AI网红正在进入未知领域 来源：https://www.wired.com/story/algorithm-turning-on-ai-influencers-are-humans-worried/ 克拉丽莎·曼斯布里奇（Clarissa Mansbridge）在幕后花了近二十年时间打造娱乐事业，曾与杰森·德鲁罗（Jason DeRulo）以及金·卡戴珊（Kim Kardashian）的前保镖申戈·迪恩（Shengo Deane）等人合作，但她很少出现在公开活动中。她喜欢这种刺激感：打造个人品牌、化解危机、应对日常挑战。 然而三年前，她的人生被彻底颠覆——儿子在33周时出生，没有心跳。医生设法将他救活，但之后几个月的重症监护中，惊吓接二连三，始终无法确定他能否活下来。 最终，他们奇迹般地回到了家。住在澳大利亚布里斯班的曼斯布里奇知道，由于儿子康复过程中的并发症，她的工作生活必须改变。她开始尝试AI图像生成工具，并打造了“谦逊富有、积极健康”的网红兼模特Mia Metaverse（https://www.instagram.com/miametaverse/?hl=en）。作为早期《模拟人生》的粉丝，她热衷于为Mia设计故事情节和华丽的场景。 现年34岁的曼斯布里奇说，她现在通过品牌合作和为品牌定制AI网红每月收入约6000美元，其中许多合作要求她签署保密协议（NDA），因此不能透露为哪些品牌工作。然而，尽管这是她启动项目以来最赚钱的一年，曼斯布里奇和其他AI创作者仍担心，全球社交媒体平台对AI内容处理方式的变化可能会颠覆他们的商业模式。 自从2022年生成式AI和文生图工具问世以来，创作者们围绕虚拟人物建立了利润丰厚的账号，这些虚拟人物更便宜、可扩展、且品牌安全。据估计，虚拟网红市场价值145亿美元（https://www.grandviewresearch.com/industry-analysis/virtual-influencer-market-report），预计到2033年将达到1104亿美元，据报道年增长率为33.6%。品牌们已全力投入：社会机构Billion Dollar Boy的研究发现，79%的营销人员（https://www.billiondollarboy.com/news/new-research-real-impact-ai-creator-economy）正在增加对AI生成创作者内容的投资。 但随着监管逐渐覆盖这一新兴创作者行业，潮流可能正在逆转。自8月2日起，欧盟《人工智能法案》下的新规要求，AI生成或操纵的促销内容必须明确标注，而TikTok（https://newsroom.tiktok.com/helping-people-spot-and-understand-aigc-on-tiktok?lang=en-150）等平台正在收紧检测系统，并重塑信息流，以提升人类创作者的可见度，压制合成垃圾内容。对于依赖AI影响力谋生的人来说，风险在于一个监管迷宫，而且没有清晰的路线图可以指引方向。 欧盟《人工智能法案》是首部全面的AI法律框架（https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai）——欧洲委员会主席乌尔苏拉·冯德莱恩称之为“全球首例”（https://www.wired.com/story/eu-ai-act/）——旨在欧洲培育“值得信赖的AI”（https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai）。根据该法案第50条（https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng），AI系统的提供者和部署者必须披露音频、图像、视频或文本内容是否由人工生成或操纵。但“如果内容是明显艺术性、创造性、讽刺性、虚构性或类似作品的一部分”，透明度义务仅限于不影响作品展示或欣赏的披露。这留下了很大的解释空间——以及困惑。 凯·泽纳（https://www.linkedin.com/in/kzenner/）是欧洲议会议员阿克塞尔·沃斯的数字政策顾问，也是该法案的谈判代表之一。他说，该法案起草得太早、太抽象。“ChatGPT当时刚刚问世，欧洲议会议员们对我们监管的对象几乎没有什么了解，”他解释说。“驱动力很简单：AI已经出现，更多AI生成内容即将到来，所以让我们通过实施标注条款来提高欧盟公民的AI素养。” 更多的立法可能会加剧不确定性。“今年晚些时候和明年将有几项修订，不仅要求网红标注其内容，还要对其来源、意图和资金来源保持透明，”泽纳解释道。“目前仍不清楚这将如何管理，因为我们唯一能依据的就是第50条。” 泽纳担心，AI创作者可能被卷入重叠规则的混乱之中：《人工智能法案》、版权法、视听媒体规则、消费者保护法，甚至可能还包括《数字公平法案》——这是欧盟针对数字时代消费者保护规则提出的更新，目标是打击利用或误导用户的在线策略。“运营这些账号的人可能会发现，一部法律说他们的内容合法，而另一部法律说它非法，”他说。 ## *用大锤打击AI内容* 2025年，60%的创作者（https://www.billiondollarboy.com/news/new-research-real-impact-ai-creator-economy）承认，由于标注错误，他们的AI辅助内容违反了行业规则，而到2026年，失误的风险只会更大。许多主流社交媒体平台已经推出了自己的打击措施。7月中旬，TikTok（https://newsroom.tiktok.com/helping-people-spot-and-understand-aigc-on-tiktok?lang=en-150）宣布推出一套检测系统来捕捉AI垃圾信息，该系统据称是为了应对“排挤原创创作者”的问题。TikTok已要求创作者标注AI生成内容，并允许用户减少信息流中的AI内容数量（https://www.businessinsider.com/tiktok-testing-tool-that-lets-users-limit-ai-content-fyp-2025-11）。Pinterest采取了类似做法，而Meta现在在Facebook、Instagram和Threads上检测到AI生成内容时会添加“AI信息”标签。 “那些曾以更低成本、更快速度生产更多内容的平台，现在正在调整算法，把这些内容压下去，但这些系统都不够精准，”社交媒体顾问、每周*Geekout Newsletter*（https://geekout.mattnavarra.com/）的作者马特·纳瓦拉解释道。“平台在用大锤打击AI内容，而它们需要的是手术刀。”他认为，即使人类创作者只是出于小原因使用AI，比如修正语法，也会被误伤。 其他人已经尝到了在算法面前过于显眼的代价。嘻哈艺术家兼制作人莱昂内尔·梅特格于今年年初创建了一个名为Zairo（https://www.instagram.com/soy_zairo/）的雷鬼顿/非洲节拍AI艺人，他已经感受到平台处理合成内容方式的转变。他注意到，新的检测系统可以在