看看你是否能识别AI深度伪造的测试

# 试试看能否识别人工智能深度伪造——来做个测试吧 来源：https://www.bbc.com/news/articles/c9d2wgvg55jo Calum Watson, BBC Scotland 与 Aimee Stanton, BBC Scotland 数据可视化团队 BBC 一位留着黑色长发、戴着眼镜的女性手持两幅人脸大照片 BBC 克莱尔·萨瑟兰博士手中拿着的两张照片中，有一张是AI生成的深度伪造 心理学家克莱尔·萨瑟兰博士正举着两张大照片。其中一张是一位领导国际研究项目的澳大利亚学者的面孔；另一张则是AI生成的深度伪造。 人工智能如今已能如此娴熟地制作逼真图像，以至于真假越来越难辨。 但有没有可能训练人们识别出机器生成的假人像呢？ 这正是萨瑟兰（来自阿伯丁大学）和她的澳大利亚同事一直在研究的问题。 不过在我们揭晓答案之前，先来做个小测试——记下你的得分吧。 如果你觉得很难，那并不孤单。 过去，识破计算机生成的视觉假象（常被欺诈者利用）要容易得多，因为AI会犯下明显错误——比如多出一根手指或某些明显不对劲的地方。 但AI能从错误中学习。 “依靠视觉瑕疵进行训练，比如寻找第六根手指或奇怪的耳环，效果有限，部分原因是AI越来越强大，而且欺诈者本来就避免使用有明显缺陷的图片。”艾米·道维尔教授解释道。 她就是萨瑟兰照片里那位齐肩长发的女性。而那张男性面孔是假的。 道维尔是澳大利亚国立大学情感与面孔实验室的主任。 她领导着一支来自澳大利亚、加拿大和英国的研究团队，旨在弄清人们能否通过训练来识破AI冒充者。 目前来看，答案是肯定的——但要学会识别AI假脸，需要更微妙的技巧。 --- ## 培养对假脸的感知 她表示，他们注意到自己仅凭观察就能对哪些脸是真的、哪些是AI生成的有种直觉。 “所以我们想，好吧，看看我们能否把这种方法也教给别人，这一定很有趣。”她说。 实验中，他们使用一款名为StyleGAN3的AI图像工具生成了数千张AI面孔，这是现有最逼真的面孔生成器之一。 参与者在接受训练前后都接受了测试。 ## 他们被训练观察什么？ 研究人员通过引导参与者关注六种感知特征来进行训练： - **对称性**——AI往往无法重现那些让我们成为人类的独特特征——比如微微下垂的眼皮或歪嘴的笑容。“如果某样东西好得令人难以置信，那它很可能就不是真的。” - **比例感**——类似的概念。特别大的鼻子或突出的耳朵在深度伪造图片中并不典型。 - **吸引力**——“AI生成的面孔往往更好看，”萨瑟兰解释道。“这一点更为主观，属于审美判断，但AI通常创造赏心悦目的面孔。” - **独特性**——“可以理解成‘什么会让一张脸在人群中脱颖而出？’AI面孔往往趋向平均值，所以看起来更千篇一律。” - **表现力**——“AI面孔的情绪表达往往较弱，”萨瑟兰说。“它们呈现出的情感较少。” - **记忆性**——“它们常常不太容易记住——很难让人留下印象。” AI在生成非白人、年长或年幼面孔时也往往不那么擅长，因为它的训练数据更多是年轻白人面孔。 这些提示有些听起来相似且“模糊”——但关键就在于此。 你几乎不会遇到一个万无一失的“破绽”来直接揭穿AI假脸。相反，它是一种培养对AI特征敏感度并发展出直觉的过程。 研究人员发现，通过让人观看AI和真实图像，然后告知他们哪张是哪张，人们能在短时间内（甚至一小时左右）显著提高识别能力。 参与者通常能将准确率从大约40%提高到80%。 少数人甚至接近100%的准确率。 Nightingale 一名有着齐肩棕色头发的年轻女性对着镜头微笑 Nightingale 研究人员发现，训练能帮助人们识别AI深度伪造，比如这一张 讽刺的是，人脑在此过程中的运作方式与生成式AI模型的工作原理类似。 只要提供足够的数据进行训练，随着时间的推移，它们的准确性就会提高——尽管我们可能并不完全理解它们是如何做到的。 研究还考察了参与者在识别AI图像时的自信程度。 此前研究表明，人们往往高估自己识别AI面孔的能力，而最自信的人恰恰犯错最多。 经过训练，参与者识别深度伪造的信心有所提升。 “这很有帮助，对吧？”萨瑟兰说。“因为如果你不知道自己是否正确，就无法利用这些信息做任何事。” --- 那么，准备好再做一个测试了吗？ 你做得怎么样？是不是更有信心了？ 如果没有，也不必苛责自己。无论是在人类世界还是生成式AI的世界里，熟能生巧——至少能更接近完美。 ## 为什么学习识别AI假脸很重要？ 显而易见的危险是欺诈。 报告引用了这样一个案例：一家香港公司的员工在一次视频通话中，被用深度伪造模拟的上司欺骗，向诈骗分子转汇了2500万英镑。 深度伪造技术的另一个阴暗用途是政治间谍活动。 早在2019年，美联社的一项调查就发现，一名叫凯蒂·琼斯的女性在领英上的个人资料（包括照片）似乎是虚构的。 琼斯自称是俄罗斯及欧亚问题专家，与美国华盛顿顶尖智库和政界圈有联系。 美联社报道称，她实际上是俄罗斯情报机构制作的深度伪造，并成功与多名美国高级政治助手及国家安全官员建立了联系。 LinkedIn 一张领英个人资料中年轻女性的照片截图 LinkedIn 美联社调查称凯蒂·琼斯是一个深度伪造 不过，对AI公平地说，萨瑟兰也看到了该技术的一些积极用途——例如能够快速、低成本地展示一个失踪多年的孩子在不同年龄可能的样子。 她说，如果人们“以善意使用它，并让人们知道AI被使用了，那它可能对创意活动非常有用”。 所以好消息是，我们尚未生活在一个真假难辨的反乌托邦世界。 坏消息是，AI模型可能已经“阅读”了已发表的学术研究论文。而且它还在学习。