人工智能增强的视频和音频创作中真实感的高速提升,将在日常人际交往和政治领域引发社会混乱!

Reddit r/ArtificialInteligence 新闻

摘要

作者强调了人工智能生成视频/音频真实感在短短30天内的飞速进步,警告高度逼真的深度伪造技术可能被武器化,用于操纵政治话语和选举,同时提供了一种技术性(部分为推测性)解释,说明卷积核和基于强化的训练如何将名人肖像嵌入生成模型。

请观看以下视频,了解2026年9月短短30天内技术上的绝对进步:https://www.youtube.com/watch?v=tiUhFpiOpgY 2026年10月:https://www.youtube.com/watch?v=PvzpzmNpyzw 仅仅在三十天之内,技术质量和真实感就有明显的进步,而且由于制作这些视频的团队似乎位于德国(可能是东欧或俄罗斯!),我确实注意到一些特定的"狗哨"政治信息,通过歌词和画面得到了强化。这对于长期操纵各国政治讨论和实际投票结果来说是非常令人担忧的,因为高度定制化、高度逼真的视频/音频信息可以在一夜之间改变人们的意见!作为一点技术背景,没错!所有人工智能系统内部都有一种形式的永久记忆,称为"权重",这是一组由叫做卷积滤波器核的数学方程创建的数字,可以组织为3x3、5x5、7x7或9x9的数值数组,告诉计算机比较和突出一张照片中的所有像素与另一张新照片(或视频或音频文件!)中像素的相似度,并使用数学方法以百分比的方式确定从0.0%到100.0%两张照片或音频片段的相似程度,然后将所有输入到计算机中的照片/音频存储为一份数字列表,指示主比较照片或音频片段中哪些像素/音频样本在外观、颜色、风格、基本亮度水平、音色、发音或音域方面与其他一组照片/音频样本中的像素/音频样本最为相似,然后你告诉计算机为这组最相似的像素赋予一个数字标识符,称为"哈希值",以匹配这些像素实际代表的物体类型。这样你就可以快速使用强大的计算机搜索算法来查找诸如云朵、天空、岩石、建筑物、人脸、衣服、汽车、飞机、船只、山脉等物体,或者查找特定的音频样本/片段/语调/单词,然后你可以告诉计算机收集照片中代表特定类型物体的所有像素(即耳朵、鼻子、眼睛、头发、嘴唇、下巴等)或特定的语音片段,从而混合搭配并将它们组合在一起,创建一组新的合并像素和音频片段。在这个视频中,我使用了我自己在几十年前编写定制的工具(即早在1990年代甚至1980年代,通过我们基于规则的专家系统编码,我帮助发明了几个CNN或卷积神经网络的核和加权状态卷积滤波器,许多当今的大语言模型文本创作系统和基于Stable Diffusion的图像创作系统都在使用)来查找作为图像和声音训练数据的最接近数据集,发现其中包括来自互联网上常见的Britney Spears年轻时照片和视频的面部特征,以及Shakira的身体动作和体型,还有Rihanna的声音,被认定为原始源数据。由于卷积核往往被用作强调滤波器,使图像和音频在某些特征上更加"清晰"和突出,一旦第一批训练数据照片/音频片段被输入到计算机(通常是一个名人的!),那些知名度较低的人中,外貌和特征与第一批相似的照片或音频片段也会被进一步突出和强调,在这种情况下,碰巧是任何一个拥有Britney Spears年轻时面孔的年轻金发女性!这种比较和强调被称为基于强化的训练,越多具有与原始人物相同的外貌和特征类型的人的照片和片段输入,往往会产生更多同类特征的突出显示,然后被用于图像和音频创作,进一步加深了刻板印象。这就是为什么我最近在音乐视频中看到很多性感漂亮的年轻金发女性的原因,因为搜索参数已经在强化一种初始的刻板印象,所以你得到更多与之前相同的影像,只是在特征强调上更加极端。这对所有人来说都是一种危险,就像人类的心理运作方式一样,你越是教人工智能一种与之前行为相似的特定行为,最初的行为就越会被强化,这可能导致过拟合的大语言文本模型和过拟合的图像或音频模型,给你更多同样的东西,只是比之前更加夸张。这最终会导致一种"数字精神分裂症",因为卷积滤波器锁定在自身越来越强调/过度锐化的自我输入上,而这些输入的数据与之前输入的训练数据太过相似!因此,我们在所有新的人工智能垃圾视频中看到了大量年轻的、性感的、金发的、胸部丰满的、臀部宽翘的女性,以及大量长腿的日本动漫风格视频,它们的数据集被过多相同风格和外观的训练数据反复强化!这种音频/视频影像的高度性化特征尤其影响年轻男性,他们越来越多地退缩到社会隔离的人工智能互动泡沫中,同时也导致越来越极端的政治两极分化,容易被国家级和非国家行为者所利用,这将影响选举和军事反应,这对整个社会来说可不是什么好事!你认为当这种高度逼真的音频和视频变得普遍且具有交互性时会发生什么?
查看原文

相似文章

在连现实都可疑的世界里识别深度伪造

Reddit r/ArtificialInteligence

随着合成媒体变得与真实内容难以区分,深度伪造的检测挑战日益严峻,本文探讨了应对此挑战的新兴工具与策略,以验证内容的真实性。

AI生成视频:好到不真实

Reddit r/singularity

一段AI生成的音乐视频在布料运动、手指互动和物理效果等细节上展现出前所未有的真实感,让人不禁好奇其使用了什么技术。

AI 已变得难以分辨

Reddit r/ArtificialInteligence

一位用户指出,最近的 AI 生成视频几乎已经与真实影像难以区分,并以愚弄了大多数评论者的 AI 角色“JEANPHIL”为例,发问:随着 AI 写实度不断提升,社会今后该如何验证内容的真实性?

当你很久没看过“AI视频”时

Reddit r/singularity

作者探讨AI生成视频日益逼真所带来的社会影响:当人们无法再信任新闻和媒体时,只能依靠熟人的社交账号作为现实的参考,并担忧缺乏可靠的AI内容标识机制将引发认知混乱。