随着深度伪造(深度伪造)变得更容易制作和更多产，人们对它们给予了更多关注。深度伪造已成为人工智能伦理、错误信息、信息和互联网的开放性以及监管等讨论的焦点。了解深度伪造并直观地了解深度伪造是值得的。本文将阐明深度伪造的定义，检查其用例，讨论如何检测深度伪造，并检查深度伪造对社会的影响。
什么是深度伪造?
关于深度伪造一词存在大量混淆，并且该术语经常被误用于任何伪造的媒体，无论它是否是真正的深度伪造。为了符合深度伪造的资格，相关的伪造媒体必须使用机器学习系统生成，特别是深度神经网络。
深度伪造的关键要素是机器学习.机器学习使计算机能够相对快速、轻松地自动生成视频和音频。深度神经网络在真实人物的镜头上进行训练，以便网络了解人们在目标环境条件下的外观和移动方式。然后将经过训练的网络用于另一个人的图像，并用额外的计算机图形技术进行增强，以便将新人与原始镜头结合起来。编码器算法用于确定原始人脸和目标人脸之间的相似性。一旦分离出面部的共同特征，就会使用称为解码器的第二种AI算法。解码器检查编码(压缩)图像并根据原始图像中的特征重建它们。使用了两个解码器，一个在原始主体的脸上，第二个在目标人的脸上。为了进行交换，在人X的图像上训练的解码器被输入了人Y的图像。结果是人Y的脸是对人X的面部表情和方向的重建。
目前，制作深度伪造仍然需要相当长的时间。造假者不得不花很长时间手动调整模型的参数，因为次优参数会导致明显的缺陷和图像故障，从而暴露假货的真实性质。
尽管人们经常假设大多数深度伪造是使用一种称为生成对抗网络(GAN)的神经网络制成的，但如今创建的许多(也许是大多数)深度伪造并不依赖于GAN。SUNYBuffalo的SiweiLyu表示，虽然GAN在早期深度伪造的创建中确实发挥了重要作用，但大多数深度伪造视频都是通过替代方法创建的。
训练GAN需要不成比例的大量训练数据，与其他图像生成技术相比，GAN通常需要更长的时间来渲染图像。GAN也比视频更适合生成静态图像，因为GAN难以保持帧与帧的一致性。使用编码器和多个解码器来创建深度伪造更为常见。
深度伪造有什么用途?
网上发现的许多深度伪造本质上都是色情的。根据AI公司Deeptrace所做的研究，在2019年9月拍摄的大约15,000个深度伪造视频样本中，其中大约95%属于色情性质。这一事实的一个令人不安的含义是，随着技术变得更容易使用，假报复色情事件可能会增加。
但是，并非所有深度伪造都具有色情性质。深度伪造技术还有更多合法用途。音频深度伪造技术可以帮助人们在因疾病或受伤而受损或丢失后广播他们的常规声音。深度伪造还可用于隐藏处于敏感、潜在危险情况下的人的面部，同时仍允许读取他们的嘴唇和表情。深度伪造技术可以潜在地用于改进外语电影的配音，帮助修复旧的和损坏的媒体，甚至创造新的艺术风格。
非视频深度伪造
虽然大多数人在听到“深度伪造”一词时会想到假视频，但假视频绝不是唯一一种使用深度伪造技术制作的假媒体。深度伪造技术也用于创建照片和音频伪造品。如前所述，GAN经常用于生成假图像。人们认为，有很多假LinkedIn和Facebook个人资料的个人资料图像是使用深度伪造算法生成的。
也可以创建音频深度伪造。训练深度神经网络以生成不同人的语音克隆/语音皮肤，包括名人和政治家。音频深度伪造的一个著名示例是AI公司Dessa利用由非AI算法支持的AI模型来重现播客主持人JoeRogan的声音。
如何发现深度伪造
随着深度伪造变得越来越复杂，将它们与真正的媒体区分开来将变得越来越难。目前，人们可以寻找一些明显的迹象来确定视频是否可能是深度伪造，例如口型不同步、动作不自然、脸部边缘闪烁，以及头发、牙齿等精细细节的翘曲，或反思。深度伪造的其他潜在迹象包括同一视频的质量较低的部分，以及不规则的眨眼。
虽然这些迹象目前可能有助于发现一个深度伪造，但随着深度伪造技术改进了可靠的深度伪造检测的唯一选择，可能是其他类型的AI经过训练以区分假货和真实媒体。
包括许多大型科技公司在内的人工智能公司正在研究检测深度伪造的方法。去年12月，在亚马逊、Facebook和微软这三大科技巨头的支持下，深度伪造检测挑战开始了。来自世界各地的研究团队致力于检测深度伪造的方法，竞相开发最佳检测方法。其他研究小组，例如来自Google和Jigsaw的一组联合研究人员，正在研究一种“面部取证”，可以检测已更改的视频，使他们的数据集开源并鼓励其他人开发深度伪造检测方法。前面提到的Dessa一直致力于改进深度伪造检测技术，试图确保检测模型适用于在野外(互联网上)发现的深度伪造视频，而不仅仅是像开源数据集这样的预先编写的训练和测试数据集谷歌提供。
还有其他策略正在研究中，以应对深度伪造的扩散。例如，检查视频与其他信息来源的一致性是一种策略。可以搜索可能从其他角度拍摄的事件视频，或者可以检查视频的背景细节(如天气模式和位置)是否存在不一致。除此之外，区块链在线分类帐系统可以在视频最初创建时对其进行注册，保存其原始音频和图像，以便始终可以检查衍生视频是否被操纵。
最终，重要的是要创建可靠的检测深度伪造的方法，并且这些检测方法要跟上深度伪造技术的最新进展。虽然很难确切知道深度伪造的影响是什么，但如果没有可靠的方法来检测深度伪造(和其他形式的虚假媒体)，错误信息可能会猖獗并降低人们对社会和机构的信任。
深度伪造的影响
允许深度伪造肆无忌惮地扩散有什么危险?
深度伪造目前造成的最大问题之一是未经同意的色情内容，通过将人脸与色情视频和图像相结合来设计。人工智能伦理学家担心深度伪造将在制作虚假复仇色情片中得到更多使用。除此之外，深度伪造可以用来欺负和损害几乎任何人的声誉，因为它们可以用来将人们置于有争议和妥协的场景中。
公司和网络安全专家对使用深度伪造来促进诈骗、欺诈和勒索表示担忧。据称，深度伪造音频已被用来说服公司员工将钱转给诈骗者
深度伪造可能会产生超出上述所列的有害影响。深度伪造可能会普遍削弱人们对媒体的信任，并使人们难以区分真实新闻和假新闻。如果网络上的许多视频都是假的，政府、公司和其他实体就更容易对合法的争议和不道德的做法产生怀疑。
就政府而言，深度伪造甚至可能对民主的运作构成威胁。民主要求公民能够根据可靠的信息就政客做出明智的决定。错误信息破坏了民主进程。例如，加蓬总统阿里邦戈出现在一段试图安抚加蓬公民的视频中。总统被认为长期身体不适，他突然出现在一段可能是假的视频中，引发了一场未遂政变。唐纳德特朗普总统声称，他吹嘘用生殖器抓住女性的录音是假的，尽管也将其描述为“更衣室谈话”。安德鲁王子还声称艾米莉·梅蒂利斯的律师提供的一张照片是假的，尽管律师坚持其真实性。
最终，虽然深度伪造技术有合法用途，但滥用该技术可能会产生许多潜在危害。因此，创建和维护确定媒体真实性的方法非常重要。