Deepfake视频变得越来越好

在其开发的这个阶段，无可否认的令人毛骨悚然的事情仍然贯穿着深烟，这是一个依靠但误导性的标签，用于借助于借助和操纵人工智能（AI）和深度的机器学习。

这不仅是这些越来越复杂的软件程序制作的怪异，小小的，不是很聪明的视频。虽然，是的，它们可能令人不安。这不仅是改变原始照片和视频的道德困境。尽管那肯定是在戳大黄蜂的巢穴。

大多数情况下，这是整个想法，我们正在迅速关闭，使我们根本无法信任自己的眼睛。那张照片是对其主题的真实描述吗？那是视频吗？那脸与那个身体一样吗？那些脸与那张脸一样吗？

那家伙可以吗？真的那样跳舞？

Deepfakes背后的计算机科学

回到2017年底，一位被称为Deepfakes的Reddit用户知道你的模因，揭示了一些面部散布的色情视频 - 听起来像是悲伤和la脚；有人的脸，通常是公众人物，叠加在别人的头上 - 狂热开始。

不久之后，DeepFakes推出了一个应用程序，Fakeapp，人们跳了出来。从那以后产生了各种模因和其他程序（有些有趣的模因，有些有趣，有些只是令人毛骨悚然的，有些更糟，有些更糟。他们包括尼古拉斯·凯奇艾米·亚当斯（Amy AdamsBuzzFeed的生产喜剧演员乔丹·皮尔（Jordan Peele）作为前总统巴拉克·奥巴马（Barack Obama），他在略微的NSFW视频中警告了一些更可能对技术的险恶用途（最后以虚假的视频结束，说：“保持醒来，bi $％*es！”）。

最新的Deepfake视频是由tiktoker模仿汤姆·克鲁斯（Tom Cruise）的。三个视频令人震惊地真实，并显示了Cruise，除其他外，击中了高尔夫球。视频是由克里斯·梅（Chris Ume）创建，比利时的视觉效果专家。

用于创建这些视频背后程序的计算机科学可能非常复杂，比简单的深击所用的计算机科学更加激烈。复杂的算法和计算机科学术语生成对抗网络（gan）和深神经网络使更先进的视频编辑技术的学术论文peper。

通常，这些程序的作用是通过框架检查主题的视频，并“学习”对象的大小，形状和动作，以便可以将它们转移到视频中的另一个主题中。虽然Deepfakes主要限制了换门的面孔，但更高级的程序可以转移完整的3D头部位置，包括头部倾斜或凸起的姿势眉或一套the嘴。对整个身体运动已经完成了一些工作。

这些程序检测到的越多，这些网络被馈送和“学习”的变量越多，视频就越有效，有效和现实。

超越深击

重要的是要注意，并非所有基于人工智能和机器学习的视频和照片编辑技术都是深击。那些在该领域工作的学者认为深果是业余的，仅仅降为面对面。

加利福尼亚大学伯克利分校的一个小组正在研究一项使整个身体运动的技术 - 专业舞者 - 并将其交换在视频中的业余体内。然后，有了一点AI巫术，即使是一个左脚两个的人，至少也可以像Baryshnikov一样移动。伯克利集团在论文中详细介绍了其作品，现在大家跳起来吧。

当然，该技术并不完美。但这是棘手的东西。即使脱下计算机生成的移动脸也很困难。截至目前，大多数AI生成的面孔，即使在深层爆炸（尤其是在深层）上，也是明显的伪造。几乎总是有些东西似乎有些崩溃。

“我认为一件事是面孔的阴影细节，”伯克利计算机科学的研究生Tinghui Zhou说，现在每个人都在跳舞。“我们（人类）非常擅长识别脸是否是真实的 - 阴影细节，皱纹如何移动，眼睛如何移动 - 所有这些细节都需要完全正确。我认为机器学习系统这些天仍然无法捕获所有这些细节。”

另一个新的AI视频操作系统，或者，正如其建筑师所说的“肖像视频的照片重新动画”实际上使用了一个“源”演员，可以改变“目标”演员上的面孔。

您，“来源”（例如），以某种方式移动嘴，计算机映射动作，将其馈入学习程序，该程序将其转换为视频，其中奥巴马嘴巴你的话。你笑或抬起眉毛，奥巴马也这样做。

关于该过程的论文，称为深视频肖像，在2018年8月中旬在温哥华举行的计算机图形和互动技术会议上展示，并揭示了该计划的地方：好莱坞。

“ [c] computer生成的视频已成为功能电影电影不可或缺的一部分，已有30多年的历史了。几乎每个高端电影制作都包含相当一部分计算机生成的图像或CGI。指环王到本杰明按钮，”作者写。“这些结果很难与现实区分开，而且通常没有注意到此内容不是真实的……但是该过程是耗时的，并且需要域名专家。即使是简短的合成视频剪辑的生产，预算也花费了数百万美元几个月的工作，即使对于经过专业培训的艺术家，他们也必须手动创建和动画大量的3D内容。”

多亏了AI，我们现在可以在更少的时间内生成相同的图像。更便宜。而且 - 如果不是现在，很快 - 同样令人信服。

走道道德

像喜剧演员皮尔（Peele）和其他人警告的那样，操纵现有视频或创建带有虚假图像的新视频的过程可能是错误的。一些杰出的女演员和演艺人员的脸被盗，并在最令人不安的早期效果例子中编织成色情影片。正如皮尔（Peele）在奥巴马视频中所警告的那样，使用图像制作”假新闻“是一种非常真实的可能性。

许多媒体已经采取了措施来阻止深击。实际上，Reddit关闭了Subreddit Deepfakes。Pornhub誓言禁止AI生成的色情。Tumblr和Twitter是禁止色情深击的其他网站。

但是，这些视频对于警察而言可能并不容易，尤其是随着创建它们改进的计划。斯坦福大学的计算机科学教授迈克尔·佐尔弗（MichaelZollhöfer），也是深层视频肖像背后的思想之一。来自Zollhöfer，在新闻稿宣布他的项目：

周说，参与建立这项技术的每个人都需要采取适当的步骤，以确保它不会被滥用。开发软件以检测计算机增强或更改的视频，并使用无形的“水印”来标记视频，以在法医评估下显示它们是计算机生成的，这将有所帮助。同样，来自深度视频肖像：

周说：“我认为，作为研究人员，我们绝对有责任提高公众对这些技术的认识。但是我想强调：这项研究有许多积极的用途。舞者的要求使用我们的研究来帮助他们的舞蹈。这项技术有积极的方面。”

什么样的未来

随着程序变得越来越复杂，该领域继续改善，并且机器更好地学习了如何在这些计算机生成的视频和照片中克服明显且明显的错误。任何人都可以去哪里。但是，这项技术的许多担心改进可能如此之快，我们可能会进入一个我们无法再信任我们所看到和听到的时代。

这使我们进入了另一种可能造成重大麻烦的假录像带，尤其是对于即将举行的2020年总统大选：哑巴。例如，2019年5月，一个说话者南希·佩洛西（Nancy Pelosi）的扭曲视频像野火一样在社交媒体上传播。该视频似乎显示了Pelosi Slur，并在演讲中绊倒了。实际上，该视频由体育博客作者和纽约的“特朗普超级粉丝”数字化，然后将其上传到Facebook。该视频很快被揭穿了，但到那时已经被观看了数百万次。YouTube将其删除，说该视频违反了其标准。但是，Facebook将其保存在网站上，只是说视频是“错误的”，并且它将试图限制它可以共享的数量。

虽然佩洛西（Pelosi）的变化视频不是技术上的技术，但加州大学伯克利分校的数字取证专家HanyFarid告诉NPR这就是使它更加关注的原因。这些被标记为哑饼，因为它们比深粉更容易和便宜。通常，它需要更改视频或基本编辑的速度才能产生有说服力的新视频。

“时钟在滴答作响，”法里告诉NPR。“南希·佩洛西（Nancy Pelosi）的视频是煤矿中的金丝雀。”

最初出版：2018年9月5日