AI|Deepfake让女王在圣诞致辞中跳起了TikTok热舞_Deepfake让女王在圣诞致辞中跳起

近70年来，我一直保持在圣诞节当天与大家进行交谈。在BBC，我总是不能坦率地、发自内心地讲话。感谢Channel 4给我这次机会，让我可以说自己想说的话，而不需要任何人把话塞进我的嘴里。英国女王伊丽莎白二世（Elizabeth II）在短片中说到。
昨日，英国第四频道官方账号在Twitter上分享了一则英国女王圣诞致辞的短片，并预告活动将在12月25日3:25pm正式开始。

文章图片

预告短片发布后，在社交网络引起了广泛关注和讨论。
主要原因倒不是女王致辞内容触动了网友的神经，而是短片中，正襟危坐的英国女王突然跳上了桌子，秀起了TikTok热舞，并向爱丁堡公爵表达了对“Netflix and Phil”的喜爱。

文章图片

不少网友看到此景，表示一脸懵逼。
更甚的是，在视频的结尾处，英国女王突然变成了女星黛布拉·斯蒂芬森，白金汉宫也变成了绿色屏幕。

文章图片

随后，第四频道立即通过官方博文进行了说明。原来这是一则Deepfake伪造视频，视频中的英女王不是真·女王，而是“Deepfake Queen”，白金汉宫背景也是后期合成的效果。
不过，虽然对“恶搞”行为和意图进行了解释，第四频道还是遭到了众多媒体和网友们的批评，指责其不尊重女王。
Deepfake版英女王
英国女王伊丽莎白二世（Elizabeth II）每年圣诞都会向英联邦国家发表圣诞致辞。
从1932年开始，乔治五世（King George V）每年在圣诞节当天通过BBC向全国发表讲话，乔治五世去世后伊丽莎白二世延续传统至今。
当然今年也不例外。不过在此之前，英国第四频道借助这一传统节目，“恶搞”了英女王一番。
他们邀请知名电影导演威廉姆·巴特利特（William Bartlett）拍摄了一段5分钟小短片，名为《另类的圣诞致辞》。
在短片中，他们引入Deepfake技术，创造了一个数字版的“Deepfake Queen” 。

文章图片

Deepfake Queen在短片中畅所欲言，大谈哈里王子（Prince Harry），其夫人梅根·马克尔（Meghan Markle），以及约克公爵（Duke of York）与可耻的金融家杰弗里·爱波斯坦（Jeffrey Epstein）的关系。
甚至还拿鲍里斯·约翰逊开起了玩笑说：“2020年也是英雄之年。比如我们勇敢的NHS工作人员，他们中的许多人被迫承担难以置信的风险，比如治疗鲍里斯·约翰逊，他们也可能会被传染。”
在长达5分钟的致辞里，英国女王正襟危坐，一如往常地发表着讲话，口型、面部表情都自然到让人看不出一点异样，以至于它让不少观众一脸懵逼，“这真的是我认识的英女王吗？”
事实上，这位坐在“白金汉宫”里的女王是美国知名演员黛布拉·斯蒂芬森。
在后期剪辑中，短片负责人采用Deepfake技术将斯蒂芬森的人脸替换成了女王的人脸。

文章图片

对比来看，不得不说Deepfake的造假能力已经到了令人叹为观止的地步。
此外，为了更进一步体现Deepfake的深度造假能力，巴特利特导演还特意安排了一段TikTok舞蹈片段，而结果也如他所料，直到片尾斯蒂芬森的出现，人们才意识到这一切都是伪造的。
Deepfake造假这件事不必再多说，诸如YouTube等平台充斥着大量Deepfake换脸视频，众多影星、政治领袖遭殃成了恶搞的对象。
比如埃隆·马斯克（Elon Musk）被Deepfake变成了苏联流行乐队的一线歌手。

文章图片

【AI|Deepfake让女王在圣诞致辞中跳起了TikTok热舞】虽然只是网友们的恶搞，但在这背后我们也可以看到Deepfake潜在的负面影响。
如斯蒂芬森所说，“我对Deepfake技术非常着迷。多年来，我一直在研究人如何模仿他们，但现在我可以真正成为他们。作为一名女演员，这令人激动，但如果在其他情况下使用它，那也将令人恐惧。”
导演巴特利特也强调，“Deepfake是从机器学习和AI方面的最新进展中衍生出来的，虽然它是图像合成领域一项强大的新技术，但它也是一种可以用来歪曲事实和欺骗人类的工具” 。
既然如此，第四频道作为官方媒体平台为何还要在圣诞之夜制作“Deepfake Queen”？纯粹是为了“恶搞”吗？
为何制作Deepfake Queen？
关于这一点，第四频道在博文中也明确作出了说明。
他们表示，在数字化时代，今年的《另类圣诞节致辞》旨在发出虚假新闻威胁的“严厉警告”，提醒大众：

我们不要再轻易信任我们的眼睛。

Deepfake技术可面向公众创建令人信服，但完全虚构的视频内容，它将导致错误信息的大范围传播。随着技术的进步，从政治、生活到公共卫生各个领域，错误信息的传播和扩散已使可信赖信息变得如此重要。
根据人工智能安全公司Sensity.AI的最新数据显示：

文章图片

全世界都在被大量的假视频轰炸，而英国是头号目标。
在过去的一年中，互联网上发布了超过60000个深度虚假视频，视频在线观看量增长了250% 。
互联网上，大约有10%的深度虚假视频受害者是英国人。

在此背景下，第四频道节目总监伊恩·卡茨（Ian Katz）表示，希望在最重要的节日，借助英国具有影响力的女王，让民众们认识到Deepfake可能到带来的威胁。

文章图片

而之所以恶搞视频的形式呈现，一是为了完整地呈现Deepfake技术的造假能力，而是希望节目能够具有足够的娱乐性，吸引更多人关注。
除此之外，第四频道表示，他们还将在12月28日播出《 Deepfakes：你能相信你的眼睛》纪录片，继续探索合成媒体的出现以及可能带来的影响。
专家评价
不少专家对英国第四频道的做法发表了看法。
保护人权组织项目主管Sam Gregory说：“让人们认识到深度造假是很好的选择，但是我们不应该夸大其词，声称我们被虚假内容包围了。”
另外，技术政策研究者Areeq Chowdhury也同意这一看法，并表示支持强调Deepfake造假的影响力，但该技术并未对信息共享构成广泛威胁。
随着技术的快速升级，Deepfake技术的负面应用的确出现愈演愈烈的趋势，但其并未超出不可控的范围。
此外，不论是学界、业界还是国家层面都已经开始采取应对策略。