禁令来了！用DeepFake制作传播小黄片，蹲监狱加罚款

　　欢迎关注“创事记”微信订阅号：sinachuangshiji

　　文/千鸟

　　来源：图灵TOPIA（ID:turingtopia）

　　弗吉尼亚州正式扩大其色情禁令，这其中就涵盖了利用Deepfake制作的小黄片。

　　上述法律修正案于今年早些时候通过，并在美国当地时间7月1日正式生效。该法律规定未经许可分享某人视频的裸照照片是违法的，无论是真实还是虚假的。此外，其还涵盖了光标图像或其它类型的假镜头，当然Deepfake合成的影像也在列。

　　违反该规则属于第一类轻罪，最高可判12个月的监禁，罚款额高达2500美元。

　　失控的DeepFake技术

　　自2014年起，弗吉尼亚州就已经禁止传播裸体图像，但它没有涵盖捏造的图像或视频。随着人工智能的飞速发展，由Deepfake黑科技捏造的图像或视频变得越来越普遍。

　　2017年年底，Reddit平台上出现了一种新的色情视频，是由一个名叫deepfake的用户上传的。通过机器学习技术，Deepfake已经找到了如何将色情明星面孔换成名人面孔的方法，相关视频引起了轰动。

　　Deepfake算法随后在GitHub上发布，给任何拥有足够专业知识和足够配置计算机的人提供了制作虚假视频的方法。

　　该算法可通过深度学习，将A的面容移植到B的脸上。与一般图像处理算法不同的是，Deepfake可在视频中近乎完美地实现动态“换脸”。

　　不过Deepfake因为被用于制作虚假视频而声名狼藉：例如有人利用该技术制作著名女星的色情内容、伪造政治家的公开演讲，并将尼古拉斯·凯奇的形象植入他从未出演过的影片中。

　　这项技术发展得如此之快，让州和联邦立法者都陷入了困境。受Deepfake技术侵害的受害者没有起诉权，因为它不受现行法律的约束。

　　近日（6月27日），一名程序员开发出了名为DeepNude的应用，只要给DeepNude一张女性照片，借助神经网络技术，App可以自动“脱掉”女性身上的衣服，显示出裸体。很快，Reddit平台将其封禁。

　　Google Brain项目的发起人和领导者，斯坦福大学的计算机科学教授吴恩达发推表示，他很开心看到DeepNude应用被禁。他强调，作为一名普通人和父亲，他觉得DeepNude是AI应用中最恶心的一个。他希望AI社区中的成员，谨慎利用手中的权利，多创造有助于世界进步的工具。

　　批评者们担心，有用户可能会利用Deepfake算法来传播不实信息。

　　上个月，众议员Yvette Clarke（D-NY）在国会上提出了DEEPFAKES责任法案。该法案将把合成图像或视频定为刑事犯罪，

　　拟议的联邦立法是一个更广泛的法规，涵盖模仿的虚假视频和图像。该法案将赋予受害者起诉创作者的权利，或者在法庭上以其它方式辩护他们的声誉。

　　英国政府正在讨论一项法律，该法律专门涉及制作核分享非自愿的亲密图像，以应对滥用和冒犯性数字产品。讨论该法律的委员会将重点关注复仇性质的色情视频，以及利用Deepfake算法生成的色情内容。

　　技术 VS 技术

　　科学界也试图通过技术的手段来甄别哪些是由Deepfake生成的视频。

　　由纽约奥尔巴尼大学的Siwei Lyu领导的一个团队发现了这些伪造视频的漏洞。

　　DeepFake算法根据馈送的图像创建视频，尽管比较准确，但人工智能始终无法完美再现人类自然产生的所有生理信号。

　　Lyu和他的团队特别关注一点：眨眼。人类通常每两到三秒就会眨一次眼，但人像照片通常不会闭眼，因此通过照片对这些算法进行训练意味着生成的视频中人像很少会眨眼。

　　首先，他们在具有睁眼和闭眼人像的标记数据集上训练人工智能。随后，为了对训练结果进行测试，他们自行生成了DeepFake视频集，甚至还做了一些后期处理，让伪造视频显得更自然。

　　结果令人印象深刻。根据Lyu的说法，他们的人工智能识别出了所有的伪造视频。

　　Lyu解释说，在伪造视频的后期处理中手动添加眨眼并不是一个巨大的挑战，而且一些伪造的视频——包括BuzzFeed上的伪造视频——确实包含眨眼。

　　不过他们开发的这种算法，至少有助于阻止和延迟创建伪造视频的过程。

　　“我们正在形成第一道防线。”Lyu说，“从长远来看，这实际上是制作假视频和检测假视频之间的持续战斗。”