从换脸技术 Deepfake 初次在论坛出现，到“神奇女侠”盖尔·加朵的脸被嫁接到成人片女星身上，再到换脸应用 ZAO 一夜间风靡朋友圈，仅仅只过了两年。

基于深度学习的 AI 换脸技术正在创造出越来越多真假难辨的视频。但与此同时，AI 造假技术也在滋生恐慌，这背后是关于隐私、真实、版权等等悬而未决的问题。

监管已经跟了上来。11 月 29 日，国信办引发了《网络音视频信息服务管理规定》(以下简称“规定”)，提到了对深度学习视频内容的管控。

规定第 11 条指出，网络音视频信息服务提供者和使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识;不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息;转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。

也就是说，普通人和服务商发布非真实 AI 音视频时，要以显著方式标清它运用 AI 技术进行了二度创作，且不得使用它制作假新闻。

在视频分享网站 Bilibili 上，能看到大量素人 UP 主制作的 AI 换脸视频。徐锦江、凌潇肃、倪大红、范伟、赵本山等人的形象是最受欢迎的换脸模版。这些视频大多以娱乐为目的，制作水平不一，使用的视频背景大多是影视剧“名场面”。虽然创作者一般都会标清内容运用了 AI 换脸技术，但常常会被评论调侃(夸赞)为“拿原片出来骗人”。

除此之外，规定还对服务商提出了额外要求，包括“展开安全评估”、“部署非真实音视频鉴别技术”、“及时停止传播未显著标识的非真实 AI 音视频内容”、“建立健全辟谣机制”等。新规将于明年 1 月 1 日起施行。

作为一项“天生带有攻击性”的技术，Deepfake 从诞生之日起就伴随着惊叹声和质疑声。相比国内，海外互联网平台对于此类“非自愿内容”的展示似乎得更严苛一些。

2018 年 1 月 31 日，Gfycat 从其站点中删除了所有 Deepfake 内容。同年 2 月，Reddit 与 Pornhub 也宣布因违反“非自愿色情”政策而禁止此类内容。同月，Twitter 表示将暂停涉嫌发布未经许可的 Deepfake 内容的帐户。2018 年 9 月，Google 也将“非自愿合成色情图片”添加到了其禁令列表中。

2016 年 6 月，一段以 Facebook CEO 马克·扎克伯格(Mark Zuckerberg)的脸为素材的 Deepfake视频在 Facebook 和 Instagram 上传播，Facebook 随后表示，他们不会从其平台中删除 Deepfake 内容，但这些视频会被第三方标记为伪造，然后被降低优先级。

关键词：