智能换脸下，社会该如何应对这种身份信息混乱？

文／陈根

不论技术用怎样的特效打造了可供娱乐的智能换脸，其背后的风险都值得人们警惕。

过去几天，人工智能生成动图的风潮席卷了大半个互联网。从抖音到微博，人们齐唱“蚂蚁呀嘿”的画面不断刷屏。而其玩法则来于国外的一款AI软件——Avatarify。尽管该软件在短时间内就登顶苹果 App Store免费榜，但很快，甚至还不满一个星期之后，Avatarify就遭到了下架。

而类似的玩法，相似的走红，快速的下架，其实在2019年就已发生。2019年，换脸软件ZAO正式上线。上线仅一天时间，这一产品就刷爆各大社交平台，其在App Store的免费App下载快速登顶，甚至服务器也因为制作量过大而宕机。但是ZAO从上线到App被下架，仅仅用了3天时间。

事实上，不论是Avatarify还是ZAO，其走红可能是一场猎奇的意外，而下架却是风险衡量后的必然。资本用技术特效打造了可供娱乐的智能换脸，但欢乐的背后却往往需要更深的警惕。

智能换脸的技术内核

智能换脸走红可以追溯到 2017 年。当时，国外论坛一个ID为“deepfakes”的用户，发布了通过机器学习来更换视频人脸的 AI 算法。但由于该算法还需要编译代码等操作，使其技术的使用门槛较高。

一个月后，有用户将其公开的的算法加以改造推出了简易版 AI 换脸工具“FakeApp”，而这次，就算是普通用户，也能够顺利操作。

从技术角度来看，DeepFakes是“deep machine learming”（深度机器学习）和“Fake photos”（假照片）的组合，是依托大数据和人工智能深度学习机制，基于数据算法和人脸数据库对既有视频或图片中的人物面部图像进行替换的技术工具。

在开源代码库平台CitHub上，DeepFakes被描述为“一种利用深度学习技术来识别和交换图片、视频中人物脸部图像的工具”。只要有足够的图片视频素材，有一定的硬件支持，DeepFakes就可以搭建算法匹配模型进行换脸视频的制作。

其具体原理思路为：对于每张脸，都训练一套编码器和相应的解码神经网络。编码时，使用的是第一个人的图片。而解码时，却是使用第二个人的解码器。而其中主要包含数据预处理、图片融合、图像预处理、网络模型、图像融合等技术。

此外，利用AI制作换脸视频除了要借助已开源的DeepFakes技术，还需要两个竞争AI系统的参与，一个是生成模型，另一个是判别模型。生成模型和判别模型的结合被称为生成对抗网络技术（CenerativeAderaril Netwoks，CAN），也是AI换脸最底层的逻辑。

GAN是AI机器学习中较成熟的理论。在最开始的技术中，DepFakes正是借助生成对抗网络，通过上万张照片来替换视频每秒钟存在的30个画面，最终通过GPU（CaphiesPoesing Unit，图形处理器，简称“GPU”）训练完成“移花接木”，仅凭一张照片便可实现面部替换和视频生成。

GAN由生成器和识别器两个相互竞争的系统组成。建立GAN的第一步是识别所需的输出，并为生成器创建一个培训数据集。一旦生成器开始创建可接受的输出内容，就可以将视频剪辑提供给识别器进行鉴别；如果鉴别出视频是假的，就会告诉生成器在创建下一个视频时需要修正的地方。

根据每次的“对抗”结果，生成器会调整其制作时使用到的参数，直到鉴别器无法辨别生成作品和真迹，以此将现有图像和视频组合并叠加到源图像上，终于生成合成视频。

随着“FakeApp”的开发，DeepFakes技术变得唾手可得，后来的ZAO和现在的Avatarify的出现正是基于这一技术。不同的是，对比DeepFakes需要大量的技术专业知识、庞大的数据集以及昂贵的GPU，ZAO和Avatarify都已经更容易使用，也更容易访问。以至于Avatarify相关话题播放在短短七天内就已高达 27．8 亿次，特效则被 785万人使用。