AI换脸带来了哪些弊端

一、AI换脸带来了哪些弊端

1、事实上，这项江湖人称“deepfake”自动换脸的技术出现已经不是一两天了，这是一项依托于 AI技术的视频合成工具。早在 2014年，deepfake的雏形”生成对抗网络（GAN）”已经诞生，并在 2016年孵化出 Face2Face，可以把一个人的面部表情移植到另一个人脸上。

2、这项技术真正进入大众视野，是因为一位名为”deepfakes”的网友，他在 2017年将女明星的脸合成在不雅视频中，并上传至 Reddit论坛并引发大量访问。不过 deepfake的 AI换脸技术的代码已经在 Gitbub上开源，降低了适用门槛，故而换脸视频还是普及，在国外已经有不少政要、明星被恶搞。

3、deepfake的出现，借助 AI强大的深度学习能力，极大地降低了技术门槛，能够做到“换脸自动化”。deepfake的大致原理分为三步：选择需要换脸的对象，选择进行覆盖的对象，以及 AI自动生成替换。

4、其中诸如从原始对象中提取面部信息，进行模型训练并转换等难点，都可以通过 AI的深度学习来完成。搜集到的原始照片和视频素材越多，AI的学习样本就越多，换脸的细节也更逼真。杨幂换脸事件中视频如此栩栩如生想来也是得益于女演员有较为丰富的影像资料。

5、随着科技的发展，AI设计师、AI主播、AI写作等人工智能在各个行业和领域开花，带着新技术的优越感，以势不可挡之势袭来。技术的革新让人兴奋，但这种不真实感的不可控也让人细思极恐。

6、”AI换脸“技术去年就已经在国外大火，有外国网友利用软件将《神奇女侠》的扮演者盖尔·加朵的脸，替代到色情片主角上，伪造成一个以假乱真的小视频，引发无数网友围观。随后又有很多好莱坞当红女星惨遭毒手，诸如斯嘉丽·约翰逊、娜塔莉·波特曼、艾玛·沃特森等，都被网友用“AI换脸”技术替换掉，是宅男之蜜糖，也是女星之砒霜。更有甚者，用身边女同学的脸制作小视频上传。这些“产品”即便是发布者主动删除也无法在发达的网络世界中将之彻底清除。

7、以上所说的听起来跟普通人关系不大，让人有事不关己的错觉，那就大错特错了，换脸技术滥用带来的不仅仅是道德和伦理问题，还有和每个人都息息相关的安全问题。目前，人脸识别技术已经得到普遍应用，诸如上班打卡、刷脸购物、支付、手机解锁、抓交通违章等场景，拥有大量的用户群体。假如有人利用AI换脸技术在这些领域弄虚作假，人脸识别又无法辨识真伪的话，那么个人隐私信息、财产等都会被盗，后果难以想象。

8、有报道称，瑞士两位科学家对 deepfake进行了测评，先后测试了两套前沿且先进的人脸识别系统：一个是性能最优的图像分类模型 VGG，另一个是基于 Facenet的算法。结果显示，AI分辨真假视频错误率高达 95%！

9、退一步讲，即便在支付等领域人脸识别技术已经能规避换脸技术带来的威胁。“AI换脸”技术在直播、视频聊天里都已经能使用，那么假如有一天有诈骗份子带着你的脸向你的父母家人要钱呢？AI技术的滥用会使网络诈骗升级到新的高度，识别能力跟不上将会造成损失。

10、尽管人们对AI换脸的安全隐患颇感担忧，但这项技术在影视制作行业仍然有相当大的作用。曾经电影《速度与激情 7》遭遇保罗沃克变故后，为了让他回归片方用了替身+动态捕捉+CGI动画的方式，以保罗的两位弟弟为替身，最终让观众在大屏幕上重新看到保罗沃克，避免了其突然逝去造成的影片夭折遗憾。此外，AI换脸技术在技术做后期特效阶段也能节省较大的人力物力，提高制作效率。

11、技术的发展像一把双刃剑，严格的监管、合理的使用才能真正让技术推动社会发展，让生活更智慧便捷。