正文
年
12
月，一位名叫“
deepfakes
”的网友在
Reddit
网站发布了一条视频，利用
AI
技术将成人电影女主角的脸换成了《神奇女侠》主演盖尔·加朵，引发广泛关注。后来人们开始用他的网名
deepfakes
命名这项技术。
在国内，
deepfakes
也深受一些技术宅的喜欢，网上不乏售卖
AI
换脸软件的学习教程。而随着生成式
AI
技术的爆发，大大降低了
AI
合成视频的门槛，使制作难以辨识的换脸视频越来越容易，视频画面身临其境也变得不再靠谱。
北京邮电大学网络空间安全学院教授周琳娜在接受北京科技报采访时表示，这种技术的实现还是有一些细节是可以辨别的。比如输入的照片，眨眼或者闭眼的视频或图片比较少，那么生成的视频就不是很自然，它就没有眨眼的动作。或者，输入的照片或视频分辨率比较低，那么生成的视频也会有一些瑕疵，比如两只眼睛的瞳孔颜色不一致，牙齿的边缘过于整齐，细节不明显等。
蚂蚁集团天玑实验室安全算法专家朱凯也曾在接受媒体采访时表示，因为目前很多
AI
换脸的基础是被模仿者的照片，照片是平面的，生成的“数字人”也是以正面、平面为主。当人脸动起来时，会产生破绽。
此外，观察视频中人物的面部表情是否自然（比如
AI
合成视频大笑时眼角无皱纹）、眼睛眨动频率是否异常（
AI
合成视频的眨眼动作通常不连贯），以及音频和视频是否同步等都是常见的方法。
如何整治
AI
合成视频乱象？
利用
AI
技术编造网络谣言、实行诈骗等乱象已经引起相关部门的高度重视，抖音、小红书等互联网平台也出台了相关举措进行整治。
