正文
六月初，美国众议院情报委员会召开了一个听证会，希望了解DeepFake和AI相关的一些问题，Stephen Wolfram是被邀请参加听证会的人之一。但是他没空去，于是把想法写成了这篇文章放在了自己Blog上。这对于我这样的读者倒是个好事，这可以让他更从容的写下他的想法，而不是被听证会的节奏干扰。
众所周知，伪造照片是一个历史悠久的技术，从有PhotoShop之前的年代使用传统胶片人们就一直在做，Stephen Wolfram说照片伪造技术和照相技术历史几乎一样长。而今天我们的问题是，当AI可以用来参与伪造照片的时候，我们有没有简单的办法分辨出哪些照片是真的？毕竟之前大家说“无图无真相”，现在是“有图有视频它也未必是真的”。
要讨论这个问题，我们先要隐藏技术细节来简单介绍一下伪造照片和视频使用的人工智能技术：GAN（生成对抗网络），用最容易理解的方式，可以看作两个系统互相对抗，一个系统生成假数据集叫做生成器，另外一个系统叫做判别器，它用真实数据集来判别生成的假数据集的真伪。然后两个系统互相对抗，最终目的就是让判别器无法判断真假，所以这类系统的目标就是生成机器无法判别真假的数据集。GAN网络当然不是万能的，说它有智能也是一种美化的说法，它当然没有真正的智能，也理解不了逻辑本身，但是用在伪造视频和照片上，它目前的能力已经足够给人类带来麻烦了。因为如果生成器生成的内容足够多，并且利用社交网络传播和转发，那么要鉴别真假，就成了一个工作量巨大的事情。相信在这个时代，大部分人都对各种群里面千奇百怪的谣言有深刻体验，那么考虑一下，这些文字谣言都配上了很真实的照片和视频的时候，要鉴别真假的劳动力会增加多少？
已经无法阻止人们使用机器源源不断产生假图片和视频了。对于某些关键性内容，人类应该还可以花费巨大的成本，由类似鉴证小组这样的专家组织来判别真伪，但是对于日常生活中，尤其是社交网络流行的海量内容，限于效率和人力成本，可以说是无能为力的。假视频生成的速度会远远大于鉴定的速度，即使能鉴定出来真伪也没意义了。
