专栏名称: 刺猬公社
在传播格局急遽变化的大时代,内容行业大潮涌动。一只刺猬站在山顶上,瞭望这急速不宁的世界,默默记下每一个细节。
目录
相关文章推荐
51好读  ›  专栏  ›  刺猬公社

“原谅宝”后又现“一键脱衣”,技术作恶该怎么解决?

刺猬公社  · 公众号  · 科技媒体  · 2019-07-05 07:25

正文

请到「今天看啥」查看全文



世界永远不应该为像DeepNude这样的应用做好准备,而且也不应该这样做。

但就在DeepNude被抵制之前,DeepFake (深度伪造,多用于换脸) 技术也充满了争议。

杨幂和蔡徐坤都被“换脸”

去年12月,一段涉及漫威电影《神奇女侠》主演盖尔·加朵的“成人短片”,在一个类似于贴吧一样的美国网络社区Reddit流传,被诸多网友围观。制作这段视频的人不是职业拍摄者,而是一名程序员,网名叫“deepfakes”。

他在业余时间学习了DeepFake技术,用一些互联网免费开放的工具和素材,将盖尔·加朵的脸“移植”到了一名色情演员身上。盖尔·加朵与那部“成人短片”产生联系,是非自愿行为。

但那位程序员显然是沉迷其中了。泰勒·斯威夫特、艾玛·沃特森、斯嘉丽·约翰逊和麦茜·威廉姆斯等在美国家喻户晓的女明星都被换脸。

给女明星换脸,国内也出现过类似的网络事件。那件事发生在今年初。

把杨幂推进换脸风波的人,在微博开通了一个叫“换脸哥”的账号。2月底,他把一段涉及杨幂的视频上传到网络,引发热议。视频内容的主角原本是《射雕英雄传》中黄蓉的扮演者朱茵,但他用DeepFakes技术把朱茵的脸换成了杨幂的脸。



一方面,很多人担心自己会被同样的技术裹入洪流,被人玩弄,开始谴责他;一方面,有人找到他,希望他帮忙做换脸技术,其中不少涉及违法犯罪。没过多久,他与杨幂官方工作室沟通,并下架了相关视频。

最为人熟知的换脸恶搞潮发生在今年初的“鸡你太美事件”中,蔡徐坤展示自己兴趣爱好的一段视频,被网友换脸,他们还陆续推出了新的恶搞版本。蔡徐坤方面为避免被恶搞,还发出了律师函警告。


蔡徐坤的换脸主角是游戏知名主播五五开

DeepFake的发展时间不长,在2017年底才兴起的,被主流深度讨论,也是那时。几个月后,Reddit禁止上传非自愿色情内容,其他网站也禁止使用深度伪造非自愿色情内容。

它的危害之一在于,技术权力毫无约束,像疯狗一样逮谁咬谁,很容易让人被技术另一端的人支配。

演员斯嘉丽·约翰逊是世界上收入最高的女演员之一,以参演漫威系列电影而闻名,江湖人称“黑寡妇”。她却深受DeepFake之害。

斯嘉丽·约翰逊


《华盛顿邮报》称,她的脸已经被匿名在线“创作者”嫁接到数十个图形性爱场景中,他们正在使用免费的人工智能软件来制作令人信服的逼真视频。一个假视频,被描述为真正的“泄露”镜头,已被观看超过150万次。

在现代名望的黑暗现实中,她拥有比大多数人更多的经验。2011年,她被一名黑客泄露隐私,这名黑客后来被判处10年有期徒刑。

在线制作虚假的色情照片已经存在了几十年。她在接受《华盛顿邮报》采访时说,DeepFakes的崛起,已被用来骚扰和羞辱女性,这对于寻求在互联网上保护自己的女性来说,是一个新的令人沮丧的挑战。她对这一现象表示担忧,将互联网描述为“吃掉自己的巨大黑暗虫洞”。

在英国,DeepFakes的生产者可能会因骚扰而受到起诉,但有人要求对某种特定犯罪行为进行深刻打击。《卫报》称,一位学术专家认为,根据真实人物的照片制作虚假的色情图片应该成为修正法案中的刑事犯罪,以解决骚扰问题。

在美国,人们一直在追究身份盗窃,网络跟踪和复仇色情等各种指控,并讨论了更全面的法规。目前,美国弗吉尼亚州率先对DeepFakes这些新应用采取了行动,扩大了其“复仇色情法”的范畴。修正后的法律于当地时间7月1日生效。

2014年,弗吉尼亚州对“复仇色情”的定义是,“以完全或部分裸体状态恶意传播另一个人的录像或静止图像,意图强迫,骚扰或恐吓”。现在,这一法令包含了“DeepFake”,制作或操纵的视频和使用机器学习制作的图像。

现在的规定称,未经许可分享某人视频的裸照照片是违法的——无论是真实的还是伪造的。除了DeepFake,用Photoshop或其他工具制作的虚假照片、视频也包含在内。

在现有状况来看,这项法案保护的大多是女性。有数据显示,大约有1000万美国人受到复仇色情的威胁或成为其复仇的受害者。根据美国一家研究所2016年的一项研究,女性遭受男性威胁的可能性是男性的两倍。

为什么受伤的总是女性?

用“深度假”技术取悦人们

2018年8月13日,一个叫“原谅宝”的项目崭露头角,微博网友“将记忆深埋”发文称,为了帮助码农朋友们做一个初步过滤,他联合了几位朋友把1024、91等网站上的视频和图片打上标签,进行人脸匹配。

在码农界一直流传着一个说法,很多码农每天的时间都分配给了工作,加上天生情商不够高,内心又想着找一个女朋友,在找女朋友方面,很不擅长。这可能导致一个情况,有些码农找到的女朋友可能是“特殊工作者”,或者是“炮友”,或者是被偷拍女性,或者是其他情况。

发起者称,“原谅宝”起到的一个作用就在于,鉴别对方有没有出现在1024、PronHub等特殊网站上。

使用方法不难,你可以上传一张照片到“原谅宝”,系统会自动匹配1024、PronHub等特殊网站上的数据,如果结果显示“Fail”,意味着那个人的样貌出现在了特殊网站上;如果显示“Pass”,则是“幸运过关”。

消息一出,引来无数质疑和谩骂。“原谅宝”则为自己辩解,研发的目的是“为保护老实人而生”“接盘侠的福音”,可以解决恋爱中的信任关系。







请到「今天看啥」查看全文