换脸软件美国进化史:小扎、奥巴马中招 国会开听证会
原标题：换脸软件美国进化史：小扎，奥巴马都中过招，国会开过听证会
澎湃新闻记者 承天蒙 综合报道
一张自拍，就可以把短视频中的人物换成用户自己的脸。8月30日晚间以来，AI换脸应用“ZAO”刷屏朋友圈。
从技术原理上来说，“ZAO”采用的AI（人工智能）换脸技术，早在2017年12月就在海外出现。最初，这项名为“deepfakes”的技术，被少数懂技术的人用来换脸色情片女主角。随着一款桌面应用程序FakeApp的出现，十猪九苦1983不懂技术的人也能简单制作换脸假视频，互联网上广泛出现的假脸视频早已广泛流传。
在美国，出于私人报复目的制作的换脸视频，以及政党攻击的政客换脸视频随后出现，蒙骗了数百万人，花费了很长时间才得以辟谣。
2019年6月，一则以Facebook创始人兼首席执行官马克·扎克伯格为主角的的换脸视频出现，引发媒体和舆论的广泛关注。对此，Facebook决定不删除这条视频，而是根据平台处理假新闻的一贯流程操作，最终给予了这条视频限流处理。
同月，美国众议员对deepfakes正式召开听证会，敦促科技公司要在2020年美国总统大选之前制定出政策，“保?用户免受假新闻的误导。”
换脸技术Deepfakes初亮相，用于换脸色情视频
2017年12月，Deepfakes被媒体曝光后首次出现在大众视野。一位网名为“deepfakes”的Reddit论坛用户利用人工智能技术，将色情片女主角的脸换成了《神奇女侠》主演盖尔·加朵。
“deepfakes”发布了一系列换脸女明星的色情片视频，Deepfakes这个网名因此在媒体报道中，成为了这类换脸假视频的专有名词。即把“深度学习（Deep learning）”一词改写为“深度造假”。短短几个月内，deepfakes账号已经拥有了超过8万名关注者。
2018年2月，Reddit终于出手，封禁了deepfakes色情视频，关闭了网站上的deepfakes内容社区。
据华盛顿邮报当时报道，这种换脸视频制作简单，不需要专门的影视工作室，是这种视频在网上迅速激增的主要原因。
据Vice旗下Motherboard解释的技术原理，这种视频采用现成的技术即可制作。首先，制作者利用开源工具在社交网络上下载受害者的大量照片，大约需要几百张。一旦他们获得足够多的目标名人面部照片之后，再寻找一个合适的色情片女演员的身体，就可以进行嫁接。从这个意义上说，色情片女演员也是受害者。
一些deepfakes视频制造者已经可以很熟练地应用基于浏览器的应用，使用面部识别软件来寻找最适合匹配的脸和身体。把数据喂给给互联网上免费可得的机器学习算法，就能够制造出十分逼真可信的假色情视频。
桌面应用FakeApp出现，不懂技术的人也能制作换脸视频
2018年1月底，一款匿名开发者根据deepfakes制作的，用户友好的桌面应用程序FakeApp正式面世，并开放下载。这款应用采用了和最初deepfakes一样的谷歌开源的TensorFlow框架，让不懂技术的用户可以相对简单地制作换脸色情视频。
很快，Vice发表了一篇后续文章，报道了人们发现有的换脸色情视频中是自己在高中或其他场合认识的人，被AI换脸技术制作了报复色情片。在Reddit网站和聊天应用Discord上，都出现了指认人物的帖子，这才导致2018年2月起多家网站对这种换脸视频的一系列封禁。
但全球互联网上广泛出现的作假视频已经泛滥。
2018年4月，美国娱乐网站Buzzfeed发布了一条极其逼真的视频，视频中，美国前总统奥巴马用他的声音和惯用动作讲了一段他从没说过的话。这条视频是一个人采用FakeApp制作的，据说花费了56个小时来搜集和汇总奥巴马的模型。该视频明确表示就是用AI换脸技术制作，为了警告大家这种技术的危害性。
但这条视频发布之后，各类政经大佬的换脸假视频开始病毒式传播，骗过了数百万人。让Deepfakes视频的危险性越发突出，迫使大型平台采取技术手段对其封禁。
换脸扎克伯格视频引发舆论争议
除了多位美国政客讲话的做假视频掀起了舆论波澜，花费很长时间才得以辟谣之外，2019年6月，一则Facebook创始人马克·扎克伯格的假视频也引发了广泛关注。
这则扎克伯格的换脸视频最初在Instagram上出现，打上了CBSN电视台的角标，伪装成电视节目，但这则节目从未有过。视频中的“扎克伯格”说：“想象一下，一个人，完全掌握着数十亿人的数据，他们的秘密，他们的生活，他们的未来。我将这一切都归功于Spectre。Spectre向我展示了谁控制了数据，谁就控制了未来。”
上述扎克伯格换脸视频其实是一场营销。视频中“扎克伯格”所说的Spectre字面意思是幽灵，实际上是指一个艺术展。该展览中展出了艺术家Bill Posters和一个广告公司一起制作的一系列deepfakes假视频。Posters称，视频是对大型科技公司的批判。
这一换脸视频引发了CBSN电视台的商标投诉，另外，Facebook拒绝撤下视频。
Facebook对Vice表示：“我们会像处理所有的Instagram上面的假新闻一样处理这个内容。如果第三方核查者将它标记为假，我们就会从Instagram的推荐页上将其滤除，如发现页面和hashtag页面。”
随后，多个Facebook的事实核查员标记了这个视频，并限流了这个视频的传播。制作了这个换脸视频的艺术家对此表示批评，称“如果我们不能用艺术批判性地审问科技巨头，那我们要如何才能对这些极其重要的议题展开严肃探讨和辩论呢？”
美国众议院召开听证会，敦促科技公司大选前想法解决
2019年6月，十猪九苦1983deepfakes换脸技术出现一年半之后，美国众议院终于对deepfakes展开了一场听证会。
这场美国众议院情报委员会听证会上，美国立法者终于听到了围绕着deepfakes展开的官方证词，并承诺要审视“AI赋能的虚假内容引发的国家安全的威胁，要采取哪些措施才能发现并进行打击。在这之中，公共部门，私营部门和整个社会要怎么做才能应对这种严峻的‘后真相’的未来。”
听证会上，共和党众议员Schiff敦促科技公司，要在2020年美国总统大选之前制定出政策，“保?用户免受假新闻的误导。”
如今，“ZAO”刷屏朋友圈，在中国引发了关于隐私安全的担忧。
有网友评论：“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你家人通话了。”
