原标题：Deepfake恶搞政客遭加州立法禁止，首份全球调查结果出炉
机器之心报道
机器之心编辑部
Deepfake 换脸视频的病毒式传播引发了美国政坛的警惕。近日，加州通过了一项旨在阻止「Deepfake」伪造视频影响大选的法令，引发了人们对于言论自由的担忧。与此同时，荷兰的一家网络安全公司发布了首份 deepfake 全球调查报告。结果显示，目前的 deepfake 视频 96% 仍为色情内容。
上周，美国加州州长 Gavin Newsom 签署了 AB 730 法令，禁止会对大选造成影响的「deepfake」视频。
法令链接：https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201920200AB730
该法令规定，如果散布的信息使公众对政治人物的言论、行动产生错误或有害的印象，这种散布行为将属于犯罪行为。该法令适用于选举期 60 天内的所有候选人，范围包括音频和视频内容，但也有一些例外，如新闻媒体制作的讽刺、戏仿视频。自己打上「虚假」标签的虚假视频和音频也不受此法令限制。该法令将于 2023 年废止。
虽然「deepfake」一词并未出现在法令中，但该法令明显针对的是篡改作品。该法案定义了「具有实质欺骗性质的音频和视频媒体」，以故意操纵候选人的外观、言论和行为，使表达内容与原本情况出现根本的不同。
这项有关选举的法令引起了人们对于言论自由的关注，加州美国公民自由联盟（American Civil Liberties Union of California）等组织已经开始质疑该法令的价值。「起草者的初衷是好的，但该法令解决不了政治人物的虚假视频问题，」该组织表示，「它只会带来选民的困惑、恶意诉讼和对言论自由的压制。」
此前，美国弗吉尼亚州也出台过关于禁止 deepfake 滥用的禁令。今年 7 月，该州的新「色情报复法」规定，未经当事人允许分享他人的裸露视频、照片属于违法行为，用于「胁迫、骚扰或恐吓」将被定为一级轻罪（Class 1 misdemeanor），无论该照片或视频是真实的还是伪造的。但此次加州的颁布的这项禁令针对的是大选中的政治人物，显示了美国政府对于 deepfake 扰乱政坛的警惕。
领英上一位名为 Katie Jones 的女子，她拥有由一批专家和政客组成的关系网。但经调查，此人并不存在，只是潜伏在领英上的政治间谍。
Deepfake 目前已经发展到了什么程度？主要有哪些用途？为了解答这些问题，荷兰的一家网络安全公司展开了一项调查，并公布了首份 deepfake 全球报告。
首份全球 Deepfake 调查结果出炉
色情内容才是 deepfake 的重灾区
现在想要制作一个 Deepfake 视频有多简单？10 月 7 日，荷兰网络安全公司 Deeptrace 公布了其对于目前整个互联网情况审核的报告。自 2017 年以来，deepfake 等技术一直活跃在网络中，这项技术首先是被 Reddit 用户 u/deepfakes 提出的——他利用人工智能算法的换脸技术首先将女明星的脸嫁接到色情影片中。
近年来，人们出于对 deepfake 在其他情况下滥用的担忧，对这项技术进行了大量的讨论，并不时引发政府部门的制裁。此前一款名为 Deepnude 的 APP 就曾被勒令下架。
调查认为，Deepfake 对人们造成的困扰大多出在色情视频方面，而在其他领域的实际影响其实还很小，经常被视作低科技的操作方式。最著名的例子就是美国众议院民主党领袖佩洛西的「醉酒」视频。
自 2018 年 12 月至 2019 年 7 月，网络上的 deepfake 视频数量翻了一番，并且 96％都是有关色情的，这些内容的浏览量超过了 1.34 亿。
而且，值得注意的是，所有的色情视频都以女性为对象。
波士顿大学法学教授 Danielle Citron 表示，deefake 正在被用作针对女性的武器：
deepfake 技术将女性的面孔换到色情片中，以此来作为对付她们的武器。这种现象令人恐惧、尴尬而且在无声中进行，制作者品行卑劣。deepfake 色情视频告诉人们，他们的身体不属于自己，这将使得他们很难在网上立足、找工作或获得安全感。
美国女星斯嘉丽约翰逊也是 deepfake 的受害者之一，她曾表示，「我来说这种努力是无用、没有结果的，但是对于那些因此可能丢掉工作的人来说就不同了。」
代码有门槛，但普通人也有办法
大多数媒体对 deepfakes 的报道主要聚焦于顶级学术实验室制作的高度逼真且无缝衔接的视频。但 Deeptrace 对此不感兴趣，因为制作这些视频的研究者通常将底层代码进行加密处理。所以，如果有人想要制作 deepfake 视频用于色情、敲诈勒索或政治狂欢等，则必须在开放网络中找到有效工具。Deeptrace 想要知道这些人可以找到哪些可用的工具。
世界上大多数非专业 deepfakes 上运行的代码可以在 Github 的 8 个资源库中找到（这些都是 deepfakes 的原始代码），这些资源库在 Github 上非常受欢迎。
但是，对于普通人而言，这些代码使用起来非常困难，并且需要大量的数据、调整和时间，因而令大多数业余者望而却步。但他们还有其他的选择：20 个 deepfake 创建社区和论坛，并借助于少量应用程序和服务的链接来制作 deepfakes 视频。这些应用程序和服务的可用性各不相同，并且大多数需要 250 张「目标」图像来训练网络。
这些应用程序的输出质量暂且不谈，但值得注意的是，所有的 deepfake 色情网络都有广告，意味着有利可图。另外，这些网络和服务的数量虽少，但呈现不断增加趋势。
身体互换更加危险
加州大学伯克利分校的合成内容专家 Hany Farid 表示，虽然这份报告没有多少令人惊讶的内容，但「对于我们了解 deepfake 的总体发展情况非常有价值。」纽约州立大学布法罗分校的数字取证研究员 Lyu 表示，这份报告汇集了研究人员已知的许多事实，对于立法者非常有用。
「如果你想让政策制定者和法律分析人士知道如何解决这一问题，那么你先要知道 deepfake 是做什么用的，」纽约大学从事类似研究的学者 Garg 表示。
「目前的 deepfake 视频集中于换脸，这也是一条有用信息，」Lyu 表示，「这可以将危害控制在一定程度上。」因为换脸现在还不够令人信服。在相信这些视频是真的之前，人们总是会先怀疑一下，Garg 表示。
Lyu 还表示，现在大部分的视频还只是换脸，而且不够令人信服，真正的危险是身体的互换。这种「木偶大师」式的 deepfake 会劫持人的整个身体，编码者可以根据自己的意愿使它们动起来。Lyu 和其他研究者已经开发了能够做到这一点的代码，而且使用的是 GAN 之外的一种编码器。
但所有人都相信，身体互换迟早会商业化。Lyu 和 Garg 表示，下一步的调查应该由大学主导、经过同行评审，而不是由私有公司出资。「这将成为国家科学基金的一个好项目」，Lyu 表示。
参考内容：
https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201920200AB730
https://deeptracelabs.com/resources/
https://spectrum.ieee.org/tech-talk/computing/software/the-worlds-first-audit-of-deepfake-videos-and-tools-on-the-open-web
本文为机器之心报道，转载请联系本公众号获得授权。游戏网
责任编辑：
| 相关下载 |
这一篇小编将跟大家分享一下《Deceit游戏攻略人类要怎么玩？》的相关讯息，快跟着234游戏的小编一起来看看吧！详情>>
导读：de_tuscan将迎来重置，你还记得这张地图吗？ 日前Haci在个人推特上表示：根据可靠的消息来源，de_tuscan将会由作者Brute进行重置，新版本的地图将会在详情>>
原标题：iOS 13.2 推送，带来 Deep Fusion 还有 70 个 Emoji iPhone 11 系列中，苹果在发布会上重点强调了它的拍摄能力，现在 iOS 13.2 正式推送，被苹果详情>>
原标题：《机械迷城》开发者新作《朝圣者》10月6日登陆苹果Arcade 10月6日，经典解谜游戏《机械迷城》的开发商Amanita Design在官方Twitter宣布，他们详情>>
原标题：《朝圣者》Steam评价“特别好评”有趣但是好短 《机械迷城》的开发商Amanita Design的全新作品《朝圣者》，已经于10月7日正式在Steam平台发详情>>
原标题：大神用Unity引擎重制《最终幻想9》画面真不错 最近3D艺术家Fabian Denter利用Unity引擎，重制了经典RPG《最终幻想9》，现在他放出了演示视频以详情>>
原标题：AI换脸小黄片泛滥 美国立法禁止Deepfake伪造视频 AI人工智能技术一直被认为会改变人类社会，我们的日常生活中已经开始有大量AI相关的应用，别详情>>
AI人工智能技术一直被认为会改变人类社会，我们的日常生活中已经开始有大量AI相关的应用，别的不说，AI换脸这一年来就大出风头。AI换脸不只是好玩那么简单，它一旦详情>>
命运2闪退怎么办？相信有不少玩家在steam平台打开游戏的时候都遇到了这样的情况，所以小编就为大家带来了一篇Destiny2闪退修复方法介绍，感兴趣的快来看看吧。推荐阅读： 命详情>>
--> 日本万代在近日推出了“MG(Master Grade)”系列的最新商品“轰击型脉冲高达”模型，这款模型可以说是让《机动战士高达SEED DESTINY详情>>
2019年ZOWIE GEAR极限之地CSGO亚洲公开赛第五站——中东赛区，于今日凌晨落下帷幕！来自土耳其的Demise战队一路碾压，获得了中东赛区的冠军，而黎巴详情>>
原标题：《Deemo Reborn》新预告片 展示联动DLC收录曲目 【9月29日上午消息】发行商Unites和开发商雷亚游戏公开了《Deemo Reborn》的新预告片，展详情>>
原标题：PS博客公布《最后生还者2》Demo新感想及截图 SIEA高级社交媒体专家Tim Turi日前在PlayStation博客上更新文章，分享了自己在体验《最后生还者详情>>
《FIFA15》 DEMO评测----细节决定一切 游戏名称：国际足球大联盟15 英文名称：FIFA 15 游戏类型：体育运动类(SPG)游戏 详情>>
![《战魔》小编demo版抢先评测！[多图]](https://img2.game234.com/zz/2019/09/08/aae27459c7936e8c717b38ca5a917990_5d74b55dc8fa133ac1bbd44c.png)
在《战魔》即将开测之际，我有幸拿到了本次测试demo包，试玩了3日，我觉得很有必要给大家一个评测，全面介绍一下这款游戏。废话不说，直接开片！ 测试状态：demo版测试 游戏类型：横详情>>
根据多名知情人士透露，北美CSGO战队NRG正在与Evil Geniuses俱乐部商议收购事宜，预计将在未来几天后正式加入EG。 另有消息称这支北美战队详情>>
Depraved游戏配置要求高吗？游戏近日已经发售，今天小编给大家带来Depraved配置要求介绍，需要的朋友不妨进来看一下。 配置要求介绍 Windows最低配置: 详情>>
Depraved好玩吗？游戏目前正式发售了，可能很多玩家还对他不是很了解吧。今天小编带给大家带来Depraved特色玩法介绍，需要的小伙伴快进来看一下吧。 推荐阅读： Depraved配置详情>>
原标题：血腥RPG《黑暗子民》新预告 9月26日发布Demo 今日(9月24日)Brilliant Game公布了血腥RPG《黑暗子民》(The Black Masses)新预告，展示了游戏详情>>
今日(9月24日)Brilliant Game公布了血腥RPG《黑暗子民》(The Black Masses)新预告，展示了游戏场景。此外官方还透露，将于9月26日发布Demo，让玩家有机会参与测详情>>
如果用几个字来形容deft选手的职业生涯，“时运不济，命途多舛”这八个字是最合适不过的，他给我的感觉其实和pray一样，尽管获得过很多的荣耀，但却总是与s赛冠军失之详情>>
原标题：Demo China丨INDEMIND：持续创新，打造硬核AI立体视觉解决方案 2019年9月18-19日，2019 DEMO CHINA 创新中国·未来科技节在杭州未来科技城学术交详情>>
改编自美国探索频道Discovery节目《致命捕捞（Deadliest Catch: The Game）》的同名游戏已上架Steam，目前官方也在kickstarter网站开详情>>
原标题：DevOps 巨头 GitLab 融资 2.68 亿美元，估值达 27 亿美元 知名开发工具提供商GitLab在成为独角兽一年后今天宣布，它从一大批新老投资者那里另详情>>
_contentraw">雷亚游戏PlayStation®4(以下PS4TM)主机游戏《DEEMO-Reborn-》将于11月21日上市，亚洲实体版将于9月23日开放预购。预购内容以普通版与豪华版做区分，其中包含限定详情>>
原标题：华为MateBook笔记本预装Deepin Linux，对微软来说不是个好消息 华为与美国政府之间的斗争仍然远没有结束，华为公司目前距离美国商务部的禁令只详情>>
光荣特库摩在TGS 2019上除了宣布周末开启Nioh 2的公开测试版外，还分享了在展会上可用的Demo版本的额外统计数据。 据光荣特库摩称，在今年TGS的四天时间详情>>
原标题：DeepMind悄咪咪开源三大新框架，深度强化学习落地希望再现 作者 | Jesus Rodriguez 译者 | 夕颜 出品 | AI科技大本营（ID:rgznai100） 【导读详情>>
原标题：Deck13公布《迸发2》新预告片“暴力交响曲” 【9月17日上午消息】发行商Focus Home Home和开发商Deck13公布了旗下动作游戏新作《迸发2详情>>
原标题：LOL职业选手的创意ID：KZ替补辅助更名EDG Deft 随着英雄联盟各赛区夏季赛结束，目前已有23支队伍晋级世界赛，日本LJL联赛目前正在进行决赛，将决出最详情>>
原标题：先尝后买《魂斗罗 RC联盟》发布主机版试玩DEMO 今天《魂斗罗 RC联盟》面向Switch、PS4和Xbox One平台发布了一款试玩demo。 科乐美表示详情>>
今天《魂斗罗 RC联盟》面向Switch、PS4和Xbox One平台发布了一款试玩demo。 科乐美表示，试玩demo将包含单机模式，玩家将在“Damned City - 诅咒之城”中完详情>>
原标题：买表前的纠结 最终购入真力时DEFY 在欧米茄海马和万国飞行员中纠结了很久，最终入了真力时蓝面defy，随手拍了几张图，供大家欣赏。 喜欢折叠详情>>
原标题：9月25日发行 Deck13《迸发2》剧情预告片公布 Focus Home Interactive日前发布了《迸发2》的剧情预告片。在这款由Deck13工作室开发的最新硬详情>>
儿时的回忆《忍者神龟》DEMO测评 详情>>
今日，官方公布了点阵式恐怖游戏《恐怖的世界》PAX/TGS Demo演示，一起来看看。 《恐怖的世界》Demo演示： gsVideo("优酷", "https详情>>
