“换脸”争议：ZAO是否打开了潘多拉之盒？“赛博人”该如何自保？

时间：2019-09-05 11:02:49 来源：作者：网络

原标题：“换脸”争议：ZAO是否打开了潘多拉之盒？“赛博人”该如何自保？

整个朋友圈都在AI换脸，“ZAO”火了，律师：这些风险需要注意

自8月30日上线以来，ZAO迅速刷屏爆红，随即陷入舆论质疑。直至9月4日，面对众多争议，工信部约谈了孵化ZAO的公司陌陌，要求其开展自查整改。ZAO面临争议的核心问题是什么？“换脸”是否打开了一个潘多拉之盒？现代“赛博人”该如何自我保护？

8月30日晚间，一款名为“ZAO”的换脸APP在朋友圈和微博爆红刷屏。如APP宣传语所说，“仅需一张照片，出演天下好戏”，用户可以秒变影视作品明星脸，很难不让人心动。

▲换脸软件“ZAO”火了三天就要黄？评分暴跌。视频来源：新京报|我们视频

上线短短两天，ZAO就登上了App Store免费榜第一名。但随即质疑声接踵而至，有法律专业人士指出，该产品涉及侵犯著作权、肖像权、隐私权等诸多法律问题，甚至可能造成完全失控的“生物识别信息”安全问题。

9月3日，ZAO的运营团队在其官方微博发布声明致歉。声明称，ZAO不会存储个人面部生物识别特征信息，不会产生支付风险，公司非常重视个人信息保护和数据安全。

面对众多争议，9月4日，工信部约谈孵化ZAO的公司陌陌。

ZAO面临的争议

“生物识别信息”失控等风险

ZAO引发舆论争议的焦点是隐藏在用户协议中的“霸王条款”，有人士认为，其一方面过度攫取用户授权，另一方面涉嫌侵犯肖像权。

在最初的用户协议中，第6条第1款规定：“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑。”其中的“可转授权”和“可再许可”的权利就很值得商榷，用户同意将自己的肖像授权给ZAO，即便有一天肖像被再次转卖也无能为力。

随后，ZAO多次修改用户协议。在9月3日更新后的用户协议中，ZAO在特别提示中表示，真人验证环节仅为验证上传的照片是否为用户本人，ZAO不会存储个人面部特征信息，并且完全删除了之前被声讨的“ZAO及关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”的内容。

但北京达晓律师事务所主任林蔚认为，该类条款在司法程序中被判无效的可能性极大，用户协议也并非根本问题。他强调，落在用户身上真正的风险是用户一旦提供或让渡，即可能产生完全失控的“生物识别信息”的安全问题。

生物识别信息是指，基于人体固有的生理特性（如指纹、脸象、虹膜等）和行为特征（如笔迹、声音、步态等），可用于个人身份识别和鉴定的信息。而ZAO收集的静态和动态的脸象即是典型的生物识别信息，属于敏感的个人生理特征信息。正因为其难为一般人所更改，所以被广泛用于身份认证、交易和支付环节，如该信息一旦泄露，势必给用户带来持久和难以消除的影响。

深度伪造技术

“换脸”打开的潘多拉之盒

ZAO所用的深度伪造（Deepfakes）技术是AI深度学习应用于脸象识别和应用领域的一个分支。“换脸”常被应用于电影特效制作，在美国好莱坞已经存在了20多年，本身并不新奇。将“换脸”推到风口浪尖的是近年来出现的一系列融合了深度伪造技术的“假视频”。

2017年12月

美国论坛Reddit上的用户“Deepfakes”发布多段伪造名人色情视频，其中包括“神奇女侠”盖尔·加朵和“赫敏”艾玛·沃森。Deepfakes借由AI技术近乎完美地实现动态换脸，引发了大量讨论和抨击，最后以账号被封告终。

2018年01月

可实现“一键换脸”的FakeApp的软件上线，其制作的视频内容千奇百怪，包括恶搞美国总统特朗普，或是将自己的脸贴到好莱坞明星上。

2019年02月

B站Up主“换脸哥”通过Deepfake修改了94版《射雕英雄传》的视频片段，将朱茵的脸换成杨幂的脸，视频蹿红网络。随后，“换脸哥”发布微博称“及时下架了相关视频”。

2019年06月

一款名为DeepNude的App宣称能实现“一键脱衣”，只要给它一张人像照片，等待30秒，就能得到一张裸照。由于风险超出可控范围，其开发者在上线几天后便匆忙下架了该产品。

法国哲学家鲍德里亚认为，“仿真”是被代码主宰的当下时代的主要方式，通过一系列的仿真技术，人们在缺席于某种场景时，能够获得临场的感官享受和神经的快感。ZAO这类“换脸”娱乐软件正是迎合了现代“赛博人”在虚拟世界获得廉价感官刺激的需求。

由一系列的“假视频”风波看来，“换脸”已然打开了一个潘多拉之盒，人工智能技术的伦理问题再次被广泛关注和讨论。过度收集数据、侵犯个人隐私、危及财产安全……科技在拓展了人类可能性的同时，无疑也能够让人们作茧自缚。

可能的防范对策

“赛博人”该如何自我保护

面临Deepfake及人工智能可能被广泛滥用的局面，除了靠企业自觉守住“不作恶”的底线，相关的防范技术、监管规制等应尽早完备。

目前，国外已有一些可借鉴的经验。技术引发的问题可部分交给技术来解决，Deepfake会在篡改视频上留下可预测的伪造痕迹，而深度学习算法能够检测到它们。对于Facebook这样的大平台来说，他们也会用自己开发的算法来过滤假视频。美国国防部高级研究计划局（DARPA）已经专门成立“媒体取证”项目（The Media Forensics）来解决Deepfake带来的问题。

今年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。同时，诚如马里兰大学法学教授丹尼尔·希特龙在听证会上总结的：对深度伪造的内容不能一竿子打死，很多深度伪造的合成媒体内容具有存在的正当性，而对影响国家安全、公共安全、民主政治的虚假信息才需要加强监管和规制。

针对ZAO这次引发的恐慌，中国信息安全研究院副院长左晓栋建议，要加快建立人工智能算法的安全评估制度，对不同场景下AI“换脸”技术进行评估，以解决相关技术滥用问题。

日前，全国人大常委会审议的《民法典人格权编(草案)》里，正式加了一条：任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。如果草案通过了正式的立法流程审核，民法典正式颁布施行，那么未经同意对明星或其他公众的肖像进行处理，就涉嫌违法了。

最后，传媒君提醒大家：使用任何一款新型软件前一定要认真阅读用户协议，保护好自己的权益。

本文作者：张孜蕙游戏网

责任编辑：