马上评丨AI换脸术都这么强了，你不害怕吗？

时间：2019-08-31 19:02:08 来源：作者：网络

原标题：马上评丨AI换脸术都这么强了，你不害怕吗？

ZAO换脸APP刷屏:陌陌打造技术曾被用于情色视频

澎湃首席评论员沈彬

摘要：舆论的炮火也不必全面指向“ZAO”本身，“ZAO”不是什么高科技，而是基于开源程序的“低科技”商业应用。但更大的问题在于，这么肉眼难辨、足以乱真的换脸技术居然可能是唾手可得的。

又一个现象级的互联网产品诞生了——8月30日晚间开始，一个名为“ZAO”的AI换脸APP忽然爆火，在朋友圈里刷屏！

用户只需要在APP中上传一张自己的照片，就能将自己的脸替换到周润发、白展堂、玛丽莲梦露、紫薇等明星的头上，而且脸融合效果非常棒，几乎可以以假乱真，你可以和小李子一样叱咤银幕，出现在经典镜头里，也可以和心中的“男神”“女神”同框飙戏……

在兴奋了一阵之后，不少人觉得哪里不对劲儿了：这么强大的“换脸术”会不会被滥用？比如，自己的脸被换到色情视频的主角头上，那真是跳到黄河里都洗不清了。或者，有犯罪分子利用“换脸”技术在视频里，向家属实施诈骗、敲诈……如此完美的换脸技术，简直成了敲诈勒索、毁人清白的利器。

应该看到，这款APP也采取了措施防止换脸被滥用，对用户运用了一般只有金融支付APP才有的“实脸认证”，用户在镜头前要按要求眨眼、扭头，在系统判断你上传的这张照片就是你本人之后，才能进行下一步操作，确保你没有拿别人来换脸。

但是，这种换脸APP搞的“实脸认证”，形成了一个悖论：为了防止头像被滥用，我们在使用这款APP之前要交出自己更多的信息，特别是脸部信息。担心隐私被滥用的我们，被迫将更多的隐私交给了APP……谁来监管APP本身？

APP已经给自己准备好了“甩锅条款”，有心的网友发现“ZAO”的用户协议当中，有“您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”之类霸王条款味道十足的条款。

这等于用户在愉快玩耍这款软件之前，默认自己的换脸视频要被APP“完全免费、不可撤销”地“玩耍”。从法律层面上说，“ZAO”已经打定主意充分利用“避风港条款”，一旦有法律纠纷，将会将责任推给用户上传。

我们还没有习惯“刷脸”时代，更颠覆性的“换脸时代”就来了。事实上，很多新技术、新经营模式产生之后，最先嗅到商机的往往是一些灰色产业，这次AI换脸术也可能难逃此劫了。

怎么保证“ZAO”能保护好这些直接包含用户手机和面部生物信息的核心信息？怎么保证这些“脸”不被不正当“开发”？怎么保证我们的“脸”不被卖掉？

AI换脸术的最早应用就是情色视频。2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，并把情色电影里的女主角换成了盖尔•加朵等好莱坞明星。后来在一片声讨声中，“deepfakes”将这一技术作为开源代码放到了网上，只要是懂一些相关技术的，都可以得到这些开源程序，并且稍加改造就可以使用。

所以，当下，舆论的炮火也不必全面指向“ZAO”本身，“ZAO”不是什么高科技，而是基于开源程序的“低科技”商业应用。但更大的问题在于，这么肉眼难辨、足以乱真的换脸技术居然可能是唾手可得的，甚至可能轻意落到诈骗、色情产业的违法分子手里，这就不禁让人倒吸一口冷气。

人类几十万年来，一直把脸作为最重要的生物识别指标，通过“看脸”来区别你、我、他，然而这个最明确的边界却模糊了。法律有没有做好准备？行政管理有没有做好准备？人心有没有做好准备？

“黑镜社会”正在降临，相关法律和伦理规范、技术规范必须同步出台，这不是杞人忧天。游戏网

责任编辑：