原标题:全球首例!移动材料上实现动态对抗,这件T恤让你在AI眼皮下隐身
大数据文摘出品
作者:刘俊寰
当迎面走来一位穿着白T恤的男性和一位穿着黑T恤的女性时,如果我们从AI摄像头中观察,会惊讶地发现画面中只有女性的身影。
别担心,这并不是内部程序的性别歧视,问题出在衣服上。
当仔细观察这位男性穿的白T,第一印象是怪丑怪丑的,再看看,T恤上印有千变万化的色块,不过和普通T恤也没什么大的差别。
这就是你轻敌的地方了。
别看这件T恤设计得不怎么入眼,来头却不小,这是由IBM、MIT和东北大学的研究人员共同设计的,当你穿上这件T恤的时候,在AI摄像头看来,你就能神奇地和背景融为一体,就这么消失在了摄像头中。
破案了!原来《猫和老鼠》中,Jerry的那瓶隐身墨水就是被他们“偷”走的。
由于新冠疫情,全球各地都加大了AI摄像头的部署力度,人们的日常生活处于无时无刻被监视和追踪的状态,在这样的大趋势下,如何更好地保护自己的面部信息,这件T恤就是答案,毕竟,当你整个身体都“消失”在摄像头中,又何来面部信息一说呢?
东北大学电气与计算机工程助理教授Shelley Lin表示:“深层神经网络非常强大,但也十分脆弱。当穿上T恤,深层神经网络很可能无法在图像中识别你。”
说了这么多,来看看这件T恤的“卖家秀”:
emmm文摘菌想说,道理我都懂,但是能把T恤设计得稍微再好看一些吗?
首个实现动态对抗攻击的竟然是这件T恤?!
说到对抗模型的建立,很多人可能对此不屑一顾,这不很早就有了吗?
那我们就先来看看目前的部分战绩:
的确,这些对抗模型效果很好,近两年的发展似乎也还挺顺利。
但是,文摘菌要提醒的是,大家可能还混淆了一个概念,上述两例都是在静态材料中生成的对抗性攻击,如果想要在视频上进行动态对抗,困难指数就得加倍。比如,在设计这件T恤的时候,研究人员就必须考虑,T恤在穿戴者移动时会起皱和折痕,否则就会直接影响到对抗效果。
卡利亚里大学助理教授、第一个对抗性示例的创建者Battista Biggio说:“对于物理攻击,真正的挑战是在整个视频持续时间内保持未被发现的状态。”Biggio开发的首个对抗性系统成功地欺骗了垃圾邮件检测程序,“当检测在每一帧中进行时,要始终保持未被检测到要困难得多”。
为了实现动态对抗,研究人员使用了Lin所说的“变压器(transformer)”,这是一种测量T恤运动方式随后将其映射到设计中的方法。
通过专门研究两个通常用于训练目的的对象识别神经网络YOLOv2和Faster R-CNN,团队发现,增加像素噪声会使AI混淆身体区域,从而使穿上T恤的人在AI摄像头下“隐身”。
随后,研究人员记录了一个穿着棋盘格图案T恤的人走路,跟踪棋盘上每个方块的角的变化,从而准确地绘制出了人移动时T恤的起皱规律。当整个模式建立起来之后,针对YOLOv2的对抗能力从27%提高到了63%,针对Faster R-CNN的对抗能力从11%提高到52%。
基于此,全球首个在移动材料上实现动态对抗的设计就创建成功了!
人们能借此重获隐私主权吗?
这种对抗攻击的原理,其实和深度神经网络的训练是同宗同源的。
我们都知道,深度神经网络通常用于对图像、声音或者其他输入进行识别和分类,要实现精确识别,研究人员就要用上百万的示例训练这些算法,直到系统最终能辨别个人的相貌和声音等。
同时,反过来说,既然我们知道了如何训练特定网络,那我们也就知道了如何反向训练特性网络,以生成相应的对抗式识别模型,比如让系统将熊猫识别为长臂猿。
当我们深入到识别过程中,神经网络会在需要识别的人物或事物周围绘制一个“边界框”,随后再为该对象分配标签。也就是说,只要能找到神经网络的边界点——在AI看来某个物体是否为该物体的阈值,就足以创建可混淆AI分类和标签系统的设计。
之前,Lin和同事在研究一种用深层神经网络训练的物体检测器,利用这种检测器能快速并准确地标记视频中的“人”、“马”或“伞”等,但他们想借此发现在深度神经网络中存在的漏洞,“未来,希望我们能够解决这些问题,从而不会欺骗深度学习系统”。
这件T恤就是成果之一。
对于这件能保护人们信息安全的T恤,文摘菌已经疯狂想要入手了。但Lin对此表示,在现实中不太可能看到这些T恤,她解释道:“我们仍然很难使它在现实世界中正常使用,前提条件是,我们必须知道检测算法的所有细节。因此这件T恤并不完美,这里那里可能都存在问题。”
在总结AI屡屡失利的原因时,谷歌AI工程师François Chollet表示,“深度神经网络十分脆弱,这无法从根本上解决”。
不过,克服这些缺陷的方法也还是存在的,研究人员需要额外增强模式匹配,例如,让AI自己探索世界,编写自己的代码并保留记忆。一些专家认为,这类系统将成为未来十年AI研究不可忽视的一部分。
这件T恤的开发也标志着AI识别面临着越来越强的危机感,人们或许能在信息隐私方面逐渐重新获得主权。
相关报道:
https://news.northeastern.edu/2019/11/13/this-t-shirt-could-make-you-invisible-to-deep-neural-networks/
https://www.wired.co.uk/article/facial-recognition-t-shirt-block游戏网
相关下载 |
原标题:杭州男子吃完猪蹄休克差点没命!这件事千万不能做 【杭州男子吃完猪蹄休克差点没命!这件事千万不能做】杭州的王先生,最近因为吃了放在冰箱一星详情>>
原标题:KPL开创马超全新玩法,这件1950的装备是关键,学会轻松连胜上王者! 相信王者荣耀的玩家们对于马超这个英雄耳熟能详,作为上赛季最强边路的它,在排详情>>
Uzi是我们LPL的代表人物,同时他也是世界顶尖的ADC选手,雅加达亚运会英雄联盟表演赛,Uzi帮助中国队拿到了冠军,可喜可贺。去年S9世界赛,RNG在小组赛的详情>>
原标题:DNF:不愧是最强3件套!水果3配上这件神话,伤害堪比改恶5 在现如今的DNF版本中,虽然大家都在追求军神,但神话装备更多的是可遇不可求。不到千分之详情>>
原标题:盘点暖暖最难抽到单品,李尔里德的球不算啥,这件抽到才真欧 闪暖中各大套装的大裙子一直都是比较难获取的,可能每个部件都齐了就差大裙子。活动详情>>
原标题:拉是拉不住的……女司机拉着轿车一路跑,只因下车前没做这件事! 车自己跑了?跑了?跑了? 这样“离奇”的一幕 就发生在上海中环 今天,这则视频在网详情>>
原标题:“肉马超”KPL首秀表现惊艳,能打能抗,这件“1950肉装”是核心 2020年KPL春季赛常规赛第8周比赛已圆满结束,最后1个比赛日的第2场比赛,LGD大鹅又详情>>
一、在减肥这件事上,我老婆有一个朴素简单的理想:半年内自己瘦十斤,如果实在实在做不到,退一步也行,闺蜜胖十斤就可以。 二、老婆和我一起去逛街回我来发现掉了几详情>>
原标题:中国百年老厂"求"得一株「黄金棉」制成这件国棉T恤,穿一夏不想脱 眼下这个时节,就是乱穿衣的季节。 有的人已经短袖短裤小短裙,有的人还大衣秋详情>>
原标题:倪光南:“新基建”风口下,这件事尤为重要… 在抗击新冠肺炎疫情斗争中,新一代信息技术在多个领域发挥了重要作用。 疫情之后,信息技术行业的发详情>>
原标题:UZI夏季赛加入IG是假消息!IG教练辟谣:我都不知道有这件事 前段时间,因为IG在季后赛遭遇了两连败后,IG新AD选手puff受到了很多的质疑和诟病,不少人详情>>
原标题:这件T恤,越穿越不过时 我深深相信衬衫和T恤是当代流行产业中,最天才的发明,它也是现今服饰造型的基础。——Franco Moschino “标新立异”这详情>>
原标题:奇迹暖暖:历年五一套装合集,唯一联动已成绝版,这件真的赞 从16年开始,奇迹暖暖几乎每年五一前后都会出活动,活动形式也都是大同小异,基本都是通关详情>>
北京日报客户端记者从北京市市场监管局了解到,从5月1日起,本市将重点在农贸市场、便利店、超市等商品零售场所,开展为期3个月的塑料袋专项整治行动,对销售详情>>
还有不知道《轩辕剑:剑之源》上线时间的少侠吗?没关系,小雪再给大家重复一遍: 《轩辕剑:剑之源》4月28日全平台正式上线啦!!我们的首席躺玩导师详情>>
还有不知道《轩辕剑:剑之源》上线时间的少侠吗?没关系,小雪再给大家重复一遍: 《轩辕剑:剑之源》4月28日全平台正式上线啦!!我们的首席躺玩导师详情>>
原标题:【潮流】VOL.20 爱了爱了 春天穿这件卫衣又酷又甜美 【环球网时尚频道 王慧】因为疫情原因,漂亮的小仙女们在家都憋坏了吧?春天到了,现在已经详情>>
原标题:充电这件事,什么时候才能不那么烦人? 充电,已经快成为当代人生活中头等麻烦事。 现代都市,扫地有机器人,洗碗有洗碗机。买个带自动喷水烘干功能详情>>
原标题:不只西装外套,朴敏英的这件夹克也是Celine粉不容错过的单品! 由Hedi Slimane掌舵的Celine换上了截然不同的风格,不仅打造出各种趋势,更出现不详情>>
原标题:这件衣服 是为时髦人准备的 ● 春夏交替季节,我们非常推荐加厚短袖,不仅更特别时髦,而且能应对不够稳定的天气。各式各样的 短袖打底近几年在详情>>
原标题:老人不慎落水,身上这件衣服帮了大忙 4月4日,江苏南通。一位70多岁的老奶奶不慎落水。据江苏电视台报道,老人落水后,身上穿着羽绒服,在水中有一定详情>>
1、老公是个很有骨气的男人。那天把他惹生气了,怎么也不理我,后来自己跑出去了。给他打电话,接通了:“对不起,您拨打的用户不想理你。”我苦笑不得,说了半天好话,他反详情>>
原标题:还珠三:皇上为啥没以前喜欢小燕子了,不是因为知画,而是这件事 对于还珠格格第三部,很多人都是不喜欢的,甚至有一些人,都不愿意承认这一部,是还珠格详情>>
2020 年,MCN 机构需要的,不仅仅是流量。 来源;极客公园 作者:包校千 疫情期间,茅台镇的酒都不好卖了。 连续五天,小强在后台看到的日订单一直在两位数徘徊详情>>
原标题:为了这件事,河北发布致全省农民公开信 眼下正是春耕备耕时节,也是清理农田残留地膜的关键时期。4月1日,河北省农业环境保护监测总站发布致全省详情>>
原标题:戴不戴口罩这件事 西方媒体和学者终于看不下去了 截至3月29日,美国新冠肺炎确诊病例已经超过12万例,美国17地宣布进入“重大灾难”状态。而详情>>
在S18赛季末,很多玩家都在努力的冲分,不过想要在赛季末打上一个好的段位,光有实力是不行的,毕竟在赛季末上分的玩家这么多,如果大家不玩强势的英雄或者是玩强势的套详情>>
原标题:广州再发通告:3月8日0时后境外来穗人员明天前须主动做好这件事! 3月22日,广州市政府网站公布州市新型冠状病毒肺炎疫情防控指挥部关于加强境外详情>>
前言:外圈刮,内圈烫,黑切深渊减双抗,日炎反甲来护体,打我等于打自己。相信很多小伙伴们对于这句话非常的熟悉,这句话是现版本日炎加强后肉坦流诺手玩法的概括。诺手详情>>
原标题:把衣服穿得更出彩,这件单品必不可少! 晚上好啊~ 这段时间把春装、春鞋,春天的包包、春天的小物等能想到的东西都写了一圈,盼望着盼望着,广州入详情>>
原标题:迎接春天,这件时髦利器坚决不能少! 天气逐渐转暖,冬天的高领毛衣也逐渐被大家收起来了吧~▼ 取而代之的大概是各种低领上装~虽然低领显脸小还详情>>
云顶之弈S3即将来袭,前不久英雄联盟官博也是发出了有关S3各种羁绊的介绍,总体上来看,S3的云顶之弈会更加有趣,可玩性也是提高了不少。因此,小伙伴们赶紧储备一些S3详情>>
触乐夜话,每天胡侃和游戏有关的屁事、鬼事、新鲜事。 图/小罗 玩游戏时,我们总会吐槽一些常识性的“不真实”元素。像是一些射击游戏里的“喘气详情>>
前言:最近这一段时间,Theshy也是在韩服疯狂地RANK。近期更是研究了一套"血刀流"滑板鞋,也是引起了众多LOL玩家们的关注,这套战法的滑板鞋对线期间极其强势,绝大多数详情>>
原标题:在找游戏陪练这件事上,有人一年花了三百万元 图片来源@视觉中国 有钱人的快乐我们永远不懂。 2020年1月24日-2月29日期间,一位22岁的上海小详情>>
原标题:穿上这件单品,才算拥有春天! 宝贝们晚上好! 最近我刷到了这组由MCB女王大人出镜的Zara2020年春夏针织系列的lookbook,还真是有被惊艳到(看图一,真详情>>
原标题:这件单品,可以点亮所有的基本款! 晚上好啊~今天是久违的包治百病栏目。 昨天,著名的“不爱买包的”崔斯坦非常阴险地问我:“你年前新买的包包,自详情>>
在s9结束之后,拳头对接下来的s10赛季做出了巨大的改动,其中包含有地图与装备等等。在最近一次的版本更新中,拳头对上单装备进行了调整,其中日炎作为肉坦装备最为亮详情>>
原标题:LOL:S10赛季迎来改动,上单首选这件装备,肉坦也成AD的噩梦 在s9结束之后,拳头对接下来的s10赛季做出了巨大的改动,其中包含有地图与装备等等。在详情>>
大家好,经常看英雄联盟直播的朋友们一定对PDD很熟悉了,英雄联盟的领军级人物中,PDD绝对算一个,已经为LPL输送了多少年轻且优秀的职业选手,现在又成了当红大主播,PDD详情>>