《少数派报告》《疑犯追踪》这样的影视作品或许只能在前些年出现。如果是近几年的影视作品,观众看着就会很「心慌」。
犯罪预防、预测模型、用系统推测未发生之事……这意味着大量的信息会被收集,也意味着你将会被一个未知系统判定是否有威胁。把命运交给未知的感觉,估计没几个人喜欢。
但不喜欢可能也没办法,因为在你不知道的时候,已经有越来越多公司在收集你的公开信息,来从你社交网络的日常内容中判断你犯罪的可能性。
▲ 图片来自:《少数派报告》
Voyager、Kaseware、Aura、PredPol、Palantir,这是一部分正在试图通过社交网络找出潜在威胁的公司,它们中很大一部分还和当地的警察局进行了合作,走在预测犯罪的前列。
从每个人的社交媒体中获得需要的信息是这类公司的核心,他们通过用户做社交网络发布的内容来预估对方是否有犯罪的可能。这类公司的算法并不相同,但基本都在通过人工智能破译用户的线上,从用户分享的内容中判断主体是否已经犯罪、可能犯罪或坚持某种危险的意识形态。
▲ Kaseware 官网页面
这其实不算一个新进展,毕竟在 2012 年就有人将社交网络成为「城市脉搏」。你很难看到一个空间和产品同时容纳如此多的用户,还让他们愿意在上面分享自己的一切。
社交网络的特性为人们寻找目标创作了条件,学生在社交网络寻找受访对象,统计机构在社交网络预测大选结果,也有 AI 侦探想要在社交网络找出罪犯。
因为人人都用社交网络,所以社交网络很多时候可以反应一个人的真实情况。美国密歇根州的众议员 Tyrone Carter 认为警方搜索公共社交网络的行为并没有违背任何的法律,也没有侵犯用户的权利,所以这种预测是可行的。
当你在公共页面上点击发送的那一刻,那个帖子就不再是你的了。人们会因为他们发布的东西而陷入各种麻烦,因为社交媒体是我见过的最大的「自我告密者」。
▲图片来自:Lifehacker
但秘密只有在引导的时候,才会被说出。和洛杉矶警察局合作的 Voyager Labs 在这个过程中就担当了引导者的角色。只是非营利组织 Brennan Center 通过洛杉矶警察局提供的公开信息发现,Voyager 工作也涉嫌种族歧视、侵犯隐私。
Voyager 这类公司的工作方式并不复杂。它会收集一个人社交媒体上的所有公开信息,包括帖子、联系人甚至常用的表情符号。在某些特殊情况下,它会利用这些公开的信息与非公开信息交叉引用,进行进一步的分析和索引。
▲ Voyager 会基于个人社交媒体的参与话题做出判断
通过 Voyager 的服务,警察可以清晰地看到一个人的社交关系。他们的联系是怎样的,他们在社交平台是如何互动的。更进一步,Voyager 甚至可以探测到两个用户之间是否有间接联系(两人都有至少四个相同好友)。
听上去好像只是看看用户在社交网络上做些什么,用作调查的辅佐信息。但事实上,Voyager 不仅收集信息,展示信息,它也会做出判断。
▲ Voyager 会通过社交网络关系链做出判断预测
Voyager 在提交给洛杉矶警局的一份白皮书中就提到了一起袭击案件,该案件具体地展示了平台的做法——AI 在没有人介入的情况下会根据人们在社交网络发帖的内容完成自动审查和分类(分别为用户标记蓝色、橙色、红色三种颜色)。
在具体案例中,枪击案嫌疑人 Adam Alsahli 就因为自己在 Facebook 和 Instagram 上发布的伊斯兰主题照片,被系统判定为「对阿拉伯传统有强烈自豪感与认同感」。因此,Adam Alsahli 在发动具体的攻击前就被 Voyager 的人工智能工具打上了橙色的颜色标记。
这可以是一个成功预测潜在犯罪者的案例,同时也是一个充满「偏见」的案例。
▲ 枪击案嫌疑人 Adam Alsahli 的社交媒体信息,在他犯罪之前就已经被标记为橙色
这些结论真的可信吗?他们是根据什么做出判断的呢?大数据下每个人要如何自证清白?
目前确实有不少数据证实社交网络的内容偏向和犯罪事实的相关性,但这并不是一个 100% 关联的数据。
纽约大学坦登工程学院和全球卫生公共学院发布的研究结果显示,Twitter 上关于种族仇恨言论数量较多的城市,相关的犯罪率也更高;芬兰亦有研究表明,根据二十年的数据,温度每升高 1°C,犯罪活动就会增加 1.7%;美国研究证明,周末晚上的车辆盗窃率激增;被证明过的还有当地足球队意外输球时,家暴事件会增加 10%。
▲ AI 没办法做出 100% 正确率的裁决
但这些并不能证明什么,因为概率和事实是不同的。
即便有相关数据背书,也不能证明在种族仇恨言论最多的城市,夏天周末的晚上就一定会有车辆被盗,炎热天气遇到当地主队输球 100% 就会有更多的家暴案件发生。
类似的犯罪预测系统是根据已有的犯罪事实和研究结果进行反推的,这造成的另一个问题是它充满了「刻板印象」。
图灵奖得主杨立昆就曾表示,当数据有偏见时,机器学习系统就变得有偏见。而具体到单一案例,当机器学习接收到的信息是监狱中男性黑人用户占比较大时,这样的系统可能就会做出黑人男性更容易犯罪的判断。
▲ 杨立昆表示机器学习系统的偏见来自于人
对机器学习来说,「黑人男性更容易犯罪」可能是数据分析的事实,但落在现实中这就会是种族偏见和差别对待。
暗中将用户进行评级,划分哪些更有威胁性,对于有威胁的人进行更密切的追踪和预防就是整套系统的运行逻辑。
类似的创业公司会用算法和人工智能来解释他们处理、分析信息,从而做出判定的过程。尽管目前没有证据证明这种预测是有效的,来自民众的质疑也很多,警察局却依旧想要和类似的平台进行合作。
▲ 对于警察而言,平台的预测服务很有价值
对警察来说,这类工具很有吸引力,如 Voyager 这类平台在社交网络的发现可以提供用户侧写的有效辅助,也可以不错过线上的细微线索。如果仅仅是辅助调查,这就会是非常有效的工具。但工具发展到后期,开始发挥预测犯罪的作用时,也会成为伤人的利器。
经过前些年的狂热后融资后,不少 AI 产品已经进入了应用阶段。但在某些领域,它们依旧是辅助者的角色。
医疗就是一个对于 AI 介入慎之又慎的领域,即便是在进展最快的 AI 医学影像领域,今天的 AI 技术依然无法保证 100% 的正确率,需要人类医生的介入。因为人人都知道,医疗是一个需要近乎 100% 正确率的行业,任何的偏差和错误都可能造成严重的后果。
▲ 现阶段我们可能更需要人类警察
而警务领域同样是一个力求 100% 正确的领域,任何的臆测推断在缺乏证据的支撑下亦会造成严重的后果。一个在社交媒体上发表各种歧视、暴力言论的人可能会被标为潜在犯罪者,有 90% 的可能性进行暴力犯罪,但在他真的做出犯罪行为前,他就是一个普通人。
在总体的数据集之中,我们永远不能忽略每个人都是独立的个体。
相关下载 |
原标题:“听说我要倒闭了?”知名国货“神回复”,热搜上的网友憋不住了 这两天 “蜂花护发素”突然火了 国货老牌蜂花“哭穷”的话题 详情>>
原标题:《我要投资》第三季第2集:筑梦团双双连发珍贵 “直通卡”和“待定卡” 《我要投资》第三季一经开播,就以全新的规则全方位地详情>>
本局比赛,如果是看录像的观众,可能几乎在前4-5个圈都要反复发出一条弹幕:“这圈怎么吃的?”确实,Pero此局之艰难可见一般。那么话不多说,让我们一起来看详情>>
原标题:土味情话预警!为你,我要节约用电 编辑: 宝厷游戏网 详情>>
看到小组赛分组后,C9选手Perkz公布推文,粗心以下:“我要彻底地实现对FPX以及DK的复仇,不甚么比被NA‘踢出’世界赛更具冲击性的了吧?” 抽签佳宾Ja详情>>
原标题:妈妈,我太困了,我要睡一分钟,孩子的心跳就这样永远停了下来 亮亮(化名)是小学四年级学生,除在学校上课外,通常还会参加课外补习班。这些补习班详情>>
活动:线下累充回馈参与条件:活动期间内,累计充值达到对应充值金额即可领取线下礼包活动时间:2021/8/20 00:00~ 2021/8/26 23:5详情>>
原标题:T1击败宿敌GEN,泽元发功害自己人,Faker自信:我要夺冠进S赛 苦瓜原创,翻版必究! 《苦瓜电竞》--让你体验不一样的电竞主播圈! 对于喜欢看LCK赛事详情>>
原标题:T1击败宿敌GEN,泽元发功害自己人,Faker自信:我要夺冠进S赛 苦瓜原创,翻版必究! 《苦瓜电竞》--让你体验不一样的电竞主播圈! 对于喜欢看LCK赛事详情>>
原标题:T1击败宿敌GEN,泽元发功害自己人,Faker自信:我要夺冠进S赛 苦瓜原创,翻版必究! 《苦瓜电竞》--让你体验不一样的电竞主播圈! 对于喜欢看LCK赛事详情>>
我要修仙(赚钱版)活动一、感恩回馈,《我要修仙(赚钱版)》,每天首充追加100%返利!参与条件:单笔充值100元以上可以参与此活动活动时间:永久活动内容:1、活动期间内单日首充100元以上即详情>>
原标题:爹,你保重,我要去办件大事(漫画) 爹,你保重,我要去办件大事(漫画) 作者:吾皇的白茶 事情是这样的.. ``````````````````````````````````````` ``详情>>
我要养狐妖一等绝色怎么出,这个是需要一些数值组合的,只要数值到了就可以开出这个,很多人都不清楚,跟灵气值和相关的魅力也有关,下面就来介绍下我要养狐妖一等绝色如何出。详情>>
我要养狐妖兑换码在什么地方领取,这是新手上线都会问的,福利涉及到开局的进度,萌新上线自然要在意这些的,有着材料的补助才能领先别人一步,下面就来介绍下我要养狐妖兑换码怎么详情>>
我要养狐妖这款游戏大家该怎么玩,相信很多玩家都不清楚,那么大家入门需要注意什么呢,下面为大家介绍我要养狐妖攻略大全。 我要养狐妖攻略大全 给后面的新手玩家一个方向详情>>
我要养狐妖怎么驱逐狐狸?驱逐狐妖方法是什么?游戏在近期已经正式上线了,作为一款养成类的手游,其中有着大量的妖兽等,玩家在家园中经常会遇到一些狐妖,如果不想要这些狐妖可以将详情>>
我要养狐妖兑换码有哪些?2021最新的cdk礼包码有很多,具体的礼包码内容game234小编会分享在下面,玩家可以参考攻略了解清楚最新的兑换码,每一个兑换码中都有很多的奖励,赶紧领取详情>>
我要修仙(赚钱版)活动一、充值返利参与条件:充值达到指定金额即可获得对应的充值返利活动时间:永久活动内容:返利仅限单日累计充值,每日24点清零,第二天重新计算累计:★100-500元返详情>>
原标题:都别拦着,我要吹爆《叛逆者》 文 | 清晏 编辑 | 王卓娇 剧情只剩三分之一了,林楠笙不仅还没成为我党的同志,即便在作出的贡献上,也很大程度局限于详情>>
我要上厕所是一款厕所模拟经营游戏。百种搭配,舒适厕所,随你建造!买下厕所当Boss,厕所装备你来升,厕所收益你来赚,详情>>
Xbox这款公司现在为了收购游戏工作室,并且可以说耗费了超多的资源。并且现在已经受够了超过比如黑曜石、Ninja Theory、Zenimax Media 等团队都被 Xb详情>>
我要修仙(赚钱版)活动一、充值返利参与条件:充值达到指定金额即可获得对应的充值返利活动时间:永久活动内容:返利仅限单日累计充值,每日24点清零,第二天重新计算累计:★100-500元返详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备共同节拍快、福利多特点的脚色表演类手机反常版游戏,依照民间网站数据剖析,还详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备明白福利多、竞争小偏向的脚色表演类手机反常版游戏,依照民间微信数据剖析,还详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备显著高爆率、费钱少特色的脚色表演类手机反常版游戏,依照本网站数据剖析,游戏详情>>
原标题:全世界都在忙着变回小孩,我要勇敢地成为大人 他们天真、单纯,有活力、有好奇心;他们小小的身躯,有大大的梦想; 他们站在自己热爱的世界详情>>
我要修仙(赚钱版)活动一、充值返利参与条件:充值达到指定金额即可获得对应的充值返利活动时间:永久活动内容:返利仅限单日累计充值,每日24点清零,第二天重新计算累计:★100-500元返详情>>
原标题:全世界都在忙着变回小孩 我要勇敢地成为大人 他们天真、单纯,有活力、有好奇心;他们小小的身躯,有大大的梦想; 他们站在自己热爱的世详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备共同晋级快、终点高特质的脚色表演类手机反常版游戏,依照民间网站数据剖析,还详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备鲜明终点高、高权限特质的脚色表演类手机反常版游戏,依据民间微信数据剖析,游详情>>
原标题:今天上班迟到了,因为隔壁公司的姑娘问我要鞋子链接 | 球鞋推荐 现如今,想要入手一双称心如意的球鞋有点难度,不亚于脱单。 尤其是,历经艰辛选详情>>
我要修仙(赚钱版)活动一、充值返利参与条件:充值达到指定金额即可获得对应的充值返利 活动时间:永久活动内容:返利仅限单日累计充值,每日24点清零,第二天重新计算累计:★100-500元返详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备鲜明节拍快、费钱少特征的脚色表演类手机反常版游戏,依照妙手游数据剖析,从封详情>>
原标题:药水哥直播间跪地求饶,看到向佐、向太的回应,死心了:我要没了 苦瓜原创,翻版必究! 《苦瓜电竞》--让你体验不一样的电竞主播圈! 提到如今全网最详情>>
你要上天梯?首先你的水平要在小学生阶段你才能匹配到小学生。 追问: = =天梯单排靠自己也要看队友,前面十排运气不行一样低分。正常详情>>
【07073游戏网攻略】航海王热血航线我要成为万能药回忆点位置在哪?下面07073游戏网网小编就为大家带来航海王热血航线我要成为万能药详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备共同竞争小、终点高特性的脚色表演类手机反常版游戏,依照本网站数据剖析,还正详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备明晰称霸快、报答高特性的脚色表演类手机反常版游戏,基于民间微信数据剖析,还正在预定状态时便深受玩家喜欢,今朝详情>>
》我要修仙最新版下载《《我要修仙》是一款由可盘推出的具备共同节拍快、晋级快特质的脚色表演类手机反常版游戏,依照民间网站数据剖析,妙详情>>
【九游攻略】航海王热血航线我要成为万能药回忆点怎么解锁?下面九游网小编就为大家带来航海王热血航线详情>>