原标题:内容审核基础:审核方式、流程与审核维度
对于资讯类产品和内容内产品来说,内容审核是必不可少的环节之一。借助人工智能的发展,可以让机器替代一部分审核工作,但由于内容的复杂性,人工审核必不可少,而且还有其他需要考虑的点。这篇文章,作者为我们讲解内容审核的方式与流程,希望能对你有所帮助。
何为内容审核?
简单来说就是:对用户在社交平台上上传、发布或共享的内容(文字,图片,音频,视频)进行审查。
其主要目的是对低质庸俗的内容进行过滤筛选,从而生产高质量的内容、防止降低用户体验、保持良好的内容调性。
而在这个过程中,平台会对于内容有一个专业的标准作为参考,这个时候有一个很大的问题就是人工筛选效率低,而且成本大。
所以很多内容平台采用了算法进行过滤,通过人工和算法的有效结合来提升效率。
经过过滤后的内容基本上能保证无害,即使质量不高,但也不存在风险问题。这时企业就会面对选择是先发后审还是先审后发:
“先发后审”和“先审后发”的适用场景:
不管是什么内容的审核,都应该包含以下四个基础模块:机器审核、人工审核、用户投诉审核、结果复审。
1. 机器审核
是按照制定好的规则或机器学习算法对内容进行审核.
通常,成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理。确定有问题的会被自动删除,难以判断是否有问题的会被标注,进入人工审核程序。
2. 人工审核
虽然用户投诉审核和结果复审大多时候也是人工审核,但这里所说的人工审核,特指审核机器无法判别的内容,通常占平台内容数量的比例不超过5%.
但对于一些大型的内容平台,绝对数量已经很多了。在内容爆炸的时代,我们看到许多平台在全国都有多个审核中心,每个审核中心的员工数量都成千甚至上万。
3. 用户投诉审核
是前两者的弥补,有很多违规内容以前没有出现过;所以不在规则可以过滤的范围内,或者非常隐蔽,规则难以严格过滤。
用户的投诉是发现新问题的重要渠道。通过知乎的危机事件,我们更应该重视对投诉的审核,并及时据此对机器审核做出补充。
4. 结果复审
通常采取抽查方式,比如通过复审机器删除的内容,看规则或算法是否过于严格;比如通过查看人工删除和通过的内容,看员工的工作是否按要求执行;比如通过内容的整体巡查,看是否存在新的问题未被注意到。
二、审核流程
具体流程,以下图为例:
三、审核的四个维度
这里一般都是对四个维度进行审核,关键字审核,用户发布次数限制,重复内容过滤和白/黑名单用户。
1. 关键词审核
词语过滤的环节,关键词主要分为三类:
1)禁止关键词
只要匹配到这个词,内容就被自动删除或禁止提交。通常只有极少数词会被纳入禁止关键词,比如明确的色情、邪教以及广告的专属关键词。
2)审核关键词
这是最常见的关键词种类,只要匹配到就会自动进入后台进行审核,文章中的关键词会被高亮并罗列出来,有助于审核人员快速判断。审核关键词也应该尽量是专属关键词,以防止太多内容被拦截到后台。
3)替换关键词
在许多平台,我们会在文中看到莫名的号或字母缩写*,这可能不是文章作者写的,而是这个词被系统自动替换。平台不希望出现这个关键词,但用别的代替读者通常也能读懂。比如一些政治、宗教、不文明用语类词语,都有可能被自动替换。
当然,管理员在添加关键词时,很多时候并不是直接把关键词添加到后台。否则用户用很简单的方式就可以避过关键词过滤,比如在关键词内加一个空格,系统就难以匹配到。
所以,一般后台都会支持限定符{x} 以限定相邻两字符间可忽略的文字,x 是忽略的字节数。在Discuz!网站后台有明确说明,如 “a{1}s{2}s”(不含引号) 可以过滤 “ass” 也可过滤 “axsxs” 和 “axsxxs” 等等。
对于中文字符,若使用 GBK、Big-5 版本,每个中文字符相当于 2 个字节;若使用 UTF-8 版本,每个中文字符相当于 3 个字节。
另外,关键词还可以支持正则表达式,来匹配具有一定模式的关键词。比如”/1\d{10}([^\d]+|$)/”(不包括引号)用来匹配手机号码。正则表达式的内容过多,大家有兴趣可以搜索学习一下。
2. 用户发布次数限制
主要限制一名用户无限制地发送评论。
对这种情况可以设置同一用户一分钟内最多发送一条评论;一小时内最多发送10条评论,一天最多发送三十条评论,评论次数如果超出时则弹出toast“发言太多累了吧,请休息下”的提示。
其实这个限制上线后,发现发广告的人会不断注册新号来规避这个问题,后续可以考虑再加上。新用户需注册多长时间才可发布评论,或需绑定手机号才可以发布评论这些严格的条件。
3. 重复内容过滤
这种一般都是对于发广告的。
对比时去掉除汉字外的任何符号,如“抖丶音”、“快aabb手”,对比时用“抖音”“快手”;将评论与同一用户上条评论作对比,10个汉字以上的若与其中一条重复率达70%(20,60%;30,50%)则弹出toast“请不要发布重复内容”;同时将评论仅与评论库最近发布50条的评论作对比,20个汉字以上的若与其中一条重复率达80%则机审失败(30,70%;50,60%);
在对比重复内容时一定要去掉一些无关的符号。因为很多小广告喜欢加空格,逗号这些。他们也通常备用好几条文案,可以将评论库的拿出来对比;这样也可以规避他们换号,换文案的问题。
4. 白名单用户,黑名单用户
白名单用户、黑名单用户需要有个可编辑的后台,可随时增减;若同一用户一天内机审失败的评论超过10,则自动列入黑名单。
白名单的用户不受发布次数限制,但内容需要检查广告词、敏感词、屏蔽词,如果一天内发布的评论超过10条机审失败,也自动列入黑名单。列在黑名单的用户发布评论时,弹出toast“您暂时无法发布评论”或机审直接失败。
最后补充下,其实没有对IP进行限制是因为在公共区域的wifi好像IP是一样的,尽管非常希望处理掉垃圾评论这一问题,但我还是希望在不影响到普通用户的前提下。
以上基本是一个内容审核都需要了解的点了。
本文由 @咩咩咩 原创发布于人人都是产品经理。未经许可,禁止转载
题图来自Unsplash,基于CC0协议游戏网
相关下载 |
原标题:这部谍战剧有点不一般!《秋蝉》打开谍战剧新维度 江苏卫视用一部《秋蝉》自5月4日晚登陆幸福剧场以来,5月5日CSM59城收视率达1.54%,收视率持续详情>>
最近关于拳皇14的最终boss信息放出,这个角色来自另外一个维度,而且具有非常强大的力量,对很多玩家来说是个不小的挑战,下面boss视频有兴趣可以看看。 Atlus日前又发布了详情>>
原标题:速看!美团“信任分”开始内测 四个维度影响你的得分 中新经纬客户端4月13日电(魏薇)不论你抱有何种态度,信用社会都向我们走来。继阿里推出芝详情>>
原标题:《冰糖炖雪梨》收官,四大维度看“甜宠剧”制胜秘诀 这是鲜喵的第 1286 篇吐血原创 喵族码字员:左柚 《冰糖炖雪梨》完美收官。 作为一部将详情>>
导 读 DNF维度定位项链胸铠属性怎么样,DNF国服体验服近日也是更新了100级版本,国服更新也是指日可待,估计是怕大家宅在家太过无聊,让大家早体验到100级,虽然韩服早就更新了100级详情>>
《控制》首个DLC“The Foundation(基界维度)”已经正式上线,它包含全新故事内容和支线任务、全新武器以及模组。然而由于存在一些问题,昨天该DLC无法在详情>>
【导读】《控制》首个DLC“The Foundation(基界维度)”已经正式上线,它包含全新故事内容和支线任务、全新武器以及模组。然而由于存在一些问题,昨天该DLC无法在Epic平台购买。今详情>>
原标题:突破单维度战场,《灰烬战线》独创陆空双维度打击 2014年,二次元玩家圈层中掀起了一股军武拟人题材的浪潮,自此之后,军武拟人题材产品层出不穷。详情>>
原标题:五个维度 看成都为何逆势增长 详见03版 游戏网 详情>>
导 读 DNF维度冲击臂环属性怎么样,DNF国服体验服近日也是更新了100级版本,国服更新也是指日可待,估计是怕大家宅在家太过无聊,让大家早体验到100级,虽然韩服早就更新了100级版本详情>>
原标题:产品经理的核心能力维度是什么? 核心竞争力是指能够为企业带来比较竞争优势的资源,以及资源的配置与整合方式。随着企业资源的变化以及配置详情>>
原标题:用户生命周期,只分引入期、成长期等五个维度就够了吗? 有很多同学留言想看用户生命周期的分析,今天它来了。用户生命周期管理,是系统化运营和详情>>
原标题:华奥电竞张梓:拓宽电竞维度,目标“让电竞属于电竞” 出品|人民电竞 作者|王思奇 编辑|王晨 题图|NEST “现在的电竞赛事里,有多少观众是来看明星详情>>
原标题:三个维度谈游戏服务,玩家的需求存在多大的价值空间? 20世纪初,伴随着百老汇剧院的兴起,以“百老汇”为中心的餐饮、交通等服务型产业也在不断完详情>>
原标题:服务升级背后是全维度革“心” 作为成都市场的第一家奔驰4S店,成都仁孚扎根在成都最老牌的机场路汽车商圈已经有19个年头了。如今,仁孚中国详情>>
原标题:历史时间的维度与奥秘——读《中国古代纪时考》 作者:周凌峰(媒体人) 唐玄宗天宝初期,做过一些返古的变革,最让人奇怪的是,玄宗将“年”为“载”,大唐详情>>
原标题:从合作店模式入手,维度积木构建硬件+内容+自有平台探索少儿编程市场 众所周知,在线教育领域,用户在线下的品牌认知感和体验感是线上无法替代的详情>>
原标题:健身训练后,做到“2个要、2不要”,让肌肉维度快速上涨 原创内容,擅自搬运者必究! 健身与我们日常的跑步、游泳以及打球一样,作为一项日常的运动,详情>>
原标题:中外学者聚谈人类航海的维度与面向:航海如何改变世界历史? 航海联通了世界,也改变了世界。在航海形成的网络中,不仅有人口的流动、商品的交换、详情>>
原标题:详解供应链管理的三个维度 | 投资者说 图片来源@视觉中国 文 | 青山资本,作者 | 周剑红(青山资本高级投资经理) 很多人提到投消费便认为是详情>>
原标题:人工智能如何发展?业界:只在IQ维度迭代还不够 从只能根据简单语音指令搜索关键词、查询天气和启动应用,到可以帮助用户准确找到某年某月某详情>>
原标题:游戏论·历史的维度丨规则与虚构交织的人类文明发展 【编者按】 电子游戏从来不只是有关于消遣。尝试对它加以观察,人们可以投以不同的视角:有详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2010-11-27更新日期:--文件大小:9.0M游戏语言:英文英文名称:Spider-Man:ShatteredDimensions游戏制作详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2010-11-28更新日期:--文件大小:3.0M游戏语言:英文英文名称:Spider-Man:ShatteredDimensions游戏制作详情>>
中文名称:我的世界发布日期:2014-09-24更新日期:--文件大小:1.2M游戏语言:英文英文名称:Minecraft游戏制作:MojangStudio、Microsoft游戏详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2010-11-28更新日期:--文件大小:--游戏语言:英文英文名称:Spider-Man:ShatteredDimensions游戏制作详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2010-12-08更新日期:--文件大小:--游戏语言:英文英文名称:Spider-Man:ShatteredDimensions游戏制作详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2011-01-01更新日期:--文件大小:4.0M游戏语言:简体中文英文名称:Spider-Man:ShatteredDimensions游戏详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2011-02-05更新日期:--文件大小:5.0M游戏语言:简体中文英文名称:Spider-Man:ShatteredDimensions游戏详情>>
中文名称:我的世界发布日期:2014-09-24更新日期:--文件大小:1.2M游戏语言:英文英文名称:Minecraft游戏制作:MojangStudio、Microsoft游戏详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2010-11-26更新日期:--文件大小:7.3G游戏语言:多国语言英文名称:Spider-Man:ShatteredDimensions游戏详情>>
中文名称:蜘蛛侠:破碎维度发布日期:2011-01-02更新日期:--文件大小:5.9G游戏语言:简体中文英文名称:Spider-Man:ShatteredDimensions游戏详情>>
中文名称:几何战争3:维度发布日期:2014-12-10更新日期:--文件大小:74.9M游戏语言:英文英文名称:GeometryWars3:Dimensions游戏制作:Luc详情>>
标签:轻松刺激冒险挑战趣味全维度康茄舞战斗消灭几何生物类型:动作冒险语言:英文更新:2018/01/3013:06:25大小:未知系统:WinXP/Win7/Win8/Vista游戏信息为您推详情>>
智能手机发展至今性能是越来越强,同时也带动了手机游戏行业的快速发展。对于当代年轻人来说,手机游戏不仅仅是一项娱乐,更是人与人之间新的沟通工具。三五好友约战一起,即使身处各方,亦能同乐其中。 详情>>
10月27日下午,以“创造更好的世界”为主题的网易《我的世界》开发者大会暨周年庆在乌镇盛大启幕。会上,《我的世界》中国版策划总监周宇航公布了集内容制作与分享为一体的MC详情>>
资料图在反恐精英游戏大火多年后,老玩家依稀记得在反恐精英之中有两把最基本款,同时也是得到更高级枪械之前的详情>>
游戏名称:无限法则英文名称:RingofElysium游戏类型:动作射击STG游戏制作:TencentGames游戏发行:TencentGame详情>>