大部门产物的审核机制和 *** 相对简朴粗暴，对付“误发敏感内容”的用户而言十分不友好，甚至有推卸责任的“嫌疑”。本文就来思考一下反垃圾计策下的体验优化可以怎么做呢？

无论任何形式的互联网产物，用户宣布内容的时候，都逃不外一层屏障——内容审核。

内容审核是产物反垃圾计策下的产品，是对产物内容的风险把控，淘汰产物中呈现的“垃圾”信息，净化 *** 生态情况。

这种法子对付大情况而言是必需的，可是大部门产物的审核机制和 *** 相对简朴粗暴，对付“误发敏感内容”的用户而言十分不友好，甚至有推卸责任的“嫌疑”。

那么接下来就可以一起思考一下，反垃圾计策下的体验优化可以怎么做呢？

01 观念解读与配景阐明

反垃圾计策，实际上就是对 *** 出产内容举办审核，识别、删除不切合《 *** 信息内容生态管理划定》的文字、音频、视频等内容。

内容审核 *** 今朝通用的是AI+人工审核的 *** ，详细的办理方案不尽沟通。AI通过将用户内容与敏感词库中的要害词举办比对后举办识别、剔除可能克制操纵；AI可以识别绝大部门内容，晋升审核整体的效率；可是对付视频内容等呆板未进修到的内容，仍需要人工审核去把控，可能对用户的申诉内容举办人工过问和处理惩罚。

今朝内容审核办理方案也许多，譬喻网易易盾、百度大脑，以及字节跳动开拓的灵犬反低俗助手小措施等等。

（图片来历：https://dun.163.com/product/censor-system?from=baiduP_FLJ_CP6026）

（图片来历：https://ai.baidu.com/solution/censoring?track=cp:ainsem|pf:pc|pp:chanpin-neirongshenhe|pu:neirongshenhe|ci:|kw:10001733）

（图片来历：灵犬反低俗助手微信小措施）

02 反垃圾计策所面对的的问题

对付内容消费的产物而言，反垃圾、风控是产物安详的担保，这些计策是产物正常运营的保障。可是今朝各个产物的内容审核机制差异，处理惩罚和应对方案也存在差别，这就导致一系列的操纵与体验问题存在。

接下来的内容主要以用户出产本钱更低的“文字”内容举办阐明。

扎克伯格认为，AI是内容审核的谜底。毋庸置疑，面临海量的内容，操作AI算法举办过滤和风控是更优的选择。可是选择事后，各个产物面向用户的办理 *** 是差异的。

较量简朴粗暴的 *** 就是操作AI举办监测和删除，可是这依赖于强大的敏感词库与呆板进修本领。这种内容审核本着近似“劣币驱逐良币”过滤机制，将一切名字敏感词库的词汇举办克制。这种做法确实可以阻距离大大都的不良信息在平台上呈现，但同时也会呈现许多让人无奈的环境，譬喻用户本想上传一段诗歌评论：

（寻找到下段文字中的敏感词，看看你是否具备火眼金睛？）

人们可以活着界上走来走去，但无论走到那边，都依然是围着自我在转，好像永远无法真正地走出孤傲的自我，抵达此外心灵。而正如黑夜总会来临一样，人也终究会分开这个世界，糊口布满着各类百般的大概性，或幸福或疾苦，或繁华或贫穷，唯有灭亡是每小我私家无法逃避而不得不接管的大概性。

洋洋洒洒一大段，可是宣布时却被拦住了，系统提示有敏感词，无法宣布。

这个时候用户就会懵了，只提示了有敏感词，可是敏感词是哪个却不奉告；好不容易写了这么一大段，居然又发不了……

（图片来历：笔者自绘+ *** 心情图）

这种严格的内容审核看似玩笑，可是卖力浸染在用户本身身上的时候，对付普通用户而言的伤害是无形的。这种逻辑只是以一种强硬的立场奉告用户做错事了，你就是做错了，所以我们的平台的克制你宣布，你需要立即顿时纠正，可是我还不汇报那边错了，怎么去调解办理。

（这种场景为何似曾领会……）

许多时候用户宣布的词汇中包括一些敏感词时，会被克制宣布可能审核后删除，可是用户是无法感知到毕竟哪个是敏感词的，这种无力感会严重影响用户的互动行为可能下一步的转化率，长此以往，不需要多次，用户在平台的流失率就会变得很大。