对于资讯类产品和内容内产品来说，内容审核是必不可少的环节之一。借助人工智能的发展，可以让机器替代一部分审核工作，但由于内容的复杂性，人工审核必不可少，而且还有其他需要考虑的点。今天，把关人将为大家讲解内容审核的流程，希望能对你有所帮助。

具体流程，以下图为例：

1、先过机器审核，机器审核 通过 或 不通过；

2、对机器审核不通过的，再进行人工复审；

3、对机器审核通过的，再进行人工抽样审核。

审核的四个维度

这里一般都是对四个维度进行审核，关键字审核，用户发布次数限制，重复内容过滤和白/黑名单用户。

1、 关键词审核。词语过滤的环节，关键词主要分为三类：禁止关键词。只要匹配到这个词，内容就被自动删除或禁止提交。通常只有极少数词会被纳入禁止关键词，比如明确的色情、邪教以及广告的专属关键词。审核关键词。这是最常见的关键词种类，只要匹配到就会自动进入后台进行审核，文章中的关键词会被高亮并罗列出来，有助于审核人员快速判断。审核关键词也应该尽量是专属关键词，以防止太多内容被拦截到后台。替换关键词。在许多平台，我们会在文中看到莫名的号或字母缩写*，这可能不是文章作者写的，而是这个词被系统自动替换。平台不希望出现这个关键词，但用别的代替读者通常也能读懂。比如一些政治、宗教、不文明用语类词语，都有可能被自动替换。

2、用户发布次数限制。主要限制一名用户无限制地发送评论。对这种情况可以设置同一用户一分钟内最多发送一条评论；一小时内最多发送10条评论，一天最多发送三十条评论，评论次数如果超出时则弹出toast“发言太多累了吧，请休息下”的提示。其实这个限制上线后，发现发广告的人会不断注册新号来规避这个问题，后续可以考虑再加上。新用户需注册多长时间才可发布评论，或需绑定手机号才可以发布评论这些严格的条件。

3、重复内容过滤。这种一般都是对于发广告的。对比时去掉除汉字外的任何符号，如“抖丶音”、“快aabb手”，对比时用“抖音”“快手”；将评论与同一用户上条评论作对比，10个汉字以上的若与其中一条重复率达70%（20,60%；30，50%）则弹出toast“请不要发布重复内容”；同时将评论仅与评论库最近发布50条的评论作对比，20个汉字以上的若与其中一条重复率达80%则机审失败（30,70%；50，60%）；

在对比重复内容时一定要去掉一些无关的符号。因为很多小广告喜欢加空格，逗号这些。

4、白名单用户，黑名单用户。白名单用户、黑名单用户需要有个可编辑的后台，可随时增减；若同一用户一天内机审失败的评论超过10，则自动列入黑名单。白名单的用户不受发布次数限制，但内容需要检查广告词、敏感词、屏蔽词，如果一天内发布的评论超过10条机审失败，也自动列入黑名单。