内容审核编辑俗称审核员,是网络内容安全的把关人。对于审核编辑团队建设,相关规范性文件有明确要求。如,中央网信办2020年3月施行的《网络信息内容生态治理规定》第九条规定,网络信息内容服务平台应当“配备与业务范围和服务规模相适应的专业人员,加强培训考核,提升从业人员素质”;中央网信办2021年9月发布的《关于进一步压实网站平台信息内容管理主体责任的意见》强调,“配备与业务规模相适应的从业人员,加大信息内容审核人员数量和比例,不断优化结构,切实保障信息服务质量”。
不过,值得关注的是,近年来平台型媒体在审核编辑队伍建设方面仍存在一些突出问题。
1、审核编辑整体素质偏低
用户日益增长的平台内容需求和机器审核存在的内容识别弱点,让市场对审核编辑的需求激增,然而机械化的工作流程、负面信息堆积的工作环境、严格的绩效处罚机制却让审核编辑群体缺少归属感和荣誉感。目前,为压缩人力成本,大多数商业化运营的平台企业在招聘审核编辑时将学历要求放宽为大专及以上,少数具有审核业务牌照、为商业化平台提供第三方内容审核服务的央媒子公司要求本科及以上,但提供的薪资待遇也低于其他工种。
低学历、年轻化导致审核编辑群体整体素质偏低,这不仅体现在审核编辑对审核政策的理解和审核标准的判断上,也体现在政治素养方面。意识形态安全是国家安全体系的重要组成部分,能否在互联网这个“舆论斗争的主战场”顶得住、打得赢,直接关系到我国网络意识形态安全和政治安全,坚持党管媒体、党管意识形态延伸到网络领域是题中应有之义,具备优良政治素养的审核编辑肩负着重要的使命。但现实中,多数审核编辑入职后,经过一周或数周的基本业务培训便上手工作,平台在入职培训和日常党建方面引领不足,导致审核编辑面对隐藏较深的有害信息难以进行准确的判断和筛除。
2、审核编辑对审核尺度把握不准
目前,网络视听节目服务平台缺乏统一的审核标准。虽然中国网络视听节目服务协会相继颁布了《网络视听节目内容审核通则》《网络短视频内容审核标准细则》等文件,但作为行业组织,其下发的规范性文件对会员单位的约束力有限,平台型媒体在文件执行上具有较强的自主性,通常会根据自身的运营需求制定符合自身平台调性的审核标准,在不触碰安全底线的前提下最大限度地将内容在前端展示。[2]
审核编辑在严格的质检处罚规则下,在审核尺度把握上承担着很大的压力。例如对低俗、色情内容的判断上,身体裸露到什么程度才算违规?正常舞蹈和低俗舞蹈如何判定?这些都要求审核编辑具有丰富的业务经验,过严或过宽都可能被质检记录扣罚。除了审核正确率要达标,内容审核数量也有硬性要求,以8小时工作制计算,一般对审核编辑的短视频审核量要求是不少于1000条。审核编辑需要快速作出判断,无法将注意力停留在一条短视频上太久,这使得审核编辑对审核尺度把握的准确度降低。
3、审核编辑幸福感不强
审核编辑被戏称为“互联网民工”“鉴黄师”,相较于平台型媒体的其他岗位,审核编辑吃“青春饭”的色彩更浓,岗位的重要性并不能带来个体的幸福感。
在海量的用户生产内容现状和监管压力下,为确保内容的绝对安全,减少原则性失误的出现,平台自觉扩充审核团队,强化人工审核的效率和能力,要求人工审核24小时在岗,三班倒、大夜班、节假日无休成为审核编辑岗位的职业特点。工作强度大,使得审核编辑岗位流动性较高,即使平台为了留住年轻人、保持审核团队的稳定性而制定了相应的晋升机制,让少数人有成功晋升为审核组长的机会,但大多数人还是会因为待遇、工作强度等现实因素缺乏幸福感,从而逃离互联网审核行业。
精神上易产生伤害,也会让审核编辑的幸福感欠缺。在日常工作中,审核编辑面对着大量的违规、有害内容,感官上受到强烈刺激。变态的色情内容、血腥的暴力画面、涉及未成年人的违法内容充斥在一条条节目工单中,审核编辑需具备强大的心理承受能力才能有效地完成工作。心理上的麻木、身体上的疲倦、在有害内容中感受到的对人生和人性的失望与恐惧,使得审核员患上心理疾病和精神障碍的概率较高,构成了审核编辑幸福感不强的因素。