1.对象之变

新形势下的内容审核呈现内容复杂多样、边界定义模糊、产品供给海量等特点，传统的文字校对已不能满足当前内容审核的要求。内容审核已转变为对互联网泛内容产品的审核，包括文字、视频、音频、评论互动、用户生产内容、机器生产内容等的审读把关。

在新技术革命的大潮下，新的内容形式和载体仍会不断产生，内容审核将持续面临新客体的涌现。ChatGPT等生成式人工智能的快速发展无疑对内容审核提出了新要求、带来了新挑战，客观、真实的新闻底线无疑会不断受到冲击，辨别内容的真实性将成为新课题。新的媒体格局下，内容审核必须不断适应传播格局变化，拓展自身能力边界，对不同内容形式实行不同审核策略。

2.角色之变

内容审核员的角色发生了改变，内容审核已从传统的发前审校过渡到事前效果预判、政策咨询、业务培训，事中导向把关、文字审校，事后巡查巡看、管控引导、效果评估等内容生产全过程。内容审核已不再是传统意义上的文字校对工作，专业审读人员的定位应当是媒体平台内容的“质检员”，是平台健康发展的基石性保障力量。

传统的媒体内容生产中，审核校对多以人工为主，新媒体格局下的内容审核已由人工操作变为人机协同。特别是商业性资讯平台，充斥着大量违规、格调低俗的内容，单纯的机器审核无法进行合理筛查，人工+机器的审核模式已成为目前的主流审核模式，人工审核的作用仍无法替代。现阶段，就算是商业性资讯平台也必须采取“人海战术”。早在2018年，今日头条就宣布负责内容审核的员工已达1万人，占员工总数的四成；抖音、快手的内容审核人员在2018年时也达到数千人。在西方国家，内容审核的人工因素也越来越多。为了应对假新闻泛滥，脸书的内容审核人员在2019年时就已达1.5万人，以补足算法的局限。

3.范式之变

构建新的内容审核范式，是新型主流媒体义不容辞的责任。对于新型主流媒体平台而言，新的传播形势下构建内容审核职业规范，既具备客观能力，也有主观意愿。商业性资讯平台固然具有资本和技术优势，但其公共性不足，内容审核力量更多是对监管的被动回应，强大的技术力量主要应用于降低成本，而非着力构建新型内容审核行业规范。

新传播形势下内容审核目的是筛选优质内容，路径是底线把关。传统媒体的编校是对有限内容进行逐字审查，以服务内容的高质量生产。平台媒体内容是海量的，与传统媒体的校对不同，平台内容审核只能对内容质量进行底线审查。要破解海量内容的审核难题，势必要引入技术手段，形成人工审核+机器辅助的审核模式。

目前人机协同审核有两种模式：一种是先机器后人工，另一种是人工和机器融合在一起，同时进行。前者被大多数商业类资讯平台所使用，先用机器进行第一轮审核，当内容涉及“灰色区域”时人工才介入，进行第二轮审核。这种审核方法主要是为了应对巨量的审核需求，其缺点也很明显，就是机器误判概率较大。

后一种模式在新型主流媒体内容平台中被更多采用，就是将技术因素融合到审核流程中，主要方式是通过关键词高亮显示，提醒审核人员进行二次判断。关键词提示时有误报和漏检情况，这时就更加需要人工审核进行实时判断。当然，随着技术的进步，机器也在不断学习进化，这两种模式可能会走向趋同。

4.能力之变

我国的媒体种类非常多，内容生产能力差别较大，把关水平参差不齐，对于内容审核的需求旺盛。习近平总书记强调：“无论什么形式的媒体，无论网上还是网下，无论大屏还是小屏，都没有法外之地、舆论飞地。”对新闻舆论的监管，不论媒体形式、平台、渠道，主管部门都一视同仁。

此时，新型主流媒体的内容审核能力正有用武之地，且具有不可替代性。首先，从传统媒体发展而来的新型主流媒体，讲政治、讲大局，将政治要求体现到具体业务中，是其天然优势。其次，长期以来，传统媒体按照国家法律法规、行业标准开展工作，具有完备的内容审核流程，保障了新闻产品的高质量。再次，传统媒体的内容审核人员受过系统化培训和考核，具有专业精神和专业规范，在众声喧哗的舆论场能够成为优质内容产品的筛选者和“滤清器”。

不少主流媒体结合自身优势打造了先进的智能校审系统。例如，齐鲁晚报·齐鲁壹点在自研传媒大模型的驱动下，通过NLP、OCR、人脸识别等技术自主打造的壹点天眼多模态内容风控系统，可准确识别文本、图片、音频、视频、直播等内容中的涉政表述、敏感信息、违规表述及各种变体，覆盖涉领导人差错、涉政差错、错别字、标点错误等30多个校审维度，有效提升了平台智慧化审校效率。系统通过了工信部旗下中国信通院的校审性能专业评测，并获得五星级最高认证。目前，壹点天眼多模态内容风控系统已向媒体、企事业单位进行能力输出，取得了良好效果。

内容审核和风险防范已成为平台型媒体安全发展的底线和关键。特别是对新型主流媒体而言，其拥有丰富的专业经验和人才储备，内容审核是一个新机遇，可以链接既有的专业经验和新兴技术元素。此时，平台型媒体应不断探索完善内容审核的内涵和外延，促进内容审核行业走向专业化、职业化、透明化，主动承担网络空间治理的新责任，为推进内容生态健康做出新贡献。