新媒体的发展与普及增强了大众的参与感和体验感,人人都能成为网络内容的创造者,网络传播越来越成为影响社会政治、经济、文化的重要因素。“没有网络安全就没有国家安全”,党的十八大以来,习近平总书记高度重视网络安全工作,做出了一系列重要论断。“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好,符合人民利益。网络空间乌烟瘴气、生态恶化,不符合人民利益”,总书记的一系列重要讲话为我国网络安全和网信事业的发展指明了方向。
近年来,为贯彻落实习近平总书记重要讲话精神和党中央决策部署,监管部门出台了一系列法律法规和规范性、政策性文件,如《中华人民共和国网络安全法》《网络安全生态治理规定》《关于进一步压实网站平台信息内容管理主体责任的意见》,平台型媒体按照监管要求在用户账号、内容审核、信息发布、跟帖评论等方面加强平台治理,切实履行内容管理主体责任。其中,健全内容审核机制成为平台自我治理的重要方面。
由于低门槛、交互性、个性化等特点,以短视频内容为主体的网络视听节目服务平台上的内容近年来呈现爆发式增长。用户对关注和流量收益的过度追求,平台对经济效益和影响力的战略诉求,不可避免地导致低俗媚俗、血腥暴力、负面敏感、网络谣言等问题内容滋生,成为网络平台安全治理的重灾区。
目前,基于大数据、人工智能、深度学习等技术的机器审核和人工审核相结合,成为平台型媒体的主流审核机制。面对体量庞大的网络信息,机器审核越来越成为违规内容筛选的主要工具。不过,机器审核仍存在局限性,例如对于网络内容中存在的意识形态和价值导向问题,机器审核难以准确筛除,导致部分敏感内容在平台露出,影响网络生态健康。在网络安全工作的重要性愈发凸显的当下,机器审核存在的安全风险不容忽视,由此可以得出论断,智能审核时代,平台型媒体的人工审核机制非但不会弱化,反而日益强化,变得更加重要了。
人工审核是指具备内容审核相关知识和技能的人员根据内容审核规则对网络内容进行的人工筛选。[1]审核编辑作为人工审核的执行者、内容安全的把关人、网络生态的维护者,其自身所具备的学习能力和文化素质成为能否做好审核工作的关键性因素,对网络安全和平台治理具有重要影响。在网络意识形态多元化的今天,亟须建立一支立场坚定、业务优良、爱岗敬业的内容审核编辑队伍。