比心陪练内容审核员：平台安全的守护者

“社交媒体上最阴暗的一面，不在广大网民的屏幕里，而在内容审核员眼前。”加州大学教授 Sarah T. Roberts在《屏幕背后》所描述的这个职业，正越来越高频的出现在大众视野。

血腥、 、暴力、诈骗...内容审核员充当了互联网“过滤器”的角色，一位内容审核每天平均要看2000条以上的内容，最快要十几秒判断处理一条信息，尤其今天互联网传播已经不局限于文字图片，短视频、直播、音频等内容大量产生，对内容审核提出了更复杂的要求。

互联网“灰色地带”是他们的主战场

2020年7月，我国人社部联合市场监管总局、国家统计局正式向社会发布，将互联网信息审核员认定为新职业。在这之前，小贤已经在这行做了四年，她是电竞生态聚合平台比心的一位审核运营。“做这个职业，判断力和学习能力是最重要的，比如一些信息单独来看可能没什么问题，通过一些方式组合在一起会有不同的含义，这对审核员个人的知识广度和敏感度都有很高的要求”，内容审核的规则和标准是不断在变化的，一些直接表露 、血腥的内容反而容易判定处理，最考验审核员能力的是边际更模糊的“灰色地带”，而这往往是各互联网平台投入人力最多的部分。

图片来源：比心内容审核团队

“比心有近400人的团队在做内容安全工作，围绕反垃圾、反欺诈、反作弊建立了安全风控体系，人力基本是7*24小时轮班制工作。”易明加入比心内容审核团队较早，他对平台风控体系的建设体会最深。内容审核并不是一个很容易体现工作成果的部门，但对于平台型互联网企业却是必不可缺的一环。对从业人员除了专业能力和经验上的要求，心理耐受度也是非常重要的考验。

既要敏感，又要“大条”一点

“人的心理和情绪是有阈值的，每天要接触大量的负面、违规信息，尤其对于新人来说，很容易跨不过这个坎。”这个时候，团队的资深人员和管理人员要充当起心理辅导师的角色，帮助新人度过这个阶段，一方面要正视这份工作，另一方面要找到工作的成就感。

图片来源：比心内容审核团队

小贤入行四年，她觉得做内容审核，既要敏感，又要“大条”一点。对于职业心理问题最重要的是不断更新自己的知识储备，只有个人的知识面广、认知足够丰富，才能高于问题看待问题，也就是俗话说的“见怪不怪”。在比心，每个审核员每个月要接受2次业务考试，以及每个月1次的常规培训和特殊节点的业务培训，学习几乎贯穿于整个工作周期。有意思的是，为了避免培训考试过于枯燥，比心审核团队会进行“角色扮演”式的模拟演练，一线的审核会根据实际情况和新问题，自发写剧本、做VLOG、写情景小故事，帮助团队消化理解业务。

而在这个工作里找到成就感其实并不容易，很多时候还是团队内会更能体会彼此的工作价值，在易明看来，审核多数是前置进行的工作，把风险排查在发生之前，拔掉一个问题，处理掉一条违规可能你会“暗爽”，因为你的判断也许会帮公司避免一笔损失，帮行业发现隐藏的黑灰产线索，这种暗处的“博弈”也是工作成就感的来源之一。

人机结合审核是长期发展方向

互联网每天产生的UGC 内容量是一个天文数字，随着人工智能的发展，机器审核技术也越来越多的介入到内容审核体系里，承担一些直观、边界清晰的违规内容审核，对海量内容进行第一阶段的辅助筛查。所以现在包括比心在内，主流互联网平台都已经在用「人+机器」的内容审核方式。比心内容审核负责人表示，接下来，比心将通过技术驱动，在系统建设、管控模式上实现智能化，保障业务交付结果处于行业头部水平。

内容审核会随着互联网生态的成熟而发展，这种伴生关系就像我们居住的地球是在四十余亿年前诞生的，而病毒、细菌等也已存活了三十多亿年，我们无法去彻底杜绝阴暗面的存在，但作为普通用户的诉求是不变的，我们都需要一个干净健康的网络生活环境，作为平台只有险中求稳，更谨慎的对待内容安全问题。

(文中小贤、易明均为化名)