为何技术这么发达，鉴黄还要靠人海战术？

文/南七道、陈旖

近日，Facebook的CEO马克.扎克伯格宣布公司将会新增 3000 名内容审核员，他们负责审核平台上的内容，包括最近网上有出现的谋杀、自杀和强奸等视频。科技巨头聘用大量人力来做内容审核，已经不算什么稀奇事。Google、百度、腾讯、新浪、今日头条都设置了类似岗位。对于做内容的平台，内容审核尤其重要，一旦没有处理好，很有可能影响到整个公司的前景。为什么在科技如此发达的今天，机器还没法完全替代传统的人工审核?各大巨头还需要人海战术来鉴黄呢?

内容平台的阿克琉斯之踵

今年 4 月，一位泰国男子在Facebook上直播杀害亲生女儿的画面，随后该男子自杀。视频在Facebook上挂了近 24 个小时，大量用户看到婴儿被杀害的过程。其中一段视频播放量超过 25 万次，视频还被其他用户上传到其他视频网站。

色情、暴力、犯罪，这些不良内容多次在Facebook上出现，这让Facebook陷入争议。今年 3 月，一名 15 岁美国少女被多名男子性侵犯并被直播到Facebook上，视频吸引了至少 40 万人关注。有人称，这样的画面让人感到害怕和不安，“看了之后晚上都睡不着觉”。

事发后，Facebook团队意识到问题的严重性。Facebook的CEO扎克伯格公开表示，Facebook将尽一切努力避免此类内容再出现，并且表示Facebook要变成一个健康而安全的网络社区，还有很多工作要做。

扩招内容审核员正是Facebook为此做出的举措。此前，Facebook在全球已有 4500 名员工负责内容审核，此次扩招会让审核过程更加及时和准确。这些员工主要负责处理那些没有被审查到的、或者没有被立即删除的不良内容。

社交媒体时代，每天都有大量的用户在不断地生产内容。对于平台而言，除了补贴内容生产方外，还需要支出更多的内容审核成本。但尽管如此，平台还是不惜人力和财力，去做好内容审核的工作。一方面是大量的不良内容，会使得用户产生反感，会降低使用产品的频率甚至远离产品。劣币驱逐良币，不利于平台的长期发展。另外一方面，不良内容的发布，很有可能导致触犯国家法律，引来平台的管制甚至关闭，今年年初，知名的同性社区ZANK就因为直播涉黄被整体关闭。

在国内，BAT许多平台都设有内容审核员一职。以新浪微博为例，新浪微博是国内最大的社交平台之一。对于内容，新浪微博仍主要采用人工审核的方式。除了色情、暴力等不良内容，平台还会留意政治、宗教等敏感内容。但是依然有各种擦边或者不良内容的漏网之鱼。内容的审核和把关，成了各大内容平台的阿克琉斯之踵，从初创公司到科技巨头，没有人敢放松这根神经。除非是别有用心的想利用情色来吸引用户，但那样肯定不会长久。

让人绝望的内容审核工作

2013 年，百度、腾讯、金山等 10 多个互联网公司组成“安全联盟”，用 20 万高薪招聘“首席淫秽色情鉴定官”。上班能看片还拿着高薪，网友调侃“简直没天理”。

其实，内容审核工作并没有想象中简单。以Facebook为例，Facebook已有的审核员每天要处理大量的UGC内容，他们需要审核包括色情、暴力、犯罪等多个方面的不良内容，在判断内容时会承受很大的压力。他们必须区分开普通儿童写真和儿童色情照片，还要分清楚这是朋友间的玩笑还是侵犯性内容。他们必须做到细致地归类，需要将内容放到具体语境下进行区分。要是没有审核到位，Facebook很有可能会被指责侵犯公民的言论自由。

审核员的工作，会对个人生活产生很大的负面影响。长期审查儿童色情作品后，他们会对接触孩子的人疑神疑鬼。观看太多色情图片甚至会影响他们的性生活和婚姻关系，他们已经对色情影像感觉到麻木。

今年 1 月，微软在线安全团队的成员向微软提起诉讼。因为他们每天被迫观看大量恐怖、色情和凶杀图片及视频，因此患上了心理后遗症，“经常失眠、做恶梦，脑子里充满图片和视频内容。”但微软官方表示，并不认同这两位前员工的观点， 公司每月都会对这些员工提供一定的心理支持。

(网络招聘“内容审核员”信息)

同样的情况，在中国也是普遍存在，尤其是在内容审核领域。不少公司会将内容审核交由外头公司承担，这些公司雇佣大量人力来做文字、图片、视频等内容的审核，审核员每天需要承担上百条甚至更多信息的审核工作。这些审核员领着 3000 到 5000 的月工资，大多生活在国内二、三线城市。路透社此前的一篇报道曾经将这项工作称为“高压、无望的工作”——每人每小时至少要看 3000 条微博，不少人因为压力太大且看不到上升空间而离开。

人工智能时代的审核尴尬

随着科技的发展，媒体和创业者都不断的勾画着，人工智能时代到来的激动场景，但时至今日，虽然通过机器学习，不断在提升系统对于内容类型的识别和判断概率。但对于内容的审核，科技巨头主要还是依赖人工，这真是特别的尴尬。

机器在很长时间内，根本不能完全取代人工审核。以Google为例，Google有超过一万名员工充当着搜索结果评估者的角色。这家业界领先的科技巨头仍需雇佣大量的劳动力来改善自身产品，这或许说明了人工智能局限性——机器还很难模拟出普通用户的使用体验，很难理解内容背后的深意，很难作出准确的“人的判断”。

而且，目前机器审核多用于文字内容。如机器检测到含有敏感词汇的内容，会将其删除或向用户发出警告。但对于图片、视频的审核，机器无法像对文字内容一样提取关键词，审核难度较大。在上述的Facebook杀童直播案中，机器就无法根据视频画面去鉴别内容性质。此时，人工审核将发挥其无可替代的作用。

对于Facebook这样拥有 20 亿用户的大型社交网站，除了人工审核，还有其他两种辅助审核渠道。一方面，Facebook引导用户使用举报功能。用户若发现色情视频、图片等不良信息，可以向平台举报。网站管理员收到信息后，会完成删图或者封号等后续处理。另一方面，Facebook也正在测试人工智能，希望进一步采用机器+人工的审核方法。比如，如果有一张裸体照片此前被删除，那么再次上传时就会被自动删除。

在国内，人工+机器审核是目前科技公司常用的审核方法。以快手为例，快手拥有数百人的内容审核团队，每条快手短视频、直播的发布都要经过机器和人工等多道审核。同时，不少第三方公司提供内容审核服务，如万象优图、网易易盾、图普科技、阿里绿网等多个产品，都可以辅助平台进行机器审核。优酷、荔枝FM、映客直播、美拍等多个平台都有使用这些第三方服务。

（编辑：温州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!