身为全球顶流APP的脸书，如何就成了职工眼里的“非死不可”？

最近，200名来自非洲国度肯尼亚的外包职工，告状了脸书的母公司Meta，以及雇佣他们的外包公司，诉状中触及多项严重指控，包括成心精神伤害、抵抗正管事合同、当代奴役以及非法裁人，共计索赔16亿好意思元。

目下有很是多的外洋媒体报谈此事，《卫报》、《期间》皆在追踪，还有好多东谈主权组织、劳工组织，也在温文这个案子。在他们眼中，此次审判的放手，很可能篡改各大平台的运作模式，也会篡改悉数互联网的生态。

卫报

原因很简便，跟Meta闹上法庭的这200个外包，作念的是一项特殊又常见的使命，内容审核员，即汉文互联网上俗称的“鉴黄师”。

01 脸书背后的“当代黑奴”

自2019年起，Meta通过一家肯尼亚外包公司，雇用了无数确当地职工，专门审核非洲区脸书用户发布的内容，他们每天皆需要构兵无数的不健康内容，仔细辨别其是否得当平台国法，并将违法内容从平台上剔除。

要是我们将视角更微不雅一些，会发现审核员这份使命更狡黠的细节。

凭据涉事者的回忆，他们在招聘缘由上看到的使命内容，只消客服或者筛除极端信息，当你确凿去口试了，主宰会条款你签一份守秘契约，然后才说出真话，使命内容是帮脸书审核违法内容。

而审核员的入职培训也相称离谱，即是一群东谈主站在大屏幕旁，集体不雅看违法的内容，每播一条，就无意抽个实习生出来，让你一段段分析，图片和视频是那边有问题，具体违背了哪条轨则。

有位女审核员澄澈地铭记，她抽中的是个凶杀视频，她只可目不转视地看着屏幕里，一个东谈主拿着芒刃，一下两下三下，白刀子进红刀子出，把另一个大活东谈主平直捅死，血流了一地。

看得她周身颤抖，还要强装邋遢，跟主宰分析视频内容，在培训收尾后，她平直冲进茅厕，关起门来哀哭。

另一位审核员抽中的则是腐尸的相片，具体画面就不形色了，归正她资格过培训后，只消看到蜂窝状的东西，或者什么蠕动的虫子，肠胃就会一阵翻腾，忍不住思要吐逆。

还有个更倒霉的审核员，主宰分给他的是极点组织发的斩首视频，恐怖方针+血腥暴力，分析倒是不存在难度，但这是当众考核，再加上非洲芜乱的社会环境，让这位仁兄换上了PTSD，放工外出皆要悲伤起恐怖分子追踪。

而他们的日常使命，即是近似场景的无尽重演。

审核员需要保管平均每50秒审1条内容的速率，不论是笔墨、图片，如故长短视频，皆需要快速看完并细则是否违法，不然用户就会因为发布蔓延而发火。

他们每天还要使命8到12小时，够不上这个速率或者无法承受高强度管事的东谈主，会被公司迅速罢黜。

久而久之，险些全部的审核员皆受到了严重的神气创伤，告状Meta的外包职工中，81%的东谈主被病院会诊出出严重或极其严重的创伤后应激阻止（PTSD），还有许多东谈主发扬出了凡俗性蹙悚症（GAD）和重度抑郁症（MDD）。

这种创伤是不息性且难以自愈的，哪怕他们辞职，病情也莫得昭彰好转，其中有大致40东谈主，因为过于晦气，选定了用乙醇和管制药物来麻痹我方，最终成瘾，把东谈主生搞得一团糟，致使闹到了妻离子散的地步。

这样个让东谈主身心俱疲还可能影响一世的使命，脸书开些许买命钱呢？

谜底是时薪1.46 好意思元，折合东谈主民币即是10元。

一块5090显卡的价钱，就能让他们使命1370个小时了。这样点钱根底无法弥补不雅看无数不健康内容带来的神气毁伤。

两年前，该外包公司终于有一位职工勇敢地提起法律刀兵，条款Meta抵偿身心亏本，放手Meta立即指令外包公司开除了与他走动比较密切的几位共事，尔后又开掉了43名试图确立工会和组织歇工的审核员，本年1月更是开启大裁人模式，让外包公司开掉了260个审核员，统统是Meta认为“不可靠”的。

其中有名领头的审核员叫莫塔翁，他回忆谈，当Meta知谈审核员们准备集会抵拒之后，平直派了两个照顾层空降肯尼亚，现场引导外包公司弹压他们。

这两个好意思国东谈主刚初始试图通过擅自给他涨一倍工资来收买莫塔翁，但愿他拿钱之后不要再“搞事”，放手遭到拒却，好意思国东谈主随即变脸，转去威胁利诱其它职工，让十几个东谈主投诉莫塔翁有职场凌暴、懊恼和恫吓的步履，以违背职工守则的事理开除了莫塔翁。

对于其它思抵拒的职工，Meta亦然这样干脆又平直，年薪20万好意思元、至高无上的好意思国照顾层，绝不阻挡地给这群审核员撂狠话，“要么脱离工会，要么就等着被开”，“你不干，有的是东谈骨干”。

《Business inside》

照实有些东谈主放手了，他们悲伤不息跟脸书对抗会失去收入来源，也悲伤被打击报复，以后在当地的互联网行业再也找不到使命。

但也有一部分东谈主，不肯意看到脸书和外包公司如斯压榨职工，是要讨回公谈，于是就有了起原那一幕，200名盛怒的审核员集会东谈主权组织，将Meta和外包公司给告了。

案件目下还在审理之中，但深陷公论风云的Meta仍是等不败露，速即出来修起。Meta认为这些指控并不成立，对于身心伤害，Meta宝石称我方仍是给审核员提供了必要的“提神要领”，对违法内容进行无害化处理，况兼还条款外包提供神气健康参议。基于这一丝的，时薪1.46 好意思元也横暴常合理的，仍是高于了肯尼亚的最低工资圭臬，你还要如何样？

外包公司致使辩解称，60%到70%的审核员在接受这份使命前，皆生涯在阻扰线以下，是我方带领他们脱贫了，善事无量。

审核员们也迅速回击，揭露了更多的真相。

脸书所谓“提神要领”，即是把简便的图片或者视频造成横暴或者镌汰区分率，画面照实没那么刺激了，但你也根底看不清内容，就没法作念出判断，一朝错判就要扣工资，是以审核员们根底不会用提神要领，皆是平直看原图原片。

至于神气参议师，更是从没见过。

不知谈公共看到这种解释如何思，归正连好意思国的媒体皆看不下去了，纷纷站在审核员一边，新闻标题写满了对Meta的嘲讽。《走进脸书的非洲血汗工场》、《Meta如何克扣新期间的奴婢》……

《期间》

02 4万脸书审核员，集体工伤

而这样的互联网血汗工场，并不啻一家。

凭据《卫报》的统计，脸书在2016、2017年几次因为失当内容激发争议后，就轻佻引申了审核员队伍，多以劳务外包的步地存在，目下有多达40000名脸书审核员分散于全球各地，照顾来自不同大区、不同话语的内容。而脸书还只是是Meta旗下的平台之一，Meta又只是互联网巨头之一，可思而知，悉数审核员的群体是极为广泛的。

审核员们状告Meta。2018年时，Meta就被迫支付5200万好意思元，与数千名在好意思国使命的脸书内容审核员达成妥协。这些审核员的年薪仅为2.88万好意思元，远低于其时好意思国平均水平的3.6万好意思元，还不到Meta负责职工薪资的1/3。

但他们干的是悉数Meta最脏最累的活，和肯尼亚的共事一样，天天盯着违法内容看，每天要审核数千个帖子内容才算达标。2019年，佛罗里达州一位审核员暴毙在了使命岗亭上，也叫醒了其他东谈主的抵拒解析，于是他们对Meta发起了集体诉讼，并取得了抵偿。

可能是经过这件事，脸书解析到了，在高薪资且法律完善的发达国度建立这种岗亭，横暴常不合算的，外包到欠发达国度才是性价比最高的选定。

为了镌汰东谈主力资本，也为了稳健不同地区话语环境，Meta将无数的脸书审核岗外包到了有无数低价劳能源的第三世界国度，像肯尼亚，审核员的薪资还不到好意思外洋包岗1/8，四舍五入等于免费，Meta在菲律宾、印度也找了好多外包。其中印度外包公司的入职年薪为10万卢比，差未几很是于1500好意思元，折合成日薪也就每天6好意思元。

但他们每天需要使命8小时，而且是分夙夜班的，公司必须7x24小时保管审核才略，每个班次要审阅跳跃2000个帖子，平均每分钟大致4个。而Meta对于准确度的条款是必须达到98%以上，漏判错判皆要罚金。

而且印度分部脑洞清奇，平直让职工分组审核特定内容，有的组专门鉴黄，有的组专门看凶杀，还有的组整天皆在不雅看自戕直播。

一部名叫《收集清谈夫》的记载片，则揭示了菲律宾分部的情状，这里的管事强度更是丧心病狂，职工每天上班只消固定的两次 15 分钟休息和 30 分钟的午餐时期，另外还有 9 分钟所谓的“健康时期”，其余时期全部要坐在电脑前审帖子。

他们的KPI谋略，达到了惊东谈主的每天2.5万条帖子，审完才智走，而且每个月出错不行跳跃三次，不然就会被开除，菲律宾审核员皆无奈地自嘲，“嗅觉这浏览量不错苦求吉尼斯记载了”。

《收集清谈夫》

不啻是Meta，其它的互联网企业也这样干。

像肯尼亚那家脸书的外包公司，它同期还跟谷歌和微软以及亚马逊配合，亦然提供近似的低价审核员服务。

TikTok也在北非和东非找了无数的外包，光摩洛哥审核中心就有1400名审核员，他们平均每小时要看200个短视频，不外时薪好赖比脸书高点，“高达”3好意思元。

直播平台Bigo Live则选定了巴基斯坦，巴铁天然穷，大学生倒不少，花点小钱就能让桌子前坐满有文化的审核员。

约聚运用身手GERDR，在洪皆拉斯找到了外包团队，这里是好意思洲最阻扰的场所之一，2好意思元的时薪就能让东谈主卖命干活。

畴昔我们说奴役、说克扣，可能脑海中深入的是在棉花田庐劳顿的黑奴，和奴婢主扬起的鞭子；其后画面又造成了，在阴雨的工场中，见地呆滞的工东谈主像机器一样重迭着活水线拼装使命，或者神色麻痹地操作着缝纫机，为有钱的耗尽者坐褥手机电脑、鞋服箱包。

收集期间，克扣步地再一次升级了，巨头们用极低的价钱，雇一群穷东谈主吃掉互联网阴雨边缘的剧毒垃圾，让其它用户或者享受看似体面的环境。

03 为什么毋庸 AI ？

可能好多东谈主看完审核员所承受的折磨，可能内心有个疑问。为什么不使用AI来替代东谈主类审核 ？

领先有必要证实，审核员当今的广泛的使命量，仍是是AI和自动化系统进行过滤之后的放手。

以脸书为例，用户们每天要上传20亿张图片，平摊到4万个审核员头上，每东谈主每天要看5万张图，就算是堪称“肝帝”的菲律宾分部，听了皆要骂娘。

更何况除了图片以外，还稀有以十亿计的博文、批驳，以及视频和直播，皆需要进行审核，还得保证审核时期不行太长，不然用户捉急，不可能全由审核员来管。

而全东谈主类每天产生的数据，高达5271亿GB，很是于数亿个硬盘，而其中有很是大一部分是需要公开采布的，只消公开，就势必经过审核，要是只靠东谈主工，那么需要海量的劳能源来完成审核，对社会运转皆是巨大的职守。

是以，目下互联网企业普遍给与的是AI/自动化系统与东谈主类审核员搭配使命的步地，具体企业的分派比例和搭配策略不尽调换，比较常见的模式是，AI先进行快速过滤，剔记念不错完全细则违法的内容（尤其是即时通信软件），剩下的一小部分可疑内容，再交给审核员来作念最终判断；也有的公司让AI自行对内容进行判断，要是处理出现争议，再由审核员来处理用户的讨教和举报。

在顶流互联网企业中，AI往常不错摊派掉跳跃90%的使命量，但剩下那一小部天职容，依然需要东谈主类来看，不论哪家企业皆作念不到完全断念东谈主工。

像脸书，在2018年因为万般丑闻被国会老爷拖去质询时，就在听证会上同意，融会过AI加强对内容的审核。这个AI项目致使是由首席本领官迈克·施罗普弗平直指挥的，有多达150东谈主的中枢团队，实力相称强盛。但AI显豁莫得透澈处理问题，Meta依然要为脸书招募无数的审核员。最让东谈主哭笑不得的是，迈克·施罗普弗本东谈主承受了巨大的压力，况兼也在使命中构兵了无数违法内容，心态平直爆炸，一聊起审核这事就呜咽含泪，还悲不雅地称“违法内容恒久皆不可能降到零”，平直干废了一个高管可还行。

还有个不信邪的案例，YouTube搞出AI审核系统之后，就以为我方牛了，平直炒掉了统统的审核员，省了10000东谈主的劳务费。放手AI在接收YouTube的3个月时期内，平直下架了1100万个视频，什么观念呢？在审核员的照顾下，YouTube一个季度下架的视频大致660万，很是于AI平直多“杀”了一倍，这内部包含无数误伤，平直导致用户和中枢UP主发火，32万个视频被用户忽视讨教。其放手是，YouTube不得不膺惩返聘了我方开除的审核员，求东谈主家转头上班。

天然，国内企业亦然差未几的情况，宣传的时候，AI扫黄，1日处理10亿张，审核员行将集体空隙。

然后到招聘平台上一搜，月薪6K，急招高档审核员。

至少在目下而言，AI还只可顶半边天，不错苟且审核员的职守，但无法作念到完全替代东谈主类。

04 黑话的灵敏

这倒不是说AI有多蠢，它的所长在于速率和效果，以及永不知疲劳的使命派头，光靠这几点，还不及以对抗东谈主类的最终刀兵——“思象力”。

2019年时，新西兰发生了恐慌全球的枪击案，凶犯冲进寺庙射杀了51东谈主，况兼全程通过脸书直播，网友也淘气传播枪击视频，而其时脸书的AI系统对此毫无反映，致使皆莫得四肢可疑对象上报给审核员，直到脸书得知发生枪击，才初始开范畴删除。迈克·施罗普弗对此的解释是，过往的枪击案视频，小数有第一视角的拍摄，AI还以为这是啥FPS游戏，就平直开了绿灯。

从这件事你就能看出来，身为东谈主类的用户，不错握住创造新类型违法内容，用新的妙技去绕建国法，一切皆是在动态变化的。而AI只可凭据现存的申饬作念出反映，不行寥落知道新的事物，也无法我方总结端正，是以审核如故需要有东谈主参与。

近似的例子其实相称相称多，在某些平台，你发的笔墨内部要是带有“微信”会被系统自动屏蔽掉，于是用户们很快就学会了用“WX”来绕建国法，其它东谈主看见这个缩写，或者很天然第思起本体要抒发的内容，但对于AI来说就很诱惑，WX是什么单词么？如故东谈主名？AI并不会像东谈主类那样联思到正本的词汇去，需要审核员我方去发现这个端正，况兼将申饬传授给AI，它才智明白。等AI学会了屏蔽这个缩写，东谈主类用户又迅速改用“V”来指代微信。

这还只是最最低级的变体抒发，遭受更高档的黑话就更惨了。AI不可能我方思明白，“啵啵间”代表直播间，“搞米”等于挣钱，它也不可能猜到，“世界可飞”说的并不是航班，“租车包日”租的并不是车。就连电话号码，皆能搞出无数种容颜，公共能看出底下这一堆东谈主名中藏着数字吗？

图片亦然一样，就拿站在对抗AI的第一线的福利姬们来说。最早的时候是把图片旋转颠倒或者P成横暴的再发，AI就识别不出来了。这个方法被AI掌执之后，她们很快又思出了发长图的办法，把无数无关的图片和擦边放在通盘，作念成一张长图，不错诱惑AI。再其后，她们又学会了把图片切成9张，粉丝在页面上看正巧是完好的九宫格，还有东谈主把擦边图融入GIF，有些平台的AI只检测GIF的第一帧，识别不了后头的擦边。

说白了，内容审核是个邪不压正谈高一丈的进程，而AI自己莫得创造力和思象力，恒久皆处于被迫的一方。

另一个问题在于，哪怕是通常的内容，AI和审核员也频频作念出不同的判断。

凭据审核员的说法，脸书给他们培训的时候，拿好意思莱村惨案当过讲义，这是一场大屠杀，发生于越南干戈期间，留住了无数的血腥相片，险些满屏皆是受害者遗体，按照AI的识别圭臬，笃信是要屏蔽掉的，但脸书却证实审核员，近似的图片不行删除，这是闻明历史事件相片，也曾产生过紧要的社会影响，删除会让别东谈主认为脸书在诡秘历史。

同理，脸书的AI会过滤掉残暴、严刑的图片，但脸书条款审核员温文事件自己的性质，触及政事议题的就不行松驰删除，典型例子为关塔那摩监狱丑闻，这所监狱关押着好意思军反恐步履的俘虏，被曝出大范畴刑讯逼供，要是脸书屏蔽关系的图片，会被认为“打扰政事”。

哪怕是公共以为相称简便的审查色情内容，本体上AI和东谈主也有好多不合。AI的分析才略，能很败露地知谈你透了些许肉，有莫得露点。但露点不等于应该毙掉，脸书存在一个豁免国法，允许母亲发布哺乳的相片，以保险女性的权柄。这就繁难了，AI也搞不解白你到底是哺乳和色情，卓绝是一些哺乳照中幼儿并未濒临镜头，很难识别，频频出现误删。

05 AI也要审核员

AI目下还无法完全取代审核员，将来会如何样，我们不好说，但不错细则，AI我方的进化也需要审核员匡助。

2023岁首，公共熟习的OpenAI，也被好意思媒曝出了“黑奴”问题。早期的ChatGPT 调用了数千亿词汇级别的互联网数据库，这些贵寓从各个网站抓取，自己就存在无数的不健康内容，吃这玩意长大的ChatGPT老是在会话时输出失当内容，包括且不限于黄腔、暴力罪人、性别愤激、种族愤激。为了处理合规性问题，OpenAI稀疏侦探了一个或者识别无益内容的东谈主工智能模子，并将其内置到ChatGPT之中，让它自动将大模子中的无益数据根记念。

那OpenAI是如何侦探的呢？谜底是东谈主力。他们去非洲的肯尼亚找了一批外包审核员，他们每天神命9个小时，需要阅读并标注150到250 段OpenAI发来的笔墨，每段的长度从100个单词到1000多个单词不等，然后从中挑出违法的部分进行标注，以便AI进行学习，而这些审核员的时薪，只消悯恻的2好意思元。

更离谱在于，OpenAI找的外包公司，跟Meta在肯尼亚找的竟然是归拢家，啊，又是你。

前年推出GPT4后，OpenAI一度对外声称，GPT4对国法的知道才略更强，仍是领有了取代东谈主类审核员的才略。但公共一看GPT4针对内容审核的侦探模式，其实如故要东谈主类介入，它只是跟战略民众作念一样的题目，要是两者的判断不一，战略民众就条款GPT4给出解释。

然后一直迭代谜底，直到GPT4给出正确的推理分析为止，这样GPT4就能通过解释对于国法的细节有着更深的了解，从而达成进化。

纵令领有AI领有广泛的数据量和强悍的算力，在这个的复杂世界中，跟多变的东谈主心比较，它依然稚嫩得像个孩子。思要靠AI来替代审核员，就得先给AI找一堆审核员。

可能对于大厂的雇主来说，独一的好音信即是，东谈主力，有时候比科技愈加低价。