Ignore, Delete, Ignore, Delete ...... 这便是审查员的日常。

应该让世人知道，有审查员这样一群人在工作。他们依照规定审核发布的内容，确保社交媒体的安全。

员工的角度

开篇从员工的角度开始，员工感觉这工作是网络世界的安保人员，维护网络世界里面的秩序，避免有害内容传播。

员工都在菲律宾的马尼拉，这些就业让很多人脱离了以捡垃圾为生的困境，担当起家庭开支的重任。

工作强度有多大，每天的指标是 2.5 万个审核。那些员工可能没有开玩笑，可能真的会破吉尼斯纪录。

员工接触的内容有些哪些？儿童性交，暴力血腥，污蔑政治等内容。这些内容慢慢侵蚀人的头脑，审查员的心智感觉迟早会出问题。

平台的角度

平台角度，什么是不合适的内容？很难筛选。因为即便是由人来筛选甄别，也很难做好，别说是程序了。但平台是一定要承担这份社会责任的，有义务维护平台上内容的健康性。

为维护的工作上，也很难做好。平台会针对性地删除和屏蔽一些内容。Facebook 听从土耳其政府的要求，删除政治性言论、图片和视频。这个维护是不是过头了？

有的视频并不违反社交媒体平台的规定，不属于删除对象，但在土耳其被定为违法视频。对于这种情况，社交媒体平台的解决方法是根据 IP 来屏蔽土耳其的用户。

平台让言论传播更快速，言论自由便有遇到对立观点的情况，现实情况是，情况没有因此而促进双方的理解，反而激发矛盾。这种事情也怪平台吗？但平台确实有责任遏制散播仇恨。

其他的角度

从媒体的角度来看，像叙利亚处于战争的国家，很多血腥的图片或者视频，想引发社会的关注，但是也会被审核删除。

审查员的身心健康

审查员每天都在看这些充满暴力、血腥、仇恨、色情的视频，他们的身心健康，公司会保障吗？如果审查员跳过这些视频，这与公司的制度相违背，会有扣减业务分数的惩罚。确实有出现过，部分审查员由于受到每天看的视频的影响，在家上吊自杀。

作為一個威權體制下的網民，看完這部紀錄片的第一感受便是：隔靴搔癢，過於浮泛。

社交媒體上出現的種種問題，其實也就是現實世界的反映。色情/血腥/恐怖組織/政治，每一個議題下都可以分化出無數的觀點與立場。紀錄片試圖用不到一個半小時的體量，以網絡審查員為主要視角進行全方面的探討，注定只能泛泛而談。

但我確實欣賞導演對不同立場的同等尊重。理论的说法叫做：“兩面說辭”。

對於色情的判斷標準。是藝術還是淫穢？

對於恐怖組血腥視頻的判斷標準。是非法傳教還是真實歷史記錄？

對於社會災難真實記錄的容忍度標準。是新聞的真實要求還是對苦難者的二次剝削？

對於不同政治觀念/仇恨言論的容忍標準。是憲法給予的言論自由保障還是民主社會的底線堅守？

不同人站在不同的立場與坐標，自會給出不同的答案。正如影片中所說：背景與身份決定了思維方式。而社交媒體這個平台無非是為不同立場、不同觀點的交鋒提供了舞台。平台背後商業資本、政治權力、民眾影響且深深塑造著社交媒體。

科技公司為了利益，會不斷滿足民眾的個性化需求進行算法推算，由此進行的信息推送最終造就信息茧房。民眾接受的信息內容越來越狹窄，加之同溫層相互抱團取暖，觀點自會越來越極化。

但我其實認為這樣的說辭有些高估了民眾的自主權與選擇空間。真正掌握且控制信息的還是那個無形的手。為了政權的穩定，可以要求科技公司進行IP鎖定，限制特定內容的瀏覽。自然也可以直接建造一個全球最大的局域網。以保護民眾之名（更多時候的常見話術是為了保護下一代）剝奪本可以擁有的自由。殘酷而又現實的未來構想“數字極權”，或許正在一步步到來。

我喜歡影片最後那位辭職的審查員說的那番話：不要逃避，不要麻木自身。

現實本身的苦難與黑暗是刪除不了的。（但我支持的是有底線的自由空間，並非放任自流）呆在一個溫良且無害的環境之中，會影響個體批判性思考能力，挑戰能力的訓練，逐漸縮緊自身表達的空間，放任民粹思想的氾濫。個體被迫或者無意識地逃避現實，逃避了公民所需承擔的責任。與此同時，語言本身也遭到了殲害。

只有在大量信息獲取的前提下，才能進行相對有效的信息判斷與審視。在簡體中文信息這個極其糟糕的環境下，一味地聽信與一味的不聽信，都是糟糕的能力體現。（孫楊一事的輿論風向轉變是極其具有參考價值的控制案例。足以以小見大。）（好像話題扯遠了orz......

說回正題來，對於影片中的審核員我內心十分同情，領著不高的薪金，每天都得直面黑暗與血腥。

但對於第三帝國的審核員，秉著一個沒有來由便被炸號的人的立場，我只能勉為其難的認可他們作為一顆不鬆動的螺絲釘所作出的努力。可轉念一想吧，我能體諒他們，誰來體諒我？

紀錄片裡提到的問題一時半會兒也解決不了。思想本來也無法統一，唯一要做的是建立一個文明包容的互聯網空間。全球都在右轉，樂觀的來說：或許此次疫情能成為契機，讓大家重新意識到全球化的重要性。開放包容的精神還能得到提倡。但悲觀的來說，歷史不會一直前進，要做好止步不前甚或倒退的準備。（或許在這個時候成為一顆第三帝國的螺絲釘不失為個體的良好選擇🌚（對不起，俺又在陰陽怪氣了

[纪录片赏析课作业01]

#一百部纪录片计划#002《网络审查员》

几个事实：

1、网络世界，是一个虚拟世界，它并不是现实世界的本真反应，更像是一个基于现实世界某点的放大镜或者哈哈镜。网络平台，无论是社交媒体、视频网站或者搜索引擎呈现出的内容都是经过筛选和审查的。通过网络看到的世界，是带着滤镜或者有色眼镜看到的世界，但很多人以为现实就是如此，这是一种幻觉。

2、硅谷科技巨头，脸书、推特等，包括国内的字节所宣称的技术和算法中立，是一种谎言，因为这些平台的商业模式是广告模式，获取更多的用户、更多的转发和关注是他们的目的，这必然导致算法推荐带有诱导更多观看和分享的基因，刺激情绪的内容，加强极端言论的内容会有可能获得更多的推荐和传播，算法中立本身是不可能的，正如脸书的产品经理所说，脸书事实上对美国内部极端意见群体的对立冲突，起到了推波助澜的作用。

几点值得思考的问题：

1、如果网络反应的不是一个真实的世界，真实的世界，有善恶美丑，网络为了限制罪恶的扩散和影响，需要把色情、暴利、恐怖等内容进行审查删除。

那么如何界定内容的标准？艺术图片与色情图片、战争新闻与恐怖影像，邪教与神学……如果确定审查的标准与界线？

2、谁有权力制定审查的标准和界线？平台的审查标准和不同国家的法律标准是否足够公开透明？

3、执行审查工作的人的心理健康如何保护？

就如片中展示的，一个人每天2.5万张图片，几乎每个审查员每秒就要审查一张图片，其中会有大量传播色情、罪恶的内容，他们过量摄入了这些恶的东西，就像毒素一样侵入他们的大脑和心灵，冲击着他们对世界真善美的信念，有的人需要通过信仰上帝，用宗教来安慰自己的罪恶感，有的人变得麻木，有的人看了太多自残视频，过于悲伤，申请调岗而不得，最终抑郁自杀……

这些菲律宾的审查员为了相对当地较高一些的收入，以牺牲自我心灵为代价，在“保留、删除”的程序工作中异化自己、奴役自己，在自我美化、自我救赎和自我毁灭中挣扎，这是一份残酷的工作！

很有意味的一点在于，这种残酷的工作以第三方外包的形式存在于发展中国家，而硅谷只是宣称连接美好…就像一个事物的光与影，光辉留给了硅谷与科技创新者，暗影留给贫穷国家的打工者。

“很多我看过的照片，我都不记得了。”

镜头里呈现出的是一张倒映在玻璃上的脸，而真实的脸却是模糊的、侧视的。因为他在逃避，他在说谎，他无法正视镜头，他不会真的忘记。就像说完这句话之后，他说起了上次直播上吊的男子，还对当时观看直播的观众评论记得清清楚楚。

很难想象在长时间进行这样的工作后，他们会如何看待这个世界？麻木，冷静，PTSD，绝望自杀，或者是像影片中那样，选择继续工作，把它当成一种责任。而在强人工智能时代到来之前，至少还有很长一段时间，网络世界和我们都少不了他们。

冲着这部片子瞄准的主体，我就想给五星。希望能让更多的人知道，Moderator/网络审查员的工作不像大家戏谑“鉴黄师”那样轻松；网络所释放的欢愉和轻松，也只是他们过滤后的简化了的世界。

你知道为什么有的微博内容会被官方删除吗？你知道为什么B站博主发的视频有一些不能通过审核吗？你知道为什么微博热点会被撤下吗？……这些背后存在着特殊的工种，那就是“网络审查员”。

《网络审查员》是我无意间在微信公众号看到的，吸引我的就是它的特殊，这是我从未听说过也从未关注过的一个工种。出于好奇，我利用下午的空闲时间将其看完。

这篇影片是纪录片，它讲述着一群网络审查员的真实工作。什么是审查员？就是网络的清道夫，清理不符合规定的图片，影片。他们是由互联网一些平台比如脸书，推特等等来和菲律宾的外包公司合作，清理网络上的罪恶（黄色内容，反政治言论，血腥暴力等）。塔曼的工作看似简单，实则不易。

在菲律宾，很多工作的薪水都很微薄，为了能够获得好点的生活，会有一些人选择了网络审查员这个工作。有个女孩面试的时候，看到的视频是恋童癖，一个女孩正在进行口交，而另一个影片则是，一个女孩身上都是精液。对于这些画面，她无法忍受，但因为工作需要，还是要克服自己心中的那个坎。另一名女审查员在步入这个行业之前是很单纯的，一些敏感词比如肛交之类的含义她并不清楚，为了这份工作，她甚至通过看性爱片进行学习这些词。除此之外，因为全球化劳动力，对于审查的内容多数是来源于其他国家，而对历史背景一无所知的情况下，审查的难度就会增加。

在审查的眼中，有些艺术不得不删除。有个女艺术家画了一个川普裸体，并且画上了一个很小的生殖器。虽然审查员知道这幅画表达的意思是，川普的能力和他的生殖器一样弱，不适合领导美国。但是涉及到裸体的图片是审查的底线。尽管艺术家自己认为，为什么会有人觉得裸体恶心。还有一个摄影师，他对叙利亚十分关注，他将一个溺水的小男孩发布到他的脸书上，不到三天就被删除。虽然他想呼吁战争的可恶，政治间的博弈造成无辜生命的丧失，但是影片涉及到sisi影片，审查员不得不删除。

审查在一定程度上，阻挡了黑暗，但也阻挡了真相。叙利亚战争的打响，很多难民都会通过手机记录真实的情况，最后却无法过审。

联合国言论自由权特别报告员说“这些公司越来越多权力决定什么留下什么撤下，利用人乐于安逸，讨厌努力，讨厌挑战的心态。随着时间的推移，总有一天，丧失我们进行批判性思考能力，妨碍接收挑战的能力，造成限缩言论。”

网络审查员的本质是不容犯错，他们决定着人们将会看到什么。而看到的这些东西，很可能引发战争，霸凌，犯罪现象等等。所以他们小心翼翼。这是一项不轻松的工作，更是一份艰巨的责任。有些黑暗是光无法到达的地方，只有审查员能替我们前往。虽然有利有弊，但是利大于弊总是好的。

（摘抄：社交媒体是中性的，不会助长什么，但如何才能吸引眼球增加关注是原因，而愤怒是最有效的诉求。）

技术、媒介是中性的吗？傻子都知道不是。不然也不会有网瘾和杨永信了。

反过来看，而互联网曾经承诺的“连接每一个人”的乌托邦，在当今现实里的大图景到底是什么样子？

社交媒体，在总体上，是否将把我们的世界变得更好呢？

这几年对互联网和智能手机全球性地改变人的行为的嘲讽或自嘲也不少见了。

前不久又爆出脸书向剑桥分析泄露5000万用户而被用来操控选举的新闻。

上个月中下有哥本哈根纪录片电影节，偶然去看了这部 《清理者》The Cleaners。

片中播放了去年年末美国法庭关于 俄罗斯和2016年大选 Russia and 2016 Election Investigations 的调查。法官质疑，这三大公司的内容环境受到国际政治力量的左右，影响选民，以及被用来组织、散播、宣扬非人道的行动。唯唯诺诺中互联网公司的法律负责人（我不确定这里使用的名词是准确的）说到了自己外包了大量的员工来审核内容的事实。而脸书透露出，他们雇佣的审查者居然有数千人之众，而且未来还会继续增加人数。

——这些被雇佣的网管就是本片的主角，他们内部自称为“内容仲裁者”content moderator，所谓的“清理者”。这是一个驻扎在菲律宾马尼拉的公司，而他们的职业对于外界是一个秘密。

影片开始的时候，镜头在一间典型的现代白领办公室里，关着灯，只有一个人操作着一台亮着的电脑，并只能看到这个人面部的局部。背景音不断回放着，“删除”delete/“无视”ignore/“删除”delete/“无视”ignore……随后镜头跟随同一个主角描述ta夜晚上班的场景，穿过熙攘、喧闹、混杂的马尼拉的城市街道、高架桥，进入一栋漂亮的办公楼。在喧闹拥挤的亚洲城市里，做一项秘密却关乎数十亿人口的工作。这就是他们的工作内容，而操作看起来如此的简单，就是审核每天从全世界上传的上百亿的照片、图片，然后决定是要保留还是删除。

脸书内部关于上传信息内容规定的条例相当复杂，关于对暴力、色情的内容判定是否删除的规定，有一百多条。然而在去年被卫报曝出来以前鲜有人知。被采访者包括Google的负责人、工程师，面对镜头，检讨公司创始人们对中性技术的美好设想并没有尽到相关的责任；而另一方面也列出了关于支持自由者的质疑，包括一些内容被删的艺术家、摄影师。

“这些规定也让自由言论倡导者担忧。他们认为，Facebook可能已经成为了世界上最大的审查员，该事实敲响了言论自由的警钟。”

脸书提供的强大平台，涉及了一系列冲突明显的社会问题，包括美国内部的种族，西欧对移民的态度——到底是发泄不满，还是有组织的政治立场，这两者界限模糊。以ISIS为例的恐怖组织也在借脸书宣扬自己的。片中截取的片段。蛋最让我看不下去的是缅甸迫害罗兴亚人，一个母亲对着镜头哭诉自己的家庭怎样被迫害。——这种原本平缓融洽的文化混杂，被西方殖民者弄得互相仇视的例子早就不新鲜了。

传播能力的扩大，既然足够提供人与人的连接，也可以能让人与人更加分裂。爱是可以被传播的，那么仇恨也可以；敌意、仇视、偏见，技术本身不会过滤任何人人心里的东西。

回到清理者们，这项工作是否看起来十分简单？

然而，到目前为止机器/ AI还没有能力处理人类复杂的认知和表达。光是言论，根据不同的语境，是发泄情感还是表达真实意图都难以判断；再加上图像、视频中更加复杂微妙的视觉语言，机器对此无能为力。而这些内容仲裁者也有很大的负担：他们的神经每天要处理25000项图片或视频，而对每一张图片最多只有8秒钟做判断。这对大脑是巨大的负荷。

更糟糕的是，他们要经手的材料大多都是令人不适甚至不安的内容：色情、虐待、战争、恐怖组织的非人道行为——尽管在正式工作之前已经被训练去应对这些内容，但仍对他们的日常生活也造成困扰，也包括道德上的处境。

开头的场景展示了他们的两难处境，深处闹市，却做着全世界的网管，而工作内容也不能让身边的人知道——他们需要一个让自己心安理得的身份，当然也需要这份得体的薪水；他们不得不相信自己确实是在有尊严地维护秩序。很多人也因为上面这些原因放弃了这份工作。

技术到底带来了什么呢？纪录片的好处是，导演呈现给你的是各方视角和立场。这个问题暂且还不会有结论。

它是给我们所有人的问题。

片头片尾，截了两段扎克伯格对公众的演讲；看他如何表情坚定、豪迈地谈论脸书如何能够成就新的未来。

然后片尾字幕亮起，意味深长，留下片场一片唏嘘。

“太可怕了。太可怕了。”

我跟波兰的好朋友聊起感受，感觉出来的大概是对全球网络的这种无序状态和其无解的担忧。——就他所言，人们还是倾向于相信，世界是需要秩序的；但由谁来引导呢？现在的声音越来越多、越来越庞杂，到最后就是谁也不服谁。朋友说，这里为什么美国人会雇佣菲律宾人就很玩味了——菲律宾是个天主教国家，在价值观上跟西方基督教世界更相通。

技术悄然滋生的权力绕过了所有人的眼睛，但信息审查是真实存在的。（你看，我们的互联网环境在世界上也没有那么特殊嘛）

过去的“信息集权”提供了同一套世界的框架；哪怕你要质疑某个事实，要叫骂对着的也是同一个屏幕。而今天每个人都在自己的屏幕里接受现实，在传送到自己眼前的信息流里，营造自己世界的小泡泡——而且老一辈还带着上个时代的惯性：“那么多人都看了的信息，能不是真的吗？”。但外面还有个过滤的大泡泡呢。

信息是种权力无疑；我想对于很多人，这部片的隐喻是，我们以为今天的时代走向的是美丽新世界，其实背后并行着一个一九八四。——反正我对这种自由斗士的论调保持怀疑；有时不免有点“见到短袖子就想到裸体”的意思。

尼尔·波茨曼早在60年代就在《娱乐至死》里说过的话，到今天仍然适用：从有广播、新闻报纸、电视开始，这个世界的行动跟信息比率越来越小了，我们关注的大多跟自己眼前的事实、跟自己的生活无关。大多数事情不需要关注。而这个世界本身运行机制的复杂程度，远远超出一般普通人所能理解；这种理解也许是不必要的。 我们自己，是在为这个世界带来了更多的噪声，还是更多的秩序、平和呢？这个问题，互联网不会回答我们，技术也永远不会回答我们。

靠点击就能得来的东西并不真的属于我们自己。

这个世界会好的。不是因为技术，而是因为我们在把自己变好。