“Delete”“Ignore”......在反复不断的“删除”或是“忽略”的声音中,导演Hans Block和Moritz将我们代入了第三世界的网络审查员的视角。
社交媒体自诞生至今十五年以来,已经演化成为一件强大而危险的工具,在美国政选中,可以成为左右民主选举的强大异能,也能变成不知不觉改变民众思想的政治力量,比如俄罗斯通过操作社交媒体影响美国政选、英国脱欧民众受到媒体影响等事件曝光后,引起世界的一片哗然。
而这部纪录片作为尖锐的提醒:“我们可能会失去民主,因为我们愿意放弃。”但究竟谁有资格成为社交媒体的嘴巴,谁有权利决定信息流的审核?
《清道夫》通过选择拍摄观点对立的双方,来揭露互联网审查的矛盾。科技公司在第三世界菲律宾存在大量审核内容的审查员,而处于对外宣称外包公司的灰色地带,审查员们面对大量的暴力、色情内容时,一位匿名审查员这么说道:“感觉体内有种病毒在慢慢入侵我的大脑,然后我辞职,我需要停下,这工作有问题。”
科技公司需要有道德责任,于是建立起人工筛选过滤制度,而给审查员心理遭受的极度不健康影响并没有得到重视,而酿成了员工自杀的惨剧。作为第三世界的外包公司中的员工,他们像是一道道黑暗的闸门,阻止着社交媒体上仇恨的传播。其中就不乏极端组织的残忍处决、难民问题造成的儿童死亡、战乱现场......这些触目惊心的场景成为审核员的日常工作。
影片聚焦在这些审查员和不同立场的对象身上,通过采访的对白,一句句戳进互联网监管的内核,而导演的高明之处在于展现矛盾对立对象的平行对话,站在不同的视角,有着不同的利益和立场的人,是怎么思考和回应网络监管的问题:艺术家有自己强烈表达的欲望、科技公司屈于利益关系选择政治干预、第三世界审查员们局限的文化教育背景......
可就像这个不可调和的世界一样,纪录片无法改变只能作出回答:人性本身具有复杂的双面性,网络不过是放大它。而我们再怎么“Delete”或“Ignore”,也无法删除或忽视掉作为人类,我们不愿意面对的一面。
应该让世人知道,有审查员这样一群人在工作。他们依照规定审核发布的内容,确保社交媒体的安全。
Ignore, Delete, Ignore, Delete ...... 这便是审查员的日常。
应该让世人知道,有审查员这样一群人在工作。他们依照规定审核发布的内容,确保社交媒体的安全。
开篇从员工的角度开始,员工感觉这工作是网络世界的安保人员,维护网络世界里面的秩序,避免有害内容传播。
员工都在菲律宾的马尼拉,这些就业让很多人脱离了以捡垃圾为生的困境,担当起家庭开支的重任。
工作强度有多大,每天的指标是 2.5 万个审核。那些员工可能没有开玩笑,可能真的会破吉尼斯纪录。
员工接触的内容有些哪些?儿童性交,暴力血腥,污蔑政治等内容。这些内容慢慢侵蚀人的头脑,审查员的心智感觉迟早会出问题。
平台角度,什么是不合适的内容?很难筛选。因为即便是由人来筛选甄别,也很难做好,别说是程序了。但平台是一定要承担这份社会责任的,有义务维护平台上内容的健康性。
为维护的工作上,也很难做好。平台会针对性地删除和屏蔽一些内容。Facebook 听从土耳其政府的要求,删除政治性言论、图片和视频。这个维护是不是过头了?
有的视频并不违反社交媒体平台的规定,不属于删除对象,但在土耳其被定为违法视频。对于这种情况,社交媒体平台的解决方法是根据 IP 来屏蔽土耳其的用户。
平台让言论传播更快速,言论自由便有遇到对立观点的情况,现实情况是,情况没有因此而促进双方的理解,反而激发矛盾。这种事情也怪平台吗?但平台确实有责任遏制散播仇恨。
从媒体的角度来看,像叙利亚处于战争的国家,很多血腥的图片或者视频,想引发社会的关注,但是也会被审核删除。
审查员每天都在看这些充满暴力、血腥、仇恨、色情的视频,他们的身心健康,公司会保障吗?如果审查员跳过这些视频,这与公司的制度相违背,会有扣减业务分数的惩罚。确实有出现过,部分审查员由于受到每天看的视频的影响,在家上吊自杀。
“很多我看过的照片,我都不记得了。”
镜头里呈现出的是一张倒映在玻璃上的脸,而真实的脸却是模糊的、侧视的。因为他在逃避,他在说谎,他无法正视镜头,他不会真的忘记。就像说完这句话之后,他说起了上次直播上吊的男子,还对当时观看直播的观众评论记得清清楚楚。
很难想象在长时间进行这样的工作后,他们会如何看待这个世界?麻木,冷静,PTSD,绝望自杀,或者是像影片中那样,选择继续工作,把它当成一种责任。而在强人工智能时代到来之前,至少还有很长一段时间,网络世界和我们都少不了他们。
冲着这部片子瞄准的主体,我就想给五星。希望能让更多的人知道,Moderator/网络审查员的工作不像大家戏谑“鉴黄师”那样轻松;网络所释放的欢愉和轻松,也只是他们过滤后的简化了的世界。
你知道为什么有的微博内容会被官方删除吗?你知道为什么B站博主发的视频有一些不能通过审核吗?你知道为什么微博热点会被撤下吗?……这些背后存在着特殊的工种,那就是“网络审查员”。
《网络审查员》是我无意间在微信公众号看到的,吸引我的就是它的特殊,这是我从未听说过也从未关注过的一个工种。出于好奇,我利用下午的空闲时间将其看完。
这篇影片是纪录片,它讲述着一群网络审查员的真实工作。什么是审查员?就是网络的清道夫,清理不符合规定的图片,影片。他们是由互联网一些平台比如脸书,推特等等来和菲律宾的外包公司合作,清理网络上的罪恶(黄色内容,反政治言论,血腥暴力等)。塔曼的工作看似简单,实则不易。
在菲律宾,很多工作的薪水都很微薄,为了能够获得好点的生活,会有一些人选择了网络审查员这个工作。有个女孩面试的时候,看到的视频是恋童癖,一个女孩正在进行口交,而另一个影片则是,一个女孩身上都是精液。对于这些画面,她无法忍受,但因为工作需要,还是要克服自己心中的那个坎。另一名女审查员在步入这个行业之前是很单纯的,一些敏感词比如肛交之类的含义她并不清楚,为了这份工作,她甚至通过看性爱片进行学习这些词。除此之外,因为全球化劳动力,对于审查的内容多数是来源于其他国家,而对历史背景一无所知的情况下,审查的难度就会增加。
在审查的眼中,有些艺术不得不删除。有个女艺术家画了一个川普裸体,并且画上了一个很小的生殖器。虽然审查员知道这幅画表达的意思是,川普的能力和他的生殖器一样弱,不适合领导美国。但是涉及到裸体的图片是审查的底线。尽管艺术家自己认为,为什么会有人觉得裸体恶心。还有一个摄影师,他对叙利亚十分关注,他将一个溺水的小男孩发布到他的脸书上,不到三天就被删除。虽然他想呼吁战争的可恶,政治间的博弈造成无辜生命的丧失,但是影片涉及到sisi影片,审查员不得不删除。
审查在一定程度上,阻挡了黑暗,但也阻挡了真相。叙利亚战争的打响,很多难民都会通过手机记录真实的情况,最后却无法过审。
联合国言论自由权特别报告员说“这些公司越来越多权力决定什么留下什么撤下,利用人乐于安逸,讨厌努力,讨厌挑战的心态。随着时间的推移,总有一天,丧失我们进行批判性思考能力,妨碍接收挑战的能力,造成限缩言论。”
网络审查员的本质是不容犯错,他们决定着人们将会看到什么。而看到的这些东西,很可能引发战争,霸凌,犯罪现象等等。所以他们小心翼翼。这是一项不轻松的工作,更是一份艰巨的责任。有些黑暗是光无法到达的地方,只有审查员能替我们前往。虽然有利有弊,但是利大于弊总是好的。
(摘抄:社交媒体是中性的,不会助长什么,但如何才能吸引眼球增加关注是原因,而愤怒是最有效的诉求。)
这部纪录片真的非常值得看完了之后进行深思:
我仅敢列出以下的几个点供大家思考,而不敢自己妄下结论。
1.网络SC员通常被外包给第三世界国家的员工,差不多时薪为1美元。
2.长期成为网络SC员,精神上会受到长期的负面影响,因为黄色和暴力信息长期影响人体的身体健康。有的人为此而患上严重的精神疾病。有的人甚至宁愿捡真实世界的垃圾,也不愿意再干这个活。
3.如何鉴别信息不良不止是一个法律问题,有的时候还涉及到哲学上的争辩,比如电影中提到的例子:萨达姆被杀的过程与萨达姆尸体的影像之间的区别。
4.即使专家有的时候也很难做出选择,而这些审查员每天则要做出25000次选择,而其中如果漏判3次的话,就会失去工作。影响他们的是数量和绩效。 这是否导致SC员都会趋向于保守呢?
5.实际上我们现在看到的互联网就是,网络SC整理干净之后的互联网。而真正完整的互联网,可能只有审查员看到了。
6.我们也在用自己的键盘塑造着互联网。
7.互联网公司在各别国家和地区,可能要与这些政府达成协议的话,这样的行为究竟是该被定义为一个影响言论自由还是仅仅只是遵守当地法律的行为呢?这个问题本身还是很值得深思。(顺便提到,The Good Fight S03E08中就出现了一个例子,有一个律师就是利用好了这个争论,从而能够从互联网巨头身上敲上很大一笔竹杠,当然他并不是为了真的将这个话题在法庭上能够进行准确定义,而是为了能够对这个话题进行争论,并且利用媒体的报道对互联网公司进行公关方面的巨大压力,从而能够获得大笔的赔偿金。)
delete... ignore...
That's the two actions that a content moderator does every day.
"I protect the user who uses the app", said one of the moderators, as the president tried to protect his people by killing all the criminals.
"One of the misconceptions is that human nature is human nature, and then technologies are just useful tools: it's not amplifying anything - but this is not true, because technology does have a bias, and that bias has a goal, it's actually seeking a goal, it's the goal it's seeking that what will get the most number of people's attention, what tends to work on billions of people that's successfully attracting their attention out of that, and keep it; and not just getting their attention but getting them to share things, and so it turns out that our rage is actually good at doing so"(Cleaners, 2018, 1h6m).
“I sacrifice myself, yes, there will always be sacrifices, it will always be a part of life... it's my job to prevent the sinful images, I'm a preventer“(1h21m)
清道夫不是人干的活。每天看各种黄色暴力血腥视频,有害身心。审查员有自杀的,也有宁愿回去捡垃圾,也不再看那些网络垃圾。
特别严肃、深沉、拓展视野和引人熟思的一部纪录片。新网络时代社交媒体在左右我们的思维动向,可怕的是它利用我们的潜意识,就在我们毫无意识之间替我们决定了一切。而被牺牲的网络审查员,真的新时代最悲伤职业。
引人深思。同样的内容在不同的语境下是不一样的,讽刺或者谴责是不是就可以?(实际工作中真的就遇到这样的情况啊)提供一个“干净”的环境是不是就不利于理性批判呢?非常不爽的是,这样一个“国际纪录片节”竟然放个样片给我看,中间字幕还因为剪辑版而字幕对应不上。
发人深思的优秀纪录片,不能忽视的人群——网路清道夫
不涉及处在局域网的我们,主要介绍采访不存在的欧美几大上传类社交网站的图片视频的人工审查员,他们居然都是在菲律宾的当地人,每天面对两万多件的色情暴力政治战争等敏感信息。梦到大量不同男人生殖器的女基督徒,还有的看过上百段斩首的影像,在自残部门调离不成而自杀的员工,叙利亚老百姓拍摄的那些和isis的如何处理,开放网络后只识脸书的缅甸人被假消息散播利用挑起的大屠杀,最后现身的扎克伯格发布会好像把矛头直指大公司在建立自由之地的同时今后要怎么走向,穿插在美国被诉讼而改变准则的几次事件,对了解那些人背后的操作程序和世界阴暗面有不少直观的感受,联想在高墙之内被保护的这片土地更加唏嘘。
一部上影节北影节选片首轮一定被毙的纪录片出现在即将被迫全面退票转为免费包场的西宁,来自一个全球最大的被清理者组成的国度。
索爾仁尼琴說過“每個人有不知情的權利”,但是人又卻是好奇和獵奇。前幾年Dark Net第一季的其中一集就對網絡審查員有過展現。感覺這部紀錄片是擴展版,而且選取的事例頗具典型性。我依然覺得對於互聯網(尤其是移動互聯網)要採取謹慎甚至消極的態度。整個片最讓我印象深刻的是NGO組織對敘利亞內戰的社交網絡視頻爭分奪秒的保存。畢竟,很多視頻基於版權和審查已經無法被觀看,而本身又具備價值。其實,“知道太多”的審查員和違規視頻圖文資料庫同樣是個不穩定的危險因素。難道就不怕造反嗎?
“Delete, delete... Ignore, ignore”,以网络世界不为人注意的审查过滤工作展开,用Google和FB做引子,到最后拉开成了对极右思潮的兴起、政治讽刺的界限还有中东和罗兴亚人的全面涉及,88分钟里满满的信息量和各种立场。勾勒了网络世界近年来除去深网、色情交易和信息安全之外最严峻的现状。无法想象各位清道夫需要在工作中承受多少压力与伤害,才能换得一份维持温饱的工作;女孩穿行于垃圾堆的画面映照,十分加分。
很有意思的视角,第三世界廉价审查员,被剥削的不只是重复性劳动,还被迫承受了最为骇人听闻的精神暴力。后半部分上升到社交媒体就比较泛泛而谈了,无非是民主和民粹的讨论,作者立场也过于明显。这部电影本质还是猎奇,但也只有冲击力和未知能引发思考。
一部片顶十季《黑镜》,而且与当下联系更紧密,讨论的核心仍处在on-going状态,没有人知道之后会发生什么改变。手法无甚高明,但贵在争议的提出和创作者的态度,毕竟很多难题并不可能也并不应当由这部纪录片来回答。
这群为了网络的健康与和谐默默付出的人们,难以想象他们每天要面对多少充满血腥、暴力、色情以及政治恐怖的镜头。他们目睹过自杀,目睹过砍头,目睹过性侵,出现一点小小的纰漏都可能会造成死伤甚至战争,他们在不为人知的地方守护着世界的和平
当影像创作紧紧地与道德与立场捆绑,纪录片本身也跳脱开单纯的新闻属性,质问甚至鞭挞所有人习以为常的伦理框架。从网络清道夫,到社交媒体时代的仇恨传播,一块荧幕前后是监控的过犹不及,和话语的无孔不入。信息量大,有些话题点到即止,拍的精细完整,但再做扩充也无妨。
設計的場面和台詞過多,集中於弘大命題而遠離了作為網絡審查者的“人”。始終陷在一種美感過度的不適中。講演現場等視頻的活用很好。“被審查”的部分影像,那些自殺情色宗教與恐怖暴力,除了展示,真的沒有更好的方式了嗎?對影像資料的處理和使用,需要倫理上的再思考。JIFF0507M9
看到扎克伯格意气风发的脸,就像是这个世界真正的领导者一样。可怕的是竟然还有人把自己和国家的人民与希特勒和被屠杀的犹太人类比,渺小无力的我们只能对着社交媒体冒泡。
审查;还以为是日本人做的,原来是德国人;色情delete,战争暴行(宣传恐怖delete,反战ignore)但作为网络守望者的这部分菲律宾人不可能了解那个背景不好判断,忽略的害处:罗兴亚人的迫害,稀疏的言论自由:人里面不成熟、容易受恶影响的还是不少的,审查是一种偷懒的方式,人类就不用自己费劲去判断了,政治言论:油管的仅对该国ip屏蔽,也算厚道,那为啥我们不行?(大概扶植本国经济吧,也能偷懒,毕竟自己人好管);审查员自己的影响,每天看这些势必有影响(发条橙);网络使全球人心的共通,对于审查员更明显;言论自由观点(我的):事物都有丑恶一面,如果你没看到,说明你还不了解它;人总是需要假象的敌人(鄙视对象),外国移民、CXK。
看!这盛世,时代之恶,我在这儿先糊你脸上为敬。
① 网络审查的存在是必要的,如同现实生活中的质检、保洁和垃圾分类等工种;但对「垃圾」、「有害」的标准界定是模糊的;② 人与人之间的道德标准、族群与族群之间的习俗观念、国与国之间的法律政策都是存在差异,而遍及全球的社交网络平台必然无法普适所有地区人民;③ 平台工具的中立属性,与吸引点击的传播逻辑,形成天然矛盾;④ 国家和联合国都难以解决的矛盾争端,居然需要距离事发千里之外、月入几千元的审查员做出判断,真心无奈。
常在河边走哪能不湿鞋
脸书YouTube推特上,内容合法不合法,是让一群外包的菲律宾人来审查。难怪影片中,故意让审查员看两张照片,一张是获普利策奖的越战照片《火从天降》,因为小女孩全身赤裸,被删;另一张,伊战美军虐囚事件,审查员看成了ISIS士兵在虐美军俘虏,被删。
你好,你发表的关于《The Cleaners》的短评,因为含有违反相关法律法规或管理规定的内容,已被移除。感谢你的理解与支持。——豆瓣电影