delete... ignore...

That's the two actions that a content moderator does every day.

"I protect the user who uses the app", said one of the moderators, as the president tried to protect his people by killing all the criminals.

"One of the misconceptions is that human nature is human nature, and then technologies are just useful tools: it's not amplifying anything - but this is not true, because technology does have a bias, and that bias has a goal, it's actually seeking a goal, it's the goal it's seeking that what will get the most number of people's attention, what tends to work on billions of people that's successfully attracting their attention out of that, and keep it; and not just getting their attention but getting them to share things, and so it turns out that our rage is actually good at doing so"(Cleaners, 2018, 1h6m).

“I sacrifice myself, yes, there will always be sacrifices, it will always be a part of life... it's my job to prevent the sinful images, I'm a preventer“(1h21m)

這部紀(jì)錄片真的非常值得看完了之后進行深思：

我僅敢列出以下的幾個點供大家思考，而不敢自己妄下結(jié)論。

1.網(wǎng)絡(luò)SC員通常被外包給第三世界國家的員工，差不多時薪為1美元。

2.長期成為網(wǎng)絡(luò)SC員，精神上會受到長期的負面影響，因為黃色和暴力信息長期影響人體的身體健康。有的人為此而患上嚴(yán)重的精神疾病。有的人甚至寧愿撿真實世界的垃圾，也不愿意再干這個活。

3.如何鑒別信息不良不止是一個法律問題，有的時候還涉及到哲學(xué)上的爭辯，比如電影中提到的例子：薩達姆被殺的過程與薩達姆尸體的影像之間的區(qū)別。

4.即使專家有的時候也很難做出選擇，而這些審查員每天則要做出25000次選擇，而其中如果漏判3次的話，就會失去工作。影響他們的是數(shù)量和績效。 這是否導(dǎo)致SC員都會趨向于保守呢？

5.實際上我們現(xiàn)在看到的互聯(lián)網(wǎng)就是，網(wǎng)絡(luò)SC整理干凈之后的互聯(lián)網(wǎng)。而真正完整的互聯(lián)網(wǎng)，可能只有審查員看到了。

6.我們也在用自己的鍵盤塑造著互聯(lián)網(wǎng)。

7.互聯(lián)網(wǎng)公司在各別國家和地區(qū)，可能要與這些政府達成協(xié)議的話，這樣的行為究竟是該被定義為一個影響言論自由還是僅僅只是遵守當(dāng)?shù)胤傻男袨槟?？這個問題本身還是很值得深思。（順便提到，The Good Fight S03E08中就出現(xiàn)了一個例子，有一個律師就是利用好了這個爭論，從而能夠從互聯(lián)網(wǎng)巨頭身上敲上很大一筆竹杠，當(dāng)然他并不是為了真的將這個話題在法庭上能夠進行準(zhǔn)確定義，而是為了能夠?qū)@個話題進行爭論，并且利用媒體的報道對互聯(lián)網(wǎng)公司進行公關(guān)方面的巨大壓力，從而能夠獲得大筆的賠償金。）

技術(shù)、媒介是中性的嗎？傻子都知道不是。不然也不會有網(wǎng)癮和楊永信了。

反過來看，而互聯(lián)網(wǎng)曾經(jīng)承諾的“連接每一個人”的烏托邦，在當(dāng)今現(xiàn)實里的大圖景到底是什么樣子？

社交媒體，在總體上，是否將把我們的世界變得更好呢？

這幾年對互聯(lián)網(wǎng)和智能手機全球性地改變?nèi)说男袨榈某爸S或自嘲也不少見了。

前不久又爆出臉書向劍橋分析泄露5000萬用戶而被用來操控選舉的新聞。

上個月中下有哥本哈根紀(jì)錄片電影節(jié)，偶然去看了這部 《清理者》The Cleaners。

片中播放了去年年末美國法庭關(guān)于 俄羅斯和2016年大選 Russia and 2016 Election Investigations 的調(diào)查。法官質(zhì)疑，這三大公司的內(nèi)容環(huán)境受到國際政治力量的左右，影響選民，以及被用來組織、散播、宣揚非人道的行動。唯唯諾諾中互聯(lián)網(wǎng)公司的法律負責(zé)人（我不確定這里使用的名詞是準(zhǔn)確的）說到了自己外包了大量的員工來審核內(nèi)容的事實。而臉書透露出，他們雇傭的審查者居然有數(shù)千人之眾，而且未來還會繼續(xù)增加人數(shù)。

——這些被雇傭的網(wǎng)管就是本片的主角，他們內(nèi)部自稱為“內(nèi)容仲裁者”content moderator，所謂的“清理者”。這是一個駐扎在菲律賓馬尼拉的公司，而他們的職業(yè)對于外界是一個秘密。

影片開始的時候，鏡頭在一間典型的現(xiàn)代白領(lǐng)辦公室里，關(guān)著燈，只有一個人操作著一臺亮著的電腦，并只能看到這個人面部的局部。背景音不斷回放著，“刪除”delete/“無視”ignore/“刪除”delete/“無視”ignore……隨后鏡頭跟隨同一個主角描述ta夜晚上班的場景，穿過熙攘、喧鬧、混雜的馬尼拉的城市街道、高架橋，進入一棟漂亮的辦公樓。在喧鬧擁擠的亞洲城市里，做一項秘密卻關(guān)乎數(shù)十億人口的工作。這就是他們的工作內(nèi)容，而操作看起來如此的簡單，就是審核每天從全世界上傳的上百億的照片、圖片，然后決定是要保留還是刪除。

臉書內(nèi)部關(guān)于上傳信息內(nèi)容規(guī)定的條例相當(dāng)復(fù)雜，關(guān)于對暴力、色情的內(nèi)容判定是否刪除的規(guī)定，有一百多條。然而在去年被衛(wèi)報曝出來以前鮮有人知。被采訪者包括Google的負責(zé)人、工程師，面對鏡頭，檢討公司創(chuàng)始人們對中性技術(shù)的美好設(shè)想并沒有盡到相關(guān)的責(zé)任；而另一方面也列出了關(guān)于支持自由者的質(zhì)疑，包括一些內(nèi)容被刪的藝術(shù)家、攝影師。

“這些規(guī)定也讓自由言論倡導(dǎo)者擔(dān)憂。他們認為，F(xiàn)acebook可能已經(jīng)成為了世界上最大的審查員，該事實敲響了言論自由的警鐘?！?/blockquote>

臉書提供的強大平臺，涉及了一系列沖突明顯的社會問題，包括美國內(nèi)部的種族，西歐對移民的態(tài)度——到底是發(fā)泄不滿，還是有組織的政治立場，這兩者界限模糊。以ISIS為例的恐怖組織也在借臉書宣揚自己的。片中截取的片段。蛋最讓我看不下去的是緬甸迫害羅興亞人，一個母親對著鏡頭哭訴自己的家庭怎樣被迫害。——這種原本平緩融洽的文化混雜，被西方殖民者弄得互相仇視的例子早就不新鮮了。

傳播能力的擴大，既然足夠提供人與人的連接，也可以能讓人與人更加分裂。愛是可以被傳播的，那么仇恨也可以；敵意、仇視、偏見，技術(shù)本身不會過濾任何人人心里的東西。

回到清理者們，這項工作是否看起來十分簡單？

然而，到目前為止機器/ AI還沒有能力處理人類復(fù)雜的認知和表達。光是言論，根據(jù)不同的語境，是發(fā)泄情感還是表達真實意圖都難以判斷；再加上圖像、視頻中更加復(fù)雜微妙的視覺語言，機器對此無能為力。而這些內(nèi)容仲裁者也有很大的負擔(dān)：他們的神經(jīng)每天要處理25000項圖片或視頻，而對每一張圖片最多只有8秒鐘做判斷。這對大腦是巨大的負荷。

更糟糕的是，他們要經(jīng)手的材料大多都是令人不適甚至不安的內(nèi)容：色情、虐待、戰(zhàn)爭、恐怖組織的非人道行為——盡管在正式工作之前已經(jīng)被訓(xùn)練去應(yīng)對這些內(nèi)容，但仍對他們的日常生活也造成困擾，也包括道德上的處境。

開頭的場景展示了他們的兩難處境，深處鬧市，卻做著全世界的網(wǎng)管，而工作內(nèi)容也不能讓身邊的人知道——他們需要一個讓自己心安理得的身份，當(dāng)然也需要這份得體的薪水；他們不得不相信自己確實是在有尊嚴(yán)地維護秩序。很多人也因為上面這些原因放棄了這份工作。

技術(shù)到底帶來了什么呢？紀(jì)錄片的好處是，導(dǎo)演呈現(xiàn)給你的是各方視角和立場。這個問題暫且還不會有結(jié)論。

它是給我們所有人的問題。

片頭片尾，截了兩段扎克伯格對公眾的演講；看他如何表情堅定、豪邁地談?wù)撃槙绾文軌虺删托碌奈磥怼?

然后片尾字幕亮起，意味深長，留下片場一片唏噓。

“太可怕了。太可怕了?！?/p>

我跟波蘭的好朋友聊起感受，感覺出來的大概是對全球網(wǎng)絡(luò)的這種無序狀態(tài)和其無解的擔(dān)憂?！退?，人們還是傾向于相信，世界是需要秩序的；但由誰來引導(dǎo)呢？現(xiàn)在的聲音越來越多、越來越龐雜，到最后就是誰也不服誰。朋友說，這里為什么美國人會雇傭菲律賓人就很玩味了——菲律賓是個天主教國家，在價值觀上跟西方基督教世界更相通。

技術(shù)悄然滋生的權(quán)力繞過了所有人的眼睛，但信息審查是真實存在的。（你看，我們的互聯(lián)網(wǎng)環(huán)境在世界上也沒有那么特殊嘛）

過去的“信息集權(quán)”提供了同一套世界的框架；哪怕你要質(zhì)疑某個事實，要叫罵對著的也是同一個屏幕。而今天每個人都在自己的屏幕里接受現(xiàn)實，在傳送到自己眼前的信息流里，營造自己世界的小泡泡——而且老一輩還帶著上個時代的慣性：“那么多人都看了的信息，能不是真的嗎？”。但外面還有個過濾的大泡泡呢。

信息是種權(quán)力無疑；我想對于很多人，這部片的隱喻是，我們以為今天的時代走向的是美麗新世界，其實背后并行著一個一九八四?！凑覍@種自由斗士的論調(diào)保持懷疑；有時不免有點“見到短袖子就想到裸體”的意思。

尼爾·波茨曼早在60年代就在《娛樂至死》里說過的話，到今天仍然適用：從有廣播、新聞報紙、電視開始，這個世界的行動跟信息比率越來越小了，我們關(guān)注的大多跟自己眼前的事實、跟自己的生活無關(guān)。大多數(shù)事情不需要關(guān)注。而這個世界本身運行機制的復(fù)雜程度，遠遠超出一般普通人所能理解；這種理解也許是不必要的。 我們自己，是在為這個世界帶來了更多的噪聲，還是更多的秩序、平和呢？這個問題，互聯(lián)網(wǎng)不會回答我們，技術(shù)也永遠不會回答我們。

靠點擊就能得來的東西并不真的屬于我們自己。

這個世界會好的。不是因為技術(shù)，而是因為我們在把自己變好。

作為一個威權(quán)體制下的網(wǎng)民，看完這部紀(jì)錄片的第一感受便是：隔靴搔癢，過於浮泛。

社交媒體上出現(xiàn)的種種問題，其實也就是現(xiàn)實世界的反映。色情/血腥/恐怖組織/政治，每一個議題下都可以分化出無數(shù)的觀點與立場。紀(jì)錄片試圖用不到一個半小時的體量，以網(wǎng)絡(luò)審查員為主要視角進行全方面的探討，注定只能泛泛而談。

但我確實欣賞導(dǎo)演對不同立場的同等尊重。理論的說法叫做：“兩面說辭”。

對於色情的判斷標(biāo)準(zhǔn)。是藝術(shù)還是淫穢？

對於恐怖組血腥視頻的判斷標(biāo)準(zhǔn)。是非法傳教還是真實歷史記錄？

對於社會災(zāi)難真實記錄的容忍度標(biāo)準(zhǔn)。是新聞的真實要求還是對苦難者的二次剝削？

對於不同政治觀念/仇恨言論的容忍標(biāo)準(zhǔn)。是憲法給予的言論自由保障還是民主社會的底線堅守？

不同人站在不同的立場與坐標(biāo)，自會給出不同的答案。正如影片中所說：背景與身份決定了思維方式。而社交媒體這個平臺無非是為不同立場、不同觀點的交鋒提供了舞臺。平臺背後商業(yè)資本、政治權(quán)力、民眾影響且深深塑造著社交媒體。

科技公司為了利益，會不斷滿足民眾的個性化需求進行算法推算，由此進行的信息推送最終造就信息繭房。民眾接受的信息內(nèi)容越來越狹窄，加之同溫層相互抱團取暖，觀點自會越來越極化。

但我其實認為這樣的說辭有些高估了民眾的自主權(quán)與選擇空間。真正掌握且控制信息的還是那個無形的手。為了政權(quán)的穩(wěn)定，可以要求科技公司進行IP鎖定，限制特定內(nèi)容的瀏覽。自然也可以直接建造一個全球最大的局域網(wǎng)。以保護民眾之名（更多時候的常見話術(shù)是為了保護下一代）剝奪本可以擁有的自由。殘酷而又現(xiàn)實的未來構(gòu)想“數(shù)字極權(quán)”，或許正在一步步到來。

我喜歡影片最後那位辭職的審查員說的那番話：不要逃避，不要麻木自身。

現(xiàn)實本身的苦難與黑暗是刪除不了的。（但我支持的是有底線的自由空間，並非放任自流）呆在一個溫良且無害的環(huán)境之中，會影響個體批判性思考能力，挑戰(zhàn)能力的訓(xùn)練，逐漸縮緊自身表達的空間，放任民粹思想的氾濫。個體被迫或者無意識地逃避現(xiàn)實，逃避了公民所需承擔(dān)的責(zé)任。與此同時，語言本身也遭到了殲害。

只有在大量信息獲取的前提下，才能進行相對有效的信息判斷與審視。在簡體中文信息這個極其糟糕的環(huán)境下，一味地聽信與一味的不聽信，都是糟糕的能力體現(xiàn)。（孫楊一事的輿論風(fēng)向轉(zhuǎn)變是極其具有參考價值的控制案例。足以以小見大。）（好像話題扯遠了orz......

說回正題來，對於影片中的審核員我內(nèi)心十分同情，領(lǐng)著不高的薪金，每天都得直面黑暗與血腥。

但對於第三帝國的審核員，秉著一個沒有來由便被炸號的人的立場，我只能勉為其難的認可他們作為一顆不鬆動的螺絲釘所作出的努力。可轉(zhuǎn)念一想吧，我能體諒他們，誰來體諒我？

紀(jì)錄片裡提到的問題一時半會兒也解決不了。思想本來也無法統(tǒng)一，唯一要做的是建立一個文明包容的互聯(lián)網(wǎng)空間。全球都在右轉(zhuǎn)，樂觀的來說：或許此次疫情能成為契機，讓大家重新意識到全球化的重要性。開放包容的精神還能得到提倡。但悲觀的來說，歷史不會一直前進，要做好止步不前甚或倒退的準(zhǔn)備。（或許在這個時候成為一顆第三帝國的螺絲釘不失為個體的良好選擇??（對不起，俺又在陰陽怪氣了

[紀(jì)錄片賞析課作業(yè)01]

Ignore, Delete, Ignore, Delete ...... 這便是審查員的日常。

應(yīng)該讓世人知道，有審查員這樣一群人在工作。他們依照規(guī)定審核發(fā)布的內(nèi)容，確保社交媒體的安全。

員工的角度

開篇從員工的角度開始，員工感覺這工作是網(wǎng)絡(luò)世界的安保人員，維護網(wǎng)絡(luò)世界里面的秩序，避免有害內(nèi)容傳播。

員工都在菲律賓的馬尼拉，這些就業(yè)讓很多人脫離了以撿垃圾為生的困境，擔(dān)當(dāng)起家庭開支的重任。

工作強度有多大，每天的指標(biāo)是 2.5 萬個審核。那些員工可能沒有開玩笑，可能真的會破吉尼斯紀(jì)錄。

員工接觸的內(nèi)容有些哪些？兒童性交，暴力血腥，污蔑政治等內(nèi)容。這些內(nèi)容慢慢侵蝕人的頭腦，審查員的心智感覺遲早會出問題。

平臺的角度

平臺角度，什么是不合適的內(nèi)容？很難篩選。因為即便是由人來篩選甄別，也很難做好，別說是程序了。但平臺是一定要承擔(dān)這份社會責(zé)任的，有義務(wù)維護平臺上內(nèi)容的健康性。

為維護的工作上，也很難做好。平臺會針對性地刪除和屏蔽一些內(nèi)容。Facebook 聽從土耳其政府的要求，刪除政治性言論、圖片和視頻。這個維護是不是過頭了？

有的視頻并不違反社交媒體平臺的規(guī)定，不屬于刪除對象，但在土耳其被定為違法視頻。對于這種情況，社交媒體平臺的解決方法是根據(jù) IP 來屏蔽土耳其的用戶。

平臺讓言論傳播更快速，言論自由便有遇到對立觀點的情況，現(xiàn)實情況是，情況沒有因此而促進雙方的理解，反而激發(fā)矛盾。這種事情也怪平臺嗎？但平臺確實有責(zé)任遏制散播仇恨。

其他的角度

從媒體的角度來看，像敘利亞處于戰(zhàn)爭的國家，很多血腥的圖片或者視頻，想引發(fā)社會的關(guān)注，但是也會被審核刪除。

審查員的身心健康

審查員每天都在看這些充滿暴力、血腥、仇恨、色情的視頻，他們的身心健康，公司會保障嗎？如果審查員跳過這些視頻，這與公司的制度相違背，會有扣減業(yè)務(wù)分數(shù)的懲罰。確實有出現(xiàn)過，部分審查員由于受到每天看的視頻的影響，在家上吊自殺。

“我覺得這項工作本事的存在就是一個秘密” 沖擊性內(nèi)容具有其絕對重要的含義這不僅僅關(guān)于ylzj的范疇 我是支持一定限度的審查許多不適內(nèi)容對價值觀未建立的小孩來說是很有破壞力的但一定是有限度的而我們是沒有限度的除此之外任何言論都應(yīng)該允許存在否則你是在歧視民眾的受教育程度而受教育程度是你決定的這個電影應(yīng)該使用中國社媒的素材不能因為“因為你是一時的不冷靜而說出的不嚴(yán)謹?shù)脑捑蜕縿拥某鸷耷榫w導(dǎo)致最終卻mz受害”而否認ylzj的重要性你認為你很道德你是在助紂為虐