技術(shù)、媒介是中性的嗎？傻子都知道不是。不然也不會(huì)有網(wǎng)癮和楊永信了。

反過來看，而互聯(lián)網(wǎng)曾經(jīng)承諾的“連接每一個(gè)人”的烏托邦，在當(dāng)今現(xiàn)實(shí)里的大圖景到底是什么樣子？

社交媒體，在總體上，是否將把我們的世界變得更好呢？

這幾年對(duì)互聯(lián)網(wǎng)和智能手機(jī)全球性地改變?nèi)说男袨榈某爸S或自嘲也不少見了。

前不久又爆出臉書向劍橋分析泄露5000萬用戶而被用來操控選舉的新聞。

上個(gè)月中下有哥本哈根紀(jì)錄片電影節(jié)，偶然去看了這部 《清理者》The Cleaners。

片中播放了去年年末美國法庭關(guān)于 俄羅斯和2016年大選 Russia and 2016 Election Investigations 的調(diào)查。法官質(zhì)疑，這三大公司的內(nèi)容環(huán)境受到國際政治力量的左右，影響選民，以及被用來組織、散播、宣揚(yáng)非人道的行動(dòng)。唯唯諾諾中互聯(lián)網(wǎng)公司的法律負(fù)責(zé)人（我不確定這里使用的名詞是準(zhǔn)確的）說到了自己外包了大量的員工來審核內(nèi)容的事實(shí)。而臉書透露出，他們雇傭的審查者居然有數(shù)千人之眾，而且未來還會(huì)繼續(xù)增加人數(shù)。

——這些被雇傭的網(wǎng)管就是本片的主角，他們內(nèi)部自稱為“內(nèi)容仲裁者”content moderator，所謂的“清理者”。這是一個(gè)駐扎在菲律賓馬尼拉的公司，而他們的職業(yè)對(duì)于外界是一個(gè)秘密。

影片開始的時(shí)候，鏡頭在一間典型的現(xiàn)代白領(lǐng)辦公室里，關(guān)著燈，只有一個(gè)人操作著一臺(tái)亮著的電腦，并只能看到這個(gè)人面部的局部。背景音不斷回放著，“刪除”delete/“無視”ignore/“刪除”delete/“無視”ignore……隨后鏡頭跟隨同一個(gè)主角描述ta夜晚上班的場(chǎng)景，穿過熙攘、喧鬧、混雜的馬尼拉的城市街道、高架橋，進(jìn)入一棟漂亮的辦公樓。在喧鬧擁擠的亞洲城市里，做一項(xiàng)秘密卻關(guān)乎數(shù)十億人口的工作。這就是他們的工作內(nèi)容，而操作看起來如此的簡(jiǎn)單，就是審核每天從全世界上傳的上百億的照片、圖片，然后決定是要保留還是刪除。

臉書內(nèi)部關(guān)于上傳信息內(nèi)容規(guī)定的條例相當(dāng)復(fù)雜，關(guān)于對(duì)暴力、色情的內(nèi)容判定是否刪除的規(guī)定，有一百多條。然而在去年被衛(wèi)報(bào)曝出來以前鮮有人知。被采訪者包括Google的負(fù)責(zé)人、工程師，面對(duì)鏡頭，檢討公司創(chuàng)始人們對(duì)中性技術(shù)的美好設(shè)想并沒有盡到相關(guān)的責(zé)任；而另一方面也列出了關(guān)于支持自由者的質(zhì)疑，包括一些內(nèi)容被刪的藝術(shù)家、攝影師。

“這些規(guī)定也讓自由言論倡導(dǎo)者擔(dān)憂。他們認(rèn)為，F(xiàn)acebook可能已經(jīng)成為了世界上最大的審查員，該事實(shí)敲響了言論自由的警鐘。”

臉書提供的強(qiáng)大平臺(tái)，涉及了一系列沖突明顯的社會(huì)問題，包括美國內(nèi)部的種族，西歐對(duì)移民的態(tài)度——到底是發(fā)泄不滿，還是有組織的政治立場(chǎng)，這兩者界限模糊。以ISIS為例的恐怖組織也在借臉書宣揚(yáng)自己的。片中截取的片段。蛋最讓我看不下去的是緬甸迫害羅興亞人，一個(gè)母親對(duì)著鏡頭哭訴自己的家庭怎樣被迫害?！@種原本平緩融洽的文化混雜，被西方殖民者弄得互相仇視的例子早就不新鮮了。

傳播能力的擴(kuò)大，既然足夠提供人與人的連接，也可以能讓人與人更加分裂。愛是可以被傳播的，那么仇恨也可以；敵意、仇視、偏見，技術(shù)本身不會(huì)過濾任何人人心里的東西。

回到清理者們，這項(xiàng)工作是否看起來十分簡(jiǎn)單？

然而，到目前為止機(jī)器/ AI還沒有能力處理人類復(fù)雜的認(rèn)知和表達(dá)。光是言論，根據(jù)不同的語境，是發(fā)泄情感還是表達(dá)真實(shí)意圖都難以判斷；再加上圖像、視頻中更加復(fù)雜微妙的視覺語言，機(jī)器對(duì)此無能為力。而這些內(nèi)容仲裁者也有很大的負(fù)擔(dān)：他們的神經(jīng)每天要處理25000項(xiàng)圖片或視頻，而對(duì)每一張圖片最多只有8秒鐘做判斷。這對(duì)大腦是巨大的負(fù)荷。

更糟糕的是，他們要經(jīng)手的材料大多都是令人不適甚至不安的內(nèi)容：色情、虐待、戰(zhàn)爭(zhēng)、恐怖組織的非人道行為——盡管在正式工作之前已經(jīng)被訓(xùn)練去應(yīng)對(duì)這些內(nèi)容，但仍對(duì)他們的日常生活也造成困擾，也包括道德上的處境。

開頭的場(chǎng)景展示了他們的兩難處境，深處鬧市，卻做著全世界的網(wǎng)管，而工作內(nèi)容也不能讓身邊的人知道——他們需要一個(gè)讓自己心安理得的身份，當(dāng)然也需要這份得體的薪水；他們不得不相信自己確實(shí)是在有尊嚴(yán)地維護(hù)秩序。很多人也因?yàn)樯厦孢@些原因放棄了這份工作。

技術(shù)到底帶來了什么呢？紀(jì)錄片的好處是，導(dǎo)演呈現(xiàn)給你的是各方視角和立場(chǎng)。這個(gè)問題暫且還不會(huì)有結(jié)論。

它是給我們所有人的問題。

片頭片尾，截了兩段扎克伯格對(duì)公眾的演講；看他如何表情堅(jiān)定、豪邁地談?wù)撃槙绾文軌虺删托碌奈磥怼?

然后片尾字幕亮起，意味深長，留下片場(chǎng)一片唏噓。

“太可怕了。太可怕了?！?/p>

我跟波蘭的好朋友聊起感受，感覺出來的大概是對(duì)全球網(wǎng)絡(luò)的這種無序狀態(tài)和其無解的擔(dān)憂?！退裕藗冞€是傾向于相信，世界是需要秩序的；但由誰來引導(dǎo)呢？現(xiàn)在的聲音越來越多、越來越龐雜，到最后就是誰也不服誰。朋友說，這里為什么美國人會(huì)雇傭菲律賓人就很玩味了——菲律賓是個(gè)天主教國家，在價(jià)值觀上跟西方基督教世界更相通。

技術(shù)悄然滋生的權(quán)力繞過了所有人的眼睛，但信息審查是真實(shí)存在的。（你看，我們的互聯(lián)網(wǎng)環(huán)境在世界上也沒有那么特殊嘛）

過去的“信息集權(quán)”提供了同一套世界的框架；哪怕你要質(zhì)疑某個(gè)事實(shí)，要叫罵對(duì)著的也是同一個(gè)屏幕。而今天每個(gè)人都在自己的屏幕里接受現(xiàn)實(shí)，在傳送到自己眼前的信息流里，營造自己世界的小泡泡——而且老一輩還帶著上個(gè)時(shí)代的慣性：“那么多人都看了的信息，能不是真的嗎？”。但外面還有個(gè)過濾的大泡泡呢。

信息是種權(quán)力無疑；我想對(duì)于很多人，這部片的隱喻是，我們以為今天的時(shí)代走向的是美麗新世界，其實(shí)背后并行著一個(gè)一九八四。——反正我對(duì)這種自由斗士的論調(diào)保持懷疑；有時(shí)不免有點(diǎn)“見到短袖子就想到裸體”的意思。

尼爾·波茨曼早在60年代就在《娛樂至死》里說過的話，到今天仍然適用：從有廣播、新聞報(bào)紙、電視開始，這個(gè)世界的行動(dòng)跟信息比率越來越小了，我們關(guān)注的大多跟自己眼前的事實(shí)、跟自己的生活無關(guān)。大多數(shù)事情不需要關(guān)注。而這個(gè)世界本身運(yùn)行機(jī)制的復(fù)雜程度，遠(yuǎn)遠(yuǎn)超出一般普通人所能理解；這種理解也許是不必要的。 我們自己，是在為這個(gè)世界帶來了更多的噪聲，還是更多的秩序、平和呢？這個(gè)問題，互聯(lián)網(wǎng)不會(huì)回答我們，技術(shù)也永遠(yuǎn)不會(huì)回答我們。

靠點(diǎn)擊就能得來的東西并不真的屬于我們自己。

這個(gè)世界會(huì)好的。不是因?yàn)榧夹g(shù)，而是因?yàn)槲覀冊(cè)诎炎约鹤兒谩?/p>

我們還上不了臉書呢

上周，我找到了一張《感官世界》的稀有海報(bào)，想把它發(fā)布在微博上。

可是，怎么都發(fā)布不出來，關(guān)鍵是這張圖片并沒有露點(diǎn)。

既然不能在微博上發(fā)布，那我是不打算在文章里貼出這張海報(bào)了。

你們也別去豆瓣上找了，沒有，我也沒有上傳的計(jì)劃。

當(dāng)然，寫這些不是為了顯擺我發(fā)掘海報(bào)的能力。

我是對(duì)于微博上對(duì)于圖片是如何審核的機(jī)制比較好奇。

大家應(yīng)該有過這種經(jīng)驗(yàn)，發(fā)布在微博上、豆瓣上、B站上、百度貼吧上的內(nèi)容被刪的情況。

不管是因?yàn)槿斯彶椋嗷蚴且驗(yàn)閯e人舉報(bào)。

困惑、震驚、憤怒，“為什么刪我的東西，我發(fā)的內(nèi)容沒什么違規(guī)啊”，這應(yīng)該是大家的第一反應(yīng)。

我除了好奇這些審查機(jī)制外，更好奇這些機(jī)制背后的人。

也就是這些網(wǎng)絡(luò)審查員。

《網(wǎng)絡(luò)審查員》

先把時(shí)針撥回到2013年3月23日，在臉書上有一條視頻，視頻的內(nèi)容是關(guān)于兒童性暴力。

在視頻下架之前，它已經(jīng)有了超過4000次的分享，以及數(shù)不清的評(píng)論。

這條視頻引起了導(dǎo)演漢斯·布洛克和莫里茨·賴斯維克的關(guān)注。

為什么這種事情會(huì)發(fā)生？為什么這些網(wǎng)站沒有及時(shí)地進(jìn)行處理？

這個(gè)就是《網(wǎng)絡(luò)審查員》的緣起。

01

這是一群隱形的人

菲律賓，馬尼拉，一間辦公室。

經(jīng)常傳出“忽略”、“忽略”、“刪除”、“刪除”的聲音。

坐在電腦前的人目不轉(zhuǎn)睛地盯著屏幕上頻頻閃過的圖片、視頻。

這些圖片與視頻包含著大量暴力、血腥、色情的訊息。

他們就是谷歌、推特、臉書等社交媒體雇傭的網(wǎng)絡(luò)審查員。

上面就是這些網(wǎng)絡(luò)審查員的日常工作。

他們的工作不能對(duì)外講，甚至連工作本身都是秘密。

他們看似是為互聯(lián)網(wǎng)三巨頭工作，實(shí)際上，他們所在的公司只是外包公司，他們的工資也是由外包公司來發(fā)。

每天有2萬5千個(gè)指標(biāo)，意思就是他們要?jiǎng)h除2萬5千條不良信息，每一天。

想想一下讓一個(gè)普通人每天看虐殺、色情、暴力，他會(huì)變成什么樣。

但是這些審查員必須要看，因?yàn)檫@是他們每月的KPI指標(biāo)。

他們可以選擇跳過一些引起他們不適的視頻，如果被發(fā)現(xiàn)業(yè)務(wù)評(píng)分就會(huì)扣分，他們每個(gè)月只有三次的機(jī)會(huì)。

他們家境的貧窮也不允許他們放棄工作的機(jī)會(huì)。

要么讀書，要么撿垃圾，對(duì)于來自社會(huì)貧困階層的他們而言，選擇就是如此殘酷、簡(jiǎn)單。

每天都要穿過垃圾山、趟過垃圾海去上班，他們有一家子要養(yǎng)，他們必須珍惜工作的機(jī)會(huì)。

她，在審查期間看過一個(gè)兒童性暴力的視頻，讓她震驚不已。

她很痛苦，但卻不能辭職，因?yàn)樗灹思s，只能硬著頭皮接著干。

雖然杜特爾特政府宣稱,從2018到2022年，菲律賓經(jīng)濟(jì)規(guī)模要擴(kuò)大50%,并要邁入中高等收入國家的行列，但是菲律賓的貧富差距依然懸殊。

富人吃肉，窮人吃土。

這些來此貧困村莊的審查員們，咬著牙也想挺過來。

有些情況，并不是咬牙挺一挺就能解決的。

其實(shí)幾年前，我就看過一篇關(guān)于推特公司審查員心理健康問題的外文文章。

文章就講，這些審查員工作了幾個(gè)月之后，都要接受心理輔導(dǎo)。

就像片中出境的幾位工作人員。

在直面人性丑惡之后，他們的心理健康狀況都很糟糕。

她，每天都要接觸大量的色情視頻。為了判斷一個(gè)視頻是忽略還是刪除，她必須了解各種性方面的術(shù)語。

她在家看了大量的A片，還經(jīng)常去逛性用品店，每晚都會(huì)做各種丁丁的夢(mèng)。

用她的話講，既有罪惡感，也有羞羞的快感，甚至還看上了癮。

一個(gè)清純少女就這樣變成了一個(gè)老司機(jī)。

她這種情況還算輕的。

他，看過幾百遍斬首視頻。

次數(shù)多到，僅僅憑著尸體身上的切口，他就知道尸體是用小刀割的，還是大刀砍的。

麻木，看到了麻木。

當(dāng)麻木累積到閾值的時(shí)候，就是他們崩潰的時(shí)候。

片中一位審查員，生前是負(fù)責(zé)審查自殘視頻，看過了數(shù)不清的自虐視頻后，在家上吊自殺了。

沒有人關(guān)心他們的心理健康。

02

審查的標(biāo)準(zhǔn)是什么

關(guān)于網(wǎng)絡(luò)內(nèi)容的審查本身就是一個(gè)悖論，如何在追求言論自由的前提下，又能保證言論的自由不會(huì)危及到我們自身。

這世界上沒有一個(gè)人不想追求言論自由，但是要付出的代價(jià)呢，怎么辦？

單單靠我們自身的批判性思維，舉世渾濁唯我獨(dú)清,眾人皆醉唯我獨(dú)醒？

戴維·凱伊，聯(lián)合國言論自由特別報(bào)告員是這么說的。

他覺得對(duì)于言論自由設(shè)限，會(huì)導(dǎo)致民眾獲得越來越少的信息，以至于尖銳意見會(huì)從網(wǎng)絡(luò)上銷聲匿跡。

那為什么現(xiàn)在網(wǎng)絡(luò)暴力越來越嚴(yán)重，互相仇視的情緒越來越高漲。

這問題到底是出在誰的身上，真的是這些社交平臺(tái)監(jiān)管不力，是我們被這些社交平臺(tái)誘導(dǎo)？

答案是非常復(fù)雜的。

對(duì)么？對(duì)，但是這個(gè)對(duì)也有預(yù)設(shè)條件。

什么問題都不可能只有A與B兩個(gè)面，我們也不能也二元論來看待問題。

一個(gè)平臺(tái)該如何判斷該如何審查一張圖片、一段視頻。

一個(gè)平臺(tái)認(rèn)為是危險(xiǎn)的消息，在另一個(gè)平臺(tái)可能認(rèn)為其具有新聞價(jià)值。

黃安娜，前谷歌/推特法律負(fù)責(zé)人舉了一個(gè)例子。

薩達(dá)姆在被處決的時(shí)候，有人把視頻發(fā)到了油管上，網(wǎng)上一共有兩段視頻，一段是薩達(dá)姆被處以絞刑的視頻，一段是薩達(dá)姆的尸體。

這樣一來，就要決定到底是該留哪一段視頻，他們最后選擇了薩達(dá)姆被絞刑的視頻，因?yàn)檫@段視頻具有歷史價(jià)值。

而這樣就帶來一個(gè)問題，如果審查員不知道圖片、視頻的背景信息，該如何決定是該忽略還是刪除。

審查員因?yàn)椴恢辣尘跋⒄`刪的情況，也很常見。

不僅僅是這樣，每個(gè)平臺(tái)都要自己的標(biāo)準(zhǔn)。

像下面這張?jiān)綉?zhàn)的著名照片。

它就因?yàn)樯婕傲宋闯赡曷懵抖环弦?guī)定。

對(duì)于這些審查員來說，最嚴(yán)重的的失誤，就是疏漏裸體內(nèi)容。

03

到底為誰所用

就算一個(gè)審查員每天能處理25萬條違規(guī)信息，但是每天臉書、推特上還是會(huì)有海量的信息流出現(xiàn)。

再說，不論是人工智能識(shí)別還是人工識(shí)別，這種機(jī)制都是被動(dòng)的。

社交媒體是帶來了惡，還是引爆了惡？

每個(gè)人使用社交平臺(tái)的目的各不相同。

美國藝術(shù)家伊爾瑪·戈?duì)柈嬤^一張?zhí)乩势盏穆泱w畫，并把它放在了自己的臉書上。

引發(fā)了網(wǎng)絡(luò)上的廣泛討論。

甚至特朗普本人都在白宮發(fā)言的時(shí)候，都討論過自己的尺寸沒有那么小。

現(xiàn)在的社交媒體已經(jīng)可以強(qiáng)大到可以干預(yù)到國家領(lǐng)導(dǎo)人的發(fā)言。

NGO的成員，會(huì)在網(wǎng)絡(luò)上收集視頻，在視頻被刪除之前，先把視頻保存下來。

對(duì)于他們來說，存檔非常重要。

他們把這些視頻收集起來后，發(fā)布在油管上。

他們用這方式記錄戰(zhàn)爭(zhēng)，以此來讓人了解戰(zhàn)爭(zhēng)的殘酷，從而達(dá)到反戰(zhàn)的目的。

來自敘利亞的藝術(shù)家，會(huì)把自己的創(chuàng)作放在臉書上，表達(dá)自己的政治觀點(diǎn)。

美國右翼活動(dòng)家，在社交平臺(tái)上發(fā)表對(duì)于難民問題的觀點(diǎn)，一口一個(gè)綠綠、臭大糞。

也會(huì)在游行示威上做直播，表達(dá)自己對(duì)于左派的不懈。

現(xiàn)在的言論自由已經(jīng)被曲解了，人人都相信自己認(rèn)為的真相。

就像片中提到的，自從特朗普上臺(tái)以后，美國政治兩極化日趨嚴(yán)重，左派與右派都不愿意對(duì)話。

這么一來，罪魁禍?zhǔn)拙褪悄槙渴悄槙幸庾R(shí)地發(fā)揮了推波助瀾的作用?

沒人能夠回答。

最后就用臉書創(chuàng)始人扎克伯格在一次發(fā)布會(huì)上說過的一段話做結(jié)吧。

選擇希望、克服恐懼，需要有勇氣。

說我們能做出前所未有更好的東西。

要想改變世界必須保持樂觀。

每一次我們連接網(wǎng)絡(luò)、每一次創(chuàng)新，日復(fù)一日前進(jìn)一小步。

所以我認(rèn)為我們的共同努力比任何時(shí)候都重要。

- FIN -

公眾號(hào)：小鮮電影（xiaoxianmovie）

“我覺得這項(xiàng)工作本事的存在就是一個(gè)秘密” 沖擊性內(nèi)容具有其絕對(duì)重要的含義這不僅僅關(guān)于ylzj的范疇 我是支持一定限度的審查許多不適內(nèi)容對(duì)價(jià)值觀未建立的小孩來說是很有破壞力的但一定是有限度的而我們是沒有限度的除此之外任何言論都應(yīng)該允許存在否則你是在歧視民眾的受教育程度而受教育程度是你決定的這個(gè)電影應(yīng)該使用中國社媒的素材不能因?yàn)椤耙驗(yàn)槟闶且粫r(shí)的不冷靜而說出的不嚴(yán)謹(jǐn)?shù)脑捑蜕縿?dòng)的仇恨情緒導(dǎo)致最終卻mz受害”而否認(rèn)ylzj的重要性你認(rèn)為你很道德你是在助紂為虐

作為一個(gè)威權(quán)體制下的網(wǎng)民，看完這部紀(jì)錄片的第一感受便是：隔靴搔癢，過於浮泛。

社交媒體上出現(xiàn)的種種問題，其實(shí)也就是現(xiàn)實(shí)世界的反映。色情/血腥/恐怖組織/政治，每一個(gè)議題下都可以分化出無數(shù)的觀點(diǎn)與立場(chǎng)。紀(jì)錄片試圖用不到一個(gè)半小時(shí)的體量，以網(wǎng)絡(luò)審查員為主要視角進(jìn)行全方面的探討，注定只能泛泛而談。

但我確實(shí)欣賞導(dǎo)演對(duì)不同立場(chǎng)的同等尊重。理論的說法叫做：“兩面說辭”。

對(duì)於色情的判斷標(biāo)準(zhǔn)。是藝術(shù)還是淫穢？

對(duì)於恐怖組血腥視頻的判斷標(biāo)準(zhǔn)。是非法傳教還是真實(shí)歷史記錄？

對(duì)於社會(huì)災(zāi)難真實(shí)記錄的容忍度標(biāo)準(zhǔn)。是新聞的真實(shí)要求還是對(duì)苦難者的二次剝削？

對(duì)於不同政治觀念/仇恨言論的容忍標(biāo)準(zhǔn)。是憲法給予的言論自由保障還是民主社會(huì)的底線堅(jiān)守？

不同人站在不同的立場(chǎng)與坐標(biāo)，自會(huì)給出不同的答案。正如影片中所說：背景與身份決定了思維方式。而社交媒體這個(gè)平臺(tái)無非是為不同立場(chǎng)、不同觀點(diǎn)的交鋒提供了舞臺(tái)。平臺(tái)背後商業(yè)資本、政治權(quán)力、民眾影響且深深塑造著社交媒體。

科技公司為了利益，會(huì)不斷滿足民眾的個(gè)性化需求進(jìn)行算法推算，由此進(jìn)行的信息推送最終造就信息繭房。民眾接受的信息內(nèi)容越來越狹窄，加之同溫層相互抱團(tuán)取暖，觀點(diǎn)自會(huì)越來越極化。

但我其實(shí)認(rèn)為這樣的說辭有些高估了民眾的自主權(quán)與選擇空間。真正掌握且控制信息的還是那個(gè)無形的手。為了政權(quán)的穩(wěn)定，可以要求科技公司進(jìn)行IP鎖定，限制特定內(nèi)容的瀏覽。自然也可以直接建造一個(gè)全球最大的局域網(wǎng)。以保護(hù)民眾之名（更多時(shí)候的常見話術(shù)是為了保護(hù)下一代）剝奪本可以擁有的自由。殘酷而又現(xiàn)實(shí)的未來構(gòu)想“數(shù)字極權(quán)”，或許正在一步步到來。

我喜歡影片最後那位辭職的審查員說的那番話：不要逃避，不要麻木自身。

現(xiàn)實(shí)本身的苦難與黑暗是刪除不了的。（但我支持的是有底線的自由空間，並非放任自流）呆在一個(gè)溫良且無害的環(huán)境之中，會(huì)影響個(gè)體批判性思考能力，挑戰(zhàn)能力的訓(xùn)練，逐漸縮緊自身表達(dá)的空間，放任民粹思想的氾濫。個(gè)體被迫或者無意識(shí)地逃避現(xiàn)實(shí)，逃避了公民所需承擔(dān)的責(zé)任。與此同時(shí)，語言本身也遭到了殲害。

只有在大量信息獲取的前提下，才能進(jìn)行相對(duì)有效的信息判斷與審視。在簡(jiǎn)體中文信息這個(gè)極其糟糕的環(huán)境下，一味地聽信與一味的不聽信，都是糟糕的能力體現(xiàn)。（孫楊一事的輿論風(fēng)向轉(zhuǎn)變是極其具有參考價(jià)值的控制案例。足以以小見大。）（好像話題扯遠(yuǎn)了orz......

說回正題來，對(duì)於影片中的審核員我內(nèi)心十分同情，領(lǐng)著不高的薪金，每天都得直面黑暗與血腥。

但對(duì)於第三帝國的審核員，秉著一個(gè)沒有來由便被炸號(hào)的人的立場(chǎng)，我只能勉為其難的認(rèn)可他們作為一顆不鬆動(dòng)的螺絲釘所作出的努力。可轉(zhuǎn)念一想吧，我能體諒他們，誰來體諒我？

紀(jì)錄片裡提到的問題一時(shí)半會(huì)兒也解決不了。思想本來也無法統(tǒng)一，唯一要做的是建立一個(gè)文明包容的互聯(lián)網(wǎng)空間。全球都在右轉(zhuǎn)，樂觀的來說：或許此次疫情能成為契機(jī)，讓大家重新意識(shí)到全球化的重要性。開放包容的精神還能得到提倡。但悲觀的來說，歷史不會(huì)一直前進(jìn)，要做好止步不前甚或倒退的準(zhǔn)備。（或許在這個(gè)時(shí)候成為一顆第三帝國的螺絲釘不失為個(gè)體的良好選擇??（對(duì)不起，俺又在陰陽怪氣了

[紀(jì)錄片賞析課作業(yè)01]

delete... ignore...

That's the two actions that a content moderator does every day.

"I protect the user who uses the app", said one of the moderators, as the president tried to protect his people by killing all the criminals.

"One of the misconceptions is that human nature is human nature, and then technologies are just useful tools: it's not amplifying anything - but this is not true, because technology does have a bias, and that bias has a goal, it's actually seeking a goal, it's the goal it's seeking that what will get the most number of people's attention, what tends to work on billions of people that's successfully attracting their attention out of that, and keep it; and not just getting their attention but getting them to share things, and so it turns out that our rage is actually good at doing so"(Cleaners, 2018, 1h6m).

“I sacrifice myself, yes, there will always be sacrifices, it will always be a part of life... it's my job to prevent the sinful images, I'm a preventer“(1h21m)

內(nèi)容審查員就像是一名狙擊手，我們的目標(biāo)是違反應(yīng)用程式規(guī)定的用戶。 我媽媽總是告訴我，如果不好好讀書，就只能跟她一樣當(dāng)個(gè)拾荒者，他們依賴撿垃圾為生，這是他們唯一知道的謀生方式。我害怕自己將來只能留下來跟著撿垃圾，這也是促使我用功念書的一個(gè)原因。 2016年1月，我畫了一張男性器官很小的川普畫像，叫做“讓美國再次偉大”，它立刻爆紅，數(shù)百萬人在許多社群平臺(tái)上瘋傳，幾天后川普在競(jìng)選辯論中提到自己的器官尺寸，我記得有朋友打電話告訴我說，是你讓川普在辯論中透露他的器官大小嗎。 作為內(nèi)容審查員，你必須要有原則，是你在決定人們是否該看到某張圖片，所以頭號(hào)重大錯(cuò)誤就是批準(zhǔn)裸照、 和女性胸部、男性器官，這沒有容忍的余地。 一個(gè)虛構(gòu)的作品，它并不暴力，也無關(guān)性愛，它只是一個(gè)人的裸體配上川普的臉，不懂為何人們會(huì)覺得人的裸體這么惡心。 這工作真的不好做，但最后卻成了帶罪惡感的樂趣，感到罪惡是因?yàn)槲揖尤辉诳催@樣的東西，樂趣是因?yàn)槲椰F(xiàn)在很享受看到的內(nèi)容。 臉書基本上就是一家科技公司，有許多工程師經(jīng)營，它重視自家產(chǎn)品，重視公司設(shè)施，它重視發(fā)展規(guī)模，重視用戶體驗(yàn)，但它不是一家媒體公司，它不會(huì)考慮到內(nèi)容或內(nèi)容創(chuàng)作，或是內(nèi)容編輯和審查的事，這些事并不在它的基因里面，只要臉書碰到有人說，“嘿，你們要為這內(nèi)容負(fù)責(zé)的時(shí)候，他們的答復(fù)會(huì)是，‘哦，我們只是搞數(shù)學(xué)的，我們只負(fù)責(zé)寫演算法，去提供你們想要的東西，我們不干涉編輯’”，但政治現(xiàn)實(shí)是在川普之后，在英國脫歐之后，這樣的說法已經(jīng)不行了，我們現(xiàn)在在一個(gè)點(diǎn)上，只要大眾不接受現(xiàn)狀，在某些點(diǎn)上政府就會(huì)立馬介入，我認(rèn)為臉書是了解這情況的。 YouTuBe一直希望能夠跨越國界，因此從2007年左右，我們?cè)庥鲈S多被封鎖的情況，當(dāng)土耳其政府不知如何與你取得聯(lián)系時(shí)，他們索性關(guān)閉你在該國的服務(wù)。我們花了一段時(shí)間才弄清楚，是什么令他們感到不舒服，我們最后終于設(shè)法掌握了令他們不開心的特定影片，其中有些是關(guān)于凱末爾，有些則是他們聲稱違反土耳其法律的恐怖主義影片。我記得有一天我在凌晨?jī)牲c(diǎn)，審查令土耳其政府感到不快的67個(gè)影片，從中做出哪些應(yīng)該刪除，哪些應(yīng)該留下的決定，有個(gè)重點(diǎn)是對(duì)于一些影片來說，它們其實(shí)沒有違反社群準(zhǔn)則，所以一般不會(huì)從平臺(tái)移除，可是卻觸犯了土耳其的法律，所以我們決定對(duì)土耳其用戶采取IP位置封鎖，土耳其用戶將無法看到這些影片，我不喜歡這種解決方式，但這就是我們的做法。 街上聚集了許多了不起的人，警方在這里部署的人數(shù)相當(dāng)多，我很好奇他們會(huì)在這里待多久，因?yàn)槲抑乐灰麄円怀冯x，人們就會(huì)開始干架。 一些左派人士認(rèn)為你政治不正確，我們這群人擁有槍支、子彈，受過訓(xùn)練，只要我們開始開槍射殺，我相信所有的贓東西很快就會(huì)消失。 人性歸人性，而科技就只是種中性工具，并沒有助長任何東西，但事實(shí)并非如此，因?yàn)榭萍即_實(shí)存在偏見，偏見就是它實(shí)際追求的一個(gè)目標(biāo)，那個(gè)目標(biāo)就是什么才能得到最多人的關(guān)注，什么才能吸引數(shù)十億人，成功轉(zhuǎn)移他們的注意力，并且保持下去。 這項(xiàng)工作會(huì)損害你的大腦，讓你覺得暴力是正常的，讓你認(rèn)為殺人，轟炸是正常的。 我不能讓影片影響你，但這因人而異，有些人就是會(huì)受到畫面的影響。 我突然自己，為什么要做這份工作，只是為了讓人們認(rèn)為上網(wǎng)是安全的，事實(shí)上在你的日常工作中，上處都是危險(xiǎn)，我們?cè)谂圩约?，我們?yīng)該從麻木中覺醒，因?yàn)檫@并不安全，我們應(yīng)該正視現(xiàn)實(shí)。 選擇希望而非恐懼這需要勇氣，期許我們可以建立比過去更加良好的環(huán)境，你必須樂觀的認(rèn)為你可以改變世界，我們投身其中，每一次都是一種聯(lián)系，每一次都是一種創(chuàng)新，日復(fù)一日，日復(fù)一日，這就是為什么我認(rèn)為我們一起投入的工作，現(xiàn)階段比以往任何時(shí)候都重要。