技術(shù)、媒介是中性的嗎?傻子都知道不是。不然也不會(huì)有網(wǎng)癮和楊永信了。
反過(guò)來(lái)看,而互聯(lián)網(wǎng)曾經(jīng)承諾的“連接每一個(gè)人”的烏托邦,在當(dāng)今現(xiàn)實(shí)里的大圖景到底是什么樣子?
社交媒體,在總體上,是否將把我們的世界變得更好呢?
這幾年對(duì)互聯(lián)網(wǎng)和智能手機(jī)全球性地改變?nèi)说男袨榈某爸S或自嘲也不少見(jiàn)了。
前不久又爆出臉書(shū)向劍橋分析泄露5000萬(wàn)用戶而被用來(lái)操控選舉的新聞。
上個(gè)月中下有哥本哈根紀(jì)錄片電影節(jié),偶然去看了這部 《清理者》The Cleaners。
片中播放了去年年末美國(guó)法庭關(guān)于 俄羅斯和2016年大選 Russia and 2016 Election Investigations 的調(diào)查。法官質(zhì)疑,這三大公司的內(nèi)容環(huán)境受到國(guó)際政治力量的左右,影響選民,以及被用來(lái)組織、散播、宣揚(yáng)非人道的行動(dòng)。唯唯諾諾中互聯(lián)網(wǎng)公司的法律負(fù)責(zé)人(我不確定這里使用的名詞是準(zhǔn)確的)說(shuō)到了自己外包了大量的員工來(lái)審核內(nèi)容的事實(shí)。而臉書(shū)透露出,他們雇傭的審查者居然有數(shù)千人之眾,而且未來(lái)還會(huì)繼續(xù)增加人數(shù)。
——這些被雇傭的網(wǎng)管就是本片的主角,他們內(nèi)部自稱為“內(nèi)容仲裁者”content moderator,所謂的“清理者”。這是一個(gè)駐扎在菲律賓馬尼拉的公司,而他們的職業(yè)對(duì)于外界是一個(gè)秘密。
影片開(kāi)始的時(shí)候,鏡頭在一間典型的現(xiàn)代白領(lǐng)辦公室里,關(guān)著燈,只有一個(gè)人操作著一臺(tái)亮著的電腦,并只能看到這個(gè)人面部的局部。背景音不斷回放著,“刪除”delete/“無(wú)視”ignore/“刪除”delete/“無(wú)視”ignore……隨后鏡頭跟隨同一個(gè)主角描述ta夜晚上班的場(chǎng)景,穿過(guò)熙攘、喧鬧、混雜的馬尼拉的城市街道、高架橋,進(jìn)入一棟漂亮的辦公樓。在喧鬧擁擠的亞洲城市里,做一項(xiàng)秘密卻關(guān)乎數(shù)十億人口的工作。這就是他們的工作內(nèi)容,而操作看起來(lái)如此的簡(jiǎn)單,就是審核每天從全世界上傳的上百億的照片、圖片,然后決定是要保留還是刪除。
臉書(shū)內(nèi)部關(guān)于上傳信息內(nèi)容規(guī)定的條例相當(dāng)復(fù)雜,關(guān)于對(duì)暴力、色情的內(nèi)容判定是否刪除的規(guī)定,有一百多條。然而在去年被衛(wèi)報(bào)曝出來(lái)以前鮮有人知。被采訪者包括Google的負(fù)責(zé)人、工程師,面對(duì)鏡頭,檢討公司創(chuàng)始人們對(duì)中性技術(shù)的美好設(shè)想并沒(méi)有盡到相關(guān)的責(zé)任;而另一方面也列出了關(guān)于支持自由者的質(zhì)疑,包括一些內(nèi)容被刪的藝術(shù)家、攝影師。
“這些規(guī)定也讓自由言論倡導(dǎo)者擔(dān)憂。他們認(rèn)為,F(xiàn)acebook可能已經(jīng)成為了世界上最大的審查員,該事實(shí)敲響了言論自由的警鐘?!?/blockquote>臉書(shū)提供的強(qiáng)大平臺(tái),涉及了一系列沖突明顯的社會(huì)問(wèn)題,包括美國(guó)內(nèi)部的種族,西歐對(duì)移民的態(tài)度——到底是發(fā)泄不滿,還是有組織的政治立場(chǎng),這兩者界限模糊。以ISIS為例的恐怖組織也在借臉書(shū)宣揚(yáng)自己的。片中截取的片段。蛋最讓我看不下去的是緬甸迫害羅興亞人,一個(gè)母親對(duì)著鏡頭哭訴自己的家庭怎樣被迫害?!@種原本平緩融洽的文化混雜,被西方殖民者弄得互相仇視的例子早就不新鮮了。
傳播能力的擴(kuò)大,既然足夠提供人與人的連接,也可以能讓人與人更加分裂。愛(ài)是可以被傳播的,那么仇恨也可以;敵意、仇視、偏見(jiàn),技術(shù)本身不會(huì)過(guò)濾任何人人心里的東西。
回到清理者們,這項(xiàng)工作是否看起來(lái)十分簡(jiǎn)單?
然而,到目前為止機(jī)器/ AI還沒(méi)有能力處理人類復(fù)雜的認(rèn)知和表達(dá)。光是言論,根據(jù)不同的語(yǔ)境,是發(fā)泄情感還是表達(dá)真實(shí)意圖都難以判斷;再加上圖像、視頻中更加復(fù)雜微妙的視覺(jué)語(yǔ)言,機(jī)器對(duì)此無(wú)能為力。而這些內(nèi)容仲裁者也有很大的負(fù)擔(dān):他們的神經(jīng)每天要處理25000項(xiàng)圖片或視頻,而對(duì)每一張圖片最多只有8秒鐘做判斷。這對(duì)大腦是巨大的負(fù)荷。
更糟糕的是,他們要經(jīng)手的材料大多都是令人不適甚至不安的內(nèi)容:色情、虐待、戰(zhàn)爭(zhēng)、恐怖組織的非人道行為——盡管在正式工作之前已經(jīng)被訓(xùn)練去應(yīng)對(duì)這些內(nèi)容,但仍對(duì)他們的日常生活也造成困擾,也包括道德上的處境。
開(kāi)頭的場(chǎng)景展示了他們的兩難處境,深處鬧市,卻做著全世界的網(wǎng)管,而工作內(nèi)容也不能讓身邊的人知道——他們需要一個(gè)讓自己心安理得的身份,當(dāng)然也需要這份得體的薪水;他們不得不相信自己確實(shí)是在有尊嚴(yán)地維護(hù)秩序。很多人也因?yàn)樯厦孢@些原因放棄了這份工作。
技術(shù)到底帶來(lái)了什么呢?紀(jì)錄片的好處是,導(dǎo)演呈現(xiàn)給你的是各方視角和立場(chǎng)。這個(gè)問(wèn)題暫且還不會(huì)有結(jié)論。
它是給我們所有人的問(wèn)題。
片頭片尾,截了兩段扎克伯格對(duì)公眾的演講;看他如何表情堅(jiān)定、豪邁地談?wù)撃槙?shū)如何能夠成就新的未來(lái)。
然后片尾字幕亮起,意味深長(zhǎng),留下片場(chǎng)一片唏噓。
“太可怕了。太可怕了?!?/p>
我跟波蘭的好朋友聊起感受,感覺(jué)出來(lái)的大概是對(duì)全球網(wǎng)絡(luò)的這種無(wú)序狀態(tài)和其無(wú)解的擔(dān)憂?!退?,人們還是傾向于相信,世界是需要秩序的;但由誰(shuí)來(lái)引導(dǎo)呢?現(xiàn)在的聲音越來(lái)越多、越來(lái)越龐雜,到最后就是誰(shuí)也不服誰(shuí)。朋友說(shuō),這里為什么美國(guó)人會(huì)雇傭菲律賓人就很玩味了——菲律賓是個(gè)天主教國(guó)家,在價(jià)值觀上跟西方基督教世界更相通。
技術(shù)悄然滋生的權(quán)力繞過(guò)了所有人的眼睛,但信息審查是真實(shí)存在的。(你看,我們的互聯(lián)網(wǎng)環(huán)境在世界上也沒(méi)有那么特殊嘛)
過(guò)去的“信息集權(quán)”提供了同一套世界的框架;哪怕你要質(zhì)疑某個(gè)事實(shí),要叫罵對(duì)著的也是同一個(gè)屏幕。而今天每個(gè)人都在自己的屏幕里接受現(xiàn)實(shí),在傳送到自己眼前的信息流里,營(yíng)造自己世界的小泡泡——而且老一輩還帶著上個(gè)時(shí)代的慣性:“那么多人都看了的信息,能不是真的嗎?”。但外面還有個(gè)過(guò)濾的大泡泡呢。
信息是種權(quán)力無(wú)疑;我想對(duì)于很多人,這部片的隱喻是,我們以為今天的時(shí)代走向的是美麗新世界,其實(shí)背后并行著一個(gè)一九八四?!凑覍?duì)這種自由斗士的論調(diào)保持懷疑;有時(shí)不免有點(diǎn)“見(jiàn)到短袖子就想到裸體”的意思。
尼爾·波茨曼早在60年代就在《娛樂(lè)至死》里說(shuō)過(guò)的話,到今天仍然適用:從有廣播、新聞報(bào)紙、電視開(kāi)始,這個(gè)世界的行動(dòng)跟信息比率越來(lái)越小了,我們關(guān)注的大多跟自己眼前的事實(shí)、跟自己的生活無(wú)關(guān)。大多數(shù)事情不需要關(guān)注。而這個(gè)世界本身運(yùn)行機(jī)制的復(fù)雜程度,遠(yuǎn)遠(yuǎn)超出一般普通人所能理解;這種理解也許是不必要的。 我們自己,是在為這個(gè)世界帶來(lái)了更多的噪聲,還是更多的秩序、平和呢?這個(gè)問(wèn)題,互聯(lián)網(wǎng)不會(huì)回答我們,技術(shù)也永遠(yuǎn)不會(huì)回答我們。
靠點(diǎn)擊就能得來(lái)的東西并不真的屬于我們自己。
這個(gè)世界會(huì)好的。不是因?yàn)榧夹g(shù),而是因?yàn)槲覀冊(cè)诎炎约鹤兒谩?/p>
我們還上不了臉書(shū)呢
上周,我找到了一張《感官世界》的稀有海報(bào),想把它發(fā)布在微博上。
可是,怎么都發(fā)布不出來(lái),關(guān)鍵是這張圖片并沒(méi)有露點(diǎn)。
既然不能在微博上發(fā)布,那我是不打算在文章里貼出這張海報(bào)了。
你們也別去豆瓣上找了,沒(méi)有,我也沒(méi)有上傳的計(jì)劃。
當(dāng)然,寫(xiě)這些不是為了顯擺我發(fā)掘海報(bào)的能力。
我是對(duì)于微博上對(duì)于圖片是如何審核的機(jī)制比較好奇。
大家應(yīng)該有過(guò)這種經(jīng)驗(yàn),發(fā)布在微博上、豆瓣上、B站上、百度貼吧上的內(nèi)容被刪的情況。
不管是因?yàn)槿斯彶?,亦或是因?yàn)閯e人舉報(bào)。
困惑、震驚、憤怒,“為什么刪我的東西,我發(fā)的內(nèi)容沒(méi)什么違規(guī)啊”,這應(yīng)該是大家的第一反應(yīng)。
我除了好奇這些審查機(jī)制外,更好奇這些機(jī)制背后的人。
也就是這些網(wǎng)絡(luò)審查員。
《網(wǎng)絡(luò)審查員》
先把時(shí)針撥回到2013年3月23日,在臉書(shū)上有一條視頻,視頻的內(nèi)容是關(guān)于兒童性暴力。
在視頻下架之前,它已經(jīng)有了超過(guò)4000次的分享,以及數(shù)不清的評(píng)論。
這條視頻引起了導(dǎo)演漢斯·布洛克和莫里茨·賴斯維克的關(guān)注。
為什么這種事情會(huì)發(fā)生?為什么這些網(wǎng)站沒(méi)有及時(shí)地進(jìn)行處理?
這個(gè)就是《網(wǎng)絡(luò)審查員》的緣起。
01
這是一群隱形的人
菲律賓,馬尼拉,一間辦公室。
經(jīng)常傳出“忽略”、“忽略”、“刪除”、“刪除”的聲音。
坐在電腦前的人目不轉(zhuǎn)睛地盯著屏幕上頻頻閃過(guò)的圖片、視頻。
這些圖片與視頻包含著大量暴力、血腥、色情的訊息。
他們就是谷歌、推特、臉書(shū)等社交媒體雇傭的網(wǎng)絡(luò)審查員。
上面就是這些網(wǎng)絡(luò)審查員的日常工作。
他們的工作不能對(duì)外講,甚至連工作本身都是秘密。
他們看似是為互聯(lián)網(wǎng)三巨頭工作,實(shí)際上,他們所在的公司只是外包公司,他們的工資也是由外包公司來(lái)發(fā)。
每天有2萬(wàn)5千個(gè)指標(biāo),意思就是他們要?jiǎng)h除2萬(wàn)5千條不良信息,每一天。
想想一下讓一個(gè)普通人每天看虐殺、色情、暴力,他會(huì)變成什么樣。
但是這些審查員必須要看,因?yàn)檫@是他們每月的KPI指標(biāo)。
他們可以選擇跳過(guò)一些引起他們不適的視頻,如果被發(fā)現(xiàn)業(yè)務(wù)評(píng)分就會(huì)扣分,他們每個(gè)月只有三次的機(jī)會(huì)。
他們家境的貧窮也不允許他們放棄工作的機(jī)會(huì)。
要么讀書(shū),要么撿垃圾,對(duì)于來(lái)自社會(huì)貧困階層的他們而言,選擇就是如此殘酷、簡(jiǎn)單。
每天都要穿過(guò)垃圾山、趟過(guò)垃圾海去上班,他們有一家子要養(yǎng),他們必須珍惜工作的機(jī)會(huì)。
她,在審查期間看過(guò)一個(gè)兒童性暴力的視頻,讓她震驚不已。
她很痛苦,但卻不能辭職,因?yàn)樗灹思s,只能硬著頭皮接著干。
雖然杜特爾特政府宣稱,從2018到2022年,菲律賓經(jīng)濟(jì)規(guī)模要擴(kuò)大50%,并要邁入中高等收入國(guó)家的行列,但是菲律賓的貧富差距依然懸殊。
富人吃肉,窮人吃土。
這些來(lái)此貧困村莊的審查員們,咬著牙也想挺過(guò)來(lái)。
有些情況,并不是咬牙挺一挺就能解決的。
其實(shí)幾年前,我就看過(guò)一篇關(guān)于推特公司審查員心理健康問(wèn)題的外文文章。
文章就講,這些審查員工作了幾個(gè)月之后,都要接受心理輔導(dǎo)。
就像片中出境的幾位工作人員。
在直面人性丑惡之后,他們的心理健康狀況都很糟糕。
她,每天都要接觸大量的色情視頻。為了判斷一個(gè)視頻是忽略還是刪除,她必須了解各種性方面的術(shù)語(yǔ)。
她在家看了大量的A片,還經(jīng)常去逛性用品店,每晚都會(huì)做各種丁丁的夢(mèng)。
用她的話講,既有罪惡感,也有羞羞的快感,甚至還看上了癮。
一個(gè)清純少女就這樣變成了一個(gè)老司機(jī)。
她這種情況還算輕的。
他,看過(guò)幾百遍斬首視頻。
次數(shù)多到,僅僅憑著尸體身上的切口,他就知道尸體是用小刀割的,還是大刀砍的。
麻木,看到了麻木。
當(dāng)麻木累積到閾值的時(shí)候,就是他們崩潰的時(shí)候。
片中一位審查員,生前是負(fù)責(zé)審查自殘視頻,看過(guò)了數(shù)不清的自虐視頻后,在家上吊自殺了。
沒(méi)有人關(guān)心他們的心理健康。
02
審查的標(biāo)準(zhǔn)是什么
關(guān)于網(wǎng)絡(luò)內(nèi)容的審查本身就是一個(gè)悖論,如何在追求言論自由的前提下,又能保證言論的自由不會(huì)危及到我們自身。
這世界上沒(méi)有一個(gè)人不想追求言論自由,但是要付出的代價(jià)呢,怎么辦?
單單靠我們自身的批判性思維,舉世渾濁唯我獨(dú)清,眾人皆醉唯我獨(dú)醒?
戴維·凱伊,聯(lián)合國(guó)言論自由特別報(bào)告員是這么說(shuō)的。
他覺(jué)得對(duì)于言論自由設(shè)限,會(huì)導(dǎo)致民眾獲得越來(lái)越少的信息,以至于尖銳意見(jiàn)會(huì)從網(wǎng)絡(luò)上銷聲匿跡。
那為什么現(xiàn)在網(wǎng)絡(luò)暴力越來(lái)越嚴(yán)重,互相仇視的情緒越來(lái)越高漲。
這問(wèn)題到底是出在誰(shuí)的身上,真的是這些社交平臺(tái)監(jiān)管不力,是我們被這些社交平臺(tái)誘導(dǎo)?
答案是非常復(fù)雜的。
對(duì)么?對(duì),但是這個(gè)對(duì)也有預(yù)設(shè)條件。
什么問(wèn)題都不可能只有A與B兩個(gè)面,我們也不能也二元論來(lái)看待問(wèn)題。
一個(gè)平臺(tái)該如何判斷該如何審查一張圖片、一段視頻。
一個(gè)平臺(tái)認(rèn)為是危險(xiǎn)的消息,在另一個(gè)平臺(tái)可能認(rèn)為其具有新聞價(jià)值。
黃安娜,前谷歌/推特法律負(fù)責(zé)人舉了一個(gè)例子。
薩達(dá)姆在被處決的時(shí)候,有人把視頻發(fā)到了油管上,網(wǎng)上一共有兩段視頻,一段是薩達(dá)姆被處以絞刑的視頻,一段是薩達(dá)姆的尸體。
這樣一來(lái),就要決定到底是該留哪一段視頻,他們最后選擇了薩達(dá)姆被絞刑的視頻,因?yàn)檫@段視頻具有歷史價(jià)值。
而這樣就帶來(lái)一個(gè)問(wèn)題,如果審查員不知道圖片、視頻的背景信息,該如何決定是該忽略還是刪除。
審查員因?yàn)椴恢辣尘跋⒄`刪的情況,也很常見(jiàn)。
不僅僅是這樣,每個(gè)平臺(tái)都要自己的標(biāo)準(zhǔn)。
像下面這張?jiān)綉?zhàn)的著名照片。
它就因?yàn)樯婕傲宋闯赡曷懵抖环弦?guī)定。
對(duì)于這些審查員來(lái)說(shuō),最嚴(yán)重的的失誤,就是疏漏裸體內(nèi)容。
03
到底為誰(shuí)所用
就算一個(gè)審查員每天能處理25萬(wàn)條違規(guī)信息,但是每天臉書(shū)、推特上還是會(huì)有海量的信息流出現(xiàn)。
再說(shuō),不論是人工智能識(shí)別還是人工識(shí)別,這種機(jī)制都是被動(dòng)的。
社交媒體是帶來(lái)了惡,還是引爆了惡?
每個(gè)人使用社交平臺(tái)的目的各不相同。
美國(guó)藝術(shù)家伊爾瑪·戈?duì)柈?huà)過(guò)一張?zhí)乩势盏穆泱w畫(huà),并把它放在了自己的臉書(shū)上。
引發(fā)了網(wǎng)絡(luò)上的廣泛討論。
甚至特朗普本人都在白宮發(fā)言的時(shí)候,都討論過(guò)自己的尺寸沒(méi)有那么小。
現(xiàn)在的社交媒體已經(jīng)可以強(qiáng)大到可以干預(yù)到國(guó)家領(lǐng)導(dǎo)人的發(fā)言。
NGO的成員,會(huì)在網(wǎng)絡(luò)上收集視頻,在視頻被刪除之前,先把視頻保存下來(lái)。
對(duì)于他們來(lái)說(shuō),存檔非常重要。
他們把這些視頻收集起來(lái)后,發(fā)布在油管上。
他們用這方式記錄戰(zhàn)爭(zhēng),以此來(lái)讓人了解戰(zhàn)爭(zhēng)的殘酷,從而達(dá)到反戰(zhàn)的目的。
來(lái)自敘利亞的藝術(shù)家,會(huì)把自己的創(chuàng)作放在臉書(shū)上,表達(dá)自己的政治觀點(diǎn)。
美國(guó)右翼活動(dòng)家,在社交平臺(tái)上發(fā)表對(duì)于難民問(wèn)題的觀點(diǎn),一口一個(gè)綠綠、臭大糞。
也會(huì)在游行示威上做直播,表達(dá)自己對(duì)于左派的不懈。
現(xiàn)在的言論自由已經(jīng)被曲解了,人人都相信自己認(rèn)為的真相。
就像片中提到的,自從特朗普上臺(tái)以后,美國(guó)政治兩極化日趨嚴(yán)重,左派與右派都不愿意對(duì)話。
這么一來(lái),罪魁禍?zhǔn)拙褪悄槙?shū)?是臉書(shū)有意識(shí)地發(fā)揮了推波助瀾的作用?
沒(méi)人能夠回答。
最后就用臉書(shū)創(chuàng)始人扎克伯格在一次發(fā)布會(huì)上說(shuō)過(guò)的一段話做結(jié)吧。
選擇希望、克服恐懼,需要有勇氣。
說(shuō)我們能做出前所未有更好的東西。
要想改變世界必須保持樂(lè)觀。
每一次我們連接網(wǎng)絡(luò)、每一次創(chuàng)新,日復(fù)一日前進(jìn)一小步。
所以我認(rèn)為我們的共同努力比任何時(shí)候都重要。
- FIN -
公眾號(hào):小鮮電影(xiaoxianmovie)
“我覺(jué)得這項(xiàng)工作本事的存在就是一個(gè)秘密” 沖擊性內(nèi)容具有其絕對(duì)重要的含義這不僅僅關(guān)于ylzj的范疇 我是支持一定限度的審查許多不適內(nèi)容對(duì)價(jià)值觀未建立的小孩來(lái)說(shuō)是很有破壞力的但一定是有限度的而我們是沒(méi)有限度的除此之外任何言論都應(yīng)該允許存在否則你是在歧視民眾的受教育程度而受教育程度是你決定的這個(gè)電影應(yīng)該使用中國(guó)社媒的素材不能因?yàn)椤耙驗(yàn)槟闶且粫r(shí)的不冷靜而說(shuō)出的不嚴(yán)謹(jǐn)?shù)脑捑蜕縿?dòng)的仇恨情緒導(dǎo)致最終卻mz受害”而否認(rèn)ylzj的重要性你認(rèn)為你很道德你是在助紂為虐
作為一個(gè)威權(quán)體制下的網(wǎng)民,看完這部紀(jì)錄片的第一感受便是:隔靴搔癢,過(guò)於浮泛。
社交媒體上出現(xiàn)的種種問(wèn)題,其實(shí)也就是現(xiàn)實(shí)世界的反映。色情/血腥/恐怖組織/政治,每一個(gè)議題下都可以分化出無(wú)數(shù)的觀點(diǎn)與立場(chǎng)。紀(jì)錄片試圖用不到一個(gè)半小時(shí)的體量,以網(wǎng)絡(luò)審查員為主要視角進(jìn)行全方面的探討,注定只能泛泛而談。
但我確實(shí)欣賞導(dǎo)演對(duì)不同立場(chǎng)的同等尊重。理論的說(shuō)法叫做:“兩面說(shuō)辭”。
對(duì)於色情的判斷標(biāo)準(zhǔn)。是藝術(shù)還是淫穢?
對(duì)於恐怖組血腥視頻的判斷標(biāo)準(zhǔn)。是非法傳教還是真實(shí)歷史記錄?
對(duì)於社會(huì)災(zāi)難真實(shí)記錄的容忍度標(biāo)準(zhǔn)。是新聞的真實(shí)要求還是對(duì)苦難者的二次剝削?
對(duì)於不同政治觀念/仇恨言論的容忍標(biāo)準(zhǔn)。是憲法給予的言論自由保障還是民主社會(huì)的底線堅(jiān)守?
不同人站在不同的立場(chǎng)與坐標(biāo),自會(huì)給出不同的答案。正如影片中所說(shuō):背景與身份決定了思維方式。而社交媒體這個(gè)平臺(tái)無(wú)非是為不同立場(chǎng)、不同觀點(diǎn)的交鋒提供了舞臺(tái)。平臺(tái)背後商業(yè)資本、政治權(quán)力、民眾影響且深深塑造著社交媒體。
科技公司為了利益,會(huì)不斷滿足民眾的個(gè)性化需求進(jìn)行算法推算,由此進(jìn)行的信息推送最終造就信息繭房。民眾接受的信息內(nèi)容越來(lái)越狹窄,加之同溫層相互抱團(tuán)取暖,觀點(diǎn)自會(huì)越來(lái)越極化。
但我其實(shí)認(rèn)為這樣的說(shuō)辭有些高估了民眾的自主權(quán)與選擇空間。真正掌握且控制信息的還是那個(gè)無(wú)形的手。為了政權(quán)的穩(wěn)定,可以要求科技公司進(jìn)行IP鎖定,限制特定內(nèi)容的瀏覽。自然也可以直接建造一個(gè)全球最大的局域網(wǎng)。以保護(hù)民眾之名(更多時(shí)候的常見(jiàn)話術(shù)是為了保護(hù)下一代)剝奪本可以擁有的自由。殘酷而又現(xiàn)實(shí)的未來(lái)構(gòu)想“數(shù)字極權(quán)”,或許正在一步步到來(lái)。
我喜歡影片最後那位辭職的審查員說(shuō)的那番話:不要逃避,不要麻木自身。
現(xiàn)實(shí)本身的苦難與黑暗是刪除不了的。(但我支持的是有底線的自由空間,並非放任自流)呆在一個(gè)溫良且無(wú)害的環(huán)境之中,會(huì)影響個(gè)體批判性思考能力,挑戰(zhàn)能力的訓(xùn)練,逐漸縮緊自身表達(dá)的空間,放任民粹思想的氾濫。個(gè)體被迫或者無(wú)意識(shí)地逃避現(xiàn)實(shí),逃避了公民所需承擔(dān)的責(zé)任。與此同時(shí),語(yǔ)言本身也遭到了殲害。
只有在大量信息獲取的前提下,才能進(jìn)行相對(duì)有效的信息判斷與審視。在簡(jiǎn)體中文信息這個(gè)極其糟糕的環(huán)境下,一味地聽(tīng)信與一味的不聽(tīng)信,都是糟糕的能力體現(xiàn)。(孫楊一事的輿論風(fēng)向轉(zhuǎn)變是極其具有參考價(jià)值的控制案例。足以以小見(jiàn)大。)(好像話題扯遠(yuǎn)了orz......
說(shuō)回正題來(lái),對(duì)於影片中的審核員我內(nèi)心十分同情,領(lǐng)著不高的薪金,每天都得直面黑暗與血腥。
但對(duì)於第三帝國(guó)的審核員,秉著一個(gè)沒(méi)有來(lái)由便被炸號(hào)的人的立場(chǎng),我只能勉為其難的認(rèn)可他們作為一顆不鬆動(dòng)的螺絲釘所作出的努力。可轉(zhuǎn)念一想吧,我能體諒他們,誰(shuí)來(lái)體諒我?
紀(jì)錄片裡提到的問(wèn)題一時(shí)半會(huì)兒也解決不了。思想本來(lái)也無(wú)法統(tǒng)一,唯一要做的是建立一個(gè)文明包容的互聯(lián)網(wǎng)空間。全球都在右轉(zhuǎn),樂(lè)觀的來(lái)說(shuō):或許此次疫情能成為契機(jī),讓大家重新意識(shí)到全球化的重要性。開(kāi)放包容的精神還能得到提倡。但悲觀的來(lái)說(shuō),歷史不會(huì)一直前進(jìn),要做好止步不前甚或倒退的準(zhǔn)備。(或許在這個(gè)時(shí)候成為一顆第三帝國(guó)的螺絲釘不失為個(gè)體的良好選擇??(對(duì)不起,俺又在陰陽(yáng)怪氣了
[紀(jì)錄片賞析課作業(yè)01]
delete... ignore...
That's the two actions that a content moderator does every day.
"I protect the user who uses the app", said one of the moderators, as the president tried to protect his people by killing all the criminals.
"One of the misconceptions is that human nature is human nature, and then technologies are just useful tools: it's not amplifying anything - but this is not true, because technology does have a bias, and that bias has a goal, it's actually seeking a goal, it's the goal it's seeking that what will get the most number of people's attention, what tends to work on billions of people that's successfully attracting their attention out of that, and keep it; and not just getting their attention but getting them to share things, and so it turns out that our rage is actually good at doing so"(Cleaners, 2018, 1h6m).
“I sacrifice myself, yes, there will always be sacrifices, it will always be a part of life... it's my job to prevent the sinful images, I'm a preventer“(1h21m)
內(nèi)容審查員就像是一名狙擊手,我們的目標(biāo)是違反應(yīng)用程式規(guī)定的用戶。 我媽媽總是告訴我,如果不好好讀書(shū),就只能跟她一樣當(dāng)個(gè)拾荒者,他們依賴撿垃圾為生,這是他們唯一知道的謀生方式。我害怕自己將來(lái)只能留下來(lái)跟著撿垃圾,這也是促使我用功念書(shū)的一個(gè)原因。 2016年1月,我畫(huà)了一張男性器官很小的川普畫(huà)像,叫做“讓美國(guó)再次偉大”,它立刻爆紅,數(shù)百萬(wàn)人在許多社群平臺(tái)上瘋傳,幾天后川普在競(jìng)選辯論中提到自己的器官尺寸,我記得有朋友打電話告訴我說(shuō),是你讓川普在辯論中透露他的器官大小嗎。 作為內(nèi)容審查員,你必須要有原則,是你在決定人們是否該看到某張圖片,所以頭號(hào)重大錯(cuò)誤就是批準(zhǔn)裸照、 和女性胸部、男性器官,這沒(méi)有容忍的余地。 一個(gè)虛構(gòu)的作品,它并不暴力,也無(wú)關(guān)性愛(ài),它只是一個(gè)人的裸體配上川普的臉,不懂為何人們會(huì)覺(jué)得人的裸體這么惡心。 這工作真的不好做,但最后卻成了帶罪惡感的樂(lè)趣,感到罪惡是因?yàn)槲揖尤辉诳催@樣的東西,樂(lè)趣是因?yàn)槲椰F(xiàn)在很享受看到的內(nèi)容。 臉書(shū)基本上就是一家科技公司,有許多工程師經(jīng)營(yíng),它重視自家產(chǎn)品,重視公司設(shè)施,它重視發(fā)展規(guī)模,重視用戶體驗(yàn),但它不是一家媒體公司,它不會(huì)考慮到內(nèi)容或內(nèi)容創(chuàng)作,或是內(nèi)容編輯和審查的事,這些事并不在它的基因里面,只要臉書(shū)碰到有人說(shuō),“嘿,你們要為這內(nèi)容負(fù)責(zé)的時(shí)候,他們的答復(fù)會(huì)是,‘哦,我們只是搞數(shù)學(xué)的,我們只負(fù)責(zé)寫(xiě)演算法,去提供你們想要的東西,我們不干涉編輯’”,但政治現(xiàn)實(shí)是在川普之后,在英國(guó)脫歐之后,這樣的說(shuō)法已經(jīng)不行了,我們現(xiàn)在在一個(gè)點(diǎn)上,只要大眾不接受現(xiàn)狀,在某些點(diǎn)上政府就會(huì)立馬介入,我認(rèn)為臉書(shū)是了解這情況的。 YouTuBe一直希望能夠跨越國(guó)界,因此從2007年左右,我們?cè)庥鲈S多被封鎖的情況,當(dāng)土耳其政府不知如何與你取得聯(lián)系時(shí),他們索性關(guān)閉你在該國(guó)的服務(wù)。我們花了一段時(shí)間才弄清楚,是什么令他們感到不舒服,我們最后終于設(shè)法掌握了令他們不開(kāi)心的特定影片,其中有些是關(guān)于凱末爾,有些則是他們聲稱違反土耳其法律的恐怖主義影片。我記得有一天我在凌晨?jī)牲c(diǎn),審查令土耳其政府感到不快的67個(gè)影片,從中做出哪些應(yīng)該刪除,哪些應(yīng)該留下的決定,有個(gè)重點(diǎn)是對(duì)于一些影片來(lái)說(shuō),它們其實(shí)沒(méi)有違反社群準(zhǔn)則,所以一般不會(huì)從平臺(tái)移除,可是卻觸犯了土耳其的法律,所以我們決定對(duì)土耳其用戶采取IP位置封鎖,土耳其用戶將無(wú)法看到這些影片,我不喜歡這種解決方式,但這就是我們的做法。 街上聚集了許多了不起的人,警方在這里部署的人數(shù)相當(dāng)多,我很好奇他們會(huì)在這里待多久,因?yàn)槲抑乐灰麄円怀冯x,人們就會(huì)開(kāi)始干架。 一些左派人士認(rèn)為你政治不正確,我們這群人擁有槍支、子彈,受過(guò)訓(xùn)練,只要我們開(kāi)始開(kāi)槍射殺,我相信所有的贓東西很快就會(huì)消失。 人性歸人性,而科技就只是種中性工具,并沒(méi)有助長(zhǎng)任何東西,但事實(shí)并非如此,因?yàn)榭萍即_實(shí)存在偏見(jiàn),偏見(jiàn)就是它實(shí)際追求的一個(gè)目標(biāo),那個(gè)目標(biāo)就是什么才能得到最多人的關(guān)注,什么才能吸引數(shù)十億人,成功轉(zhuǎn)移他們的注意力,并且保持下去。 這項(xiàng)工作會(huì)損害你的大腦,讓你覺(jué)得暴力是正常的,讓你認(rèn)為殺人,轟炸是正常的。 我不能讓影片影響你,但這因人而異,有些人就是會(huì)受到畫(huà)面的影響。 我突然自己,為什么要做這份工作,只是為了讓人們認(rèn)為上網(wǎng)是安全的,事實(shí)上在你的日常工作中,上處都是危險(xiǎn),我們?cè)谂圩约?,我們?yīng)該從麻木中覺(jué)醒,因?yàn)檫@并不安全,我們應(yīng)該正視現(xiàn)實(shí)。 選擇希望而非恐懼這需要勇氣,期許我們可以建立比過(guò)去更加良好的環(huán)境,你必須樂(lè)觀的認(rèn)為你可以改變世界,我們投身其中,每一次都是一種聯(lián)系,每一次都是一種創(chuàng)新,日復(fù)一日,日復(fù)一日,這就是為什么我認(rèn)為我們一起投入的工作,現(xiàn)階段比以往任何時(shí)候都重要。
常在河邊走哪能不濕鞋
很有意思的視角,第三世界廉價(jià)審查員,被剝削的不只是重復(fù)性勞動(dòng),還被迫承受了最為駭人聽(tīng)聞的精神暴力。后半部分上升到社交媒體就比較泛泛而談了,無(wú)非是民主和民粹的討論,作者立場(chǎng)也過(guò)于明顯。這部電影本質(zhì)還是獵奇,但也只有沖擊力和未知能引發(fā)思考。
① 網(wǎng)絡(luò)審查的存在是必要的,如同現(xiàn)實(shí)生活中的質(zhì)檢、保潔和垃圾分類等工種;但對(duì)「垃圾」、「有害」的標(biāo)準(zhǔn)界定是模糊的;② 人與人之間的道德標(biāo)準(zhǔn)、族群與族群之間的習(xí)俗觀念、國(guó)與國(guó)之間的法律政策都是存在差異,而遍及全球的社交網(wǎng)絡(luò)平臺(tái)必然無(wú)法普適所有地區(qū)人民;③ 平臺(tái)工具的中立屬性,與吸引點(diǎn)擊的傳播邏輯,形成天然矛盾;④ 國(guó)家和聯(lián)合國(guó)都難以解決的矛盾爭(zhēng)端,居然需要距離事發(fā)千里之外、月入幾千元的審查員做出判斷,真心無(wú)奈。
設(shè)計(jì)的場(chǎng)面和臺(tái)詞過(guò)多,集中於弘大命題而遠(yuǎn)離了作為網(wǎng)絡(luò)審查者的“人”。始終陷在一種美感過(guò)度的不適中。講演現(xiàn)場(chǎng)等視頻的活用很好。“被審查”的部分影像,那些自殺情色宗教與恐怖暴力,除了展示,真的沒(méi)有更好的方式了嗎?對(duì)影像資料的處理和使用,需要倫理上的再思考。JIFF0507M9
審查;還以為是日本人做的,原來(lái)是德國(guó)人;色情delete,戰(zhàn)爭(zhēng)暴行(宣傳恐怖delete,反戰(zhàn)ignore)但作為網(wǎng)絡(luò)守望者的這部分菲律賓人不可能了解那個(gè)背景不好判斷,忽略的害處:羅興亞人的迫害,稀疏的言論自由:人里面不成熟、容易受惡影響的還是不少的,審查是一種偷懶的方式,人類就不用自己費(fèi)勁去判斷了,政治言論:油管的僅對(duì)該國(guó)ip屏蔽,也算厚道,那為啥我們不行?(大概扶植本國(guó)經(jīng)濟(jì)吧,也能偷懶,畢竟自己人好管);審查員自己的影響,每天看這些勢(shì)必有影響(發(fā)條橙);網(wǎng)絡(luò)使全球人心的共通,對(duì)于審查員更明顯;言論自由觀點(diǎn)(我的):事物都有丑惡一面,如果你沒(méi)看到,說(shuō)明你還不了解它;人總是需要假象的敵人(鄙視對(duì)象),外國(guó)移民、CXK。
你好,你發(fā)表的關(guān)于《The Cleaners》的短評(píng),因?yàn)楹羞`反相關(guān)法律法規(guī)或管理規(guī)定的內(nèi)容,已被移除。感謝你的理解與支持。——豆瓣電影
發(fā)人深思的優(yōu)秀紀(jì)錄片,不能忽視的人群——網(wǎng)路清道夫
這群為了網(wǎng)絡(luò)的健康與和諧默默付出的人們,難以想象他們每天要面對(duì)多少充滿血腥、暴力、色情以及政治恐怖的鏡頭。他們目睹過(guò)自殺,目睹過(guò)砍頭,目睹過(guò)性侵,出現(xiàn)一點(diǎn)小小的紕漏都可能會(huì)造成死傷甚至戰(zhàn)爭(zhēng),他們?cè)诓粸槿酥牡胤绞刈o(hù)著世界的和平
“Delete, delete... Ignore, ignore”,以網(wǎng)絡(luò)世界不為人注意的審查過(guò)濾工作展開(kāi),用Google和FB做引子,到最后拉開(kāi)成了對(duì)極右思潮的興起、政治諷刺的界限還有中東和羅興亞人的全面涉及,88分鐘里滿滿的信息量和各種立場(chǎng)。勾勒了網(wǎng)絡(luò)世界近年來(lái)除去深網(wǎng)、色情交易和信息安全之外最嚴(yán)峻的現(xiàn)狀。無(wú)法想象各位清道夫需要在工作中承受多少壓力與傷害,才能換得一份維持溫飽的工作;女孩穿行于垃圾堆的畫(huà)面映照,十分加分。
索爾仁尼琴說(shuō)過(guò)“每個(gè)人有不知情的權(quán)利”,但是人又卻是好奇和獵奇。前幾年Dark Net第一季的其中一集就對(duì)網(wǎng)絡(luò)審查員有過(guò)展現(xiàn)。感覺(jué)這部紀(jì)錄片是擴(kuò)展版,而且選取的事例頗具典型性。我依然覺(jué)得對(duì)於互聯(lián)網(wǎng)(尤其是移動(dòng)互聯(lián)網(wǎng))要採(cǎi)取謹(jǐn)慎甚至消極的態(tài)度。整個(gè)片最讓我印象深刻的是NGO組織對(duì)敘利亞內(nèi)戰(zhàn)的社交網(wǎng)絡(luò)視頻爭(zhēng)分奪秒的保存。畢竟,很多視頻基於版權(quán)和審查已經(jīng)無(wú)法被觀看,而本身又具備價(jià)值。其實(shí),“知道太多”的審查員和違規(guī)視頻圖文資料庫(kù)同樣是個(gè)不穩(wěn)定的危險(xiǎn)因素。難道就不怕造反嗎?
看!這盛世,時(shí)代之惡,我在這兒先糊你臉上為敬。
引人深思。同樣的內(nèi)容在不同的語(yǔ)境下是不一樣的,諷刺或者譴責(zé)是不是就可以?(實(shí)際工作中真的就遇到這樣的情況啊)提供一個(gè)“干凈”的環(huán)境是不是就不利于理性批判呢?非常不爽的是,這樣一個(gè)“國(guó)際紀(jì)錄片節(jié)”竟然放個(gè)樣片給我看,中間字幕還因?yàn)榧糨嫲娑帜粚?duì)應(yīng)不上。
一部片頂十季《黑鏡》,而且與當(dāng)下聯(lián)系更緊密,討論的核心仍處在on-going狀態(tài),沒(méi)有人知道之后會(huì)發(fā)生什么改變。手法無(wú)甚高明,但貴在爭(zhēng)議的提出和創(chuàng)作者的態(tài)度,畢竟很多難題并不可能也并不應(yīng)當(dāng)由這部紀(jì)錄片來(lái)回答。
不涉及處在局域網(wǎng)的我們,主要介紹采訪不存在的歐美幾大上傳類社交網(wǎng)站的圖片視頻的人工審查員,他們居然都是在菲律賓的當(dāng)?shù)厝?,每天面?duì)兩萬(wàn)多件的色情暴力政治戰(zhàn)爭(zhēng)等敏感信息。夢(mèng)到大量不同男人生殖器的女基督徒,還有的看過(guò)上百段斬首的影像,在自殘部門調(diào)離不成而自殺的員工,敘利亞老百姓拍攝的那些和isis的如何處理,開(kāi)放網(wǎng)絡(luò)后只識(shí)臉書(shū)的緬甸人被假消息散播利用挑起的大屠殺,最后現(xiàn)身的扎克伯格發(fā)布會(huì)好像把矛頭直指大公司在建立自由之地的同時(shí)今后要怎么走向,穿插在美國(guó)被訴訟而改變準(zhǔn)則的幾次事件,對(duì)了解那些人背后的操作程序和世界陰暗面有不少直觀的感受,聯(lián)想在高墻之內(nèi)被保護(hù)的這片土地更加唏噓。
當(dāng)影像創(chuàng)作緊緊地與道德與立場(chǎng)捆綁,紀(jì)錄片本身也跳脫開(kāi)單純的新聞屬性,質(zhì)問(wèn)甚至鞭撻所有人習(xí)以為常的倫理框架。從網(wǎng)絡(luò)清道夫,到社交媒體時(shí)代的仇恨傳播,一塊熒幕前后是監(jiān)控的過(guò)猶不及,和話語(yǔ)的無(wú)孔不入。信息量大,有些話題點(diǎn)到即止,拍的精細(xì)完整,但再做擴(kuò)充也無(wú)妨。
看到扎克伯格意氣風(fēng)發(fā)的臉,就像是這個(gè)世界真正的領(lǐng)導(dǎo)者一樣??膳碌氖蔷谷贿€有人把自己和國(guó)家的人民與希特勒和被屠殺的猶太人類比,渺小無(wú)力的我們只能對(duì)著社交媒體冒泡。
臉書(shū)YouTube推特上,內(nèi)容合法不合法,是讓一群外包的菲律賓人來(lái)審查。難怪影片中,故意讓審查員看兩張照片,一張是獲普利策獎(jiǎng)的越戰(zhàn)照片《火從天降》,因?yàn)樾∨⑷沓嗦?,被刪;另一張,伊戰(zhàn)美軍虐囚事件,審查員看成了ISIS士兵在虐美軍俘虜,被刪。
一部上影節(jié)北影節(jié)選片首輪一定被斃的紀(jì)錄片出現(xiàn)在即將被迫全面退票轉(zhuǎn)為免費(fèi)包場(chǎng)的西寧,來(lái)自一個(gè)全球最大的被清理者組成的國(guó)度。
清道夫不是人干的活。每天看各種黃色暴力血腥視頻,有害身心。審查員有自殺的,也有寧愿回去撿垃圾,也不再看那些網(wǎng)絡(luò)垃圾。
特別嚴(yán)肅、深沉、拓展視野和引人熟思的一部紀(jì)錄片。新網(wǎng)絡(luò)時(shí)代社交媒體在左右我們的思維動(dòng)向,可怕的是它利用我們的潛意識(shí),就在我們毫無(wú)意識(shí)之間替我們決定了一切。而被犧牲的網(wǎng)絡(luò)審查員,真的新時(shí)代最悲傷職業(yè)。