十多年前看《未來戰(zhàn)士》第一集，迷住我的不是科幻，而是玄乎于故事的主線。為什么機械頭領(lǐng)派來終結(jié)者回到過去終結(jié)未來人類頭領(lǐng)母親的性命，結(jié)果使得同樣從未來人類頭領(lǐng)派來保護(hù)他母親的人類戰(zhàn)士和他母親生下了他自己。隨后，漸漸的明白這是在倫理上可以理解的：因為對未來所謂的預(yù)見性，有可能讓你此后的行為本身造就了你預(yù)見的未來。當(dāng)我懂得生活和工作的一些處境后我更明白了這種道理，比如戀愛中的人，怕失去對方而千方百計的以為可以永遠(yuǎn)擁有對方的適得其反；比如電視劇《中國式離婚》里的情節(jié)，因為她唯恐他出軌，結(jié)果做出了傷害了與他交往的人，影響他的事，最后這些才導(dǎo)致了離婚。 我很怕《未來戰(zhàn)士》帶來的這種感覺，有時候這種道理帶來的處境是：要么赴死，要么等死。 第二集我也這么看，想了想，第二集還是有積極的意義的，仿佛即使注定悲哀里一定也有注定伴隨的希望，當(dāng)終結(jié)者終結(jié)了自己的時候，仿佛告訴我即使套上宿命的符咒，通過努力還是可以阻止什么的。但當(dāng)?shù)谌春?，我想從此又顛覆了第二集所說的希望，因為人和機器人的戰(zhàn)爭還是不可避免：宿命就是規(guī)定好了的旅程，不接受但永遠(yuǎn)不可逃避。 我不知道以后會怎么看第四集，它會不會說起宿命的過程中，并不會失去關(guān)于犧牲了的希望存在的意義，就像我仿佛宿命的在等待觀影一樣，用《未來戰(zhàn)士》的故事，伴隨在影響我的生活中，以及愛這部電影的原因里。

其實到現(xiàn)在這個年紀(jì)，看電影的時候真的并不太關(guān)心打打殺殺了。其實終結(jié)者系列都很不錯，但是再也沒有一部有第一部那樣的感覺了。風(fēng)暴來臨，但是仍然充滿了希望，還有卡神一定要加的那幕床戲，可謂是點睛之筆。 不過重點是配樂！片頭2分24秒處，純音樂[Theme from 'The Terminator']，拖長的號聲，配有金屬撞擊聲，深沉而且很快就帶入了氣氛。此后這首曲子在片中又出現(xiàn)了4次。 一、80分40秒起，配合Kyle Reese的告白傾訴，是輕且慢的鋼琴聲，如同低聲啜泣；然后是稍快一拍的清晰有力的鋼琴聲，Sarah和Kyle的親吻；82分28秒再次加快節(jié)奏(此處就是床戲)。 二、90分40秒起，Sarah與Kyle在火中擁抱，悲壯的號聲。 三、99分54秒起，Sarah被抬上救護(hù)車，Kyle被裝進(jìn)裹尸袋。這段很短，救護(hù)車門一關(guān)就結(jié)束了。 四、這是最重點的一段！101分30秒起，Sarah錄音對Kyle的懷念告白。極其緩慢，輕到幾乎斷斷續(xù)續(xù)的鋼琴聲；然后Sarah拿到照片，，也是鋼琴聲；最后開車向風(fēng)暴駛?cè)?，配合雷聲和機械聲的管樂，為故事激昂地落下了帷幕。 這首曲子的運用可謂經(jīng)典！ 然而，卡神加的床戲?qū)嵲谔懒?。我?guī)状慰炊?。兩個情到深處又惺惺相惜的人，在前不知是否有退路，后有致命的追兵的時候，爆發(fā)出的這一場拋開生死的結(jié)合，正是他們所需要的最強大的信念的支持。如果有一天你突然要背負(fù)起拯救世界的重任，而你只是一個普通的女孩子，難道不需要一個互相都很在乎的人來給你不能倒下的理由嗎？ Sarah

這篇影評非寫不可，因為它很有可能讓我從此愛上科幻片。事實上，寫這篇影評前我已經(jīng)有很久沒寫過影評了，上一篇應(yīng)該是金基德的?圣殤?,我在高二理科課上偷偷記在本子上的。用豆瓣后，也懶得把那些陳年文字打出來。 科幻片我也不是沒看過，像什么?盜夢空間?,?星際穿越?,?人工智能?等等。但是像?終結(jié)者?這樣像恐怖片一樣把我嚇個半死又像悲情片一樣害我哭到吸鼻涕還是頭一回遇到。 這部電影就是震撼本身，卡梅隆用有限成本發(fā)揮出了最大程度。無論是那個燒也不死炸也不死的紅眼骨架子機器人還是影片里這段只有一天一夜卻驚世駭俗的愛情。 最后那個紅眼骨架子真的足夠給人揮之不去的心理陰影，我看過?招魂?，?閃靈?，在我心里沒有一個的驚悚形象能超過它，主要因為 ，，他怎么就是死不透呢？ ! 電影結(jié)局部分就是高潮了-----紅眼骨架子是在這里燒成骨架子嚇?biāo)廊说模⒖∮旅蛨皂g癡情（等等）的男主角也是在這里和它同歸于盡了。 我可是為他哭得好慘，有很久很多部電影以來我都沒怎么哭出來過了?？吹皆u論區(qū)很多人說凱爾是男二其實我認(rèn)為不對的。他是絕對男主角。雖然片名是叫終結(jié)者，但終結(jié)者畢竟只是臺恐怖的怪物。 這部電影如果沒有凱爾和沙拉這條愛情線，會平庸很多的。 這部電影告訴我們還有種情侶叫凱爾和莎拉-----凱爾生活在四十年后的世界，他收藏著沙拉的照片，每天看著，這女人是他這輩子唯一愛過的女人。 莎拉是未來世界人類領(lǐng)導(dǎo)者約翰的母親。機器人要滅絕人類，卻始終過不了約翰一關(guān)，就打算要從根做起-----干脆在受孕前殺了他媽。狡猾 ! 凱爾自告奮勇回去四十年前保護(hù)莎拉，欲幫她逃脫最強機器人"終結(jié)者"的殺害。雖然這一趟的代價是無法再回去，結(jié)局也是難以預(yù)料的。 凱爾舍命一搏，只因他傾慕救世主那傳奇性的母親。他恐怕也想不到，自己會是救世主的父親。哪怕他們的愛情只有短短的一天一夜，但是卻像莎拉在影片最后說的一樣-----we loved a lifetime. 凱爾與機器人同歸于盡，莎拉活下來，懷著他的孩子約翰，要孤軍奮戰(zhàn)。 我當(dāng)然就是看到了這里哭了出來的。 對于"凱爾是四十年后的人，與約翰是同齡，朋友，卻最終穿越到四十年前，與約翰他媽有了約翰"這樣的邏輯，絲毫沒有觀眾覺得過別扭，反而倒是很讓我印象深刻。這對情侶從認(rèn)識到分別只有一天一夜，感情卻深沉而真摯。也許是因為他們面對公共敵人，面對死亡的那份堅韌十分打動人。 看?終結(jié)者?之前，我看完了王家衛(wèi)的?花樣年華?。?花樣年華?是以真實時代真實世界為背景的，卻缺乏?終結(jié)者?的撼動力?？赐暌院笃狡降?，并沒有什么情緒。而?終結(jié)者?架構(gòu)虛幻，卻十分打動人。 電影雖說要以真情實感為價值，但十分的真實似乎也就只能像真的生活那樣，水一樣流過，不著痕跡了。 當(dāng)然了，王家衛(wèi)拍的電影，取勝也的確從不是靠深入人心的劇情，而是靠高深的藝術(shù)手法。難免要曲高和寡。 像?終結(jié)者?這樣的愛情，感情強烈，穿透生死，跨越時代，即使背景虛幻，卻還是更能感染人心，更能讓平民百姓買賬吧？ 這部電影是1984年拍的，當(dāng)時美國正處于信息技術(shù)改革時代，由于對信息化的反思與展望，美國電影人在這期間拍下許多類似于這部的有關(guān)人工智能的科幻電影。美國從未恐懼暴露其信息發(fā)展弊端，面對問題，沒人避諱，是可以公眾討論的。 而當(dāng)時的中國正忙著改革開放，信息化還未開始，要求能拍出這樣的電影是過分了的。 那么中國電影人是不是就沒有做出過展望與反思呢？-----有的。田壯壯的?藍(lán)風(fēng)箏?，婁燁的?頤和園?,陳沖的?天浴?等等優(yōu)秀影片都對中國的歷史，政治進(jìn)行了反思與提問。但是很遺憾，由于我國不愛面對問題，這些優(yōu)秀電影甚至導(dǎo)演都被禁了。中國電影政治篩選力度太大。這也很大程度是中國大陸電影進(jìn)步緩慢的原因。 對于中國何時才能出現(xiàn)如此優(yōu)秀的科幻片，我們可能還得展望一大段日子...... ?終結(jié)者?著實令我大開眼界。科幻片也能這樣拍。 Ps:影片中不乏對于美國警方的嘲諷

本文轉(zhuǎn)自機器之心，原文選自arxiv，

作者：Toby Walsh University of New South Wales and Data61 （formerly NICTA），

編譯：李九喻、孟婷、柒柒。

已經(jīng)發(fā)明的技術(shù)和展望中的技術(shù)：

公元前1,500,000年 最早的石器 (環(huán)境限制的突破)

公元前300,000年 火 (環(huán)境限制的突破)

公元前70,000年 繪畫 (環(huán)境限制的突破)

公元前45,000年 貿(mào)易系統(tǒng) (環(huán)境限制的突破)

公元前40,000年 木船 (環(huán)境限制的突破)

公元前5000年 車輪 (環(huán)境限制的突破)

公元前3000年 楔形文字 (文化限制的突破)

公元前500年 指南針 (環(huán)境限制的突破)

公元前100年 造紙術(shù) (文化限制的突破)

公元800年 火藥 (環(huán)境限制的突破)

公元1100年 活字印刷 (文化限制的突破)

公元1400年 遠(yuǎn)洋帆船 (環(huán)境限制的突破)

公元1609年 望遠(yuǎn)鏡 (環(huán)境限制的突破)

公元1644年 顯微鏡 (環(huán)境限制的突破)

公元1770年 蒸汽機 (環(huán)境限制的突破)

公元1826年 照相技術(shù) (環(huán)境限制的突破)

公元1876年 電話 (環(huán)境限制的突破)

公元1880年 燈泡 (環(huán)境限制的突破)

公元1903年 飛機 (環(huán)境限制的突破)

公元1945年 原子彈，計算機 (環(huán)境限制的突破)

公元1950年代 性別激素/變性技術(shù) (生物限制的突破)

公元1957年 人造衛(wèi)星 (環(huán)境限制的突破)

公元1969年 最早的計算機網(wǎng)絡(luò) (環(huán)境限制的突破)

公元1980年 試管嬰兒 (生物限制的突破)

公元1996年 生物復(fù)制技術(shù) (生物限制的突破)

公元2007年 DNA端粒延長(壽命延長技術(shù)) (生物限制的突破)

----------------------------------------

（猜想）

公元2029年 超越人類智能的機器

公元2045年 納米技術(shù)的普及 (生物在化學(xué)物質(zhì)基礎(chǔ)限制的突破)

公元2070年 仿生物技術(shù)的大規(guī)模普及 (生物在化學(xué)物質(zhì)基礎(chǔ)限制的突破)

公元2080年 意識上傳 (意識突破肉體限制)

狹義技術(shù)奇點 (生物在化學(xué)物質(zhì)基礎(chǔ)限制的突破)

21世紀(jì)以后 突破物理定理的限制 (突破引力，光速) (物理限制的突破)

21世紀(jì)以后 能量表達(dá)方式突破3維空間的限制 (數(shù)學(xué)限制的突破)

21世紀(jì)以后 突破時間的限制，觀察到過去，現(xiàn)在，和未來，在未來的那個時刻創(chuàng)造我們現(xiàn)在生活的世界 廣義技術(shù)奇點 (因果邏輯限制的突破)

如今，對人 (AI) 感到悲觀或樂觀的都大有人在。樂觀者正在向人工智能領(lǐng)域投資數(shù)百萬美元甚至數(shù)十億美元，而悲觀者則預(yù)測人工智能將終結(jié)很多事：工作，戰(zhàn)爭，甚至人類。無論是樂觀主義者還是悲觀主義者都被所謂技術(shù)奇點 (technological ingularity) 的概念吸引。技術(shù)奇點是一個機器智能失控的時間點，在它之后一個全新的、更加智慧的「物種」將開始居住在地球上。如果樂觀主義者是正確的，那么這將是一個從根本上改變?nèi)私?jīng)濟(jì)和社會的時刻。如果悲觀主義者是正確的，那么這將同樣是一個從根本上改變?nèi)祟惤?jīng)濟(jì)和社會的時刻。因此，我們有必要花些時間決定這些看法是否正確。

奇點的歷史

技術(shù)奇點的概念可以追溯到幾個不同的思想家。在約翰·馮·諾伊曼 (譯者注: John von Neumann， 20世紀(jì)最重要的數(shù)學(xué)家之一，在現(xiàn)代計算機、博弈論等領(lǐng)域均有建樹) 1957年去世時，斯塔尼斯拉夫·烏拉姆 (譯者注: Stanislaw Ulam - 波蘭數(shù)學(xué)家) 寫道：

「我與約翰·馮·諾伊曼討論過在技術(shù)不斷加速發(fā)展、人類生活模式的改變下，我們看上去正在接近物種史上某個重要的奇點，在它之后已知的生活將無法延續(xù)?！?在1965年，I.J. 古德 (譯者注: I.J. Good，英裔數(shù)學(xué)家、密碼學(xué)家) 對這個現(xiàn)象提出了更具體的預(yù)測，他用「智能爆炸」(Intelligence Explosion) 取代了「奇點」 (Singularity) 的概念：「讓我們把超智能機器定義成為一臺能夠遠(yuǎn)遠(yuǎn)超過任何人類智力活動的機器。 因為設(shè)計機器本身也算是智力活動，所以超智能機器可以設(shè)計出更好的機器；毫無疑問，這將會帶來智力的爆炸式增長，而人類的智力將遠(yuǎn)遠(yuǎn)落后。以此類推，超智能機器將會是人類最后一個發(fā)明?！?許多人把 「技術(shù)奇點」歸功于計算機科學(xué)家?？苹眯≌f家弗諾·文奇 (Vernor Vinge) 更是預(yù)言：「在三十年內(nèi)，我們將創(chuàng)造出實現(xiàn)超人智慧的技術(shù)。不久后，人類的時代將結(jié)束?！?/p>

近來，技術(shù)奇點的概念又得到了包括雷·庫茲韋爾 (譯者注: Ray Kurzweil ，發(fā)明家、企業(yè)家、學(xué)者、《奇點臨近》等暢銷書作者) 在內(nèi)許多人的推廣。根據(jù)目前的趨勢，庫茲韋爾預(yù)計技術(shù)奇點會發(fā)生在2045年左右。就這篇文章的定義而言，我假設(shè)技術(shù)奇點是一個「當(dāng)我們創(chuàng)造出擁有足夠智慧、能通過重新設(shè)計自己來改進(jìn)智力的機器」的時間點，并且在這個點上我們將見證智力以指數(shù)級增長，并且迅速超越人類。

我將用兩個數(shù)學(xué)論證來為以上觀點辯護(hù)。其中一個論證是：技術(shù)奇點不是數(shù)學(xué)奇點。在函數(shù)1/(1-t)中，數(shù)學(xué)奇點是t=1。該函數(shù)演示了雙曲增長。當(dāng)t接近1，t的導(dǎo)數(shù)趨于正無窮并且無法被定義。然而，許多技術(shù)奇點的擁躉只支持指數(shù)增長的說法。例如，函數(shù)2^t呈指數(shù)增長。這樣的指數(shù)函數(shù)在接近正無窮時更慢，并且有一個可以被定義的有限導(dǎo)數(shù)。其二個論證是：智力的指數(shù)增長完全取決于測量智力的數(shù)值范圍。如果我們以對數(shù)分度向量（logspace）測量智力，指數(shù)增長僅僅是線性的。在這里，我暫時不解釋測量機器或者人類智力的具體定義或方法。我只假設(shè)有一個可以被測量、比較的特質(zhì)叫做智力，并且當(dāng)智力在適當(dāng)、合理的數(shù)值范圍內(nèi)呈指數(shù)增長時，我們將迎來技術(shù)奇點。目前，技術(shù)奇點的可能性已經(jīng)迫使幾名評論家發(fā)出關(guān)于人工智能對人類影響的悲觀預(yù)言。例如，在2014年12月時，史蒂芬霍金對BBC電視臺說：

「人工智能的全面發(fā)展可能意味著人類的終結(jié)……機器將獲得自主權(quán)，并且以前所未有的速度重新設(shè)計自己。被緩慢生物進(jìn)化限制的人類將無法競爭并且最終被取代?！?/p>

其他的知名人物，包括比爾·蓋茨，伊隆·馬斯克和史蒂夫·沃茲尼亞克也隨后發(fā)表了類似的警告。尼克·博斯特羅姆 (譯者注: Nick Bostrom ，牛津大學(xué)人類未來研究院院長、哲學(xué)教授、著名人工智能學(xué)者) 也做出了對技術(shù)奇點的預(yù)言，并且認(rèn)為這個現(xiàn)象將對人類的生存造成威脅。然而這篇文章與以上的觀點相反，我將探討的觀點是：技術(shù)奇點或許永遠(yuǎn)不會臨近。

反對技術(shù)奇點的論點

對技術(shù)奇點的爭論多數(shù)發(fā)生在主流人工智能行業(yè)以外。在某種程度上，這個概念的許多擁躉都不是真正的從業(yè)者。在主流文化中，技術(shù)奇點也和一些例如壽命延長和后人類主義等挑戰(zhàn)現(xiàn)狀的想法關(guān)系密切。這種聯(lián)系干涉我們探討真正重要的基礎(chǔ)問題：人類真的可以開發(fā)出能夠成倍提高自己智力并且遠(yuǎn)遠(yuǎn)超出人類的機器嗎？雖然它看上去并不是一個特別大膽的想法。計算機領(lǐng)域已經(jīng)在指數(shù)增長的同時不斷壯大。摩爾定律 (Moore’s Law) 以合理的精準(zhǔn)預(yù)測告訴我們，晶體管上集成電路的數(shù)量（指每塊芯片的儲存量）將在1975年之后每兩年內(nèi)翻倍。庫梅定律 (Koomey’s Law) 也已預(yù)測，單個能量焦耳所支持的計算次數(shù)將在1950年后的每19個月內(nèi)翻倍。以此類推，為什么不能假設(shè)人工智能也會在某個時間段內(nèi)實現(xiàn)指數(shù)增長呢？

針對技術(shù)奇點實現(xiàn)的可能性，以上的說法是一些有力的論據(jù)。準(zhǔn)確地說，我并不是在預(yù)估人工智能無法擁有超出人類的智能。與許多在人工智能行業(yè)工作的同事一樣，我預(yù)測人類離這個階段還有30到40年的時間。不過與一些人的觀點相反，我認(rèn)為未來將不會出現(xiàn)失控、呈指數(shù)增長的情形。我將在接下來的文章里提供多個關(guān)于不可能有技術(shù)奇點出現(xiàn)的支持論點。

以下的討論不包括所有技術(shù)奇點的反對論點。舉例來說，我們也可以假設(shè)人工智能創(chuàng)造出了自己的人工智能。因此，阿蘭·圖靈 (Alan Turing) 在其影響深遠(yuǎn)的Mind論文（ Turing 1963）中提出了針對人工智能的九種通俗反對意見，例如機器不能擁有意識，或者不具有創(chuàng)造性。在這里，我將集中精力討論人工智能在智力上失控增長的可能性。

論點一：快速思維的狗（Fast Thinking Dog）

其中一個由技術(shù)奇點支持者提出的先鋒觀點是：硅與人類大腦濕件(wetware)相比有重要的速度優(yōu)勢，并且根據(jù)摩爾定律這一優(yōu)勢每隔兩年都會翻倍。不過，速度提高不代表智力增長。在這個問題上，弗諾·文奇認(rèn)為一條快速思維的狗仍然不可能懂得下棋。史蒂芬·平克 (Steven Pinker) 意味深長地表示：

「我們沒有任何理由相信技術(shù)奇點會到來。人可以在自己腦海中想象未來，但不能證明它是否具有實現(xiàn)的可能性。在我的孩童時代，人們想象過的半球形城市，噴氣交通運輸工具，水下城市，一英里高的建筑，核動力汽車，以及很多未來式的幻想在今天從來沒有得以實現(xiàn)。最終，單純的運算處理能力無法像魔法一樣奇跡般地解決所有問題。」

智力不僅是比別人對一個問題思考更快或是更久。當(dāng)然，摩爾定律肯定對人工智能的發(fā)展有幫助。我們現(xiàn)在用更大的數(shù)據(jù)集學(xué)習(xí)。也學(xué)習(xí)地更快。速度更快的計算機肯定會幫助我們開發(fā)更好的人工智能。但是，至少對于人類來說，對智力的評估取決于許多其他的事情，其中包括日經(jīng)月久的經(jīng)驗和訓(xùn)練。不能在機器計算中僅靠增加時鐘頻率（即計算速度）抄近道。

論點二：人類中心主義（Anthropocentric）

在許多對技術(shù)奇點的描述中，人類智力被假設(shè)成為一個需要跨越或顛覆的臨界點。例如，尼克·博斯倫特寫道：

「擁有人類智力水平的人工智能的問世將會迅速帶來通向高于人類水平人工智能的發(fā)展……與此同時，機器與人類在智力上的匹配將是暫時的。此后不久，人類將無法與人工智力競爭?！?/p>

人類智力范圍是從蟑螂到老鼠再到人類的分布廣泛的范圍。事實上，與其說智力是一個點，不如說它是一系列概率的分布。我們并不確定人類將在具體哪一個點上被人工智能失控的智力增長超越：這個點具體是指人類的平均智力？還是人類史上最聰明的人？

科學(xué)史的教訓(xùn)告訴我們，人類遠(yuǎn)沒有自己想象的那么特殊。哥白尼告訴我們，宇宙并不繞地球轉(zhuǎn)。達(dá)爾文告訴我們，我們與猿類沒有本質(zhì)區(qū)別。人工智能可能會告訴我們，人類的智力也并不特別。我們沒有理由因此假定，人類智力是個一旦通過，智力將快速增長的特殊臨界點。當(dāng)然，這并不排除智力轉(zhuǎn)捩點本身存在的可能性。

技術(shù)奇點的支持者提供的說法之一是，我們是唯一能夠通過創(chuàng)造來拓展自己智力的物種，因此人類智力是一個特殊的臨界點。我們是地球上唯一擁有足夠智力設(shè)計新智能的物種，并且這些被設(shè)計出來的新智能不受進(jìn)程緩慢的繁衍與進(jìn)化限制。然而，這一類說法假定人類的智力可以設(shè)計出一個智力足以跨越技術(shù)奇點的人工智能。換句話說，它在我們決定是否有技術(shù)奇點之前，就已經(jīng)下定它確切存在的結(jié)論。人類可能，也同樣可能不會有足夠的智力設(shè)計出這樣的人工智能。我們并不是被注定要創(chuàng)造出這樣的東西。再者說，即使我們有足夠的智力設(shè)計出了能夠超越人類的人工智能，這樣的人工智能也不一定能夠帶來技術(shù)奇點。

論點三：元智力（Meta-Intelligence）

在我看來，反對技術(shù)奇點的其中一個強有力論點是，技術(shù)奇點混淆了完成工作的智力和提高完成工作的能力之間的區(qū)別。在對技術(shù)奇點的概念進(jìn)行詳細(xì)分析后，大衛(wèi)·查莫斯 (譯者注： David Chalmers，澳大利亞裔哲學(xué)家，認(rèn)知科學(xué)家 )寫道：

「如果我們通過機器學(xué)習(xí)創(chuàng)造一個AI，不久之后我們將能夠改善學(xué)習(xí)的算法并且延長學(xué)習(xí)的過程，創(chuàng)造出接下來的AI+?！?/p>

在以上的論述中，AI是人類智力水平的系統(tǒng)，而AI+是比一般人類更聰明的系統(tǒng)。不過，為什么查莫斯認(rèn)為我們可以在不久之后提高學(xué)習(xí)的算法？歷來機器學(xué)習(xí)在算法方面的進(jìn)展既不迅速，也不容易。機器學(xué)習(xí)的確有可能成為未來任何人類智力級別的人工智能系統(tǒng)的重要部分，因為除此之外，利用人工編碼知識和專長是很痛苦的過程。假設(shè)，一個人工智能系統(tǒng)選擇采用機器學(xué)習(xí)來提高自己理解文本，完成數(shù)學(xué)證明的能力。該人工智能的系統(tǒng)沒有理由能夠改善機器學(xué)習(xí)本身自帶的算法。事實上，機器學(xué)習(xí)的算法通常在某一項工作上已經(jīng)達(dá)到極限，不論是工程還是參數(shù)的調(diào)整，都無法提高其性能。

目前，我們看到使用深度學(xué)習(xí)的人工智能令人印象深刻的進(jìn)度。這極大地提高了語音識別，計算機視覺，自然語言處理及許多其他領(lǐng)域的發(fā)展。這些進(jìn)度通常歸功于使用更多數(shù)據(jù)以及更深層次的神經(jīng)網(wǎng)絡(luò)：

Yann LeCun表示: 「在此之前，神經(jīng)網(wǎng)絡(luò)并沒有打破識別連續(xù)語音的記錄；因為它們的大小有限?！?/p>

當(dāng)然，更多的數(shù)據(jù)和更大的神經(jīng)網(wǎng)絡(luò)意味著我們需要更強的機器處理能力。其結(jié)果是，GPU現(xiàn)在經(jīng)常被用來提供處理能力。然而，學(xué)會更好地識別語音或者物品并沒有幫助深度學(xué)習(xí)進(jìn)步。深度學(xué)習(xí)并沒有自我改善。對深度學(xué)習(xí)在算法上的任何改善都要歸功于人類在設(shè)計上的不懈努力。

我們也可以從另一方面用我們所了解到的有關(guān)智能系統(tǒng)的最好例子來例證這一論點?？纯次覀冏约?。我們只使用了我們自己大腦驚人能力中的一小部分，而且我們正努力地想要改變現(xiàn)狀。對我們來說，學(xué)習(xí)如何更好地完成某個特定任務(wù)很簡單，但學(xué)習(xí)如何更高效地學(xué)習(xí)還需要下點功夫。舉例來說，如果我們除去對智商固有的正常定義，我們可以察覺到智商在上個世紀(jì)內(nèi)有增長，但增長速度緩慢 （弗林效應(yīng)「Flynn Effect」）。在今天，提高智商的過程和一個世紀(jì)以前一樣痛苦并且緩慢?；蛟S，電子大腦也很難快速提高自己的性能，并且永遠(yuǎn)無法超越自身的基本功能？

論點四：收益遞減 （Diminishing Return）

技術(shù)奇點通常假設(shè)智力的改進(jìn)是一個相對恒定的乘數(shù)，每一代的分?jǐn)?shù)都比上一代更高。然而到目前為止，大部分人工智能系統(tǒng)的性能一直在經(jīng)歷收益遞減。在不同研究的初期，研究人員通常獲得許多成果，但在這之后則遇到一系列難以改進(jìn)的困難。這個過程解釋了許多早期人工智能的研究人員對行業(yè)發(fā)展過于樂觀的看法。人工智能系統(tǒng)也許可以無限制地完善自己，但對智力的總體改進(jìn)很可能存在上限。舉例來說，如果每一代人工智能比上一代增強半倍，那么系統(tǒng)永遠(yuǎn)不會達(dá)到2倍的整體智力。

收益遞減不僅是由于改進(jìn)人工智能算法的困難度，也是由于計算機科學(xué)快速增長的困難度。微軟的聯(lián)合創(chuàng)始人保羅·艾倫稱這一現(xiàn)象為 「復(fù)雜性剎車」(Complexity Brake)。

「我們把這個問題叫做復(fù)雜性剎車。伴隨人類對自然系統(tǒng)理解的不斷加深，我們通常會發(fā)現(xiàn)，我們需要更多并且更專業(yè)的知識來描述它們，我們不得不用越來越復(fù)雜的方式來持續(xù)擴(kuò)展我們的科學(xué)理論… 我們相信，對自然世界 [認(rèn)知上的] 理解正在被復(fù)雜性剎車放慢。」——Allen和Greaves，2011。

即使人類看到人工智能系統(tǒng)持續(xù)、甚至呈指數(shù)級的改進(jìn)，這些或許都無法提高機器的性能。智力提升所需要解決的問題本身的難度增長速度，甚至比智力提升的速度還要快。很多人表示，現(xiàn)階段理論物理學(xué)的探索似乎也遇到了同樣的復(fù)雜性剎車。

論點五：智慧的極限 （Limits of Intelligence）

宇宙中存在很多基本的限制。其中一些是物理限制。例如，我們無法加速超過光速。我們無法同時知道位置和動量的精確數(shù)值。我們無法知道原子放射性衰變具體發(fā)生的時間。我們創(chuàng)造出來的思維機器也受這些物理定律的限制。當(dāng)然，如果機器在本質(zhì)上是電子或者甚至是量子，這些限制很可能比人類大腦生物和化學(xué)的限制還要大得多。

更多可觀察的經(jīng)驗法則也在復(fù)雜的系統(tǒng)中不斷涌現(xiàn)。例如，鄧巴數(shù)（Dunbar’s Number）是靈長類動物腦容量和社會平均大小之間所觀察到的聯(lián)系數(shù)值。該數(shù)值把人類社會團(tuán)體中關(guān)系穩(wěn)定的人數(shù)限制在100到250人之間。智力是一個復(fù)雜的現(xiàn)象，并且也會有類似的限制出現(xiàn)在這種復(fù)雜度中。機器智力的改善，無論是失控還是緩慢地增長，都可能碰觸到這種限制。當(dāng)然，我們沒有理由假設(shè)人類智力目前已經(jīng)達(dá)到、或者接近這個上限。同樣來說，我們也沒有理由認(rèn)為這個上限遠(yuǎn)遠(yuǎn)超過了人類的智力。

論點六：計算復(fù)雜性（Computational Complexity）

假設(shè)我們堅持使用遵守傳統(tǒng)計算模型的電腦開發(fā)人工智能系統(tǒng)。那么，指數(shù)級增長也無法與計算的復(fù)雜度匹敵。舉例來說，計算機性能上的指數(shù)級增長不足以運行超級指數(shù)算法。而且沒有任何性能上的增長可以解決無法解決的問題。計算的復(fù)雜性也許正是我們前面所討論到的基本限制之一。因此，除非我們使用的機器能夠超越傳統(tǒng)的計算模型，否則我們很可能會碰到類似于計算的復(fù)雜性從根本上限制了計算機性能的問題。當(dāng)然，很多計算的復(fù)雜度問題只是最壞的情況，大部分的人工智能都使用啟發(fā)式學(xué)習(xí)在實踐中解決計算上難以處理的問題。不過，這些啟發(fā)式學(xué)習(xí)在質(zhì)量上有根本的限制。有一些級別的問題即使超人工智能 (super-human intelligence) 也不能很好的解決，哪怕只是大致解決。

結(jié)論

在以上的文章中，我論述了關(guān)于人類也許永遠(yuǎn)無法見證技術(shù)奇點的許多原因。然而，即使沒有技術(shù)奇點，我們也許仍然可以最終擁有展現(xiàn)出超人智力水平的機器。我們可能不得不自己費力編寫這個超能力。如果是這樣的話，人工智能對經(jīng)濟(jì)和社會的影響，要比對技術(shù)奇點持有悲觀或樂觀態(tài)度的人所預(yù)測的結(jié)果平淡得多。然而，我們應(yīng)該就人工智能對社會的影響開始做準(zhǔn)備。就算沒有技術(shù)奇點，人工智能依舊會大面積影響工作的性質(zhì)。舉第二個例子：即使智力有限的人工智能依然可以對戰(zhàn)爭的性質(zhì)產(chǎn)生很大的影響。現(xiàn)在，我們需要開始為這樣的未來做計劃。

參考文獻(xiàn)：

[Allen and Greaves 2011] Allen, P., and Greaves, M. 2011. The singularity isn’t near. MIT Technology Review 7–65.

[Bostrom 2002] Bostrom, N. 2002. When machines outsmart humans. Futures 35(7):759–764.

[Bostrom 2014] Bostrom, N. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford, UK: Oxford Uniiversity Press.

[Chalmers 2010] Chalmers, D. 2010. The singularity: A philosophical analysis. Journal of Consciousness Studies 17(9-10):7–65.

[Edwards 2015] Edwards, C. 2015. Growing pains for deep learning. Commun. ACM 58(7):14–16.

[Good 1965] Good, I. 1965. Speculations concerning the first ultraintelligent machine. Advances in Computers 6:31– 88.

[Kurzweil 2006] Kurzweil, R. 2006. The Singularity Is Near: When Humans Transcend Biology. Penguin (NonClassics).

[Pinker 2008] Pinker, S. 2008. Tech luminaries address singularity. IEEE Spectrum.

[Turing 1963] Turing, A. 1963. Computing machinery and intelligence. In Computers and Thought. McGraw-Hill Book Company.

[Ulam 1958] Ulam, S. 1958. Tribute to John von Neumann. Bulletin of the American Mathematical Society 64(3).

[Vinge 1993] Vinge, V. 1993. The coming technological singularity: How to survive in the post-human era. In Rheingold, H., ed., Whole Earth Review.