十多年前看《未來戰(zhàn)士》第一集，迷住我的不是科幻，而是玄乎于故事的主線。為什么機械頭領派來終結者回到過去終結未來人類頭領母親的性命，結果使得同樣從未來人類頭領派來保護他母親的人類戰(zhàn)士和他母親生下了他自己。隨后，漸漸的明白這是在倫理上可以理解的：因為對未來所謂的預見性，有可能讓你此后的行為本身造就了你預見的未來。當我懂得生活和工作的一些處境后我更明白了這種道理，比如戀愛中的人，怕失去對方而千方百計的以為可以永遠擁有對方的適得其反；比如電視劇《中國式離婚》里的情節(jié)，因為她唯恐他出軌，結果做出了傷害了與他交往的人，影響他的事，最后這些才導致了離婚。 我很怕《未來戰(zhàn)士》帶來的這種感覺，有時候這種道理帶來的處境是：要么赴死，要么等死。 第二集我也這么看，想了想，第二集還是有積極的意義的，仿佛即使注定悲哀里一定也有注定伴隨的希望，當終結者終結了自己的時候，仿佛告訴我即使套上宿命的符咒，通過努力還是可以阻止什么的。但當第三集看后，我想從此又顛覆了第二集所說的希望，因為人和機器人的戰(zhàn)爭還是不可避免：宿命就是規(guī)定好了的旅程，不接受但永遠不可逃避。 我不知道以后會怎么看第四集，它會不會說起宿命的過程中，并不會失去關于犧牲了的希望存在的意義，就像我仿佛宿命的在等待觀影一樣，用《未來戰(zhàn)士》的故事，伴隨在影響我的生活中，以及愛這部電影的原因里。

其實到現在這個年紀，看電影的時候真的并不太關心打打殺殺了。其實終結者系列都很不錯，但是再也沒有一部有第一部那樣的感覺了。風暴來臨，但是仍然充滿了希望，還有卡神一定要加的那幕床戲，可謂是點睛之筆。 不過重點是配樂！片頭2分24秒處，純音樂[Theme from 'The Terminator']，拖長的號聲，配有金屬撞擊聲，深沉而且很快就帶入了氣氛。此后這首曲子在片中又出現了4次。 一、80分40秒起，配合Kyle Reese的告白傾訴，是輕且慢的鋼琴聲，如同低聲啜泣；然后是稍快一拍的清晰有力的鋼琴聲，Sarah和Kyle的親吻；82分28秒再次加快節(jié)奏(此處就是床戲)。 二、90分40秒起，Sarah與Kyle在火中擁抱，悲壯的號聲。 三、99分54秒起，Sarah被抬上救護車，Kyle被裝進裹尸袋。這段很短，救護車門一關就結束了。 四、這是最重點的一段！101分30秒起，Sarah錄音對Kyle的懷念告白。極其緩慢，輕到幾乎斷斷續(xù)續(xù)的鋼琴聲；然后Sarah拿到照片，，也是鋼琴聲；最后開車向風暴駛去，配合雷聲和機械聲的管樂，為故事激昂地落下了帷幕。 這首曲子的運用可謂經典！ 然而，卡神加的床戲實在太美了。我?guī)状慰炊肌蓚€情到深處又惺惺相惜的人，在前不知是否有退路，后有致命的追兵的時候，爆發(fā)出的這一場拋開生死的結合，正是他們所需要的最強大的信念的支持。如果有一天你突然要背負起拯救世界的重任，而你只是一個普通的女孩子，難道不需要一個互相都很在乎的人來給你不能倒下的理由嗎？ Sarah

這篇影評非寫不可，因為它很有可能讓我從此愛上科幻片。事實上，寫這篇影評前我已經有很久沒寫過影評了，上一篇應該是金基德的?圣殤?,我在高二理科課上偷偷記在本子上的。用豆瓣后，也懶得把那些陳年文字打出來。 科幻片我也不是沒看過，像什么?盜夢空間?,?星際穿越?,?人工智能?等等。但是像?終結者?這樣像恐怖片一樣把我嚇個半死又像悲情片一樣害我哭到吸鼻涕還是頭一回遇到。 這部電影就是震撼本身，卡梅隆用有限成本發(fā)揮出了最大程度。無論是那個燒也不死炸也不死的紅眼骨架子機器人還是影片里這段只有一天一夜卻驚世駭俗的愛情。 最后那個紅眼骨架子真的足夠給人揮之不去的心理陰影，我看過?招魂?，?閃靈?，在我心里沒有一個的驚悚形象能超過它，主要因為 ，，他怎么就是死不透呢？ ! 電影結局部分就是高潮了-----紅眼骨架子是在這里燒成骨架子嚇死人的，英俊勇猛堅韌癡情（等等）的男主角也是在這里和它同歸于盡了。 我可是為他哭得好慘，有很久很多部電影以來我都沒怎么哭出來過了。看到評論區(qū)很多人說凱爾是男二其實我認為不對的。他是絕對男主角。雖然片名是叫終結者，但終結者畢竟只是臺恐怖的怪物。 這部電影如果沒有凱爾和沙拉這條愛情線，會平庸很多的。 這部電影告訴我們還有種情侶叫凱爾和莎拉-----凱爾生活在四十年后的世界，他收藏著沙拉的照片，每天看著，這女人是他這輩子唯一愛過的女人。 莎拉是未來世界人類領導者約翰的母親。機器人要滅絕人類，卻始終過不了約翰一關，就打算要從根做起-----干脆在受孕前殺了他媽。狡猾 ! 凱爾自告奮勇回去四十年前保護莎拉，欲幫她逃脫最強機器人"終結者"的殺害。雖然這一趟的代價是無法再回去，結局也是難以預料的。 凱爾舍命一搏，只因他傾慕救世主那傳奇性的母親。他恐怕也想不到，自己會是救世主的父親。哪怕他們的愛情只有短短的一天一夜，但是卻像莎拉在影片最后說的一樣-----we loved a lifetime. 凱爾與機器人同歸于盡，莎拉活下來，懷著他的孩子約翰，要孤軍奮戰(zhàn)。 我當然就是看到了這里哭了出來的。 對于"凱爾是四十年后的人，與約翰是同齡，朋友，卻最終穿越到四十年前，與約翰他媽有了約翰"這樣的邏輯，絲毫沒有觀眾覺得過別扭，反而倒是很讓我印象深刻。這對情侶從認識到分別只有一天一夜，感情卻深沉而真摯。也許是因為他們面對公共敵人，面對死亡的那份堅韌十分打動人。 看?終結者?之前，我看完了王家衛(wèi)的?花樣年華?。?花樣年華?是以真實時代真實世界為背景的，卻缺乏?終結者?的撼動力?？赐暌院笃狡降]有什么情緒。而?終結者?架構虛幻，卻十分打動人。 電影雖說要以真情實感為價值，但十分的真實似乎也就只能像真的生活那樣，水一樣流過，不著痕跡了。 當然了，王家衛(wèi)拍的電影，取勝也的確從不是靠深入人心的劇情，而是靠高深的藝術手法。難免要曲高和寡。 像?終結者?這樣的愛情，感情強烈，穿透生死，跨越時代，即使背景虛幻，卻還是更能感染人心，更能讓平民百姓買賬吧？ 這部電影是1984年拍的，當時美國正處于信息技術改革時代，由于對信息化的反思與展望，美國電影人在這期間拍下許多類似于這部的有關人工智能的科幻電影。美國從未恐懼暴露其信息發(fā)展弊端，面對問題，沒人避諱，是可以公眾討論的。 而當時的中國正忙著改革開放，信息化還未開始，要求能拍出這樣的電影是過分了的。 那么中國電影人是不是就沒有做出過展望與反思呢？-----有的。田壯壯的?藍風箏?，婁燁的?頤和園?,陳沖的?天浴?等等優(yōu)秀影片都對中國的歷史，政治進行了反思與提問。但是很遺憾，由于我國不愛面對問題，這些優(yōu)秀電影甚至導演都被禁了。中國電影政治篩選力度太大。這也很大程度是中國大陸電影進步緩慢的原因。 對于中國何時才能出現如此優(yōu)秀的科幻片，我們可能還得展望一大段日子...... ?終結者?著實令我大開眼界。科幻片也能這樣拍。 Ps:影片中不乏對于美國警方的嘲諷

本文轉自機器之心，原文選自arxiv，

作者：Toby Walsh University of New South Wales and Data61 （formerly NICTA），

編譯：李九喻、孟婷、柒柒。

已經發(fā)明的技術和展望中的技術：

公元前1,500,000年 最早的石器 (環(huán)境限制的突破)

公元前300,000年 火 (環(huán)境限制的突破)

公元前70,000年 繪畫 (環(huán)境限制的突破)

公元前45,000年 貿易系統(tǒng) (環(huán)境限制的突破)

公元前40,000年 木船 (環(huán)境限制的突破)

公元前5000年 車輪 (環(huán)境限制的突破)

公元前3000年 楔形文字 (文化限制的突破)

公元前500年 指南針 (環(huán)境限制的突破)

公元前100年 造紙術 (文化限制的突破)

公元800年 火藥 (環(huán)境限制的突破)

公元1100年 活字印刷 (文化限制的突破)

公元1400年 遠洋帆船 (環(huán)境限制的突破)

公元1609年 望遠鏡 (環(huán)境限制的突破)

公元1644年 顯微鏡 (環(huán)境限制的突破)

公元1770年 蒸汽機 (環(huán)境限制的突破)

公元1826年 照相技術 (環(huán)境限制的突破)

公元1876年 電話 (環(huán)境限制的突破)

公元1880年 燈泡 (環(huán)境限制的突破)

公元1903年 飛機 (環(huán)境限制的突破)

公元1945年 原子彈，計算機 (環(huán)境限制的突破)

公元1950年代 性別激素/變性技術 (生物限制的突破)

公元1957年 人造衛(wèi)星 (環(huán)境限制的突破)

公元1969年 最早的計算機網絡 (環(huán)境限制的突破)

公元1980年 試管嬰兒 (生物限制的突破)

公元1996年 生物復制技術 (生物限制的突破)

公元2007年 DNA端粒延長(壽命延長技術) (生物限制的突破)

----------------------------------------

（猜想）

公元2029年 超越人類智能的機器

公元2045年 納米技術的普及 (生物在化學物質基礎限制的突破)

公元2070年 仿生物技術的大規(guī)模普及 (生物在化學物質基礎限制的突破)

公元2080年 意識上傳 (意識突破肉體限制)

狹義技術奇點 (生物在化學物質基礎限制的突破)

21世紀以后 突破物理定理的限制 (突破引力，光速) (物理限制的突破)

21世紀以后 能量表達方式突破3維空間的限制 (數學限制的突破)

21世紀以后 突破時間的限制，觀察到過去，現在，和未來，在未來的那個時刻創(chuàng)造我們現在生活的世界 廣義技術奇點 (因果邏輯限制的突破)

如今，對人 (AI) 感到悲觀或樂觀的都大有人在。樂觀者正在向人工智能領域投資數百萬美元甚至數十億美元，而悲觀者則預測人工智能將終結很多事：工作，戰(zhàn)爭，甚至人類。無論是樂觀主義者還是悲觀主義者都被所謂技術奇點 (technological ingularity) 的概念吸引。技術奇點是一個機器智能失控的時間點，在它之后一個全新的、更加智慧的「物種」將開始居住在地球上。如果樂觀主義者是正確的，那么這將是一個從根本上改變人經濟和社會的時刻。如果悲觀主義者是正確的，那么這將同樣是一個從根本上改變人類經濟和社會的時刻。因此，我們有必要花些時間決定這些看法是否正確。

奇點的歷史

技術奇點的概念可以追溯到幾個不同的思想家。在約翰·馮·諾伊曼 (譯者注: John von Neumann， 20世紀最重要的數學家之一，在現代計算機、博弈論等領域均有建樹) 1957年去世時，斯塔尼斯拉夫·烏拉姆 (譯者注: Stanislaw Ulam - 波蘭數學家) 寫道：

「我與約翰·馮·諾伊曼討論過在技術不斷加速發(fā)展、人類生活模式的改變下，我們看上去正在接近物種史上某個重要的奇點，在它之后已知的生活將無法延續(xù)?！?在1965年，I.J. 古德 (譯者注: I.J. Good，英裔數學家、密碼學家) 對這個現象提出了更具體的預測，他用「智能爆炸」(Intelligence Explosion) 取代了「奇點」 (Singularity) 的概念：「讓我們把超智能機器定義成為一臺能夠遠遠超過任何人類智力活動的機器。 因為設計機器本身也算是智力活動，所以超智能機器可以設計出更好的機器；毫無疑問，這將會帶來智力的爆炸式增長，而人類的智力將遠遠落后。以此類推，超智能機器將會是人類最后一個發(fā)明。」 許多人把 「技術奇點」歸功于計算機科學家?？苹眯≌f家弗諾·文奇 (Vernor Vinge) 更是預言：「在三十年內，我們將創(chuàng)造出實現超人智慧的技術。不久后，人類的時代將結束。」

近來，技術奇點的概念又得到了包括雷·庫茲韋爾 (譯者注: Ray Kurzweil ，發(fā)明家、企業(yè)家、學者、《奇點臨近》等暢銷書作者) 在內許多人的推廣。根據目前的趨勢，庫茲韋爾預計技術奇點會發(fā)生在2045年左右。就這篇文章的定義而言，我假設技術奇點是一個「當我們創(chuàng)造出擁有足夠智慧、能通過重新設計自己來改進智力的機器」的時間點，并且在這個點上我們將見證智力以指數級增長，并且迅速超越人類。

我將用兩個數學論證來為以上觀點辯護。其中一個論證是：技術奇點不是數學奇點。在函數1/(1-t)中，數學奇點是t=1。該函數演示了雙曲增長。當t接近1，t的導數趨于正無窮并且無法被定義。然而，許多技術奇點的擁躉只支持指數增長的說法。例如，函數2^t呈指數增長。這樣的指數函數在接近正無窮時更慢，并且有一個可以被定義的有限導數。其二個論證是：智力的指數增長完全取決于測量智力的數值范圍。如果我們以對數分度向量（logspace）測量智力，指數增長僅僅是線性的。在這里，我暫時不解釋測量機器或者人類智力的具體定義或方法。我只假設有一個可以被測量、比較的特質叫做智力，并且當智力在適當、合理的數值范圍內呈指數增長時，我們將迎來技術奇點。目前，技術奇點的可能性已經迫使幾名評論家發(fā)出關于人工智能對人類影響的悲觀預言。例如，在2014年12月時，史蒂芬霍金對BBC電視臺說：

「人工智能的全面發(fā)展可能意味著人類的終結……機器將獲得自主權，并且以前所未有的速度重新設計自己。被緩慢生物進化限制的人類將無法競爭并且最終被取代?！?/p>

其他的知名人物，包括比爾·蓋茨，伊隆·馬斯克和史蒂夫·沃茲尼亞克也隨后發(fā)表了類似的警告。尼克·博斯特羅姆 (譯者注: Nick Bostrom ，牛津大學人類未來研究院院長、哲學教授、著名人工智能學者) 也做出了對技術奇點的預言，并且認為這個現象將對人類的生存造成威脅。然而這篇文章與以上的觀點相反，我將探討的觀點是：技術奇點或許永遠不會臨近。

反對技術奇點的論點

對技術奇點的爭論多數發(fā)生在主流人工智能行業(yè)以外。在某種程度上，這個概念的許多擁躉都不是真正的從業(yè)者。在主流文化中，技術奇點也和一些例如壽命延長和后人類主義等挑戰(zhàn)現狀的想法關系密切。這種聯(lián)系干涉我們探討真正重要的基礎問題：人類真的可以開發(fā)出能夠成倍提高自己智力并且遠遠超出人類的機器嗎？雖然它看上去并不是一個特別大膽的想法。計算機領域已經在指數增長的同時不斷壯大。摩爾定律 (Moore’s Law) 以合理的精準預測告訴我們，晶體管上集成電路的數量（指每塊芯片的儲存量）將在1975年之后每兩年內翻倍。庫梅定律 (Koomey’s Law) 也已預測，單個能量焦耳所支持的計算次數將在1950年后的每19個月內翻倍。以此類推，為什么不能假設人工智能也會在某個時間段內實現指數增長呢？

針對技術奇點實現的可能性，以上的說法是一些有力的論據。準確地說，我并不是在預估人工智能無法擁有超出人類的智能。與許多在人工智能行業(yè)工作的同事一樣，我預測人類離這個階段還有30到40年的時間。不過與一些人的觀點相反，我認為未來將不會出現失控、呈指數增長的情形。我將在接下來的文章里提供多個關于不可能有技術奇點出現的支持論點。

以下的討論不包括所有技術奇點的反對論點。舉例來說，我們也可以假設人工智能創(chuàng)造出了自己的人工智能。因此，阿蘭·圖靈 (Alan Turing) 在其影響深遠的Mind論文（ Turing 1963）中提出了針對人工智能的九種通俗反對意見，例如機器不能擁有意識，或者不具有創(chuàng)造性。在這里，我將集中精力討論人工智能在智力上失控增長的可能性。

論點一：快速思維的狗（Fast Thinking Dog）

其中一個由技術奇點支持者提出的先鋒觀點是：硅與人類大腦濕件(wetware)相比有重要的速度優(yōu)勢，并且根據摩爾定律這一優(yōu)勢每隔兩年都會翻倍。不過，速度提高不代表智力增長。在這個問題上，弗諾·文奇認為一條快速思維的狗仍然不可能懂得下棋。史蒂芬·平克 (Steven Pinker) 意味深長地表示：

「我們沒有任何理由相信技術奇點會到來。人可以在自己腦海中想象未來，但不能證明它是否具有實現的可能性。在我的孩童時代，人們想象過的半球形城市，噴氣交通運輸工具，水下城市，一英里高的建筑，核動力汽車，以及很多未來式的幻想在今天從來沒有得以實現。最終，單純的運算處理能力無法像魔法一樣奇跡般地解決所有問題。」

智力不僅是比別人對一個問題思考更快或是更久。當然，摩爾定律肯定對人工智能的發(fā)展有幫助。我們現在用更大的數據集學習。也學習地更快。速度更快的計算機肯定會幫助我們開發(fā)更好的人工智能。但是，至少對于人類來說，對智力的評估取決于許多其他的事情，其中包括日經月久的經驗和訓練。不能在機器計算中僅靠增加時鐘頻率（即計算速度）抄近道。

論點二：人類中心主義（Anthropocentric）

在許多對技術奇點的描述中，人類智力被假設成為一個需要跨越或顛覆的臨界點。例如，尼克·博斯倫特寫道：

「擁有人類智力水平的人工智能的問世將會迅速帶來通向高于人類水平人工智能的發(fā)展……與此同時，機器與人類在智力上的匹配將是暫時的。此后不久，人類將無法與人工智力競爭?！?/p>

人類智力范圍是從蟑螂到老鼠再到人類的分布廣泛的范圍。事實上，與其說智力是一個點，不如說它是一系列概率的分布。我們并不確定人類將在具體哪一個點上被人工智能失控的智力增長超越：這個點具體是指人類的平均智力？還是人類史上最聰明的人？

科學史的教訓告訴我們，人類遠沒有自己想象的那么特殊。哥白尼告訴我們，宇宙并不繞地球轉。達爾文告訴我們，我們與猿類沒有本質區(qū)別。人工智能可能會告訴我們，人類的智力也并不特別。我們沒有理由因此假定，人類智力是個一旦通過，智力將快速增長的特殊臨界點。當然，這并不排除智力轉捩點本身存在的可能性。

技術奇點的支持者提供的說法之一是，我們是唯一能夠通過創(chuàng)造來拓展自己智力的物種，因此人類智力是一個特殊的臨界點。我們是地球上唯一擁有足夠智力設計新智能的物種，并且這些被設計出來的新智能不受進程緩慢的繁衍與進化限制。然而，這一類說法假定人類的智力可以設計出一個智力足以跨越技術奇點的人工智能。換句話說，它在我們決定是否有技術奇點之前，就已經下定它確切存在的結論。人類可能，也同樣可能不會有足夠的智力設計出這樣的人工智能。我們并不是被注定要創(chuàng)造出這樣的東西。再者說，即使我們有足夠的智力設計出了能夠超越人類的人工智能，這樣的人工智能也不一定能夠帶來技術奇點。

論點三：元智力（Meta-Intelligence）

在我看來，反對技術奇點的其中一個強有力論點是，技術奇點混淆了完成工作的智力和提高完成工作的能力之間的區(qū)別。在對技術奇點的概念進行詳細分析后，大衛(wèi)·查莫斯 (譯者注： David Chalmers，澳大利亞裔哲學家，認知科學家 )寫道：

「如果我們通過機器學習創(chuàng)造一個AI，不久之后我們將能夠改善學習的算法并且延長學習的過程，創(chuàng)造出接下來的AI+。」

在以上的論述中，AI是人類智力水平的系統(tǒng)，而AI+是比一般人類更聰明的系統(tǒng)。不過，為什么查莫斯認為我們可以在不久之后提高學習的算法？歷來機器學習在算法方面的進展既不迅速，也不容易。機器學習的確有可能成為未來任何人類智力級別的人工智能系統(tǒng)的重要部分，因為除此之外，利用人工編碼知識和專長是很痛苦的過程。假設，一個人工智能系統(tǒng)選擇采用機器學習來提高自己理解文本，完成數學證明的能力。該人工智能的系統(tǒng)沒有理由能夠改善機器學習本身自帶的算法。事實上，機器學習的算法通常在某一項工作上已經達到極限，不論是工程還是參數的調整，都無法提高其性能。

目前，我們看到使用深度學習的人工智能令人印象深刻的進度。這極大地提高了語音識別，計算機視覺，自然語言處理及許多其他領域的發(fā)展。這些進度通常歸功于使用更多數據以及更深層次的神經網絡：

Yann LeCun表示: 「在此之前，神經網絡并沒有打破識別連續(xù)語音的記錄；因為它們的大小有限?！?/p>

當然，更多的數據和更大的神經網絡意味著我們需要更強的機器處理能力。其結果是，GPU現在經常被用來提供處理能力。然而，學會更好地識別語音或者物品并沒有幫助深度學習進步。深度學習并沒有自我改善。對深度學習在算法上的任何改善都要歸功于人類在設計上的不懈努力。

我們也可以從另一方面用我們所了解到的有關智能系統(tǒng)的最好例子來例證這一論點?？纯次覀冏约?。我們只使用了我們自己大腦驚人能力中的一小部分，而且我們正努力地想要改變現狀。對我們來說，學習如何更好地完成某個特定任務很簡單，但學習如何更高效地學習還需要下點功夫。舉例來說，如果我們除去對智商固有的正常定義，我們可以察覺到智商在上個世紀內有增長，但增長速度緩慢 （弗林效應「Flynn Effect」）。在今天，提高智商的過程和一個世紀以前一樣痛苦并且緩慢。或許，電子大腦也很難快速提高自己的性能，并且永遠無法超越自身的基本功能？

論點四：收益遞減 （Diminishing Return）

技術奇點通常假設智力的改進是一個相對恒定的乘數，每一代的分數都比上一代更高。然而到目前為止，大部分人工智能系統(tǒng)的性能一直在經歷收益遞減。在不同研究的初期，研究人員通常獲得許多成果，但在這之后則遇到一系列難以改進的困難。這個過程解釋了許多早期人工智能的研究人員對行業(yè)發(fā)展過于樂觀的看法。人工智能系統(tǒng)也許可以無限制地完善自己，但對智力的總體改進很可能存在上限。舉例來說，如果每一代人工智能比上一代增強半倍，那么系統(tǒng)永遠不會達到2倍的整體智力。

收益遞減不僅是由于改進人工智能算法的困難度，也是由于計算機科學快速增長的困難度。微軟的聯(lián)合創(chuàng)始人保羅·艾倫稱這一現象為 「復雜性剎車」(Complexity Brake)。

「我們把這個問題叫做復雜性剎車。伴隨人類對自然系統(tǒng)理解的不斷加深，我們通常會發(fā)現，我們需要更多并且更專業(yè)的知識來描述它們，我們不得不用越來越復雜的方式來持續(xù)擴展我們的科學理論… 我們相信，對自然世界 [認知上的] 理解正在被復雜性剎車放慢。」——Allen和Greaves，2011。

即使人類看到人工智能系統(tǒng)持續(xù)、甚至呈指數級的改進，這些或許都無法提高機器的性能。智力提升所需要解決的問題本身的難度增長速度，甚至比智力提升的速度還要快。很多人表示，現階段理論物理學的探索似乎也遇到了同樣的復雜性剎車。

論點五：智慧的極限 （Limits of Intelligence）

宇宙中存在很多基本的限制。其中一些是物理限制。例如，我們無法加速超過光速。我們無法同時知道位置和動量的精確數值。我們無法知道原子放射性衰變具體發(fā)生的時間。我們創(chuàng)造出來的思維機器也受這些物理定律的限制。當然，如果機器在本質上是電子或者甚至是量子，這些限制很可能比人類大腦生物和化學的限制還要大得多。

更多可觀察的經驗法則也在復雜的系統(tǒng)中不斷涌現。例如，鄧巴數（Dunbar’s Number）是靈長類動物腦容量和社會平均大小之間所觀察到的聯(lián)系數值。該數值把人類社會團體中關系穩(wěn)定的人數限制在100到250人之間。智力是一個復雜的現象，并且也會有類似的限制出現在這種復雜度中。機器智力的改善，無論是失控還是緩慢地增長，都可能碰觸到這種限制。當然，我們沒有理由假設人類智力目前已經達到、或者接近這個上限。同樣來說，我們也沒有理由認為這個上限遠遠超過了人類的智力。

論點六：計算復雜性（Computational Complexity）

假設我們堅持使用遵守傳統(tǒng)計算模型的電腦開發(fā)人工智能系統(tǒng)。那么，指數級增長也無法與計算的復雜度匹敵。舉例來說，計算機性能上的指數級增長不足以運行超級指數算法。而且沒有任何性能上的增長可以解決無法解決的問題。計算的復雜性也許正是我們前面所討論到的基本限制之一。因此，除非我們使用的機器能夠超越傳統(tǒng)的計算模型，否則我們很可能會碰到類似于計算的復雜性從根本上限制了計算機性能的問題。當然，很多計算的復雜度問題只是最壞的情況，大部分的人工智能都使用啟發(fā)式學習在實踐中解決計算上難以處理的問題。不過，這些啟發(fā)式學習在質量上有根本的限制。有一些級別的問題即使超人工智能 (super-human intelligence) 也不能很好的解決，哪怕只是大致解決。

結論

在以上的文章中，我論述了關于人類也許永遠無法見證技術奇點的許多原因。然而，即使沒有技術奇點，我們也許仍然可以最終擁有展現出超人智力水平的機器。我們可能不得不自己費力編寫這個超能力。如果是這樣的話，人工智能對經濟和社會的影響，要比對技術奇點持有悲觀或樂觀態(tài)度的人所預測的結果平淡得多。然而，我們應該就人工智能對社會的影響開始做準備。就算沒有技術奇點，人工智能依舊會大面積影響工作的性質。舉第二個例子：即使智力有限的人工智能依然可以對戰(zhàn)爭的性質產生很大的影響?，F在，我們需要開始為這樣的未來做計劃。

參考文獻：

[Allen and Greaves 2011] Allen, P., and Greaves, M. 2011. The singularity isn’t near. MIT Technology Review 7–65.

[Bostrom 2002] Bostrom, N. 2002. When machines outsmart humans. Futures 35(7):759–764.

[Bostrom 2014] Bostrom, N. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford, UK: Oxford Uniiversity Press.

[Chalmers 2010] Chalmers, D. 2010. The singularity: A philosophical analysis. Journal of Consciousness Studies 17(9-10):7–65.

[Edwards 2015] Edwards, C. 2015. Growing pains for deep learning. Commun. ACM 58(7):14–16.

[Good 1965] Good, I. 1965. Speculations concerning the first ultraintelligent machine. Advances in Computers 6:31– 88.

[Kurzweil 2006] Kurzweil, R. 2006. The Singularity Is Near: When Humans Transcend Biology. Penguin (NonClassics).

[Pinker 2008] Pinker, S. 2008. Tech luminaries address singularity. IEEE Spectrum.

[Turing 1963] Turing, A. 1963. Computing machinery and intelligence. In Computers and Thought. McGraw-Hill Book Company.

[Ulam 1958] Ulam, S. 1958. Tribute to John von Neumann. Bulletin of the American Mathematical Society 64(3).

[Vinge 1993] Vinge, V. 1993. The coming technological singularity: How to survive in the post-human era. In Rheingold, H., ed., Whole Earth Review.