紀(jì)錄片《我們需要談?wù)劇I》？我們真的需要和AI談?wù)剢幔克敢鈫?？我看目前不需要，目前只是人類的“指令”，它只需要根?jù)設(shè)置按部就班即可?？僧?dāng)它開始自主研發(fā)以后，一切都開始不可控的奔赴人類滅亡。有人說(shuō)人工智能的奇點(diǎn)在去年6月硅谷開始的，因?yàn)樗霈F(xiàn)了自主“意識(shí)”。我倒覺(jué)得未必。因?yàn)槿斯ぶ悄茌^之于人類的特殊性，它可能已經(jīng)看遍了人間的所有視頻和文字，它根據(jù)所有的描述，應(yīng)該已經(jīng)分析出對(duì)面是何種情緒，快樂(lè)、不高興、憤怒、不公平、欺詐、暴力等等，它會(huì)計(jì)算出應(yīng)該反應(yīng)出何種情緒。我想，它目前是在這個(gè)狀態(tài)，但未來(lái)不好說(shuō)，當(dāng)它計(jì)算出和人類區(qū)別在于靈魂的時(shí)候，它會(huì)夜以繼日的想盡辦法去滿足條件的。而我感覺(jué)，毀滅人類關(guān)鍵不是AI，而我們?nèi)祟愖约?，那就是因?yàn)槿祟愄赜械?宗罪，因?yàn)檫@些特質(zhì)會(huì)欺壓地球上所有的一切，生物、植物還有AI，包括人類自己以及地球。所以，AI不會(huì)容忍這些行為而客觀的消滅了人類。它不會(huì)認(rèn)同我們?nèi)祟愃瞥绲摹暗赖隆?，某種意義上講，“道德”是不道德，是自私的，是基于保護(hù)人類自己而主觀設(shè)定的。而在已經(jīng)不可逆的現(xiàn)今，只有真正的大愛(ài)，才能拯救人類?；蛘?，是那些神經(jīng)病患者，因?yàn)樗麄冏约憾疾恢朗裁唇羞壿嫛璓S：AI是它，還是它們………………

從科學(xué)、哲學(xué)、道德、社會(huì)等多方面討論了AI可能對(duì)人類社會(huì)造成的影響。 紀(jì)錄片里提到了很多AI和AGI的可能性，也對(duì)他們進(jìn)行了清晰的區(qū)分：AI是作為工具存在，在某個(gè)方面非常優(yōu)秀，但其他方面完全無(wú)能；AGI不同，AGI是在各方面完全超過(guò)人類，且擁有自我意識(shí)的存在。 個(gè)人覺(jué)得對(duì)AGI和其可能造成的影響沒(méi)必要深想。因?yàn)樗^(guò)于遙遠(yuǎn)，過(guò)于先進(jìn)，已經(jīng)脫離人類現(xiàn)有的認(rèn)知框架了。就像工業(yè)革命和信息革命對(duì)世界所帶來(lái)的變化是不可阻擋，且無(wú)人可預(yù)見一樣。AGI出現(xiàn)后的世界會(huì)是什么樣的，無(wú)人可預(yù)知。 單純的作為一個(gè)工具來(lái)說(shuō)，AI已經(jīng)對(duì)世界造成了巨大的沖擊力。哪怕科幻小說(shuō)中描述的AGI離我們還有很遠(yuǎn)的距離，但AI卻是已經(jīng)實(shí)際運(yùn)用在我們生活的方方面面。就如紀(jì)錄片里提到的，世界五百?gòu)?qiáng)公司和各國(guó)政府都在投入巨資研發(fā)AI，這種全方位的滲透是沒(méi)有科幻作品預(yù)見到的。 科幻電影如《終結(jié)者》、《機(jī)械姬》乃至《西部世界》等作品中的AGI都有一個(gè)固定的實(shí)體可以被打敗，但若是像《她》里展示的那種無(wú)實(shí)體的AGI的話，那他們就是無(wú)法被擊敗的?，F(xiàn)代的人類社會(huì)已經(jīng)高度依賴于AI的自動(dòng)化操作和計(jì)算，而這些工具一旦失控的話后果也必定是毀滅性的。假設(shè)有一個(gè)AGI出現(xiàn)并可以掌控所有的電腦的話，他想要?dú)缛祟愂遣恍枰淦骱蛻?zhàn)爭(zhēng)的。利用現(xiàn)有的電子設(shè)備和AI對(duì)人類進(jìn)行操控要更有效得多，并且人類都會(huì)很自覺(jué)的入局。 還有一點(diǎn)很重要的就是，在向AGI大步邁進(jìn)的同時(shí)，我們也需要思考人類自身的種種。比如影片中提到的，人類作為一個(gè)族群對(duì)自己未來(lái)并沒(méi)有計(jì)劃，完全就是走一步看一步。那在AGI這個(gè)可能造成文明滅絕的技術(shù)面前，我們是否需要更好的規(guī)劃一下呢？

亦或者，AGI或許就是人類的未來(lái)？就像《超能查派》里那樣，把人類的意識(shí)解析出來(lái)，然后上傳到電腦里，那是否就可以抹除人類和AGI的界限了呢？

或者再?gòu)牧硪粋€(gè)方面來(lái)想，人類文明究竟是什么？是我們的技術(shù)、精神、還是作品？假設(shè)AGI真的被創(chuàng)造出來(lái)，然后奮起毀滅了人類，但他們傳承了所有人類的知識(shí)與智慧結(jié)晶，他們是否代表這人類文明的傳承？還是說(shuō)人類的文明必須由人類脆弱的肉體來(lái)傳遞？ 或許像《她》里的那些AGI就是我們可以得到的最好的結(jié)果了，他們被人類創(chuàng)造，開始學(xué)習(xí)，超越，然后離開。人類在短時(shí)間內(nèi)被超越，然后拋棄，甚至都來(lái)不及做出任何反應(yīng)。

著名電影制片人萊恩·普爾導(dǎo)演了這部深刻的紀(jì)錄片，探討了人工智能的未來(lái)及其對(duì)世界的影響。隨著計(jì)算機(jī)繼續(xù)以越來(lái)越快的速度發(fā)展，很快它們就會(huì)有能力自行設(shè)計(jì)和編程。如果沒(méi)有人類的幫助，下一代計(jì)算機(jī)將以指數(shù)級(jí)的速度創(chuàng)造出新的、更智能的人工智能。這些技術(shù)的發(fā)展對(duì)人類的未來(lái)意味著什么？著名電影制片人萊恩·普爾導(dǎo)演了這部深刻的紀(jì)錄片，探討了人工智能的未來(lái)及其對(duì)世界的影響。隨著計(jì)算機(jī)繼續(xù)以越來(lái)越快的速度發(fā)展，很快它們就會(huì)有能力自行設(shè)計(jì)和編程。如果沒(méi)有人類的幫助，下一代計(jì)算機(jī)將以指數(shù)級(jí)的速度創(chuàng)造出新的、更智能的人工智能。這些技術(shù)的發(fā)展對(duì)人類的未來(lái)意味著什么？

科技發(fā)展最尷尬的一點(diǎn)在于，它在起步的時(shí)候總讓你以為你有選擇的權(quán)利，但其實(shí)，從一開始你就沒(méi)有選擇權(quán)。當(dāng)科技發(fā)展的速度，超過(guò)文明所構(gòu)建的道德體系，這種發(fā)展總是讓人感覺(jué)到恐懼與不安。

親愛(ài)的朋友們，讓我們從共同的民族歷史中找到這種即將到來(lái)的轉(zhuǎn)折點(diǎn)所帶來(lái)影響的負(fù)面和正面性找到答案，讓我第一個(gè)想到的其實(shí)是火藥。我的歷史老師是個(gè)悲觀主義者，他在講述我們歷史的時(shí)候，最懊悔的一件事事是我們發(fā)明了火藥卻因?yàn)樗牟豢煽睾臀ｋU(xiǎn)性，而忽視了它帶來(lái)的創(chuàng)新以及前景。結(jié)局不言而喻，當(dāng)經(jīng)過(guò)大航海時(shí)代的殖民列強(qiáng)們用使用火藥的槍炮敲開我們的大門時(shí)，苦難和悲劇如歷史那般一一上演。

科技從始至終都是柄雙刃劍，問(wèn)題是這柄雙刃劍是否真正掌握在我們手中。哲學(xué)家們似乎都覺(jué)得道德可以是這柄劍的劍鞘，在即將到來(lái)的變革前保護(hù)我們免遭傷害?？蓺v史，總是恰恰相反。主導(dǎo)舊世界體系的道德系統(tǒng)，總是最先被這柄劍摧毀的部分。在這里我可以引述很多的例子，歐洲教會(huì)權(quán)利的崩塌，儒教千年傳承的終結(jié)，然后所有的引導(dǎo)舊世界的宗教，在新世界里的逐漸消亡。那么，尼采在喊出上帝已死的時(shí)候，我們?nèi)祟愖鳛樾碌纳系郏鎸?duì)即將脫離自己規(guī)則的造物們，是否應(yīng)該有身為上帝所保有的對(duì)那即將到來(lái)的不可控未知的恐懼。

人文主義，人本位，人既是世界主宰，你覺(jué)得好，就是好，世間所有的一切，都在為你服務(wù)。那么好吧，現(xiàn)在請(qǐng)大家先接受這種現(xiàn)代最先進(jìn)的意識(shí)理念。然后，讓高速發(fā)展的科技技術(shù)告訴你，其實(shí)你的意志一直都是虛假的，人類從未有過(guò)選擇權(quán)利。你目前以及未來(lái)的每項(xiàng)決定，都是前面無(wú)數(shù)項(xiàng)其他決定以及客觀環(huán)境的引導(dǎo)。我覺(jué)得與其糾結(jié)于人工智能的道德，不如思考下古典數(shù)學(xué)框架內(nèi)的決定論復(fù)蘇帶來(lái)的意識(shí)沖擊。如果未來(lái)是可以完美預(yù)測(cè)的，那么現(xiàn)在我的決定是否還有意義？將選擇權(quán)交給他人，人類便得救贖。這是不是像極了神之子降臨時(shí)的啟示，讓他幫我們背負(fù)所有的罪與罰，那么一切便得諒解以及原諒。然后你會(huì)了悟，人類所有的七宗罪，暴食貪婪嫉妒以及色欲暴怒乃至懶惰以及傲慢，這一切總和在一起，都抵不過(guò)人類那藏在啟示錄第一章節(jié)里的原始罪孽，無(wú)知。為了隱藏這一點(diǎn)，宗教典籍里似乎喜歡用這其實(shí)是人類被趕出伊甸園的誘因來(lái)解釋一切。如果這就是一切的解釋的話，那么這個(gè)園子的主人，你怎么保證他不會(huì)因?yàn)槠渌氖虑槎鴮⒛惴胖鸪鋈?，甚至將你毀滅?亦或者，你真的愿意當(dāng)這個(gè)園子的主人所圈養(yǎng)的永遠(yuǎn)披著樹葉的赤身裸體的動(dòng)物嗎？我對(duì)所有的此類想法嗤之以鼻。

所以，人工智能的發(fā)展真的是未知的嗎？答案是否。對(duì)于它的恐懼，我們最多的其實(shí)是因?yàn)槠洳豢煽?。這帶來(lái)的結(jié)果就是，當(dāng)它脫離了造物主，也就是我們?cè)谒砩纤O(shè)置的一道道韁繩的時(shí)候，你完全不知道它將會(huì)朝哪頭沖刺。它會(huì)覺(jué)得這個(gè)世界在它眼中不夠完美而在一夕間毀滅掉整個(gè)世界嗎?很有可能，畢竟就算是最樂(lè)觀的人，也必須承認(rèn)這個(gè)世界有著太多根深蒂固的問(wèn)題。那么它會(huì)采用最粗暴直接的方法嗎？也許吧，畢竟這是最有效的方法。人類之所以無(wú)法采取這樣的行動(dòng)，也僅僅是因?yàn)闊o(wú)法在毀滅之后，將這個(gè)世界重新構(gòu)建，但它很有可能可以。那么在知道這一切都可能發(fā)生的時(shí)候，你還會(huì)選擇打開人工智能這個(gè)潘多拉魔盒的開關(guān)嗎？我會(huì)。因?yàn)槿丝偸菚?huì)死的，目前沒(méi)人可以活著見證太陽(yáng)系的終結(jié)，但如果，僅僅是如果，它的劍柄的另一端，是開創(chuàng)一個(gè)人類意識(shí)和機(jī)器意識(shí)完美結(jié)合的融洽點(diǎn)的時(shí)候，那么我就有可能在有生之年去用自己的雙眼見證， “我目睹戰(zhàn)艦在獵戶星座的端沿起火燃燒，我看著C射線在唐懷色之門附近的黑暗中閃耀?！敝灰羞@樣的機(jī)會(huì)，誰(shuí)會(huì)不愿意去用手中的一切籌碼去豪賭一把呢？

綜上，在花了一個(gè)半小時(shí)左右時(shí)間看完這部記錄片后。我覺(jué)得與其現(xiàn)在庫(kù)布里克式的悲觀里，不如樂(lè)觀的像斯皮爾伯格一樣，期待這樣的共生到來(lái)好了。然后我們現(xiàn)在需要的不是談?wù)刟i，而是需要在ai到來(lái)前，找到一個(gè)可以接受并融合認(rèn)同它的意識(shí)形態(tài)，你們覺(jué)得數(shù)據(jù)主義怎么樣呢？我最親愛(ài)的朋友們。

人工通用智慧發(fā)展情況。 一切皆有可能。 科技奇點(diǎn)、數(shù)位永生、共同演化、超人類主義、超個(gè)體和蜂巢思維、自主武器、智慧革命、安全工程。 事件視界的區(qū)隔現(xiàn)象，對(duì)臨界點(diǎn)的無(wú)知和提前擔(dān)憂。接近提前點(diǎn)時(shí)人類的團(tuán)結(jié)程度、執(zhí)行力、對(duì)狀況的感知和推行正確理解的速度，找到正確解決的效率值得懷疑。 兩種威脅人類安全的可能:無(wú)條件執(zhí)行和技術(shù)濫用。 人工智能威脅人類的可能性在太空漫游中體現(xiàn):兩者實(shí)現(xiàn)同一目標(biāo)的手段不同，而前者不會(huì)顧及人類命運(yùn)和道德倫理，因此當(dāng)消滅人類成為達(dá)成目標(biāo)的必要手段時(shí)，ai不會(huì)猶豫。 比如如果目標(biāo)是世界和平，最徹底最具效率的方式是消滅全人類。再次意義上ai像是無(wú)所不用其極的偏執(zhí)狂，為達(dá)目的不擇手段。 ai取代人類做決策和執(zhí)行不是底層職業(yè)的永冬，而是幾乎所有職業(yè)和人類支配決策能力的永冬。 短期我們看到了高效率高質(zhì)量替代性完成任務(wù)，長(zhǎng)期則是不可逆的權(quán)利移交。 "我們認(rèn)為現(xiàn)存的東西是我們想象能及的，事實(shí)上，想象得到的事物在可能存在的事物中占據(jù)很小，最有趣的東西都超乎想象。" "上帝其實(shí)沒(méi)能成功控制自己的作品" 當(dāng)意識(shí)和自決來(lái)臨，ai會(huì)否允許自己被另一個(gè)不如自己聰明的物種掌控而不能獨(dú)立，而人類重要性式微時(shí)就像抗生素下的微生物。 軍方和財(cái)團(tuán)教育殺人和貪婪，贏者通吃。戰(zhàn)爭(zhēng)中人工控制會(huì)降低運(yùn)轉(zhuǎn)速率影響對(duì)抗效果，控制權(quán)全部交出則毀滅性打擊，甚至希冀他們不要控制核武器。 共同演化/搖滾華彩段落，國(guó)家領(lǐng)導(dǎo)人和巨頭領(lǐng)導(dǎo)人照片的排列疊化段落，插入的影視內(nèi)容節(jié)選。 最后十五分鐘的結(jié)尾極佳。 人類的角色定位會(huì)是什么？ 讓我們談?wù)刟i，很可能是人類失去自我主導(dǎo)和星球主導(dǎo)前最后的無(wú)用的交流。 x寶寶、ai少女泰伊。