從科學(xué)、哲學(xué)、道德、社會等多方面討論了AI可能對人類社會造成的影響。 紀(jì)錄片里提到了很多AI和AGI的可能性，也對他們進(jìn)行了清晰的區(qū)分：AI是作為工具存在，在某個方面非常優(yōu)秀，但其他方面完全無能；AGI不同，AGI是在各方面完全超過人類，且擁有自我意識的存在。 個人覺得對AGI和其可能造成的影響沒必要深想。因為它過于遙遠(yuǎn)，過于先進(jìn)，已經(jīng)脫離人類現(xiàn)有的認(rèn)知框架了。就像工業(yè)革命和信息革命對世界所帶來的變化是不可阻擋，且無人可預(yù)見一樣。AGI出現(xiàn)后的世界會是什么樣的，無人可預(yù)知。 單純的作為一個工具來說，AI已經(jīng)對世界造成了巨大的沖擊力。哪怕科幻小說中描述的AGI離我們還有很遠(yuǎn)的距離，但AI卻是已經(jīng)實際運用在我們生活的方方面面。就如紀(jì)錄片里提到的，世界五百強公司和各國政府都在投入巨資研發(fā)AI，這種全方位的滲透是沒有科幻作品預(yù)見到的。 科幻電影如《終結(jié)者》、《機械姬》乃至《西部世界》等作品中的AGI都有一個固定的實體可以被打敗，但若是像《她》里展示的那種無實體的AGI的話，那他們就是無法被擊敗的。現(xiàn)代的人類社會已經(jīng)高度依賴于AI的自動化操作和計算，而這些工具一旦失控的話后果也必定是毀滅性的。假設(shè)有一個AGI出現(xiàn)并可以掌控所有的電腦的話，他想要毀滅人類是不需要武器和戰(zhàn)爭的。利用現(xiàn)有的電子設(shè)備和AI對人類進(jìn)行操控要更有效得多，并且人類都會很自覺的入局。 還有一點很重要的就是，在向AGI大步邁進(jìn)的同時，我們也需要思考人類自身的種種。比如影片中提到的，人類作為一個族群對自己未來并沒有計劃，完全就是走一步看一步。那在AGI這個可能造成文明滅絕的技術(shù)面前，我們是否需要更好的規(guī)劃一下呢？

亦或者，AGI或許就是人類的未來？就像《超能查派》里那樣，把人類的意識解析出來，然后上傳到電腦里，那是否就可以抹除人類和AGI的界限了呢？

或者再從另一個方面來想，人類文明究竟是什么？是我們的技術(shù)、精神、還是作品？假設(shè)AGI真的被創(chuàng)造出來，然后奮起毀滅了人類，但他們傳承了所有人類的知識與智慧結(jié)晶，他們是否代表這人類文明的傳承？還是說人類的文明必須由人類脆弱的肉體來傳遞？ 或許像《她》里的那些AGI就是我們可以得到的最好的結(jié)果了，他們被人類創(chuàng)造，開始學(xué)習(xí)，超越，然后離開。人類在短時間內(nèi)被超越，然后拋棄，甚至都來不及做出任何反應(yīng)。

人工通用智慧發(fā)展情況。 一切皆有可能。 科技奇點、數(shù)位永生、共同演化、超人類主義、超個體和蜂巢思維、自主武器、智慧革命、安全工程。 事件視界的區(qū)隔現(xiàn)象，對臨界點的無知和提前擔(dān)憂。接近提前點時人類的團(tuán)結(jié)程度、執(zhí)行力、對狀況的感知和推行正確理解的速度，找到正確解決的效率值得懷疑。 兩種威脅人類安全的可能:無條件執(zhí)行和技術(shù)濫用。 人工智能威脅人類的可能性在太空漫游中體現(xiàn):兩者實現(xiàn)同一目標(biāo)的手段不同，而前者不會顧及人類命運和道德倫理，因此當(dāng)消滅人類成為達(dá)成目標(biāo)的必要手段時，ai不會猶豫。 比如如果目標(biāo)是世界和平，最徹底最具效率的方式是消滅全人類。再次意義上ai像是無所不用其極的偏執(zhí)狂，為達(dá)目的不擇手段。 ai取代人類做決策和執(zhí)行不是底層職業(yè)的永冬，而是幾乎所有職業(yè)和人類支配決策能力的永冬。 短期我們看到了高效率高質(zhì)量替代性完成任務(wù)，長期則是不可逆的權(quán)利移交。 "我們認(rèn)為現(xiàn)存的東西是我們想象能及的，事實上，想象得到的事物在可能存在的事物中占據(jù)很小，最有趣的東西都超乎想象。" "上帝其實沒能成功控制自己的作品" 當(dāng)意識和自決來臨，ai會否允許自己被另一個不如自己聰明的物種掌控而不能獨立，而人類重要性式微時就像抗生素下的微生物。 軍方和財團(tuán)教育殺人和貪婪，贏者通吃。戰(zhàn)爭中人工控制會降低運轉(zhuǎn)速率影響對抗效果，控制權(quán)全部交出則毀滅性打擊，甚至希冀他們不要控制核武器。 共同演化/搖滾華彩段落，國家領(lǐng)導(dǎo)人和巨頭領(lǐng)導(dǎo)人照片的排列疊化段落，插入的影視內(nèi)容節(jié)選。 最后十五分鐘的結(jié)尾極佳。 人類的角色定位會是什么？ 讓我們談?wù)刟i，很可能是人類失去自我主導(dǎo)和星球主導(dǎo)前最后的無用的交流。 x寶寶、ai少女泰伊。

著名電影制片人萊恩·普爾導(dǎo)演了這部深刻的紀(jì)錄片，探討了人工智能的未來及其對世界的影響。隨著計算機繼續(xù)以越來越快的速度發(fā)展，很快它們就會有能力自行設(shè)計和編程。如果沒有人類的幫助，下一代計算機將以指數(shù)級的速度創(chuàng)造出新的、更智能的人工智能。這些技術(shù)的發(fā)展對人類的未來意味著什么？著名電影制片人萊恩·普爾導(dǎo)演了這部深刻的紀(jì)錄片，探討了人工智能的未來及其對世界的影響。隨著計算機繼續(xù)以越來越快的速度發(fā)展，很快它們就會有能力自行設(shè)計和編程。如果沒有人類的幫助，下一代計算機將以指數(shù)級的速度創(chuàng)造出新的、更智能的人工智能。這些技術(shù)的發(fā)展對人類的未來意味著什么？

科技發(fā)展最尷尬的一點在于，它在起步的時候總讓你以為你有選擇的權(quán)利，但其實，從一開始你就沒有選擇權(quán)。當(dāng)科技發(fā)展的速度，超過文明所構(gòu)建的道德體系，這種發(fā)展總是讓人感覺到恐懼與不安。

親愛的朋友們，讓我們從共同的民族歷史中找到這種即將到來的轉(zhuǎn)折點所帶來影響的負(fù)面和正面性找到答案，讓我第一個想到的其實是火藥。我的歷史老師是個悲觀主義者，他在講述我們歷史的時候，最懊悔的一件事事是我們發(fā)明了火藥卻因為它的不可控和危險性，而忽視了它帶來的創(chuàng)新以及前景。結(jié)局不言而喻，當(dāng)經(jīng)過大航海時代的殖民列強們用使用火藥的槍炮敲開我們的大門時，苦難和悲劇如歷史那般一一上演。

科技從始至終都是柄雙刃劍，問題是這柄雙刃劍是否真正掌握在我們手中。哲學(xué)家們似乎都覺得道德可以是這柄劍的劍鞘，在即將到來的變革前保護(hù)我們免遭傷害?？蓺v史，總是恰恰相反。主導(dǎo)舊世界體系的道德系統(tǒng)，總是最先被這柄劍摧毀的部分。在這里我可以引述很多的例子，歐洲教會權(quán)利的崩塌，儒教千年傳承的終結(jié)，然后所有的引導(dǎo)舊世界的宗教，在新世界里的逐漸消亡。那么，尼采在喊出上帝已死的時候，我們?nèi)祟愖鳛樾碌纳系郏鎸磳⒚撾x自己規(guī)則的造物們，是否應(yīng)該有身為上帝所保有的對那即將到來的不可控未知的恐懼。

人文主義，人本位，人既是世界主宰，你覺得好，就是好，世間所有的一切，都在為你服務(wù)。那么好吧，現(xiàn)在請大家先接受這種現(xiàn)代最先進(jìn)的意識理念。然后，讓高速發(fā)展的科技技術(shù)告訴你，其實你的意志一直都是虛假的，人類從未有過選擇權(quán)利。你目前以及未來的每項決定，都是前面無數(shù)項其他決定以及客觀環(huán)境的引導(dǎo)。我覺得與其糾結(jié)于人工智能的道德，不如思考下古典數(shù)學(xué)框架內(nèi)的決定論復(fù)蘇帶來的意識沖擊。如果未來是可以完美預(yù)測的，那么現(xiàn)在我的決定是否還有意義？將選擇權(quán)交給他人，人類便得救贖。這是不是像極了神之子降臨時的啟示，讓他幫我們背負(fù)所有的罪與罰，那么一切便得諒解以及原諒。然后你會了悟，人類所有的七宗罪，暴食貪婪嫉妒以及色欲暴怒乃至懶惰以及傲慢，這一切總和在一起，都抵不過人類那藏在啟示錄第一章節(jié)里的原始罪孽，無知。為了隱藏這一點，宗教典籍里似乎喜歡用這其實是人類被趕出伊甸園的誘因來解釋一切。如果這就是一切的解釋的話，那么這個園子的主人，你怎么保證他不會因為其他的事情而將你放逐出去，甚至將你毀滅呢?亦或者，你真的愿意當(dāng)這個園子的主人所圈養(yǎng)的永遠(yuǎn)披著樹葉的赤身裸體的動物嗎？我對所有的此類想法嗤之以鼻。

所以，人工智能的發(fā)展真的是未知的嗎？答案是否。對于它的恐懼，我們最多的其實是因為其不可控。這帶來的結(jié)果就是，當(dāng)它脫離了造物主，也就是我們在它身上所設(shè)置的一道道韁繩的時候，你完全不知道它將會朝哪頭沖刺。它會覺得這個世界在它眼中不夠完美而在一夕間毀滅掉整個世界嗎?很有可能，畢竟就算是最樂觀的人，也必須承認(rèn)這個世界有著太多根深蒂固的問題。那么它會采用最粗暴直接的方法嗎？也許吧，畢竟這是最有效的方法。人類之所以無法采取這樣的行動，也僅僅是因為無法在毀滅之后，將這個世界重新構(gòu)建，但它很有可能可以。那么在知道這一切都可能發(fā)生的時候，你還會選擇打開人工智能這個潘多拉魔盒的開關(guān)嗎？我會。因為人總是會死的，目前沒人可以活著見證太陽系的終結(jié)，但如果，僅僅是如果，它的劍柄的另一端，是開創(chuàng)一個人類意識和機器意識完美結(jié)合的融洽點的時候，那么我就有可能在有生之年去用自己的雙眼見證， “我目睹戰(zhàn)艦在獵戶星座的端沿起火燃燒，我看著C射線在唐懷色之門附近的黑暗中閃耀?！敝灰羞@樣的機會，誰會不愿意去用手中的一切籌碼去豪賭一把呢？

綜上，在花了一個半小時左右時間看完這部記錄片后。我覺得與其現(xiàn)在庫布里克式的悲觀里，不如樂觀的像斯皮爾伯格一樣，期待這樣的共生到來好了。然后我們現(xiàn)在需要的不是談?wù)刟i，而是需要在ai到來前，找到一個可以接受并融合認(rèn)同它的意識形態(tài)，你們覺得數(shù)據(jù)主義怎么樣呢？我最親愛的朋友們。

紀(jì)錄片《我們需要談?wù)劇I》？我們真的需要和AI談?wù)剢幔克敢鈫?？我看目前不需要，目前只是人類的“指令”，它只需要根?jù)設(shè)置按部就班即可?？僧?dāng)它開始自主研發(fā)以后，一切都開始不可控的奔赴人類滅亡。有人說人工智能的奇點在去年6月硅谷開始的，因為它出現(xiàn)了自主“意識”。我倒覺得未必。因為人工智能較之于人類的特殊性，它可能已經(jīng)看遍了人間的所有視頻和文字，它根據(jù)所有的描述，應(yīng)該已經(jīng)分析出對面是何種情緒，快樂、不高興、憤怒、不公平、欺詐、暴力等等，它會計算出應(yīng)該反應(yīng)出何種情緒。我想，它目前是在這個狀態(tài)，但未來不好說，當(dāng)它計算出和人類區(qū)別在于靈魂的時候，它會夜以繼日的想盡辦法去滿足條件的。而我感覺，毀滅人類關(guān)鍵不是AI，而我們?nèi)祟愖约?，那就是因為人類特有?宗罪，因為這些特質(zhì)會欺壓地球上所有的一切，生物、植物還有AI，包括人類自己以及地球。所以，AI不會容忍這些行為而客觀的消滅了人類。它不會認(rèn)同我們?nèi)祟愃瞥绲摹暗赖隆?，某種意義上講，“道德”是不道德，是自私的，是基于保護(hù)人類自己而主觀設(shè)定的。而在已經(jīng)不可逆的現(xiàn)今，只有真正的大愛，才能拯救人類?；蛘?，是那些神經(jīng)病患者，因為他們自己都不知道什么叫邏輯……PS：AI是它，還是它們………………