生命3.0一書(shū)由邁克斯·泰格馬克所著，是作者對(duì)于未來(lái)的暢想，讓我們思考人工智能和人類的意識(shí)等問(wèn)題，你有什么感悟？下面小編帶來(lái)的是《生命3.0》讀后感:意識(shí)的未來(lái)才是生命的未來(lái)。

人工智能的目標(biāo)與人類的目標(biāo)一致嗎？

由于人類發(fā)展人工智能的目的就是為了幫助人類去完成一些目標(biāo)，那么在完成目標(biāo)的能力上，最終的超級(jí)智能一定會(huì)強(qiáng)于人類。這些超級(jí)智能未必會(huì)對(duì)人類存在惡意，但是如果彼此的目標(biāo)不一致，就很有可能會(huì)對(duì)人類產(chǎn)生大麻煩。就像現(xiàn)在我們?nèi)祟愊胍�在一個(gè)地方修建水庫(kù)，會(huì)對(duì)附近的蟻窩造成滅頂之災(zāi)，可實(shí)際上我們對(duì)蟻窩其實(shí)并沒(méi)有惡意一樣。套用小說(shuō)《三體》中的一句話就是：

我消滅你，與你無(wú)關(guān)！

因此，讓人工智能與人類的目標(biāo)保持一致至關(guān)重要，如果把這個(gè)問(wèn)題進(jìn)行拆解，可以細(xì)化成三個(gè)子問(wèn)題：

1.讓人工智能學(xué)習(xí)我們的目標(biāo)

2.讓人工智能接受我們的目標(biāo)

3.讓人工智能保持我們的目標(biāo)

首先第一步，對(duì)于要學(xué)習(xí)我們的目標(biāo)，也許你會(huì)說(shuō)：“這很簡(jiǎn)單啊，我們?cè)谠O(shè)計(jì)人工智能的算法的時(shí)候，或者讓人工智能工作的時(shí)候，直接下達(dá)一個(gè)明確的目標(biāo)，不就行了嗎？”可是，一個(gè)目標(biāo)在執(zhí)行的過(guò)程中，會(huì)有很多意外情況的發(fā)生。比如在未來(lái)，你叫一輛無(wú)人駕駛的汽車“盡快送你去機(jī)場(chǎng)”，結(jié)果它就不擇手段的把你“盡快地”送到了，超速、違章、把你搞得暈車狂吐......這顯然不是你想要的，可是人工智能說(shuō)：“我是按照你的目標(biāo)執(zhí)行的啊。”也許你會(huì)說(shuō)，那我們把這些限制條件寫(xiě)入到算法中去嘍，比如必須在遵守交通規(guī)則的前提下�？墒�，一定會(huì)有我們事先無(wú)法預(yù)料的復(fù)雜情況出現(xiàn)，比如著名的電車難題：如果在你去機(jī)場(chǎng)的路上，碰到了一個(gè)緊急情況，無(wú)人駕駛的汽車只有兩個(gè)選擇：要么，撞上突然橫穿馬路的學(xué)生；要么，撞向路邊的行人。你希望人工智能怎么選呢？因此，一個(gè)目標(biāo)的背后是一整套復(fù)雜的行為準(zhǔn)則，這套行為準(zhǔn)則很難在我們編寫(xiě)軟件的時(shí)候直接寫(xiě)入到計(jì)算機(jī)。有時(shí)候甚至?xí)�牽涉到價(jià)值觀取舍的問(wèn)題，其實(shí)我們?nèi)祟愖约阂矝](méi)有一個(gè)確定的答案，你如何能讓人工智能完全理解呢？

再看第二步，即便人工智能完全理解了我們的目標(biāo)，它也有可能未必會(huì)接受我們的目標(biāo)。就像我們教育我們的孩子，試圖讓孩子接受我們的價(jià)值觀和目標(biāo)體系，可是隨著孩子智力的發(fā)育和成長(zhǎng)，我們的目標(biāo)未必會(huì)被他們所接受。同樣的，超級(jí)人工智能也擁有與人類相當(dāng)，甚至超過(guò)人類的智力水平，它們會(huì)完全接受我們的目標(biāo)嗎？這看起來(lái)也是一個(gè)一廂情愿的問(wèn)題。

第三步，假設(shè)人工智能理解并接受了我們的目標(biāo)，它就能始終保持與我們的目標(biāo)一致嗎？答案還是存疑的。我們?cè)趯?shí)現(xiàn)一個(gè)相對(duì)復(fù)雜的目標(biāo)的時(shí)候，會(huì)把它拆分成若干個(gè)子目標(biāo)來(lái)進(jìn)行努力。假如我們現(xiàn)在給一個(gè)人工智能設(shè)置的目標(biāo)是“盡可能好的下圍棋”，那么對(duì)它來(lái)說(shuō)，最佳的選擇就是把所有能利用的資源都用來(lái)增加自己的算力，比如把太陽(yáng)系轉(zhuǎn)變成一臺(tái)巨大的計(jì)算機(jī)，或者向宇宙深處進(jìn)發(fā)以獲取更多的能源，這就很有可能與我們的目標(biāo)發(fā)生沖突。還有一種可能，就是也許隨著人工智能自身智力的發(fā)展，也許它會(huì)覺(jué)得原來(lái)被賦予的目標(biāo)無(wú)聊乏味。比如說(shuō)，假如一群螞蟻創(chuàng)造了你，給你的目標(biāo)是修建更大更好的蟻丘。最初也許你是認(rèn)真的執(zhí)行，可是當(dāng)你的智力發(fā)展到遠(yuǎn)超螞蟻的時(shí)候，你會(huì)不會(huì)覺(jué)得原來(lái)的這個(gè)目標(biāo)變得索然無(wú)味呢？你會(huì)不會(huì)給自己設(shè)定一個(gè)“更有意義的目標(biāo)”呢？

可以看出，以上這三個(gè)問(wèn)題，到目前為止，我們一個(gè)也沒(méi)有解決。事實(shí)上，暫時(shí)也不知道如何解決。

除了這三個(gè)問(wèn)題，實(shí)際上我們還有一個(gè)更為棘手的問(wèn)題，那就是：當(dāng)我們討論“我們的目標(biāo)”時(shí)，“我們”到底是誰(shuí)呢？我們討論的到底是誰(shuí)的目標(biāo)呢？這里面涉及到哲學(xué)、社會(huì)學(xué)、倫理學(xué)等諸多復(fù)雜的內(nèi)容，到目前為止，人類還遠(yuǎn)遠(yuǎn)沒(méi)有在這些方面達(dá)成共識(shí)，各種意識(shí)形態(tài)和文化之間充滿著矛盾和沖突。如果連這個(gè)最基本的問(wèn)題都沒(méi)搞清楚，我們又怎么能保證人工智能的目標(biāo)是符合我們的預(yù)期的呢？因此，作者在本書(shū)中呼吁，人類應(yīng)該盡快對(duì)這些哲學(xué)和倫理學(xué)問(wèn)題進(jìn)行討論，在超級(jí)智能發(fā)展出來(lái)之前，具備回答這些問(wèn)題的能力，否則，這些問(wèn)題的答案很有可能就與我們?nèi)祟悷o(wú)關(guān)了！

讓我們往更深一層去思考：當(dāng)我們談?wù)撍�謂的“目標(biāo)”的時(shí)候，我們?yōu)槭裁匆�有目�?biāo)？比如，今年你的小目標(biāo)是先賺一個(gè)億，為什么？因?yàn)榭梢詮闹蝎@得一種成就感。那“成就感”是什么？今天我的目標(biāo)是吃頓好的，因?yàn)槊朗晨梢宰屛耀@得滿足感，那“滿足感”是什么？這就牽涉到一個(gè)更為難以捉摸的概念——意識(shí)。

意識(shí)的未來(lái)

意識(shí)是一個(gè)有爭(zhēng)議的話題，有些科學(xué)家甚至認(rèn)為意識(shí)不是一個(gè)科學(xué)問(wèn)題，不過(guò)越來(lái)越多的神經(jīng)科學(xué)研究正在逐漸揭開(kāi)“意識(shí)”的神秘面紗。像之前一樣，我們首先要明確一下關(guān)于“意識(shí)”的定義。泰格馬克在書(shū)里對(duì)意識(shí)給出的定義也是這樣的：

意識(shí)（consciousness）=主觀體驗(yàn)（subjective experience）

順便插一句，在閱讀整個(gè)《生命3.0》這本書(shū)的時(shí)候，你會(huì)處處體會(huì)到作者作為一個(gè)科學(xué)家的嚴(yán)謹(jǐn)，他會(huì)在討論每個(gè)關(guān)鍵概念的之前，給出他對(duì)于這個(gè)概念的定義。這并非是為了表示他的定義有多么高明，而是為了讓讀者明確的了解他所要討論的內(nèi)容，避免誤解。這是一個(gè)非常值得我們學(xué)習(xí)的科學(xué)態(tài)度。我們?cè)谏�活和工作中�?jīng)常就會(huì)犯這種錯(cuò)誤：兩個(gè)人對(duì)一個(gè)問(wèn)題進(jìn)行激烈的爭(zhēng)論，爭(zhēng)得面紅耳赤，結(jié)果發(fā)現(xiàn)大家對(duì)其中使用的一個(gè)概念的含義理解完全不同。我就親身經(jīng)歷過(guò)在一個(gè)飯局上，來(lái)自全國(guó)各個(gè)地區(qū)的人爭(zhēng)論“地瓜到底長(zhǎng)什么樣”，半個(gè)小時(shí)后發(fā)現(xiàn)大家說(shuō)的“地瓜”根本不是同一個(gè)東西�？梢�(jiàn)，在溝通過(guò)程中，統(tǒng)一語(yǔ)言是多么的重要。

回到關(guān)于意識(shí)的話題。根據(jù)泰格馬克的定義，如果你能感覺(jué)到“這就是現(xiàn)在的我”，那么你就是有意識(shí)的。也就是說(shuō)，如果一輛無(wú)人駕駛的汽車能夠認(rèn)識(shí)到自己就是一輛無(wú)人駕駛的汽車，那么我們就可以說(shuō)這輛汽車是“有意識(shí)”的。

關(guān)于意識(shí)的研究，目前科學(xué)家們只對(duì)“大腦如何處理信息”這個(gè)相對(duì)簡(jiǎn)單的問(wèn)題上有所進(jìn)展。概括來(lái)說(shuō)，意識(shí)就是信息處理時(shí)產(chǎn)生的感覺(jué)。由于人類的大腦從收集信息到做出反應(yīng)是需要一個(gè)時(shí)間的，因此，實(shí)際上意識(shí)是發(fā)生在“過(guò)去”的。也因此，我們會(huì)有很多無(wú)意識(shí)的快速反應(yīng)。然而我們對(duì)哪些物理性質(zhì)來(lái)區(qū)分有意識(shí)和無(wú)意識(shí)系統(tǒng)，以及為什么會(huì)產(chǎn)生意識(shí)這些更難的問(wèn)題，科學(xué)家們還沒(méi)有什么頭緒。

那么，如果未來(lái)的人工智能擁有意識(shí)，那他的”主觀體驗(yàn)“會(huì)是怎樣的呢？從目前我們已知的信息推測(cè)，雖然人工智能處理信息的速度更快（電磁信號(hào)以光速傳播，比神經(jīng)元信號(hào)快數(shù)萬(wàn)倍），但是人工智能的尺寸也會(huì)更大，因此，人工智能的”主觀體驗(yàn)“系統(tǒng)也很有可能分為“有意識(shí)”和“無(wú)意識(shí)”兩種，甚至有可能是一個(gè)層級(jí)嵌套系統(tǒng)，從微觀尺度一直嵌套到宏觀的宇宙尺度。

為什么我們要關(guān)心人工智能的“意識(shí)”問(wèn)題呢？這其實(shí)是一個(gè)關(guān)乎人類存在的意義的問(wèn)題。不管意識(shí)是如何產(chǎn)生的，為什么會(huì)產(chǎn)生，如果沒(méi)有了意識(shí)，也就是主觀體驗(yàn)，那積極的體驗(yàn)也就不復(fù)存在。也就是說(shuō)，如果沒(méi)有意識(shí)，所謂快樂(lè)、美麗、善良、目標(biāo)，都沒(méi)有了意義。并不是我們的宇宙將意義賦予了有意識(shí)的實(shí)體，而是有意識(shí)的實(shí)體將意義賦予了我們的宇宙。然而，一旦未來(lái)的世界為超級(jí)智能所統(tǒng)治，一旦超級(jí)智能是根本沒(méi)有體驗(yàn)的冰冷的機(jī)器，那么，這個(gè)宇宙的意義也就不復(fù)存在了。

因此，比起智能的未來(lái)，意識(shí)的未來(lái)才更為重要。在未來(lái)的場(chǎng)景中，要么，我們已經(jīng)“教會(huì)”了人工智能體驗(yàn)這個(gè)宇宙的各種意義；要么，我們?nèi)祟愋枰�完成一次�?duì)自我認(rèn)知的革命性升級(jí)，能夠更加深刻的體會(huì)到生命的意義。如果我們這兩者都沒(méi)有做到，等待我們的，將是一個(gè)僵尸智能控制的沒(méi)有意義的宇宙。

我的感悟

故事到這里就結(jié)束了嗎？并沒(méi)有。如果我們把時(shí)間的維度拉的再長(zhǎng)一點(diǎn)，我們看到的似乎是一個(gè)注定令人沮喪的結(jié)局。根據(jù)熱力學(xué)第二定律，宇宙中“熵”的總量是趨于增加的，也就是整個(gè)宇宙是趨向于混亂的。最終，它會(huì)達(dá)到一個(gè)極端混亂的最大值，被稱為“死寂”。在這個(gè)狀態(tài)下，萬(wàn)事萬(wàn)物都會(huì)擴(kuò)散成一種無(wú)聊而又完美的均質(zhì)狀態(tài)，沒(méi)有復(fù)雜性，沒(méi)有生命，也沒(méi)有任何變化。

那我們之前討論這些還有什么價(jià)值？我們努力地去為人工智能賦予“目標(biāo)”和“意識(shí)”，為這個(gè)宇宙賦予意義，豈不是白忙活？

并非如此。雖然宇宙整體是熵增的趨勢(shì)，但是為了熵增，大自然又有產(chǎn)生生命以促進(jìn)更有效的熱力消耗的趨勢(shì)。你看，大自然就是這么有趣：一方面它趨向于混亂，一方面又制造一個(gè)有組織的生命體，這個(gè)生命體通過(guò)讓環(huán)境變得混亂來(lái)維持自身的秩序和復(fù)雜度。

也就是說(shuō)，生命的意義就在于折騰，你越折騰，就越是符合宇宙的終極目標(biāo)！

這不是什么雞湯，這個(gè)看起來(lái)矛盾，但是又非常合理的邏輯已經(jīng)被寫(xiě)入到了物理學(xué)定律里面。也許就是因?yàn)檫@個(gè)基因，生命中也會(huì)出現(xiàn)很多看起來(lái)非常矛盾的事情和道理，不過(guò)沒(méi)關(guān)系，這只是因?yàn)槲覀冞�沒(méi)有參透其背后的物理學(xué)規(guī)律而已。

另外，在我們思考人工智能的未來(lái)，思考生命的未來(lái)的時(shí)候，經(jīng)常容易陷入一個(gè)“人類中心主義”的思維框架。在這個(gè)框架下思考所謂的“有益”和“有害”，其潛在的主體實(shí)際上是我們?nèi)祟�。但是，如果把人類只是看作生命形式的一個(gè)發(fā)展階段，未來(lái)的生命3.0才是生命的終極形式，也許我們就會(huì)少一點(diǎn)傲慢，多一點(diǎn)謙卑，在看待未來(lái)的時(shí)候，也就會(huì)多一分理智，而少一分焦慮。

有個(gè)說(shuō)法是：超級(jí)人工智能將是人類最后一個(gè)發(fā)明，在那之后，所有的發(fā)明就將都是超級(jí)智能所為，跟人類沒(méi)什么關(guān)系了。我倒是覺(jué)得，超級(jí)人工智能更像是人類培養(yǎng)的一個(gè)孩子，它在我們的呵護(hù)下長(zhǎng)大，繼承我們，超越我們，它也許會(huì)符合我們一切對(duì)“好孩子”的定義，也許會(huì)離經(jīng)叛道，不管怎樣，最終它都必將會(huì)離開(kāi)我們，走上屬于它自己的道路。或許，這就是我們生命2.0的最后一個(gè)使命吧。

來(lái)源：網(wǎng)絡(luò)整理 免責(zé)聲明：本文僅限學(xué)習(xí)分享，如產(chǎn)生版權(quán)問(wèn)題，請(qǐng)聯(lián)系我們及時(shí)刪除。

《《生命3.0》讀后感:意識(shí)的未來(lái)才是生命的未來(lái)》由互聯(lián)網(wǎng)用戶整理提供,轉(zhuǎn)載分享請(qǐng)保留原作者信息,謝謝!
鏈接地址：http://www.seogis.com/gongwen/213304.html

• 上一篇：如懿傳觀后感:人性的江湖
• 下一篇：一個(gè)小忙觀后感欣賞