劉慈欣談ChatGPT：人類(lèi)的無(wú)能反而是人類(lèi)最后的屏障(2)

第一個(gè)層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類(lèi)或是統治世界。

這一點(diǎn)從目前的這個(gè)技術(shù)發(fā)展趨勢來(lái)看，特別是從目前的技術(shù)水平來(lái)看，在可以看到的未來(lái)可能性不是太大。

當然您剛才提到一個(gè)很有意思的概念叫迭代。人工智能的迭代，這是目前人工智能最可能出現危險的一個(gè)行為。

這個(gè)行為是什么呢？就是說(shuō)當人工智能按我們現在的發(fā)展，它比人類(lèi)的智能稍稍高一些的話(huà)，它自己也會(huì )像人類(lèi)一樣去創(chuàng )造新的人工智能，它創(chuàng )造出來(lái)的這個(gè)新人工智能可能比它的智能也稍微高一點(diǎn)，那么它又會(huì )接著(zhù)迭代下一代，這樣的話(huà)他們就會(huì )很快的把這些人工智能的智能水平提高到很高。

可能迭代下去，會(huì )提高到人類(lèi)（智能）的幾百倍甚至上萬(wàn)倍。

而它而由于它的這個(gè)計算機的計算時(shí)間比這個(gè)人腦人的大腦要快成千上萬(wàn)倍，那么這個(gè)迭代的時(shí)間可能十分的短，據推測可能只有半個(gè)小時(shí)到一個(gè)小時(shí)。

就說(shuō)我們把人工智能發(fā)展到現在用了一個(gè)世紀的時(shí)間，而人工智能百倍于現在的這個(gè)程度，可能只用半個(gè)小時(shí)到一個(gè)小時(shí)，這是很可怕的一件事。

但是做出這個(gè)預測的人忘了一點(diǎn)，就是我們人類(lèi)的計算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。

所以這就是一個(gè)有很諷刺意義的一件事情：我們人類(lèi)的無(wú)能反而成為我們一個(gè)最后的屏障。所以您說(shuō)的這這種毀滅不太可能。

那么第二種消滅則是一種我們想不到的一種方式，就是說(shuō)第一種消滅人類(lèi)是完全違背人類(lèi)意愿的，而第二種對人類(lèi)的消滅可能完全符合我們的意義。

比如說(shuō)人工智能的發(fā)展，我剛才說(shuō)過(guò)它可能會(huì )代替我們的這個(gè)大量的工作，而我們的社會(huì )如果適應了與人工智能的這種共存，我們發(fā)展出一種新的這種分配制度，那么我們就可能帶來(lái)一個(gè)十分舒適的那種社會(huì )環(huán)境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來(lái)進(jìn)行。

在這種情況下，我們會(huì )越來(lái)越多地交出自己對社會(huì )運作的操作這種權利給到人工智能。

而生活會(huì )變得越來(lái)越舒適，那么這個(gè)樣子下去的話(huà)，我們可能面臨著(zhù)人類(lèi)歷史上前所未有的一個(gè)巨大的陷阱。

就是說(shuō)在這個(gè)科技的這種安樂(lè )窩里面，那么人類(lèi)文明的活力在哪里？我們的開(kāi)拓精神在哪里？如果這樣一直發(fā)展下去的話(huà)，那可能人類(lèi)最后的命運就是您說(shuō)的被人工智能所消滅，但這個(gè)消滅的過(guò)程完全是在我們的意愿之內，而人工智能至始至終它沒(méi)有任何惡意，它只是照著(zhù)人類(lèi)的指示去行駛。

而這樣的如果真的發(fā)生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計算能力遠遠小于我們前面那個(gè)真正的字面意義上的那種消滅。所以這確實(shí)是我們應該對未來(lái)有所警覺(jué)的一件事情。


劉慈欣演講全文整理

大家好，我們今天要談?wù)摰脑?huà)題是科幻文學(xué)中的可持續未來(lái)。

作為一種基于想象力的文學(xué)形式，科幻小說(shuō)并不能夠對未來(lái)作出科學(xué)的預測，它只是描述未來(lái)的各種可能性，同時(shí)它也提供了一個(gè)看世界和看未來(lái)的獨特視角，這個(gè)視角與我們從現實(shí)看世界看未來(lái)的視角可能有很大的不同。

科幻的視角是什么？大家可能都知道一張叫《暗淡藍點(diǎn)》的照片，我本來(lái)想把那個(gè)照片拿來(lái)的，但我覺(jué)得好像大家應該都看過(guò)那張照片，就沒(méi)有把它拿來(lái)放出來(lái)。

這可能是人類(lèi)歷史上最重要也是最著(zhù)名的照片之一，他是上個(gè)世紀70年代發(fā)射的旅行者1號宇宙探測器，在90年代初在距地球60億公里的太空中拍攝的。

初看上去整張照片它都是黑色的，很仔細看才能發(fā)現這一片黑色中有一個(gè)小小的亮點(diǎn)。它十分的小，就是僅有這張照片的0.12個(gè)像素那么大。如果不加以指示，你說(shuō)觀(guān)看者是很難發(fā)現這個(gè)白點(diǎn)的。

有人形容它是太空中的一粒塵埃，其實(shí)是把它說(shuō)的大了。按照比例計算，這個(gè)暗淡的小點(diǎn)放在宇宙中，它比地球大氣層中的一粒塵埃還要小很多個(gè)數量級，要小得多。這個(gè)亮點(diǎn)就是地球，人類(lèi)世界的全部，和我們有關(guān)的一切，所有活著(zhù)和曾經(jīng)活過(guò)的人，所有曾經(jīng)有過(guò)和正在進(jìn)行歷史和生活，都在這里塵埃上面，這就是科幻的視角。

對于人類(lèi)的發(fā)展和未來(lái)，這個(gè)視角與我們傳統的視角是有很大差異的。從這個(gè)視角去看，我們對人類(lèi)社會(huì )的可持續發(fā)展會(huì )有一些新的感悟。

原文轉自：https://www.thepaper.cn/newsDetail_forward_23639458