劉慈欣談ChatGPT：人類(lèi)的無(wú)能反而是人類(lèi)最后的屏障

2015 年，劉慈欣曾在一次采訪(fǎng)中引用了霍金的觀(guān)點(diǎn)，霍金曾預言「人工智能比核彈還危險，人類(lèi)馬上就要被人工智能控制」，當時(shí)的他認為這個(gè)說(shuō)法有點(diǎn)危言聳聽(tīng)。 而現在，他認為我們是時(shí)候對未來(lái)有所警覺(jué)。

他表示，人們常說(shuō)人工智能沒(méi)有人的靈魂、人的感受，這不過(guò)是一個(gè)自我安慰。人自己的靈魂、感受，也是很多神經(jīng)元細胞連接成復雜系統后涌現出來(lái)的。但也補充道，即使有人工智能的影響，未來(lái)科幻作家不會(huì )徹底消失，但會(huì )淪為非主流。

最近，劉慈欣在直播時(shí)透露，自己實(shí)在沒(méi)時(shí)間，所以參加科幻大會(huì )時(shí)用ChatGPT寫(xiě)了一兩篇發(fā)言稿。

劉慈欣表示，ChatGPT 寫(xiě)得也還挺不錯的。

此前劉慈欣發(fā)表了一篇題為《科幻文學(xué)中的可持續未來(lái)》的演講，用科幻的視角解讀了一個(gè)截然不同的人類(lèi)未來(lái)。

何為科幻視角？從距地球60億公里的太空之上，回望這顆比塵埃還小，卻又承載了和我們有關(guān)的一切的星球，即為科幻視角。

在演講結束后，劉慈欣談到了以ChatGPT為代表的人工智能可能會(huì )給人們帶來(lái)的影響。

2015年，劉慈欣曾在一次采訪(fǎng)中引用了霍金的觀(guān)點(diǎn)，霍金曾預言「人工智能比核彈還危險，人類(lèi)馬上就要被人工智能控制」，當時(shí)的他認為這個(gè)說(shuō)法有點(diǎn)危言聳聽(tīng)。

而現在，他認為我們是時(shí)候對未來(lái)有所警覺(jué)。


劃重點(diǎn)

1.人工智能會(huì )首先取代高智能的職業(yè)，這與我們的預測相反。

2.人工智能可以自我迭代出更高智能的版本，但我們的算力限制它的發(fā)展。

3.人工智能或許會(huì )讓人類(lèi)陷入舒適的陷阱之中。

Q：現在ChatGPT橫空出世，被人們熱烈地討論，您覺(jué)得人工智能的發(fā)展對人類(lèi)的命運會(huì )產(chǎn)生一個(gè)什么樣的影響？那自我迭代的人工智能有沒(méi)有可能會(huì )取代或者說(shuō)消滅人類(lèi)？

劉慈欣：我覺(jué)得這（人工智能的影響）應該從這個(gè)現實(shí)或近未來(lái)和比較遠的未來(lái)這兩點(diǎn)來(lái)看待。

從我們近未來(lái)或甚至從我們現實(shí)來(lái)看，人工智能它對我們社會(huì )世界的影響我相信大家已經(jīng)都看到了，它現在已經(jīng)產(chǎn)生一個(gè)很明顯的趨勢：（人工智能）有可能在代替我們人去從事很多的工作。

這個(gè)應該說(shuō)是一個(gè)正面的趨勢，這種趨勢它可以提高我們的生活質(zhì)量、提升人類(lèi)的幸福感，讓我們的生活在科技的加持之下可能變得更加舒適。

但是另一方面我們也不能不正視，人工智能的發(fā)展給人類(lèi)社會(huì )帶來(lái)的沖擊。

首先，最明顯的一點(diǎn)是人工智能可能會(huì )代替相當多的「人的工作」，而且這個(gè)趨勢與我們以前的預測正好相反。


以前我們預測認為人工智能首先代替的是那些簡(jiǎn)單勞動(dòng)、重復勞動(dòng)的那樣的工作，但是現在看來(lái)正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那樣的工作，比如像醫生、教師、股票經(jīng)紀人等等這些工作可能是被首先代替的。這其中可能也包括我們作家也可能首先被代替的。

所以說(shuō)人工智能對于人類(lèi)的整個(gè)世界的發(fā)展來(lái)，它的影響很深遠。我們再往層次再高一些的話(huà)，人工智能可能會(huì )對我們世界中相當多的比較基礎的東西可能會(huì )產(chǎn)生重大的影響。

比如它會(huì )對文化藝術(shù)、文學(xué)，對這個(gè)人的創(chuàng )造力，對人的對世界的認識等等可能都會(huì )產(chǎn)生重大的影響，甚至可能讓這一些東西都會(huì )被重新定義。

當這個(gè)人工智能現在已經(jīng)開(kāi)始介入到我們的科學(xué)研究之中，介入到我們對整個(gè)世界規律、對自然規律的認識之中，介入到對人類(lèi)發(fā)展規律的認識之中，它可能產(chǎn)生的影響十分的深遠。

當初人工智能在圍棋領(lǐng)域戰勝很多優(yōu)秀的圍棋選手的時(shí)候，有一位我們國內最出色的圍棋選手說(shuō)了一句話(huà)，讓我印象很深刻。

他說(shuō)中國的圍棋博大精深，有兩三千年的歷史，積累了深厚的這個(gè)理論和經(jīng)驗，甚至圍棋本身成為一種文化，具有了很深的禪意，但是就在這一夜之間，我們發(fā)現它的一切全是錯的。

這一個(gè)說(shuō)法確實(shí)很令人震驚，這件事情會(huì )不會(huì )發(fā)生在別的領(lǐng)域我們不知道，如果廣泛發(fā)生的話(huà)，那么人工智能對人類(lèi)文化文明最深層的影響我們是不可忽視的。

下面我回答您的第二個(gè)問(wèn)題，就是說(shuō)人工智能是否會(huì )消滅人類(lèi)，這也應該分兩個(gè)層次來(lái)回答。

原文轉自：https://www.thepaper.cn/newsDetail_forward_23639458