人工智能，帶來的是美好還是危機(jī)？

蘆偉

事實(shí)上，自從人工智能誕生以來，關(guān)于這方面的討論就沒有停止過。近年來，隨著人工智能獲得突破性發(fā)展和應(yīng)用，在世界象棋冠軍、圍棋冠軍均被人工智能碾壓式打敗后，討論更盛。一些人認(rèn)為，人工智能正變得比人更聰明，它們能夠從人的大腦和身體中獲得非常完整的數(shù)據(jù)流，在未來的生活中，人工智能能讓人類效率更高、生活更美好，幫助人類作出決策。另外一些人相信，像人類這樣的生物僅僅是算法的產(chǎn)物，該算法嵌入DNA和神經(jīng)網(wǎng)絡(luò)邏輯之中，人工智能不斷通過模仿和學(xué)習(xí)，有可能超越和控制人類。

生命3.0

《生命3.0》是一本近來很火的暢想人工智能未來的書。該書作者邁克斯·泰格馬克是麻省理工大學(xué)物理系終身教授，也是未來生命研究所創(chuàng)始人。該組織匯集了包括史蒂芬·霍金、埃隆·馬斯克、比爾·蓋茨在內(nèi)的8，000多名全球頂尖人工智能專家，致力于規(guī)避高級(jí)人工智能帶來的人類生存風(fēng)險(xiǎn)。

此書中，泰格馬克對(duì)于生命與人工智能的關(guān)系進(jìn)行以下解讀。他認(rèn)為，生命就是一個(gè)會(huì)不斷復(fù)制自我的系統(tǒng)，有硬件也有軟件，可以劃分為生命1.0、生命2.0和生命3.0三個(gè)階段：

生命1.0：系統(tǒng)不能重新設(shè)計(jì)自己的軟件和硬件，兩者都是由DNA決定的。這個(gè)地球上現(xiàn)存的絕大多數(shù)動(dòng)植物，都處在生命1.0的階段。

生命2.0：系統(tǒng)還是不能重新設(shè)計(jì)自己的硬件，但是，它能夠重新設(shè)計(jì)自己的軟件，可以通過學(xué)習(xí)獲得很多復(fù)雜的新技能。人類就是生命2.0的代表。我們的身體通過基因來決定，而個(gè)人的認(rèn)知水平，則是通過后天來學(xué)習(xí)和塑造。

生命3.0：系統(tǒng)能自己設(shè)計(jì)軟件和硬件，生命不再依賴血肉之軀的進(jìn)化，硅基等硬件也可以成為生命的載體。美劇《西部世界》第二季當(dāng)中，覺醒了的機(jī)器人接待員就是生命3.0的代表，他們不僅能在智能上快速迭代，在身體上也能隨時(shí)重新設(shè)計(jì)更換。生命3.0也被稱為超級(jí)人工智能階段。從這個(gè)角度來看，超級(jí)人工智能誕生于人類之手，是比人類更高級(jí)的生命體。他們不僅比我們擁有更高級(jí)的智慧，而且能擺脫軀體的桎梏，獲得永生。

如此而言，生命3.0簡直太可怕了。首先，所謂生命3.0這個(gè)物體是定義為人還是機(jī)器？其次，如果定義為機(jī)器，那么一旦超級(jí)智能出現(xiàn)，它不僅會(huì)替代人類做很多工作，讓很多人失業(yè)，成為無用之人，更可怕的是人類有可能會(huì)被它們所統(tǒng)治。

人工智能比核武器更危險(xiǎn)

艾倫·圖靈被稱為人工智能之父，他創(chuàng)造了著名的圖靈實(shí)驗(yàn)，來測(cè)試機(jī)器是否具有智能。英國數(shù)學(xué)家約翰·古德曾和艾倫·圖靈一起共同研究課題。關(guān)于超級(jí)人工智能，約翰·古早在1965年就曾發(fā)出過警告。他宣稱：機(jī)器人或?qū)⑹侨祟惖淖詈笠粋€(gè)發(fā)明，其未來發(fā)展可超越人類自身，隨著智能爆炸的出現(xiàn)，超級(jí)機(jī)器人將遠(yuǎn)超人類智慧。除非能夠保證它絕對(duì)服從和受控，否則第一臺(tái)超級(jí)智能機(jī)器絕對(duì)是人類最不應(yīng)該擁有的發(fā)明。著名物理學(xué)家斯蒂芬·霍金也曾宣稱：“人工智能的全面發(fā)展可能預(yù)示著人類的終結(jié)。特斯拉老板埃隆·馬斯克認(rèn)為，人工智能可能比核武器更危險(xiǎn)?！?/p>

我們目前人工智能所取得進(jìn)展和成功，如自動(dòng)駕駛、下棋、機(jī)器視覺、專家系統(tǒng)等，在科學(xué)家的眼睛里都還屬于“弱人工智能”，距離超級(jí)智能還有相當(dāng)距離。但人類在好奇、欲望與資本、商業(yè)的裹挾下，必定會(huì)朝著超級(jí)人工智能越走越近。

那么超級(jí)智能，也就是生命3.0什么時(shí)候會(huì)實(shí)現(xiàn)呢？泰格馬克表示還不確定，可能是幾十年、幾百年，也可能因?yàn)槟承┤藶榈囊蛩貙?dǎo)致它永遠(yuǎn)都不出現(xiàn)。但人工智能在乘數(shù)效應(yīng)的推動(dòng)下會(huì)變得越來越強(qiáng)大，到了那時(shí)，留給人類試錯(cuò)的空間將越來越小。當(dāng)人類研發(fā)出核武器之后，必須就限制核武器達(dá)成公約，因?yàn)楹藨?zhàn)爭一旦打響，人類的家園地球就可能面臨毀滅。核戰(zhàn)爭不會(huì)給人類第二次機(jī)會(huì)，人工智能也是如此，當(dāng)它變得更為強(qiáng)大之后，將不得不考量它是否會(huì)給人類帶來傷害，因而必須達(dá)成一定的操作規(guī)則來確保其目標(biāo)與人類一致。

為了防止人工智能被濫用，泰格馬克與未來生命研究所的8，000名科學(xué)家共同發(fā)布了《阿斯洛馬人工智能原則聲明》，表明 “超級(jí)人工智能只能在廣泛共享的倫理理想下發(fā)展其服務(wù)，而且其發(fā)展應(yīng)該是為了增加全人類的福祉而不是為了某個(gè)國家或組織的利益……應(yīng)該避免致命性自主武器領(lǐng)域的軍備競賽。”

沒有意識(shí)的人工智能

對(duì)于未來超級(jí)人工智能的威脅也有人不以為然。美國著名經(jīng)濟(jì)學(xué)家、未來學(xué)家、喬治·吉爾德認(rèn)為，人工智能無法與人類智能競爭，因?yàn)槿斯ぶ悄茈x不開為其提供符號(hào)系統(tǒng)和語言的人類思維，是人類規(guī)劃了這一切。無論人工智能在訓(xùn)練中所吸收的信息是文字還是像素，這一切都是人為組織的結(jié)果。人為人工智能提供并制定了大數(shù)據(jù)，并在其中找到數(shù)值相關(guān)性。是人建立了目標(biāo)、獎(jiǎng)勵(lì)方案和目標(biāo)序列，使人工智能能夠迭代、優(yōu)化并最后總結(jié)出一個(gè)解決方案。人工智能由輸入組成，通過復(fù)雜的算法集進(jìn)行輸出，它根本無法思考。

而且人的思維是有意識(shí)的、主動(dòng)的、有想象力、有創(chuàng)造力的，但人工智能本身缺乏意識(shí)，它是決定論順序的組成部分，缺乏喜出望外或使人驚訝的能力。一臺(tái)以千兆赫的速度運(yùn)行的計(jì)算機(jī)，即便是在玩國際象棋或圍棋這樣的決定論游戲時(shí)，也只不過是一臺(tái)機(jī)器而已。人工智能是計(jì)算機(jī)算法的輸出，這些算法由精心安排的電子元素組成。這些元素通過布爾邏輯方案、樹形結(jié)構(gòu)和“神經(jīng)網(wǎng)絡(luò)”獲得各自的含義。

真如喬治·吉爾德所言，人類的意識(shí)是獨(dú)特的嗎？如果意識(shí)是人類才有的主觀體驗(yàn)，那么，人工智能就不具備。但也有研究表明，人造意識(shí)是有可能產(chǎn)生的。如果是這樣，人類確實(shí)應(yīng)該謹(jǐn)慎對(duì)待人工智能的發(fā)展。

微軟亞洲研究院第四任院長洪小文也一直在研究專注人工智能的發(fā)展。他表示，人工智能發(fā)展到現(xiàn)在已經(jīng)可以做很多事情，但要達(dá)到人的智慧還有很長的路要走，目前都以邏輯測(cè)試為主，強(qiáng)調(diào)理性，固然這符合人類對(duì)智慧的定義，但人類還有非常豐富的情感、情緒、同理心等等。也正因?yàn)檫@樣，讓人工智能可以繼續(xù)作為一門非常值得研究的學(xué)問。

至于人工智能會(huì)不會(huì)讓機(jī)器取代人類甚至奪取世界，洪小文表示，要相信人類的智慧，人工智能與移動(dòng)技術(shù)、互聯(lián)網(wǎng)技術(shù)、PC技術(shù)并無本質(zhì)不同，都是一種技術(shù)。人類研發(fā)技術(shù)和機(jī)器都是為人類服務(wù)的。人是世界上最聰明的生物，人的智慧一定會(huì)把人工智能用在正途，做可以對(duì)人類產(chǎn)生最大益處的事。有人可能會(huì)把這些東西拿去做壞事，但那是壞人，我們有法律，我們有智慧可以界定和應(yīng)對(duì)。

長大之后取代了你

對(duì)于越發(fā)強(qiáng)大的人工智能，人們既興奮、又恐懼。興奮的是它確實(shí)給我們帶來了很多的便利、快捷、享受和美好體驗(yàn)；同時(shí)又恐懼，怕不能很好的駕馭它，給人類帶來麻煩，長大之后可能就會(huì)取代了你。無論怎樣，人工智能時(shí)代已經(jīng)降臨，我們有幸成為了這個(gè)時(shí)代的見證者，未來到底會(huì)變成什么樣，誰也無法確定。