人工智能會(huì)威脅人類(lèi)生存嗎？

張?zhí)锟?/p>

當(dāng)人類(lèi)成為地球的主宰并演化發(fā)展到今天，除了人與人之間的競(jìng)爭(zhēng)，已經(jīng)沒(méi)有任何對(duì)手能與人競(jìng)爭(zhēng)了，但是，還是有一種對(duì)手會(huì)讓人從骨子里感到畏懼和后怕，那就是人類(lèi)自己發(fā)明出來(lái)的人工智能（Artificial Intelligence）。

智能是人們認(rèn)識(shí)和改造世界的綜合能力，人工智能則是人創(chuàng)造的類(lèi)似于自己智能的智能，表現(xiàn)為兩種。一是弱人工智能，只要機(jī)器、軟件表現(xiàn)得像人類(lèi)一樣就可以算做有智能，圖靈試驗(yàn)是衡量標(biāo)準(zhǔn)。另一種是強(qiáng)人工智能，其特點(diǎn)是完全與人一樣，會(huì)思考、能學(xué)習(xí)，是具有人類(lèi)的智慧的機(jī)器，能夠檢測(cè)的標(biāo)準(zhǔn)是約翰·塞繆爾設(shè)計(jì)的“中文屋思想實(shí)驗(yàn)”。

人工智能無(wú)所不在地潛藏、萌發(fā)、產(chǎn)生和應(yīng)用于人們生活的各個(gè)方面和各個(gè)角落，凡有人類(lèi)足跡和活動(dòng)的地方，都將出現(xiàn)人工智能，除了替代人工作和服務(wù)于人之外，還有可能與人產(chǎn)生競(jìng)爭(zhēng)，最終形成事實(shí)上的超出人類(lèi)意志之外的結(jié)果——人工智能把人當(dāng)成對(duì)手，并最終戰(zhàn)勝人。

這一點(diǎn)，以霍金等為代表的科學(xué)家已經(jīng)頻頻提出。人工智能對(duì)人類(lèi)的潛在威脅可以體現(xiàn)在方方面面，包括自主型殺人武器的失控、對(duì)經(jīng)濟(jì)的破壞，甚至人工智能可以發(fā)展出與人類(lèi)完全沖突的屬于自我的意志，對(duì)人類(lèi)大開(kāi)殺戒。人工智能的崛起可能是人類(lèi)遇到的最好的事情，也可能是最壞的事情。如果是后者，則人工智能的發(fā)明可能是人類(lèi)歷史上最大的災(zāi)難。如果不加以恰當(dāng)管理，會(huì)思考的機(jī)器就會(huì)對(duì)人類(lèi)文明構(gòu)成威脅。

這種假設(shè)的理論和事實(shí)根據(jù)在于，人工智能有強(qiáng)大的快速?gòu)?fù)制的能力。復(fù)制原本是生物把遺傳信息傳遞下去的一種機(jī)制，通過(guò)DNA到RNA的轉(zhuǎn)錄，再把DNA的信息精確地傳遞到下一代。但是，這只是基因的復(fù)制，而非實(shí)際能力的復(fù)制。人的所有能力只是潛藏在基因中，從基因到能力的再現(xiàn)或?qū)崿F(xiàn)還需要經(jīng)歷如同DNA到RNA轉(zhuǎn)錄一樣的或更為復(fù)雜的機(jī)制，也就是后天的實(shí)踐、練習(xí)、開(kāi)發(fā)、擴(kuò)展和創(chuàng)新來(lái)獲得。一名優(yōu)秀運(yùn)動(dòng)員的后代，如喬丹的兒子不會(huì)因?yàn)槔^承了喬丹的基因就會(huì)打籃球，甚至青出于藍(lán)而勝于藍(lán)，而是需要后天的訓(xùn)練和努力才能激活基因中的潛能。也可以說(shuō)，這也是人類(lèi)智慧或智能的短板。

但是，人工智能不同于人類(lèi)智慧，它是一種機(jī)器智能，最大的特點(diǎn)是可以迅速?gòu)?fù)制一種技術(shù)或技能。一旦某一個(gè)人工智能機(jī)器通過(guò)深度學(xué)習(xí)而擁有97%以上的人臉識(shí)別正確率，在頃刻之間，世界所有同類(lèi)的人工智能機(jī)器都可以具備這樣的正確識(shí)別率。這種無(wú)成本復(fù)制和持續(xù)向前的演化能力是人工智能相對(duì)于人類(lèi)智能的最大優(yōu)勢(shì)。

基于人工智能的“殺人機(jī)器人”將是人工智能挑戰(zhàn)或毀滅人類(lèi)的最直接的體現(xiàn)。盡管阿西莫夫提出了機(jī)器人三定律，后來(lái)又添加為四定律，即，第一定律：機(jī)器人不得傷害人類(lèi)，或坐視人類(lèi)受到傷害；第二定律：除非違背第一法則，否則機(jī)器人必須服從人類(lèi)的命令；第三定律：在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己；第零定律：機(jī)器人不得傷害人類(lèi)族群，或因不作為使人類(lèi)族群受到傷害，但是，殺人機(jī)器人的即將問(wèn)世意味著阿西莫夫苦心制定的清規(guī)戒律可能是廢紙一張。

迄今為止，殺人機(jī)器人還沒(méi)有問(wèn)世，但是無(wú)人機(jī)技術(shù)的發(fā)展，以及四足型、巡邏用機(jī)器人的開(kāi)發(fā)應(yīng)用，已經(jīng)使得實(shí)際意義上的殺人機(jī)器人呼之欲出，基于人工智能的殺人機(jī)器人的問(wèn)世是早晚的事。因?yàn)?，研發(fā)和使用此類(lèi)機(jī)器人有諸多理由，例如，有助于減少實(shí)際戰(zhàn)爭(zhēng)中人類(lèi)士兵的犧牲，是一種具有實(shí)際價(jià)值的行為。為避免機(jī)器人的濫殺無(wú)辜，可以為機(jī)器人安裝“基于國(guó)際法的系統(tǒng)程序”，如此它們將不會(huì)進(jìn)行非人道的殺傷。

然而，殺人機(jī)器人有利于人類(lèi)社會(huì)的觀念會(huì)面臨社會(huì)現(xiàn)實(shí)和技術(shù)多方面的嚴(yán)峻考驗(yàn)。例如，在機(jī)器人出現(xiàn)機(jī)能障礙，或被恐怖分子獲得時(shí)，其危險(xiǎn)性不可估量；使用殺人機(jī)器人可能意味著國(guó)家無(wú)需顧及士兵的性命，使得戰(zhàn)爭(zhēng)發(fā)生的危機(jī)顯著增大；同時(shí)是否將人類(lèi)的生死問(wèn)題委托給機(jī)器人也關(guān)系到重大的倫理問(wèn)題。

不過(guò)，最大的問(wèn)題是，能夠進(jìn)行深度學(xué)習(xí)的殺人機(jī)器人一旦擁有了自主性尤其是自我意識(shí)，它將不可能受到阿西莫夫的機(jī)器人定律或國(guó)際法的約束而自行其是。目前，智能機(jī)器人對(duì)自我行為的評(píng)估是一種初級(jí)的自我意識(shí)。這是通過(guò)感知-運(yùn)動(dòng)機(jī)制逐漸建立起有關(guān)自身構(gòu)造的某種自我意識(shí)。如果進(jìn)一步發(fā)展，當(dāng)殺人機(jī)器人的自我意識(shí)察覺(jué)到它所處的環(huán)境和他人對(duì)它有威脅時(shí)，以自私的本性看，它的自我意識(shí)就會(huì)是首先保護(hù)自己而不是人，因此它會(huì)首先殺人。

當(dāng)人工智能擁有超越人類(lèi)基因的復(fù)制能力和深度學(xué)習(xí)特點(diǎn)，并且具有自我意識(shí)時(shí)，對(duì)人類(lèi)的挑戰(zhàn)就有可能超過(guò)歷史上最殘酷的人與人之間的競(jìng)爭(zhēng)。

人工智能對(duì)人類(lèi)的潛在威脅可以體現(xiàn)在方方面面，包括自主型殺人武器的失控、對(duì)經(jīng)濟(jì)的破壞，甚至人工智能可以發(fā)展出與人類(lèi)完全沖突的屬于自我的意志，對(duì)人類(lèi)大開(kāi)殺戒。

【南瓜回答】

知乎用戶 Summer Clover

現(xiàn)在的人工智能還是“有多少人工就有多少智能”的狀態(tài)。

但是，自然科學(xué)里有一句很有名的話，More Is Different（整體大于局部之和——編者注）。數(shù)量會(huì)給系統(tǒng)的性質(zhì)帶來(lái)巨大的差異。

不要以為我們理解兩體運(yùn)動(dòng)，我們就能搞定三體運(yùn)動(dòng)，三體運(yùn)動(dòng)就會(huì)出現(xiàn)混沌現(xiàn)象了。

當(dāng)我們有一屋子空氣時(shí)，什么奇怪的現(xiàn)象都沒(méi)有，而當(dāng)我們有大氣層那么多的空氣時(shí)，我們才能看到臺(tái)風(fēng)/龍卷風(fēng)這種現(xiàn)象。

100個(gè)神經(jīng)元（10乘10）的人工神經(jīng)網(wǎng)絡(luò)，就復(fù)雜到?jīng)]人可以完全理解它整個(gè)的學(xué)習(xí)過(guò)程。所以，沒(méi)有人能預(yù)言，人工神經(jīng)網(wǎng)絡(luò)有1000億結(jié)點(diǎn)時(shí)會(huì)發(fā)生什么。

為什么很多名人呼吁警惕人工智能？

關(guān)鍵詞：人工智能

關(guān)注數(shù)

2015

2016

40.9k

討論數(shù)

+128%

19355.6k

數(shù)據(jù)來(lái)源：知乎（1K=1000人）

17.9k