人工智能20年后會(huì)毀滅人類？

朱江明

近日，韓國(guó)圍棋國(guó)手李世乭和谷歌人工智能系統(tǒng)AlphaGo對(duì)弈，成為全世界的新聞焦點(diǎn)。圍棋一直被視為棋類運(yùn)動(dòng)中最為復(fù)雜的一種，復(fù)雜到其排列組合數(shù)量甚至超過了宇宙中原子數(shù)量的總和，因此任何計(jì)算機(jī)系統(tǒng)都無法用窮舉法（計(jì)算所有可能）來戰(zhàn)勝人類，此前計(jì)算機(jī)圍棋系統(tǒng)與專業(yè)選手對(duì)弈時(shí)幾乎不堪一擊。AlphaGo系統(tǒng)卻在半年前成功擊敗了歐洲圍棋冠軍，并且在與李世乭的對(duì)弈中連續(xù)取勝。盡管這次對(duì)弈只是圍棋上的對(duì)決，然而由于圍棋一直被人類棋手所壟斷，計(jì)算機(jī)對(duì)決人類頂尖選手并獲勝本身就具備象征意義。公眾開始擔(dān)心，類似電影《終結(jié)者》中的天網(wǎng)系統(tǒng)，會(huì)不會(huì)在不遠(yuǎn)的將來出現(xiàn)，給人類造成毀滅性的打擊呢？

盡管無人機(jī)和無人戰(zhàn)車已經(jīng)開始在戰(zhàn)場(chǎng)上普及，大量的武裝無人機(jī)甚至承擔(dān)了大部分針對(duì)基地組織等恐怖組織的打擊任務(wù)。美軍早已成立了專門的無人機(jī)作戰(zhàn)司令部，來統(tǒng)籌各軍兵種的無人機(jī)使用，這一切都意味著人工智能武器正在戰(zhàn)場(chǎng)上普及。然而我們必須承認(rèn)一個(gè)事實(shí)——無人戰(zhàn)爭(zhēng)時(shí)代還未全面到來。

從李世乭對(duì)弈AlphaGo的第四局就可以看出，電腦系統(tǒng)在對(duì)方出其不意的攻勢(shì)之下，出現(xiàn)了嚴(yán)重的系統(tǒng)紊亂。當(dāng)這種情況出現(xiàn)時(shí)，系統(tǒng)的錯(cuò)誤反應(yīng)可能會(huì)導(dǎo)致戰(zhàn)術(shù)上非常嚴(yán)重的失誤，進(jìn)而使全局失敗。圍棋對(duì)弈的確需要非常復(fù)雜的計(jì)算，然而與戰(zhàn)場(chǎng)環(huán)境相比，圍棋恐怕仍有所不如。

從最近美軍無人機(jī)曾經(jīng)多次被伊朗成功擊落或者俘獲就可以看出，具備一定程度自主運(yùn)作的無人機(jī)平臺(tái)，實(shí)際上仍存在很多并未暴露的缺陷。只有通過高強(qiáng)度的對(duì)抗，無人作戰(zhàn)平臺(tái)的設(shè)計(jì)者才能發(fā)現(xiàn)這些漏洞從而提高整體的表現(xiàn)。然而從現(xiàn)在的國(guó)際環(huán)境來看，全球缺乏與美軍勢(shì)均力敵的作戰(zhàn)對(duì)手，自然無法誕生這種足以提升無人作戰(zhàn)系統(tǒng)能力的復(fù)雜環(huán)境。

在現(xiàn)實(shí)中，美國(guó)空軍甚至認(rèn)為在反恐戰(zhàn)場(chǎng)上的作戰(zhàn)設(shè)定比軍演更簡(jiǎn)單。這導(dǎo)致相關(guān)系統(tǒng)無法從實(shí)戰(zhàn)中獲得壓力測(cè)試的數(shù)據(jù)，也就意味著系統(tǒng)很可能存在一些容易被人利用的漏洞。顯然美國(guó)軍方對(duì)此心知肚明，盡管無人機(jī)已經(jīng)被廣泛應(yīng)用于戰(zhàn)爭(zhēng)，有人作戰(zhàn)平臺(tái)依舊是戰(zhàn)場(chǎng)的主力。無人作戰(zhàn)平臺(tái)暫時(shí)只是承擔(dān)了“打下手”的工作，例如長(zhǎng)期的偵察監(jiān)視和針對(duì)特定目標(biāo)的攻擊。全面戰(zhàn)爭(zhēng)還需要依靠戰(zhàn)斗機(jī)、轟炸機(jī)等有人空中力量的支援。不僅類似無人機(jī)這種機(jī)器人的作戰(zhàn)武器成熟度不足，即使是已經(jīng)相當(dāng)成熟的自動(dòng)化防空系統(tǒng)，也還需要保持人工干預(yù)的能力。此前，在歷次戰(zhàn)爭(zhēng)中自動(dòng)化防空系統(tǒng)都出現(xiàn)過誤擊友軍的情況。

除此之外，還有所謂自動(dòng)化的末日系統(tǒng)。早在蘇聯(lián)時(shí)代，曾有計(jì)劃將核反擊的任務(wù)完全交由計(jì)算機(jī)系統(tǒng)來完成，這樣即便高層全部陣亡，蘇聯(lián)仍舊具備核反擊能力。然而蘇聯(lián)人并不信賴這套系統(tǒng)，因?yàn)楫?dāng)時(shí)曾經(jīng)數(shù)次出現(xiàn)因?yàn)橛?jì)算機(jī)錯(cuò)誤而幾乎導(dǎo)致全球核戰(zhàn)危機(jī)爆發(fā)。無論是人工智能還是自動(dòng)化計(jì)算機(jī)系統(tǒng)，在武器裝備的應(yīng)用范圍一直被嚴(yán)格限制和管控，從設(shè)計(jì)之初就保留了足夠的人工干預(yù)接口，這不僅是對(duì)其發(fā)展的擔(dān)心，同時(shí)也是避免其自身可靠性出現(xiàn)問題的必要措施。由此可見，在10年內(nèi)出現(xiàn)天網(wǎng)這種系統(tǒng)的概率并不高，當(dāng)然10年后的情況卻很難說。

美國(guó)軍方正在研究使用大量無人機(jī)進(jìn)行所謂蜂群（swarm）協(xié)同作戰(zhàn)。與過去猶如孤狼行動(dòng)的無人機(jī)相比，蜂群化作戰(zhàn)等于讓一個(gè)批次的無人機(jī)，自行協(xié)同作戰(zhàn)。這些無人機(jī)不僅能分享各自獲得的情報(bào)，并且能自動(dòng)分配攻擊目標(biāo)的先后順序，同時(shí)在部分被擊落的情況下，剩余的機(jī)組仍能夠繼續(xù)完成任務(wù)。這種作戰(zhàn)模式已經(jīng)不僅僅是航空動(dòng)力學(xué)的問題，還涉及到非常復(fù)雜的算法和更為高級(jí)的人工智能標(biāo)準(zhǔn)。盡管現(xiàn)在蜂群概念主要應(yīng)用于小型無人機(jī)集群，然而這種模式一旦被證明成功，必然會(huì)被應(yīng)用于更為大型的無人作戰(zhàn)平臺(tái)，將對(duì)戰(zhàn)爭(zhēng)的發(fā)展產(chǎn)生深遠(yuǎn)的影響。

蜂群無人機(jī)作戰(zhàn)概念的出現(xiàn)，其實(shí)說明了一個(gè)問題，無人機(jī)現(xiàn)在還不具備集群攻擊能力，無人作戰(zhàn)平臺(tái)的技術(shù)還很原始。當(dāng)然一旦蜂群作戰(zhàn)系統(tǒng)試驗(yàn)成功，更為接近電影《終結(jié)者》中殺人機(jī)器人的武器也就真正出現(xiàn)了。好在經(jīng)歷了蘇聯(lián)“自動(dòng)化末日系統(tǒng)”的驚悚教訓(xùn)，各國(guó)都不會(huì)把最為關(guān)鍵的毀滅性武器交給計(jì)算機(jī)掌握。而且蜂群模式現(xiàn)在還處于測(cè)試階段，在不玩核戰(zhàn)爭(zhēng)的情況下，按照現(xiàn)有的人工智能技術(shù)發(fā)展，20年內(nèi)還是無法毀滅人類的。