警惕“智能超人”

王宿慧

作者：王宿慧，軍事科學(xué)院研究生院，在讀碩士研究生

人工智能，是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)，以及應(yīng)用系統(tǒng)的一門技術(shù)科學(xué)。其在研究人類自身智能的基礎(chǔ)上，借助現(xiàn)代科學(xué)技術(shù)手段，增強(qiáng)人類智能或模擬人類智能，提高了生產(chǎn)效率、生活質(zhì)量，以及決策的科學(xué)性和及時性。人工智能自1956年誕生以來，已進(jìn)入并快速改變著人類生產(chǎn)生活的方方面面。在交通領(lǐng)域，人工智能系統(tǒng)通過對路口信息的分析判斷，適時調(diào)整紅綠燈間隔，緩解交通壓力、減少事故發(fā)生概率，有效維護(hù)了人民生命財產(chǎn)安全。在醫(yī)學(xué)領(lǐng)域，人工智能的專家系統(tǒng)使得醫(yī)院對病人病情的把握快速精準(zhǔn)，節(jié)約了病人的時間和金錢，使看病更有保障。在經(jīng)濟(jì)領(lǐng)域，人工智能使復(fù)雜的體力任務(wù)自動化，提高了生產(chǎn)率?？梢?，人工智能帶來了巨大便利。

人類對世界的探索和開發(fā)從未停止，科學(xué)家們不斷追求著單純的科技進(jìn)步，他們的愿望是世界和平、歲月靜好，他們希望通過智慧推動人類社會的進(jìn)步和發(fā)展。但科學(xué)技術(shù)的發(fā)展和應(yīng)用史表明，技術(shù)有時會與人們的良好愿望背道而馳。歷史多次證明，任何一項新科技的發(fā)展和應(yīng)用，都是一把雙刃劍，在給人類帶來巨大利好的同時，也會產(chǎn)生一些次生的負(fù)面作用。

生化技術(shù)帶來文明，但其使用也遭異化。第二次世界大戰(zhàn)期間，日本法西斯專門組建了731特種部隊，使用中國軍民的活體進(jìn)行生物武器與化學(xué)武器的實驗，僅鼠疫一項活菌實驗，就害死我同胞3000多人。這是利用化學(xué)和生物技術(shù)戕害人類的令人發(fā)指的罪行?，F(xiàn)在，生化技術(shù)依然是禁止武器試驗的主要領(lǐng)域。核技術(shù)帶來了進(jìn)步，也曾造成過人道主義災(zāi)難。原子彈對廣島長崎的毀滅性打擊，切爾諾貝利核事故對地球環(huán)境的污染，始終是人類揮之不去的災(zāi)難記憶?，F(xiàn)在，核武器依然是懸在人類頭頂?shù)摹斑_(dá)摩克利斯之劍”。

當(dāng)前，世界主要大國均把促進(jìn)人工智能技術(shù)的發(fā)展和應(yīng)用提升到國家戰(zhàn)略層面，人工智能技術(shù)在全球范圍、各個領(lǐng)域得以飛速發(fā)展，并逐步對人類社會產(chǎn)生巨大而深刻的影響。在軍事領(lǐng)域，一些發(fā)達(dá)國家特別是美國已率先將人工智能技術(shù)應(yīng)用到武器裝備研發(fā)之中，以此謀求在未來戰(zhàn)爭中的代差優(yōu)勢和顛覆性勝算。為保護(hù)和擴(kuò)大自己的軍事優(yōu)勢，美國專門成立了聯(lián)合人工智能中心（JAIC），將人工智能和自主系統(tǒng)運用到作戰(zhàn)體系中，視為未來部隊組成的核心。美國政府也先后出臺多項措施，保證人工智能“領(lǐng)頭羊”地位，從國家戰(zhàn)略層面加緊布局，為人工智能更好地融入軍事領(lǐng)域搭橋鋪路。

物極必反，器滿則傾。當(dāng)人工智能發(fā)展到一定程度時，就可能擁有超越“自然人類”的智能，這些“超級人類”擁有意識、思維、記憶力、自我感知、自我學(xué)習(xí)等能力，且能實現(xiàn)自我提升。與一些人的歡呼雀躍不同，許多重量級科學(xué)家和科學(xué)團(tuán)體，對人工智能的發(fā)展前景進(jìn)行預(yù)測后表示擔(dān)憂：“超級人類”可能對“自然人類”構(gòu)成巨大威脅。

哈佛大學(xué)物理學(xué)家維納斯-格羅斯博士在他的論文當(dāng)中提出，未來具有自我編程的人工智能將得以自我完善，且這種行為是反復(fù)、單方面持續(xù)性加強(qiáng)的。當(dāng)程序開始自我進(jìn)化，勢必會有一個質(zhì)變的奇點，也就意味著具有感知地位的機(jī)器人已經(jīng)出現(xiàn)?；艚鸾淌谏皩θ斯ぶ悄馨l(fā)展也表達(dá)了擔(dān)憂：“我擔(dān)心人工智能將全面取代人類。如果有人能設(shè)計出計算機(jī)病毒，那么就會有人設(shè)計出能提升并復(fù)制自己的人工智能。這就會帶來一種能夠超越人類的全新生命形式?！?/p>

基于這些預(yù)測，可以推斷：一旦自我感知機(jī)器人或“超級人類”出現(xiàn)，對其所有的限定規(guī)則，均可能因偶然原因或必然原因而失效，進(jìn)而造成對“自然人類”的巨大威脅。一旦“超級人類”和我們“自然人類”干上了，我們能夠察覺隱患、排除故障嗎？我們有把握取勝嗎？也許有人說，這是杞人憂天。但是，發(fā)展出強(qiáng)人工智能甚至是超人工智能，只不過是時間問題。

習(xí)近平主席在9月17日致2018年世界人工智能大會的賀信中專門指出，“處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題”。面對可能的科技威脅，我們必須未雨綢繆，在加快技術(shù)發(fā)展的同時，也要對其進(jìn)行風(fēng)險評估，以應(yīng)對其負(fù)面效應(yīng)的挑戰(zhàn)，規(guī)避對其賦予過多的“擬人”能力。

摒棄傳統(tǒng)觀點，對人工智能的發(fā)展前景要有清醒的認(rèn)識。圖靈測試和眾多人工智能技術(shù)水平量度方案表明，短期內(nèi)尚難以實現(xiàn)超人工智能，但諸多合并人類智慧和機(jī)器智能的模式，已經(jīng)能夠獨立感知基本情感顆粒，并識別陌生物體。谷歌旗下的波士頓動力公司曾發(fā)布一款“機(jī)器狗”（Little Dog），具有極強(qiáng)的自我學(xué)習(xí)能力，能通過分析過往的錯誤而加以改進(jìn)。美國國防高級研究計劃局（DARPA）也給Gamalon公司投下巨資，因該公司的核心技術(shù)實現(xiàn)了由機(jī)器自主完成概率編程。實踐表明，人工智能已邁進(jìn)自主學(xué)習(xí)、自我進(jìn)化的大門。隨著各國加快建立“人工神經(jīng)網(wǎng)絡(luò)”，人工智能“深度學(xué)習(xí)”能力不斷加強(qiáng)，對其跟蹤評估應(yīng)是研發(fā)的重中之重。

制定相應(yīng)的法規(guī)、研發(fā)反制技術(shù)，提高防范的方法和能力。美國制訂了《人工智能未來法案》，對人工智能可能帶來的倫理問題、社會問題和法律問題進(jìn)行研究，以期為后續(xù)人工智能相關(guān)立法提供支持。由于人工智能的發(fā)展是基于互聯(lián)網(wǎng)海量的“大數(shù)據(jù)”和各種信息的實時交互。因此，可通過加強(qiáng)網(wǎng)絡(luò)安全來為人工智能的發(fā)展保駕護(hù)航，為其引入網(wǎng)絡(luò)安全評估機(jī)制。根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》和國務(wù)院《新一代人工智能發(fā)展規(guī)劃》，完善與人工智能相關(guān)的網(wǎng)絡(luò)安全等級保護(hù)制度；提高網(wǎng)絡(luò)檢測、分析技術(shù)；提高處理網(wǎng)絡(luò)安全應(yīng)急事件的處理能力。同時，促進(jìn)世界人工智能技術(shù)交流融合，提高全球性聯(lián)合應(yīng)對人工智能潛在風(fēng)險的能力。