人工智能嵌入網(wǎng)絡(luò)安全:技術(shù)風(fēng)險(xiǎn)、國(guó)際規(guī)范與理念博弈*

■ 趙瑞琦

在人工智能賦能的網(wǎng)絡(luò)安全領(lǐng)域,已經(jīng)出現(xiàn)了軍備競(jìng)賽、人工智能攻擊手段擴(kuò)散和技術(shù)失控的苗頭與風(fēng)險(xiǎn),并進(jìn)而成為新興的復(fù)雜、嚴(yán)峻的非傳統(tǒng)安全問(wèn)題之一。人工智能能否順利應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域或者是否會(huì)利大于弊,很大程度上取決于人類(lèi)是否有足夠的能力來(lái)建構(gòu)適切的治理規(guī)范并確立適切的倫理規(guī)范,以駕馭這種技術(shù)。

本文綜合考慮技術(shù)可能與戰(zhàn)略、政策和倫理的需要,基于人類(lèi)應(yīng)該對(duì)自主系統(tǒng)擁有權(quán)力這一人工智能發(fā)展中不可偏離的原則,嘗試從理論知識(shí)和實(shí)踐知識(shí)出發(fā),思考在建立普遍遵守的人工智能?chē)?guó)際規(guī)范的過(guò)程中需要在本階段回應(yīng)與解決的現(xiàn)實(shí)問(wèn)題的思路,包括:評(píng)估錯(cuò)誤或失控的風(fēng)險(xiǎn),探討構(gòu)建共同準(zhǔn)則的可能,解析人工智能發(fā)展的倫理理念等等。本文所述是根據(jù)已經(jīng)發(fā)生的人工智能事件或?qū)W術(shù)界普遍認(rèn)可的發(fā)展趨勢(shì),來(lái)分析人工智能對(duì)網(wǎng)絡(luò)安全的影響,并初步探討構(gòu)建共同準(zhǔn)則時(shí)的可能路徑及面對(duì)倫理困境時(shí)的可能抉擇,具體構(gòu)建的過(guò)程和結(jié)果將是開(kāi)放的,何為適切的倫理抉擇也是有待討論的。

一、安全風(fēng)險(xiǎn):數(shù)字軍備競(jìng)賽與自動(dòng)武器失控

為了在新一輪以科技為主導(dǎo)的國(guó)際競(jìng)爭(zhēng)中掌握更多的主動(dòng)權(quán)、贏得先機(jī),許多國(guó)家和區(qū)域,尤其是美國(guó)、中國(guó)和歐盟,均出臺(tái)相關(guān)戰(zhàn)略或政策進(jìn)行總體和全面的布局,以全力推動(dòng)和引導(dǎo)人工智能在網(wǎng)絡(luò)安全領(lǐng)域的發(fā)展與應(yīng)用,全方位重塑網(wǎng)絡(luò)安全模式、優(yōu)化網(wǎng)絡(luò)安全結(jié)構(gòu)、增強(qiáng)網(wǎng)絡(luò)安全能力。

網(wǎng)絡(luò)安全本就是目前全球面臨的最復(fù)雜、最現(xiàn)實(shí)和最嚴(yán)峻的非傳統(tǒng)安全問(wèn)題之一。而人工智能的嵌入,解鎖了新的攻擊與防御渠道,可能導(dǎo)致網(wǎng)絡(luò)沖突頻繁化、尖端化并日益具有破壞性。有兩種前景特別引人擔(dān)憂(yōu):人工智能廣泛、無(wú)節(jié)制使用甚至惡意軟件泛濫,會(huì)導(dǎo)致新一波的網(wǎng)絡(luò)軍備競(jìng)賽；人類(lèi)無(wú)法控制網(wǎng)絡(luò)攻防中人工智能勝負(fù)角逐,面臨技術(shù)失控的風(fēng)險(xiǎn),只能任其發(fā)展,而戰(zhàn)爭(zhēng)的流動(dòng)性、聯(lián)網(wǎng)設(shè)備的數(shù)量以及移動(dòng)計(jì)算能力的缺陷,會(huì)使得并不成熟的人工智能有引發(fā)現(xiàn)實(shí)的動(dòng)能戰(zhàn)爭(zhēng)的危險(xiǎn)。

(一)人工智能使網(wǎng)絡(luò)戰(zhàn)的可能性加大

在2016年,兩個(gè)預(yù)示人工智能技術(shù)快速進(jìn)步和潛在應(yīng)用的里程碑事件出現(xiàn):其一,美國(guó)國(guó)防高級(jí)研究計(jì)劃局(Defense Advanced Research Projects Agency,簡(jiǎn)稱(chēng)DARPA)網(wǎng)絡(luò)挑戰(zhàn)賽(Cyber Grand Challenge)的獲勝者“Mayhem”證明了自動(dòng)檢測(cè)和修補(bǔ)軟件漏洞的潛力——這改變了網(wǎng)絡(luò)安全的防護(hù)規(guī)則；其二,谷歌的AlphaGo戰(zhàn)勝需要出類(lèi)拔萃直覺(jué)和評(píng)估技能的圍棋世界頂級(jí)選手——這顯示,在一定規(guī)則下的邏輯思維領(lǐng)域,計(jì)算機(jī)的學(xué)習(xí)能力與思考能力至少可以與人類(lèi)并駕齊驅(qū)。對(duì)此中意義,中共中央軍委聯(lián)合參謀部有明確認(rèn)知:“阿爾法圍棋”對(duì)韓國(guó)圍棋選手李世石的壓倒性勝利“展示了人工智能在作戰(zhàn)指揮、方案推演、輔助決策中的巨大潛能”①。

目前,人工智能進(jìn)展主要涉及機(jī)器的深度學(xué)習(xí)技術(shù),例如涉及計(jì)算機(jī)視覺(jué)模式識(shí)別和自然語(yǔ)言處理等使用深度神經(jīng)網(wǎng)絡(luò)的技術(shù)領(lǐng)域。在網(wǎng)絡(luò)安全領(lǐng)域,人工智能的應(yīng)用主要體現(xiàn)在兩個(gè)層面:

其一是由人工智能驅(qū)動(dòng)的機(jī)器很可能成為未來(lái)戰(zhàn)場(chǎng)上主要的網(wǎng)絡(luò)“戰(zhàn)士”。基于人工智能的復(fù)雜算法可用來(lái)操作惡意軟件,支持其在傳播過(guò)程中自我學(xué)習(xí),不斷進(jìn)行改革,并模仿系統(tǒng)中用戶(hù)的行為以弄清楚其周邊環(huán)境并隱藏自己,從而盡可能長(zhǎng)時(shí)間地隱藏在計(jì)算機(jī)系統(tǒng)中。同時(shí),由人工智能提供支持的自動(dòng)化系統(tǒng)可以探測(cè)網(wǎng)絡(luò)和系統(tǒng),搜索可能被利用的未發(fā)現(xiàn)的漏洞。由此,基于人工智能惡意軟件的網(wǎng)絡(luò)釣魚(yú)②、基于內(nèi)部人員(包括員工、臨時(shí)員工、承包商和業(yè)務(wù)合作伙伴)的社會(huì)工程攻擊(Social Engineering Attack)的比例越來(lái)越高。比如,通過(guò)人工智能的深度造假(Deepfake)技術(shù),可以創(chuàng)建以假亂真的視頻和音頻或精心設(shè)計(jì)的電子郵件以欺騙目標(biāo)個(gè)體。隨著人工智能驅(qū)動(dòng)攻擊工具的網(wǎng)絡(luò)易得性和技術(shù)平民化,使得即使是個(gè)體罪犯也能夠發(fā)起復(fù)雜的有針對(duì)性的攻擊。而且,這種基于人工智能的工具包可以使進(jìn)行每一個(gè)額外目標(biāo)攻擊的邊際成本趨于零。

其二是采用混合人工智能方法,可以提高網(wǎng)絡(luò)安全防御能力,甚至起到革命性作用:利用人工智能來(lái)驗(yàn)證密碼、識(shí)別漏洞和脆弱性；相應(yīng)的回應(yīng)和反擊將更迅速、更準(zhǔn)確并更具破壞性。由此,威脅將在數(shù)小時(shí)內(nèi)而非數(shù)天或數(shù)周來(lái)處理。并且,防御者可以使用人工智能來(lái)對(duì)自身的網(wǎng)絡(luò)發(fā)動(dòng)模擬攻擊,以找到漏洞識(shí)別威脅并在攻擊者發(fā)現(xiàn)之前關(guān)閉或修補(bǔ)漏洞,以更好地加強(qiáng)自身的系統(tǒng)以免受攻擊。

(二)人工智能的軍備競(jìng)賽并非危言聳聽(tīng)

軍事需求歷來(lái)是推動(dòng)技術(shù)變革的重要力量,特別是在一些戰(zhàn)略性領(lǐng)域,新技術(shù)與軍事變革之間是個(gè)彼此助推的互動(dòng)過(guò)程。美國(guó)是世界上第一個(gè)引入網(wǎng)絡(luò)戰(zhàn)概念的國(guó)家,它一直在利用信息通信技術(shù)領(lǐng)域的先發(fā)優(yōu)勢(shì)及美國(guó)企業(yè)在網(wǎng)絡(luò)基礎(chǔ)設(shè)施方面的壟斷地位,監(jiān)視和獲取全球通信數(shù)據(jù)。

同時(shí),美國(guó)軍隊(duì)和情報(bào)機(jī)構(gòu)也正在打造堪比其核武力量的全球最大網(wǎng)絡(luò)武器庫(kù)。2009年,美國(guó)軍方成立網(wǎng)絡(luò)司令部,在2010年正式運(yùn)行并在2017年升級(jí)為美軍第十個(gè)聯(lián)合作戰(zhàn)司令部。2013年,美國(guó)網(wǎng)絡(luò)空間司令部從900人擴(kuò)編至4900人,并一度宣布3年內(nèi)擴(kuò)建40支網(wǎng)絡(luò)戰(zhàn)部隊(duì)。美國(guó)軍隊(duì)和情報(bào)機(jī)構(gòu)還通過(guò)打造堪比核武庫(kù)的全球最大網(wǎng)絡(luò)武器庫(kù),用于網(wǎng)絡(luò)攻擊甚至網(wǎng)絡(luò)戰(zhàn)?！熬S基解密”根據(jù)代號(hào)“穹頂7”(Vault 7)的8761份秘密文件揭露了美國(guó)中央情報(bào)局在2013年至2016年間所實(shí)施的一系列高度機(jī)密的全球性網(wǎng)絡(luò)入侵活動(dòng),內(nèi)容涉及攻擊手法、攻擊目標(biāo)、會(huì)議記錄、海外行動(dòng)記錄,以及使用的攻擊工具和7億行源代碼。③美國(guó)大量開(kāi)發(fā)網(wǎng)絡(luò)武器所引發(fā)的軍備競(jìng)賽,已經(jīng)給全球網(wǎng)絡(luò)安全帶來(lái)嚴(yán)重的威脅和風(fēng)險(xiǎn)。

計(jì)算能力增長(zhǎng)、算法的突破、數(shù)據(jù)的量與質(zhì)的提升為人工智能在網(wǎng)絡(luò)軍備競(jìng)賽領(lǐng)域的應(yīng)用,提供了新的可能,非常有可能引發(fā)國(guó)家間的全球軍備競(jìng)賽從子彈轉(zhuǎn)向鍵盤(pán):人工智能賦能的網(wǎng)絡(luò)進(jìn)攻使威脅變得更快速也更先進(jìn),這種更新?lián)Q代的威脅迫使被威脅方必須及時(shí)進(jìn)行辨別和反應(yīng),從而助推本就非常危險(xiǎn)的網(wǎng)絡(luò)軍備競(jìng)賽。更有甚者,由于計(jì)算能力和數(shù)據(jù)可用性的進(jìn)步,機(jī)器得以能夠完成一度需要人類(lèi)參與或被視為不可能的任務(wù),比如,人工智能可以替人來(lái)執(zhí)行那些“骯臟、沉悶和危險(xiǎn)”的戰(zhàn)場(chǎng)任務(wù)；人工智能系統(tǒng)可以比人類(lèi)處理更多的信息,而且速度更快,更精確,也更協(xié)調(diào),這使得它們成為實(shí)時(shí)評(píng)估混亂戰(zhàn)況的寶貴工具。最終,人工智能將在現(xiàn)實(shí)操作的基本層面上占據(jù)主導(dǎo)地位。這也許會(huì)帶來(lái)新的軍事力量,從而引發(fā)軍備競(jìng)賽,對(duì)手之間將開(kāi)發(fā)對(duì)抗或干擾彼此人工智能系統(tǒng)的對(duì)策,以歪曲數(shù)據(jù)或攻擊算法本身,從而可能增加國(guó)家在危機(jī)中有意或無(wú)意間動(dòng)用核武的可能性。④

同時(shí),美國(guó)利用技術(shù)優(yōu)勢(shì)追求霸權(quán)的作法會(huì)惡化國(guó)際信任,因?yàn)槌鞍l(fā)展人工智能的“先發(fā)優(yōu)勢(shì)”,將會(huì)使一國(guó)獲得并強(qiáng)化后來(lái)者所無(wú)法企及的地位和利益。為避免競(jìng)爭(zhēng)落后而遭遇“降維打擊”的可能性,各國(guó)將在人工智能能力建構(gòu)方面增強(qiáng)對(duì)彼此追趕迫切性的認(rèn)知和行動(dòng),從而導(dǎo)致國(guó)家越來(lái)越傾向使用攻擊性的人工智能賦能戰(zhàn)略,并在遭到攻擊時(shí)進(jìn)行更加猛烈的反擊?？梢灶A(yù)計(jì),如果無(wú)法建立相應(yīng)的國(guó)際規(guī)范與法律,任由這種惡性循環(huán)導(dǎo)致的安全困境無(wú)限發(fā)展,將導(dǎo)致人工智能軍備競(jìng)賽的程度遠(yuǎn)高于人工智能合作的可能。

(三)人工智能會(huì)鼓勵(lì)進(jìn)攻性軍事行為

人工智能的軍事應(yīng)用會(huì)極大地降低了傷亡風(fēng)險(xiǎn),從而在一定程度上降低戰(zhàn)爭(zhēng)的門(mén)檻。這有可能鼓勵(lì)減少自我約束,使各國(guó)更傾向于采取進(jìn)攻性的行動(dòng)來(lái)達(dá)到相應(yīng)的目的,從而形成國(guó)際安全領(lǐng)域新的不穩(wěn)定因素。

基于人工智能的網(wǎng)絡(luò)和物理軍備競(jìng)賽,可能導(dǎo)致兩種前景:以人工智能為主的防御措施與以人工智能為主的進(jìn)攻手段在網(wǎng)上決一勝負(fù),人類(lèi)只能站在一邊觀看；目前人工智能的軍事應(yīng)用尚不直接涉及到致命武器,但可能會(huì)導(dǎo)致引發(fā)不穩(wěn)定危機(jī)或加劇風(fēng)險(xiǎn)升級(jí)的錯(cuò)誤,從而導(dǎo)致物理攻擊并引發(fā)國(guó)家間的傳統(tǒng)動(dòng)能戰(zhàn)爭(zhēng)。

雪上加霜的是,目前的人工智能技術(shù)發(fā)展仍然相當(dāng)不成熟且缺陷很多:其一,多數(shù)先進(jìn)威脅檢測(cè)技術(shù)都會(huì)采用某種形式的人工智能來(lái)標(biāo)記某個(gè)潛在事件,但是,這一技術(shù)會(huì)造成大量誤報(bào)問(wèn)題,如果不進(jìn)行適當(dāng)校正,則會(huì)導(dǎo)致“威脅疲勞”,形成“狼來(lái)了”的局面。例如,一項(xiàng)研究表明,IT和安全組織每周會(huì)收到大約1.7萬(wàn)次惡意軟件告警,但其中只有19%被認(rèn)為是可信的,只有4%需要進(jìn)一步調(diào)查。⑤考慮到戰(zhàn)爭(zhēng)的流動(dòng)性、聯(lián)網(wǎng)設(shè)備的數(shù)量以及移動(dòng)計(jì)算能力的缺陷,機(jī)器學(xué)習(xí)必須進(jìn)一步發(fā)展才能提高在真實(shí)戰(zhàn)場(chǎng)上的預(yù)警能力與實(shí)用性。其二,在當(dāng)前的發(fā)展階段,人工智能尚達(dá)不到人類(lèi)智能的水平,更非萬(wàn)無(wú)一失。由人編寫(xiě)的代碼無(wú)法確保程序完全安全、可靠、可控、可信,數(shù)據(jù)質(zhì)量獲取、加工、存儲(chǔ)和使用等環(huán)節(jié)都存在著一定的數(shù)據(jù)質(zhì)量和安全風(fēng)險(xiǎn),作為人工智能發(fā)展核心的算法和數(shù)據(jù)都存在著潛在的安全問(wèn)題,從而往往會(huì)犯一些人類(lèi)不會(huì)犯或意想不到的錯(cuò)誤。更有甚者,如果某個(gè)情況超出了算法的預(yù)期參數(shù),可能導(dǎo)致錯(cuò)誤或意外引起的突發(fā)行為,進(jìn)而產(chǎn)生嚴(yán)重的后果。

(四)因“害怕落后”而“抄近路”的風(fēng)險(xiǎn)

人工智能其實(shí)很脆弱。通過(guò)注入損壞或錯(cuò)誤的數(shù)據(jù),成功的網(wǎng)絡(luò)攻擊可以改變?nèi)斯ぶ悄艿挠?xùn)練數(shù)據(jù),進(jìn)而改變?nèi)斯ぶ悄艿慕Y(jié)論?？陀^來(lái)看,即便成熟的自動(dòng)武器的使用也可能會(huì)導(dǎo)致一系列現(xiàn)實(shí)風(fēng)險(xiǎn),包括在復(fù)雜系統(tǒng)中因新因素的介入而導(dǎo)致的不可避免的失敗,敵方對(duì)自主系統(tǒng)的攻擊或破壞(例如欺騙和行為攻擊),或者敵我系統(tǒng)之間發(fā)生不可預(yù)知的交互等等。況且,當(dāng)前的人工智能系統(tǒng)雖然功能強(qiáng)大但并不可靠,許多人工智能設(shè)備很容易受到復(fù)雜攻擊的影響,或者在訓(xùn)練環(huán)境之外使用時(shí)失靈。

更有甚者,對(duì)于每一個(gè)參與競(jìng)爭(zhēng)的國(guó)家而言,目前更大的危險(xiǎn)并不是在人工智能領(lǐng)域落后于競(jìng)爭(zhēng)對(duì)手,而是人工智能軍備競(jìng)賽所帶來(lái)的緊迫感將促使各國(guó)急于部署不安全的人工智能系統(tǒng)能:即使其他國(guó)家還沒(méi)有處于重大突破的邊緣,但不前進(jìn)即落后的競(jìng)爭(zhēng)壓力會(huì)帶來(lái)“抄近路”的選擇。由此,會(huì)導(dǎo)致一國(guó)基于未雨綢繆、防患未然的想法而部署一項(xiàng)未經(jīng)測(cè)試的甚至是具有瑕疵的人工智能設(shè)備,以迎頭趕上并超越其他國(guó)家。這樣的結(jié)果對(duì)于每個(gè)入局者而言都將是滅頂之災(zāi)。

除了以上問(wèn)題,伴隨著人工智能武器的開(kāi)發(fā),國(guó)際社會(huì)面臨的另一大難題就是反擴(kuò)散問(wèn)題:人工智能技術(shù)的擴(kuò)散還會(huì)給全球安全帶來(lái)新的威脅,比如,恐怖主義組織以及不負(fù)責(zé)任的國(guó)家獲取了人工智能武器,將會(huì)使人工智能成為產(chǎn)生惡意軟件、勒索軟件及其他各種惡意計(jì)算機(jī)代碼的溫床,從而威脅國(guó)際社會(huì)的安全與和平。另外,人工智能的軍備競(jìng)賽還會(huì)對(duì)技術(shù)邏輯和商業(yè)邏輯產(chǎn)生破壞。人工智能具有軍民兩用性質(zhì),其最初的目的是發(fā)展經(jīng)濟(jì),增加社會(huì)福利,而過(guò)度地強(qiáng)調(diào)軍事用途會(huì)對(duì)人工智能的全球研發(fā)體系和產(chǎn)業(yè)鏈造成嚴(yán)重威脅,⑥甚至形成反噬作用。

二、規(guī)范建構(gòu):大致原則與可能路徑

鑒于人工智能嵌入網(wǎng)絡(luò)攻擊而導(dǎo)致的安全問(wèn)題具有跨領(lǐng)域和全球性的特點(diǎn),國(guó)際社會(huì)有必要確立大致原則和可能路徑,通過(guò)加強(qiáng)國(guó)際合作及威脅情報(bào)和經(jīng)驗(yàn)的分享,以建構(gòu)人工智能在網(wǎng)絡(luò)安全領(lǐng)域的使用規(guī)范,維護(hù)網(wǎng)絡(luò)空間的戰(zhàn)略穩(wěn)定。

清華大學(xué)人工智能與安全項(xiàng)目小組認(rèn)為人工智能的發(fā)展要遵循六點(diǎn)原則,包括:福祉原則、安全原則、共享原則、和平原則、法治原則與合作原則。⑦應(yīng)該說(shuō),這些原則可以作為討論和制定人工智能?chē)?guó)際規(guī)則的基礎(chǔ),但因沒(méi)有具體細(xì)化而略顯空泛和抽象,且沒(méi)有具象到網(wǎng)絡(luò)安全領(lǐng)域。在網(wǎng)絡(luò)安全領(lǐng)域,人工智能的使用應(yīng)在如下原則和路徑上進(jìn)行深層次的、有實(shí)際意義的國(guó)際規(guī)范建構(gòu)。

(一)開(kāi)發(fā)與使用中的約束性規(guī)范

就目前大國(guó)的不同立場(chǎng)而言,制定一個(gè)全球性網(wǎng)絡(luò)空間條約是不可能的。不過(guò),除了正式條約,對(duì)國(guó)家的規(guī)范性約束還包括行為準(zhǔn)則、國(guó)家的傳統(tǒng)實(shí)踐,以及群體對(duì)合理行為的普遍期待(它形成普通法)。在范圍上,這類(lèi)約束可以有全球、多邊、雙邊等多種形式。⑧

在目前的網(wǎng)絡(luò)沖突中,就目標(biāo)選擇、攻擊范圍和破壞程度而言,各國(guó)政府多會(huì)嚴(yán)格選擇、謹(jǐn)慎行動(dòng),以避免傷害溢出殃及無(wú)辜,要避免沖突擴(kuò)大化。但是,政治審慎、整體考量、綜合判斷的原則,能否在人工智能網(wǎng)絡(luò)武器的現(xiàn)實(shí)使用中得到遵守,或在多大程度上得到遵守,仍需要不斷觀察,目前疑問(wèn)和不確定性較大。

2019年4月8日,歐盟委員會(huì)發(fā)布人工智能倫理準(zhǔn)則,列出“可信賴(lài)人工智能”的7個(gè)關(guān)鍵條件——人的能動(dòng)性和監(jiān)督能力、安全性、隱私數(shù)據(jù)管理、透明度、包容性、社會(huì)福祉、問(wèn)責(zé)機(jī)制,以確保人工智能足夠安全可靠。歐盟認(rèn)為“可信賴(lài)的人工智能”有兩個(gè)必要的組成部分:一是應(yīng)尊重基本人權(quán)、規(guī)章制度、核心原則及價(jià)值觀；二是應(yīng)在技術(shù)上安全可靠,避免因技術(shù)不足而造成無(wú)意的傷害。盡管制定準(zhǔn)則是一個(gè)好主意,部分批評(píng)人士也認(rèn)為,“可信賴(lài)人工智能”這一概念的定義尚不明確,且目前還不清楚未來(lái)的監(jiān)管如何實(shí)施；準(zhǔn)則過(guò)分細(xì)化會(huì)難以操作,阻礙行業(yè)發(fā)展；準(zhǔn)則中沒(méi)有禁止使用人工智能開(kāi)發(fā)武器也是不恰當(dāng)?shù)摹?/p>

(二)防止技術(shù)擴(kuò)散的限制性規(guī)范

網(wǎng)絡(luò)武器泄露已經(jīng)給全球安全與民心穩(wěn)定造成相當(dāng)大的威脅,類(lèi)似于 WannaCry 和 NotPetya 這樣源自于美國(guó)國(guó)家安全局武器庫(kù)中網(wǎng)絡(luò)武器泄露再次開(kāi)發(fā)而成的勒索病毒給國(guó)際社會(huì)帶來(lái)了幾百億美元的經(jīng)濟(jì)損失和重大的公共安全危害。⑨可以想象,更具危害的自主攻擊網(wǎng)絡(luò)武器擴(kuò)散造成的網(wǎng)絡(luò)安全危害將更加嚴(yán)重,尤其是伴隨相關(guān)技術(shù)平民化的發(fā)展,恐怖主義組織完全可能獲得并使用的情況下。

為此,就像核武器的使用那樣,人工智能網(wǎng)絡(luò)武器在存儲(chǔ)和使用時(shí),必須建立嚴(yán)格的加密與解密的規(guī)定和措施。為此,在技術(shù)展開(kāi)層面,自主攻擊的網(wǎng)絡(luò)武器開(kāi)發(fā)應(yīng)當(dāng)被嚴(yán)格限制在特定的環(huán)境之下,并且精確地開(kāi)展測(cè)試。在技術(shù)防擴(kuò)散層面,需要設(shè)定攻擊手段的自毀功能,即,加入在泄露后可以自我刪除、取消激活等功能。

這樣的限制性規(guī)范是完全可能的。比如迄今為止發(fā)現(xiàn)的最大規(guī)模和最為復(fù)雜的網(wǎng)絡(luò)攻擊病毒火焰病毒,是迄今為止發(fā)現(xiàn)程序最大的網(wǎng)絡(luò)武器,其復(fù)雜性和功能性已經(jīng)超過(guò)其它任何已知的網(wǎng)絡(luò)武器,就內(nèi)置自毀機(jī)制:它在收到指令的情況下,會(huì)自我刪除。

(三)“罰當(dāng)其罪”的報(bào)復(fù)行為規(guī)范

在人工智能賦能的網(wǎng)絡(luò)攻防中,指揮官和操作人員要加強(qiáng)安全與倫理考慮,減少錯(cuò)誤或失控的風(fēng)險(xiǎn),首先需要某種原則來(lái)決定成比例的反應(yīng),就像要確定明確的門(mén)檻或紅線(xiàn)來(lái)區(qū)分合法的和非法的網(wǎng)絡(luò)攻擊,并且對(duì)非法行動(dòng)進(jìn)行適當(dāng)?shù)闹撇?。?/p>

“罰當(dāng)其罪”的比例原則,這個(gè)戰(zhàn)爭(zhēng)法的根本原則同樣適用于網(wǎng)絡(luò)空間。在國(guó)際爭(zhēng)端中使用武力,必須考慮適當(dāng)性、必要性和相當(dāng)性的問(wèn)題。適當(dāng)性原則要求武力的使用能夠或有助于正當(dāng)目的的實(shí)現(xiàn)；必要性原則要求武力的使用是實(shí)現(xiàn)目的的最后手段；而相當(dāng)性原則是要求使用武力與造成后果的均衡。三項(xiàng)原則分別從“目的導(dǎo)向”“手段選擇”“價(jià)值取向”上規(guī)范目的與武力使用之間的關(guān)系,進(jìn)而成為衡量國(guó)際爭(zhēng)端中武力使用是否正當(dāng)?shù)幕疽罁?jù)。

同時(shí),成比例原則也要求避免攻擊關(guān)鍵基礎(chǔ)設(shè)施和傷及無(wú)辜,不能進(jìn)行“無(wú)區(qū)別的殺戮”。要保障個(gè)人基本權(quán)利,防范因人工智能技術(shù)濫用而造成的負(fù)面影響。戰(zhàn)爭(zhēng)、沖突中的生死決斷必須由人做出,機(jī)器無(wú)權(quán)自主決定殺傷目標(biāo),畢竟,算法黑箱或者自主武器失控有可能導(dǎo)致誤殺和誤傷,因此,計(jì)算機(jī)和算法只能對(duì)決定起輔助作用。在這方面,戰(zhàn)爭(zhēng)的目的與手段要整體考慮,因?yàn)?戰(zhàn)爭(zhēng)通常被評(píng)判兩次,第一次是以結(jié)果評(píng)判,第二次是以手段評(píng)判,被侵略者并不因?yàn)槠錉奚叩纳矸荻幻獬龑?duì)文明戰(zhàn)爭(zhēng)所應(yīng)擔(dān)負(fù)的責(zé)任。

因此,人類(lèi)尚需要在許多重要層面達(dá)成一致:區(qū)分合法目標(biāo)和非法目標(biāo)的界線(xiàn),網(wǎng)絡(luò)防御戰(zhàn)略的成比例反應(yīng)的定義,如何檢查和監(jiān)控基于人工智能的國(guó)家網(wǎng)絡(luò)防御行動(dòng)。同時(shí),類(lèi)似聯(lián)合國(guó)安理會(huì)那樣有執(zhí)行力的第三方權(quán)威,應(yīng)該監(jiān)控成比例原則和國(guó)際規(guī)范是否被違反；如果違反,應(yīng)采取相應(yīng)的經(jīng)濟(jì)與政治制裁措施。

(四)基于主權(quán)國(guó)家的多邊合作原則

長(zhǎng)久以來(lái),科技發(fā)展都影響著世界經(jīng)濟(jì)與國(guó)際安全。面對(duì)當(dāng)下人工智能引發(fā)的科技大進(jìn)步,其規(guī)模與速度使世界各大國(guó)都難以充分利用現(xiàn)實(shí)機(jī)會(huì)并應(yīng)對(duì)未來(lái)挑戰(zhàn)。科技發(fā)展的不同渠道,特別是數(shù)據(jù)使用,威脅著本就分裂的世界,造成錯(cuò)綜復(fù)雜的地緣政治競(jìng)爭(zhēng)格局；而且,悖逆常理的是,新時(shí)代里的科技可能事實(shí)上反倒會(huì)削弱先前突破所帶來(lái)的全球影響,使世界處于“自動(dòng)化的沖突”中。過(guò)去兩個(gè)世紀(jì)里,西方近乎壟斷了全球的價(jià)值輸出。但如今在數(shù)字領(lǐng)域,人工智能的規(guī)則卻無(wú)法定于一尊:迄今為止,世界各地的企業(yè)、政府和民間機(jī)構(gòu)已經(jīng)發(fā)布了大約50套人工智能準(zhǔn)則。騰訊和百度等中國(guó)最大的一些科技公司也在此列。然而,單邊主義無(wú)法保證網(wǎng)絡(luò)安全,主權(quán)國(guó)家政府需要在聯(lián)合國(guó)層面、區(qū)域?qū)用婧痛髧?guó)合作層面,用規(guī)范治理的合作性來(lái)克服新技術(shù)的分裂性。

研究區(qū)內(nèi)屬暖溫帶季風(fēng)型大陸性氣候，四季分明，氣候溫和，年平均風(fēng)速3.5m/s，多年平均氣溫11.4℃(1979—2017年)，多年平均降水量648.27mm(1979—2017年)，多年平均蒸發(fā)量1745.7mm，多年平均無(wú)霜期199d[1]。

1.聯(lián)合國(guó)層面合作的難度很大

2004 年,聯(lián)合國(guó)設(shè)立了信息安全政府專(zhuān)家組,以商定國(guó)家在網(wǎng)絡(luò)空間中行動(dòng)的自愿性規(guī)則。2017 年,專(zhuān)家組第五次會(huì)議以僵局告終,無(wú)法就國(guó)際人道主義法和現(xiàn)有正當(dāng)防衛(wèi)、國(guó)家責(zé)任等的相關(guān)法律是否及如何應(yīng)用于網(wǎng)絡(luò)空間達(dá)成一致。美國(guó)認(rèn)為網(wǎng)絡(luò)防御法規(guī)應(yīng)該基于這些法律,而其他國(guó)家(包括古巴、俄羅斯和中國(guó))則認(rèn)為這會(huì)使網(wǎng)絡(luò)空間軍事化并持否定態(tài)度。最終專(zhuān)家組無(wú)法形成報(bào)告,也無(wú)法判斷他們是否會(huì)再次開(kāi)會(huì),更不知接下來(lái)會(huì)發(fā)生什么。2018 年9 月,在聯(lián)合國(guó)召開(kāi)的常規(guī)武器公約討論中,各方同樣未能就制定禁止人工智能驅(qū)動(dòng)的致命性完全自主武器的條約達(dá)成共識(shí):26國(guó)支持全面禁止人工智能武器,而絕大多數(shù)國(guó)家仍在觀望之中。

實(shí)際上,因?yàn)橹鳈?quán)國(guó)家主導(dǎo)的全球治理機(jī)制存在霸權(quán)邏輯和沖突邏輯的特征,這使得某些發(fā)達(dá)國(guó)家濫用權(quán)力、不愿自我約束的不負(fù)責(zé)任行為,與發(fā)展中國(guó)家因自身的不發(fā)達(dá)而導(dǎo)致的頻繁發(fā)作的全球性問(wèn)題協(xié)同作用,共同導(dǎo)致一些復(fù)雜性問(wèn)題,進(jìn)而導(dǎo)致通過(guò)聯(lián)合國(guó)加強(qiáng)網(wǎng)絡(luò)空間國(guó)際合作的進(jìn)程已經(jīng)實(shí)質(zhì)性地?cái)R淺。由于政治、文化、宗教、戰(zhàn)略及后勤方面的諸多障礙,再加上太多的不確定因素,即便國(guó)際合作得到加強(qiáng),其最終效果也未可知。因此,人工智能?chē)?guó)際規(guī)范方面的合作更有可能是地區(qū)性行為,或者發(fā)生在某些特定國(guó)家之間,而非全球任何國(guó)家間的合作。

2.區(qū)域共同體先行的原則較為現(xiàn)實(shí)

近年來(lái),基于人工智能進(jìn)行網(wǎng)絡(luò)攻擊軟件的最新、最有創(chuàng)意和最具潛在危險(xiǎn)的使用在不斷出現(xiàn)。因此,為了打破網(wǎng)絡(luò)安全建構(gòu)的聯(lián)合國(guó)進(jìn)程僵局,本已形成各級(jí)各類(lèi)協(xié)作的區(qū)域共同體層面的合作就成了必不可少的替代選擇,既可以維護(hù)網(wǎng)絡(luò)安全,也可以為進(jìn)一步在聯(lián)合國(guó)層面的合作進(jìn)行探索。

在實(shí)踐層面,區(qū)域共同體之間可以運(yùn)用攻防演習(xí)來(lái)測(cè)試基于人工智能的防御戰(zhàn)術(shù)并培育合作慣性。演習(xí)可以包括網(wǎng)絡(luò)部隊(duì)的實(shí)戰(zhàn)模擬,也可以包括多國(guó)、多部門(mén)的聯(lián)合應(yīng)急響應(yīng)演習(xí),以提升區(qū)域國(guó)家合作能力。人工智能就是要通過(guò)經(jīng)驗(yàn)、練習(xí)來(lái)學(xué)習(xí),類(lèi)似的演習(xí)可以提升區(qū)域的戰(zhàn)略防御水平。在規(guī)范層面,區(qū)域的探索可以為確保人工智能足夠安全可靠的國(guó)際共識(shí)提供參考。在關(guān)系層面,區(qū)域各國(guó)要公布本國(guó)的政策框架和戰(zhàn)略路徑,同時(shí)要隨時(shí)公布關(guān)鍵系統(tǒng)和關(guān)鍵基礎(chǔ)設(shè)施的致命缺陷,借此種分享來(lái)提升區(qū)域的警戒和安全水平。

3.大國(guó)協(xié)調(diào)原則需要克服障礙不斷推進(jìn)

人工智能是典型的軍民兩用技術(shù),國(guó)際監(jiān)管或國(guó)際條約很難限制甚至是減弱大國(guó)人工智能的發(fā)展。然而,像美國(guó)、中國(guó)和俄國(guó)這樣的大國(guó)和重要軍事力量,絕不希望因人工智能技術(shù)的擴(kuò)散,給軍事和戰(zhàn)略穩(wěn)定帶來(lái)系統(tǒng)性的風(fēng)險(xiǎn)。因此,大國(guó)應(yīng)該承諾并采取協(xié)調(diào)行動(dòng),以評(píng)估和減輕人工智能在軍事應(yīng)用上的盲目擴(kuò)張,從而規(guī)避類(lèi)似核擴(kuò)散那樣的風(fēng)險(xiǎn)。

在避免發(fā)展致命的自動(dòng)武器以打開(kāi)“潘多拉的盒子”釋放“恐怖武器”方面,中美兩國(guó)是典型的“能力強(qiáng)、責(zé)任大”。兩國(guó)已經(jīng)積聚了足夠多的人才、市場(chǎng)份額和數(shù)據(jù)。在人工智能產(chǎn)品和系統(tǒng)對(duì)全球經(jīng)濟(jì)的貢獻(xiàn)中,中美兩國(guó)是主導(dǎo)。為避免誤差和誤判,中美應(yīng)采取更符合實(shí)際的行動(dòng),以建立彼此之間和全球?qū)用嫘判牡拇胧Ｔ诒舜岁P(guān)系層面,美國(guó)應(yīng)減少對(duì)中國(guó)的攻擊,以示誠(chéng)意。在這方面,美國(guó)有大量誠(chéng)意需要展示,減少對(duì)中國(guó)網(wǎng)絡(luò)的干擾和利用——在此方面,美國(guó)的行為相當(dāng)惡劣,比如,僅就木馬和僵尸網(wǎng)絡(luò)而言,2018年位于美國(guó)的1.4萬(wàn)余臺(tái)木馬或僵尸網(wǎng)絡(luò)控制服務(wù)器,控制了中國(guó)境內(nèi)334萬(wàn)余臺(tái)主機(jī),控制服務(wù)器數(shù)量較2017年增長(zhǎng)90.8%。在樹(shù)立社會(huì)信心層面,中美可以在研究如何確保軍事人工智能系統(tǒng)“有意義的人類(lèi)控制”方面進(jìn)行合作。

(五)基于共同安全的多利益攸關(guān)方參與原則

作為一種影響面廣的顛覆性技術(shù),人工智能對(duì)就業(yè)結(jié)構(gòu)、法律與社會(huì)倫理、個(gè)人隱私、國(guó)際關(guān)系準(zhǔn)則、政府管理、經(jīng)濟(jì)安全和社會(huì)穩(wěn)定乃至全球治理有深遠(yuǎn)的影響。因此,深受影響的各利益攸關(guān)方需要積極參與規(guī)范制定,以作為政府的一種補(bǔ)充或制衡。

2018年6月,谷歌員工成功向該公司施壓,避免與五角大樓續(xù)簽合同。很多技術(shù)專(zhuān)家不愿意為國(guó)防項(xiàng)目工作,因?yàn)閾?dān)心自己會(huì)造出失去控制、殺人的機(jī)器人來(lái)——這使得華盛頓想要在硅谷和軍方之間建立聯(lián)系的努力困難重重。2018年9月,中國(guó)信息通信研究院發(fā)布的《人工智能安全白皮書(shū)》呼吁中國(guó)政府繼續(xù)努力,“避免國(guó)家間的人工智能軍備競(jìng)賽”。馬云在2019年達(dá)沃斯世界經(jīng)濟(jì)論壇上表示,他擔(dān)心全球人工智能軍備競(jìng)賽可能導(dǎo)致戰(zhàn)爭(zhēng)。這些非政府性質(zhì)的主體,在呼吁建立人工智能使用規(guī)范方面,有重要作用。當(dāng)然,全球民間社會(huì)也應(yīng)該減少關(guān)于人工智能軍備競(jìng)賽的言論,并尋找與其他國(guó)家合作的機(jī)會(huì),以減少人工智能帶來(lái)的風(fēng)險(xiǎn)。

實(shí)際上,在互聯(lián)網(wǎng)發(fā)展的進(jìn)程中,技術(shù)社區(qū)、大型企業(yè)和個(gè)人都發(fā)揮著重要作用。在人工智能領(lǐng)域,依然如此。這些主體在培養(yǎng)理解人工智能的經(jīng)濟(jì)、道德、政策和法律含義的思想領(lǐng)袖,領(lǐng)導(dǎo)全球數(shù)字道德、數(shù)據(jù)倫理的交流、融通方面,有重要的作用。為此,作為專(zhuān)業(yè)人員的計(jì)算機(jī)專(zhuān)家,也要避免閉門(mén)造車(chē)的現(xiàn)象,積極發(fā)聲、積極行動(dòng),提升社會(huì)對(duì)于風(fēng)險(xiǎn)和治理的認(rèn)知,比如,要使利用人工智能進(jìn)行網(wǎng)絡(luò)攻防的問(wèn)題、局限性和缺點(diǎn)透明化,讓專(zhuān)業(yè)問(wèn)題大眾化,以引起社會(huì)的注意；同時(shí),要主動(dòng)參與,和策略制定者、終端用戶(hù)一道,設(shè)計(jì)該技術(shù)的測(cè)試和監(jiān)管機(jī)制等。

大國(guó)競(jìng)爭(zhēng)在技術(shù)發(fā)展上的巨量和加速的態(tài)勢(shì)與效應(yīng),促使人工智能浪潮到來(lái)。由人工智能技術(shù)提供的平臺(tái)將助推用戶(hù)創(chuàng)造性的發(fā)揮,創(chuàng)造出新事物、新武器和新攻擊模式,因此而引發(fā)的革命性變革,將成為導(dǎo)致地緣戰(zhàn)略和國(guó)際格局重大變革的一個(gè)助推因素。茲事體大。然而,人工智能的未來(lái)是開(kāi)放的、不確定的,人工智能的廣泛應(yīng)用無(wú)疑放大了網(wǎng)絡(luò)安全的隱患,各利益相關(guān)方能否成功處理潛在問(wèn)題并制定適切戰(zhàn)略,使其最終演變成一股穩(wěn)定的力量,沒(méi)有人可以給出肯定答案,盡管利用國(guó)際規(guī)范約束攻擊和非法利用無(wú)疑是一條正確路徑。

三、理念博弈:人類(lèi)主權(quán)與自主系統(tǒng)限度

在涉及人工智能的國(guó)際觀念結(jié)構(gòu)中,西方仍然占據(jù)主導(dǎo)地位。英國(guó)已逝著名物理學(xué)家史蒂芬·霍金曾表示,人工智能的全面發(fā)展可能會(huì)給人類(lèi)帶來(lái)終結(jié):在目前的初級(jí)階段,人工智能就已經(jīng)證明了其巨大用處,發(fā)展到高級(jí)階段,它有可能趕上或是超過(guò)人類(lèi),最終可能控制人類(lèi)?；艚鸩⒎侨斯ぶ悄茴I(lǐng)域的權(quán)威,在尊重其作為理性思維傳播者的同時(shí),對(duì)他的觀點(diǎn)和看法不應(yīng)夸大。不過(guò),隨著人工智能技術(shù)的發(fā)展和進(jìn)步,特別是“機(jī)器代替人”的可能與風(fēng)險(xiǎn)不斷展現(xiàn),在相應(yīng)的哲學(xué)、道德與倫理層面,人類(lèi)應(yīng)該達(dá)到一定程度的共識(shí)。

從全球態(tài)勢(shì)來(lái)判斷,像在2016年美國(guó)大選和英國(guó)脫歐運(yùn)動(dòng)中那樣,利用假新聞進(jìn)行黑客攻擊的信息戰(zhàn)正有可能變得司空見(jiàn)慣。類(lèi)似的行為不僅篡改事實(shí),更強(qiáng)有力地改變某些政治觀點(diǎn)和態(tài)度。對(duì)此,人工智能可能無(wú)能為力:一種算法會(huì)從一個(gè)有影響力的賬戶(hù)中讀取假新聞,并根據(jù)優(yōu)化的內(nèi)容因素來(lái)推廣它,而不是像新聞工作者在發(fā)布前那樣檢查新聞來(lái)源或想法。推而廣之,這將日益加劇政治緊張局勢(shì)與全球混亂形勢(shì),尤其是通過(guò)深度造假技術(shù)(Deepfake)來(lái)篡改圖像和視頻可能會(huì)對(duì)全球秩序造成災(zāi)難性影響,比如,發(fā)布美國(guó)總統(tǒng)唐納德·特朗普宣布核戰(zhàn)爭(zhēng)的唇形同步視頻。

在人工智能嵌入網(wǎng)絡(luò)安全這樣的全球安全與情報(bào)領(lǐng)域,也面臨類(lèi)似的道德風(fēng)險(xiǎn)。目前,像微軟之類(lèi)的公司已經(jīng)悄悄地宣布他們?cè)敢庀蛭褰谴髽浅鍪巯冗M(jìn)的自動(dòng)識(shí)別系統(tǒng)。無(wú)疑,利用人工智能機(jī)器人取代人類(lèi)士兵或制造自動(dòng)化武器,可能會(huì)在一定程度上降低政府防御性力量可能造成的傷害風(fēng)險(xiǎn),但人工智能所造成的倫理困境與核彈相當(dāng)。如果人類(lèi)研制的人工智能系統(tǒng)擁有與人類(lèi)不一致的價(jià)值觀,那么,文學(xué)作品中“惡意機(jī)器人霸主”的想象可能會(huì)成為現(xiàn)實(shí)。由此引發(fā)的思考是:若沒(méi)有了自主權(quán),作為人類(lèi)的我們還是萬(wàn)物靈長(zhǎng)嗎？當(dāng)機(jī)器人被賦予自主權(quán)時(shí),他們會(huì)有怎樣的行動(dòng)邊界或者根本沒(méi)有？當(dāng)二者被給予同樣的自由和智慧時(shí),如果面臨一場(chǎng)生存競(jìng)爭(zhēng),兩者誰(shuí)贏誰(shuí)輸？

實(shí)際上,面臨人類(lèi)無(wú)法控制網(wǎng)絡(luò)攻防中人工智能勝負(fù)角逐導(dǎo)致技術(shù)失控的風(fēng)險(xiǎn),人類(lèi)社會(huì)已經(jīng)逐漸生發(fā)出針對(duì)人工智能技術(shù)應(yīng)用前景的兩種不同認(rèn)知與倫理理念,其中的差異與競(jìng)爭(zhēng)反映了社會(huì)基本認(rèn)知的分歧——由此引申出來(lái)的不同策略、邏輯和路徑,將影響人類(lèi)社會(huì)未來(lái)的發(fā)展軌跡。

第一種理念更傾向于保守主義。這種傾向強(qiáng)調(diào)維持人工智能技術(shù)的可控性即堅(jiān)持人類(lèi)應(yīng)該對(duì)自主系統(tǒng)擁有權(quán)力是技術(shù)發(fā)展不可逾越的界限。伴隨深度學(xué)習(xí)算法對(duì)人工智能技術(shù)發(fā)展?jié)摿Φ尼尫?相當(dāng)多領(lǐng)域里的人工智能應(yīng)用系統(tǒng),都可以在短時(shí)間的學(xué)習(xí)后,便能夠超越人們經(jīng)年累月沉淀下的知識(shí)與技術(shù)。人類(lèi)自己曾頗為自得的思維能力,在純粹的科學(xué)力量面前微不足道甚至不堪一擊。尤為甚者,深度學(xué)習(xí)算法的“黑箱”效應(yīng),使人類(lèi)無(wú)法理解神經(jīng)網(wǎng)絡(luò)的思維邏輯。未來(lái)世界無(wú)法預(yù)知和自身力量有限,使人類(lèi)產(chǎn)生了雙重焦慮,由此形成的無(wú)力感導(dǎo)致對(duì)人工智能的恐懼甚至是排斥,以此來(lái)降低整個(gè)體系的動(dòng)蕩強(qiáng)度、減少對(duì)人類(lèi)熟悉環(huán)境的干擾。然而,目前大概沒(méi)有國(guó)家敢于采取這種觀念,因?yàn)槿斯ぶ悄艿臎_擊還只是一種可能性,但放緩對(duì)新技術(shù)的研發(fā)和使用將在短時(shí)間內(nèi)使得國(guó)家間力量差距被顯著放大,從而在國(guó)際經(jīng)濟(jì)和政治競(jìng)爭(zhēng)中因?yàn)榧夹g(shù)落后陷入非常不利的局面,卻是一種現(xiàn)實(shí)性。

第二種理念更傾向于自由主義。基于科技進(jìn)步會(huì)為人類(lèi)社會(huì)帶來(lái)積極影響的信念,通過(guò)調(diào)整制度和社會(huì)基本原則,構(gòu)建一個(gè)更加適應(yīng)技術(shù)發(fā)展特性的人類(lèi)社會(huì),從而充分釋放人工智能技術(shù)發(fā)展的紅利,進(jìn)而突破人類(lèi)自身的局限。這種理念的問(wèn)題在于:面對(duì)人工智能這把雙刃劍時(shí),過(guò)于關(guān)注實(shí)用性與機(jī)遇,過(guò)于忽視破壞性與風(fēng)險(xiǎn),畢竟,如果有人工智能,那么也會(huì)有人工愚蠢(artificial stupidity)——人工智能系統(tǒng)的使用導(dǎo)致軍備競(jìng)賽、戰(zhàn)略誤判和矛盾升級(jí)的可能性是相當(dāng)大的。

相較之下,一種比較行得通的路徑是基于建構(gòu)主義的:一方面,要努力促進(jìn)人工智能快速發(fā)展,不必懼怕其成功跨越“奇點(diǎn)”(singularity)從而實(shí)現(xiàn)飛躍甚至成為“超級(jí)人類(lèi)”,因?yàn)槭澜绲倪\(yùn)轉(zhuǎn)不可能永遠(yuǎn)依照摩爾定律,人工智能未必會(huì)一路快速前進(jìn)直至呈現(xiàn)爆炸式發(fā)展；另一方面,在人工智能向“奇點(diǎn)”突破的過(guò)程中,要未雨綢繆,構(gòu)建人工智能使用的國(guó)際規(guī)范,堅(jiān)持人類(lèi)主權(quán),即應(yīng)在涉人工智能的高層次戰(zhàn)略決策中保持優(yōu)勢(shì)和決定權(quán)。這并非不可能:人類(lèi)在研發(fā)和使用人工智能技術(shù)、軟件與產(chǎn)品時(shí),可以設(shè)計(jì)為一部分功能自主決定,另一部分功能由人類(lèi)控制。同時(shí),通過(guò)一種各利益攸關(guān)方參與的全球協(xié)商機(jī)制對(duì)人工智能的發(fā)展節(jié)奏進(jìn)行調(diào)節(jié),將可解釋、安全的人工智能確定為未來(lái)發(fā)展方向。如此,就有可能對(duì)于人工智能這種既可產(chǎn)生大善也可招致大惡的技術(shù),進(jìn)行實(shí)屬必要的控制。

當(dāng)下,對(duì)人工智能進(jìn)行國(guó)際規(guī)范、道德約束、倫理建構(gòu)和哲學(xué)反思的時(shí)代已經(jīng)來(lái)臨,遷延時(shí)機(jī)將是重大錯(cuò)誤:辨析人工智能技術(shù)對(duì)于人類(lèi)的影響,從而揚(yáng)長(zhǎng)避短、創(chuàng)造性地建構(gòu)既能促進(jìn)人工智能的發(fā)展也能體現(xiàn)人類(lèi)文明與尊嚴(yán)的體系與制度,已經(jīng)刻不容緩。

四、結(jié)語(yǔ)

很多技術(shù)專(zhuān)家與行業(yè)領(lǐng)袖認(rèn)為,人類(lèi)在21世紀(jì)面臨的最大威脅就是人工智能。面對(duì)現(xiàn)實(shí)與未來(lái)的人工智能引發(fā)的全球治理問(wèn)題,傳統(tǒng)治理手段與理念在實(shí)踐中將會(huì)越來(lái)越失能甚至南轅北轍。

不過(guò),只要人類(lèi)在全球?qū)用孢_(dá)成一些最低限度的共識(shí)并加以實(shí)踐以形成慣習(xí),進(jìn)而建立一套決策制定的知識(shí)框架和一個(gè)國(guó)際規(guī)范的基本框架,就可概括出在類(lèi)似網(wǎng)絡(luò)戰(zhàn)和機(jī)器人技術(shù)等場(chǎng)景中運(yùn)用人工智能的可接受方式。由此,即有可能形成對(duì)于人工智能發(fā)展過(guò)程中所存在技術(shù)風(fēng)險(xiǎn)和倫理隱患的一種制約?！叭祟?lèi)始終處于控制地位”,不是、更不應(yīng)是一句空話(huà),它既是一種過(guò)程性?xún)r(jià)值,也是一種目標(biāo)性?xún)r(jià)值。

注釋:

① 中央軍委聯(lián)合參謀部:《加快構(gòu)建具有我軍特色的聯(lián)合作戰(zhàn)指揮體系》,《求是》,2016年第16期。

② 釣魚(yú)是指把危險(xiǎn)的東西藏在看似無(wú)害的信息里的惡意軟件。釣魚(yú)軟件是最受歡迎的網(wǎng)絡(luò)攻擊形式之一,雖然它們?cè)诤艽蟪潭壬先Q于攻擊者是否能夠編出讓欺騙受害者打開(kāi)鏈接或附件的信息。

③ 趙瑞琦:《美國(guó)中情局網(wǎng)絡(luò)攻擊全球,始作俑者必搬磚砸腳》,觀察者網(wǎng),https://www.guancha.cn/ZhaoRuiQi/2017_04_13_403358.shtml,2017年4月13日。

④ Edward G A,Lohn J:HowMightArtificialIntelligenceAffecttheRiskofNuclearWar? https://www.rand.org/content/dam/rand/pubs/perspectives/PE200/PE296/RAND_PE296z1.zhs.pdf.May 28,2018。

⑤ 唐寧:《美軍探索人工智能在網(wǎng)絡(luò)安全中的應(yīng)用》,《安全內(nèi)參》,https://www.secrss.com/articles/7469,2018年12月28日。

⑥ 魯傳穎:《人工智能安全:挑戰(zhàn)與機(jī)遇》,《光明日?qǐng)?bào)》,2018年09月19日,第14版。

⑦ 傅瑩:《人工智能變動(dòng)國(guó)際格局,中國(guó)倡導(dǎo)什么規(guī)則？》,《國(guó)際政治科學(xué)》,2019年第1期。

⑧ [美]約瑟夫·奈:《防止網(wǎng)絡(luò)戰(zhàn)的規(guī)范性方法》,http://cn.chinausfocus.com/m/show.php?id=14011,2017年3月27日。

⑨ 封帥、魯傳穎:《人工智能時(shí)代的國(guó)家安全:風(fēng)險(xiǎn)與治理》,《信息安全與通信保密》,2018年第10期。

⑩ Taddeo M:CyberConflictsandPoliticalPowerinInformationSocieties,Minds and Machines,No.27,2017,pp.265-268。