人工智能領(lǐng)域亟須新安全觀（觀察家）

魯傳穎

近日，美國(guó)國(guó)防部聯(lián)合人工智能中心主任沙納漢聲稱，2020將是美軍在人工智能領(lǐng)域?qū)崿F(xiàn)突破的一年。明年中心的人員將增加60個(gè)編制，預(yù)算增長(zhǎng)3倍，并將在一系列項(xiàng)目上快速取得突破。沙納漢認(rèn)為，要應(yīng)對(duì)大國(guó)在人工智能領(lǐng)域的競(jìng)爭(zhēng)，美國(guó)必須要加大、加快在人工智能軍事應(yīng)用領(lǐng)域的投入。

美軍大舉在人工智能領(lǐng)域布局，反映了人工智能的武器化、實(shí)戰(zhàn)化正在逐步成為現(xiàn)實(shí)。從人類歷史上看，軍事是推動(dòng)科技進(jìn)步的重要力量，包括核武器、互聯(lián)網(wǎng)等很多重大科技領(lǐng)域的突破都是源自軍事目的。國(guó)家出于軍事目的發(fā)展具有戰(zhàn)略意義的高科技在當(dāng)代也非常普遍，越來(lái)越多的國(guó)家開始加速布局人工智能在軍事領(lǐng)域的應(yīng)用。

值得警惕的是，當(dāng)代國(guó)際關(guān)系領(lǐng)域一個(gè)顯著的“安全困境”就是大國(guó)為謀取戰(zhàn)略競(jìng)爭(zhēng)優(yōu)勢(shì)而發(fā)展高科技武器，引起眾多國(guó)家效仿，反而惡化了整體的安全環(huán)境。人工智能已成為引發(fā)“安全困境”的新領(lǐng)域，人工智能軍事化發(fā)展的安全困境將會(huì)伴隨大國(guó)不斷加大投入而提前到來(lái)。

因此，國(guó)際社會(huì)應(yīng)當(dāng)建立一種新的安全觀來(lái)看待人工智能的安全問(wèn)題，包括從技術(shù)安全、應(yīng)用安全和體系安全三個(gè)層面來(lái)應(yīng)對(duì)人工智能的安全困境。

一是要關(guān)注人工智能自身的技術(shù)安全問(wèn)題。算法黑箱、自主決策、數(shù)據(jù)安全都有可能帶來(lái)人工智能武器的失控，并由此帶來(lái)嚴(yán)重的安全后果。因此，如何在確保安全的前提下開展人工智能軍事應(yīng)用至關(guān)重要。

二是人工智能應(yīng)用中的安全。不負(fù)責(zé)任地使用人工智能武器或是隨意擴(kuò)散，都有可能給國(guó)際社會(huì)造成嚴(yán)重的安全、經(jīng)濟(jì)和社會(huì)層面?zhèn)?。比如濫用人工智能武器造成無(wú)辜平民的傷亡，恐怖分子獲取人工智能武器將會(huì)實(shí)施的重大恐怖襲擊。

三是必須關(guān)注人工智能在軍事領(lǐng)域的應(yīng)用對(duì)國(guó)際安全體系造成的顛覆。隨著人工智能的發(fā)展，戰(zhàn)爭(zhēng)的形態(tài)將被徹底改變。軍人、戰(zhàn)場(chǎng)和戰(zhàn)爭(zhēng)模式會(huì)發(fā)生顛覆性的變化。程序員將成為軍人中的重要組成部分，更加精確的殺傷將會(huì)使得戰(zhàn)場(chǎng)范圍更加廣闊，傳統(tǒng)的戰(zhàn)爭(zhēng)決策模式也難以適應(yīng)人工智能快速反應(yīng)的決策。如此巨大的變化將會(huì)使傳統(tǒng)的國(guó)際安全架構(gòu)難以適應(yīng)新挑戰(zhàn)，現(xiàn)有的沖突降級(jí)、危機(jī)管控、建立信任措施等維護(hù)國(guó)際安全的手段無(wú)法解決大國(guó)在人工智能軍事領(lǐng)域的沖突，危及國(guó)際安全體系穩(wěn)定。

新的安全觀有助于更好地理解人工智能軍事化應(yīng)用所帶來(lái)的安全挑戰(zhàn)，但要應(yīng)對(duì)挑戰(zhàn)，還需要建立新的治理機(jī)制。

首先，要建立以技術(shù)治理為主體的人工智能全球治理體系，改變國(guó)家的安全觀念，更加積極地促進(jìn)知識(shí)和經(jīng)驗(yàn)的分享來(lái)維護(hù)體系安全，而不是通過(guò)壟斷技術(shù)來(lái)獲取競(jìng)爭(zhēng)優(yōu)勢(shì)。其次，人工智能的全球治理應(yīng)當(dāng)處理好政府與其他利益攸關(guān)方的關(guān)系。人工智能具有軍民兩用性，技術(shù)在軍事領(lǐng)域的應(yīng)用會(huì)對(duì)民用產(chǎn)生負(fù)面影響。如谷歌和亞馬遜都因?yàn)榕c軍方開展人工智能合作而遭到了員工和客戶的反對(duì)。最后，應(yīng)有約束大國(guó)發(fā)展和使用軍事人工智能的國(guó)際機(jī)制，形成大國(guó)審慎考慮自身行為帶來(lái)安全困境的輿論氛圍?！?/p>

（作者是上海國(guó)際問(wèn)題研究院網(wǎng)絡(luò)空間國(guó)際治理研究中心秘書長(zhǎng)）