美國發(fā)布人工智能與國家安全中期評(píng)估報(bào)告

■文/高芳（中國科學(xué)技術(shù)信息研究所）

2019年11月4日，美國人工智能國家安全委員會(huì)向美國國會(huì)遞交中期報(bào)告。報(bào)告認(rèn)為，人工智能即將從三個(gè)方面推動(dòng)美國更有效地捍衛(wèi)國家安全，也將強(qiáng)化已有威脅并催生新威脅。報(bào)告將中國列為美國最直接、最嚴(yán)峻的威脅以及關(guān)系最復(fù)雜、最令人“糾結(jié)”的競爭對(duì)手，強(qiáng)調(diào)確保人工智能技術(shù)的全球領(lǐng)導(dǎo)地位是國家安全的重中之重，將人工智能應(yīng)用于國防和安全領(lǐng)域是當(dāng)務(wù)之急。報(bào)告建議，美國應(yīng)進(jìn)一步加大人工智能研發(fā)力度，加快推進(jìn)人工智能軍事應(yīng)用，培養(yǎng)和招募人才，保護(hù)并利用美國技術(shù)優(yōu)勢，引領(lǐng)全球合作。

2018年8月，美國成立人工智能國家安全委員會(huì)（NSCAI）,旨在從國家安全角度對(duì)人工智能發(fā)展進(jìn)行綜合評(píng)估，并向美國國會(huì)和白宮提供政策建議。美國人工智能國家安全委員會(huì)提交的中期報(bào)告是對(duì)美國人工智能發(fā)展與國家安全做出的初步評(píng)估和判斷，并計(jì)劃在2020年最終報(bào)告中提出更全面的分析和建議。

一、人工智能有助于美國捍衛(wèi)國家安全

人工智能可從三個(gè)方面推動(dòng)美國更有效地捍衛(wèi)國家安全。一是改善美國維護(hù)國家安全的方式和手段。人工智能可用于控制武器、違禁品和人員等的非法流動(dòng)，防范惡意網(wǎng)絡(luò)操作，保護(hù)關(guān)鍵基礎(chǔ)設(shè)施，應(yīng)對(duì)自然災(zāi)害，以及實(shí)現(xiàn)特定領(lǐng)域情景感知和風(fēng)險(xiǎn)評(píng)估與響應(yīng)。二是提升情報(bào)感知與分析能力。人工智能可以使衛(wèi)星圖像、通信信號(hào)、經(jīng)濟(jì)指標(biāo)、社交媒體數(shù)據(jù)以及其他各種類型的信息變得更容易被理解，從而得到更快更精準(zhǔn)的情景感知，支持更高質(zhì)量的決策。三是改變戰(zhàn)爭方式。人工智能可以協(xié)助軍方更迅速地理解作戰(zhàn)空間、制定聯(lián)合作戰(zhàn)方案和做出相關(guān)決策，更有效地開展復(fù)雜性多域作戰(zhàn)，人工智能技術(shù)促進(jìn)新一代半自主和自主作戰(zhàn)系統(tǒng)的發(fā)展，并應(yīng)用于預(yù)測分析、決策支持、無人平臺(tái)、戰(zhàn)場機(jī)器人、網(wǎng)絡(luò)武器和實(shí)體武器裝備等。

二、人工智能發(fā)展給美國國家安全帶來的威脅

人工智能不僅會(huì)強(qiáng)化和加速現(xiàn)有的國家安全威脅，也會(huì)產(chǎn)生新威脅。一是以中國和俄羅斯為主的戰(zhàn)略競爭對(duì)手在人工智能軍事應(yīng)用方面快于美國，這將削弱美國的軍事優(yōu)勢和威懾力。二是如果人工智能系統(tǒng)能夠追蹤與鎖定高防御性軍事資產(chǎn)，則可能誘發(fā)各國更激進(jìn)地采用武力手段，導(dǎo)致沖突迅速升級(jí)，從而破壞全球穩(wěn)定和核威懾。三是人工智能應(yīng)用的快速擴(kuò)散，使得不道德地、惡意使用人工智能技術(shù)的可能性越來越大。四是深度偽造技術(shù)制造虛假事實(shí)，從意識(shí)形態(tài)層面動(dòng)搖美國民主制度，加劇社會(huì)分歧。五是個(gè)人隱私和公民自由遭到破壞。六是進(jìn)一步加劇網(wǎng)絡(luò)安全威脅。七是新技術(shù)帶來新漏洞，攻擊者可能會(huì)使用“反人工智能”技術(shù)來污染數(shù)據(jù)、欺騙機(jī)器或?qū)λ惴▽?shí)施反向工程。

三、美國發(fā)展人工智能應(yīng)遵循的基本原則

美國發(fā)展人工智能應(yīng)遵循的基本原則：確保人工智能技術(shù)的全球領(lǐng)導(dǎo)地位是國家安全的重中之重；將人工智能應(yīng)用于國防和安全領(lǐng)域是當(dāng)務(wù)之急；私營部門領(lǐng)導(dǎo)人和政府官員必須持續(xù)強(qiáng)化其責(zé)任感，以增進(jìn)美國人民的福祉和安全；人才是人工智能發(fā)展必不可少的動(dòng)力；必須保持自由探索的活力，在開放的同時(shí)注意保護(hù)知識(shí)產(chǎn)權(quán)和敏感技術(shù)；必須兼顧戰(zhàn)略必要性和倫理道德；對(duì)待人工智能的方式必須體現(xiàn)美國價(jià)值觀。

四、中國是美國面臨的最嚴(yán)峻、最復(fù)雜的戰(zhàn)略挑戰(zhàn)

中國人工智能發(fā)展對(duì)美國國家安全帶來最直接、最嚴(yán)峻的威脅。美國人工智能國家安全委員會(huì)的報(bào)告認(rèn)為，中國在人工智能研發(fā)投入、商業(yè)競爭、軍民融合、軍事應(yīng)用、人才等方面具有很大的發(fā)展?jié)摿?，未來十年有可能撼?dòng)美國在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)地位。同時(shí)，中國也是與美國關(guān)系最復(fù)雜、最令人“糾結(jié)”的競爭對(duì)手。美國人工智能國家安全委員會(huì)在報(bào)告中提出，中美在人工智能領(lǐng)域的關(guān)系應(yīng)不僅僅是在脫鉤與合作之間簡單二選一的問題。中美在人工智能人才、硬件、供應(yīng)鏈、企業(yè)、投資等多方面已深度交融，且雙方都從中受益。如果在人工智能領(lǐng)域與中國脫鉤，美國不僅要承擔(dān)經(jīng)濟(jì)、人才等方面的損失，喪失對(duì)中國人工智能發(fā)展的持續(xù)深入“了解”，更大的風(fēng)險(xiǎn)則可能會(huì)加速中國本土人工智能技術(shù)（和硬件）的發(fā)展，同時(shí)也會(huì)將經(jīng)濟(jì)利益和人才紅利拱手相讓，從根本上來看還是犧牲了美國利益。美國面臨的挑戰(zhàn)是如何調(diào)整中美科技關(guān)系中的各個(gè)要素，使之更有利于維護(hù)美國利益和保持美國優(yōu)勢。

五、美國應(yīng)有的下一步舉措

美國人工智能國家安全委員會(huì)建議，美國應(yīng)從穩(wěn)固研發(fā)和技術(shù)優(yōu)勢、加快推進(jìn)人工智能軍事應(yīng)用、招募和吸引人才、引領(lǐng)全球合作等方面，積極應(yīng)對(duì)前述挑戰(zhàn)和威脅。

一是持續(xù)加大人工智能研發(fā)力度。大幅增加人工智能研發(fā)投入，并將國家安全領(lǐng)域（尤其是國防和情報(bào)領(lǐng)域）的人工智能研發(fā)作為優(yōu)先事項(xiàng)。加速建設(shè)各類研發(fā)基地和機(jī)構(gòu)，鼓勵(lì)區(qū)域性人工智能集群式發(fā)展。實(shí)施更靈活的資助機(jī)制和激勵(lì)機(jī)制，加速人工智能研究和人才培養(yǎng)。打破政府內(nèi)部的官僚主義、繁文縟節(jié)和資源限制，充分激發(fā)政府下屬實(shí)驗(yàn)室和研究中心等的研發(fā)潛力。重點(diǎn)促進(jìn)機(jī)器學(xué)習(xí)發(fā)展，研發(fā)受神經(jīng)科學(xué)啟發(fā)的人工智能系統(tǒng)，研發(fā)健壯性和安全防御能力更強(qiáng)的人工智能系統(tǒng)；在科學(xué)與工程領(lǐng)域加快應(yīng)用人工智能技術(shù)，縮短科學(xué)發(fā)現(xiàn)和技術(shù)研發(fā)的時(shí)間；為研究人員提供算力、數(shù)據(jù)等相關(guān)資源；開發(fā)下一代硬件、專用芯片和適用于人工智能的新型計(jì)算模式等。

二是推進(jìn)人工智能在國家安全領(lǐng)域的應(yīng)用。政府各部門、各機(jī)構(gòu)應(yīng)充分強(qiáng)化對(duì)“人工智能與國家安全”的認(rèn)識(shí)，并切實(shí)履行與此相關(guān)的戰(zhàn)略優(yōu)先事項(xiàng)。國防部和情報(bào)部門應(yīng)自上而下加強(qiáng)頂層領(lǐng)導(dǎo)和統(tǒng)籌協(xié)調(diào)，避免重復(fù)工作，分享經(jīng)驗(yàn)教訓(xùn)，剔除政策障礙，加速將國防和情報(bào)體系中的人工智能創(chuàng)新型項(xiàng)目成果集成轉(zhuǎn)化為戰(zhàn)略優(yōu)勢。加快部署韌性健壯、安全可靠的人工智能系統(tǒng)，以滿足實(shí)際作戰(zhàn)需要。完善國防系統(tǒng)和情報(bào)體系內(nèi)數(shù)據(jù)存儲(chǔ)、計(jì)算資源、網(wǎng)絡(luò)通信等基礎(chǔ)設(shè)施。政府既要注重在內(nèi)部研發(fā)人工智能，也要與產(chǎn)業(yè)界加強(qiáng)合作。運(yùn)用人工智能技術(shù)改造政府各部門的內(nèi)部運(yùn)行方式，提高行政效率和成本效益。

三是培養(yǎng)和招募人工智能人才。國家安全核心機(jī)構(gòu)，即國防部和情報(bào)機(jī)構(gòu)，應(yīng)確保從高層領(lǐng)導(dǎo)人到中層管理人員再到技術(shù)人員，全面了解人工智能現(xiàn)狀與潛力，并充分培養(yǎng)系統(tǒng)內(nèi)部的技術(shù)人才。充分借助非官方招聘渠道為政府招募人工智能人才，調(diào)整激勵(lì)機(jī)制留住這些人才，推動(dòng)頂級(jí)人工智能企業(yè)人才為政府提供服務(wù)?？焖僭黾痈叩冉逃w系內(nèi)人工智能和計(jì)算機(jī)科學(xué)專業(yè)相關(guān)的教師和基礎(chǔ)設(shè)施資源等，吸引和留住來自世界各地的頂尖人才。

四是保護(hù)并利用美國技術(shù)優(yōu)勢。繼續(xù)利用出口管制保護(hù)美國及盟國在人工智能硬件領(lǐng)域，尤其是半導(dǎo)體制造設(shè)備方面的優(yōu)勢。針對(duì)人工智能技術(shù)特點(diǎn)調(diào)整出口管制方法，對(duì)潛在的最終用戶和最終用途進(jìn)行更嚴(yán)格的審查。建立人工智能投資審查常設(shè)機(jī)構(gòu)。與盟國和合作伙伴聯(lián)合制定投資審查計(jì)劃，防止美國競爭對(duì)手調(diào)整其投資策略，從美國轉(zhuǎn)移至盟國市場。進(jìn)一步提升芯片設(shè)計(jì)能力，加快發(fā)展下一代硬件，以維持美國在人工智能相關(guān)硬件方面的領(lǐng)先地位。保持研究體系的開放性，同時(shí)要引導(dǎo)高校強(qiáng)化反情報(bào)意識(shí)和能力，特別是要加強(qiáng)對(duì)中國的防范。

五是引領(lǐng)全球人工智能合作。與盟國建立合作網(wǎng)絡(luò)，加強(qiáng)數(shù)據(jù)共享、研發(fā)協(xié)調(diào)、能力建設(shè)和人才交流，以增強(qiáng)美國人工智能競爭力。與盟國加強(qiáng)溝通協(xié)調(diào)，確保彼此人工智能技術(shù)軍事應(yīng)用方面的互操作性。在促進(jìn)人工智能安全發(fā)展，預(yù)防人工智能對(duì)全球戰(zhàn)略平衡帶來負(fù)面影響等方面，對(duì)中國和俄羅斯應(yīng)持開放態(tài)度，比如共同約定不能將人工智能技術(shù)應(yīng)用于核武器發(fā)射控制決策等。在促進(jìn)人工智能用于解決癌癥治療等全球性問題方面，美國應(yīng)帶頭設(shè)置國際議程，并與所有國家開展合作。

六、分析與認(rèn)識(shí)

美國人工智能國家安全委員會(huì)報(bào)告是在充分凝聚美國人工智能發(fā)展利益相關(guān)方共識(shí)的基礎(chǔ)上形成的，因此報(bào)告提出的人工智能發(fā)展原則以及下一步應(yīng)有舉措等，有望推動(dòng)國會(huì)將其吸收采納至未來的政策措施中。該委員會(huì)的15名成員分別來自政府、學(xué)術(shù)界、私營企業(yè)、情報(bào)機(jī)構(gòu)、非營利科研機(jī)構(gòu)、咨詢公司、風(fēng)投公司以及民間社會(huì)組織等，在各自領(lǐng)域都頗有影響力。同時(shí)在報(bào)告形成過程中，美國人工智能國家安全委員會(huì)不僅與美國國會(huì)和白宮保持密切接觸，也得到了國防部、情報(bào)機(jī)構(gòu)以及其他政府部門的大力配合，還與各盟國駐美使館進(jìn)行了“磋商”。

對(duì)中美人工智能，美國人工智能國家安全委員會(huì)的報(bào)告較為客觀地分析研判了雙方無法“脫鉤”的現(xiàn)狀，但也著力突出了中國人工智能發(fā)展對(duì)美國全球領(lǐng)導(dǎo)地位的挑戰(zhàn)與威脅。下一步，美國為扭轉(zhuǎn)有可能被中國趕超的局面，除了進(jìn)一步強(qiáng)化自身在人工智能基礎(chǔ)研究、軟硬件開發(fā)、人才集聚等優(yōu)勢外，也可能通過多種方式阻遏或延緩我人工智能發(fā)展。比如，對(duì)中國實(shí)施多邊出口管制，中國人工智能發(fā)展將面臨更加嚴(yán)峻的“卡脖子”問題；通過輿論和外交手段拉攏形成以美國為核心的朋友圈，中國人工智能發(fā)展的外部環(huán)境有可能進(jìn)一步惡化。