網(wǎng)絡(luò)空間安全背景下的人工智能安全風(fēng)險與治理研究

張興春

（武警黑龍江總隊參謀部綜合信息保障中心 黑龍江哈爾濱 150028）

網(wǎng)絡(luò)安全是保障國家安全的核心組成部分，在人工智能背景下，不僅可以提高網(wǎng)絡(luò)空間的安全治理水平，還能夠降低網(wǎng)絡(luò)安全風(fēng)險發(fā)生率。在網(wǎng)絡(luò)空間安全背景之下，通過準(zhǔn)確識別出人工智能安全風(fēng)險因素，并采取有效的治理措施，可以取得較好效果。故本文主要分析網(wǎng)絡(luò)空間安全背景下人工智能安全風(fēng)險和治理要點。

1 背景分析

隨著人工智能技術(shù)的全面發(fā)展，此項技術(shù)已經(jīng)廣泛運用到各行各業(yè)當(dāng)中，促進(jìn)了人類社會的快速化發(fā)展。但是，人工智能技術(shù)屬于“雙刃劍”，可能會帶來一系列的安全問題，引起人們的憂慮，例如，無人駕駛汽車出現(xiàn)撞人現(xiàn)象、自主武器殺人等，特別是將人工智能技術(shù)應(yīng)用到軍事領(lǐng)域當(dāng)中，將會引起更多恐慌。在網(wǎng)絡(luò)空間安全背景之下，通過準(zhǔn)確識別出人工智能安全風(fēng)險，并采取針對性的治理措施，可以取得較好效果［1］。

2 安全風(fēng)險分析

2.1 算法引起的安全風(fēng)險

和其他產(chǎn)品與系統(tǒng)不同，人工智能具有自主性與自適應(yīng)的特點。從客觀層面來分析，可以承擔(dān)起人類部分判斷功能與決策功能，而此功能主要是利用人工智能算法實現(xiàn)，若智能算法不合理，會明顯降低人工智能系統(tǒng)的可靠性與安全性。從編程層面來分析，任何一個算法都并不是完全可靠、安全的，任何一個算法均可能會引起不良后果。

另外，由于人工智能算法自身可能會存在一定漏洞，具有被利用與攻擊風(fēng)險，例如，針對人工智能模型的特點進(jìn)行有效偽裝，進(jìn)而誤導(dǎo)人工智能作出一系列錯誤判斷。與此同時，人工智能存在“算法黑箱”的缺陷，此種作用機(jī)制具有操作難度大的問題，故最終結(jié)果無法預(yù)測。

2.2 數(shù)據(jù)引起的安全風(fēng)險

當(dāng)前時期，人工智能主要采取深度學(xué)習(xí)方法，和人類不同的是，人工智能沒有任何基礎(chǔ)知識可言，其所有知識主要來自之前所接觸到的各項數(shù)據(jù)，不管是訓(xùn)練數(shù)據(jù)，抑或是和外界環(huán)境試錯交換而來的數(shù)據(jù)。人工智能系統(tǒng)可以結(jié)合數(shù)據(jù)學(xué)習(xí)如何思考，并開展下一步的行動，所以，用來訓(xùn)練模型數(shù)據(jù)類型，對其最終的行為方式起到?jīng)Q定作用。不同類型的數(shù)據(jù)集會讓人工智能產(chǎn)生多種訓(xùn)練結(jié)果，此種數(shù)據(jù)的過度依賴可能會帶來較為嚴(yán)重的風(fēng)險，錯誤或偏差比較大的數(shù)據(jù)容易出現(xiàn)帶有一定偏差與偏見的人工智能。

人工智能是主要以數(shù)據(jù)訓(xùn)練為主的智能，其和人類智能存在較大差異，人類與機(jī)器在開展有關(guān)任務(wù)時，其具體方法存在一定差異。當(dāng)前階段，通過對算法進(jìn)行深度學(xué)習(xí)，僅可以反映出統(tǒng)計特征或者數(shù)據(jù)之間的關(guān)聯(lián)關(guān)系，沒有真正獲得數(shù)據(jù)本質(zhì)特征及數(shù)據(jù)之間的因果關(guān)系。例如，接受過特定對象圖像訓(xùn)練的計算機(jī)視覺算法可以在全新圖像當(dāng)中準(zhǔn)確識別出此類對象，同時對其進(jìn)行有效的分類，但是，系統(tǒng)無法充分理解出此對象的具體含義與概念，所以可能會犯下嚴(yán)重錯誤［2］。

2.3 人工智能應(yīng)用引起的安全風(fēng)險

人工智能作為一種全新技術(shù)，在實際應(yīng)用期間，會給不同領(lǐng)域帶來一定的影響與沖擊，進(jìn)而產(chǎn)生一系列的安全風(fēng)險，主要包含政治安全風(fēng)險、軍事安全風(fēng)險、經(jīng)濟(jì)安全風(fēng)險等。

3 風(fēng)險治理要點

3.1 技術(shù)層面的治理要點

在技術(shù)層面，需要深入學(xué)習(xí)人工智能賦能技術(shù)，并加強(qiáng)安全風(fēng)險治理力度，可以取得比較好的效果。自2006年以來，研發(fā)人員提出深度學(xué)習(xí)模型，人工智能的有效運用引入更深層次的學(xué)習(xí)概念，實現(xiàn)人工智能技術(shù)的跨越式發(fā)展目標(biāo)。在信息化技術(shù)與網(wǎng)絡(luò)化技術(shù)全面發(fā)展的今天，積累海量數(shù)據(jù)信息，這些數(shù)據(jù)信息以圖形處理器處理技術(shù)與超算技術(shù)為基礎(chǔ)，通過進(jìn)行深度學(xué)習(xí)，可以從大數(shù)據(jù)當(dāng)中提取、發(fā)現(xiàn)各類知識，具備良好的學(xué)習(xí)能力與推理能力，尤其是Google 公司的人工智能圍棋程序，能夠充分體現(xiàn)出專用人工智能的全面突破，包括深度學(xué)習(xí)潛力。

第一，通過深度學(xué)習(xí)技術(shù)，可以有效強(qiáng)化網(wǎng)絡(luò)空間的威脅感知能力與防御能力。以網(wǎng)絡(luò)空間大數(shù)據(jù)作為重要的數(shù)據(jù)資源，通過深度學(xué)習(xí)技術(shù)，可以明顯提高網(wǎng)絡(luò)空間感知和防御能力，在多種不確定環(huán)境中，系統(tǒng)的動態(tài)適應(yīng)能力得到明顯提升，針對海量模糊與非線性數(shù)據(jù)進(jìn)行自動化分類聚合，并加強(qiáng)關(guān)聯(lián)性分析，從多個角度來感知網(wǎng)絡(luò)安全威脅，進(jìn)一步了解網(wǎng)絡(luò)空間發(fā)展態(tài)勢。通過有效運用智能化網(wǎng)絡(luò)空間攻擊手段，打造更加穩(wěn)定的網(wǎng)絡(luò)空間安全防御體系，可以取得比較好的風(fēng)險防范效果。

第二，提升深度學(xué)習(xí)技術(shù)當(dāng)中的算法和數(shù)據(jù)安全性。人工智能本體安全，針對網(wǎng)絡(luò)安全具備多維依賴關(guān)系，現(xiàn)階段，深度學(xué)習(xí)等一系列人工智能算法的可解釋性比較差，容易受到干擾和欺騙。例如，卷積神經(jīng)網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)等一系列關(guān)鍵算法當(dāng)中存在較多安全隱患，采取偽造數(shù)據(jù)或者污染樣本的方法，可以干擾深度學(xué)習(xí)模型的正常運行。深度學(xué)習(xí)數(shù)據(jù)具有較強(qiáng)的隱私性，可靠性也比較差，缺乏安全密碼的保護(hù)，容易引起竊取、破壞等問題，通過加強(qiáng)人工智能本體安全防線，可以有效提高深度學(xué)習(xí)的穩(wěn)定性與可靠性。

第三，加大深度學(xué)習(xí)基礎(chǔ)理論和核心算法儲備攻關(guān)。通過深度學(xué)習(xí)人工智能基礎(chǔ)理論和核心算法，能夠有效提高移動網(wǎng)絡(luò)空間人工智能安全治理水平，保證網(wǎng)絡(luò)空間人工智能更加安全。例如，通過全面加強(qiáng)“Cyber+AI”理論，加強(qiáng)技術(shù)儲備，能夠全面發(fā)揮出網(wǎng)絡(luò)空間大數(shù)據(jù)與人工智能商業(yè)創(chuàng)新優(yōu)勢，確保國產(chǎn)深度學(xué)習(xí)平臺能夠更好地投入具體應(yīng)用中［3］。

3.2 在軍事層面的治理要點

從軍事層面來分析，主要關(guān)注基于自主網(wǎng)絡(luò)攻防武器混合作戰(zhàn)問題。與陸地、海、空等作戰(zhàn)區(qū)域不同，發(fā)生于網(wǎng)絡(luò)空間的各項攻防博弈具備速度快、智能水平高等一系列特點，網(wǎng)絡(luò)空間作戰(zhàn)具有“秒殺性”特點。與此同時，由于網(wǎng)絡(luò)空間對人類的日常生活和生產(chǎn)影響越來越大，讓人們也更為關(guān)注網(wǎng)絡(luò)攻防對人類社會的政治與經(jīng)濟(jì)層面帶來的影響，若單純依賴人類自身的智力與體力，無法滿足網(wǎng)絡(luò)空間作戰(zhàn)要求，因此，需要依賴自主化與智能化網(wǎng)絡(luò)攻防武器，同時在多個領(lǐng)域進(jìn)行混合作戰(zhàn)。

3.2.1 自主網(wǎng)絡(luò)攻防作為混合作戰(zhàn)的重要作戰(zhàn)樣式

混合作戰(zhàn)屬于一種新型的作戰(zhàn)行動，具備投入比較少、見效比較快、隱蔽性較強(qiáng)等一系列特點，網(wǎng)絡(luò)空間作戰(zhàn)是混合作戰(zhàn)的核心內(nèi)容，也是混合作戰(zhàn)典型非對稱作戰(zhàn)模式。

通過加強(qiáng)混合作戰(zhàn)和應(yīng)對措施理論研究，特別是重視國外敵對勢力利用互聯(lián)網(wǎng)來散布謠言，以及網(wǎng)絡(luò)竊密等諸多手段，避免對我國輿情社情與基礎(chǔ)設(shè)施襲擾嚴(yán)重破壞。

3.2.2 合理運用自主網(wǎng)絡(luò)攻防武器

當(dāng)前時期，在人工智能技術(shù)發(fā)展背景之下，具備高度自主性網(wǎng)絡(luò)攻防武器。因其內(nèi)部技術(shù)具有不成熟的特點，包括外部人員的不合理使用，會明顯增加網(wǎng)絡(luò)空間的不確定性。為解決此問題，合理運用自主網(wǎng)絡(luò)攻防武器特別重要，具體途徑如下。

第一，全面學(xué)習(xí)典型人工智能技術(shù)等基礎(chǔ)理論，并建立在概率論與數(shù)理統(tǒng)計基礎(chǔ)上，缺乏良好的因果對應(yīng)關(guān)系，而現(xiàn)有的各項技術(shù)也無法準(zhǔn)確預(yù)估出自主網(wǎng)絡(luò)攻防武器風(fēng)險事件與安全邊界。

第二，自主攻擊網(wǎng)絡(luò)武器擴(kuò)散和不規(guī)范的使用，此種情況會給網(wǎng)絡(luò)空間安全帶來嚴(yán)重危害。從國際層面來分析，通過形成制約自主網(wǎng)絡(luò)攻防武器機(jī)制，以及相應(yīng)的公約規(guī)范，并對自主網(wǎng)絡(luò)攻防武器實施加密處理，能夠取得較好的安全防控效果［4］。

3.2.3 加快自主網(wǎng)絡(luò)攻防發(fā)展步伐

根據(jù)人類戰(zhàn)爭歷史進(jìn)程和結(jié)局可以得知，技術(shù)作為戰(zhàn)爭形態(tài)演進(jìn)的主要推動力，也是戰(zhàn)斗力的重要組成部分。在軍事領(lǐng)域當(dāng)中，自主化與智能化的網(wǎng)絡(luò)攻防具有技術(shù)性較強(qiáng)、實施難度高的特點，過于依賴網(wǎng)絡(luò)態(tài)勢深度認(rèn)知等新型技術(shù)。與此同時，如何在信息化與網(wǎng)絡(luò)化戰(zhàn)場中充分發(fā)揮出網(wǎng)絡(luò)攻防的作戰(zhàn)效能，特別是如何通過戰(zhàn)情虛擬仿真實驗等手段設(shè)計出合理的自主網(wǎng)絡(luò)攻防作戰(zhàn)模式，還有待進(jìn)一步研究。

對于有關(guān)部門來講，通過從技術(shù)和軍事等兩個層次入手，促進(jìn)網(wǎng)絡(luò)攻防裝備和手段的研發(fā)進(jìn)程，通過建立專業(yè)靶場與仿真系統(tǒng)等，實現(xiàn)自主網(wǎng)絡(luò)攻防技術(shù)的全新突破，為后續(xù)的先進(jìn)裝備試驗鑒定提供良好的作戰(zhàn)力量。

3.3 在政治層面的具體應(yīng)用

3.3.1 “AI+社交大網(wǎng)絡(luò)”

現(xiàn)階段，各類社交手段正在快速發(fā)展，形成一個動態(tài)化的社交網(wǎng)絡(luò)，“AI+社交大網(wǎng)絡(luò)”的有效運用不但可以充分反映出個人職業(yè)與愛好，而且能夠促進(jìn)人與人之間的聯(lián)系。通過有效運用統(tǒng)計機(jī)器學(xué)習(xí)自然語言處理技術(shù)，能夠?qū)崿F(xiàn)多源異構(gòu)海量網(wǎng)絡(luò)輿情實施監(jiān)控采集，以及結(jié)構(gòu)化的提取。通過有效利用大數(shù)據(jù)分析技術(shù)，為個性化新聞發(fā)布和推送提供良好依據(jù)。

3.3.2 促進(jìn)智慧社會轉(zhuǎn)型

最近幾年以來，由于大數(shù)據(jù)和人工智能技術(shù)的全面發(fā)展，以廣域分布社會網(wǎng)絡(luò)作為重要基礎(chǔ)，人類在日常的生活與工作中會積累海量數(shù)據(jù)信息，為提升社會綜合管理水平提供了較好支持。通過將人工智能技術(shù)和計算社會科學(xué)完美結(jié)合，可以通過模擬微觀個體互動，以及涌現(xiàn)宏觀社會現(xiàn)象，取得良好的風(fēng)險防治效果［5］。

3.4 注意事項

3.4.1 加大網(wǎng)絡(luò)安全管理力度

網(wǎng)絡(luò)安全與信息化與國家安全與發(fā)展水平息息相關(guān)，對廣大人民群眾的生活影響較大。在總體安全觀的大力指導(dǎo)之下，通過加強(qiáng)頂層設(shè)計，并對既有的規(guī)劃進(jìn)行有效完善，可以進(jìn)一步提升人工智能發(fā)展水平。在社會層面，可以獲得比較好的網(wǎng)絡(luò)安全風(fēng)險防范效果。從國家層面來講，通過設(shè)置重大科技專項牽引技術(shù)，并從政府層面落實相應(yīng)的配套政策，加大資金投入，可以有效提升人工智能的競爭力。

3.4.2 創(chuàng)設(shè)四位一體的安全環(huán)境

通過構(gòu)建網(wǎng)絡(luò)空間人工智能體系，并加強(qiáng)安全風(fēng)險治理力度，能夠?qū)崿F(xiàn)多個領(lǐng)域資源的高效利用，進(jìn)而形成群策群力治理模式，建立政府、高校、企業(yè)與個人等多個類型主體的安全系統(tǒng)。針對政府有關(guān)部門來講，需要明確自身的工作職責(zé)，構(gòu)建穩(wěn)定的人工智能治理專業(yè)委員會在內(nèi)的網(wǎng)絡(luò)安全人工治理頂層決定機(jī)制，促進(jìn)網(wǎng)絡(luò)安全的人工智能治理和國家戰(zhàn)略協(xié)調(diào)發(fā)展。針對各大高校來講，需要主動承擔(dān)起“助推器”的作用，明確自身的主體責(zé)任，充分發(fā)揮出科研和人才培養(yǎng)優(yōu)勢，以智能化技術(shù)與核心，解決人工智能與網(wǎng)絡(luò)信息技術(shù)應(yīng)用期間存在的問題。針對企業(yè)來講，需要主動承擔(dān)“發(fā)動機(jī)”職責(zé)，全面發(fā)揮出網(wǎng)絡(luò)空間數(shù)據(jù)的各項優(yōu)勢，促進(jìn)人工智能技術(shù)的全面運用，提升網(wǎng)絡(luò)安全意識，并加強(qiáng)人工智能素養(yǎng)培養(yǎng)力度，加強(qiáng)個人隱私保護(hù)，避免個人隱私與特征數(shù)據(jù)出現(xiàn)嚴(yán)重泄漏的情況。政府有關(guān)部門還要自覺分辨出虛假社會輿情和網(wǎng)絡(luò)輿情，嚴(yán)禁傳播不實言論［6］。

3.4.3 加大復(fù)合型人才培養(yǎng)力度

要想建設(shè)網(wǎng)絡(luò)強(qiáng)國與人工智能強(qiáng)國，加強(qiáng)專業(yè)人才培養(yǎng)力度特別重要，政府、高校和企業(yè)之間需要保持密切配合，妥善解決網(wǎng)絡(luò)空間背景下人工智能高端人才的培養(yǎng)問題，實現(xiàn)人工和政治學(xué)及行政管理等多個學(xué)科之間的交叉與融合。網(wǎng)絡(luò)空間的人工智能治理涉及的內(nèi)容比較多，主要包含網(wǎng)絡(luò)安全、人工智能和政治學(xué)等一系列知識，通過全面推動政府、軍隊、高校及各個科研機(jī)構(gòu)之間的聯(lián)系，為復(fù)合型人才提供一個較好的政策環(huán)境與科研環(huán)境；同時，從薪資待遇與發(fā)展前景等多個層面入手，加大吸引力度，能夠留住更多人才。針對網(wǎng)絡(luò)空間人工智能治理復(fù)合型人才，需要制定出特色政策，在不違反法律規(guī)定要求的基礎(chǔ)上，為其提供良好環(huán)境，讓人才可以更好地投入到科研工作當(dāng)中，真正做到人盡其才。

4 結(jié)語

綜上所述，本文主要對網(wǎng)絡(luò)空間安全背景下的人工智能安全風(fēng)險與治理措施與注意事項進(jìn)行研究，包括加大網(wǎng)絡(luò)安全管理力度、建立四位一體的安全環(huán)境、加大復(fù)合型人才培養(yǎng)力度等，取得了比較好的安全風(fēng)險治理效果，故可以為相關(guān)工作人員提供良好的幫助和借鑒。