算法戰(zhàn)的“阿喀琉斯之踵”

王聃鋒 龐鋼明

當(dāng)前關(guān)于算法戰(zhàn)的討論已經(jīng)很多，但多關(guān)注算法戰(zhàn)的顛覆性作用，對(duì)于其存在的弱點(diǎn)和缺陷的深入討論暫付闕如。特別是，算法系統(tǒng)固有的“黑箱”等問(wèn)題是算法戰(zhàn)揮之不去的“阿喀琉斯之踵”，如日益復(fù)雜的算法系統(tǒng)不可避免地存在算法邏輯不當(dāng)?shù)劝踩┒?，極有可能會(huì)造成系統(tǒng)癱瘓等致命后果。可見(jiàn)，尋求破解算法戰(zhàn)的“阿喀琉斯之踵”的解決方案，制定合乎戰(zhàn)爭(zhēng)邏輯的算法開(kāi)發(fā)與應(yīng)用準(zhǔn)則，是發(fā)揮算法戰(zhàn)爭(zhēng)效能的關(guān)鍵所在。

算法——算法戰(zhàn)的靈魂

算法系統(tǒng)是算法戰(zhàn)的核心。算法系統(tǒng)具有三大要素：數(shù)據(jù)、算法、算力，其中數(shù)據(jù)是基礎(chǔ)，算力是保障，算法是算法系統(tǒng)的“大腦”。而算法戰(zhàn)的本質(zhì)就是在數(shù)據(jù)與算力的支撐下，將算法應(yīng)用于戰(zhàn)爭(zhēng)，發(fā)揮算法在戰(zhàn)場(chǎng)態(tài)勢(shì)感知、情報(bào)融合分析、指揮輔助決策和火力引導(dǎo)打擊等方面的自動(dòng)化優(yōu)勢(shì)，從而節(jié)約人力成本、降低戰(zhàn)爭(zhēng)迷霧、創(chuàng)新作戰(zhàn)樣式、加快戰(zhàn)爭(zhēng)節(jié)奏。

節(jié)約人力成本，提高數(shù)據(jù)分析自動(dòng)化程度。算法能夠?qū)?shù)據(jù)分析專(zhuān)家從機(jī)械重復(fù)的判讀任務(wù)中解放出來(lái)，從而能夠節(jié)約大量人力成本，聚焦于更高層級(jí)的數(shù)據(jù)分析任務(wù)。以圖像識(shí)別技術(shù)為例，20世紀(jì)圖像偵察剛投入戰(zhàn)場(chǎng)應(yīng)用之時(shí)，軍事目標(biāo)圖像識(shí)別完全依賴(lài)專(zhuān)家人工判讀，此后出現(xiàn)的基于專(zhuān)家先驗(yàn)知識(shí)的自動(dòng)目標(biāo)識(shí)別算法，仍需專(zhuān)家根據(jù)傳感器、軍事目標(biāo)等特性，針對(duì)性設(shè)計(jì)目標(biāo)特征提取算法，如窄帶雷達(dá)常使用基于時(shí)域的小波變換算法進(jìn)行目標(biāo)特征建?！，F(xiàn)如今基于深度學(xué)習(xí)技術(shù)的圖像識(shí)別算法，可以自主學(xué)習(xí)目標(biāo)特征，無(wú)需人工干預(yù)，目標(biāo)識(shí)別準(zhǔn)確率甚至比專(zhuān)家還高，如下圖所示的兩幅圖像，源自于美國(guó)DARPA公開(kāi)發(fā)布的前蘇聯(lián)地面軍事目標(biāo)SAR圖像數(shù)據(jù)集MSTAR，分別為2S1（自行榴彈炮）與BDRM-2（裝甲偵察車(chē)），肉眼不僅難以分辨兩者，還需耗費(fèi)大量人力精力，而運(yùn)用基于深度學(xué)習(xí)算法，識(shí)別準(zhǔn)確率可超過(guò)99.5%。洛克希勒·馬丁公司2020年發(fā)布的衛(wèi)星圖像識(shí)別系統(tǒng)GATR，使用開(kāi)源數(shù)據(jù)集進(jìn)行自我訓(xùn)練，可以快速識(shí)別船只、飛機(jī)、建筑物、海港等軍民用目標(biāo)，識(shí)別準(zhǔn)確率可超過(guò)90%。

降低戰(zhàn)爭(zhēng)迷霧，提升戰(zhàn)場(chǎng)態(tài)勢(shì)感知能力。過(guò)去只有人腦才能實(shí)現(xiàn)的軍事知識(shí)關(guān)聯(lián)、目標(biāo)意圖推理、戰(zhàn)場(chǎng)環(huán)境仿真、態(tài)勢(shì)趨勢(shì)推演等任務(wù)，算法也可將逐步實(shí)現(xiàn)甚至表現(xiàn)更為優(yōu)越，能夠挖掘常人容易忽略的局部信息或者難以邏輯的全局信息，輔助指揮員看得清戰(zhàn)場(chǎng)、定得準(zhǔn)態(tài)勢(shì)、判得遠(yuǎn)方向，降低戰(zhàn)爭(zhēng)迷霧。DARPA 2007年啟動(dòng)的深綠項(xiàng)目，便能夠提前演示不同作戰(zhàn)方案可能產(chǎn)生的各種結(jié)果，協(xié)助指揮員對(duì)敵方行動(dòng)進(jìn)行預(yù)判。2018年DARPA戰(zhàn)略技術(shù)辦公室發(fā)布的指南針項(xiàng)目，也可幫助作戰(zhàn)人員通過(guò)衡量對(duì)手對(duì)各種刺激手段的反應(yīng)來(lái)識(shí)別對(duì)手意圖。

2S1（上）與BDRM-2（下）光學(xué)圖像（左）與SAR圖像（右）對(duì)比

創(chuàng)新作戰(zhàn)樣式，達(dá)成“一招制敵”效果。算法技術(shù)進(jìn)步也會(huì)帶來(lái)作戰(zhàn)樣式多樣化，可據(jù)此研究創(chuàng)造全新的戰(zhàn)術(shù)戰(zhàn)法，讓對(duì)手防不勝防，達(dá)成“一招制敵”效果。2019年美陸軍曾成功演示了一枚由灰鷹無(wú)人機(jī)發(fā)射的小型精確滑翔炸彈，在到達(dá)目標(biāo)的前一秒，基于機(jī)器學(xué)習(xí)的算法系統(tǒng)，自動(dòng)檢測(cè)到了一個(gè)更高威脅的目標(biāo)，算法系統(tǒng)迅速重新制導(dǎo)，并在幾秒鐘內(nèi)將之摧毀，若全采用“人在回路”制導(dǎo)模式，較難實(shí)現(xiàn)上述作戰(zhàn)過(guò)程。同樣地，早期魚(yú)雷等制導(dǎo)武器，受限于傳感器、算力、算法技術(shù)受限等因素，主要采用“人在回路”制導(dǎo)模式，單人單批次可操控彈藥數(shù)量受限，現(xiàn)如今隨著制導(dǎo)算法進(jìn)步，基于“發(fā)射后不管”的制導(dǎo)模式，射手可采用飽和攻擊模式，且能較好識(shí)別誘餌假目標(biāo)。

加快戰(zhàn)爭(zhēng)節(jié)奏，創(chuàng)造“以快制勝”的先發(fā)優(yōu)勢(shì)。隨著算法進(jìn)步與自動(dòng)化程度提高，OODA周期時(shí)間不斷縮短，信息流轉(zhuǎn)、融合速度不斷提高，作戰(zhàn)節(jié)奏不斷加快。算法先進(jìn)的軍隊(duì)，態(tài)勢(shì)感知、情報(bào)分析、指揮決策、作戰(zhàn)行動(dòng)的能力更強(qiáng)、速度更快、精度更高，將在以分秒計(jì)算的未來(lái)戰(zhàn)場(chǎng)中創(chuàng)造“以快制勝”的先發(fā)優(yōu)勢(shì)，算法落后的對(duì)手將陷入處處被動(dòng)的局面。如2008年洛克希勒·馬丁公司為美國(guó)導(dǎo)彈防御局演示的多殺傷運(yùn)載器交戰(zhàn)管理算法，旨在利用復(fù)雜算法整合自身探測(cè)系統(tǒng)與導(dǎo)彈防御系統(tǒng)信息，壓縮前期目標(biāo)信息需求，極大地壓縮交戰(zhàn)時(shí)間，加快作戰(zhàn)節(jié)奏。

當(dāng)前算法戰(zhàn)存在的“阿喀琉斯之踵”

即便算法戰(zhàn)將在未來(lái)戰(zhàn)爭(zhēng)中大放異彩，但毋庸置疑，算法固有的“黑箱”等問(wèn)題始終制約著算法最大化發(fā)揮其戰(zhàn)爭(zhēng)效能。

各國(guó)高度重視算法的軍事應(yīng)用

可解釋性難題對(duì)使用算法系統(tǒng)的作戰(zhàn)人員而言，算法系統(tǒng)的數(shù)據(jù)輸入層與數(shù)據(jù)輸出層之間是不可觀測(cè)的“黑箱”空間，也就是說(shuō)他們并不理解算法系統(tǒng)如何推理運(yùn)算，也不知道系統(tǒng)作出決策的依據(jù)，作戰(zhàn)人員也就難以對(duì)其產(chǎn)生信任，極有可能“棄之不用”。但即便是算法開(kāi)發(fā)人員，也不盡理解底層算法邏輯，現(xiàn)行人工智能算法較多地依賴(lài)工程經(jīng)驗(yàn)調(diào)整算法參數(shù)權(quán)值，缺乏基礎(chǔ)理論支撐，算法決策結(jié)果不可預(yù)知。2007年，美軍第3機(jī)步師的3臺(tái)利劍機(jī)器人，由于算法邏輯錯(cuò)誤，其中1臺(tái)機(jī)器人在執(zhí)行任務(wù)時(shí)竟完全失控，將槍口瞄準(zhǔn)了操作員，其決策結(jié)果并不符合預(yù)期效果。一旦發(fā)生誤傷事件，究竟是追究算法研發(fā)人員責(zé)任，還是作戰(zhàn)指揮員等責(zé)任，難以判定。如果算法可解釋性難題最終無(wú)法解決，也就意味著無(wú)法理清致命性自主無(wú)人武器平臺(tái)的戰(zhàn)爭(zhēng)責(zé)任，也就無(wú)法投入戰(zhàn)場(chǎng)應(yīng)用。

魯棒性難題以軍事目標(biāo)圖像識(shí)別技術(shù)為例，受各種客觀因素限制，平時(shí)或戰(zhàn)時(shí)可采集的對(duì)手軍事目標(biāo)圖像的樣本少、角度少、距離遠(yuǎn)、目標(biāo)小，如衛(wèi)星偵察圖像多為高仰角數(shù)據(jù)，而巡航導(dǎo)彈末制導(dǎo)前迎角較低，目標(biāo)特征并不一致。使用“臟數(shù)據(jù)”較多，泛化程度不高的數(shù)據(jù)，算法模型易出現(xiàn)“過(guò)度擬合”等問(wèn)題，難以達(dá)到預(yù)期效果。算法研發(fā)基于理想的環(huán)境模型，即使經(jīng)過(guò)多次測(cè)試調(diào)整，也難以擬合瞬息萬(wàn)變的實(shí)戰(zhàn)環(huán)境，算法能否在嚴(yán)苛的實(shí)戰(zhàn)環(huán)境下仍然保持預(yù)期運(yùn)行效果，是確保其能否發(fā)揮最大作戰(zhàn)效能的關(guān)鍵所在。

安全性難題功能系統(tǒng)越復(fù)雜，安全管理難度越高。如在軍用平臺(tái)已投入廣泛使用的語(yǔ)音識(shí)別算法系統(tǒng)，其普遍使用的麥克風(fēng)硬件拾音頻率上限約為24kHz，超出了人類(lèi)可識(shí)別聲音頻率上限（20kHz），設(shè)備可正常接收，而聽(tīng)眾無(wú)法察覺(jué)。攻擊者便可使用該頻率發(fā)送聲音攻擊語(yǔ)音識(shí)別算法系統(tǒng)，同理，也可利用生成人類(lèi)肉眼難以察覺(jué)的“毒”像素點(diǎn)，干擾算法輸出結(jié)果。其次，隨著代碼規(guī)模提高，算法也不可避免地出現(xiàn)代碼漏洞等安全問(wèn)題，如人工智能算法常用的Caffe框架，使用了超過(guò)130組的基礎(chǔ)代碼庫(kù)和第三方代碼組件支持，2018年曾被發(fā)現(xiàn)了數(shù)十種嚴(yán)重的代碼漏洞。而軍用平臺(tái)代碼更新速度慢或者不更新，這使得算法戰(zhàn)平臺(tái)容易成為被攻擊對(duì)象。

如何破解算法戰(zhàn)的“阿喀琉斯之踵”？

從系統(tǒng)工程角度來(lái)看，算法戰(zhàn)的弱點(diǎn)主要是因?yàn)樗惴ū旧砉逃械奶匦詫?dǎo)致的，完全破解這一“阿喀琉斯之踵”既不可能，也不現(xiàn)實(shí)。盡管算法已經(jīng)大量投入到軍事應(yīng)用中，但應(yīng)該看到，人力仍然是絕大多數(shù)軍用場(chǎng)景，諸如情報(bào)分析等任務(wù)的主力要素，自動(dòng)化算法并未完全取代也將難以完全取代機(jī)械人力?？梢?jiàn)，算法的軍事應(yīng)用，乃至于算法戰(zhàn)的概念仍在雛形中，相應(yīng)的約束規(guī)則也根據(jù)算法戰(zhàn)的發(fā)展階段進(jìn)行適時(shí)探索調(diào)整，否則會(huì)令技術(shù)發(fā)展停滯不前。從另一個(gè)角度看，“阿喀琉斯之踵”的存在會(huì)一直促使算法理論基礎(chǔ)與技術(shù)應(yīng)用的發(fā)展進(jìn)步。要破解算法戰(zhàn)存在的“軟肋”，可從以下幾個(gè)方面進(jìn)行探索。

制定以用戶(hù)為導(dǎo)向的可解釋標(biāo)準(zhǔn)。要求算法系統(tǒng)對(duì)一切軍用場(chǎng)景與一切結(jié)果皆可解釋過(guò)于嚴(yán)苛，姑且不論算法決策是否完全理性，指揮員本身就是非理性決策體，雙方建立信任關(guān)系并不完全依靠算法可解釋性，如算法決策結(jié)果準(zhǔn)確率超過(guò)指揮員心理閾值后，便可能建立起信任關(guān)系，在此過(guò)程中指揮員可能并不關(guān)心“黑箱”的算法決策過(guò)程。從用戶(hù)的角度來(lái)看，作戰(zhàn)人員會(huì)用腳進(jìn)行投票，對(duì)能夠理解的算法持久信任并產(chǎn)生使用需求，開(kāi)發(fā)人員也會(huì)主動(dòng)提高其可解釋程度以提高采納率，這在戰(zhàn)場(chǎng)上是至關(guān)重要的，如在爭(zhēng)分奪秒的指揮決策時(shí)，指揮員可獨(dú)立思考并篩選最優(yōu)的算法決策，而不需要時(shí)間成本可能極高的可解釋結(jié)果。因此只有對(duì)用戶(hù)可解釋?zhuān)惴ㄏ到y(tǒng)才會(huì)發(fā)揮其最大效能。

美國(guó)灰鷹無(wú)人機(jī)

制定以經(jīng)濟(jì)可行性為導(dǎo)向的魯棒性標(biāo)準(zhǔn)。將一枚精確制導(dǎo)導(dǎo)彈的命中概率從90%提高到99%，所需付出的成本可能是指數(shù)級(jí)增長(zhǎng)的，但采用“雙發(fā)齊射”的打擊戰(zhàn)術(shù)，命中概率便能達(dá)到99%，成本也相對(duì)較低?？梢?jiàn)，對(duì)算法系統(tǒng)的魯棒性要求要綜合衡量技術(shù)與經(jīng)濟(jì)可行性，完全擬合真實(shí)戰(zhàn)場(chǎng)環(huán)境并不現(xiàn)實(shí)，更可能導(dǎo)致算法系統(tǒng)過(guò)于臃腫而可用性降低，成本也十分高昂，同時(shí)在算力不足的終端作戰(zhàn)平臺(tái)，也不具備技術(shù)可行性。在效費(fèi)比過(guò)低的情況下，可采用更加經(jīng)濟(jì)高效的戰(zhàn)術(shù)戰(zhàn)法創(chuàng)新方法彌補(bǔ)魯棒性不足的缺陷。因此，需綜合衡量技術(shù)與精力可行性制定算法的魯棒性標(biāo)準(zhǔn)。

導(dǎo)彈“雙發(fā)齊射”可提高命中率與效費(fèi)比

制定以風(fēng)險(xiǎn)為導(dǎo)向的安全性標(biāo)準(zhǔn)。算法不是越透明越好，也不是越安全越好。例如，最安全的地面車(chē)輛可能為坦克，但普通家庭用戶(hù)更傾向選擇購(gòu)買(mǎi)舒適性與便利性更優(yōu)異的汽車(chē)。對(duì)于后方獨(dú)立運(yùn)行的情報(bào)分析算法，與一線作戰(zhàn)的致命性指揮決策算法，就需要區(qū)別對(duì)待，如果一刀切地要求最高安全標(biāo)準(zhǔn)，缺乏合理性和必要性。所以歐盟的人工智能法草案按照應(yīng)用場(chǎng)景的不同將人工智能系統(tǒng)分為高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最小風(fēng)險(xiǎn)，算法的安全標(biāo)準(zhǔn)也需區(qū)分風(fēng)險(xiǎn)制定，如分級(jí)分類(lèi)別制定標(biāo)準(zhǔn)，如將直接致命的算法系統(tǒng)列為高風(fēng)險(xiǎn)，需具備最高程度的可解釋性、魯棒性、安全性標(biāo)準(zhǔn)，始終確保作戰(zhàn)人員擁有最高開(kāi)火權(quán)限，在算法不可用的惡劣場(chǎng)景中，甚至需要自毀以確保其不會(huì)造成嚴(yán)重后果。