從復(fù)雜性視角看智能化戰(zhàn)爭

喬廣鵬 英建彬 王玉帥

隨著以深度學(xué)習(xí)為代表的人工智能技術(shù)取得重大突破，機(jī)器學(xué)習(xí)實(shí)現(xiàn)了由基于規(guī)則向基于學(xué)習(xí)的轉(zhuǎn)變，在圖像識別、語言處理、知識輔助等方面取得了巨大成功，并逐步用于作戰(zhàn)，創(chuàng)造了新的復(fù)雜性。英國著名物理學(xué)家霍金曾說：21世紀(jì)將是復(fù)雜性科學(xué)的世紀(jì)。2021年的諾貝爾物理學(xué)獎就頒給了三位在“復(fù)雜系統(tǒng)”科學(xué)領(lǐng)域做出突出貢獻(xiàn)的物理學(xué)家。從復(fù)雜性視角審視人工智能對戰(zhàn)爭的影響，對于理解智能化戰(zhàn)爭，加強(qiáng)國防和軍隊智能化建設(shè)具有重要意義。

智能化作戰(zhàn)體系的復(fù)雜性分析

在大國競爭的背景下，復(fù)雜性已被美軍視為一種為對手制造多重困境的武器，智能化武器裝備的發(fā)展更增加了復(fù)雜性的產(chǎn)生與運(yùn)用。

2021年諾貝爾物理學(xué)獎由Syukuro Manabe、Klaus Hasselmann和Giorgio Parisi（從左到右）共同獲得，以表彰其在理解復(fù)雜物理系統(tǒng)方面的開創(chuàng)性貢獻(xiàn)

魯棒性是指系統(tǒng)在不確定性的擾動下，具有保持某種性能不變的能力。作戰(zhàn)體系的組成是復(fù)雜的，由許多具有自主特征和適應(yīng)能力的組分系統(tǒng)組成。智能化武器裝備往往都經(jīng)過了大量數(shù)據(jù)的訓(xùn)練，具備較強(qiáng)的糾錯能力，再加上人的監(jiān)督與干預(yù)，可以使得體系的組分系統(tǒng)更加緊密地結(jié)合在一起，也能夠避免很多由人為因素引起的“失之毫厘，謬以千里”的傳統(tǒng)失誤。然而，一個新事物對于體系貢獻(xiàn)的魯棒性和脆弱性總是相伴相生的，就像《反脆弱》作者塔勒布講的“三元結(jié)構(gòu)”，他認(rèn)為所有的事物遇到威脅時會表現(xiàn)出三種狀態(tài)：脆弱性、魯棒性和反脆弱性。智能化武器系統(tǒng)和平臺因其智能互聯(lián)而威力成幾何級數(shù)增長，但同時其內(nèi)部算法、數(shù)據(jù)的邏輯關(guān)系越復(fù)雜，越是存在諸多不可預(yù)知的“bug”，面對外部干擾越具有脆弱性。它可以成為作戰(zhàn)體系的利劍，也可成為作戰(zhàn)體系的“阿喀琉斯之踵”。例如，無人機(jī)群可以發(fā)動群體攻擊釋放巨大威力，也可能遭到網(wǎng)電攻擊而瞬間團(tuán)滅，伊朗就曾使用電子戰(zhàn)迫降RQ-170，擊落RQ-4無人機(jī)。如何從脆弱性到魯棒性，如何從魯棒性到反脆弱性，是面向智能化戰(zhàn)爭的作戰(zhàn)體系建設(shè)應(yīng)思考的問題。

伊朗曾使用電子戰(zhàn)迫降RQ-170

適應(yīng)性造就復(fù)雜性。機(jī)器學(xué)習(xí)從基于閾值到基于規(guī)則，再到面向目標(biāo)的自我指導(dǎo)，使得武器自主性在逐步增大。美國防部在2011年的無人機(jī)系統(tǒng)路線圖中闡明了自主性發(fā)展的四個階段：人工操作—人工授權(quán)—人為監(jiān)督—完全自主。在這個過程中，人工智能為更加適應(yīng)環(huán)境的復(fù)雜性，其學(xué)習(xí)和進(jìn)化能力不斷增強(qiáng)，從而造就更加復(fù)雜的復(fù)雜性。例如，微軟的實(shí)驗(yàn)性聊天機(jī)器人Tay，上線后被推特上的水軍利用攻擊性的推文進(jìn)行了再培訓(xùn)，導(dǎo)致Tay在回答一些問題時使用了種族主義俚語，表現(xiàn)出了極右意識形態(tài)；俄羅斯的一款名為愛麗絲的人工智能聊天機(jī)器人，僅上線一天就變成了“流氓”。這本不是建造者的初衷，然而面對人工智能的學(xué)習(xí)和進(jìn)化，他們卻也無可奈何。

復(fù)雜系統(tǒng)的個體一般都遵循相對簡單的規(guī)則，大量個體的集體行為產(chǎn)生出了復(fù)雜、不斷變化且難以預(yù)測的行為模式。隨著智能化技術(shù)在軍事領(lǐng)域的廣泛運(yùn)用，作戰(zhàn)實(shí)體之間發(fā)生的連接和相互作用越來越多，就像是人的神經(jīng)元，單個神經(jīng)元非常簡單，但無數(shù)個神經(jīng)元連在一起形成一個復(fù)雜網(wǎng)絡(luò)，就會涌現(xiàn)出思維和意識。這些涌現(xiàn)現(xiàn)象在不同的環(huán)境中往往有不同的表現(xiàn)，因此系統(tǒng)會出現(xiàn)1+1＞2和100-1=0兩種截然不同的表現(xiàn)。例如，現(xiàn)代防空雷達(dá)是針對飛機(jī)研發(fā)出來的，然而對于低慢小目標(biāo)無能為力。在實(shí)戰(zhàn)中，這些帶有一定智能性的飛行器，通過自協(xié)同、自適應(yīng)究竟能達(dá)到什么樣的作戰(zhàn)效果，誰也無法預(yù)料。

智能化戰(zhàn)爭的復(fù)雜性給我們帶來的優(yōu)劣勢分析

中科院自動化所某研究員曾講：“真正的智能必須源自復(fù)雜性”。美軍近幾年也多次提及復(fù)雜性，并將其運(yùn)用到大國競爭中。我們應(yīng)采用復(fù)雜性視角，從進(jìn)攻和防御兩個角度來審視人工智能在未來戰(zhàn)爭中給我們帶來的影響。智能化戰(zhàn)爭復(fù)雜性的優(yōu)勢主要包括以下幾點(diǎn)。

宙斯盾防御系統(tǒng)也難以抵御“飽和式突防”

超量化運(yùn)用指的是以大量低成本的智能武器代替復(fù)雜的、多用途的、高價值的作戰(zhàn)平臺，以數(shù)量優(yōu)勢換取質(zhì)量優(yōu)勢，短時間內(nèi)根據(jù)戰(zhàn)場環(huán)境快速部署，使敵人的防御頃刻飽和。智能化還可以使這些裝備個體比傳統(tǒng)的有人系統(tǒng)進(jìn)行更密切而高效的協(xié)作，從而獲取一種整體作戰(zhàn)效果。更為重要的是，集群武器能夠通過大量部署，總體上保持質(zhì)量優(yōu)勢，而不是一味地通過消耗獲取概率優(yōu)勢，既可以增強(qiáng)己方執(zhí)行任務(wù)的適應(yīng)性、多樣性，又可以使對方增加防御成本。例如，美軍試驗(yàn)“飽和式突防”作戰(zhàn)概念，當(dāng)8架無人機(jī)突防宙斯盾防御系統(tǒng)時，至少1架成功；但如果是10架突防時，則會有3架獲得成功。還有“消耗式防御”“掩護(hù)式機(jī)動”“固定區(qū)域掩護(hù)”“智能微瞄準(zhǔn)”等作戰(zhàn)概念，都取得了全新的作戰(zhàn)效果。

新質(zhì)戰(zhàn)斗力不僅源于先進(jìn)科技的發(fā)展應(yīng)用，還來源于人工智能對老舊裝備的賦能。隨著人工智能、大數(shù)據(jù)、云計算等科技的迅猛發(fā)展，偵察、監(jiān)視、控制等一系列武器裝備的智能化水平實(shí)現(xiàn)了質(zhì)的躍升，無人自主、人機(jī)協(xié)同、跨域融合、全域作戰(zhàn)等全新作戰(zhàn)能力進(jìn)入實(shí)戰(zhàn)運(yùn)用。能力的多元化可以讓我們獲得跨域優(yōu)勢，對敵實(shí)施不對稱作戰(zhàn)。比如，俄軍2015年在敘利亞戰(zhàn)場上首次成建制使用機(jī)器人部隊，采取“無人在前、有人在后”的作戰(zhàn)編組，不僅在火力上對有人部隊實(shí)施了精確打擊，還在心理上實(shí)施了二次打擊，取得不俗成果；2020年納卡沖突，交戰(zhàn)雙方大量動用無人機(jī)，改寫了人們對制空權(quán)的理解。另外，老舊坦克、戰(zhàn)斗機(jī)加上人工智能技術(shù)，可以脫胎換骨，實(shí)現(xiàn)自動化或者自主作戰(zhàn)，將會成為一種殺傷力大、靈活性高的無人作戰(zhàn)裝備，重新?lián)Q發(fā)新的戰(zhàn)斗力。

現(xiàn)代戰(zhàn)爭高度信息化，各類傳感器、偵察監(jiān)視平臺、情報終端產(chǎn)生了海量數(shù)據(jù)，指揮員做決策時面對的信息復(fù)雜度越來越高。智能化進(jìn)入輔助決策后，傳統(tǒng)的作戰(zhàn)環(huán)OODA（觀察Observe、調(diào)整Orient、決策Decide、行動Act），正在演變成PCDA（感知Perceive、認(rèn)知Cognize、決策Decide、行動Act），人參與其中的環(huán)節(jié)減少，但是層次提高。在機(jī)械化、信息化、智能化“三化”融合發(fā)展的階段，機(jī)械化基本可與強(qiáng)敵并肩齊驅(qū)，但信息化還存在一定短板，突出體現(xiàn)在指揮控制領(lǐng)域。在這種形勢下，智能化與強(qiáng)敵同時起跑，一方面根據(jù)數(shù)據(jù)需求有助于倒查信息化建設(shè)的不足，另一方面基于人工智能的技術(shù)優(yōu)勢有助于追平強(qiáng)敵在指揮控制領(lǐng)域的優(yōu)勢。

智能化戰(zhàn)爭復(fù)雜性的劣勢主要包括以下幾點(diǎn)。

作為人工智能技術(shù)的重要基石，神經(jīng)網(wǎng)絡(luò)通過運(yùn)用特定結(jié)構(gòu)進(jìn)行搜索和映射而表現(xiàn)出智能特征。但是到目前為止，人無法解釋神經(jīng)網(wǎng)絡(luò)的運(yùn)作原理，也不能清楚地理解神經(jīng)網(wǎng)絡(luò)中每一層提取特征的具體功能，無法將數(shù)據(jù)與原理相對應(yīng)。在神經(jīng)網(wǎng)絡(luò)的“黑箱”中，存在一種反人類直覺和難以預(yù)料的脆弱性。從技術(shù)層面上說，讓機(jī)器產(chǎn)生高置信度的欺騙圖像是存在的，通過給機(jī)器注入虛假數(shù)據(jù)以操縱其行為也是可行的。因此，人工智能的發(fā)現(xiàn)能力看似強(qiáng)大，實(shí)際上缺乏穩(wěn)健性。2013年就發(fā)生過類似事件，黑客攻擊了美聯(lián)社的推特賬戶并發(fā)送了“白宮爆炸事件”的虛假推文，導(dǎo)致股票迅速暴跌。未來人工智能深入到作戰(zhàn)的各個環(huán)節(jié)，在高度對抗性的環(huán)境下，更增加了戰(zhàn)場的不確定性，帶來的“未知的未知”風(fēng)險將嚴(yán)重存在。

2015年，俄軍在敘利亞戰(zhàn)場上首次成建制使用機(jī)器人部隊

智能化戰(zhàn)爭的作戰(zhàn)環(huán)

級聯(lián)反應(yīng)指在一系列連續(xù)事件中前面一種事件能激發(fā)后面一種事件的反應(yīng)，最典型的就是1996年的北美大停電。1996年8月，美國電網(wǎng)的一條電線由于無法承受高溫而斷電，該線路上的電流自動地轉(zhuǎn)移到其他線路上，被轉(zhuǎn)移的線路由于無法長時間承載強(qiáng)大的電流，進(jìn)而也斷電了，電流又繼續(xù)向其他線路傳遞，就這樣引發(fā)了連鎖故障，造成了美國11個州和2個加拿大省份的大停電。電力網(wǎng)絡(luò)的這種級聯(lián)反應(yīng)在互聯(lián)網(wǎng)上同樣適用。如果某個路由器出了問題，會自動提示傳輸協(xié)議跳過故障節(jié)點(diǎn)，將信息包發(fā)送到其他的路由器。如果出現(xiàn)故障的路由器承擔(dān)的流量非常巨大，那么就會給相鄰的節(jié)點(diǎn)帶來巨大的壓力。因此，只要刪除互聯(lián)網(wǎng)上幾個大的節(jié)點(diǎn)，就能很容易地造成災(zāi)難性故障?！奥?lián)接”是體系的基礎(chǔ)，未來智能化戰(zhàn)爭的重要特征就是萬物互聯(lián)。網(wǎng)絡(luò)結(jié)構(gòu)隨著作戰(zhàn)實(shí)體的層次不同、種類多樣、規(guī)模巨大而越來越復(fù)雜，關(guān)鍵節(jié)點(diǎn)、故障規(guī)模、影響程度更加隱形，一旦遭到打擊或者出現(xiàn)故障，可能出現(xiàn)“黑天鵝”事件，無法預(yù)測。

2020年，伊朗首席核科學(xué)家被一把嵌入了人工智能算法與多個攝像頭的遙控槍暗殺

智能化戰(zhàn)爭一個重要的特征是人從臺前走到了幕后。距離上，人可以近在眼前，也可以遠(yuǎn)在天邊；邏輯上，人可以在殺傷鏈的回路中，也可以在回路上，還可以在回路外。由于仿生學(xué)的發(fā)展，智能武器系統(tǒng)也實(shí)現(xiàn)了“隱身”，既可以是萬米高空的無人機(jī)，也可以是身邊的麻雀、蒼蠅，攻擊手段更加隱蔽，給對手的“頭”部安全帶來了巨大威脅，難以查證、難以追溯，戰(zhàn)爭打得不僅不是堂堂之陣，有可能還弄不清對手是誰。例如，2020年伊朗首席核科學(xué)家被一把嵌入了人工智能算法與多個攝像頭的遙控槍暗殺，現(xiàn)場沒有人為因素，槍擊過程全部由遠(yuǎn)程控制的自動武器完成，其幕后實(shí)施者成了一個謎。槍械這一幾百年來不斷進(jìn)化的武器，在被計算機(jī)化和技術(shù)疊加復(fù)雜化之后，顯然也“追隨”戰(zhàn)斗無人機(jī)，加入了常人難以想象的高科技武器庫。人工智能后，萬物皆可智能，萬物皆可攻擊。

應(yīng)對智能化戰(zhàn)爭復(fù)雜性的思考

近年來，美軍及相關(guān)智庫多次提及復(fù)雜性，并強(qiáng)調(diào)：在大國競爭和戰(zhàn)爭中，復(fù)雜性是一種武器，美軍必須充分理解復(fù)雜性的性質(zhì)和價值，即理解復(fù)雜性將如何用來作為攻擊手段，以及在作戰(zhàn)中如何運(yùn)用復(fù)雜性。為應(yīng)對復(fù)雜性，應(yīng)從以下幾個方面加強(qiáng)建設(shè)。

“戰(zhàn)爭是最不確定性的王國”。贏得戰(zhàn)爭的首要一點(diǎn)是具備反脆弱能力，能夠在這種變化快、風(fēng)險高的環(huán)境中生存下來。一是要提高體系的冗余度。塔勒布在《反脆弱》一書中說，“冗余是機(jī)會主義，看似是一種浪費(fèi)，但即使在沒有危險的情況下，這種額外的力量也能帶來一定的益處?！崩?，2011年日本福島核電站泄露，看似是由于地震引起的天災(zāi)，可實(shí)際上卻是一起“人禍”。因?yàn)楹穗娬镜慕ㄖ?biāo)準(zhǔn)，本身就存在設(shè)計缺陷：核電站的建造者，只是按照過往發(fā)生過的最強(qiáng)地震設(shè)置了安防措施，卻從未想過如果未來發(fā)生了更大地震該如何應(yīng)對。智能化戰(zhàn)爭是一個全新的作戰(zhàn)樣式，體系能否經(jīng)得起考驗(yàn)，不應(yīng)在實(shí)戰(zhàn)中尋求答案，而是在要預(yù)想最壞情況、做好最壞打算的前提下設(shè)計體系，不僅夠用而且要保持一定的冗余度。二是要促進(jìn)體系演化。尼采說：“殺不死我的，使我更強(qiáng)大”。強(qiáng)大的體系除了精妙的設(shè)計外，還離不開運(yùn)行中的演化。就像機(jī)器學(xué)習(xí)一樣，再好的模型也不是建立之初就表現(xiàn)出極強(qiáng)的智能，而是要不斷地試錯，在環(huán)境的反饋中調(diào)整參數(shù)，才能有良好的學(xué)習(xí)效果。同樣，一個成熟的體系需要外部不斷地進(jìn)行刺激，在隨機(jī)事件和不確定性當(dāng)中彌補(bǔ)自身的不足，才能提升應(yīng)對外部風(fēng)險的能力。

智能化作戰(zhàn)體系作為一種新的作戰(zhàn)樣式，需要保持一定的冗余度

人工智能雖然在很多方面超越了人類，但是智能化戰(zhàn)爭并不是要人走開，而是用人工智能輔助、解放和增強(qiáng)人，通過人機(jī)智能融合，實(shí)現(xiàn)人的自我超越，因此人仍然是智能化戰(zhàn)爭的核心。一是要增強(qiáng)指揮員的科技理解力。人類以什么樣的方式生產(chǎn)就以什么樣的方式對抗。我以你不懂的方式進(jìn)行作戰(zhàn)，便形成降維打擊。智能化技術(shù)的發(fā)展加快了這種代差的形成速度，戰(zhàn)爭黑科技層出不窮，稍不留意就有可能陷入對手的降維打擊中。對于一名指揮員來說，不懂科技就會制約思維，準(zhǔn)備的往往是上一場戰(zhàn)爭。二是要增強(qiáng)指揮員對智能化戰(zhàn)爭復(fù)雜性的認(rèn)識能力。決策不是大腦中隨機(jī)擲骰子，而是建立在認(rèn)知的基礎(chǔ)上的一種復(fù)雜的思維過程。復(fù)雜性給了我們很多反直覺的認(rèn)識，比如規(guī)模法則中的非線性冪律關(guān)系、離散事件之間的相關(guān)關(guān)系、封閉系統(tǒng)的熵增定律等，運(yùn)用到作戰(zhàn)中已遠(yuǎn)遠(yuǎn)超越了穿插迂回、分割包圍的戰(zhàn)術(shù)思想。美軍已經(jīng)列出四大類受益于利用復(fù)雜性的行動：降級作戰(zhàn)圖、削弱紅方反應(yīng)能力、跨組織邊界行動和利用非線性行動。如果不加深對復(fù)雜性的理解，指揮員的作戰(zhàn)思維跟不上智能化戰(zhàn)爭發(fā)展，在復(fù)雜的形勢下，正確決策的能力就會大大降低。

邊緣是相對指揮中心這個功能地位而言的，但實(shí)際上現(xiàn)代戰(zhàn)爭的邊緣與中心的界限正在變得模糊，中心的作用在弱化，而邊緣的作用在增強(qiáng)。智能化引入作戰(zhàn)后，體系的組織結(jié)構(gòu)已逐步由中心化的緊密耦合型組織向去中心化的松散耦合型組織演化，指揮控制上也逐步由集中指揮分布執(zhí)行向分散指揮控制演化。面對快節(jié)奏的戰(zhàn)場環(huán)境，指揮決策窗口轉(zhuǎn)瞬即逝，作戰(zhàn)實(shí)體有時候必須第一時間作出反應(yīng)，也就是我們所熟知的現(xiàn)代戰(zhàn)爭是“快魚吃慢魚，而不是大魚吃小魚”。從這個角度上說，智能化戰(zhàn)爭中，領(lǐng)導(dǎo)者和指揮機(jī)關(guān)扮演的更多是“數(shù)據(jù)中臺”的角色，在物理結(jié)構(gòu)上是將各個作戰(zhàn)實(shí)體的數(shù)據(jù)匯總、整理和分發(fā)，在功能邏輯上是資源樞紐和能力共享平臺。因此，必須賦權(quán)周邊、賦能周邊，組織結(jié)構(gòu)上提升作戰(zhàn)實(shí)體的功能地位，減少數(shù)據(jù)流通跨度；技術(shù)上增強(qiáng)邊緣計算的能力，提升作戰(zhàn)實(shí)體自適應(yīng)的能力，真正地實(shí)現(xiàn)網(wǎng)絡(luò)化作戰(zhàn)。