軍事智能化的瓶頸與關(guān)鍵問題研究

【關(guān)鍵詞】人工智能? 人機(jī)融合? 功能力? 深度態(tài)勢感知

【中圖分類號】 TP18? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 【文獻(xiàn)標(biāo)識碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2021.10.004

最近幾年，盡管人工智能在軍事領(lǐng)域催生了高度智能化的武器及各種無人作戰(zhàn)平臺，并進(jìn)一步加速推進(jìn)戰(zhàn)爭形態(tài)向智能化戰(zhàn)爭演變和轉(zhuǎn)化，但是，大家對于軍事智能和智能概念的理解并沒有越來越清晰，對此有意/無意的迷惑反而越來越多，甚至嚴(yán)重制約了這種號稱“改變戰(zhàn)爭游戲規(guī)則”的顛覆性技術(shù)進(jìn)一步發(fā)展，本文試圖根據(jù)國內(nèi)外相關(guān)研究把這幾個(gè)概念的內(nèi)涵外延解釋清楚。

DARPA的智能研究動向與不足

美國國防高級研究計(jì)劃局（Defense Advanced Research Projects Agency，簡稱DARPA）在繼續(xù)開發(fā)第二代人工智能技術(shù)及其軍事應(yīng)用的同時(shí)，積極布局第三代人工智能發(fā)展，旨在通過機(jī)器學(xué)習(xí)和推理、自然語言理解、建模仿真、人機(jī)融合等方面的研究，突破人工智能基礎(chǔ)理論及核心技術(shù)。相關(guān)項(xiàng)目包括：機(jī)器常識、終身學(xué)習(xí)機(jī)、可解釋的人工智能、可靠自主性、不同來源主動詮釋、自動知識提取、確保AI抗欺騙可靠性、基礎(chǔ)人工智能科學(xué)、機(jī)器通用感知、利用更少數(shù)據(jù)學(xué)習(xí)、人機(jī)共生、開放世界奇異性的人工智能與學(xué)習(xí)科學(xué)、人機(jī)協(xié)作社會智能團(tuán)隊(duì)、實(shí)時(shí)機(jī)器學(xué)習(xí)，等等。

DARPA研究的不足在于“得形忘意”，沒能解決軍事智能的痛點(diǎn)和難點(diǎn)：兵者詭道也。例如，孫子的“兵者，詭道也，故能而示之不能，用而示之不用，近而示之遠(yuǎn)，遠(yuǎn)而示之近”;又如，克勞塞維茨的“戰(zhàn)爭中得到的情報(bào)，很大一部分是互相矛盾的，更多的是假的，絕大部分是相當(dāng)不確實(shí)的。這就要求軍官具有一定的辨別能力，這種能力只有通過對事物和人的認(rèn)識和判斷才能得到”。古代《孫子兵法》的生命力在于思維戰(zhàn)勝了物理，近代《戰(zhàn)爭論》的缺點(diǎn)在于把戰(zhàn)爭看成了理論，未來“人機(jī)環(huán)境系統(tǒng)智能”的特點(diǎn)在于加上了“天時(shí)、地利、人和”之外的“機(jī)輔”。

總之，DARPA的軍事智能化有兩大支柱，一是“機(jī)器學(xué)習(xí)”，二是“自主系統(tǒng)”。然而，當(dāng)代的自主系統(tǒng)還處于“偽自主”階段，這是由其底層技術(shù)架構(gòu)（機(jī)器學(xué)習(xí)和大數(shù)據(jù)處理機(jī)制）的局限所決定的。無論是行為主義的強(qiáng)化學(xué)習(xí)、聯(lián)結(jié)主義的深度學(xué)習(xí)，還是符號主義的專家系統(tǒng)都不能如實(shí)準(zhǔn)確地反映人類的認(rèn)知機(jī)理，如直覺、情感、責(zé)任、價(jià)值等。

美國國防部于2018年6月成立的聯(lián)合人工智能中心（JAIC），作為專職負(fù)責(zé)軍隊(duì)智能化建設(shè)的機(jī)構(gòu)，統(tǒng)籌規(guī)劃建設(shè)智能化軍事體系。2021年，該中心將以各軍種工作為基礎(chǔ)，專注于作戰(zhàn)人員的整合和人工智能生態(tài)系統(tǒng)的創(chuàng)建，其重點(diǎn)任務(wù)是建構(gòu)軍事人機(jī)環(huán)境生態(tài)智能系統(tǒng)。

目前人工智能技術(shù)的核心問題

當(dāng)前的人工智能及未來的智能科學(xué)研究存在兩個(gè)致命的缺點(diǎn)。（1）把數(shù)學(xué)等同于邏輯。弗雷格、羅素等邏輯主義者一般是把數(shù)學(xué)歸于邏輯學(xué)（logic）之下，“+logy”也成為許多學(xué)科的詞尾，如生物學(xué)Biology=bio（生）+logy（學(xué)科）。邏輯是探索、闡述和確立有效推理原則的學(xué)科。數(shù)學(xué)不等同于邏輯，數(shù)學(xué)研究空間形式和數(shù)量關(guān)系結(jié)構(gòu)，是一種基于公理的邏輯體系;邏輯研究思維的形式結(jié)構(gòu)。二者一致之處在于“研究對象都是高度抽象的結(jié)構(gòu)”。不同之處在于，其一，數(shù)學(xué)和邏輯的研究對象不同，數(shù)學(xué)的研究對象是客觀事物的空間形式與數(shù)量關(guān)系，而邏輯學(xué)的研究對象是思維的形式及規(guī)律;其二，數(shù)學(xué)和邏輯的任務(wù)和目標(biāo)不同，數(shù)學(xué)的主要目標(biāo)和任務(wù)是揭示客觀事物的空間形式與數(shù)量關(guān)系的特征，探索其規(guī)律性，而邏輯的主要目標(biāo)和任務(wù)則是解決思維推理形式的有效性或真實(shí)性問題。（2）混淆符號與對象的指涉。符號的重點(diǎn)在于表征，而對象的重點(diǎn)在于意向性。一般來說，一種意向可以對應(yīng)一種或多種符號，而一種符號代表的意向性也可以有多個(gè)指向（如能指、所指、意指）。人類可以用“一花一世界，一樹一菩提”靈活地表征任何事物，而目前的機(jī)器卻只能用固定打標(biāo)的方式孤立、靜止、片面地表征一個(gè)事物。

這兩個(gè)缺點(diǎn)直接誘發(fā)了幾個(gè)很難解決的智能領(lǐng)域及軍事智能領(lǐng)域問題：（1）客觀數(shù)據(jù)與主觀信息、知識的彈性輸入——靈活的表征;（2）公理與非公理推理的有機(jī)融合——有效的處理;（3）責(zé)任性判斷與無風(fēng)險(xiǎn)性決策的無縫銜接——虛實(shí)互補(bǔ)的輸出;（4）人類反思與機(jī)器反饋之間的相互協(xié)同調(diào)整;（5）深度態(tài)勢感知與其逆向資源管理過程的雙向平衡;（6）人機(jī)之間透明信任機(jī)制的生成;（7）機(jī)器常識與人類常識的差異;（8）人機(jī)之間可解釋性的閾值;（9）機(jī)器終身學(xué)習(xí)的范圍/內(nèi)容與人類學(xué)習(xí)的不同。

軍事智能不是“軍事+AI”

智能是一種由人、機(jī)、環(huán)境系統(tǒng)相互作用而產(chǎn)生的組織形式，是物理、生理、心理、數(shù)理、管理、哲理、文理、機(jī)理、藝?yán)怼⒌乩?、倫理、宗理等多事?shí)、多價(jià)值、多責(zé)任的混合適應(yīng)體系，所以智能可能不是單純的類腦。

軍事智能不是“軍事+AI”，也不是“AI+軍事”，軍事智能本質(zhì)就是軍事博弈，其本身就包含了各種各樣的智能形式（如反智能），所以更準(zhǔn)確地說，軍事智能是一種智慧形式（如塞翁失馬），既包括科學(xué)技術(shù)，也涉及文史哲宗教等方面，屬于復(fù)雜領(lǐng)域，其核心是“兵不厭詐”和“兵者詭道也”。其未來發(fā)展方向是人、物（機(jī)是人造物）、與環(huán)境系統(tǒng)相融合的“人類算計(jì)+機(jī)器計(jì)算”（簡稱“計(jì)算計(jì)”）體系。

在軍事智能中，厘清自動化、智能化的概念非常重要。自動化是確定性的輸入，可編程的處理，確定性的輸出;人工智能是部分確定性的輸入，可編程的處理，部分確定性的輸出;智能是不確定性的輸入，部分可編程的處理，不確定性的輸出。人工智能（含自動化）與智能的區(qū)別是：一個(gè)是功能，一個(gè)是能力。很多人期望得到的往往是能力，而不是功能，即通過人工智能功能實(shí)現(xiàn)智能能力，這就是期望與現(xiàn)實(shí)的矛盾所在，也是人們失望所在：把功能錯(cuò)看成了能力。軍事智能需要實(shí)現(xiàn)“功能+能力”的合成（簡稱功能力）。機(jī)器功能邏輯的基礎(chǔ)是映射關(guān)系，而人類直覺能力的基礎(chǔ)則是漫射、散射、影射，其中，人類的想象力、創(chuàng)造力是一種情理融合的能力，也是“軍事智能”的邊界。因此，僅開發(fā)出高性能智能產(chǎn)品或系統(tǒng)，仍不能提高體系的組織力和戰(zhàn)斗力，必須將其集成到運(yùn)行技術(shù)系統(tǒng)、組織流程和人員運(yùn)行流程中才能發(fā)揮其威力和效力。

軍事智能化的瓶頸和關(guān)鍵問題不是單純的快、單純的準(zhǔn)，而是對。例如，單純機(jī)器計(jì)算得越精細(xì)、越準(zhǔn)確、越快速，危險(xiǎn)性越大，因?yàn)閿橙丝梢噪[真示假、造勢欺騙、以真亂假，所以有專家參與的人機(jī)融合/混合軍智更重要、更迫切、更有效。人機(jī)混合常常是指“人+機(jī)”（側(cè)重事實(shí)性數(shù)理物理結(jié)合，價(jià)值性結(jié)合較少）;人機(jī)融合是指“人×機(jī)”（既包括事實(shí)，也涉及價(jià)值，既有數(shù)理物理交互，也有心理倫理交流）。在軍事界，大多數(shù)觀點(diǎn)認(rèn)為，人必須在“人—裝備—環(huán)境系統(tǒng)”中并掌控該系統(tǒng)的關(guān)鍵使用。例如，許多科學(xué)家支持致命性自主武器系統(tǒng)（LAWS）宣言，反對脫離人類控制的自主武器系統(tǒng)開發(fā)。這就必須滿足兩點(diǎn)要求：一是必須有可靠的人在系統(tǒng)中，而不能是不可靠的人在系統(tǒng)中;二是要求人、機(jī)不能是平等關(guān)系，可靠的人必須要發(fā)揮關(guān)鍵作用。因此，從這個(gè)角度看，對軍事智能而言，“人機(jī)混合”要比“人機(jī)融合”一詞更準(zhǔn)確一些（可以保證人主機(jī)輔關(guān)系一致性）。

軍事智能與藝術(shù)的本質(zhì)相同：不在于和諧、理性和規(guī)則，而在于緊張、沖突和斗爭。這就是The Art of War（《孫子兵法》）和現(xiàn)代性美學(xué)的共性。休謨認(rèn)為：“一切科學(xué)都與人性有關(guān)，對人性的研究應(yīng)是一切科學(xué)的基礎(chǔ)?！笨茖W(xué)尚且如此，包含科學(xué)的軍事智能也不例外。一般而言，人工（機(jī)器）智能擅長客觀事實(shí)（真理性）計(jì)算，人類智能則善于主觀價(jià)值（道理性）算計(jì)。當(dāng)計(jì)算大于算計(jì)時(shí)，可以側(cè)重人工智能;當(dāng)算計(jì)大于計(jì)算時(shí)，應(yīng)該偏向人類智能;當(dāng)計(jì)算等于算計(jì)時(shí)，最好使用人機(jī)智能。計(jì)算往往是從已知條件開始的邏輯（解決“復(fù)”），而算計(jì)常常是從未知前提出發(fā)的直覺（處理“雜”）。涉及人、機(jī)、環(huán)境三者的軍事智能如《易經(jīng)》一樣，其核心都在于：變。因時(shí)而變、因境而變、因法而變、因勢而變……費(fèi)曼說：“物理學(xué)家們只是力圖解釋那些不依賴于偶然的事件，但在現(xiàn)實(shí)世界中，我們試圖去理解的事情大都取決于偶然。”人機(jī)環(huán)境之間的關(guān)系包含有向閉環(huán)、無向開環(huán)、有向開環(huán)和無向閉環(huán)，自主系統(tǒng)大多是一種有向閉環(huán)行為。軍事智能中人機(jī)環(huán)境系統(tǒng)融合的計(jì)算計(jì)系統(tǒng)也許就是一個(gè)解決休謨之問（從事實(shí)中能否得出價(jià)值？）的秘密通道，即通過人的算計(jì)結(jié)合機(jī)器的計(jì)算，實(shí)現(xiàn)從“事實(shí)”向“價(jià)值”的“質(zhì)的飛躍”。

如何實(shí)現(xiàn)人的算計(jì)（經(jīng)驗(yàn)）與機(jī)的計(jì)算（模型）融合后的計(jì)算計(jì)（計(jì)算+算計(jì)）系統(tǒng)呢？東方思想里的“易”就是一個(gè)典型的計(jì)算計(jì)系統(tǒng)，有算有計(jì)，有性有量，有顯有隱，計(jì)算交融，情理相依。其中的“與或非”邏輯既有人經(jīng)驗(yàn)的、也有物（機(jī)）數(shù)據(jù)的，即人價(jià)值性的“與或非”+機(jī)事實(shí)性的“與或非”，人機(jī)融合智能及深度態(tài)勢感知的任務(wù)之一就是要打開與、或、非門的狹隘。人的經(jīng)驗(yàn)性概率與機(jī)器的事實(shí)性概率不同，它是一種價(jià)值性概率，可以穿透非家族相似性的壁壘，用其它領(lǐng)域的成敗得失結(jié)果影響當(dāng)前領(lǐng)域的態(tài)勢感知（Situation Awareness，簡稱SA），如同情、共感、同理心、信任等。

凡事有利就有弊，智能也不例外。在人機(jī)環(huán)境系統(tǒng)動態(tài)交互（產(chǎn)生智能）時(shí)，由于時(shí)間、空間、對象、屬性、關(guān)系、條件、規(guī)則、情緒、狀態(tài)、趨勢、感知等的變化，智能的方式、方法、方案、手段、工具都會作適當(dāng)?shù)恼{(diào)整和重新組合，正可謂“時(shí)變法亦變”。智能需要解決的常常是真實(shí)問題，如安全威脅、高效處理、準(zhǔn)確預(yù)測，等等。智能包含著過去的經(jīng)驗(yàn)和數(shù)據(jù)，但不會僅僅依賴這些過去，它還包含著未來對此時(shí)的影響，如期望的反饋。一般而言，不能隨機(jī)應(yīng)變的智能應(yīng)該不是真智能。在人機(jī)交互、人機(jī)混合、人機(jī)融合智能等應(yīng)用中，人工智能可以幫助人，也可以阻礙人，還可以毀掉人，比如過度依賴人工智能容易造成人性中的自信、果敢和勇氣等的喪失，因此，做這些工作或申請項(xiàng)目時(shí)，希望不要光看人機(jī)融合中計(jì)算計(jì)系統(tǒng)好的一面，還希望管理者、評審者也能客觀地看到其不好的一面，在不少情境任務(wù)下，不好的概率可能更高一些。

主流人工智能學(xué)科仍無法理解軍事人機(jī)融合智能領(lǐng)域

AI追求數(shù)據(jù)化、確定性和理性的解釋，假定任何問題都有標(biāo)準(zhǔn)答案，把每個(gè)決策簡單地變成約束條件下求解，變成數(shù)據(jù)計(jì)算。但是，真實(shí)世界里具有大量不確定性，沒有標(biāo)準(zhǔn)答案，需要人的想象力和算計(jì)，不是循規(guī)蹈矩。康德說，“事物的特性往往與觀察者有關(guān)”，這與量子力學(xué)思想相通，也是軍事智能的靈魂，即人類的思維之爭。

研究一個(gè)事物如果不從未來看它，往往會被它迷惑。計(jì)算是算計(jì)的產(chǎn)物，計(jì)算常是算計(jì)的簡化版，不能體現(xiàn)出算計(jì)中主動、辯證、矛盾的價(jià)值。計(jì)算可以處理關(guān)鍵場景的特征函數(shù)，但較難解決基本場景的對應(yīng)規(guī)則，更難應(yīng)付任意場景的統(tǒng)計(jì)概率，可惜這些還僅僅只是場景，遠(yuǎn)未涉及情境和意識。

智能僅是解決問題的一種工具手段，若不與日常生活中的風(fēng)俗習(xí)慣、倫理道德中的仁義禮智信勇、法律中的邊界規(guī)則統(tǒng)計(jì)概率等諸多方面相結(jié)合，就很容易泛濫成災(zāi)而不可控制。真實(shí)的智能不是萬能，它不但涉及事實(shí)性的真假問題，還應(yīng)包括價(jià)值性的是非問題，更與責(zé)任性的大小輕重密切相關(guān)。因此，從嚴(yán)格意義上講，軍事智能是許多領(lǐng)域的一連串組合應(yīng)用。

對于人、機(jī)而言，雖然都是將一個(gè)問題拆成幾個(gè)子問題，再分別求解這些子問題，即可推斷出大問題的解，但人的動態(tài)規(guī)劃與機(jī)器的動態(tài)規(guī)劃卻不同：有經(jīng)驗(yàn)的人可以游刃有余地將一個(gè)復(fù)雜性大問題拆成事實(shí)、價(jià)值、責(zé)任等不同性質(zhì)的小問題來求解，還可以避免各種鼠目寸光和畫地為牢的行為決策，而目前的機(jī)器對此異質(zhì)合取化解問題依然望塵莫及，人工智能只會對比（不是類比），也許這也是人類智能的又一個(gè)瓶頸和難點(diǎn)：如何有效地處理異質(zhì)性的非形式化問題。計(jì)算是事實(shí)性推理關(guān)系，低階的算計(jì)則是價(jià)值性推理關(guān)系，高階的算計(jì)更是事實(shí)與價(jià)值混合/融合的推理關(guān)系，計(jì)算與算計(jì)是不同的因果關(guān)系。人類的“既……又……”關(guān)系往往不是“并”的計(jì)算關(guān)系，而與具體態(tài)勢算計(jì)有關(guān)。是非不同于對錯(cuò)，也不同于真假和0/1，孟子曰：“是非之心，智也”。

諾貝爾獎(jiǎng)得主丹尼爾·卡內(nèi)曼在《思考：快與慢》一書中將人類的本能意識快決策稱為系統(tǒng)一，將人類的理性邏輯慢決策稱為系統(tǒng)二，并考察了系統(tǒng)一與系統(tǒng)二之間的區(qū)別。經(jīng)筆者進(jìn)一步研究，人機(jī)環(huán)境系統(tǒng)的深度態(tài)勢感知中應(yīng)該還存在決策系統(tǒng)三：人類理性與感性結(jié)合下不快不慢的、人機(jī)融合的“計(jì)算計(jì)決策系統(tǒng)”。

結(jié)論

2021年5月28日，習(xí)近平總書記出席兩院院士大會并發(fā)表重要講話，他指出，“科技創(chuàng)新速度顯著加快，以信息技術(shù)、人工智能為代表的新興科技快速發(fā)展，大大拓展了時(shí)間、空間和人們認(rèn)知范圍，人類正在進(jìn)入一個(gè)‘人機(jī)物三元融合的萬物智能互聯(lián)時(shí)代?！避娛氯藱C(jī)融合智能是由“人—機(jī)—環(huán)境系統(tǒng)”相互作用而產(chǎn)生的新型戰(zhàn)場智能系統(tǒng)。其與人的智慧、人工智能的差異具體表現(xiàn)在三個(gè)方面：首先，在融合智能輸入端，它把設(shè)備傳感器客觀采集的數(shù)據(jù)與人主觀感知到的信息結(jié)合起來，形成一種新的輸入方式;其次，在智能的數(shù)據(jù)/信息中間處理過程，機(jī)器數(shù)據(jù)計(jì)算與人的信息認(rèn)知相融合，構(gòu)建起一種獨(dú)特的理解途徑;最后，在智能輸出端，它將機(jī)器運(yùn)算結(jié)果與人的價(jià)值決策相匹配，形成概率化與規(guī)則化有機(jī)協(xié)調(diào)的優(yōu)化判斷。軍事人機(jī)融合智能是一種廣義上的“群體”智能形式，這里的人不僅包括個(gè)人，還包括眾人，機(jī)不但包括機(jī)器裝備，還涉及機(jī)制機(jī)理;此外，還關(guān)聯(lián)自然和戰(zhàn)場環(huán)境、真實(shí)和虛擬環(huán)境等。

軍事人機(jī)融合智能是軍事智能發(fā)展的必經(jīng)之路，其中既包括理論方法，也包括對人、機(jī)、環(huán)境之間關(guān)系的探索。近年來，越來越多的人工智能武器融入戰(zhàn)場環(huán)境，越來越多的人開始關(guān)注軍事人機(jī)融合智能。但客觀地看，當(dāng)前的軍事人機(jī)融合智能與我們的設(shè)想尚存一定距離，如何將人的智能遷移到機(jī)器中，仍需要智能科學(xué)家作進(jìn)一步研究。軍事人機(jī)融合智能研究不僅要考慮機(jī)器技術(shù)的高速發(fā)展，更要考慮交互主體——人類的思維與認(rèn)知方式，讓機(jī)器與人類各司其職、互相促進(jìn)，這才是軍事智能研究的前景與趨勢。

參考文獻(xiàn)

Lecun， Y.; Bengio， Y. and Hinton， G.， 2015， "Deep learning"， Nature， 7553： 521， p. 436.

Silve， D.; Huang， A.; Maddison， C. J.; et al.， 2016， "Mastering the game of Go with deep neural networks and tree search"， Nature， 7587： 529， pp. 484-489.

Endsley， M. R. and Glrland， D. J.， 2000， Situation Awareness Analysis and Measurement， London： Lawrence Erlbaum Associates& Inc， pp. 5-15.

Collobert， R.; Weston， J.; Bottou， L.; et al.， 2011， "Natural Language Processing （Almost） from Scratch"， Journal of Machine Learning Research， 12， pp. 2493-2537.

Hinton， G.; Deng， L.; Yu， D.; et al.， 2012， "Deep Neural Networks for Acoustic Modeling in Speech Recognition： The Shared Views of Four Research Groups"， IEEE Signal Processing Magazine， 29： 6， pp. 82-97.

顧險(xiǎn)峰，2016，《人工智能的歷史回顧和發(fā)展現(xiàn)狀》，《自然雜志》，第3期。

劉偉，2018，《有關(guān)軍事人機(jī)混合智能的幾點(diǎn)思考》，《火力與指揮控制》，第10期。

劉偉，2019，《追問人工智能：從劍橋到北京》，北京：科學(xué)出版社。

劉偉，2021，《人機(jī)融合：超越人工智能》，北京：清華大學(xué)出版社。

責(zé) 編/陳璐穎