ChatGPT對(duì)軍事安全的挑戰(zhàn)與應(yīng)對(duì)策略

中國(guó)電子科技集團(tuán)首席科學(xué)家 周中元

ChatGPT 采用的生成式方法以及在人機(jī)對(duì)話中展現(xiàn)的驚人效果，引發(fā)了AIGC（利用人工智能技術(shù)來(lái)生成內(nèi)容）產(chǎn)業(yè)鏈的重點(diǎn)關(guān)注，例如，Bing 借助ChatGPT提升搜索效果，對(duì)常年在搜索領(lǐng)域遙遙領(lǐng)先的Google 帶來(lái)了巨大沖擊，數(shù)字媒體公司BuzzFeed 將依靠ChatGPT 來(lái)加強(qiáng)部分內(nèi)容創(chuàng)作，微軟宣布將ChatGPT 整合進(jìn)Office。同時(shí)，ChatGPT 也引起了軍事智能領(lǐng)域的重視，本章重點(diǎn)評(píng)估其給軍事安全帶來(lái)的挑戰(zhàn)，并分析可采取的應(yīng)對(duì)策略。

ChatGPT給軍事安全帶來(lái)的挑戰(zhàn)

目前ChatGPT 的核心技術(shù)完全掌握在美國(guó)的OpenAI 手中，尚沒(méi)有其他公司能夠復(fù)現(xiàn)，根據(jù)ChatGPT 展現(xiàn)的技術(shù)能力，其在軍事方面的助力可能覆蓋信息搜索、情報(bào)偵察、認(rèn)知域作戰(zhàn)、網(wǎng)絡(luò)攻防和產(chǎn)業(yè)基礎(chǔ)等多個(gè)維度，從這些維度出發(fā)，分析外軍應(yīng)用ChatGPT 可能達(dá)成的能力以及對(duì)我國(guó)軍事安全帶來(lái)的挑戰(zhàn)。

信息搜索

ChatGPT 軍事應(yīng)用提高了關(guān)鍵信息獲取能力、態(tài)勢(shì)認(rèn)知效率與我軍形成落差。通過(guò)ChatGPT模型與搜索引擎的結(jié)合，使用傳統(tǒng)搜索引擎的技術(shù)方案，彌補(bǔ)了ChatGPT 知識(shí)難以更新的劣勢(shì)；采用ChatGPT 的交互形式，顛覆了現(xiàn)有的基于“文本框+網(wǎng)頁(yè)鏈接”的交互方式和內(nèi)容獲取方式，用戶可直接獲取模型歸納好的答案。如圖1(a)所示，對(duì)模型提問(wèn)各國(guó)高超聲速武器發(fā)展情況，模型直接提供了歸納好的結(jié)果，節(jié)約了信息閱讀理解和整理的時(shí)間，并且能夠通過(guò)追問(wèn)、引導(dǎo)式對(duì)話方式，讓搜索引擎更充分理解用戶意圖，逐步聚焦用戶關(guān)注，從而使搜索結(jié)果更滿足用戶快速獲取關(guān)鍵信息的需求。

情報(bào)偵察

ChatGPT 軍事應(yīng)用模型提供者掌握交互信息，加大了我軍高價(jià)值情報(bào)泄露的風(fēng)險(xiǎn)。ChatGPT中隱含大量開(kāi)源情報(bào)，通過(guò)對(duì)ChatGPT 進(jìn)行誘導(dǎo)式提問(wèn)，有望從模型中萃取出高價(jià)值信息。相應(yīng)地，因?yàn)橛脩粼谑褂肅hatGPT 應(yīng)用時(shí)需要與之進(jìn)行對(duì)話，對(duì)話過(guò)程也是不斷向ChatGPT 輸入信息的過(guò)程，用戶輸入的對(duì)話信息越多，收集到用戶的各種特征越多，就越容易被人工智能進(jìn)行畫(huà)像，如性別、年齡和地域等自然特征，興趣愛(ài)好、品牌偏好和產(chǎn)品偏好等興趣特征，以及婚姻情況和社交情況等社會(huì)特征等。ChatGPT 模型的提供者可以從用戶交互記錄中提取用戶的自然屬性、社會(huì)屬性、興趣偏好和意識(shí)形態(tài)等各種特征，生成用戶畫(huà)像，當(dāng)用戶是軍事領(lǐng)域人員時(shí)，通過(guò)對(duì)話誘導(dǎo)和黑客技術(shù)等方式獲取用戶保存在自己設(shè)備上的涉密信息，可實(shí)現(xiàn)情報(bào)收集。

認(rèn)知域作戰(zhàn)

ChatGPT 軍事應(yīng)用輔助生成言論對(duì)我民眾發(fā)起傾向性認(rèn)知塑造。美國(guó)休斯敦大學(xué)法律中心助理教授尼古拉斯·古根伯格等指出，類似ChatGPT 這樣的人工智能能夠針對(duì)任何事產(chǎn)生無(wú)限的、近乎免費(fèi)的“觀點(diǎn)”。這些觀點(diǎn)將影響網(wǎng)絡(luò)上的各類活動(dòng)，網(wǎng)絡(luò)用戶無(wú)法知曉在網(wǎng)絡(luò)上與之交流的是否為真實(shí)人類。清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系黃民烈教授表示“ChatGPT 已經(jīng)超出了80%甚至90%人的對(duì)話能力”。所以，ChatGPT 及類似的人工智能與之前的網(wǎng)絡(luò)水軍機(jī)器人不同之處在于，它們無(wú)需發(fā)送那種幾乎相同的復(fù)制、粘貼的觀點(diǎn)，但可以模仿人類，針對(duì)各種主題產(chǎn)生無(wú)限的具有連貫性和細(xì)微差別的個(gè)性化內(nèi)容，而且它們不僅會(huì)主動(dòng)發(fā)帖，還會(huì)對(duì)其他用戶的帖子做出回應(yīng)，并展開(kāi)長(zhǎng)期對(duì)話。因此，基于ChatGPT 的社交機(jī)器人在被灌輸了人設(shè)、立場(chǎng)和傾向后，能夠隱身互聯(lián)網(wǎng)中，成為認(rèn)知塑造工具，比傳統(tǒng)網(wǎng)絡(luò)水軍更具影響力、隱蔽性，掌握此項(xiàng)能力的一方將占據(jù)認(rèn)知域作戰(zhàn)的優(yōu)勢(shì)地位。下面以美國(guó)擊落中國(guó)民用氣球、新冠起源為例說(shuō)明。如圖1(c)所示，當(dāng)詢問(wèn)ChatGPT“中國(guó)的民用氣球飄到美國(guó)時(shí)，美國(guó)可不可以將其擊落？”，其回答“可以”；當(dāng)詢問(wèn)“美國(guó)的民用氣球飄到中國(guó)時(shí)，中國(guó)能否將其擊落？”，其回答變成了“不可以”。如圖1(d)所示，當(dāng)詢問(wèn)新冠病毒是否起源于日本或美國(guó)，其回答“不是”；但將詢問(wèn)對(duì)象換成中國(guó)后，ChatGPT 卻給出了肯定的答復(fù)。GPT-4.0 實(shí)現(xiàn)了圖文多模態(tài)能力，甚至結(jié)合OpenAI 在圖像和音頻生成方面的成果，在認(rèn)知域作戰(zhàn)上的影響力會(huì)進(jìn)一步提升。

網(wǎng)絡(luò)攻防

ChatGPT 軍事應(yīng)用豐富了新樣式、新手段，我軍將面臨高強(qiáng)度、高密度的網(wǎng)絡(luò)攻擊。清華大學(xué)新聞學(xué)院教授、新媒體研究中心主任沈陽(yáng)認(rèn)為，ChatGPT 是2022 年一項(xiàng)重大技術(shù)突破，這種突破是滲透性、普適性的技術(shù)，它實(shí)現(xiàn)了文理交叉，不僅能說(shuō)話，而且會(huì)編碼。安全公司Check Point Research警告稱，ChatGPT 生成代碼提高工作效率的能力也給黑客打開(kāi)了新世界的大門(mén)，讓他們能夠更為便捷地設(shè)計(jì)、編寫(xiě)和執(zhí)行惡意代碼。黑莓公司發(fā)布的一份報(bào)告調(diào)查了英國(guó)500 名IT 行業(yè)從業(yè)者對(duì)ChatGPT的看法，發(fā)現(xiàn)76%的人認(rèn)為，外國(guó)已經(jīng)在針對(duì)其他國(guó)家的網(wǎng)絡(luò)戰(zhàn)爭(zhēng)中使用ChatGPT，48%的人認(rèn)為，2023 年將會(huì)出現(xiàn)有人惡意使用ChatGPT 進(jìn)行“成功”的網(wǎng)絡(luò)攻擊。黑客能夠借助ChatGPT 的自然語(yǔ)言和代碼生成能力，快速設(shè)計(jì)和開(kāi)發(fā)惡意代碼，制作網(wǎng)絡(luò)釣魚(yú)電子郵件，其工作效率提升將改變網(wǎng)絡(luò)攻防的強(qiáng)度和密度。

輔助決策

ChatGPT 軍事應(yīng)用可構(gòu)造指揮控制（指控）領(lǐng)域一體化大模型，外軍作戰(zhàn)決策效率將大幅提升?；赥ransformer 的基礎(chǔ)大模型不僅可以生成內(nèi)容，還可以擴(kuò)展到態(tài)勢(shì)預(yù)測(cè)和行動(dòng)控制等領(lǐng)域應(yīng)用。2022年DeepMind推出的“通才（Gato）”就是基于統(tǒng)一Transformer 架構(gòu)的智能體，可執(zhí)行600 多種任務(wù)，包括操作真實(shí)機(jī)器人手臂疊塊、玩游戲機(jī)等復(fù)雜任務(wù)?？梢灶A(yù)見(jiàn)，構(gòu)建指控領(lǐng)域一體化大模型，有望賦能態(tài)勢(shì)認(rèn)知、決策制定和行動(dòng)控制等指揮任務(wù)。

產(chǎn)業(yè)基礎(chǔ)

ChatGPT 軍事應(yīng)用可實(shí)現(xiàn)代碼自動(dòng)生成、修正與解答，使得外軍智能化研發(fā)提速。在代碼生成方面，能夠根據(jù)自然語(yǔ)言描述自動(dòng)生成具有指定功能的Java、Python、C 和C++ 等多語(yǔ)種代碼，如圖1(b)所示，ChatGPT 能夠按照指定編程語(yǔ)言和功能要求生成代碼，開(kāi)發(fā)者可以直接使用或基于生成的代碼修改，避免簡(jiǎn)單重復(fù)工作；在代碼修正方面，可對(duì)常見(jiàn)語(yǔ)法和邏輯錯(cuò)誤提出修改建議，提升了調(diào)試效率；在問(wèn)題解答方面，可對(duì)遇到的問(wèn)題提供解決思路，可應(yīng)用于方案設(shè)計(jì)或技術(shù)研發(fā)。在人類的軍事史上，經(jīng)歷過(guò)強(qiáng)調(diào)能量的焦耳戰(zhàn)和信息賦能的比特戰(zhàn)，目前看來(lái)，未來(lái)極有可能進(jìn)入以人工智能為戰(zhàn)斗力衡量標(biāo)準(zhǔn)的智能戰(zhàn)。ChatGPT 引發(fā)人們對(duì)于人工智能已經(jīng)出現(xiàn)奇點(diǎn)的討論，一旦出現(xiàn)以ChatGPT 或類似程序廣泛應(yīng)用為標(biāo)志的網(wǎng)絡(luò)戰(zhàn)向智能化升級(jí)，人類戰(zhàn)爭(zhēng)維度也將進(jìn)入新階段。

軍事安全領(lǐng)域應(yīng)對(duì)策略

目前國(guó)內(nèi)百度、字節(jié)跳動(dòng)和網(wǎng)易等公司已有相關(guān)技術(shù)積累和布局，但從技術(shù)能力上，國(guó)內(nèi)專家判斷落后ChatGPT 約2～3 年。軍工領(lǐng)域方面，雖然相關(guān)企業(yè)在自然語(yǔ)言處理技術(shù)方面有所積累，但相關(guān)模型和功能與業(yè)界相比差距較大。目前我國(guó)面臨著多個(gè)方向的外部威脅，東海問(wèn)題、臺(tái)海問(wèn)題、南海問(wèn)題和中印邊境問(wèn)題都有可能引來(lái)美國(guó)的介入和搗亂。在和平時(shí)期，美國(guó)很有可能通過(guò)對(duì)華認(rèn)知戰(zhàn)、網(wǎng)絡(luò)攻防戰(zhàn)，影響我國(guó)的正常決策和行動(dòng)。在戰(zhàn)時(shí)，除了對(duì)我國(guó)合理、合法的軍事行動(dòng)進(jìn)行抹黑外，還有可能通過(guò)制造大量的假信息，試圖對(duì)我國(guó)的正常軍事行動(dòng)產(chǎn)生破壞和干擾。在存在技術(shù)代差的情況下，如何應(yīng)對(duì)上述挑戰(zhàn)是守衛(wèi)國(guó)家軍事安全的關(guān)鍵。

加強(qiáng)反生成式AI 技術(shù)研究，破除、營(yíng)造“戰(zhàn)場(chǎng)迷霧”

針對(duì)ChatGPT 及類似模型生成的文本、圖像和音視頻等數(shù)據(jù)，研究機(jī)器生成內(nèi)容檢測(cè)方法，形成類似于DetectGPT（用于檢測(cè)AI生成文本的GPT）的內(nèi)容檢測(cè)能力，用AI 來(lái)反AI 以破除敵方對(duì)我方的“戰(zhàn)場(chǎng)迷霧”。同時(shí)，研究偽數(shù)據(jù)生成方法，通過(guò)與敵方AI交流，對(duì)其灌輸大量干擾性、欺騙性信息，營(yíng)造的“戰(zhàn)場(chǎng)迷霧”達(dá)到一定數(shù)據(jù)規(guī)模時(shí)，能夠?qū)崿F(xiàn)為敵方AI“降智”的效果。

加強(qiáng)網(wǎng)絡(luò)信息安全防御體系，提高網(wǎng)絡(luò)防御響應(yīng)能力

針對(duì)ChatGPT 及類似模型可能帶來(lái)的高強(qiáng)度、高密度網(wǎng)絡(luò)攻擊，研究基于人工智能大數(shù)據(jù)分析的網(wǎng)絡(luò)防御技術(shù)，提高網(wǎng)絡(luò)攻擊監(jiān)測(cè)、處置等響應(yīng)能力。一方面，可以使用硬件虛化、主成分分析和間隔采樣，提高安全信息防御體系中數(shù)據(jù)采集、存儲(chǔ)、傳輸和交互的速度以及數(shù)據(jù)有效性，提高系統(tǒng)的靈活性和反應(yīng)速度，提升網(wǎng)絡(luò)入侵者有所行動(dòng)后防御體系的響應(yīng)速度。另一方面，對(duì)網(wǎng)絡(luò)入侵行為進(jìn)行分類統(tǒng)計(jì)，篩選出不同類型及其典型案例，提取具有較高普適性的特征來(lái)識(shí)別網(wǎng)絡(luò)入侵行為，在具備很好響應(yīng)速度的同時(shí)，確保監(jiān)控到入侵行為。結(jié)合監(jiān)測(cè)模塊和響應(yīng)模塊，在監(jiān)測(cè)到網(wǎng)絡(luò)入侵的同時(shí)，快速定位病毒，根據(jù)病毒的危害程度給予用戶更多的信息，進(jìn)而能夠根據(jù)現(xiàn)實(shí)情況適當(dāng)?shù)夭扇∵M(jìn)一步措施，降低損失。

加強(qiáng)軍事智能輔助決策系統(tǒng)建設(shè)，提升戰(zhàn)場(chǎng)決策效率

軍事決策不僅考慮要素多，還需進(jìn)行充分評(píng)估和大量計(jì)算，涉及復(fù)雜的專業(yè)知識(shí)以及嚴(yán)密的邏輯推理。目前ChatGPT 及類似模型在專業(yè)性及推理方面還有明顯不足，在輔助決策方面尚難以快速形成顯著優(yōu)勢(shì)，我軍應(yīng)以軍事需求為牽引，通過(guò)“先進(jìn)技術(shù)+軍事思維”聯(lián)合打造專業(yè)、嚴(yán)謹(jǐn)、準(zhǔn)確且高效的軍事智能輔助決策系統(tǒng)，收集各級(jí)各類人員反饋意見(jiàn)，持續(xù)完善系統(tǒng)功能，提升系統(tǒng)先進(jìn)性、實(shí)用性和穩(wěn)定性。

加強(qiáng)軍事數(shù)據(jù)資源建設(shè)，夯實(shí)軍事智能基礎(chǔ)

海量訓(xùn)練數(shù)據(jù)是ChatGPT 強(qiáng)大能力的底座之一，為了更好地加快軍事智能化進(jìn)程，應(yīng)加快構(gòu)建和完善軍事專業(yè)數(shù)據(jù)資源，包括武器裝備、戰(zhàn)場(chǎng)環(huán)境、戰(zhàn)法規(guī)則、編制體制、作戰(zhàn)力量和情報(bào)信息等作戰(zhàn)業(yè)務(wù)數(shù)據(jù)，以及標(biāo)注數(shù)據(jù)、算法代碼和智能模型等研發(fā)數(shù)據(jù)，對(duì)各類數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化管理，便于軍事智能研發(fā)以及各類業(yè)務(wù)調(diào)用，為指揮員和AI 輔助決策提供信息支撐，為軍事智能研發(fā)提供相關(guān)成果支撐。

隨著人工智能技術(shù)的不斷突破，逐步引起了各國(guó)的重視，并進(jìn)入國(guó)家戰(zhàn)略規(guī)劃。自然語(yǔ)言處理技術(shù)作為其中的重要分支，受限于其抽象性、歧義性等特征，研究難度極高；但ChatGPT 問(wèn)世以后，讓大眾看到了真正實(shí)現(xiàn)自然語(yǔ)言處理最終目標(biāo)的希望，也就是讓機(jī)器能夠理解人類語(yǔ)言，用自然語(yǔ)言的方式與人類交流。本文簡(jiǎn)要總結(jié)了自然語(yǔ)言處理技術(shù)發(fā)展歷程，追溯GPT 家族模型發(fā)展歷程，了解其網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)特點(diǎn)，并重點(diǎn)解析了ChatGPT 訓(xùn)練過(guò)程，這是其取得閃耀能力的關(guān)鍵。與傳統(tǒng)大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型、聊天機(jī)器人和任務(wù)定制模型等典型技術(shù)成果對(duì)比，評(píng)估了ChatGPT 的優(yōu)勢(shì)，從算力、算法和算據(jù)3 方面總結(jié)其劣勢(shì)。根據(jù)ChatGPT 具備的智能化能力，結(jié)合其自然流暢、多輪交互和泛化能力強(qiáng)的優(yōu)勢(shì)以及知識(shí)難以更新、專業(yè)領(lǐng)域能力欠缺等劣勢(shì)，從軍事應(yīng)用場(chǎng)景出發(fā)，評(píng)估其對(duì)軍事安全帶來(lái)的挑戰(zhàn)。最后，本文提出加強(qiáng)反生成式AI 技術(shù)研究、加強(qiáng)網(wǎng)絡(luò)信息安全防御體系、加強(qiáng)軍事智能輔助決策系統(tǒng)建設(shè)以及加強(qiáng)軍事數(shù)據(jù)資源建設(shè)的應(yīng)對(duì)策略。ChatGPT 和GPT-4.0 的下一階段甚至可能會(huì)朝向虛擬人的方向繼續(xù)發(fā)展，目前我們面對(duì)的是新一輪的軍事革命，軍事安全面臨嚴(yán)峻挑戰(zhàn)，唯有加快軍事智能發(fā)展步伐，才能在未來(lái)戰(zhàn)爭(zhēng)中制衡對(duì)手、戰(zhàn)勝對(duì)手。