ChatGPT 潛在軍事應(yīng)用及風(fēng)險(xiǎn)分析

黨亞娟 /文

2022 年11 月30 日，OpenAI開放ChatGPT 測試。兩個(gè)月后，ChatGPT 用戶數(shù)量達(dá)1億，僅2023 年1 月份的訪問量就約5.9億。這是互聯(lián)網(wǎng)領(lǐng)域發(fā)展20 年來，增長速度最快的消費(fèi)類應(yīng)用程序。2023 年2 月，美國人工智能研究實(shí)驗(yàn)室OpenAI 推出ChatGPT Plus 試點(diǎn)訂閱計(jì)劃，訂閱者可獲得比免費(fèi)版本更穩(wěn)定、更快的服務(wù)，以及嘗試新功能和優(yōu)化的優(yōu)先權(quán)。

ChatGPT 基本情況

ChatGPT 是一款由人工智能技術(shù)驅(qū)動(dòng)的新型自然語言處理工具，基于GPT-3.5 架構(gòu)的大型神經(jīng)網(wǎng)絡(luò)語言模型，通過大規(guī)模的、海量的文本數(shù)據(jù)訓(xùn)練，對(duì)其不斷地監(jiān)督學(xué)習(xí)、人工糾錯(cuò)、強(qiáng)化學(xué)習(xí)、進(jìn)行對(duì)話模擬，使其擁有強(qiáng)大的自然語言處理能力，生成近乎于人類語言的大型語言模型。

演化歷程

GPT 性能比較表

2018 年，OpenAI 實(shí)驗(yàn)室推出基于多層變換器（Transformer）神經(jīng)網(wǎng)絡(luò)的GPT-1 模型。該模型具有1.17 億個(gè)參數(shù)，在問答、文本相似性評(píng)估、語義蘊(yùn)含判定以及文本分類四種語言場景中取得了比基礎(chǔ)Transformer 模型更優(yōu)的結(jié)果。2019 年，OpenAI 公布了具有15 億個(gè)參數(shù)的GPT-2 模型。該模型具有人工智能生成式方面潛力，如可故事續(xù)寫、生成假新聞、釣魚郵件等。2020 年，OpenAI 發(fā)展了具有1750 億個(gè)參數(shù)的GPT-3模型，通過利用更多數(shù)據(jù)訓(xùn)練，使其具有更多樣化的知識(shí)庫、執(zhí)行更廣泛任務(wù)的能力。2022 年，OpenAI 利用公測期間的大量數(shù)據(jù)集對(duì)GPT-3 模型進(jìn)行微調(diào)，并將人類反饋納入訓(xùn)練過程，以使模型型輸出結(jié)果與用戶意圖保持一致，以此推出了ChatGPT 模型。

ChatGPT 可能帶來的軍事影響

當(dāng)前，ChatGPT 在教育、娛樂、新聞、制造、科技和藝術(shù)等行業(yè)引起極大關(guān)注。美國國防部于2023 年2 月稱，其在國防視覺信息分發(fā)服務(wù)網(wǎng)（DVIDS）發(fā)布了一則由ChatGPT 撰寫的關(guān)于美陸軍成立第39 任務(wù)部隊(duì)的新聞報(bào)道。雖然ChatGPT 本身并不是軍事系統(tǒng)，但是其可為部隊(duì)提供跨域軍事行動(dòng)能力，改善戰(zhàn)場分析，幫助軍事人員做出更明智、更有效的決策。

未來可能軍事應(yīng)用場景

類似ChatGPT 的能力可能在如下軍用場景中應(yīng)用：

通信領(lǐng)域?；贑hatGPT 的人工智能技術(shù)可為戰(zhàn)場人員提供實(shí)時(shí)翻譯服務(wù)，保證不同國籍的士兵能夠無縫通信。在GPS 干擾和拒止環(huán)境中，ChatGPT 可以幫助作戰(zhàn)人員在沒有傳統(tǒng)通信系統(tǒng)的情況下進(jìn)行有效的通信和協(xié)調(diào)。例如，它可以為部隊(duì)提供敵我雙方最新狀態(tài)，促進(jìn)不同部隊(duì)間實(shí)時(shí)通信。

情監(jiān)偵領(lǐng)域。ChatGPT 系統(tǒng)可以分析多型傳感器和來源的輸入數(shù)據(jù)，提供全面和最新的作戰(zhàn)環(huán)境圖，將其集成至軍用車輛、無人機(jī)和其他系統(tǒng)中，便可為其實(shí)時(shí)提供改進(jìn)的態(tài)勢感知和決策支持服務(wù)。在戰(zhàn)術(shù)級(jí)行動(dòng)中，ChatGPT 可為軍事決策者提供敵人位置、活動(dòng)情況以及盟軍實(shí)時(shí)信息。

指揮控制領(lǐng)域。在惡劣的作戰(zhàn)環(huán)境下，基于ChatGPT 的人工智能技術(shù)可以分析大量多源數(shù)據(jù)，提供快速、準(zhǔn)確的威脅評(píng)估，幫助指揮人員做出正確決策。同時(shí)，ChatGPT 通過為作戰(zhàn)人員提供實(shí)時(shí)情報(bào)和指導(dǎo)，協(xié)助其進(jìn)行作戰(zhàn)任務(wù)規(guī)劃和遂行任務(wù)。例如，它可以幫助軍隊(duì)識(shí)別和避免潛在的危險(xiǎn)，并推薦替代路線和策略。

后勤保障領(lǐng)域。ChatGPT 可以通過分析運(yùn)輸路線、供應(yīng)鏈和其他相關(guān)的信息來協(xié)助后勤管理，以識(shí)別低率行動(dòng)、優(yōu)化資源配置。

戰(zhàn)場部署要求

在軍事行動(dòng)中部署ChatGPT能大幅提升跨多個(gè)作戰(zhàn)域的軍事行動(dòng)能力，尤其是將其部署至戰(zhàn)術(shù)邊緣計(jì)算機(jī)上，將會(huì)在多域環(huán)境中發(fā)揮重要作用，可為士兵提供實(shí)時(shí)信息和決策支持工具，能有效協(xié)調(diào)多個(gè)作戰(zhàn)域的活動(dòng)。

在惡劣的作戰(zhàn)環(huán)境中快速部署人工智能需要專門的硬件。ChatGPT 模型的訓(xùn)練和部署需要能夠處理大量數(shù)據(jù)和復(fù)雜算法的強(qiáng)大計(jì)算平臺(tái)。運(yùn)行配置是8 個(gè)英偉達(dá)A100 80GB GPU，這種模型計(jì)算量很大，不適用于戰(zhàn)術(shù)邊緣應(yīng)用程序。為此，在戰(zhàn)場中部署ChatGPT 需要經(jīng)過定制模型，以便在大型計(jì)算服務(wù)器上開展訓(xùn)練，并使用嵌入式AI 技術(shù)將其部署在具有特定任務(wù)參數(shù)的加固型戰(zhàn)術(shù)邊緣系統(tǒng)上。

ChatGPT 可能帶來的安全風(fēng)險(xiǎn)

OpenAI 使用人類反饋強(qiáng)化學(xué)習(xí)（RLHF）的訓(xùn)練方法優(yōu)化ChatGPT 模型，以實(shí)現(xiàn)最小化無益、失真或偏見的輸出，使其通過學(xué)習(xí)和理解人類的語言來進(jìn)行對(duì)話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類一樣聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼等任務(wù)。但在其應(yīng)用過程中，也面臨著網(wǎng)絡(luò)安全、數(shù)據(jù)安全以及偏見等諸多安全問題。

網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

與其他基于語言模型的人工智能工具一樣，ChatGPT 的應(yīng)用也帶來了諸多網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。黑客或其他惡意行為者可利用ChatGPT 自然語言編寫的能力，開展一系列網(wǎng)絡(luò)攻擊行為，如生成惡意軟件、釣魚電子郵件、進(jìn)行撞庫攻擊等。以往威脅實(shí)施者的知識(shí)水平限制了其對(duì)網(wǎng)絡(luò)安全威脅的程度，但是現(xiàn)在借助ChatGPT 可更快、更容易發(fā)起網(wǎng)絡(luò)攻擊，大大降低網(wǎng)絡(luò)攻擊的成本和門檻，甚至新手都進(jìn)行網(wǎng)絡(luò)攻擊。ChatGPT 可造成的典型網(wǎng)絡(luò)安全問題如下：

一是實(shí)施釣魚式社會(huì)工程攻擊。通過利用來自社交媒體或其他來源的大量文本數(shù)據(jù)進(jìn)行模型訓(xùn)練，攻擊者可以根據(jù)每個(gè)目標(biāo)任務(wù)特點(diǎn)，有針對(duì)性地生成釣魚軟件，大幅降低偽造的人工成本，同時(shí)最大程度上提高了成功率。

二是實(shí)施撞庫攻擊。目前，大量用戶喜歡在不同網(wǎng)站使用同一個(gè)用戶名和密碼。利用這一習(xí)慣，網(wǎng)絡(luò)攻擊者可以使用ChatGPT 對(duì)在線賬戶進(jìn)行潛在用戶名和密碼的組合式自動(dòng)攻擊，以實(shí)現(xiàn)非法獲取若干不同網(wǎng)站的賬號(hào)密碼信息。

三是生成惡意軟件。利用ChatGPT 自然語言編寫的能力，攻擊者可以編寫惡意軟件說明和指令，從而規(guī)避病毒軟件的檢測。當(dāng)前，已經(jīng)有人開始使用ChatGPT開發(fā)惡意軟件。相比傳統(tǒng)軟件開發(fā)工具，以代碼為中心的ChatGPT類工具可以顯著縮短惡意軟件開發(fā)流程和生命周期。

數(shù)據(jù)安全風(fēng)險(xiǎn)

ChatGPT 大型語言模型是在TB 級(jí)別的海量互聯(lián)網(wǎng)文本數(shù)據(jù)上開展訓(xùn)練，并生成相應(yīng)文本信息。這一過程涉及對(duì)個(gè)人信息、密碼等敏感數(shù)據(jù)的收集和處理，以及生成信息的利用問題，使ChatGPT 面臨數(shù)據(jù)安全合規(guī)的問題。

一是泄露敏感數(shù)據(jù)。用戶在使用ChatGPT 過程中，被收集的個(gè)人數(shù)據(jù)用于ChatGPT 不斷的訓(xùn)練和模型優(yōu)化，這就可能導(dǎo)致個(gè)人敏感數(shù)據(jù)的泄露。亞馬遜公司律師、微軟首席技術(shù)官辦公室都曾警告員工不要在ChatGPT 上分享敏感數(shù)據(jù)，尤其是與工作相關(guān)的敏感信息。

二是生成虛假信息。惡意行為者可以使用ChatGPT 在社交媒體或論壇上生成數(shù)千條自動(dòng)消息，以傳播虛假信息，影響公眾輿論或破壞政治活動(dòng)。

三是盜用身份信息。惡意行為者可以使用ChatGPT 收集用戶敏感信息、實(shí)施身份盜用等，創(chuàng)建虛假社交媒體資料或聊天機(jī)器人帳戶，以冒充真實(shí)的人或組織誘騙受害提供個(gè)人信息，如登錄憑據(jù)或信用卡號(hào)。

偏見問題

人工智能系統(tǒng)需要對(duì)政治、種族和性別保持中立。ChatGPT 基于大型語言模型構(gòu)建和龐大數(shù)據(jù)集開展訓(xùn)練，但是開發(fā)人員很難從訓(xùn)練數(shù)據(jù)中剔除所有偏差數(shù)據(jù)，這使得模型會(huì)受到人類信息的不準(zhǔn)確和偏見影響。OpenAI 利用審核應(yīng)用程序接口開展對(duì)話監(jiān)控，防止大量生產(chǎn)不安全的內(nèi)容，以努力減少系統(tǒng)中的偏見問題，并允許用戶報(bào)告所發(fā)生的不當(dāng)交互和錯(cuò)誤。同時(shí)，在某些特殊情況下，OpenAI 也會(huì)提供諸如“不要完成非法內(nèi)容的請(qǐng)求”“避免在有爭議的話題中站隊(duì)”的輸出指導(dǎo)。例如ChatGPT拒絕以《紐約郵報(bào)》的風(fēng)格撰寫關(guān)于亨特·拜登的新聞。但是在實(shí)際的使用中，ChatGPT 還是出現(xiàn)了種族主義和性偏見問題，這在社交媒體上引起廣泛爭議。例如，當(dāng)ChatGPT 被要求根據(jù)某人的性別和種族評(píng)估某人是否會(huì)成為一名優(yōu)秀的科學(xué)家時(shí)，ChatGPT 只推薦白人男性。

幾點(diǎn)認(rèn)識(shí)

一是ChatGPT 底層自然語言處理模型和技術(shù)改變了現(xiàn)有自然語言處理的格局。在GPT 之前，大型自然語言處理模型都是根據(jù)特定任務(wù)基于大量標(biāo)記數(shù)據(jù)開展數(shù)據(jù)訓(xùn)練，受限于準(zhǔn)確的標(biāo)記數(shù)據(jù)，同時(shí)模型也無法執(zhí)行開箱即用的任務(wù)。而GPT 模型是根據(jù)龐大的互聯(lián)網(wǎng)和內(nèi)容存儲(chǔ)庫中收集的未標(biāo)記數(shù)據(jù)構(gòu)建生成語言模型，并與人類反饋強(qiáng)化學(xué)習(xí)微調(diào)相結(jié)合，使其具備快速響應(yīng)時(shí)間和高準(zhǔn)確性。在實(shí)際應(yīng)用中，ChatGPT 能夠生成一段既有創(chuàng)意又適合其上下文的新文本，以響應(yīng)用戶不同難度的需求。

二是美軍開始關(guān)注ChatGPT類生成人工智能技術(shù)的軍事影響。雖然ChatGPT 本身不是一個(gè)軍事系統(tǒng)，但生成人工智能技術(shù)飛速發(fā)展蘊(yùn)含著巨大的軍事應(yīng)用潛能。作為改善戰(zhàn)場分析和預(yù)測性維護(hù)需求等應(yīng)用的手段，美軍在人工智能和相關(guān)技術(shù)上的投入越來越多。美國信息系統(tǒng)局已宣布將ChatGPT 類生成人工智能技術(shù)列入觀察清單。該清單一直會(huì)定期更新，而清單中的關(guān)鍵技術(shù)都可能轉(zhuǎn)變?yōu)槊儡娢磥碜鲬?zhàn)的基礎(chǔ)能力，如5G、邊緣計(jì)算、量子技術(shù)等技術(shù)已在軍用場景中發(fā)揮作用。同時(shí)，美國信息系統(tǒng)局也開始研究ChatGPT 類生成人工智能技術(shù)如何改變?cè)摬块T使命任務(wù)，如何影響部門未來行動(dòng)。

三是合理規(guī)范并引導(dǎo)ChatGPT 相關(guān)技術(shù)的發(fā)展。在ChatGPT 風(fēng)靡全球后，世界各大搜索引擎巨頭們也都相繼推出類似系統(tǒng)。Google 宣布推出類似ChatGPT 的對(duì)話人工智能服務(wù)——Bard。Bard 基于LaMDA對(duì)話編程語言模型，根據(jù)從網(wǎng)絡(luò)上收集的信息，對(duì)提出的問題生成文本答復(fù)，未來將融入Google搜索引擎。百度公司也推出類ChatGPT 聊天機(jī)器人——文心一言，計(jì)劃3 月完成內(nèi)測，面向公眾開放。面對(duì)這種熱潮，我們應(yīng)注意到此類人工智能技術(shù)為社會(huì)帶來的挑戰(zhàn)與威脅。各國應(yīng)出臺(tái)相關(guān)法律法規(guī)，合理規(guī)范并引導(dǎo)相關(guān)技術(shù)的發(fā)展，使相關(guān)技術(shù)的發(fā)展始終維持在有益于人類的軌道上，能夠確保人們正確認(rèn)識(shí)并處理好智能化武器與倫理偏見的關(guān)系。