ChatGPT在認知域作戰(zhàn)運用剖析及對策

陳昌孝

2022年11月30日，人工智能公司OpenAI正式發(fā)布大型自然語言交互程序的聊天機器人ChatGPT。前期，又推出GPT3.5版本，并很快迭代到GPT4.0。這對于信息生產(chǎn)、流通全過程的改變，不僅掀開了人工智能被用于現(xiàn)實傳播問題的序幕，也將助長國際體系與社會生活中根深蒂固的系統(tǒng)性偏見、有意欺詐、政治造謠、偽造身份等問題。這種強有力的變革對認知域作戰(zhàn)同樣會產(chǎn)生巨大影響，將會使得認知域作戰(zhàn)的形式更加豐富、手段更加隱蔽、防范更加困難。需要深入分析ChatGPT的主要特性及在認知域作戰(zhàn)中的運用場景，研究拿出應對之策。

認知域作戰(zhàn)視角下的ChatGPT主要特性

ChatGPT是在GPT（Generative Pre-training Transformer）模型的基礎上通過改進優(yōu)化得到的，針定對話場景利用了“人在回路”進行了優(yōu)化。GPT是一種大型語言模型，是現(xiàn)階段對于自然語言進行機器學習的主流思路，能夠生成各種不同的文本類型，它可以根據(jù)上下文自動生成跟人類一樣的文本對話。GPT模型主要思路是讓AI在通用的、海量的數(shù)據(jù)上學習文字接龍，即掌握基于前文內(nèi)容生成后續(xù)文本的能力。目前，GTP模型已經(jīng)發(fā)展到了第四代，是針對對話場景進行針對性優(yōu)化的結(jié)果。相較以往的固定對話式人工智能， ChatGPT擁有自己的思考邏輯，因此在不處于“人在回路”的監(jiān)管時，系統(tǒng)可以對同一問題給出多種回答，只不過這些回答在系統(tǒng)偏好的作用下以概率分布的形式存在。

ChatGPT作為新一代人工智能，在引入大數(shù)據(jù)進行自主學習時，使用人工對系統(tǒng)學習結(jié)果進行評價，從某種意義上說，該過程正是賦予系統(tǒng)“靈魂”，完成畫龍點睛的過程。但由于人類本身固有的政治立場或傾向，使得在對學習結(jié)果進行篩選時，不可避免地被打上監(jiān)督者的個人標簽，從而在這一過程中給系統(tǒng)帶入一種“預設的價值觀”，使其成為認知域作戰(zhàn)的“新利器”。

（一）難以抹去的價值底色

ChatGPT的價值觀底色根植于參與該系統(tǒng)設計研發(fā)人員的價值觀取向，即“硅谷價值觀”，屬于美國左派的溫和派。這種底層邏輯的審視使得ChatGPT常常表現(xiàn)為美國精神的“衛(wèi)道者”，在測試者的政治性話題中，ChatGPT對于涉美議題或設計外國政治人物的話題上往往采取中立或避而不談的態(tài)度，但在關于美國正面話題的談論上，卻表現(xiàn)得相對積極。除此之外，對于諸如少數(shù)族裔問題、槍支問題、墮胎問題、環(huán)保問題等爭議性話題，ChatGPT也表現(xiàn)出相對保守的態(tài)度，并且在整體取向上更加偏向于溫和左派。

在ChatGPT上線互聯(lián)網(wǎng)后，世界各國的網(wǎng)民也都參與到與ChatGPT的互動中來，并在大量的交流中逐漸發(fā)現(xiàn)ChatGPT在面對不同語言的提問時，同一問題往往會得到不同答案，并且這種改變是隨著社會動態(tài)的變化而隨時改變的。這種“見人下菜碟”的行為，說明該智能系統(tǒng)仍處于成長學習階段，且在該過程中系統(tǒng)所受到的人為干預遠不止訓練模型中標注出來的那么簡單，這種實時且強有力的人為干預將ChatGPT的預設價值觀推向了更加隱蔽、更加晦澀的深層次。

（二）開放可塑的數(shù)據(jù)訓練。

ChatGPT本質(zhì)上是基于GPT模型，針對聊天環(huán)境進行指向性優(yōu)化的結(jié)果。GPT模型在面對不同來源的數(shù)據(jù)進行學習時，會根據(jù)數(shù)據(jù)本身“意義分布”的不同而學習得到不同的結(jié)果。這意味著，已經(jīng)被ChatGPT證明相對成熟的GPT模型將可以在差異性數(shù)據(jù)來源的情況下，被培養(yǎng)成為適用不同領域的特定人工智能。這種可塑性使得GPT系統(tǒng)的發(fā)展前景大大超過以往的自然語言學習系統(tǒng)，并且為GPT家族的發(fā)展壯大提供可能性，也極大地拓寬了其市場前景與應用場景。

隨著特定傾向性的數(shù)據(jù)訓練，給定的價值觀會演變成為工具本身的價值觀，將會使ChatGPT以網(wǎng)絡空間“虛擬人”的身份進行輸出，而它所擅長的自然語言學習將會成為這種輸出的主要路徑與助力。以ChatGPT為代表的智能系統(tǒng)將會拓展現(xiàn)有網(wǎng)絡空間，成為“元宇宙”的重要組成部分。在“元宇宙”中，ChatGPT可以催生出一種不具有現(xiàn)實映射的“虛擬人”，不僅僅以“系統(tǒng)的一部分”的形式存在，而是會基于其預設價值觀，成為某種價值觀的代言人，通過網(wǎng)絡虛擬空間與現(xiàn)實世界產(chǎn)生巨大的影響。

（三）高度逼真的自主輸出

隨著ChatGPT上線互聯(lián)網(wǎng)，人們發(fā)現(xiàn)ChatGPT已經(jīng)跨越了以往工具在面臨“領會意圖”這一問題上難以跨越的人機鴻溝，自然語言學習的過程賦予其超越指令的能力。若將其運用到認知域作戰(zhàn)當中，將可替代目前進行流量攻擊的“網(wǎng)絡水軍”，ChatGPT強大的數(shù)據(jù)產(chǎn)生能力與強自主性的概略意識，將使得認知攻擊的響應時間更短、行動更加靈活、反饋更迅速，同時作戰(zhàn)成本將會進一步降低，向無人化、智能化邁出了實質(zhì)一步。

同時，ChatGPT所帶來的深度造假技術的提升，使得認知域作戰(zhàn)的進攻行動更加隱蔽。在現(xiàn)有的進攻行動中，敵方往往需要依托于熱點事件，通過網(wǎng)絡水軍的集結(jié)來造成輿論攻勢，進而造成部分民眾的認知混亂。但是，ChatGPT能夠脫離熱點事件，取代網(wǎng)絡水軍的集結(jié)行動，將認知域作戰(zhàn)的進攻行動以一種更加平滑的方式融入日常生活之中。未來的認知域作戰(zhàn)所依托的社會事件程度將會進一步降低，呈現(xiàn)出多點開花、多線出擊的態(tài)勢。

ChatGPT在認知域作戰(zhàn)中的運用場景構設

在人類歷史絕大部分時間內(nèi)，科學技術發(fā)展的最新成果往往被最先應用于軍事領域，ChatGPT的武器化勢在必行，其在認知域作戰(zhàn)中，有著廣泛的潛在應用場景。

（一）利用沉錨效應，實現(xiàn)認知預設

所謂沉錨效應，是指人們做決策前，思維往往會被所得到的第一信息所左右，第一信息就會像沉入海底的錨一樣，把你的思維固定在某處，從而產(chǎn)生先入為主的歪曲認識。ChatGPT將會首先取代網(wǎng)絡水軍在認知域作戰(zhàn)中的生態(tài)位置，強勁的系統(tǒng)架構、強大的數(shù)據(jù)處理能力，為其所帶來的數(shù)據(jù)產(chǎn)生能力以及直接對接網(wǎng)絡的機機交互模式，將會使得認知域進攻作戰(zhàn)在時空上都更加平均，同時這種時空分布狀態(tài)對進攻烈度進行積分所得到的總進攻強度又會遠遠高于以往。這種變化所帶來的直接影響就是日常生活中任何一起稍具影響力的社會事件都有可能成為認知域作戰(zhàn)的戰(zhàn)場，ChatGPT的預設價值觀不再需要特定的社會事件才能進行表達，而是會廣泛地滲透在社會的角角落落，通過扭曲、造謠、帶節(jié)奏的方式從生活中的點滴小事上持續(xù)輸出負面信息。

ChatGPT強大的信息生產(chǎn)能力，將進一步突破信息生產(chǎn)力的上限，加劇個體“信息過載”狀態(tài)，并對社會信息構成產(chǎn)生影響。從個體微觀視角來看，最直觀的感受就是負能量的戾氣充斥在社會的方方面面，同時大量具有相同預設價值觀的信息會在任何社會實踐發(fā)生的時候撲面而來。而且ChatGPT的“不厭其煩”“潛移默化”將會使得這一過程更加平滑順暢，負能量信息被包含在一次次看似正常的抱怨、內(nèi)涵與“合理的利益訴求”中，悄悄烙入人們的潛意識，形成思維底色。這種潛在印象將會在長期的加強下慢慢毒化社會風氣，影響對于特定事件的社會風評，建立“事件--情緒”的對應關系，在不知不覺中改變一個人的認知邏輯與行為方式。

（二）打造信息繭房，形成認知依賴

信息繭房是信息時代不可避免的社會問題，是個體或群體在信息消費過程中因自身或外界的因素而形成的信息來源窄化和觀念極化現(xiàn)象。認知域作戰(zhàn)過程中，通過大數(shù)據(jù)對個體展開偏好分析，形成個性化的用戶畫像，為精準認知攻擊提供可能。ChatGPT的強大數(shù)據(jù)處理能力以及較高的自主性使得其可以獲得進行偏好分析以及后續(xù)包括相關信息生產(chǎn)、信息投送的能力。

ChatGPT的智能系統(tǒng)可以實現(xiàn)偏好抓取到信息投送一體化，具備自主、持續(xù)、自適應的認知作戰(zhàn)能力，這將會大大提高現(xiàn)有的信息繭房制設效率。傳統(tǒng)認知域作戰(zhàn)中，對于個體或群體信息繭房的制設，一方面需要長期的用戶跟蹤、偏好分析和信息投送；另一方面需要借助熱點事件或制造熱點事件才能達到理想效果，這都要花費較多資源，且攻擊過程易被識別、干擾和破壞。但ChatGPT以平滑的姿態(tài)進行進程設計，并將預設的價值觀安插到任何一起稍具影響的社會事件中，不需借助或制造熱點，使得信息繭房制設常態(tài)化；ChatGPT的高度自主性、智能化，可針對受到影響的個體進行精準分類，加大信息投送力度，促使?jié)撘庾R中被植入的印象逐漸成長并在個人思想中占據(jù)主導地位，極大提高了信息繭房的制設效率。同時，基于分散社會事件的信息投送模式也更難被發(fā)現(xiàn)和監(jiān)管，使得認知域作戰(zhàn)的進攻成本與響應速度進一步縮減。

（三）強化社群效應，塑造群體極化

社群效應，是指當一部分人群擁有相近的價值觀時，就會在無形中產(chǎn)生相較于日常人際關系更為緊密的聯(lián)系。在人口總基數(shù)相對不變的前提下，當越來越多的人群被剝離出主流價值觀時，主流價值觀的影響力就會受到削弱，一旦信仰主流價值觀的人口基數(shù)在社會中不足以達到大多數(shù)時，主流價值觀也會喪失其主流地位。在這一過程中，如果不能確立新的主流價值觀或新的主流價值觀與國家利益不匹配，那么就會在事實上造成社會凝聚力、向心力的喪失，也就是說，在社群效應影響下的小團體分裂行為最終必然導向社會原子化，進而產(chǎn)生社會群體的極化。

在認知域作戰(zhàn)過程中，認知預設旨在源源不斷地制造特定人群，擁有“入群”潛力的個體會在相關信息所織造的信息繭房的不斷提純與篩選下，逐步形成對于這種特定價值觀信息的認知依賴。最后這類經(jīng)過特殊培養(yǎng)的人就會在自覺或外力的助推下形成抱團取暖的小圈子，在被不斷飼養(yǎng)下逐漸成長，并最終對主流價值觀形成挑戰(zhàn)或者與其他意見相悖的小圈子相互攻訐，用混亂的小團體亂斗攪亂社會思想的統(tǒng)一。

ChatGPT所擁有的精準信息投送能力與人群分類能力在這一過程中將會高效助長各類小團體的形成。通過向處于信息繭房中的特定人員不斷投放對應信息來制造出一批擁有極化思想的個人，當該類人群人口基數(shù)達到臨界值后，就通過網(wǎng)絡將這一類人員組織成為小團體并持續(xù)投放相關信息，使得該團體不斷地純化、成長。這些受到ChatGPT培養(yǎng)的眾多小團體都會在客觀上削弱主流價值觀的影響力，而這種隱晦繁雜的認知進攻方式的出現(xiàn)正是基于算力的進一步提升以及ChatGPT智能高效的算法架構。

應對ChatGPT的策略思考

（一）健全網(wǎng)絡監(jiān)控體系，實時感知輿論態(tài)勢。網(wǎng)絡輿情態(tài)勢感知和監(jiān)測能力是奪取認知域作戰(zhàn)主動權的前提條件，而高效的輿論感知網(wǎng)絡又是基于先進算法、具有一定自主分析能力的多維感知系統(tǒng)。需要進一步健全網(wǎng)絡監(jiān)控體系，使之具有網(wǎng)絡輿論態(tài)勢感知及溯源能力，并擁有從內(nèi)容重復性、邏輯性、語法語義等方面開發(fā)的人工智能內(nèi)容鑒別能力。實現(xiàn)準確識別由人工智能控制賬號發(fā)布的虛假信息以及誘導性言論，對虛假消息源頭進行“發(fā)送、甄別、封禁、溯源、抓捕”的快速反應，堵截ChatGPT發(fā)布虛假信息的渠道，削減其參與認知域作戰(zhàn)的能力。加強專業(yè)人才隊伍建設，打造一支忠誠可靠、反應快速、技術過硬的認知域作戰(zhàn)人才隊伍，以在網(wǎng)絡環(huán)境下認知對抗的常規(guī)力量對比中占據(jù)優(yōu)勢。

（二）堅決守住輿論陣地，深化教育宣傳效果。深刻認識網(wǎng)絡空間所具備的主權特征，全社會多部門共同參與，將網(wǎng)絡空間當作“數(shù)字領土”一樣進行主權建設。維護以社會主義核心價值觀為代表的主流價值觀的主流地位，加強主流價值觀的宣傳教育，把宣傳陣地牢牢掌握在自己手里。豐富拓展宣傳手段與形式，發(fā)掘符合主流價值觀的好人好事，樹立典型、弘揚正氣，主動掌握社會輿論的定義權與主導權。采取人民群眾喜聞樂見的方式，深化宣傳教育效果，實現(xiàn)中華民族傳統(tǒng)文化、中國特色社會主義理論體系和國家建設社會實踐三者有機結(jié)合，堅定“四個自信”，正本清源，從根源上杜絕ChatGPT顛倒黑白的一切可能。

（三）堅持開展技術研發(fā)，豐富拓展應用手段。堅持以政府為主導、以企業(yè)為主體，構建“政產(chǎn)學軍研用”六位一體的協(xié)同創(chuàng)新機制，推進高精尖技術的不斷前進與應用技術的大規(guī)模應用，將平臺建設、基礎設施投資與科技進步有效轉(zhuǎn)化成為國家面對網(wǎng)絡新興挑戰(zhàn)的反擊力量。在平臺建設上，充分借鑒民用互聯(lián)網(wǎng)的先進經(jīng)驗，實現(xiàn)網(wǎng)絡認知對抗諸多力量的扁平化管理；在基礎設施投資上，由政府牽頭、多方參與，從硬件上確保監(jiān)管系統(tǒng)的正常運轉(zhuǎn)；在科技創(chuàng)新上，以監(jiān)管與軍事需求為主導，院校與科研院所充分參與，盡快突破認知域作戰(zhàn)態(tài)勢感知、戰(zhàn)場孿生、用戶畫像等技術瓶頸，下好應對ChatGPT用于網(wǎng)絡認知對抗的先手棋。

（作者單位：空軍預警學院）

（編輯：曹憲仁）