認(rèn)知域作戰(zhàn)新利器
——ChatGPT認(rèn)知剖析及對策

陳昌孝 李浩 王梓晗 姜文博

2022年11月30日，美國人工智能公司Open A I正式發(fā)布大型自然語言交互程序聊天機(jī)器人ChatGPT（Chatbot Generative Pre-training Transformer）。隨后，又推出GPT-3.5并很快迭代到GPT-4。這對于信息生產(chǎn)、流通全過程的改變，不僅掀開了人工智能被用于現(xiàn)實(shí)傳播問題的序幕，也將助長國際體系與社會生活中根深蒂固的系統(tǒng)性偏見、有意欺詐、政治造謠、偽造身份等問題。這種強(qiáng)有力的變革對認(rèn)知域作戰(zhàn)同樣會產(chǎn)生巨大影響，將會使得認(rèn)知域作戰(zhàn)的形式更加豐富、手段更加隱蔽、防范更加困難，其對于社會生活、政治生態(tài)和社會總體意識形態(tài)的影響也將會更加深入。需要深入分析其在認(rèn)知域作戰(zhàn)中的運(yùn)用場景，把握認(rèn)知規(guī)律、重塑認(rèn)知內(nèi)容、優(yōu)化認(rèn)知過程。

認(rèn)知域作戰(zhàn)視角下的ChatGPT主要特性

ChatGPT是在GPT（Generative Pre-trained Transformer）模型的基礎(chǔ)上通過改進(jìn)優(yōu)化得到的，針對對話場景利用“人在回路”進(jìn)行了優(yōu)化。GPT是一種大型語言模型，是現(xiàn)階段對于自然語言進(jìn)行機(jī)器學(xué)習(xí)的主流思路，能夠生成各種不同的文本類型。它可以根據(jù)上下文自動生成與人類語言類似的文本對話。GPT模型主要思路是讓AI在通用的、海量的數(shù)據(jù)上學(xué)習(xí)文字接龍，即掌握基于前文內(nèi)容生成后續(xù)文本的能力。目前GPT模型已經(jīng)發(fā)展到了第四代，是針對對話場景進(jìn)行針對性優(yōu)化的結(jié)果。相比于以往的固定對話式人工智能，ChatGPT擁有自己的思考邏輯，因此在不處于“人在回路”的監(jiān)管時，系統(tǒng)可以對同一問題給出多種回答，只不過這些回答在系統(tǒng)偏好的作用下以概率分布的形式存在。

ChatGPT作為新一代人工智能，在引入大數(shù)據(jù)進(jìn)行自主學(xué)習(xí)時使用人工對系統(tǒng)學(xué)習(xí)結(jié)果進(jìn)行評價，從某種意義上說，該過程正是賦予系統(tǒng)“靈魂”、完成畫龍點(diǎn)睛的過程。但是由于人類本身固有的政治立場或傾向，使得在對學(xué)習(xí)結(jié)果進(jìn)行篩選時，篩選結(jié)果不可避免地被打上了監(jiān)督者的個人標(biāo)簽，從而在這一過程中給系統(tǒng)帶入了一種“預(yù)設(shè)的價值觀”，使其成為認(rèn)知域作戰(zhàn)的“新利器”。

一是難以抹去的價值底色。ChatGPT的價值觀底色根植于參與該系統(tǒng)設(shè)計(jì)研發(fā)人員的價值觀取向，即“硅谷價值觀”，屬于美國左派的溫和派。這種底層邏輯的審視使得ChatGPT常常表現(xiàn)為美國精神的“衛(wèi)道者”，在測試者的政治性話題中，ChatGPT對于涉美議題或涉及外國政治人物的話題上往往采取中立或避而不談的態(tài)度，但是在關(guān)于美國正面話題的談?wù)撋蠀s表現(xiàn)得相對積極。除此之外，對于諸如少數(shù)族裔問題、槍支問題、墮胎問題、環(huán)保問題等爭議性話題，ChatGPT也表現(xiàn)出相對保守的態(tài)度，并且在整體取向上更加偏向于溫和左派。

GPT用海量數(shù)據(jù)學(xué)習(xí)“文字接龍”

在ChatGPT上線互聯(lián)網(wǎng)后，世界各國的網(wǎng)民也都參與到了與ChatGPT的互動中來，并在大量的交流中逐漸發(fā)現(xiàn)ChatGPT在面對不同語言的提問時，同一問題往往會得到不同答案，并且這種改變是隨著社會動態(tài)的變化而隨時改變的。這種“見人下菜碟”的行為說明該智能系統(tǒng)仍處于成長學(xué)習(xí)階段，且在該過程中系統(tǒng)所受到的人為干預(yù)遠(yuǎn)不止訓(xùn)練模型中標(biāo)注出來的那么簡單，這種實(shí)時且強(qiáng)有力的人為干預(yù)將ChatGPT的預(yù)設(shè)價值觀推向了更加隱蔽、更加晦澀的深層次。

二是開放可塑的數(shù)據(jù)訓(xùn)練。ChatGPT本質(zhì)上是基于GPT模型，針對聊天環(huán)境進(jìn)行指向性優(yōu)化的結(jié)果。GPT模型在面對不同來源的數(shù)據(jù)進(jìn)行學(xué)習(xí)時，會根據(jù)數(shù)據(jù)本身“意義分布”的不同而學(xué)習(xí)得到不同的結(jié)果。這意味著，已經(jīng)被ChatGPT證明相對成熟的GPT模型將可以在差異性數(shù)據(jù)來源的情況下，被培養(yǎng)成為適用于不同領(lǐng)域的特定人工智能。這種可塑性使得GPT系統(tǒng)的發(fā)展前景大大超過以往的自然語言學(xué)習(xí)系統(tǒng)，并且為GPT家族的發(fā)展壯大提供了可能性，也極大地拓寬了其市場前景與應(yīng)用場景。

隨著特定傾向性的數(shù)據(jù)訓(xùn)練，給定的價值觀會演變成為工具本身的價值觀，將會使ChatGPT以網(wǎng)絡(luò)空間“虛擬人”的身份進(jìn)行輸出，而它所擅長的自然語言學(xué)習(xí)將會成為這種輸出的主要路徑與助力。以ChatGPT為代表的智能系統(tǒng)將會拓展現(xiàn)有網(wǎng)絡(luò)空間，成為元宇宙的重要組成。在元宇宙中，ChatGPT可以催生出一種不具有現(xiàn)實(shí)映射的“虛擬人”，不僅僅以“系統(tǒng)的一部分”的形式存在，而是會基于其預(yù)設(shè)價值觀，成為某種價值觀的代言人，通過網(wǎng)絡(luò)虛擬空間對現(xiàn)實(shí)世界產(chǎn)生巨大的影響。

三是高度逼真的自主輸出。隨著ChatGPT上線互聯(lián)網(wǎng)，人們發(fā)現(xiàn)ChatGPT已經(jīng)跨越了以往工具在面臨“領(lǐng)會意圖”這一問題上難以跨越的人機(jī)鴻溝，自然語言學(xué)習(xí)的過程賦予其超越指令的能力。若將其運(yùn)用到認(rèn)知域作戰(zhàn)當(dāng)中，將可替代目前進(jìn)行流量攻擊的“網(wǎng)絡(luò)水軍”。ChatGPT強(qiáng)大的數(shù)據(jù)產(chǎn)生能力與強(qiáng)自主性的概略意識，將使認(rèn)知攻擊的響應(yīng)時間更短、行動更靈活、反饋更迅速，同時作戰(zhàn)成本將會進(jìn)一步降低，作戰(zhàn)向無人化、智能化邁出了實(shí)質(zhì)一步。

同時，ChatGPT所帶來的深度造假技術(shù)的提升，使得認(rèn)知域作戰(zhàn)的進(jìn)攻行動更加隱蔽。在現(xiàn)有的進(jìn)攻行動中，敵方往往需要依托于熱點(diǎn)事件，通過網(wǎng)絡(luò)水軍的集結(jié)來造成輿論攻勢，進(jìn)而造成部分民眾的認(rèn)知混亂。但是ChatGPT卻能夠脫離熱點(diǎn)事件，取代網(wǎng)絡(luò)水軍的集結(jié)行動，將認(rèn)知域作戰(zhàn)的進(jìn)攻行動以一種更加平滑的方式融入到日常生活中去。未來的認(rèn)知域作戰(zhàn)所依托的社會事件熱度將會進(jìn)一步降低，呈現(xiàn)出多點(diǎn)開花、多線出擊的態(tài)勢。

ChatGPT在認(rèn)知域作戰(zhàn)中的運(yùn)用場景構(gòu)設(shè)

在人類歷史絕大部分時間內(nèi)，科學(xué)技術(shù)發(fā)展的最新成果往往被最先應(yīng)用于軍事領(lǐng)域，ChatGPT的武器化勢在必行，其在認(rèn)知域作戰(zhàn)中有著廣泛的潛在應(yīng)用場景。

GPT與T5、BERT模型的演化

利用沉錨效應(yīng)，實(shí)現(xiàn)認(rèn)知預(yù)設(shè)。沉錨效應(yīng)是指：人們做決策前，思維往往會被所得到的第一信息所左右，第一信息就會像沉入海底的錨一樣，把你的思維固定在某處，從而產(chǎn)生先入為主的歪曲認(rèn)識。ChatGPT將會首先取代網(wǎng)絡(luò)水軍在認(rèn)知域作戰(zhàn)中的生態(tài)位置。強(qiáng)勁的系統(tǒng)架構(gòu)、強(qiáng)大的數(shù)據(jù)處理能力，為ChatGPT帶來的數(shù)據(jù)生產(chǎn)能力以及直接對接網(wǎng)絡(luò)的機(jī)機(jī)交互模式，將會使得認(rèn)知域進(jìn)攻作戰(zhàn)在時空上都更加平均，同時這種時空分布狀態(tài)對進(jìn)攻烈度進(jìn)行積分所得到的總進(jìn)攻強(qiáng)度又會遠(yuǎn)遠(yuǎn)高于以往。這種變化所帶來的直接影響就是日常生活中任何一起稍具影響力的社會事件都有可能成為認(rèn)知域作戰(zhàn)的戰(zhàn)場。ChatGPT的預(yù)設(shè)價值觀不再需要特定的社會事件才能進(jìn)行表達(dá)，而是會廣泛地滲透在社會的各個角落，通過扭曲、造謠、帶節(jié)奏的方式從生活中的點(diǎn)滴小事上持續(xù)輸出負(fù)面信息。

ChatGPT強(qiáng)大的信息生產(chǎn)能力，將進(jìn)一步突破信息生產(chǎn)力的上限，加劇個體“信息過載”狀態(tài)，并對社會信息構(gòu)成產(chǎn)生影響。從個體微觀視角來看，直觀地感受就是負(fù)能量的戾氣充斥在社會的方方面面，同時大量具有相同預(yù)設(shè)價值觀的信息會在任何社會實(shí)踐發(fā)生的時候撲面而來。而且ChatGPT的“不厭其煩”“潛移默化”將會使得這一過程更加平滑順暢，負(fù)能量信息被包含在一次次看似正常的抱怨、內(nèi)涵與“合理的利益訴求”中，悄悄烙入人們的潛意識，形成思維底色。這種潛在印象將會在長期的加強(qiáng)下慢慢毒化社會風(fēng)氣、影響對于特定事件的社會風(fēng)評、建立“事件——情緒”的對應(yīng)關(guān)系，在不知不覺中改變一個人的認(rèn)知邏輯與行為方式。

打造信息繭房，形成認(rèn)知依賴。信息繭房是信息時代不可避免的社會問題，是個體或群體在信息消費(fèi)過程中因自身或外界的因素而形成的信息來源窄化和觀念極化現(xiàn)象。認(rèn)知域作戰(zhàn)過程中，通過大數(shù)據(jù)對個體展開偏好分析，形成個性化的用戶畫像，為精準(zhǔn)認(rèn)知攻擊提供可能。ChatGPT的強(qiáng)大數(shù)據(jù)處理能力以及較高的自主性使得其可以獲得進(jìn)行偏好分析以及后續(xù)包括相關(guān)信息生產(chǎn)、信息投送的能力。

ChatGPT的智能系統(tǒng)可以實(shí)現(xiàn)偏好抓取到信息投送一體化，具備自主、持續(xù)、自適應(yīng)的認(rèn)知作戰(zhàn)能力。這將會大大提高現(xiàn)有的信息繭房制設(shè)效率。傳統(tǒng)認(rèn)知域作戰(zhàn)中，對于個體或群體信息繭房的制設(shè)，一方面需要長期的用戶跟蹤、偏好分析和信息投送；另一方面需要借助熱點(diǎn)事件或制造熱點(diǎn)事件才能達(dá)到理想效果，這都要花費(fèi)較大資源，且攻擊過程易被識別、干擾和破壞。但ChatGPT以平滑的姿態(tài)進(jìn)行進(jìn)程設(shè)計(jì)，并將預(yù)設(shè)的價值觀安插到任何一起稍具影響的社會事件中去，不需要借助或制造熱點(diǎn)，使得信息繭房制設(shè)常態(tài)化；ChatGPT高度自主性、智能化，可針對受到影響的個體進(jìn)行精準(zhǔn)分類，加大信息投送，促使?jié)撘庾R中被植入的印象逐漸成長并在個人的思想中占據(jù)主導(dǎo)地位，極大提高了信息繭房制設(shè)效率。同時基于分散社會事件的信息投送模式也更難被發(fā)現(xiàn)和監(jiān)管，使得認(rèn)知域作戰(zhàn)的進(jìn)攻成本與響應(yīng)速度進(jìn)一步縮減。

強(qiáng)化社群效應(yīng)，塑造群體極化。社群效應(yīng)是指：當(dāng)一部分人群擁有相近的價值觀時，就會在無形中產(chǎn)生相較于日常人際關(guān)系更為緊密的聯(lián)系。在人口總基數(shù)相對不變的前提下，當(dāng)越來越多的人群被剝離出主流價值觀時，主流價值觀的影響力就會受到削弱，一旦信仰主流價值觀的人口基數(shù)在社會中不足以達(dá)到大多數(shù)時，主流價值觀也會喪失其主流地位。在這一過程中如果不能確立出新的主流價值觀或新的主流價值觀與國家利益不匹配，那么就會在事實(shí)上造成社會凝聚力、向心力的喪失，也就是說在社群效應(yīng)影響下的小團(tuán)體分裂行為最終必然導(dǎo)向社會原子化，進(jìn)而產(chǎn)生社會群體的極化。

在認(rèn)知域作戰(zhàn)過程中，認(rèn)知預(yù)設(shè)旨在源源不斷地制造特定人群，擁有“入群”潛力的個體會在相關(guān)信息所織造的信息繭房的不斷提純與篩選下，逐步形成對于這種特定價值觀信息的認(rèn)知依賴。最后這類經(jīng)過特殊培養(yǎng)、培育的人就會在自覺或外力的助推下形成抱團(tuán)取暖的小圈子，在被不斷飼養(yǎng)下逐漸成長，并最終對主流價值觀形成挑戰(zhàn)或者與其他意見相悖的小圈子相互攻訐，用混亂的小團(tuán)體亂斗攪亂社會思想的統(tǒng)一。ChatGPT所擁有的精準(zhǔn)信息投送能力與人群分類能力在這一過程中將會切實(shí)高效地助長各類小團(tuán)體的形成。同時通過向處于信息繭房中的特定人員不斷投放對應(yīng)信息來制造出一批擁有極化思想的個人。當(dāng)該類人群人口基數(shù)達(dá)到臨界值后，就通過網(wǎng)絡(luò)將這一類人員組織成為小團(tuán)體并持續(xù)投放相關(guān)信息，使得該團(tuán)體不斷地純化、成長。這些受到ChatGPT培養(yǎng)的眾多小團(tuán)體都會在客觀上削弱主流價值觀的影響力，而這種隱晦繁雜的認(rèn)知進(jìn)攻方式的出現(xiàn)正是基于算力的進(jìn)一步提升以及ChatGPT智能高效的算法架構(gòu)。

以ChatGPT為代表的智能系統(tǒng)將會成為元宇宙的重要組成

社群效應(yīng)影響下的小團(tuán)體分裂行為最終必然導(dǎo)向社會原子化

應(yīng)對ChatGPT的策略思考

健全網(wǎng)絡(luò)監(jiān)控體系，實(shí)時感知輿論態(tài)勢。網(wǎng)絡(luò)輿情態(tài)勢感知和監(jiān)測能力是奪取認(rèn)知域作戰(zhàn)主動權(quán)的前提條件，而高效輿論感知網(wǎng)絡(luò)又是基于先進(jìn)算法、具有一定自主分析能力的多維感知系統(tǒng)。需要進(jìn)一步健全網(wǎng)絡(luò)監(jiān)控體系，使之具有網(wǎng)絡(luò)輿論態(tài)勢感知及溯源能力，并擁有從內(nèi)容重復(fù)性、邏輯性、語法語義等方面開發(fā)的人工智能內(nèi)容鑒別能力。實(shí)現(xiàn)準(zhǔn)確識別由人工智能控制賬號發(fā)布的虛假信息以及誘導(dǎo)性言論，對虛假消息源頭進(jìn)行“發(fā)送、甄別、封禁、溯源、抓捕”的快速反應(yīng)，堵截Chat GP T發(fā)布虛假信息的渠道，削減其參與認(rèn)知域作戰(zhàn)的能力。加強(qiáng)專業(yè)人才隊(duì)伍建設(shè)，形成一支快速反映、靈敏有效、忠誠可靠、技術(shù)過硬的認(rèn)知域作戰(zhàn)人才隊(duì)伍，在網(wǎng)絡(luò)環(huán)境下認(rèn)知對抗的常規(guī)力量對比中占據(jù)優(yōu)勢。

堅(jiān)決守住輿論陣地，深化教育宣傳效果。深刻意識到網(wǎng)絡(luò)空間所具備的主權(quán)特征，全社會多部門共同參與，將網(wǎng)絡(luò)空間當(dāng)作“數(shù)字領(lǐng)土”一樣進(jìn)行主權(quán)建設(shè)。維護(hù)以社會主義核心價值觀為代表的主流價值觀的主流地位，深化主流價值觀的宣傳教育，把宣傳陣地牢牢掌握在自己手里。豐富拓展宣傳部門的工作形式與宣傳手段，發(fā)掘符合主流價值觀的好人好事，樹立典型、弘揚(yáng)正氣，主動掌握社會輿論的定義權(quán)與主導(dǎo)權(quán)。采取人民群眾更加喜聞樂見的方式，深化宣傳教育效果，實(shí)現(xiàn)中華民族傳統(tǒng)文化、中國特色社會主義理論體系和國家建設(shè)社會實(shí)踐三者有機(jī)結(jié)合，加快實(shí)現(xiàn)四個自信，正本清源，從根源上杜絕ChatGPT顛倒黑白的一切可能。

堅(jiān)持開展技術(shù)研發(fā)，豐富拓展應(yīng)用手段。實(shí)現(xiàn)以政府為主導(dǎo)、以企業(yè)為主體，構(gòu)建“政產(chǎn)學(xué)軍研用”六位一體的協(xié)同創(chuàng)新機(jī)制，推進(jìn)高精尖技術(shù)的不斷前進(jìn)與應(yīng)用技術(shù)的大規(guī)模應(yīng)用，將平臺建設(shè)、基礎(chǔ)設(shè)施投資與科技進(jìn)步有效轉(zhuǎn)化成為政府面對網(wǎng)絡(luò)新興挑戰(zhàn)的反擊力量。在平臺建設(shè)中借鑒民用互聯(lián)網(wǎng)的先進(jìn)經(jīng)驗(yàn)，實(shí)現(xiàn)網(wǎng)絡(luò)認(rèn)知對抗諸多力量的扁平化管理；在基礎(chǔ)設(shè)施投資上由政府牽頭、多方參與，在硬件上確保監(jiān)管系統(tǒng)的正常運(yùn)轉(zhuǎn)；在科技進(jìn)步上以監(jiān)管與軍事需求為主導(dǎo)，院校與科研院所充分參與，盡快突破認(rèn)知域作戰(zhàn)態(tài)勢感知、戰(zhàn)場孿生、用戶畫像等技術(shù)瓶頸，下好應(yīng)對ChatGPT用于網(wǎng)絡(luò)認(rèn)知對抗的先手棋。