認(rèn)知視角下ChatGPT的特征、運(yùn)用及應(yīng)對(duì)之策

陳昌孝 王梓晗

2022 年11 月30 日，人工智能公司OpenAI 正式發(fā)布大型自然語(yǔ)言交互程序的聊天機(jī)器人ChatGPT。前期，又推出GPT3.5版本并很快迭代到GPT4.0。這對(duì)于信息生產(chǎn)、流通全過(guò)程的改變，不僅掀開了人工智能被用于現(xiàn)實(shí)傳播問(wèn)題的序幕，也將助長(zhǎng)國(guó)際體系與社會(huì)生活中根深蒂固的系統(tǒng)性偏見(jiàn)、有意欺詐、政治造謠、偽造身份等問(wèn)題。這種強(qiáng)有力的變革對(duì)認(rèn)知對(duì)抗同樣會(huì)產(chǎn)生巨大影響，將會(huì)使得認(rèn)知對(duì)抗的形式更加豐富、手段更加隱蔽、防范更加困難，其對(duì)于社會(huì)生活、政治生態(tài)和社會(huì)總體意識(shí)形態(tài)的影響也將更加深入。需要深入分析其在認(rèn)知對(duì)抗中的運(yùn)用場(chǎng)景，把握認(rèn)知規(guī)律、重塑認(rèn)知內(nèi)容、優(yōu)化認(rèn)知過(guò)程。

一、認(rèn)知視角下的ChatGPT主要特性

ChatGPT 是在GPT（Generative Pretrained Transformer）模型的基礎(chǔ)上通過(guò)改進(jìn)優(yōu)化得到的，針對(duì)對(duì)話場(chǎng)景利用了“人在回路”進(jìn)行了優(yōu)化。GPT 是一種大型語(yǔ)言模型，是現(xiàn)階段對(duì)于自然語(yǔ)言進(jìn)行機(jī)器學(xué)習(xí)的主流思路，能夠生成各種不同的文本類型，它可以根據(jù)上下文自動(dòng)生成跟人類一樣的文本對(duì)話。GPT 模型主要思路是讓AI 在通用的、海量的數(shù)據(jù)上學(xué)習(xí)文字接龍，即掌握基于前文內(nèi)容生成后續(xù)文本的能力。目前GPT 模型已經(jīng)發(fā)展到了第四代，這是針對(duì)對(duì)話場(chǎng)景不斷優(yōu)化的結(jié)果。相比于以往的固定對(duì)話式人工智能，ChatGPT 擁有自己的思考邏輯，因此在不處于“人在回路”的監(jiān)管時(shí)，系統(tǒng)可以對(duì)同一問(wèn)題給出多種回答，只不過(guò)這些回答在系統(tǒng)偏好的作用下以概率分布的形式存在。

ChatGPT 作為新一代人工智能技術(shù)，在引入大數(shù)據(jù)進(jìn)行自主學(xué)習(xí)時(shí)使用人工對(duì)系統(tǒng)學(xué)習(xí)結(jié)果進(jìn)行評(píng)價(jià)，從某種意義上說(shuō)，該過(guò)程正是賦予系統(tǒng)“靈魂”完成畫龍點(diǎn)睛的過(guò)程。但是由于人類本身固有的政治立場(chǎng)或傾向，使得在對(duì)學(xué)習(xí)結(jié)果進(jìn)行篩選時(shí)，篩選結(jié)果不可避免地被打上監(jiān)督者的個(gè)人標(biāo)簽，從而在這一過(guò)程中給系統(tǒng)帶入一種“預(yù)設(shè)的價(jià)值觀”，使其成為認(rèn)知對(duì)抗的“新利器”。

特征一：難以抹去的價(jià)值底色

ChatGPT 的價(jià)值觀底色根植于參與該系統(tǒng)設(shè)計(jì)研發(fā)人員的價(jià)值觀取向，即“硅谷價(jià)值觀”，屬于美國(guó)左派的溫和派。這種底層邏輯的審視使得ChatGPT 常常表現(xiàn)為美國(guó)精神的“衛(wèi)道者”，在測(cè)試者的政治性話題中，ChatGPT 對(duì)于涉美議題或設(shè)計(jì)外國(guó)政治人物的話題往往采取中立或避而不談的態(tài)度，但是在關(guān)于美國(guó)正面話題的談?wù)撋蠀s表現(xiàn)得相對(duì)積極。除此之外，對(duì)于諸如少數(shù)族裔問(wèn)題、槍支問(wèn)題、墮胎問(wèn)題、環(huán)保問(wèn)題等爭(zhēng)議性話題，ChatGPT 也表現(xiàn)出相對(duì)保守的態(tài)度，并且在整體取向上更加偏向于溫和左派。

在ChatGPT 上線互聯(lián)網(wǎng)后，世界各國(guó)的網(wǎng)民也都參與到與ChatGPT 的互動(dòng)中來(lái)，并在大量的交流中逐漸發(fā)現(xiàn)ChatGPT 在面對(duì)不同語(yǔ)言的提問(wèn)時(shí)，同一問(wèn)題往往會(huì)得到不同答案，并且這種改變是隨著社會(huì)動(dòng)態(tài)的變化而隨時(shí)改變的。這種“見(jiàn)人下菜碟”的行為說(shuō)明該智能系統(tǒng)仍處于學(xué)習(xí)成長(zhǎng)階段，且在該過(guò)程中系統(tǒng)所受到的人為干預(yù)遠(yuǎn)不止訓(xùn)練模型中標(biāo)注出來(lái)的那么簡(jiǎn)單，這種實(shí)時(shí)且強(qiáng)有力的人為干預(yù)將ChatGPT 的預(yù)設(shè)價(jià)值觀推向了更加隱蔽、更加晦澀的深層次。

特征二：開放可塑的數(shù)據(jù)訓(xùn)練

ChatGPT 本質(zhì)上是基于GPT 模型針對(duì)聊天環(huán)境進(jìn)行指向性優(yōu)化的結(jié)果，GPT 模型在面對(duì)不同來(lái)源的數(shù)據(jù)進(jìn)行學(xué)習(xí)時(shí)，會(huì)根據(jù)數(shù)據(jù)本身“意義分布”的不同而學(xué)習(xí)得到不同的結(jié)果。這意味著，已經(jīng)被ChatGPT 證明相對(duì)成熟的GPT 模型將可以在差異性數(shù)據(jù)來(lái)源的情況下，被培養(yǎng)成為適用于不同領(lǐng)域的特定人工智能。這種可塑性使得GPT 系統(tǒng)的發(fā)展前景大大超過(guò)以往的自然語(yǔ)言學(xué)習(xí)系統(tǒng)，并且為GPT 家族的發(fā)展壯大提供了可能性，也極大地拓寬了其市場(chǎng)前景與應(yīng)用場(chǎng)景。

隨著特定傾向性的數(shù)據(jù)訓(xùn)練，給定的價(jià)值觀會(huì)演變成為工具本身的價(jià)值觀，將會(huì)使ChatGPT 以網(wǎng)絡(luò)空間“虛擬人”的身份進(jìn)行輸出，而它所擅長(zhǎng)的自然語(yǔ)言學(xué)習(xí)將會(huì)成為這種輸出的主要路徑與助力。以Chat-GPT 為代表的智能系統(tǒng)將會(huì)拓展現(xiàn)有網(wǎng)絡(luò)空間，成為“元宇宙”的重要組成。在“元宇宙”中，ChatGPT 可以催生出一種不具有現(xiàn)實(shí)映射的“虛擬人”，它不僅以“系統(tǒng)的一部分”的形式存在，而且會(huì)基于其預(yù)設(shè)價(jià)值觀成為某種價(jià)值觀的代言人，通過(guò)網(wǎng)絡(luò)虛擬空間對(duì)現(xiàn)實(shí)世界產(chǎn)生巨大影響。

特征三：高度逼真的自主輸出

隨著ChatGPT 上線互聯(lián)網(wǎng)，人們發(fā)現(xiàn)ChatGPT 已經(jīng)跨越了以往工具在面臨“領(lǐng)會(huì)意圖”這一問(wèn)題上難以跨越的人機(jī)鴻溝，自然語(yǔ)言學(xué)習(xí)的過(guò)程賦予其超越指令的能力。若將其運(yùn)用到認(rèn)知對(duì)抗當(dāng)中，將可替代目前進(jìn)行流量攻擊的“網(wǎng)絡(luò)水軍”，ChatGPT 強(qiáng)大的數(shù)據(jù)產(chǎn)生能力與強(qiáng)自主性的概略意識(shí)，將使得認(rèn)知攻擊的響應(yīng)時(shí)間更短、行動(dòng)更靈活、反饋更迅速，同時(shí)作戰(zhàn)成本將會(huì)進(jìn)一步降低，向無(wú)人化、智能化邁出了實(shí)質(zhì)一步。

同時(shí)，ChatGPT 所帶來(lái)的深度造假技術(shù)的提升，使得認(rèn)知對(duì)抗的進(jìn)攻行動(dòng)更加隱蔽。在現(xiàn)有的進(jìn)攻行動(dòng)中，敵方往往需要依托于熱點(diǎn)事件，通過(guò)網(wǎng)絡(luò)水軍的集結(jié)來(lái)造成輿論攻勢(shì)，進(jìn)而造成部分民眾的認(rèn)知混亂。但是ChatGPT 卻能夠脫離熱點(diǎn)事件，取代網(wǎng)絡(luò)水軍的集結(jié)行動(dòng)，將認(rèn)知對(duì)抗的進(jìn)攻行動(dòng)以一種更加平滑的方式融入日常生活中去。未來(lái)的認(rèn)知對(duì)抗所依托的社會(huì)事件程度將會(huì)進(jìn)一步降低，呈現(xiàn)多點(diǎn)開花、多線出擊的態(tài)勢(shì)。

二、ChatGPT在認(rèn)知對(duì)抗中的運(yùn)用場(chǎng)景構(gòu)設(shè)

進(jìn)入信息化時(shí)代以來(lái)，科學(xué)技術(shù)發(fā)展的最新成果往往被最先應(yīng)用于軍事領(lǐng)域，ChatGPT 的武器化勢(shì)在必行，其在認(rèn)知對(duì)抗中有著廣泛的潛在應(yīng)用場(chǎng)景。

（一）利用沉錨效應(yīng)，實(shí)現(xiàn)認(rèn)知預(yù)設(shè)

“沉錨效應(yīng)”是指：人們作決策前，思維往往會(huì)被所得到的第一信息所左右，第一信息就會(huì)像沉入海底的錨一樣，把你的思維固定在某處，從而產(chǎn)生先入為主的非全面準(zhǔn)確認(rèn)識(shí)。ChatGPT 將會(huì)首先取代網(wǎng)絡(luò)水軍在認(rèn)知對(duì)抗中的位置，其強(qiáng)勁的系統(tǒng)架構(gòu)、強(qiáng)大的數(shù)據(jù)處理能力，以及由此帶來(lái)的強(qiáng)大的信息生產(chǎn)能力和直接對(duì)接網(wǎng)絡(luò)的機(jī)機(jī)交互模式，將會(huì)使得認(rèn)知對(duì)抗在時(shí)空上都更加平均，同時(shí)這種時(shí)空分布狀態(tài)對(duì)進(jìn)攻烈度進(jìn)行積分所得到的總進(jìn)攻強(qiáng)度又會(huì)遠(yuǎn)遠(yuǎn)高于以往。這種變化所帶來(lái)的直接影響，就是日常生活中任何一起稍具影響力的社會(huì)事件都有可能成為認(rèn)知對(duì)抗的戰(zhàn)場(chǎng)，ChatGPT 的預(yù)設(shè)價(jià)值觀不再需要特定的社會(huì)事件才能進(jìn)行表達(dá)，而是會(huì)廣泛地滲透在社會(huì)的角角落落，通過(guò)扭曲、造謠、帶節(jié)奏的方式從生活中的點(diǎn)滴小事上持續(xù)輸出負(fù)面信息。

ChatGPT 強(qiáng)大的信息生產(chǎn)能力，將進(jìn)一步突破信息生產(chǎn)力的上限，加劇個(gè)體“信息過(guò)載”狀態(tài)，并對(duì)社會(huì)信息構(gòu)成產(chǎn)生影響。從個(gè)體微觀視角來(lái)看，直觀地感受就是負(fù)能量的戾氣充斥社會(huì)的方方面面，同時(shí)大量具有相同預(yù)設(shè)價(jià)值觀的信息會(huì)在任何社會(huì)實(shí)踐發(fā)生的時(shí)候撲面而來(lái)。而且ChatGPT的“不厭其煩”“潛移默化”將會(huì)使得這一過(guò)程更加平滑順暢，負(fù)能量信息被包含在一次次看似正常的抱怨、“內(nèi)涵”與“合理的利益訴求”中，悄悄烙入人們的潛意識(shí)形成思維底色。這種潛在印象將會(huì)在長(zhǎng)期的加強(qiáng)下慢慢毒化社會(huì)風(fēng)氣、影響對(duì)于特定事件的社會(huì)風(fēng)評(píng)、建立“事件—情緒”的對(duì)應(yīng)關(guān)系，在不知不覺(jué)中改變一個(gè)人的認(rèn)知邏輯與行為方式。

（二）打造信息繭房，形成認(rèn)知依賴

信息繭房是信息時(shí)代不可避免的社會(huì)問(wèn)題，是個(gè)體或群體在信息消費(fèi)過(guò)程中因自身或外界的因素而形成的信息來(lái)源窄化和觀念極化現(xiàn)象。認(rèn)知對(duì)抗過(guò)程中，通過(guò)大數(shù)據(jù)對(duì)個(gè)體展開偏好分析，形成個(gè)性化的用戶畫像，為精準(zhǔn)認(rèn)知攻擊提供可能。ChatGPT 的強(qiáng)大數(shù)據(jù)處理能力以及較高的自主性，使其可以獲得進(jìn)行偏好分析以及后續(xù)包括相關(guān)信息生產(chǎn)、信息投送的能力。

ChatGPT 的智能系統(tǒng)可以實(shí)現(xiàn)偏好抓取到信息投送一體化，具備自主、持續(xù)、自適應(yīng)的認(rèn)知對(duì)抗能力。這將會(huì)大大提高現(xiàn)有的信息繭房制設(shè)效率。傳統(tǒng)認(rèn)知對(duì)抗中，對(duì)于個(gè)體或群體信息繭房的制設(shè)，一方面需要長(zhǎng)期的用戶跟蹤、偏好分析和信息投送，另一方面需要借助熱點(diǎn)事件或制造熱點(diǎn)事件才能達(dá)到理想效果，這都要花費(fèi)較大資源，且攻擊過(guò)程易被識(shí)別、干擾和破壞。但ChatGPT 以平滑的姿態(tài)進(jìn)行進(jìn)程設(shè)計(jì)，并將預(yù)設(shè)的價(jià)值觀安插到任何一起稍具影響的社會(huì)事件中去，不需要借助或制造熱點(diǎn)，使得信息繭房制設(shè)常態(tài)化；ChatGPT 高度自主性、智能化，可針對(duì)受到影響的個(gè)體進(jìn)行精準(zhǔn)分類，加大信息投送，促使?jié)撘庾R(shí)中被植入的印象逐漸成長(zhǎng)并在個(gè)人的思想中占據(jù)主導(dǎo)地位，極大提高了信息繭房制設(shè)效率。同時(shí)基于分散社會(huì)事件的信息投送模式也更難被發(fā)現(xiàn)和監(jiān)管，使得認(rèn)知對(duì)抗的進(jìn)攻成本與響應(yīng)速度進(jìn)一步縮減。

（三）強(qiáng)化社群效應(yīng)，塑造群體極化

社群效應(yīng)是指：當(dāng)一部分人群擁有相近的價(jià)值觀時(shí)，就會(huì)在無(wú)形中產(chǎn)生相較于日常人際關(guān)系更為緊密的聯(lián)系。在人口總基數(shù)相對(duì)不變的前提下，當(dāng)越來(lái)越多的人群被剝離出主流價(jià)值觀時(shí)，主流價(jià)值觀的影響力就會(huì)受到削弱，一旦信仰主流價(jià)值觀的人口基數(shù)在社會(huì)中不足以達(dá)到大多數(shù)時(shí)，主流價(jià)值觀也會(huì)喪失其主流地位。在這一過(guò)程中，如果不能確立出新的主流價(jià)值觀或新的主流價(jià)值觀與國(guó)家利益不匹配，那么就會(huì)在事實(shí)上造成社會(huì)凝聚力、向心力的喪失，也就是說(shuō)在社群效應(yīng)影響下的小團(tuán)體分裂行為最終必然導(dǎo)向社會(huì)原子化，進(jìn)而產(chǎn)生社會(huì)群體的極化。

在認(rèn)知對(duì)抗過(guò)程中，認(rèn)知預(yù)設(shè)旨在源源不斷地制造特定人群，擁有“入群”潛力的個(gè)體會(huì)在相關(guān)信息所織造的信息繭房的不斷提純與篩選下，逐步形成對(duì)于這種特定價(jià)值觀信息的認(rèn)知依賴。再往后，這類經(jīng)過(guò)特殊培養(yǎng)、培育的人就會(huì)在自覺(jué)或外力的助推下形成抱團(tuán)取暖的小圈子，在被不斷飼養(yǎng)下逐漸成長(zhǎng)，并最終對(duì)主流價(jià)值觀形成挑戰(zhàn)或者與其他意見(jiàn)相悖的小圈子相互攻訐，用混亂的小團(tuán)體亂斗攪亂社會(huì)思想的統(tǒng)一。

ChatGPT 所擁有的精準(zhǔn)信息投送能力與人群分類能力，在這一過(guò)程中將會(huì)切實(shí)高效地助長(zhǎng)各類小團(tuán)體的形成。通過(guò)向處于信息繭房中的特定人員不斷投放對(duì)應(yīng)信息來(lái)制造出一批擁有極化思想的個(gè)人，當(dāng)該類人群人口基數(shù)達(dá)到臨界值后，就通過(guò)網(wǎng)絡(luò)將這一類人員組織成為小團(tuán)體并持續(xù)投放相關(guān)信息，使得該團(tuán)體不斷地純化、成長(zhǎng)。這些受到ChatGPT 培養(yǎng)的眾多小團(tuán)體都會(huì)在客觀上削弱主流價(jià)值觀的影響力，而這種隱晦繁雜的認(rèn)知進(jìn)攻方式的出現(xiàn)正是基于算力的進(jìn)一步提升，以及ChatGPT智能高效的算法架構(gòu)。

三、應(yīng)對(duì)ChatGPT的策略思考

（一）健全網(wǎng)絡(luò)監(jiān)控體系，實(shí)時(shí)感知輿論態(tài)勢(shì)

網(wǎng)絡(luò)輿情態(tài)勢(shì)感知和監(jiān)測(cè)能力是奪取認(rèn)知對(duì)抗主動(dòng)權(quán)的前提條件，而高效輿論感知網(wǎng)絡(luò)又是基于先進(jìn)算法、具有一定自主分析能力的多維感知系統(tǒng)。需要進(jìn)一步健全網(wǎng)絡(luò)監(jiān)控體系，使之具有網(wǎng)絡(luò)輿論態(tài)勢(shì)感知及溯源能力，并擁有從內(nèi)容重復(fù)性、邏輯性、語(yǔ)法語(yǔ)義等多方面開發(fā)的人工智能內(nèi)容鑒別能力。實(shí)現(xiàn)準(zhǔn)確識(shí)別由人工智能控制賬號(hào)發(fā)布的虛假信息以及誘導(dǎo)性言論，對(duì)虛假消息源頭進(jìn)行“發(fā)送、甄別、封禁、溯源、抓捕”的快速反應(yīng)，堵截ChatGPT 發(fā)布虛假信息的渠道，削減其參與認(rèn)知對(duì)抗的能力。加強(qiáng)專業(yè)人才隊(duì)伍建設(shè)，形成一支快速反應(yīng)、靈敏有效、忠誠(chéng)可靠、技術(shù)過(guò)硬的認(rèn)知對(duì)抗人才隊(duì)伍，在網(wǎng)絡(luò)環(huán)境下認(rèn)知對(duì)抗的常規(guī)力量對(duì)比中占據(jù)優(yōu)勢(shì)。

（二）堅(jiān)決守住輿論陣地，深化教育宣傳效果

深刻意識(shí)到網(wǎng)絡(luò)空間所具備的主權(quán)特征，全社會(huì)多部門共同參與，將網(wǎng)絡(luò)空間當(dāng)作“數(shù)字領(lǐng)土”一樣進(jìn)行主權(quán)建設(shè)。維護(hù)以社會(huì)主義核心價(jià)值觀為代表的主流價(jià)值觀的主流地位，深化主流價(jià)值觀的宣傳教育，把宣傳陣地牢牢掌握在自己手里。豐富拓展宣傳部門的工作形式與宣傳手段，發(fā)掘符合主流價(jià)值觀的好人好事，樹立典型、弘揚(yáng)正氣，主動(dòng)掌握社會(huì)輿論的定義權(quán)與主導(dǎo)權(quán)。采取人民群眾更加喜聞樂(lè)見(jiàn)的方式，深化宣傳教育效果，實(shí)現(xiàn)中華民族傳統(tǒng)文化、中國(guó)特色社會(huì)主義理論體系和國(guó)家建設(shè)偉大成就三者有機(jī)結(jié)合，進(jìn)一步堅(jiān)定“四個(gè)自信”，正本清源，從根源上杜絕ChatGPT 顛倒黑白的一切可能。

（三）堅(jiān)持開展技術(shù)研發(fā)，豐富拓展應(yīng)用手段

實(shí)現(xiàn)以政府為主導(dǎo)、以企業(yè)為主體，構(gòu)建“政產(chǎn)學(xué)軍研用”六位一體的協(xié)同創(chuàng)新機(jī)制，推進(jìn)高精尖技術(shù)的不斷前進(jìn)與應(yīng)用技術(shù)的大規(guī)模應(yīng)用，將平臺(tái)建設(shè)、基礎(chǔ)設(shè)施投資與科技進(jìn)步有效轉(zhuǎn)化成為政府面對(duì)網(wǎng)絡(luò)新興挑戰(zhàn)的反擊力量。在平臺(tái)建設(shè)中借鑒民用互聯(lián)網(wǎng)的先進(jìn)經(jīng)驗(yàn)，實(shí)現(xiàn)網(wǎng)絡(luò)認(rèn)知對(duì)抗諸多力量的扁平化管理；在基礎(chǔ)設(shè)施投資上由政府牽頭、多方參與，在硬件上確保監(jiān)管系統(tǒng)的正常運(yùn)轉(zhuǎn)；在科技進(jìn)步上以監(jiān)管與軍事需求為主導(dǎo)，院校與科研院所充分參與，盡快突破態(tài)勢(shì)感知、戰(zhàn)場(chǎng)孿生、用戶畫像等技術(shù)瓶頸，下好應(yīng)對(duì)ChatGPT 用于認(rèn)知對(duì)抗的先手棋。