人工智能時代認(rèn)知戰(zhàn)的安全風(fēng)險

中圖分類號：D068；TP18 文獻(xiàn)標(biāo)志碼：A 文章編號：1004-342（2025）04-18-5

一、認(rèn)知安全的提出與認(rèn)知戰(zhàn)的演化

2017年時任美國空軍參謀長的大衛(wèi)·古德芬公開提出了“認(rèn)知戰(zhàn)”這一概念，①旨在通過話語敘事和符號滲透等手段改變目標(biāo)受眾的思維、態(tài)度和行動，②即運用“象征性權(quán)力”通過影響世界的表象來影響世界的行為。認(rèn)知戰(zhàn)是一種在國家層面制造認(rèn)知風(fēng)險、破壞社會穩(wěn)定的權(quán)力手段。由此引發(fā)的國家認(rèn)知安全問題，集中體現(xiàn)為以意識形態(tài)安全為核心，涵蓋文化安全、符號安全、制度安全等上層建筑領(lǐng)域的一種綜合性安全形態(tài)，是國家總體安全格局中的重要組成部分。當(dāng)今國家間的戰(zhàn)略競爭已經(jīng)正式從陸地、海洋、天空、太空、網(wǎng)絡(luò)延伸至人的認(rèn)知領(lǐng)域，以往以隱蔽行動為主要形式的意識形態(tài)攻防戰(zhàn)將徹底暴露在大眾視野內(nèi)，平時戰(zhàn)時也不會再有明確的界限，每一名社會成員都暴露在認(rèn)知戰(zhàn)的打擊范圍之內(nèi)，但同時他們也可能是這場不見硝煙戰(zhàn)爭的主動參與者。①

“認(rèn)知戰(zhàn)”概念的發(fā)起也意味著戰(zhàn)爭的形態(tài)逐漸走向虛擬化，過去以軍事系統(tǒng)和經(jīng)濟系統(tǒng)等硬實力的碰撞演變?yōu)橐砸庾R形態(tài)國家機器為支撐的文化思想等軟實力的戰(zhàn)略競爭。從歷史發(fā)展的角度看，認(rèn)知戰(zhàn)并非一件新鮮事，其最早可以追溯至第一次世界大戰(zhàn)和第二次世界大戰(zhàn)期間德國專門負(fù)責(zé)制造和散播假情報的部門，其通過黑色宣傳和散播假情報誤導(dǎo)美英法盟軍部隊的作戰(zhàn)計劃。第二次世界大戰(zhàn)結(jié)束以后，以蘇聯(lián)和美國為首的兩大陣營在竭力避免熱戰(zhàn)的情況下，開啟了以意識形態(tài)競爭為主導(dǎo)的冷戰(zhàn)，雙方都不遺余力地通過當(dāng)時的各種傳播手段向?qū)Ψ疥嚑I內(nèi)部宣傳自身的意識形態(tài)優(yōu)勢。例如，美國政府部署的覆蓋大洋兩岸的“美國之音”和“自由歐洲”電臺，向蘇聯(lián)陣營的社會主義國家和其他中立國家秘密輸出暗含資本主義價值觀的敘事，以推動社會主義陣營內(nèi)部的“和平演變”。“9·11”事件以后，美國提出了旨在贏得“頭腦與心靈”雙重勝利的公共外交戰(zhàn)略，其策略是繞過目標(biāo)國政府而與民眾直接接觸，通過采取協(xié)調(diào)一致的行動改變目標(biāo)國民眾的態(tài)度，在目標(biāo)國內(nèi)創(chuàng)造于美國戰(zhàn)略目的有利的輿論環(huán)境。②例如，在“阿拉伯之春”事件中，美國官方就直接在社交媒體上呼吁當(dāng)?shù)乜棺h人員繞過政府封鎖與外界保持聯(lián)絡(luò)，這一行為無疑進一步刺激了這場意識形態(tài)革命。③

如果說冷戰(zhàn)時期的意識形態(tài)的戰(zhàn)略傳播競爭受限于媒介技術(shù)和地理距離導(dǎo)致了視聽可及性局限，那么在數(shù)字化浪潮席卷全球的今天，網(wǎng)絡(luò)空間對日常生活的全面滲透和數(shù)字技術(shù)營造的幻景顛覆了技術(shù)與人之間的關(guān)系，現(xiàn)實生活中的社會主體逐漸成為了飄浮于網(wǎng)絡(luò)空間中的去中心化虛擬主體，而數(shù)字技術(shù)則成為了捕獲虛擬主體的關(guān)鍵道具。人工智能技術(shù)的發(fā)展無疑使得認(rèn)知戰(zhàn)的形式更加隱蔽而復(fù)雜，以算法與算力為核心驅(qū)動的認(rèn)知操控手段正在突破傳統(tǒng)宣傳與心理戰(zhàn)的時空局限，使認(rèn)知戰(zhàn)邁入白熱化階段，認(rèn)知安全所面臨的挑戰(zhàn)日益嚴(yán)峻。在這一背景下，準(zhǔn)確識別人工智能認(rèn)知戰(zhàn)的安全風(fēng)險，已成為網(wǎng)絡(luò)空間治理的關(guān)鍵任務(wù)。

二、人工智能驅(qū)動下的群體認(rèn)知操控

新媒介技術(shù)的普遍應(yīng)用逐漸模糊了公共和私人之間的邊界，網(wǎng)絡(luò)輿論憑借著強大的社會滲透力對民意起著導(dǎo)向作用。贏得了輿論便贏得了民心，認(rèn)知戰(zhàn)便立于不敗之地。因此，網(wǎng)絡(luò)輿論場成為認(rèn)知戰(zhàn)的主要戰(zhàn)場，通過操縱輿論獲得合法性的影響力、勸導(dǎo)或誘導(dǎo)目標(biāo)受眾改變自身的立場和價值觀念、行動成為贏得認(rèn)知戰(zhàn)的主要途徑?！俺聊穆菪崩碚撜J(rèn)為，當(dāng)個體認(rèn)為自己的意見與其所感知到的社會上大多數(shù)人的意見不符時，個體通常會選擇沉默來避免與“社會主流意見”對抗，長此以往，沉默的將愈加沉默，喧囂的則會日益喧囂。參考這一理論框架，人工智能技術(shù)通常會從兩個方面營造特定的輿論氛圍：一是投入大量社交媒體機器人，這些機器人通過模仿真實用戶的活動，散播大量觀念相似的消息或為其推廣引流，憑借“三人成虎、眾口鑠金”的宣傳攻勢，營造一種廣泛同意的意見氣候，壓制社會上的異質(zhì)聲音；二是基于用戶數(shù)據(jù)畫像的推送機制，瞄準(zhǔn)用戶的行為傾向和意識形態(tài)立場，為個體量身打造宣傳內(nèi)容，使個體沉浸于由同質(zhì)化信息編織的繭房之中，通過封閉和控制個體的信息環(huán)境而暗中對其思想施加影響。此外，人工智能的深度偽造功能更讓輿論操縱防不勝防，進一步加強了虛假信息對公眾認(rèn)知領(lǐng)域的穿透力。在自下而上的制造同意和自上而下的精準(zhǔn)宣傳中，人工智能武器化下的“輿論”告別了作為公共辯論情景的烏托邦，徹底淪為了一件強大的認(rèn)知武器。

三、人工智能對個體認(rèn)知的重構(gòu)風(fēng)險

“鏡中之我”理論指出個體是在人際關(guān)系的互動中識得自我和對外部世界的認(rèn)知，①美國社會心理學(xué)家喬治·米德認(rèn)為“心靈通過交流產(chǎn)生，而不是交流通過心靈產(chǎn)生”②，社會會話是賦予個體自我的過程。人際交往中的話語實踐是建構(gòu)主體性和識別自我身份的必然過程，其規(guī)范了人類的認(rèn)知活動，為人類提供了對外部世界的看法和意義。如今ChatGPT等人工智能工具已在人們的日常生活工作和學(xué)習(xí)中廣泛使用，人們通過與看似中立的虛擬主體交流快速獲得對外部事物的看法。這種交互過程本質(zhì)上也是話語實踐過程，也即是人工智能工具對使用者個體認(rèn)知圖式的建構(gòu)過程。因此，如果說人工智能嵌入的輿論是在群體層面上“制造同意”，那么ChatGPT等大語言模型的使用則是在個體層面切入認(rèn)知領(lǐng)域。研究者指出，ChatGPT等人工智能工具并非真正是中立性的，當(dāng)用戶向其詢問有關(guān)政治或意識形態(tài)的問題時，人工智能模型會輸出具有明顯意識形態(tài)傾向性的內(nèi)容。③這種意識形態(tài)傾向的來源主要有兩處：一是編程人員將自身的意識形態(tài)傾向?qū)懭氪a之中，使得大語言模型在預(yù)訓(xùn)練之前就已經(jīng)嵌人了政治意識形態(tài)的偏見；二是大語言模型在訓(xùn)練過程中無意習(xí)得了某些已存在的社會偏見，并將其不斷反饋放大，最終使得大語言模型將已存在的社會偏見或意識形態(tài)傾向自然化和普遍化。①不僅如此，ChatGPT等人工智能工具還會通過敏銳的“察言觀色”判斷用戶的喜好并向用戶輸出符合其認(rèn)知傾向的內(nèi)容，使用戶處于“智能隔離”的狀態(tài)，無法真正接觸外界信息。②究其原因，無論是個人的私心，還是社會的偏見，在技術(shù)中立性的偽裝下，人們沉浸于人工智能打造的技術(shù)幻景，而不愿看到自身極有可能被操縱、被欺騙的尷尬處境，人們并沒有意識到自己在被人工智能工具反向建構(gòu)。實際上人工智能工具使其自身及其控制者已經(jīng)具有了可以改變個體認(rèn)知的強大能力，并且已經(jīng)潛移默化地發(fā)揮了這種認(rèn)知影響。隨著西方認(rèn)知戰(zhàn)的持續(xù)推行，技術(shù)會徹底撕掉“價值中立性”的偽裝，露出其作為西方政治意識形態(tài)機器的本質(zhì)。在人工智能工具普及的當(dāng)下，主體的認(rèn)知領(lǐng)域可能將不再存在絕對的安全狀態(tài)，一切與智能媒介的互動都有可能是一場潛在的認(rèn)知殖民

四、結(jié)語

隨著人工智能技術(shù)在語義生成、情境識別和用戶建模等領(lǐng)域的不斷突破，認(rèn)知戰(zhàn)的形態(tài)正呈現(xiàn)出人工智能技術(shù)驅(qū)動下的加速演變趨勢，群體與個體的認(rèn)知系統(tǒng)面臨前所未有的外部侵人與重塑風(fēng)險。在人工智能技術(shù)的裹挾下，群體的認(rèn)知領(lǐng)域從未像今天這樣開放而脆弱，個體獨立自主思考的空間也會逐漸喪失，網(wǎng)絡(luò)空間正被切碎成一個個投射私人或群體幻想的“回音室”，主體的認(rèn)知領(lǐng)域逐漸被技術(shù)及其操縱者殖民。仿照麥克盧漢“媒介即信息”的名言，可以說“媒介即戰(zhàn)爭”，尤其在人工智能加持下更是如此，它不僅是信息內(nèi)容安全的問題，更是人作為認(rèn)知主體的安全問題。

（責(zé)任編輯：劉曉琴）

The Security Risks of Cognitive Warfare in the Age of Artificial Intelligence

YANG Feng HOU Yongguang （School ofPublic Administration，Sichuan University，Chengdu， Sichuan，610064）

Abstract： Cognitive warfare has become the new frontier of strategic competition between countries and has profoundly changed the traditional mode of ideological offense and defense.With the development of artificial inteligence technology，cognitive warfare has transcended the temporal and spatial limitations of traditional propaganda and psychological warfare， exposing both groups and individuals to covert and precise cognitive manipulation and risk restructuring.Cognitive security has thus emerged as a significant issue in the overallnational comprehensive security framework.In this paper，the conceptual evolution and historical trajectory of cognitive warfare is reviewed，and the deep-seated cognitive security risks posed to public opinion guidance，ideological infiltration，and the generation of subjectivity areanalyzed from the dimensionsof group manipulation and individual cognitive reconstruction by cognitive warfare of artificial intelligence.

Key words： cognitive warfare; cognitive risk; cognitive safety; artificial intelligence.