ChatGPT爆火背后：總體國家安全觀視角下人工智能誘發(fā)多領(lǐng)域安全風(fēng)險芻議*

凌 翔，楊茗薇

（國家計算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心 上海分中心，上海 201315）

0 引 言

2022年11月30日，美國人工智能研究實驗室OpenAI推出基于GPT-3.5架構(gòu)大型語言模型（Large Language Model，LLM）的人工智能聊天機(jī)器人應(yīng)用程序——ChatGPT。自上線以來，ChatGPT用戶規(guī)模在5天內(nèi)突破100萬，兩個月內(nèi)迅速破億，成為歷史上用戶數(shù)增速最快的應(yīng)用程序，助推新一代人工智能技術(shù)熱潮席卷全球。OpenAI在輿論、資本勢頭一路看好的背景下，又于2023年3月14日發(fā)布基于GPT-4架構(gòu)的新一代ChatGPT應(yīng)用程序，可針對用戶輸入的圖片內(nèi)容進(jìn)行信息識別與處理，并做出基于圖片內(nèi)容的有效文本回答。目前有消息表示，ChatGPT-5或?qū)⒂?023年底正式發(fā)布[1]。

相較于其他的文本類人工智能應(yīng)用，ChatGPT在多個領(lǐng)域?qū)崿F(xiàn)了跨越性技術(shù)突破。一是“全局化”。依托于現(xiàn)有最大的自然語言生成模型基礎(chǔ)，ChatGPT可實現(xiàn)長篇類文本內(nèi)容的全局掌握與總括性理解，并生成精準(zhǔn)匹配內(nèi)容。二是“個性化”。ChatGPT可根據(jù)用戶輸入內(nèi)容自動調(diào)整符合用戶偏好的語言風(fēng)格，使得輸出內(nèi)容更具備“人”的特點和交流對象的個性特征。三是“校準(zhǔn)化”。ChatGPT利用人類反饋強(qiáng)化學(xué)習(xí)（Reinforcement Learning from Human Feedback，RHLF）不斷進(jìn)行生成內(nèi)容的校準(zhǔn)，以達(dá)到對用戶偏好的擬合效果。四是“敏捷化”?；谀Ｐ偷某笏懔?，ChatGPT可實現(xiàn)快速反應(yīng)效果。從目前模型生成內(nèi)容的效果（不包含價值）來判斷，可在純知識領(lǐng)域基本實現(xiàn)準(zhǔn)確度和實時性的平衡，在極短的處理時間中能夠基本確保內(nèi)容輸出的質(zhì)量。

在ChatGPT于全球范圍收獲熱潮的同時，其技術(shù)背后所依托的超強(qiáng)算力、海量語料庫、人工智能模型也引發(fā)了新一輪對網(wǎng)絡(luò)安全、網(wǎng)絡(luò)意識形態(tài)、新興技術(shù)產(chǎn)業(yè)發(fā)展以及金融安全的擔(dān)憂，包括意大利、加拿大、英國在內(nèi)的多國政府與企業(yè)相繼針對ChatGPT使用情況展開調(diào)查，并采取措施限制軟件使用。2023年5月，“ChatGPT之父”山姆·奧特曼（Sam Altman）在出席美國參議院人工智能技術(shù)聽證會時表示，“生成式人工智能可能對世界造成重大傷害”，敦促美國政府對開發(fā)GPT-4等先進(jìn)人工智能系統(tǒng)的組織實施許可要求和其他法規(guī)。

本文擬從總體國家安全觀視角入手，立足我國在新時期人工智能領(lǐng)域所面臨的內(nèi)外形勢，深入分析以ChatGPT為代表的來自境外的生成式人工智能技術(shù)，對我國國家安全多領(lǐng)域所帶來的復(fù)合型安全威脅與風(fēng)險隱患，以期為更好防范化解風(fēng)險挑戰(zhàn)，引導(dǎo)新興技術(shù)良性有序推動經(jīng)濟(jì)社會發(fā)展提供些許助益。

1 從總體國家安全觀視角看待新興技術(shù)突破性發(fā)展

黨的十八大以來，以習(xí)近平同志為核心的黨中央順應(yīng)時代發(fā)展大勢，從新時代堅持和發(fā)展中國特色社會主義的戰(zhàn)略高度，把馬克思主義國家安全理論和當(dāng)代中國安全實踐、中華優(yōu)秀傳統(tǒng)戰(zhàn)略文化結(jié)合起來，創(chuàng)造性提出了總體國家安全觀?？傮w國家安全觀主要包括政治安全、國土安全、軍事安全、經(jīng)濟(jì)安全、文化安全、社會安全、科技安全、網(wǎng)絡(luò)安全、生態(tài)安全、資源安全、數(shù)據(jù)安全、核安全、海外利益安全、生物安全、太空安全、極地安全和深海安全等十余個領(lǐng)域，是一個內(nèi)容豐富、開放包容、不斷發(fā)展的思想體系。

就如何立足總體國家安全觀視角正確看待新興技術(shù)特別是網(wǎng)絡(luò)空間新興技術(shù)，習(xí)近平總書記從多個角度進(jìn)行了重要闡述[2]。一是要準(zhǔn)確把握當(dāng)前國家安全所面臨的內(nèi)外形勢。習(xí)近平總書記深刻指出，“新形勢下我國國家安全和社會安定面臨的威脅和挑戰(zhàn)增多，特別是各種威脅和挑戰(zhàn)聯(lián)動效應(yīng)明顯。我們必須保持清醒頭腦、強(qiáng)化底線思維，有效防范、管理、處理國家安全風(fēng)險，有力應(yīng)對、處置、化解社會安定挑戰(zhàn)?！倍且羁汤斫獍l(fā)展與安全的辯證統(tǒng)一關(guān)系。習(xí)近平總書記深刻指出，“網(wǎng)絡(luò)安全和信息化是一體之兩翼、驅(qū)動之雙輪，必須統(tǒng)一謀劃、統(tǒng)一部署、統(tǒng)一推進(jìn)、統(tǒng)一實施。做好網(wǎng)絡(luò)安全和信息化工作，要處理好安全和發(fā)展的關(guān)系，做到協(xié)調(diào)一致、齊頭并進(jìn)，以安全保發(fā)展、以發(fā)展促安全，努力建久安之勢、成長治之業(yè)。”三是要深刻領(lǐng)會“五對關(guān)系”這一總體國家安全觀的重要組成部分。習(xí)近平總書記深刻指出，“各地區(qū)各部門要貫徹總體國家安全觀，準(zhǔn)確把握我國國家安全形勢變化新特點新趨勢，堅持既重視外部安全又重視內(nèi)部安全、既重視國土安全又重視國民安全、既重視傳統(tǒng)安全又重視非傳統(tǒng)安全、既重視發(fā)展問題又重視安全問題、既重視自身安全又重視共同安全，切實做好國家安全各項工作?！?/p>

習(xí)近平總書記關(guān)于總體國家安全觀的系列重要論述，為更全面、更系統(tǒng)地看待中國與世界、發(fā)展與安全的關(guān)系提供了根本遵循。從總體國家安全觀視角看待新興技術(shù)突破性發(fā)展，我們不能單一割裂地僅看到新興技術(shù)對特定領(lǐng)域起到的飛躍性助推作用，更應(yīng)當(dāng)客觀冷靜地審視國內(nèi)外環(huán)境形勢，聚焦在此背景下新興技術(shù)可能給我國總體安全形勢、多方面安全領(lǐng)域以及新興技術(shù)本身在我國良性有序發(fā)展等方面，所帶來的潛在和現(xiàn)實威脅。

隨著新一輪科技革命與產(chǎn)業(yè)變革加速信息革命時代潮流，對全世界、多領(lǐng)域、全鏈條產(chǎn)生深刻影響，我們須全面分析、重點研判國內(nèi)外安全形勢，從總體國家安全觀角度出發(fā)，深刻認(rèn)識和防范化解新興技術(shù)所帶來的多領(lǐng)域潛在安全風(fēng)險，把握好和運(yùn)用好發(fā)展與安全的辯證統(tǒng)一關(guān)系。

2 當(dāng)前我國在人工智能領(lǐng)域所面臨的內(nèi)外形勢

作為全球新一輪科技革命的戰(zhàn)略組成部分，人工智能技術(shù)對于各國數(shù)字經(jīng)濟(jì)發(fā)展、社會文化進(jìn)步乃至國際競爭格局均產(chǎn)生著深刻影響。我國人工智能技術(shù)發(fā)展相對較晚，技術(shù)基礎(chǔ)和創(chuàng)新能力與以美國為代表的西方國家存在一定差距。特別是在近年來美西方愈加對我國開展技術(shù)圍堵的現(xiàn)實困境下，我國人工智能領(lǐng)域發(fā)展的內(nèi)外局勢日趨復(fù)雜。

2.1 個別國家“小院高墻”意圖遲滯我國技術(shù)進(jìn)步

近年來，人工智能技術(shù)日漸成為各國戰(zhàn)略布局的重點領(lǐng)域，特別是以美國為代表的西方國家，逐漸將多年戰(zhàn)略布局的人工智能技術(shù)研發(fā)工作，異化為維護(hù)世界霸權(quán)、爭奪未來主動權(quán)的重要抓手之一。例如，2021年3月1日，美國國家人工智能安全委員會發(fā)布《建議報告》，明確提出了“在人工智能時代保衛(wèi)美國”和“贏得技術(shù)競爭”兩大理念，暗含將中國作為潛在競爭對手和打擊對象[3]。2022年8月9日，美國總統(tǒng)拜登簽署《芯片與科學(xué)法案》，明確希望確保美國自身“‘未來產(chǎn)業(yè)’領(lǐng)導(dǎo)者”的關(guān)鍵地位，并點名人工智能是“贏得未來”的4大組成部分之一[4]。美國戰(zhàn)略布局以“競爭”之名行“對抗”之實，特別是近年來“小院高墻”“拉幫結(jié)派”之勢愈發(fā)明顯，對華發(fā)起了一系列人工智能遏制行動。

由于美國在人工智能產(chǎn)業(yè)鏈中上游處于領(lǐng)先地位，而我國在中下游具有后發(fā)優(yōu)勢，而這便日趨成為美國遏華的重點環(huán)節(jié)。美國對華打壓已波及全產(chǎn)業(yè)鏈，其制裁策略為下游制裁以主營應(yīng)用類的公司為主；上游制裁以扼殺我國人工智能產(chǎn)業(yè)鏈的底層支持為主；中上游配合對華芯片制裁，以最大化制裁效果；重點打擊與政府聯(lián)系密切的以及軍民兩用的企業(yè)[5]。值得關(guān)注的是，諸如Meta、亞馬遜、微軟、谷歌、IBM等美國主導(dǎo)的具有全球影響力的跨國企業(yè)，紛紛加大在神經(jīng)網(wǎng)絡(luò)、量子人工智能、光學(xué)計算等新興技術(shù)領(lǐng)域的超前布局，日趨主動配合美國政府的“全球競爭戰(zhàn)略”，主動開展對我國關(guān)鍵領(lǐng)域企業(yè)、行業(yè)和生態(tài)的限制和擠壓。

人工智能作為一種引領(lǐng)世界的先進(jìn)技術(shù)，日漸呈現(xiàn)出被人為異化的趨勢。在一定程度上，人工智能已成為霸權(quán)國家壟斷技術(shù)優(yōu)勢，并對他國實施技術(shù)壓迫和獲取不平等政治、經(jīng)濟(jì)、社會、文化、軍事等領(lǐng)域收益的工具。

2.2 “后發(fā)先至”對技術(shù)發(fā)展提出更高要求

近年來，在國家戰(zhàn)略政策的大力扶持下，我國人工智能領(lǐng)域得到迅猛發(fā)展。根據(jù)2022年工信部公開數(shù)據(jù)顯示，目前我國人工智能核心產(chǎn)業(yè)規(guī)模超4 000億元，企業(yè)數(shù)量超3 000家。智能芯片、開源框架等關(guān)鍵核心技術(shù)取得重要突破，新型基礎(chǔ)設(shè)施布局逐步完善。截至2022年6月，已建成5G基站170萬個，培育大型工業(yè)互聯(lián)網(wǎng)平臺150家，連接工業(yè)設(shè)備超7 800萬臺（套）。全國建成多個算力中心、數(shù)據(jù)中心等公共服務(wù)平臺。

然而，與美國等西方國家相比，我國人工智能發(fā)展仍受制于起步晚、基礎(chǔ)薄弱的現(xiàn)實困境。數(shù)據(jù)顯示，2017—2022年，北美人工智能市場收入逐年增加，由2017年的68億美元增至2022年的249億美元，預(yù)計2028年將突破千億美元大關(guān)[6]。在行業(yè)企業(yè)方面，美國企業(yè)數(shù)量居全球首位，其中囊括谷歌、亞馬遜、Meta、微軟、蘋果、IBM等龍頭企業(yè)，常年占據(jù)全球機(jī)器學(xué)習(xí)和人工智能專利發(fā)表的優(yōu)勢地位。在帶有微軟背景的OpenAI發(fā)布ChatGPT后不久，谷歌、亞馬遜、蘋果等企業(yè)火速跟上，相繼發(fā)布各具特色的生成式人工智能工具，行業(yè)競爭程度可見一斑。美國智庫“信息與技術(shù)創(chuàng)新基金會”于2019年對中國、美國和歐盟的人工智能發(fā)展情況展開比較研究。研究結(jié)果顯示，在人才、研究、開發(fā)、采用、數(shù)據(jù)和硬件6項指標(biāo)中，美國均處于絕對領(lǐng)先地位，中國位居第二[7]。

習(xí)近平總書記深刻指出，“當(dāng)前，我國對人工智能安全問題的研究還相對薄弱，政策應(yīng)對和法治建設(shè)也相對滯后，必須高度重視起來，加強(qiáng)前瞻預(yù)防和約束引導(dǎo)，最大限度降低風(fēng)險”“要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”[8]。“后發(fā)先至”的發(fā)展規(guī)律對人工智能領(lǐng)域提出了更高的政府監(jiān)管、政策扶持、技術(shù)創(chuàng)新、資金鼓勵、人員投入要求。而新興人工智能技術(shù)所帶來的多領(lǐng)域的安全風(fēng)險，逐漸成為需要考量的重要前沿問題。

2.3 我國加緊布局助力自主人工智能發(fā)展

隨著人工智能技術(shù)日漸成為國家和社會發(fā)展進(jìn)步的關(guān)鍵技術(shù)之一，我國緊追西方國家研發(fā)步伐，加快在人工智能領(lǐng)域的戰(zhàn)略布局。

2017年7月，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出了面向2030年我國新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點任務(wù)和保障措施，加快建設(shè)創(chuàng)新型國家和世界科技強(qiáng)國，并成立了由科技部、國家發(fā)展改革委等15個部門組成的新一代人工智能規(guī)劃推進(jìn)辦公室。2021年3月，我國頒布《中華人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》，針對新一代人工智能科技前沿領(lǐng)域攻關(guān)，明確提出“前沿基礎(chǔ)理論突破、專用芯片研發(fā)、深度學(xué)習(xí)框架等開源算法平臺構(gòu)建、學(xué)習(xí)推理與決策、圖像圖形、語音視頻、自然語言識別處理等領(lǐng)域創(chuàng)新”的具體要求。2022年7月，科技部等六部門聯(lián)合印發(fā)《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》。隨后，北京、上海、深圳等地相繼發(fā)布區(qū)域人工智能發(fā)展規(guī)劃。

針對ChatGPT等生成式人工智能技術(shù)，國家網(wǎng)信辦超前布局，于2023年4月11日發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》。系列政策文件的出臺，為我國人工智能產(chǎn)業(yè)發(fā)展提供了長期政策遵循和制度保障，充分表明人工智能已成為國家戰(zhàn)略的重要組成部分。

3 生成式人工智能工具對我國總體國家安全產(chǎn)生的威脅

人工智能發(fā)展至今，相繼經(jīng)歷了由概念理論落地為單點技術(shù)突破的“起步階段”，由單一目的向復(fù)雜需求轉(zhuǎn)變、由單一技術(shù)向全產(chǎn)業(yè)鏈延伸的“應(yīng)用發(fā)展階段”，并最終來到了由“不能用、不好用”到“可以用、擅長用”的“爆發(fā)式增長階段”。ChatGPT的“橫空出世”更被視為人工智能領(lǐng)域跨時代的創(chuàng)造性突破，一躍成為目前全球影響力最大、用戶范圍最廣、社會評價最高的人工智能技術(shù)之一，甚至被譽(yù)為“第四次工業(yè)革命開始的標(biāo)志”。在收獲一片贊譽(yù)之余，作為一項擁有復(fù)雜應(yīng)用場景的新興技術(shù)，ChatGPT在意識形態(tài)、網(wǎng)絡(luò)安全、市場環(huán)境、金融穩(wěn)定、數(shù)據(jù)安全等領(lǐng)域可誘發(fā)的多重風(fēng)險日益突出。

3.1 域外意識形態(tài)滲透風(fēng)險突出

作為目前最先進(jìn)的生成式人工智能工具，ChatGPT能夠根據(jù)交互用戶的偏好不斷進(jìn)行自我訓(xùn)練，在文章全局把握、文體風(fēng)格、表達(dá)習(xí)慣上更加呈現(xiàn)“擬人化”特征，以最大限度與交互方的價值判斷形成擬合效果。因此，ChatGPT既可以是“高度擬人”的先進(jìn)人工智能工具，也可為少數(shù)極端分子宣傳造勢提供發(fā)揮空間，甚至可淪為以美國為首的西方國家對我國進(jìn)行網(wǎng)絡(luò)意識形態(tài)滲透干涉的隱秘途徑。

2023年2月，OpenAI宣布為ChatGPT加入價值觀設(shè)定，即宣揚(yáng)并維護(hù)其認(rèn)為的“普世價值”，包括保障人權(quán)、公正、誠信、自由和平等。換言之，ChatGPT以西方國家的網(wǎng)絡(luò)空間語料為基礎(chǔ)，以西方價值觀為核心取向，帶有鮮明的西方意識形態(tài)色彩。此外，境外有害內(nèi)容可不斷侵蝕ChatGPT基礎(chǔ)數(shù)據(jù)。長久以來，境外網(wǎng)絡(luò)空間彌漫著對華偏見、涉黃涉暴信息和爭議性社會價值內(nèi)容，已相繼成為ChatGPT模型學(xué)習(xí)的語料庫來源。特別是部分境外勢力開始嘗試性地向ChatGPT主動“投喂”敏感有害信息，由于現(xiàn)有技術(shù)難以實現(xiàn)真正像人一樣對中文內(nèi)容進(jìn)行有效的價值判斷和內(nèi)容過濾，致使模型產(chǎn)出的“亦真亦假”內(nèi)容中更容易充斥著有害信息內(nèi)容。而通過不斷的模型測試，機(jī)器也更容易“自主”產(chǎn)出相關(guān)內(nèi)容，由此便產(chǎn)生了惡性循環(huán)效果。

3.2 網(wǎng)絡(luò)生態(tài)更易遭到惡意沖擊

雖然ChatGPT以遠(yuǎn)超于傳統(tǒng)人工智能工具的準(zhǔn)確度收獲一眾好評，但不可否認(rèn)的是，其給出的答案也時常呈現(xiàn)出真真假假、真假難辨的特點。在特定領(lǐng)域沒有進(jìn)行深入研究的普通人，很容易被這些沒有來源出處、讀起來通順、邏輯自洽并摻雜專業(yè)詞匯的語句所迷惑，更容易將ChatGPT這類平臺所提供的單一、直觀、簡短的“答案”作為獲取知識的主要甚至是唯一來源。隨著類ChatGPT產(chǎn)品高度嵌入日常生活，大量不實信息的散播和洗版對我國網(wǎng)絡(luò)生態(tài)造成較大沖擊。

美國新聞報道事實調(diào)查機(jī)構(gòu)NewsGuard通過人工測試發(fā)現(xiàn)，ChatGPT可根據(jù)用戶要求撰寫帶有陰謀論內(nèi)容和虛假表述的文章、論文和劇本。NewsGuard對此表示，“該技術(shù)或?qū)⒊蔀槭飞献钣心芰鞑ュe誤信息的網(wǎng)絡(luò)平臺，其杜撰虛假敘事的能力和范疇將史無前例”[9]。利用該技術(shù)生成虛假信息的案例已在國內(nèi)出現(xiàn)。2023年2月，網(wǎng)傳有網(wǎng)民利用ChatGPT平臺編寫的“杭州2023年3月1日起取消限行”虛假新聞引發(fā)輿論負(fù)面影響[10]；2023年5月，甘肅平?jīng)鍪泄簿志W(wǎng)安大隊偵破全國首例利用人工智能技術(shù)炮制虛假不實信息的案件，犯罪嫌疑人利用ChatGPT將近幾年社會熱點新聞要素進(jìn)行修改編輯，編造虛假信息并非法牟利[11]。

從長遠(yuǎn)來看，以知乎、百度知道、豆瓣、嗶哩嗶哩為代表的各類社交平臺，常成為網(wǎng)民獲取真實信息并接受價值判斷的重要來源。若個別勢力系統(tǒng)性地將受到“污染”的ChatGPT問答內(nèi)容向我國境內(nèi)知識類平臺倒灌，在社會價值和熱點話題等領(lǐng)域進(jìn)行有針對性、系統(tǒng)性地“洗版”“滲透”，或?qū)ξ覈W(wǎng)絡(luò)生態(tài)構(gòu)成嚴(yán)峻挑戰(zhàn)。

3.3 同質(zhì)化競爭削弱創(chuàng)新驅(qū)動力

ChatGPT的“火爆出圈”將生成式人工智能技術(shù)帶入科創(chuàng)領(lǐng)域。依托于高額投資、高精尖技術(shù)和海量先進(jìn)人才的人工智能一躍成為國內(nèi)科技企業(yè)的創(chuàng)新突破口，大量互聯(lián)網(wǎng)企業(yè)紛紛入場以求“趕上這波技術(shù)紅利”。然而，隨著資本瘋狂涌入該領(lǐng)域，同質(zhì)化惡性競爭開始在國內(nèi)人工智能行業(yè)中涌現(xiàn)。在當(dāng)前我國人工智能技術(shù)與西方存在代際差且前期布局不足的背景下，大量相對技術(shù)落后的同質(zhì)資本跟風(fēng)入場，或?qū)⒃谝欢ǔ潭壬蠘?gòu)成產(chǎn)業(yè)資源和注意力浪費(fèi)問題，嚴(yán)重削弱創(chuàng)新驅(qū)動力。

2023年以來，雖然國內(nèi)多家機(jī)構(gòu)宣稱推出“類ChatGPT產(chǎn)品”，但其實現(xiàn)效果與ChatGPT仍有較大差異。根本原因在于，ChatGPT模型背后的龐大算力和海量語料庫，源于ChatGPT前期積攢的大量資金和技術(shù)投入，超高的交互成本使得國內(nèi)部分企業(yè)難以在短時間內(nèi)追趕上ChatGPT的發(fā)展步伐。從資金角度來看，10次ChatGPT“單輪回答”的成本約合人民幣1元，目前市場主流的人工智能聊天系統(tǒng)若采用ChatGPT技術(shù)運(yùn)行系統(tǒng)，每日承載交互量需耗資幾億元[12]。從技術(shù)投入角度來看，據(jù)專家評估，處理1 800億個參數(shù)的GPT-3.5大模型所需要的GPU芯片數(shù)量高達(dá)2萬枚，而新一代的GPT大模型商業(yè)化所需的GPU芯片數(shù)量甚至超過3萬枚。而目前國內(nèi)云廠商擁有超過1萬枚GPU的企業(yè)不超過5家，其中擁有1萬枚英偉達(dá)中低性能產(chǎn)品A100芯片的企業(yè)最多只有1家。單從算力這個衡量指標(biāo)來看，國內(nèi)能在短期內(nèi)布局類似ChatGPT的“選手”十分有限[13]。在巨額資金和技術(shù)投入下，ChatGPT當(dāng)前使用的語言預(yù)測模型是GPT-4，而國內(nèi)頭部“入場企業(yè)”所推出的類似產(chǎn)品在中文環(huán)境下的實際效果僅強(qiáng)于GPT-2，與GPT-4存在較為明顯的代際差距。

當(dāng)然，從新興技術(shù)產(chǎn)業(yè)布局角度，我們需要對國際領(lǐng)先技術(shù)抱有從“跟跑”到“領(lǐng)跑”的決心和信心，但我們更需要防范面對新興業(yè)態(tài)時“跟跑”異化為“跟風(fēng)”的“畸形”發(fā)展思路。敢于“坐冷板凳”“潛下身子”，才能從根本上實現(xiàn)技術(shù)上的“彎道超車”。

3.4 金融投機(jī)行為催生行業(yè)“泡沫”

隨著ChatGPT產(chǎn)品在輿論場愈發(fā)火爆，海量資本不斷涌入生成式人工智能行業(yè)市場，國內(nèi)相關(guān)概念股也在不斷擴(kuò)容，據(jù)不完全統(tǒng)計已高達(dá)28家[14]，但其中不乏刻意關(guān)聯(lián)“ChatGPT”概念以炒作提升自身產(chǎn)品聲譽(yù)的投機(jī)行徑。此前，元宇宙、Web3.0、衛(wèi)星互聯(lián)網(wǎng)等新概念新技術(shù)就曾被輪番炒熱而后引發(fā)金融市場突然的定點“繁榮”，大量捆綁科技概念的產(chǎn)品涌現(xiàn)，但其實質(zhì)仍是金融投機(jī)行為，極易催生行業(yè)泡沫，對可持續(xù)的產(chǎn)業(yè)穩(wěn)定發(fā)展形成潛在隱憂。2023年2月以來，多家上市公司陸續(xù)公布其與ChatGPT“存在關(guān)聯(lián)”，部分公司被指存在“蹭熱點”之嫌。媒體報道多起“公司宣稱與ChatGPT存在弱關(guān)聯(lián)性卻導(dǎo)致漲停”的風(fēng)波事件，如“類ChatGPT產(chǎn)品”被炒作為與ChatGPT母公司OpenAI存在合作關(guān)系等，凸顯國內(nèi)資本市場瘋狂炒作“ChatGPT”概念現(xiàn)象，或?qū)τ谠摦a(chǎn)業(yè)平穩(wěn)發(fā)展帶來挑戰(zhàn)。我們須關(guān)注“燒錢”“炒熱度”背后的產(chǎn)業(yè)發(fā)展可持續(xù)性問題，給技術(shù)跟跑和難點攻關(guān)、產(chǎn)業(yè)布局和有序發(fā)展更多的時間和空間，少一些“概念”，多一些“本領(lǐng)”。

值得關(guān)注的是，在以美國為代表的西方國家戰(zhàn)略、科技產(chǎn)業(yè)、軍工復(fù)合體產(chǎn)業(yè)的大肆渲染下，很多科技創(chuàng)新概念被不斷創(chuàng)造出來，其實際的發(fā)展?jié)摿?、?chuàng)新能力、未來前景仍未可知。例如，美國國會兩院每年會出臺各式各樣的法案，不同利益集團(tuán)為了爭取預(yù)算會不斷為自身提出的法案“造勢”，例如夸大安全威脅、創(chuàng)造新名詞等手段是美國國會山立法的常態(tài)。因此，面對美國等西方國家通過不斷渲染威脅、炒作概念的方式“布局未來”，我們更應(yīng)該潛下身子、冷靜思考，引導(dǎo)產(chǎn)業(yè)布局和資本行為實現(xiàn)健康有序的目標(biāo)，特別是重點防范金融市場可能存在的“泡沫”風(fēng)險。

3.5 全球熱捧加劇數(shù)據(jù)泄露風(fēng)險

當(dāng)前，數(shù)據(jù)安全在我國戰(zhàn)略考量中被提升到一個新的高度，是總體國家安全觀中的重要一環(huán)。隨著網(wǎng)絡(luò)空間超大平臺的數(shù)量、體積和規(guī)模的不斷擴(kuò)張，數(shù)據(jù)泄露問題時常牽動著用戶和監(jiān)管機(jī)構(gòu)的神經(jīng)。從技術(shù)角度來看，ChatGPT以及類ChatGPT平臺作為LLM，其最核心的價值之一便是擁有海量的用戶數(shù)據(jù)。正如諸多具有國際影響力的超大平臺頻頻發(fā)生數(shù)據(jù)泄露問題一樣，擁有海量數(shù)據(jù)的ChatGPT平臺屢屢被曝數(shù)據(jù)泄露風(fēng)險引發(fā)輿論關(guān)注。

2023年3月14日，英國情報機(jī)構(gòu)“政府通訊總部”就曾表示，“ChatGPT和其他人工智能聊天機(jī)器人是一種新興安全威脅。ChatGPT母公司OpenAI及其投資者微軟等企業(yè)能夠讀取輸入進(jìn)ChatGPT中的查詢內(nèi)容，用戶在使用該平臺進(jìn)行搜索時可能會導(dǎo)致敏感信息泄露”[15]。2023年3月31日，意大利個人數(shù)據(jù)保護(hù)局宣布“因未遵守用戶數(shù)據(jù)保護(hù)法規(guī)”，禁止在其境內(nèi)使用ChatGPT[16]。多國政府對于該平臺數(shù)據(jù)安全的擔(dān)憂不是“杞人憂天”，ChatGPT所發(fā)生的數(shù)據(jù)安全問題已為我們敲響了警鐘。2023年3月25日，OpenAI發(fā)布致歉公告表示，其內(nèi)部的開源數(shù)據(jù)庫存在系統(tǒng)漏洞，導(dǎo)致用戶可自由瀏覽其他用戶與ChatGPT的聊天歷史記錄，并同時可能泄露了與1.2%的ChatGPT用戶相關(guān)的信用卡支付數(shù)據(jù)，如用戶姓名、電子郵箱地址、支付地址、信用卡賬號后四位和信用卡失效日期等[17]。

此外，隨著“ChatGPT”概念不斷爆紅，境內(nèi)出現(xiàn)多個山寨平臺和鏡像接入網(wǎng)站，引發(fā)境內(nèi)用戶出于好奇心理爭相測試。值得關(guān)注的是，相關(guān)平臺鮮有進(jìn)行正規(guī)備案的情況，相關(guān)鏈接存在“網(wǎng)絡(luò)釣魚”、數(shù)據(jù)違規(guī)收集和數(shù)據(jù)泄露風(fēng)險。例如，在微信平臺搜索可以發(fā)現(xiàn)多個與ChatGPT看似相關(guān)的公眾號，但大多帶有誘導(dǎo)付費(fèi)或違規(guī)獲取個人信息情況，如有自稱是“ChatGPT中文版”的微信公眾號在獲取個人信息后根本沒有提問題的界面就立即顯示“今日免費(fèi)體驗次數(shù)被領(lǐng)完”；有的則聲稱“開通會員需要付費(fèi)9 999元”“在線充值提問積分”“加入代理推廣賺錢”等。部分山寨平臺“不給答案、還要付費(fèi)、索取個人信息”的現(xiàn)象值得關(guān)注。特別是在ChatGPT被熱炒的當(dāng)下，須防范出現(xiàn)大面積數(shù)據(jù)泄露、數(shù)據(jù)濫用和違規(guī)畫像問題，避免對用戶正常生活構(gòu)成負(fù)面影響。

4 對策與建議

當(dāng)前，境外以美國為首的西方國家紛紛投入人工智能戰(zhàn)略布局，境內(nèi)我國愈加重視新興技術(shù)所帶來的“雙刃劍”問題。在此宏觀背景下，我們更應(yīng)當(dāng)審視ChatGPT等來自境外的新興技術(shù)，對于國家安全、網(wǎng)絡(luò)生態(tài)、社會生活所帶來的風(fēng)險隱患，更應(yīng)當(dāng)站在總體國家安全觀的角度，加深對于新興技術(shù)誘發(fā)重點領(lǐng)域安全風(fēng)險的思考。

4.1 推動監(jiān)管規(guī)范先行，及時封堵漏洞隱患

我們亟須制定更為明確的規(guī)則規(guī)范以實現(xiàn)對人工智能技術(shù)風(fēng)險隱患的有效圍堵，須重點關(guān)注境外新興技術(shù)在國內(nèi)落地的安全隱患，防范有害信息在境內(nèi)傳播引發(fā)意識形態(tài)安全和社會安全問題，建議及時通過權(quán)威發(fā)聲等方式引導(dǎo)使用者正確運(yùn)用新興技術(shù)，對相關(guān)行業(yè)產(chǎn)業(yè)進(jìn)行超前規(guī)范、提前布局，形成和完善有效防范措施，化解挑戰(zhàn)，不斷完善中國式現(xiàn)代化創(chuàng)新發(fā)展模式，不斷推進(jìn)國家治理體系和治理能力現(xiàn)代化。

4.2 提升合力監(jiān)管效能，有效打擊虛假信息

在網(wǎng)絡(luò)空間內(nèi)容治理方面，明晰責(zé)任義務(wù)是營造風(fēng)清氣正的網(wǎng)絡(luò)空間的重要基礎(chǔ)。加強(qiáng)對涉人工智能內(nèi)容安全的有效治理，離不開包括企業(yè)在內(nèi)的多方共同承擔(dān)并切實履行內(nèi)容治理責(zé)任。建議有關(guān)部門加強(qiáng)對國內(nèi)類ChatGPT平臺的積極引導(dǎo)，“以人工智能應(yīng)對人工智能”，推動相關(guān)平臺建立、完善和迭代人工智能生成內(nèi)容鑒別處置機(jī)制，不斷提升人工智能技術(shù)參與內(nèi)容安全監(jiān)測的能力和效果，避免基于人工智能技術(shù)的虛假有害信息在境內(nèi)形成擴(kuò)散蔓延勢頭。

4.3 強(qiáng)化技術(shù)駕馭能力，打磨向善發(fā)展環(huán)境

針對資本市場中出現(xiàn)的類ChatGPT同質(zhì)化競爭和資本過熱現(xiàn)象，亟須有關(guān)部門不斷強(qiáng)化對人工智能等新興技術(shù)的宏觀駕馭和正確引導(dǎo)，加大對相關(guān)企業(yè)良性發(fā)展競爭的路徑引領(lǐng)和風(fēng)險提示作用。通過制定各類規(guī)章制度有效防范資本過熱、有效打擊資本壟斷、有效規(guī)避技術(shù)失控，防范技術(shù)和資本“過火”對我國國家安全所帶來的各類風(fēng)險隱患，積極打造人工智能技術(shù)真正服務(wù)于經(jīng)濟(jì)社會發(fā)展，不斷推動技術(shù)創(chuàng)新環(huán)境有序健康發(fā)展的正向循環(huán)。

4.4 積極參與國際進(jìn)程，增強(qiáng)價值引領(lǐng)作用

目前，尚未在包括人工智能在內(nèi)的新興技術(shù)領(lǐng)域形成全球認(rèn)同的安全評估標(biāo)準(zhǔn)和技術(shù)認(rèn)定規(guī)范，尚未對跨國企業(yè)探索新興技術(shù)所帶來的安全隱患形成有效共識。面對此類問題，我國應(yīng)積極參與和塑造人工智能等新興技術(shù)領(lǐng)域國際治理進(jìn)程。近年來，我國以全球發(fā)展倡議、全球安全倡議與全球文明倡議為錨點，不斷加快加深網(wǎng)絡(luò)空間新興領(lǐng)域的雙邊和多邊合作，以實際行動贏得國際社會的廣泛支持，以共識促團(tuán)結(jié)，或?qū)⒂辛ν苿尤斯ぶ悄艿刃屡d技術(shù)國際規(guī)制的盡快落地。

5 結(jié) 語

基于人工智能技術(shù)的ChatGPT在全球引發(fā)追捧熱潮，人工智能深度嵌入公共治理領(lǐng)域已是大勢所趨。但在熱潮背后，生成式人工智能工具也對我國意識形態(tài)、網(wǎng)絡(luò)安全、市場環(huán)境、金融穩(wěn)定、數(shù)據(jù)安全等多領(lǐng)域構(gòu)成潛在隱憂。當(dāng)下，我國人工智能面臨日趨復(fù)雜的內(nèi)外局勢，一方面，我國人工智能亟待發(fā)展，我們正在努力實現(xiàn)“后發(fā)先至”的理想目標(biāo)；另一方面，以美國為首的西方國家加快在人工智能領(lǐng)域的技術(shù)、政策、商業(yè)和國際合作布局，以期打造對我構(gòu)成戰(zhàn)略圍堵的重要支柱。在國內(nèi)外大環(huán)境下，我們亟須從總體國家安全觀視角出發(fā)，不斷增進(jìn)對新興技術(shù)的理解認(rèn)知水平，提升對新興技術(shù)及其所帶來的安全風(fēng)險的有效管控水平，助推國家治理體系和治理能力現(xiàn)代化水平不斷提高。