ChatGPT：人工智能時代的雙刃劍

景麗萍 劉健

[摘要] ChatGPT的崛起代表著人工智能的發(fā)展進入新階段?，F(xiàn)如今，類ChatGPT技術(shù)已經(jīng)展現(xiàn)出非常廣泛的學(xué)習(xí)能力，并在一些特定領(lǐng)域接近或超越了人類水平。這種新的學(xué)習(xí)范式為各領(lǐng)域各行業(yè)帶來無限機遇，同時也潛藏著不可忽視的風(fēng)險。加強對ChatGPT風(fēng)險認(rèn)知和治理策略的研究，預(yù)測并防范其可能引發(fā)的失靈、失德等問題，可以為規(guī)范人工智能的發(fā)展和應(yīng)用提供更全面、更深入的指導(dǎo)。

[關(guān)鍵詞] 人工智能；? 數(shù)據(jù)隱私與保護；? 法制治理

[中圖分類號] TP18? ? ? ? ?[文獻標(biāo)識碼] A? ? ? ? ?[文章編號] 0529-1445（2023）06-0046-03

ChatGPT是由美國人工智能公司OpenAI開發(fā)的一款聊天機器人程序，也是一款基于互聯(lián)網(wǎng)可用數(shù)據(jù)進行訓(xùn)練的文本生成深度學(xué)習(xí)模型。與先前的其他人工智能相比，ChatGPT采用了全新的訓(xùn)練方式——人類反饋強化學(xué)習(xí)，即通過學(xué)習(xí)大量文本數(shù)據(jù)來模擬人類語言模式，生成符合語境且具有上下文相關(guān)性的文本。這一訓(xùn)練方式使ChatGPT生成的文本更貼合人類的語言習(xí)慣，同時能不斷精進回答，展現(xiàn)出了高級的邏輯理解能力。ChatGPT已經(jīng)在類人智能方面取得了相當(dāng)高的水平，具有廣泛的應(yīng)用前景和市場需求。

一場從傳統(tǒng)智能到人機交互的革命

傳統(tǒng)的人工智能算法主要依賴人工經(jīng)驗和有限的訓(xùn)練數(shù)據(jù)來處理任務(wù)。與之相比，ChatGPT采用了一種不同的技術(shù)路線，即“大數(shù)據(jù)+大算力+強算法=大模型”，其中包括兩個關(guān)鍵要素：基礎(chǔ)大模型和指令微調(diào)。1基礎(chǔ)大模型類似于大腦，指令微調(diào)是一種交互訓(xùn)練方法。通過將兩者結(jié)合，ChatGPT逐漸接近人類的語言智能水平。

實現(xiàn)海量知識的整合與歸納。ChatGPT本質(zhì)是一種大型語言模型，其訓(xùn)練數(shù)據(jù)幾乎涵蓋了互聯(lián)網(wǎng)上所有可以獲取的信息，在知識存儲量級上遠遠超越其他知識引擎。在交互過程中，用戶通過指令提出信息需求，ChatGPT從海量知識中進行檢索并精簡數(shù)據(jù)，進而高效輸出用戶所需信息。這種高效的知識整合方式對于現(xiàn)代社會具有重要意義。例如，ChatGPT可以幫助研究人員快速獲取大量文獻資料，把節(jié)省出來的時間和精力用于挑選最重要和最有價值的信息。

建立高效而可靠的人機交互方式。自然語言理解一直是人工智能領(lǐng)域的難點。即使是最先進的自然語言處理系統(tǒng)，也只是基于對人類詞頻分布的模擬，無法真正理解人類語言。與之相對，ChatGPT通過指令微調(diào)和人機對齊技術(shù)展現(xiàn)出了強大的語言理解能力。2它可以深刻理解并掌握用戶語言背后的含義和邏輯，對各種命令和反饋做出相應(yīng)的回應(yīng)，甚至能夠通過與用戶的對話逐漸學(xué)習(xí)形成具有個性化特征的反應(yīng)。

展現(xiàn)出一定的通用智能。ChatGPT之前的人工智能已經(jīng)能夠執(zhí)行閱讀理解、機器翻譯、自動問答等任務(wù)，但不具備通用性。ChatGPT作為一種聊天軟件，通過自然人機接口，可以完成各種任務(wù)，例如文本編輯、數(shù)據(jù)分析、圖片生成、論文撰寫、代碼生成等。這些任務(wù)以往通常由人類完成。ChatGPT所具有的這種通用智能意味著其可以作為一個強大的智力勞動工具，與人類協(xié)同工作，提高人類的工作效率和工作質(zhì)量。

以嶄新姿態(tài)深度嵌入未來生活

ChatGPT的應(yīng)用是人工智能技術(shù)的一次突破，為人們帶來更加智能、便捷、高效的語言服務(wù)，同時還可以應(yīng)用于更多領(lǐng)域，例如智能客服、智能翻譯、智能寫作等。這些應(yīng)用場景將會為經(jīng)濟社會發(fā)展創(chuàng)造更大空間和更多可能性。

ChatGPT的應(yīng)用對勞動力市場的影響是雙面的。ChatGPT以語言為核心初步實現(xiàn)了“智慧涌現(xiàn)”，為一些領(lǐng)域創(chuàng)造了新的就業(yè)機會，如自然語言處理算法工程師的市場需求越來越大。但是，ChatGPT可能也會導(dǎo)致人工客服等就業(yè)崗位減少。

ChatGPT的應(yīng)用能夠提升教育培訓(xùn)服務(wù)質(zhì)量，為學(xué)習(xí)提供了更多便利。例如，人工智能教學(xué)助手、個性化推薦系統(tǒng)和智能輔導(dǎo)等技術(shù)能夠讓學(xué)生獲得個性化的學(xué)習(xí)體驗。

ChatGPT的應(yīng)用可以促進醫(yī)療健康發(fā)展，為疾病診斷和治療帶來革命性改變。例如，幫助醫(yī)生更精準(zhǔn)地識別疾病，提高診斷準(zhǔn)確性，制定個性化的治療方案以及通過遠程醫(yī)療技術(shù)為更多患者提供服務(wù)。

ChatGPT的應(yīng)用有助于豐富社交娛樂活動，對社交和娛樂領(lǐng)域產(chǎn)生廣泛影響。例如，聊天機器人和智能語音助手為人們的日常生活提供更加便捷的社交服務(wù)，同時還廣泛應(yīng)用于游戲、音樂、電影等領(lǐng)域，為用戶帶來更為豐富的娛樂體驗。

ChatGPT的應(yīng)用可以促進文化交流。現(xiàn)實中，語言和文化的差異客觀存在，給人類溝通交流帶來很大困擾。使用ChatGPT，人們跨越這種障礙變得更為容易。例如，人們可以直接用母語與其他國家和地區(qū)的人進行交流，這對于推廣文化和促進國際合作具有重要意義。

ChatGPT的應(yīng)用可以幫助人類更好地理解和應(yīng)對復(fù)雜的社會問題。當(dāng)前，人類面臨著越來越多的復(fù)雜問題，例如氣候變化、能源危機、環(huán)境污染等。借助ChatGPT分析大量的數(shù)據(jù)和信息，可以幫助人類更好地理解這些問題的本質(zhì)及形成原因，并提供有效的解決方案。這對于未來人類社會的可持續(xù)發(fā)展和進步具有重要意義。

對用戶數(shù)據(jù)及個人隱私保護帶來挑戰(zhàn)

從ChatGPT的功能實現(xiàn)上看，大規(guī)模、高質(zhì)量的數(shù)據(jù)集起到了至關(guān)重要的作用。ChatGPT在帶來驚艷體驗的同時，也面臨隱私泄露、技術(shù)濫用、知識造假、社會公平等問題，人們越來越擔(dān)心它的數(shù)據(jù)安全問題。

ChatGPT本身是依靠智能算法進行大規(guī)模數(shù)據(jù)訓(xùn)練而形成的，而且需要通過不斷地與用戶互動優(yōu)化自身的“智能水平”。在這一過程中，ChatGPT需要采集、儲存和分析用戶的數(shù)據(jù)，有可能造成數(shù)據(jù)泄露和數(shù)據(jù)丟失，導(dǎo)致用戶的隱私和安全受到威脅。2023年3月，OpenAI發(fā)布聲明稱，與任何技術(shù)一樣，ChatGPT也會帶來一定安全風(fēng)險，并介紹了包括尊重隱私在內(nèi)的六個方面安全部署。這表明技術(shù)越先進，安全越重要。

ChatGPT的工作原理是通過學(xué)習(xí)用戶的對話記錄來生成響應(yīng)，使用智能算法來分析和處理用戶數(shù)據(jù)，ChatGPT因此具備一定的邏輯推理能力。這也意味著ChatGPT可能會從用戶輸入中推理出更為私密敏感的信息。這些信息可能會被其他用戶二次使用，從而導(dǎo)致用戶隱私泄漏。鑒于對可能引發(fā)數(shù)據(jù)泄露的擔(dān)憂，意大利宣布暫時禁止ChatGPT的使用。

ChatGPT是一種大型語言模型，存儲了大量敏感信息，除了自身保護不周可能引發(fā)數(shù)據(jù)泄露之外，還面臨著不法分子惡意攻擊問題，用戶數(shù)據(jù)可能會被不道德或不合法使用，繼而引發(fā)一些道德和法律問題，如侵犯用戶的隱私權(quán)或作品版權(quán)等。在這種情況下，一些國家已經(jīng)開始采取措施限制ChatGPT的使用。例如，意大利個人數(shù)據(jù)保護局不僅宣布禁止使用ChatGPT，還限制OpenAI公司處理意大利用戶信息，并開始立案調(diào)查。

在以上背景下，我國正在加快推進數(shù)據(jù)安全工作。2023年3月，國家數(shù)據(jù)局正式組建，負(fù)責(zé)協(xié)調(diào)推進數(shù)據(jù)基礎(chǔ)制度建設(shè)和統(tǒng)籌數(shù)據(jù)資源整合共享和開發(fā)利用，以推動數(shù)字中國、數(shù)字經(jīng)濟、數(shù)字社會的規(guī)劃和建設(shè)。國家數(shù)據(jù)局的成立還將為健全數(shù)據(jù)要素市場安全長效運行機制起到重要的助推作用。在頂層設(shè)計層面，國家出臺相關(guān)政策文件，強化數(shù)據(jù)安全作為數(shù)字中國建設(shè)核心底座的地位。2023年1月，工信部、國家網(wǎng)信辦、國家發(fā)改委等16部門印發(fā)《關(guān)于促進數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》。2023年4月，國家互聯(lián)網(wǎng)信息辦公室起草《生成式人工智能服務(wù)管理辦法（征求意見稿）》，面向社會公開征求意見。

面對挑戰(zhàn)需要設(shè)定“邊界”

作為人工智能技術(shù)未來的發(fā)展趨勢，以ChatGPT為代表的內(nèi)容生成式人工智能將會滲透到各行各業(yè)。同時，隨著數(shù)據(jù)規(guī)模不斷擴大，數(shù)據(jù)泄露、濫用等風(fēng)險日益凸顯，防范數(shù)據(jù)安全風(fēng)險成為各方共識。

應(yīng)用的可靠性有待考量。現(xiàn)階段，ChatGPT還是一種實驗性較強的人工智能系統(tǒng)，穩(wěn)定性尚不足，易于出錯。隨著對人工智能的認(rèn)識和使用不斷加深，人們越來越注重其系統(tǒng)運轉(zhuǎn)的可靠性。因此，在正式場合應(yīng)用ChatGPT時，必須保持高度謹(jǐn)慎，避免出現(xiàn)無法控制的后果。

應(yīng)用的合法性有待規(guī)范。由于ChatGPT生成內(nèi)容具有模糊性特點，人們很難使用剛性約束對其應(yīng)答進行合法性限制。這就意味著，基于全網(wǎng)數(shù)據(jù)訓(xùn)練的ChatGPT若被不當(dāng)使用，很容易突破國家法律限制。此外，在國際會議、商業(yè)談判、學(xué)術(shù)研究等場合，如果ChatGPT被錯誤使用，可能會導(dǎo)致決策不科學(xué)、法律糾紛頻發(fā)和聲譽受損等不利后果。因此，在使用ChatGPT時，必須采取適當(dāng)?shù)拇胧﹣泶_保其應(yīng)用的合法性和可靠性。

生成的惡意內(nèi)容急需規(guī)避。ChatGPT的用戶在全球廣泛分布，用戶質(zhì)量良莠不齊，這意味著一些不良用戶可能會故意提供不準(zhǔn)確或有害的數(shù)據(jù)來訓(xùn)練ChatGPT，生成惡意內(nèi)容，給用戶造成物質(zhì)和精神傷害。更嚴(yán)重的是，有些用戶可能會濫用ChatGPT實施網(wǎng)絡(luò)攻擊、煽動暴力等違法活動，嚴(yán)重危害社會安全和穩(wěn)定。相關(guān)政府管理部門應(yīng)當(dāng)及時制定實施監(jiān)控措施，發(fā)現(xiàn)并懲治違法行為，以保護用戶的權(quán)益和安全。

[參考文獻]

[1]國家互聯(lián)網(wǎng)信息辦公室.生成式人工智能服務(wù)管理辦法（征求意見稿）[EB/OL].http：//www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.

（作者簡介：景麗萍，北京交通大學(xué)計算機與信息技術(shù)學(xué)院副院長、教授；劉健，北京交通大學(xué)計算機科學(xué)系講師）

責(zé)任編輯 / 陳? ?思