ChatGPT：人工智能時(shí)代的雙刃劍

景麗萍 劉健

[摘要] ChatGPT的崛起代表著人工智能的發(fā)展進(jìn)入新階段?，F(xiàn)如今，類ChatGPT技術(shù)已經(jīng)展現(xiàn)出非常廣泛的學(xué)習(xí)能力，并在一些特定領(lǐng)域接近或超越了人類水平。這種新的學(xué)習(xí)范式為各領(lǐng)域各行業(yè)帶來無限機(jī)遇，同時(shí)也潛藏著不可忽視的風(fēng)險(xiǎn)。加強(qiáng)對ChatGPT風(fēng)險(xiǎn)認(rèn)知和治理策略的研究，預(yù)測并防范其可能引發(fā)的失靈、失德等問題，可以為規(guī)范人工智能的發(fā)展和應(yīng)用提供更全面、更深入的指導(dǎo)。

[關(guān)鍵詞] 人工智能；? 數(shù)據(jù)隱私與保護(hù)；? 法制治理

[中圖分類號] TP18? ? ? ? ?[文獻(xiàn)標(biāo)識(shí)碼] A? ? ? ? ?[文章編號] 0529-1445（2023）06-0046-03

ChatGPT是由美國人工智能公司OpenAI開發(fā)的一款聊天機(jī)器人程序，也是一款基于互聯(lián)網(wǎng)可用數(shù)據(jù)進(jìn)行訓(xùn)練的文本生成深度學(xué)習(xí)模型。與先前的其他人工智能相比，ChatGPT采用了全新的訓(xùn)練方式——人類反饋強(qiáng)化學(xué)習(xí)，即通過學(xué)習(xí)大量文本數(shù)據(jù)來模擬人類語言模式，生成符合語境且具有上下文相關(guān)性的文本。這一訓(xùn)練方式使ChatGPT生成的文本更貼合人類的語言習(xí)慣，同時(shí)能不斷精進(jìn)回答，展現(xiàn)出了高級的邏輯理解能力。ChatGPT已經(jīng)在類人智能方面取得了相當(dāng)高的水平，具有廣泛的應(yīng)用前景和市場需求。

一場從傳統(tǒng)智能到人機(jī)交互的革命

傳統(tǒng)的人工智能算法主要依賴人工經(jīng)驗(yàn)和有限的訓(xùn)練數(shù)據(jù)來處理任務(wù)。與之相比，ChatGPT采用了一種不同的技術(shù)路線，即“大數(shù)據(jù)+大算力+強(qiáng)算法=大模型”，其中包括兩個(gè)關(guān)鍵要素：基礎(chǔ)大模型和指令微調(diào)。1基礎(chǔ)大模型類似于大腦，指令微調(diào)是一種交互訓(xùn)練方法。通過將兩者結(jié)合，ChatGPT逐漸接近人類的語言智能水平。

實(shí)現(xiàn)海量知識(shí)的整合與歸納。ChatGPT本質(zhì)是一種大型語言模型，其訓(xùn)練數(shù)據(jù)幾乎涵蓋了互聯(lián)網(wǎng)上所有可以獲取的信息，在知識(shí)存儲(chǔ)量級上遠(yuǎn)遠(yuǎn)超越其他知識(shí)引擎。在交互過程中，用戶通過指令提出信息需求，ChatGPT從海量知識(shí)中進(jìn)行檢索并精簡數(shù)據(jù)，進(jìn)而高效輸出用戶所需信息。這種高效的知識(shí)整合方式對于現(xiàn)代社會(huì)具有重要意義。例如，ChatGPT可以幫助研究人員快速獲取大量文獻(xiàn)資料，把節(jié)省出來的時(shí)間和精力用于挑選最重要和最有價(jià)值的信息。

建立高效而可靠的人機(jī)交互方式。自然語言理解一直是人工智能領(lǐng)域的難點(diǎn)。即使是最先進(jìn)的自然語言處理系統(tǒng)，也只是基于對人類詞頻分布的模擬，無法真正理解人類語言。與之相對，ChatGPT通過指令微調(diào)和人機(jī)對齊技術(shù)展現(xiàn)出了強(qiáng)大的語言理解能力。2它可以深刻理解并掌握用戶語言背后的含義和邏輯，對各種命令和反饋?zhàn)龀鱿鄳?yīng)的回應(yīng)，甚至能夠通過與用戶的對話逐漸學(xué)習(xí)形成具有個(gè)性化特征的反應(yīng)。

展現(xiàn)出一定的通用智能。ChatGPT之前的人工智能已經(jīng)能夠執(zhí)行閱讀理解、機(jī)器翻譯、自動(dòng)問答等任務(wù)，但不具備通用性。ChatGPT作為一種聊天軟件，通過自然人機(jī)接口，可以完成各種任務(wù)，例如文本編輯、數(shù)據(jù)分析、圖片生成、論文撰寫、代碼生成等。這些任務(wù)以往通常由人類完成。ChatGPT所具有的這種通用智能意味著其可以作為一個(gè)強(qiáng)大的智力勞動(dòng)工具，與人類協(xié)同工作，提高人類的工作效率和工作質(zhì)量。

以嶄新姿態(tài)深度嵌入未來生活

ChatGPT的應(yīng)用是人工智能技術(shù)的一次突破，為人們帶來更加智能、便捷、高效的語言服務(wù)，同時(shí)還可以應(yīng)用于更多領(lǐng)域，例如智能客服、智能翻譯、智能寫作等。這些應(yīng)用場景將會(huì)為經(jīng)濟(jì)社會(huì)發(fā)展創(chuàng)造更大空間和更多可能性。

ChatGPT的應(yīng)用對勞動(dòng)力市場的影響是雙面的。ChatGPT以語言為核心初步實(shí)現(xiàn)了“智慧涌現(xiàn)”，為一些領(lǐng)域創(chuàng)造了新的就業(yè)機(jī)會(huì)，如自然語言處理算法工程師的市場需求越來越大。但是，ChatGPT可能也會(huì)導(dǎo)致人工客服等就業(yè)崗位減少。

ChatGPT的應(yīng)用能夠提升教育培訓(xùn)服務(wù)質(zhì)量，為學(xué)習(xí)提供了更多便利。例如，人工智能教學(xué)助手、個(gè)性化推薦系統(tǒng)和智能輔導(dǎo)等技術(shù)能夠讓學(xué)生獲得個(gè)性化的學(xué)習(xí)體驗(yàn)。

ChatGPT的應(yīng)用可以促進(jìn)醫(yī)療健康發(fā)展，為疾病診斷和治療帶來革命性改變。例如，幫助醫(yī)生更精準(zhǔn)地識(shí)別疾病，提高診斷準(zhǔn)確性，制定個(gè)性化的治療方案以及通過遠(yuǎn)程醫(yī)療技術(shù)為更多患者提供服務(wù)。

ChatGPT的應(yīng)用有助于豐富社交娛樂活動(dòng)，對社交和娛樂領(lǐng)域產(chǎn)生廣泛影響。例如，聊天機(jī)器人和智能語音助手為人們的日常生活提供更加便捷的社交服務(wù)，同時(shí)還廣泛應(yīng)用于游戲、音樂、電影等領(lǐng)域，為用戶帶來更為豐富的娛樂體驗(yàn)。

ChatGPT的應(yīng)用可以促進(jìn)文化交流?，F(xiàn)實(shí)中，語言和文化的差異客觀存在，給人類溝通交流帶來很大困擾。使用ChatGPT，人們跨越這種障礙變得更為容易。例如，人們可以直接用母語與其他國家和地區(qū)的人進(jìn)行交流，這對于推廣文化和促進(jìn)國際合作具有重要意義。

ChatGPT的應(yīng)用可以幫助人類更好地理解和應(yīng)對復(fù)雜的社會(huì)問題。當(dāng)前，人類面臨著越來越多的復(fù)雜問題，例如氣候變化、能源危機(jī)、環(huán)境污染等。借助ChatGPT分析大量的數(shù)據(jù)和信息，可以幫助人類更好地理解這些問題的本質(zhì)及形成原因，并提供有效的解決方案。這對于未來人類社會(huì)的可持續(xù)發(fā)展和進(jìn)步具有重要意義。

對用戶數(shù)據(jù)及個(gè)人隱私保護(hù)帶來挑戰(zhàn)

從ChatGPT的功能實(shí)現(xiàn)上看，大規(guī)模、高質(zhì)量的數(shù)據(jù)集起到了至關(guān)重要的作用。ChatGPT在帶來驚艷體驗(yàn)的同時(shí)，也面臨隱私泄露、技術(shù)濫用、知識(shí)造假、社會(huì)公平等問題，人們越來越擔(dān)心它的數(shù)據(jù)安全問題。

ChatGPT本身是依靠智能算法進(jìn)行大規(guī)模數(shù)據(jù)訓(xùn)練而形成的，而且需要通過不斷地與用戶互動(dòng)優(yōu)化自身的“智能水平”。在這一過程中，ChatGPT需要采集、儲(chǔ)存和分析用戶的數(shù)據(jù)，有可能造成數(shù)據(jù)泄露和數(shù)據(jù)丟失，導(dǎo)致用戶的隱私和安全受到威脅。2023年3月，OpenAI發(fā)布聲明稱，與任何技術(shù)一樣，ChatGPT也會(huì)帶來一定安全風(fēng)險(xiǎn)，并介紹了包括尊重隱私在內(nèi)的六個(gè)方面安全部署。這表明技術(shù)越先進(jìn)，安全越重要。

ChatGPT的工作原理是通過學(xué)習(xí)用戶的對話記錄來生成響應(yīng)，使用智能算法來分析和處理用戶數(shù)據(jù)，ChatGPT因此具備一定的邏輯推理能力。這也意味著ChatGPT可能會(huì)從用戶輸入中推理出更為私密敏感的信息。這些信息可能會(huì)被其他用戶二次使用，從而導(dǎo)致用戶隱私泄漏。鑒于對可能引發(fā)數(shù)據(jù)泄露的擔(dān)憂，意大利宣布暫時(shí)禁止ChatGPT的使用。

ChatGPT是一種大型語言模型，存儲(chǔ)了大量敏感信息，除了自身保護(hù)不周可能引發(fā)數(shù)據(jù)泄露之外，還面臨著不法分子惡意攻擊問題，用戶數(shù)據(jù)可能會(huì)被不道德或不合法使用，繼而引發(fā)一些道德和法律問題，如侵犯用戶的隱私權(quán)或作品版權(quán)等。在這種情況下，一些國家已經(jīng)開始采取措施限制ChatGPT的使用。例如，意大利個(gè)人數(shù)據(jù)保護(hù)局不僅宣布禁止使用ChatGPT，還限制OpenAI公司處理意大利用戶信息，并開始立案調(diào)查。

在以上背景下，我國正在加快推進(jìn)數(shù)據(jù)安全工作。2023年3月，國家數(shù)據(jù)局正式組建，負(fù)責(zé)協(xié)調(diào)推進(jìn)數(shù)據(jù)基礎(chǔ)制度建設(shè)和統(tǒng)籌數(shù)據(jù)資源整合共享和開發(fā)利用，以推動(dòng)數(shù)字中國、數(shù)字經(jīng)濟(jì)、數(shù)字社會(huì)的規(guī)劃和建設(shè)。國家數(shù)據(jù)局的成立還將為健全數(shù)據(jù)要素市場安全長效運(yùn)行機(jī)制起到重要的助推作用。在頂層設(shè)計(jì)層面，國家出臺(tái)相關(guān)政策文件，強(qiáng)化數(shù)據(jù)安全作為數(shù)字中國建設(shè)核心底座的地位。2023年1月，工信部、國家網(wǎng)信辦、國家發(fā)改委等16部門印發(fā)《關(guān)于促進(jìn)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》。2023年4月，國家互聯(lián)網(wǎng)信息辦公室起草《生成式人工智能服務(wù)管理辦法（征求意見稿）》，面向社會(huì)公開征求意見。

面對挑戰(zhàn)需要設(shè)定“邊界”

作為人工智能技術(shù)未來的發(fā)展趨勢，以ChatGPT為代表的內(nèi)容生成式人工智能將會(huì)滲透到各行各業(yè)。同時(shí)，隨著數(shù)據(jù)規(guī)模不斷擴(kuò)大，數(shù)據(jù)泄露、濫用等風(fēng)險(xiǎn)日益凸顯，防范數(shù)據(jù)安全風(fēng)險(xiǎn)成為各方共識(shí)。

應(yīng)用的可靠性有待考量?，F(xiàn)階段，ChatGPT還是一種實(shí)驗(yàn)性較強(qiáng)的人工智能系統(tǒng)，穩(wěn)定性尚不足，易于出錯(cuò)。隨著對人工智能的認(rèn)識(shí)和使用不斷加深，人們越來越注重其系統(tǒng)運(yùn)轉(zhuǎn)的可靠性。因此，在正式場合應(yīng)用ChatGPT時(shí)，必須保持高度謹(jǐn)慎，避免出現(xiàn)無法控制的后果。

應(yīng)用的合法性有待規(guī)范。由于ChatGPT生成內(nèi)容具有模糊性特點(diǎn)，人們很難使用剛性約束對其應(yīng)答進(jìn)行合法性限制。這就意味著，基于全網(wǎng)數(shù)據(jù)訓(xùn)練的ChatGPT若被不當(dāng)使用，很容易突破國家法律限制。此外，在國際會(huì)議、商業(yè)談判、學(xué)術(shù)研究等場合，如果ChatGPT被錯(cuò)誤使用，可能會(huì)導(dǎo)致決策不科學(xué)、法律糾紛頻發(fā)和聲譽(yù)受損等不利后果。因此，在使用ChatGPT時(shí)，必須采取適當(dāng)?shù)拇胧﹣泶_保其應(yīng)用的合法性和可靠性。

生成的惡意內(nèi)容急需規(guī)避。ChatGPT的用戶在全球廣泛分布，用戶質(zhì)量良莠不齊，這意味著一些不良用戶可能會(huì)故意提供不準(zhǔn)確或有害的數(shù)據(jù)來訓(xùn)練ChatGPT，生成惡意內(nèi)容，給用戶造成物質(zhì)和精神傷害。更嚴(yán)重的是，有些用戶可能會(huì)濫用ChatGPT實(shí)施網(wǎng)絡(luò)攻擊、煽動(dòng)暴力等違法活動(dòng)，嚴(yán)重危害社會(huì)安全和穩(wěn)定。相關(guān)政府管理部門應(yīng)當(dāng)及時(shí)制定實(shí)施監(jiān)控措施，發(fā)現(xiàn)并懲治違法行為，以保護(hù)用戶的權(quán)益和安全。

[參考文獻(xiàn)]

[1]國家互聯(lián)網(wǎng)信息辦公室.生成式人工智能服務(wù)管理辦法（征求意見稿）[EB/OL].http：//www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.

（作者簡介：景麗萍，北京交通大學(xué)計(jì)算機(jī)與信息技術(shù)學(xué)院副院長、教授；劉健，北京交通大學(xué)計(jì)算機(jī)科學(xué)系講師）

責(zé)任編輯 / 陳? ?思