ChatGPT的危與機(jī)：AIGC對傳播的影響研判以及對策建議

摘要：ChatGPT是一款基于人工智能技術(shù)開發(fā)的聊天機(jī)器人，具有智能問答、自然語言生成等多種功能。隨著人工智能技術(shù)的快速發(fā)展和迭代，以ChatGPT為代表的多種AI應(yīng)用開啟了文字、圖像、音樂、視頻等多模態(tài)的內(nèi)容生產(chǎn)。

文章主要研究以ChatGPT為代表的AIGC應(yīng)用將給信息傳播帶來怎樣的危機(jī)與機(jī)遇，將對傳播鏈條造成怎樣的影響，政府、產(chǎn)業(yè)、大眾應(yīng)如何應(yīng)對這些變化。文章運(yùn)用觀察法、分析法、例證法，基于對ChatGPT的技術(shù)原理、發(fā)展現(xiàn)狀、應(yīng)用場景等方面的分析，發(fā)現(xiàn)其在信息傳播方面的前景廣闊，AIGC提升了普通人的內(nèi)容生產(chǎn)能力，增加了信息傳播中的內(nèi)容供給，提高了信息傳播的用戶體驗(yàn)，有望進(jìn)一步打破人機(jī)界限，改寫傳播入口和界面，將給社會結(jié)構(gòu)、人類生存環(huán)境、信息傳播帶來顛覆式影響。但同時(shí)，ChatGPT存在虛假回答、信息污染、數(shù)據(jù)隱私、路徑依賴、新型“信息繭房”和“智能鴻溝”等現(xiàn)實(shí)問題，AIGC可能給傳播帶來隱患甚至災(zāi)難性的后果。基于對相關(guān)現(xiàn)象的分析研究，文章從傳播者、傳播過程、受眾等各角度出發(fā)，從發(fā)展促進(jìn)和風(fēng)險(xiǎn)防范兩個(gè)方面提出對策建議。

關(guān)鍵詞：ChatGPT；AIGC；人工智能；信息傳播；聊天機(jī)器人

中圖分類號：TP18；F49 文獻(xiàn)標(biāo)志碼：A 文章編號：1674-8883（2023）07-0001-03

一、什么是ChatGPT

麥克盧漢認(rèn)為，每一種技術(shù)都立即對人的交往模式進(jìn)行重組，實(shí)際上造就了一種新環(huán)境[1]。美國人工智能研究公司OpenAI于2022年11月30日上推出聊天機(jī)器人模型ChatGPT，隨后人工智能技術(shù)軍備競賽席卷全球。ChatGPT全稱為“Chat Generative Pre-trained Transformer”，可譯為“聊天生成器”，其具有聊天功能，能幫助使用者開展文本生成、開放域問答、分類、摘要、編寫等活動(dòng)，甚至撰寫文案、廣告、詩歌、小說、論文[2]。推出僅兩個(gè)月，其月活躍用戶就成功過億，被稱為“史上用戶數(shù)增長最快的消費(fèi)級應(yīng)用”[3]。ChatGPT成為目前最熱的低門檻、高效率文字內(nèi)容生產(chǎn)工具，對傳統(tǒng)的內(nèi)容生產(chǎn)形態(tài)造成巨大沖擊，產(chǎn)生深遠(yuǎn)影響。

ChatGPT實(shí)際上是一種新型自然語言處理工具。OpenAI稱其能根據(jù)用戶反饋改進(jìn)輸出結(jié)果，根據(jù)用戶反饋持續(xù)化更新和學(xué)習(xí)，實(shí)現(xiàn)與真實(shí)對話無異的交流，這被稱為“從人類反饋中強(qiáng)化學(xué)習(xí)”（RLHF）[4]。眾多企業(yè)和風(fēng)險(xiǎn)投資商高度關(guān)注，研發(fā)類似大模型。谷歌2023年2月宣布推出聊天機(jī)器人“Bard”，次月，百度公開類似產(chǎn)品“文心一言”。此外，眾多企業(yè)紛紛在其應(yīng)用中融入ChatGPT，如在2023年3月，更加“聰明”的ChatGPT4.0發(fā)布后，微軟迅速發(fā)布融入GPT4的新Office（Copilot）。隨著ChatGPT成為廣受關(guān)注的文字內(nèi)容生產(chǎn)工具，圖像、音樂、視頻等多模態(tài)的AI內(nèi)容生產(chǎn)都開始紛紛拓展。

二、ChatGPT等AIGC改變傳播

技術(shù)的更迭將給社會結(jié)構(gòu)、生存環(huán)境、信息傳播帶來巨大沖擊?？梢灶A(yù)見，人工智能技術(shù)將深入應(yīng)用于內(nèi)容采集、內(nèi)容生產(chǎn)、內(nèi)容分發(fā)、用戶互動(dòng)、內(nèi)容運(yùn)營等各環(huán)節(jié)。傳播鏈上傳播者、傳播過程、受眾反饋等主體和環(huán)節(jié)都將受到巨大影響。

（一）傳播者環(huán)節(jié)：AIGC賦能普羅大眾，科技巨頭把握優(yōu)勢地位

傳播者是傳播過程中信息的主動(dòng)發(fā)出者?；ヂ?lián)網(wǎng)時(shí)代，傳播者已歷經(jīng)了三個(gè)階段：PGC（專業(yè)生成內(nèi)容）、UGC（用戶生成內(nèi)容）和AIGC（人工智能生成內(nèi)容）。PGC時(shí)代，主要媒體是報(bào)刊、廣播、電視等傳統(tǒng)媒體，主要內(nèi)容生產(chǎn)者是擁有專業(yè)技術(shù)和設(shè)備的媒體人。此時(shí)，傳播是單向的，互動(dòng)性不強(qiáng)，時(shí)空局限顯著。UGC時(shí)代，除了擁有專業(yè)技術(shù)和設(shè)備的媒體人，任何擁有移動(dòng)網(wǎng)絡(luò)條件并愿意發(fā)聲的人都可成為傳播者，傳受雙方角色逐漸模糊。AIGC時(shí)代，出現(xiàn)了各種“能力”非凡的AI生產(chǎn)者。比如ChatGPT，可以自動(dòng)完成生成摘要、呈現(xiàn)數(shù)據(jù)、分析趨勢等眾多常規(guī)任務(wù)，這意味著其可以幫助用戶克服寫作障礙，提供系列有價(jià)值的內(nèi)容。普通用戶可在AI幫助下跨越信息傳播“能力溝”，迅速掌握表達(dá)能力和資源使用能力，進(jìn)行更加有效的內(nèi)容生產(chǎn)和傳播。

但目前大部分知名AIGC產(chǎn)品是由OpenAI、微軟、谷歌、百度等少數(shù)公司制作，他們正將AI與自身既有業(yè)務(wù)融合，以強(qiáng)化自身優(yōu)勢地位。少數(shù)國際科技巨頭掌控市場，“很可能會強(qiáng)化科技巨頭在市場上的壟斷”[5]。

（二）傳播過程環(huán)節(jié)：AIGC提高傳播效果，傳播入口和界面有望改寫

在技術(shù)層面上，ChatGPT基于自然語言處理、自然語言生成以及機(jī)器學(xué)習(xí)技術(shù)，依據(jù)用戶給定的上下文環(huán)境和用戶偏好按要求自動(dòng)生成內(nèi)容，能在各種時(shí)間、場景下提供個(gè)性化、多語種的服務(wù)，交互式地幫助用戶完成信息生成任務(wù)，且具備自我反思和評價(jià)的功能。

新一代AIGC技術(shù)普及后，內(nèi)容傳播將擁有自動(dòng)化生產(chǎn)、強(qiáng)大的數(shù)字分析等特點(diǎn)，大幅提高傳播效果和受眾體驗(yàn)。互聯(lián)網(wǎng)的普及使傳播渠道更加多樣和廣泛，ChatGPT等AIGC將進(jìn)一步賦能現(xiàn)有應(yīng)用?！癆I2.0將帶來平臺式的變革，改寫用戶的入口和界面，誕生全新平臺，催生新一代AI2.0應(yīng)用的研發(fā)和商業(yè)化?！盵6]

（三）受眾接收和反饋環(huán)節(jié)：即時(shí)反饋強(qiáng)化學(xué)習(xí)，傳受界限進(jìn)一步模糊

ChatGPT可以迅速分析用戶的興趣和需求，模擬人類語言與人類交流。從傳播關(guān)系來看，人類在向ChatGPT提出問題、尋找答案時(shí)，也形成了對AI的自發(fā)投喂。ChatGPT由此進(jìn)行強(qiáng)化學(xué)習(xí)，不斷獲得更好的連接能力和嵌入社會運(yùn)轉(zhuǎn)系統(tǒng)的機(jī)會。傳者和受者的界限進(jìn)一步模糊，實(shí)現(xiàn)人機(jī)共存、人機(jī)融合。

三、AIGC帶來的傳播風(fēng)險(xiǎn)

在賦能傳播者，大幅降低成本提高效率，縮短內(nèi)容生產(chǎn)周期的同時(shí)，ChatGPT的出現(xiàn)也給傳播帶來了風(fēng)險(xiǎn)，甚至是災(zāi)難性的后果。

（一）傳播者環(huán)節(jié)：AI虛假回答導(dǎo)致信息污染

ChatGPT將AI認(rèn)為最符合受眾偏好的答案提供給受眾，呈現(xiàn)出“對答如流，無所不曉”的狀態(tài)，但細(xì)究其回答，存在真假難辨、查無出處的情況，有可能導(dǎo)致以訛傳訛。例如關(guān)于瑞信AT1先于普通股被減記，詢問 ChatGPT有關(guān)歷史案例時(shí)，得到回答稱，2016年的葡萄牙BCP銀行事件中也出現(xiàn)過。有專業(yè)人士質(zhì)疑這一案例系ChatGPT編造，指出其給出的兩個(gè)信源查無出處[7]。此前關(guān)于某地取消限行的消息熱傳，經(jīng)查系假新聞，是有受眾為展示ChatGPT功能鬧出的烏龍[8]。

造假的原因在于AI將語料庫中的內(nèi)容重新組織、生成答案時(shí)，如果被虛構(gòu)的前提引導(dǎo)，或被投喂的語料為假，或語料以錯(cuò)誤邏輯組織，其生成內(nèi)容就喪失了真實(shí)性、準(zhǔn)確性。虛假答案一旦充斥社交媒體或被誤用，便會造成數(shù)據(jù)的污染。污染數(shù)據(jù)若進(jìn)入AI語料庫，將形成信息污染閉環(huán)。有科技平臺提出問題：“如何才能確保AIGC的信源為真？無論是繪畫、聊天還是視頻，應(yīng)該標(biāo)注信息為make up（編造）嗎？”[9]

（二）傳播過程環(huán)節(jié)：AI“學(xué)習(xí)”引發(fā)安全隱患

AI也可能被惡意利用，造成不道德甚至違法的信息傳播，引發(fā)安全風(fēng)險(xiǎn)。面對“ChatGPT有沒有提供過假新聞呢”這一問題，ChatGPT回答：“作為AI語言模型，我不會提供假新聞，并且會努力提供準(zhǔn)確、可靠的信息。但是，人類可能會因?yàn)楦鞣N原因故意或無意提供假新聞?！背鲇诙喾N因素，各種價(jià)值導(dǎo)向可能被“投喂”給AI。也有人會通過多步提示、惡意引導(dǎo)AI給出犯罪問題的解答，引發(fā)安全隱患。

AI內(nèi)容創(chuàng)作能力迅速提高，“學(xué)習(xí)”的數(shù)據(jù)庫愈發(fā)龐大，“產(chǎn)生了數(shù)據(jù)挖掘、內(nèi)容生成與生成內(nèi)容使用三個(gè)階段的版權(quán)風(fēng)險(xiǎn)”[10]。新聞集團(tuán)旗下的道瓊斯公司今年2月指責(zé)OpenAI未授權(quán)使用《華爾街日報(bào)》[11]。此外，AIGC針對不同需求生產(chǎn)的內(nèi)容涉及眾多領(lǐng)域，如何進(jìn)行信息監(jiān)管也是焦點(diǎn)。

（三）受眾接受和反饋環(huán)節(jié)：路徑依賴致新“繭房”“鴻溝”

路徑依賴是指受眾在新媒體環(huán)境下因不合理地使用路徑而出現(xiàn)的強(qiáng)烈的需求感和依賴感，包括對媒體工具、媒體內(nèi)容等的依賴。AI參與內(nèi)容生產(chǎn)給用戶帶來的快感將加強(qiáng)路徑依賴。有調(diào)查稱，美國超89%的受訪學(xué)生會使用ChatGPT完成作業(yè)。截至2023年1月底，國內(nèi)社交平臺上使用ChatGPT完成作業(yè)的討論已超10萬條[12]。

巨大的信息量將淹沒用戶真正需要的信息，造成信息表面豐富，實(shí)則匱乏的局面。受眾或?qū)⑸硖幮碌摹靶畔⒗O房”[13]。在AIGC浪潮中，應(yīng)關(guān)注主動(dòng)或被動(dòng)排斥相關(guān)應(yīng)用的群體，避免形成新型“智能鴻溝”。如何提高所有人的生活質(zhì)量，給予人們更多選擇，而不是被科技所裹挾，這些問題有待研究解決[14]。

四、關(guān)于AIGC的發(fā)展對策建議

目前我國提出“國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作”，“提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)，尊重社會公德、公序良俗”[15]。強(qiáng)調(diào)堅(jiān)持發(fā)展和規(guī)范并用，在擁抱新技術(shù)發(fā)展的同時(shí)主動(dòng)思考風(fēng)險(xiǎn)防范策略，前瞻性地規(guī)范治理有關(guān)技術(shù)，采取措施盡量降低潛在隱患造成的損失。

針對傳播者環(huán)節(jié)，在促進(jìn)發(fā)展方面，建議充分認(rèn)識人工智能的結(jié)構(gòu)性影響，做好正面引導(dǎo)。在風(fēng)險(xiǎn)防范方面，建議行業(yè)和企業(yè)樹立“技術(shù)向善”意識，統(tǒng)籌強(qiáng)化技術(shù)監(jiān)管、人工審核與內(nèi)容治理，引入有道德的數(shù)據(jù)風(fēng)險(xiǎn)控制模型，健全法律法規(guī)，對算法進(jìn)行必要的節(jié)制。

針對傳播環(huán)節(jié)，在促進(jìn)發(fā)展方面，建議政產(chǎn)學(xué)研各方協(xié)同合作，積極應(yīng)對科技巨頭的“AI軍備競賽”，要努力把握AIGC行業(yè)發(fā)展規(guī)律，在核心技術(shù)上實(shí)現(xiàn)自主可控，同時(shí)加速AIGC模板、工具、應(yīng)用場景聯(lián)合研發(fā)。在風(fēng)險(xiǎn)治理方面，完善人工智能倫理規(guī)范，加強(qiáng)行業(yè)自律，保持對個(gè)人信息收集的克制，引入隱私保護(hù)設(shè)計(jì)，重視相關(guān)法律問題和法律風(fēng)險(xiǎn)。

針對受眾環(huán)節(jié)，AIGC效能的發(fā)揮離不開使用者的問題提出、信息甄別和信息查證等能力。在促進(jìn)發(fā)展方面，要利用各方力量幫助受眾了解人工智能，展現(xiàn)AIGC未來應(yīng)用場景。在風(fēng)險(xiǎn)治理方面，建議全社會共同參與，通過制度安排、服務(wù)規(guī)范、媒體引導(dǎo)等方式，鼓勵(lì)受眾加強(qiáng)學(xué)習(xí)、提升技能，增強(qiáng)個(gè)人風(fēng)險(xiǎn)防范能力。

五、結(jié)語

AIGC技術(shù)擁有十分廣闊的應(yīng)用前景，既為信息傳播的未來展示巨大想象空間，同時(shí)也帶來了很多現(xiàn)實(shí)風(fēng)險(xiǎn)挑戰(zhàn)。筆者在與ChatGPT交流時(shí)，發(fā)現(xiàn)ChatGPT認(rèn)為人工智能等技術(shù)無善惡，“人類則可能通過利用人工智能傳播信息作惡”。當(dāng)前，已有部分國家、教育機(jī)構(gòu)表示禁用相關(guān)應(yīng)用，因此有必要從技術(shù)自主和產(chǎn)業(yè)自主、意識形態(tài)主導(dǎo)權(quán)等方面持續(xù)關(guān)注人工智能發(fā)展。在支持AIGC賦能信息傳播的同時(shí)，有必要在技術(shù)自主和產(chǎn)業(yè)自主的基礎(chǔ)上，實(shí)現(xiàn)人工智能算法倫理約束，把控意識形態(tài)領(lǐng)域的主導(dǎo)權(quán)。同時(shí)，引入隱私保護(hù)法律法規(guī)，不斷強(qiáng)化政府對AIGC的平臺監(jiān)管，系統(tǒng)加強(qiáng)開發(fā)者的自律和他律，提高全民人工智能素養(yǎng)，營造AIGC良性發(fā)展氛圍。

參考文獻(xiàn)：

[1] 斯蒂芬妮·麥克盧漢，戴維·斯坦斯.麥克盧漢如是說：理解我[M].何道寬，譯.北京：中國人民大學(xué)出版社，2006：57.

[2] 斯托克爾·沃克.人工智能ChatGPT寫智能論文：教授們應(yīng)該擔(dān)心嗎？[EB/OL].自然，https：//www.nature.com/articles/d41586-022-04397-7，2022-12-09.

[3] 彭茜，黃堃.新聞分析：ChatGPT，變革與風(fēng)險(xiǎn)[EB/OL].新華社，http：//www.news.cn/2023-02/13/c_1129359575.htm，2023-02-13.

[4] 陸偉，劉家偉，馬永強(qiáng)，等. ChatGPT為代表的大模型對信息資源管理的影響[J/OL].圖書情報(bào)知識，https：//kns.cnki.net/kcms/detail// 42.1085.G2.20230224.1136.002.html，2023-02-26.

[5] 陳永偉.超越ChatGPT：生成式AI的機(jī)遇、風(fēng)險(xiǎn)與挑戰(zhàn)[J/OL].山東大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），https：//kns.cnki.net/kcms/detail/37.1100.C.20230303.1549.002.html，2023-03-06.

[6] 邵文.李開復(fù)：拐點(diǎn)已至，AI2.0將誕生新平臺并重寫所有應(yīng)用[EB/ OL].澎湃新聞，https：//www.thepaper.cn/newsDetail_forward_22290101，2023-03-14.

[7] @來去之間.知道胡扯，沒想到連信源也是胡扯的[EB/OL].新浪微博，https：//weibo.com/1111681197/MyhhzghYn pagetype=profilefeed，2023-03-21.

[8] 常正尚.杭州3月1日取消限行？媒體稱系ChatGPT所寫，警方將發(fā)布調(diào)查結(jié)果[EB/OL].澎湃新聞，https：//www.thepaper.cn/newsDetail_forward_21953693，2023-02-17.

[9] @微博科技.如何才能確保AIGC的新源為真[EB/OL].新浪微博，https：//weibo.com/1864419143/Myh1624IW pagetype=profilefeed，2023-03-21.

[10] 叢立先，李泳霖.聊天機(jī)器人生成內(nèi)容的版權(quán)風(fēng)險(xiǎn)及其治理：以ChatGPT的應(yīng)用場景為視角[J].中國出版，2023（5）：11-16.

[11] 吳天一.媒體指責(zé)OpenAI用新聞文章訓(xùn)練ChatGPT：需獲授權(quán)[EB/OL].澎湃新聞，https：//m.thepaper.cn/newsDetail_forward_ 21991880，2023-02-20.

[12] 劉胤衡. ChatGPT“橫掃”校園緣何遭封殺.[EB/OL].中國青年報(bào)，https：//s.cyol.com/articles/2023-02/17/content_VYP7dYul. html，2023-02-17.

[13] 韓冰意，蘇中.“信息繭房”、隱私外泄，如何應(yīng)對人工智能帶來的倫理風(fēng)險(xiǎn)？[EB/OL].新華網(wǎng)，http：//www.xinhuanet.com/tech/20230119/849d98a850da4e6eba5a1d364f90adc3/c.html，2023-01-19.

[14] 彭蘭，安孟瑤.智能時(shí)代的媒體與人：2022年智能傳播研究綜述與未來展望[J].全球傳媒學(xué)刊，2023（1）：3-18.

[15] 國家互聯(lián)網(wǎng)信息辦公室.關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見的通知[EB/OL].網(wǎng)信中國，https：//mp.weixin.qq.com/s/2-qP6qc_8NigbP7djv2k0w，2023-04-11.

作者簡介 李宏洋，記者，研究方向：新聞傳播、網(wǎng)絡(luò)與新媒體、傳媒經(jīng)營管理。