“法力無邊”的ChatGPT及其負算力

劉建明

【摘要】ChatGPT的高超技能，已經(jīng)轟動整個世界，似乎無所不能。但人們卻不知，這款匯集數(shù)據(jù)、誘導廣大用戶的智能技術(shù)，已在西方引起了用戶的警覺。它暴露的許多痼疾，提醒廣大用戶以防上當受騙。

【關(guān)鍵詞】ChatGPT；文本生成器；人工智能的創(chuàng)舉；軟件的弊端

2022年末，美國舊金山的創(chuàng)業(yè)公司OpenAI開發(fā)了文本生成器ChatGPT，多數(shù)行家把它稱作聊天機器人。當它同網(wǎng)絡(luò)服務器連接后，能回答用戶提出的任何問題：從談論日常生活到深奧的科學知識，以至妙語連珠的笑話，簡直“無所不知”，侃侃而論，廣大用戶對其博學多能肅然起敬。它不僅善于同用戶談笑風生，而且能創(chuàng)建長篇理論文章，撰寫新聞，創(chuàng)作小說、歌曲和樂曲，制作照片和圖畫，導演電影和電視劇，翻譯異國文字，精通商貿(mào)和應聘，診斷患者的疾病，還能代替學生寫作業(yè)、替應試者答卷，更擅長制作電腦程序與插件，調(diào)試電腦代碼，設(shè)置網(wǎng)絡(luò)攻擊或破解黑客詭計……簡直是察今知古、聰穎睿智、法力無邊。最初，用戶絲毫沒有想到，這一“法力無邊”的ChatGPT卻有瞞天過海的誘騙性，往往巧設(shè)死局，讓人輕松墜入迷途。

一、ChatGPT的誕生及其智能原理

2022年11月20日，一個名為ChatGPT的計算機程序首次亮相，并迅速吸引了西方評論界，有人稱其為人工智能（AI）游戲的改變者。①這款智能軟件發(fā)布一周后，在美國網(wǎng)民中掀起軒然大波，100萬用戶經(jīng)過上線體驗，對它的能言善辯發(fā)出一片驚呼。ChatGPT是美國OpenAI實驗室研發(fā)的語言生成模型，能生成各種意識與信息文本，成為智媒研發(fā)的最高成果。它的起源和性能建立在吸收大量文本數(shù)據(jù)基礎(chǔ)上，在口語、文字、視頻領(lǐng)域快速呈現(xiàn)各種觀點和影像，創(chuàng)造出充滿生動場景的精神世界。

自1950年，英美開始研究人與計算機的語言交互系統(tǒng)，以其技術(shù)難度將其分為簡單匹配、模糊匹配和段落理解三種類型，統(tǒng)稱自然語言處理系統(tǒng)（NLP，Natural Language Processing）。從此，西方一直嘗試在電腦屏幕上再現(xiàn)人與物的活動影像，賦予虛擬人的人類性格和語言表達。最早提出這一設(shè)想的是英國數(shù)學家、邏輯學家和計算機專家艾倫·圖靈。他從1945年開始從事“自動計算機”（ACE）的邏輯設(shè)計和具體研制工作，設(shè)想計算機程序的智能化，面對優(yōu)秀的象棋選手能夠擊敗對方。1948年他被曼徹斯特大學指定為該校自動數(shù)字計算機（Madam）項目的助理負責人。在圖靈的指導下，1950年初該校制造出ACE樣機，5月圖靈編寫并出版了《曼徹斯特電子計算機程序員手冊》，不久他又提出計算機思維問題。同年10月他在《頭腦》（Mind）雜志上發(fā)表了論文《計算機和智能》（Computingmachiery and intelligence）一文，提出“機器是否能夠思考問題”。圖靈并不認為計算機具有人性，而是認為它們能夠模仿人類的思想表達與行為，達到與人類無法區(qū)別的程度，預言了ChatGPT的誕生。

1956年美國麻省理工學院計算機專家約翰·麥卡錫在一次會議上提出“人工智能”（AI）一詞。由于機器獲?。╨earn，有的譯為學習）信息能力的發(fā)展，處理更大、更多樣的數(shù)據(jù)成為可能。麥卡錫認為，機器智能有兩部分，一是認識行為，二是啟發(fā)程式。認識行為遵循事物的特征展示的事實，對外界事物的性能得出結(jié)論；啟發(fā)程式則基于事物的性能實施解決問題的方法，不斷矯正操作中產(chǎn)生的錯誤，直到數(shù)據(jù)協(xié)調(diào)到最大限度地消除誤差。計算機把這兩者合二為一就是人工智能。兩年后，麥卡錫和他的同事在麻省理工學院建立了人工智能項目，20世紀90年代，機器模仿和自然語言處理的進步使人工智能成為計算機行業(yè)關(guān)注的焦點。到2000年代初，大數(shù)據(jù)的爆炸、精細的算法和計算能力的提高，出現(xiàn)了更為先進的人工智能系統(tǒng)。2015年12月，前硅谷孵化器（Y Combinator）首席執(zhí)行官、OpenAI聯(lián)合創(chuàng)始人兼總裁薩姆·奧特曼和商業(yè)“磁鐵”埃隆·馬斯克提出一項人工智能的開發(fā)計劃，二人在特斯拉工廠不斷討論人工智能如何會思考并與人交談。不久，格雷格·布羅克曼、伊利亞·薩茨基弗、沃伊切赫·扎倫巴和約翰·舒爾曼等人也加入了這支創(chuàng)業(yè)隊伍。2016年，他們發(fā)布了第一個用于強化模仿（RI）的開源工具包OpenAI Gym and Universe（這里不能譯為健身房和宇宙，而應譯為訓練場與通用平臺），在萬事萬物的數(shù)據(jù)中選擇適用的內(nèi)容，為ChatGPT的誕生建立了數(shù)據(jù)收集與訓練模式。

2018年6月，OpenAI公司發(fā)表了《預先訓練生成并促進對語言的理解》（OpenAI GPT Improving Language Understanding by Generative Pre-Training）的論文，探索從吸納、檢驗信息到文本轉(zhuǎn)換的GPT概念，經(jīng)過辨別、選擇所需信息解答用戶提出的問題。GPT（Generative Pre-training Transformer）是指神經(jīng)網(wǎng)絡(luò)吸納信息后，很像人利用頭腦里的知識和自身經(jīng)驗對問題作出判斷與結(jié)論。GPT的第一個版本（GPT-1），在大規(guī)模語料庫里進行無限制地吸納（learn）信息，經(jīng)過不斷精細的調(diào)節(jié)（fine-tune），確立需要的具體內(nèi)容。這一過程被稱作“訓練”（trained）的通用模型。2019年與2020年OpenAI先后推出GPT-2和GPT-3。ChatGPT實際是GPT-3模型的變體，擁有1750億個參數(shù)，是迄今為止最強大的信息搜集工具。ChatGPT是人工智能技術(shù)驅(qū)動的自然語言處理工具，在互聯(lián)網(wǎng)上搜索各種新聞、科學知識、社會思潮、宗教文本以及所有相關(guān)數(shù)據(jù)，把它們匯聚到模塊里，針對用戶提出的問題在三種神經(jīng)網(wǎng)絡(luò)（TensorFlow、Theano、Keras）框架中存儲、評估、選用與編寫信息文本。ChatGPT獲取的數(shù)據(jù)來自萬維網(wǎng)的大量材料，包括百科全書、科學論著、互聯(lián)網(wǎng)論壇和新聞報道等信息。神經(jīng)網(wǎng)絡(luò)采用數(shù)據(jù)流圖進行數(shù)值計算，在信息編選中，代碼結(jié)構(gòu)完全由Keras模型高效轉(zhuǎn)換成計算機高級程序語言，在瀏覽器上快速導出文本。

2022年11月30日，OpenAI公司正式發(fā)布ChatGPT聊天機器人研制成功的消息，并上線提供給用戶使用。這個最新人工智能的“天才”，不在于它的想法有多新穎，而在于它的可訪問性和神速反應。它推出的當月用戶就達到5700萬，到2023年1月ChatGPT的月用戶超過1億，平均每天有1300萬訪客②，路透社指出，這是歷史上用戶增長最快的智能媒介。③

二、ChatGPT：人類的教父、智囊和助手

ChatGPT是近年來最優(yōu)秀的智能技術(shù)，幾個月內(nèi)就積累了上億用戶，從學生、教師、記者、程序員到作家和電影導演，每個人在網(wǎng)上大量使用它，從這個熱情、親切的“導師”的教誨中學到了許多東西。ChatGPT的設(shè)計目的是回答詢問，提供信息，解決一系列學習和寫作問題。人們把ChatGPT想象為一個廣泛閱讀不同主題的工具，當你問ChatGPT一個問題時，它會在內(nèi)存中搜索相關(guān)信息，生成相應的文本。從這個意義上說，ChatGPT就像一個知識淵博、博覽群書的導師，可以同任何人對話，不受國別、語言、情感或用戶個性的限制。

ChatGPT注重減少虛假、欺騙性和有害的信息，被稱為“友好型智能”。為防止濫用程序的惡果，它對人類的請教大都以親切的語言和聲調(diào)來回答，用戶接觸的總是一個溫和、謙恭和勤勉的導師。任何一個用戶要使用ChatGPT，在目前必須訪問OpenAI的官方網(wǎng)站并創(chuàng)建一個賬戶。建立賬戶前必須提供個人信息，如姓名和電話號碼，創(chuàng)建賬戶后，就可嘗試進入ChatGPT程序，目前無需支付任何費用。該網(wǎng)站推出使用ChatGPT程序的詳細說明，并把搜索引擎上的數(shù)據(jù)及其查詢方法介紹給用戶。OpenAI的官方網(wǎng)站不過問性別和種族差異，避免對特殊訪客的歧視。④當用戶試圖尋找或查詢答案時，ChatGPT會以詳盡的語言把解決問題的方案顯示在屏幕上。用戶對回復的結(jié)果要標注滿意或不滿意，如果用戶不滿意，程序更新數(shù)據(jù)后再回應用戶。需要指出的是，輸入系統(tǒng)的信息大都是近幾年的，用戶得到的回復很多不是最新的，這一點遠不如Google。如果有人要求用計算機語言創(chuàng)建代碼，ChatGPT比Google更容易完成。目前ChatGPT的嚴重缺陷是，它提供的信息并非100%準確，搜索功能較低，程序開發(fā)人員正在努力改善這兩項功能。經(jīng)過兩個月的努力探索，2023年2月ChatGPT的搜索能力明顯提高。

ChatGPT的主要好處是，用戶提出查詢時，立即得到詳細回答，而且是唯一固定答案。用戶在Google上搜索某一問題，會出現(xiàn)各種形式或若干不同的結(jié)果，用戶依據(jù)自己的判斷才能確定需要的信息。ChatGPT只給訪客提供單一的信息，其用途有無數(shù)種，制作和傳播信息的樣式豐富多彩。2022年11月已經(jīng)安裝了Talk-to-ChatGPT軟件，彌補了先前只有文字答案而沒有話語回復這一缺陷?，F(xiàn)在用戶可以通過電腦同ChatGPT對話，當用戶按一下“開始”鍵，發(fā)出口頭詢問后，這一人工智能立刻朗讀答案，將文字記錄轉(zhuǎn)換為音頻播放，還可調(diào)整聲音的高低和朗讀文本的速度。ChatGPT還有圖像編輯器功能，能真實、動態(tài)地組接視頻與影像，使廣告更為逼真、生動，顯著增加了OpenAI的廣告收入。如果把Google的瀏覽器插件Chrome同ChatGPT混合使用，這兩種技術(shù)的合力則能創(chuàng)造更為令人驚嘆的效果。用戶要求ChatGPT以不同風格向他們解釋概念、定義和理論，它就會適應你的要求，做出解釋，表述簡潔的推理和結(jié)論?，F(xiàn)在，ChatGPT就像一個變形金剛式的AI模型，很難區(qū)分它提供的是事實還是虛構(gòu)?！八皇歉鶕?jù)你輸入的內(nèi)容來回答有關(guān)某個問題的重要內(nèi)容或意義，它在回答游戲方面的表現(xiàn)更為出色?！雹?/p>

2023年2月印度智能技術(shù)通訊記者拉維·迪察·坎茲在《ChatGPT能做的25件事》⑥的報道中，對ChatGPT的功能做了全面介紹，全方位地總結(jié)了這款智能軟件的重要功能。稱它就像廣大用戶的智囊，作為人類生存和生活的工具，是每個人須臾不可失去的助手和精神安慰器。ChatGPT能生成電子郵件模板，用其申請一份工作，協(xié)調(diào)一個項目的進展，幫助用戶寫郵件，都做得精通得體。ChatGPT能掀起頭腦風暴，產(chǎn)生各種史無前例的創(chuàng)意，當用戶在復雜問題面前沒有了主意，想象力受到限制，都可以向它請教。ChatGPT可以對你提到的任何話題進行深挖，只要你提問，它就會繼續(xù)回答，對每個問題都能告訴你是對還是錯。ChatGPT喜歡談論用戶最感興趣的話題，可以訴說電影、日常愛好、科學常識和深奧的知識，只要用戶給出明確的提示，它就會同你討論，甚至用幾秒鐘為你寫出一篇你需要的文章。ChatGPT最擅長娛樂，愛說笑話，能玩很多游戲，大多是益智游戲、猜謎和填字，被稱為偉大的喜劇演員。

ChatGPT雖然擅長英語，但也可以對其他語言進行翻譯，并創(chuàng)建多種語言文本，翻譯的結(jié)果來自神經(jīng)網(wǎng)絡(luò)YNMT。使用ChatGPT向用戶推薦電影和書籍，讓用戶觀看電影和連續(xù)劇，傾聽各種饒有興趣的故事和音樂，或者為你創(chuàng)作一首詩歌和歌曲，都是它的拿手好戲。此外，在ChatGPT的鏡像里旅游、跟著視頻鍛煉身體或?qū)W習一門外語，都能使用戶心滿意足。在ChatGPT里還有一個Vana Portrait的像素畫廊，用它能制作、編輯和展示肖像、油畫和漫畫，該應用程序作為一個完整的照片編輯器，具有自拍和連綴視頻的功能，可以創(chuàng)作任何美術(shù)作品。用戶常常光顧ChatGPT，不僅能很快提高美學修養(yǎng)，而且對人世的善惡美丑和大自然的秀美產(chǎn)生明晰、深刻的印象。

三、ChatGPT對新聞業(yè)的助益與諱忌

僅在三個月內(nèi)，圍繞ChatGPT不可思議的功能在西方新聞界激起浪花。有人贊成使用這款人工智能報道新聞，有人持反對態(tài)度，認為這個軟件對新聞業(yè)具有巨大的風險，不可輕信和盲目地使用。自2015年起，美聯(lián)社一直在使用人工智能撰寫企業(yè)盈利報告，因為此類報告往往過于公式化，從文字到文本結(jié)構(gòu)簡明扼要，不需要人工輸入。美國POLITICO.COM網(wǎng)站專欄作家杰克·謝弗對人工智能改善新聞工作抱有相對樂觀的態(tài)度，但也有幾分憂慮。他寫道：“新聞的存在是為了服務讀者。如果人工智能幫助新聞編輯室更好地服務讀者，應該歡迎它的到來。然而，如果這項技術(shù)確實會導致廣泛的記者失業(yè)，這將是令人困惑的?！泵绹诰€雜志Gawker的前編輯馬克斯·里德在他的通訊中寫道：“你聽到的任何關(guān)于使用人工智能的故事，在根本上都是關(guān)于勞動自動化的技巧，無論它是否能幫助記者以更少的工作量完成更多的工作，完全是取代人類的一種工具?！雹弑M管ChatGPT目前有很多缺陷，它仍是新聞報道的有益幫手。

英國新聞網(wǎng)站編輯馬塞拉·庫佐娃在《ChatGPT可以為記者完成八項任務》一文中⑧認為，人工智能不能取代記者，但它可以消除一些日常的繁瑣工作，你可以專注于你最擅長的事情，去尋找真正的新聞。談到新聞編輯室中的人工智能時，記者們通常分為兩派，一種是對人工智能過于自信，另一種是忽視它的作用，根本不去碰它。ChatGPT經(jīng)過驗證可以對用戶的詢問產(chǎn)生類似人的反應，往往能寫出頭條新聞。只要你清楚它能做什么和不能做什么，它就可以幫助你完成一些瑣碎的任務，記者就可專注于觀眾最關(guān)心的事件。記者在使用ChatGPT時，請記住它是智能的，而不是萬能的。這臺沒有意圖的機器，不想誤導你，也沒有什么真實的概念和道德素養(yǎng)，它只是根據(jù)大量搜索的信息生成文本。正因為如此，你需要對所有生成的內(nèi)容進行事實核查，超出你驗證的部分，可由記者本人根據(jù)事實加以更正。如果沒有真實的信息，它可能會編造一個事實，因此，對數(shù)字、名稱和地點這類重要信息尤其需要核實，以保證這類內(nèi)容確實客觀存在。

ChatGPT可以幫助記者做一些必須做的工作，這些任務是新聞機構(gòu)大多數(shù)記者每天都要經(jīng)手去完成的，而且是不可拖拉延誤和玩忽職守的任務。馬塞拉·庫佐娃在文章中一共提出八項任務，其中最重要的是以下四項：（1）生成文本和文檔的摘要。ChatGPT在總結(jié)長篇新聞方面相當出色。當你需要快速瀏覽、研究新聞文本時，它就派上用場了。你可以讓它給你提供內(nèi)容梗概和其中的重要觀點，引用或查找相關(guān)的信息。（2）生成評論的觀點和答案。當你提出一個不太熟悉的話題或?qū)ふ倚碌慕嵌葧r，ChatGPT可幫助你對事件和任何事情進行分析，通常會給出合理的建議。遺憾的是，當它不知道答案時，它會編造一些東西，可能生成完全虛構(gòu)的事實并予以評論。（3）生成新聞標題。它不僅可以根據(jù)記者提供的線索，或者無須線索就能對當日或某一天發(fā)生的事件進行描述，并提出一個簡單的題目。記者要求它把標題改得活潑有趣、消極或積極一些，ChatGPT就會推出一個新的標題。（4）為新聞提供上下文。同上面所有的任務一樣，這個任務可能是隨機的。記者讓ChatGPT提供新聞事件的背景或發(fā)生在其他國家與城市的類似事件，比如，為什么英國鐵路工人今年罷工，它可以找到相似的同類信息，形成一個版面的組合報道。聊天機器人對提問的反應非常靈活——立即給出聽起來似乎合理的答案，做出很專業(yè)的解釋，并能寫出風格華麗的長篇文章。盡管ChatGPT的能力看似不可思議，但它的機制和原理卻相對簡單，它使用一切在線的全球的文本語料庫吸取概念和知識，選擇和確定用戶需要的答案。事實上，ChatGPT找到“真相”比擁有足夠的數(shù)據(jù)和算法要復雜得多，它不太可能接近人類的能力，該領(lǐng)域的西方權(quán)威學者將其描述為一只鸚鵡，對提示的反應類似于“模仿”或“美化的剪切粘貼”。ChatGPT確實可以成為新聞工作轉(zhuǎn)變方式的一部分，但用它來代替記者的全部工作，卻是不明智的——等于用不可靠的垃圾充斥互聯(lián)網(wǎng)，這是對這一人工智能的真實評價。⑨

美國加州大學伯克利分校信息學院數(shù)據(jù)與社會研究總監(jiān)珍娜·伯雷爾深入探討了ChatGPT的優(yōu)點，以及它如何成為記者的工具。她認為，對記者來說，最重要的任務之一是為普通觀眾簡化復雜的話題，使用ChatGPT完成某項任務變得更容易。記者可以使用這個工具在采訪之前更好地整理思路，為采訪做準備，列出你想問的問題，軟件將根據(jù)這些問題創(chuàng)建更多的內(nèi)容。ChatGPT可以用副本編輯器，在將文章發(fā)送給編輯之前進行最后一次審查。伯雷爾警告記者要注意ChatGPT“填補數(shù)據(jù)空白”的傾向，它永遠都不會表示不知道答案；相反，如果它所掌握的數(shù)據(jù)不能提供答案，它只會編造一個答案，所以它經(jīng)常產(chǎn)生絕對錯誤的結(jié)果。ChatGPT也存在復制具有偏見的問題，因為它只能復制和反哺已有的數(shù)據(jù)，收集大量信息強化這種偏見，這樣，記者使用ChatGPT就可能上當。記者應當充滿自信，人的發(fā)現(xiàn)能力永遠高于機器，對此伯雷爾的觀點是：“ChatGPT吸收了互聯(lián)網(wǎng)上的一切；你從中得到的是整個互聯(lián)網(wǎng)扭曲的反映”，“人類將繼續(xù)變得更有創(chuàng)造力，并能夠創(chuàng)造出真正不同尋常的表達方式”。⑩

對于ChatGPT的程序欺騙，美國波莫納學院經(jīng)濟學教授加里·史密斯在《沙龍》上發(fā)表了《GPT-3和其他大型語言模型的局限性和不受歡迎》后，收到了數(shù)十條評論，其中包括創(chuàng)意研究有限公司董事、總經(jīng)理埃爾文·梅耶爾三世的長篇論述。梅耶爾回應說：“人工智能無法使用常識、智慧或邏輯推理來區(qū)分真假，怎么能以一種超越大多數(shù)人類的方式回答準確的提示？它對事物正在形成常識，已經(jīng)領(lǐng)先于孩子們通常的能力，這是不小的成就?！泵芬疇柼岢隽艘豁棇嶒灧绞?，經(jīng)過改進和訓練可以證明像GPT-3這樣的大型語言模型可以自我檢查，從某種意義上說，它們具有真正的智能，而不僅僅是在模仿他們所吸收的在線數(shù)據(jù)來編寫東西。當ChatGPT擁有驚人的自我事實核查能力，使用一個簡單的算法就可構(gòu)建更全面的人工智能，如果它們可以做到這一點，一開始就不會制造謊言。同樣，它不知道單詞的意思，沒有辦法驗證一個互聯(lián)網(wǎng)來源是否可靠，也沒有辦法知道一個來源是否被證實或反駁它的主張。11新聞報道關(guān)乎可信度和準確性，ChatGPT可以生成正確的事實信息，但在本質(zhì)上缺乏驗證的可信度。“記者在報道事件時會考慮來源、偏見和其他因素，但ChatGPT缺乏理解人類情感、文化和經(jīng)驗的能力，根本無法給記者提供事實產(chǎn)生的深度理解和背景，只是根據(jù)搜集的數(shù)據(jù)輸出信息。這增加了傳播虛假信息或誤導性事實的風險，易于損害整個新聞業(yè)的可信度”。12

顯然ChatGPT尚需改進，“在收集、分析信息的準確度”沒有超過記者，其“智能化、準確率不會有更大的提升”13之前，它可以虛構(gòu)不存在的事實、歷史名稱和書籍，或者無法解決某些數(shù)學問題。英國人工智能初創(chuàng)公司Speechmatics副總裁威爾·威廉姆斯告訴媒體CNBC，“這些模型的開放性是一把雙刃劍”。使用ChatGPT，盡管可以幫助記者在截稿之前更快地寫作，在記者難以發(fā)揮創(chuàng)造力時激發(fā)他們的靈感，確保他們的作品具有良好的風格，但應該始終與人相互配合地使用。記者將其作為一種工具，要認識到其局限性，對稿件中每一件事都必須仔細核查其準確性和來源。為保證新聞稿件的質(zhì)量，《洛杉磯時報》出版商、首席執(zhí)行官羅斯·萊文森稱，它不打算用人工智能取代記者，記者的人工勞動有獨特的優(yōu)勢。彭博社的艾麗西亞·迪亞茲和杰里·史密斯強調(diào)，他們使用ChatGPT只是“作為報道內(nèi)容的參考、視頻創(chuàng)作、新聞通訊來源、贊助內(nèi)容和營銷活動”，不能信賴它提供的全部內(nèi)容。據(jù)《華爾街日報》援引一位發(fā)言人的話稱，告訴員工，使用人工智能并不是為了“減少工作場所”，而是補充人性的某些不足，在新聞編輯室“仍然專注于人工新聞”。

四、ChatGPT對人類認知和道德的潛在風險

馬斯克在2022年11月評價ChatGPT是“可怕的好友”，并警告稱：“我們離危險的強大人工智能不遠了?！备鶕?jù)他的公開聲明，他擔心先進人工智能的潛在危險是對人類認知和道德的危害，比如人工智能可能被用來抄襲他人成果，破壞選舉或開發(fā)武器。ChatGPT是“愚蠢”的，但它不完全是白癡。你需要正確地使用它，它生成的內(nèi)容與客觀存在的事實或知識相差無幾，那是因為它已經(jīng)看到了很多這樣的資料，不過是在重新編寫。如果它告訴你一個特定的事實，那是因為它了解了事實背后的含義，而不是因為鸚鵡學舌般地重復以前聽到的話。美國波士頓薩福克大學法學教授安德魯·帕爾曼發(fā)表了一份長達14頁的模擬美國最高法院的簡報，ChatGPT根據(jù)他的提示在一小時內(nèi)創(chuàng)建了該份簡報。帕爾曼表示，對此他的印象極為深刻，但它復制的簡報“不完美，有的地方也有問題”。美國法律界一致認為，讓機器創(chuàng)建重要文件存在法律風險。14

首先，聊天機器人存在侵犯知識產(chǎn)權(quán)、制造誹謗性內(nèi)容和違反數(shù)據(jù)保護法的行為，因為使用他人的受版權(quán)保護的作品進行數(shù)據(jù)收集和選擇，需要事先獲得授權(quán)，除非該作品已超過版權(quán)保護期或因其他原因進入公共領(lǐng)域，否則就是違法。在許多行業(yè)中，一些基礎(chǔ)工作被ChatGPT取代，借助ChatGPT開展業(yè)務活動，不經(jīng)授權(quán)使用企業(yè)和商業(yè)秘密，被執(zhí)法部門認定為是不正當競爭行為，可能會承擔民事責任。如果您欺詐地使用ChatGPT獲取運營實體的名稱來騙取他人財產(chǎn)，就構(gòu)成了犯罪。在收集個人信息時，必須征得被收集人的知情和同意，但ChatGPT完全非法收集個人數(shù)據(jù)，侵犯了公民的權(quán)益和社會道德。

ChatGPT還會引發(fā)人們對剽竊的極大擔憂，在考試和寫作方面弄虛作假，騙取把關(guān)人的評價和結(jié)論。美國公立學校已經(jīng)禁止在其服務器上使用ChatGPT，以防止其被用于應付考試。美國沃頓商學院MBA教授克里斯蒂安·特威斯奇對ChatGPT目前的成熟程度發(fā)出警告：“為什么學校封鎖了它？”“有史以來它是最偉大的作弊工具，因為學生們使用它來完成家庭作業(yè)和撰寫論文?！泵缆?lián)社轉(zhuǎn)達一位校長對學生的喊話說：“不要使用ChatGPT或任何其他自動寫作工具來撰寫學校論文。這是作弊行為，我們不會容忍。如果你被發(fā)現(xiàn)使用ChatGPT或任何其他自動化寫作工具來編寫論文，將產(chǎn)生嚴重后果?！币豁椦芯匡@示，多達90%的學生知道該軟件，89%的學生使用該平臺完成作業(yè)，目前尚不清楚該工具在多大程度上為學生們服務。15

當人們嘗試讓ChatGPT寫一個故事，它就在網(wǎng)絡(luò)上廣泛收集類似的資料和情節(jié)，其中包括暴力、殺人和裝神弄鬼的恐怖細節(jié)。ChatGPT在編造故事時，完全是對寫作的嘲弄，甚至是對人們靈魂的攻擊。這一“魔杖”嚴重敗壞了社會道德，侵蝕了人類的精神純潔。ChatGPT所能做的就是為故事創(chuàng)造一個特定的情節(jié)，提交的往往是不可讀和不合語法的東西。有人使用ChatGPT之后，發(fā)現(xiàn)人工智能沒有給他們想要的東西，人工智能不可能有創(chuàng)造力。在這里，ChatGPT使用計算原則和方法就是輸入和輸出垃圾，完全是一種負算力的運用。比如讓ChatGPT給人看病，當病人把身體某個部位的疼痛告訴它，它就在網(wǎng)絡(luò)上搜索醫(yī)生們發(fā)上去的診斷和治療方案，同這種疼痛表征的數(shù)據(jù)相對照，最終依據(jù)癥狀相同的數(shù)據(jù)作出診斷結(jié)論。但每個患者在生理上千差萬別，造成疾病的病因完全不同，ChatGPT無法依據(jù)不同的個案作出正確的診斷。它的治病特長，只是把網(wǎng)絡(luò)上搜索到的某些癥狀和藥方整合后提出來，完全是一種猜測性的醫(yī)療方案。

這種負算力更多表現(xiàn)為淫穢情節(jié)的視頻。通過特定的算法在互聯(lián)網(wǎng)上不斷回答對這類主題的關(guān)注，廣泛搜羅這方面的數(shù)據(jù)讓美國人感到羞恥。在美國，網(wǎng)上淫穢材料的增長就像一種快速轉(zhuǎn)移的癌癥，ChatGPT似乎是這種癌癥的培養(yǎng)基。根據(jù)美國色情危害聯(lián)盟編制的數(shù)據(jù)，早在2012年美國就有420萬個色情網(wǎng)站、3.72億個色情網(wǎng)頁和25億封每日色情電子郵件。據(jù)估計，“色情收入超過了所有職業(yè)，超過了足球、棒球和籃球特許經(jīng)營權(quán)的總收入”，從那時起，色情制品的增長速度已經(jīng)加快。16ChatGPT上色情制品的危害層出不窮，散布“色情制品”“新麻醉劑”“色情故事”“紅燈區(qū)的幸遇”和“奸淫案件”等，每天都推出大量文本與視頻，讓許多道德低下的人著迷。盡管這款智能產(chǎn)品也安裝了控制毒害人類靈魂的軟件，但從奧巴馬時期起，成人色情行業(yè)在互聯(lián)網(wǎng)、電影業(yè)和印刷出版物方面獲得了實質(zhì)上的自由，ChatGPT很難防止把這類內(nèi)容編輯在程序里。拍攝以獸交和猥褻性行為為主題的電影，在郵件中發(fā)送淫穢DVD色情，對兒童性虐待的描述，都成為ChatGPT經(jīng)常出現(xiàn)的內(nèi)容。正如美國色情危害聯(lián)盟的盟友所說，“幾年來，司法部主要針對販賣最極端的色情內(nèi)容的小型企業(yè)，而不是針對色情內(nèi)容的大規(guī)模分銷商執(zhí)行聯(lián)邦反淫穢法律。因此，非法淫穢色情的內(nèi)容充斥著我們的國家，危害巨大”17。

用戶從ChatGPT文本中提取需要的資料，利用ChatGPT查找特定的信息，大量文字與信息是消極的——其中包括大量的負面信息，比如罵人的話，不適合瀏覽的充斥惡意動機的信息。在互聯(lián)網(wǎng)上可以看到許多消沉和不滿情緒，除非將其置于更大的背景中，否則ChatGPT將無從得知其意圖，簡單地復制這類內(nèi)容等于肆意地擴散精神病毒。OpenAI公司有責任確保ChatGPT的“邪惡”不會被用來獲取不道德的利益，應當不斷改進智能版本的識別能力。最新的ChatGPT版本拒絕回答任何關(guān)于制造炸彈和在考試中作弊的直接提示，證明其功能正在不斷改進。但這種大型語言模型難以控制，OpenAI公司還沒有提出一個全面解決危害人類的方案，但它的負算力總有一天會大大降低。

注 釋：

①Richard Dahl，Could You Get in Legal Trouble Using ChatGPT？ FindLaw，January 17，2023.

②Joe Fedewa，What Is ChatGPT，and Why Is It Important How-To Geek，F(xiàn)eb 8，2023.

③EduTaxTuber Team，What is ChatGPT：History of ChatGPT，January 20，2023.https：//t.co/sHDm57g3Kr.

④Admin， What is ChatGPT History，F(xiàn)eatures，Uses，Benefits，GeneratePress，December 26，2022.

⑤Maxwell Timothy，9 Questions About ChatGPT，Answered，TECHNOLOGY EXPLAINED，Jan 6，2023.

⑥Ravi Teja Knts，25 Things You Can Do With ChatGPT，Techwiser，F(xiàn)eb 14， 2023.

⑦Mathew Ingram，Is AI software a partner for journalism，or a disaster columbia journalism review，F(xiàn)eb 9，2023.

⑧Marcela Kunova，Eight tasks ChatGPT can do for journalists，31 Jan 2023，https：//www.journalism.co.uk/

⑨Jenna Burrell，Its time to challenge the narrative about ChatGPT and the future of journalism，Poynter Institute，F(xiàn)eb 9，2023.

⑩Marina Cemaj Hochstein，The benefits and pitfalls of ChatGPT for journalists，INTERNATIONAL JOURNALISTS' NETWORK， Feb 3， 2023.

11Jeffrey Lee Funk，Gary N. Smith，AI chatbots learned to write before they could learn to think，NEWS & POLITICS CULTURE， JAN 22，2023.

12Oliver Hall，ChatGPT：The future of journalism？ Cherwell Staff List，F(xiàn)eb 6，2023.

13參見《部分人被淘汰不可避免！但ChatGPT真能顛覆新聞業(yè)嗎？》，人民號，2023-02-09。

14Reuters：Will ChatGPT make lawyers obsolete Dec9，2022.

15Thomas Mackay， What is ChatGPT Why have schools blocked it，Associated Press，F(xiàn)eb 6，2023.

1617Noopar Kalpeshbhai Dalal，punishment for Publishing or Transmitting Obscene Material in Electronic Form，Jan 16，2021. https：// blog.ipleaders.in/

（作者為清華大學新聞與傳播學院教授）

編校：董方曉