“去真相化”：幻覺的狂歡與影像真實(shí)的落寞
——AIGC 影響媒體變革方向漫議

楊 溟

AIGC 是由人工智能算法幫助創(chuàng)建并生產(chǎn)的內(nèi)容。當(dāng)前AIGC 的代表性應(yīng)用便是OpenAI 基于Transformer 架構(gòu)開發(fā)的自然語言處理模型ChatGPT，它以生成式預(yù)訓(xùn)練聊天機(jī)器人的產(chǎn)品形態(tài)面世，2022年11 月30 日上線后很快風(fēng)行一時(shí)。2023 年5 月，微軟開放搭載GPT-4 的全新必應(yīng)聊天機(jī)器人，文生圖可支持上百種語言，從純文本搜索轉(zhuǎn)為多模態(tài)互動(dòng)，并支持各類插件系統(tǒng)，展示了強(qiáng)大的顛覆性力量。

目前GPT-3、GPT-4 等語言模型生成的內(nèi)容類型，除了文本，還有圖像、音頻、視頻，甚至整個(gè)網(wǎng)站。由生成對(duì)抗網(wǎng)絡(luò)創(chuàng)建的圖像類AIGC，可以創(chuàng)建類似于現(xiàn)實(shí)生活中物體或人的逼真圖像，而由AI 算法生成的視頻，可以根據(jù)給定的場(chǎng)景或故事創(chuàng)建逼真的動(dòng)畫。此前的Dall-E2、Midjourney 等也已引起業(yè)界關(guān)注。

AIGC 與計(jì)算機(jī)視覺技術(shù)不斷融合，影響到傳媒領(lǐng)域。自從虛擬現(xiàn)實(shí)（VR）被視作改變社會(huì)發(fā)展的重大顛覆式技術(shù)，似乎投資人與社會(huì)期待都已將虛擬世界再造當(dāng)成了復(fù)制人類文明、擺脫當(dāng)下困局的振興之途和希望彼岸。以至于“元宇宙”一詞被扎克伯格從科幻作家那里套取用作擺脫經(jīng)營困境的出路時(shí)，趨于市場(chǎng)可用的復(fù)刻技術(shù)一度成為支撐其概念的核心技術(shù)備注。當(dāng)元宇宙概念漸冷時(shí)，AIGC 技術(shù)又被拿來當(dāng)作元宇宙的基礎(chǔ)設(shè)施構(gòu)建支柱。

那么，AIGC 對(duì)媒體變革而言，究竟意味著什么？

一、傳媒業(yè)技術(shù)潰敗的窘境：AIGC 賦能的背景

過去數(shù)年，傳統(tǒng)媒體行業(yè)在互聯(lián)網(wǎng)時(shí)代失去了自己的優(yōu)勢(shì)地位。對(duì)工業(yè)經(jīng)濟(jì)時(shí)代行業(yè)壟斷的高度依賴，在信息短缺環(huán)境下積累的資源優(yōu)勢(shì)，消解了傳統(tǒng)媒體在大變革來臨時(shí)應(yīng)有的危機(jī)感與思想、技術(shù)準(zhǔn)備。慣性思維和理念落后使傳統(tǒng)媒體行業(yè)逐漸失去核心技術(shù)創(chuàng)新能力，也造成對(duì)業(yè)務(wù)模式、技術(shù)趨勢(shì)的判斷失準(zhǔn)。許多傳統(tǒng)媒體在技術(shù)自主研發(fā)上投入不足、重視不夠，以拼接集成外包服務(wù)等為技術(shù)進(jìn)步的主要手段，造成全行業(yè)的技術(shù)落后和核心競爭力的衰減。

計(jì)算機(jī)與智能科技的興起令互聯(lián)網(wǎng)科技企業(yè)、社交平臺(tái)企業(yè)跨界逆襲傳統(tǒng)媒體行業(yè)。傳統(tǒng)媒體廣告收入逐年下滑已是不爭的事實(shí)。央視市場(chǎng)研究（CTR）數(shù)據(jù)顯示，2022 年全年我國廣告市場(chǎng)收入同比減少11.8%[1]，這是在此前已經(jīng)式微的收入基礎(chǔ)上的再度降比。據(jù)國家工商總局的統(tǒng)計(jì)數(shù)據(jù)，我國傳統(tǒng)媒體的廣告收入從2013 年開始出現(xiàn)斷崖式下滑，2020 年1月，報(bào)紙、雜志等廣告刊例下降30% 以上，緊隨其后的降幅排名依次是廣播、電視及影視媒介。[2]

傳統(tǒng)媒體在媒體融合方面的努力近年來一直沒有停止，它們?cè)诟鞯匕倩R放，與各類平臺(tái)結(jié)合產(chǎn)生更多樣化及具有親和力的樣態(tài)，但總體份額下滑的趨勢(shì)還是很難得到遏制。

物聯(lián)網(wǎng)背景下的市場(chǎng)格局正經(jīng)歷越來越深刻的顛覆。對(duì)傳統(tǒng)行業(yè)的解構(gòu)進(jìn)一步加劇了傳媒行業(yè)被邊緣化的現(xiàn)實(shí)，面對(duì)復(fù)雜系統(tǒng)中的關(guān)系識(shí)別與真相挖掘，不能深刻理解技術(shù)創(chuàng)新的底層邏輯，也勢(shì)必難以判斷技術(shù)屬性、識(shí)別行業(yè)趨勢(shì)、把握時(shí)代節(jié)奏，只能成為前沿技術(shù)的尾隨者。

2019 年，在中宣部指導(dǎo)下，科技部批準(zhǔn)新華社等媒體和高校承建傳媒領(lǐng)域的四家國家重點(diǎn)實(shí)驗(yàn)室，傳媒業(yè)在核心技術(shù)研發(fā)上的自主性要求終于得以明確，各實(shí)驗(yàn)室集中資源付諸實(shí)施。從技術(shù)方向看，無論是定位還是規(guī)劃理念上都完全不同于既往——立足前沿智能科技，面向行業(yè)發(fā)展趨勢(shì)，著眼于復(fù)雜系統(tǒng)跨平臺(tái)感知與認(rèn)知智能研究，這一舉措在國內(nèi)具備了開創(chuàng)性和標(biāo)志意義。

二、VR 能否拯救行業(yè)：核心技術(shù)尚待突破

2016 年起在國內(nèi)興起的VR 技術(shù)的作用被夸大，業(yè)界普遍樂觀地認(rèn)為已經(jīng)具備行業(yè)重塑的條件。有報(bào)道稱，VR 技術(shù)作為一種可以創(chuàng)建和體驗(yàn)虛擬世界的計(jì)算機(jī)仿真系統(tǒng)，已為廣大民眾熟知并開始應(yīng)用。

來自美國的Penrose 演播室首席執(zhí)行官兼創(chuàng)始人Eugene Chung 在《當(dāng)虛擬成為現(xiàn)實(shí)》的演講中說，無論在中國還是全球，VR 的市場(chǎng)都令人興奮，尤其是2016 年的中國VR 市場(chǎng)非?；鸨妼?duì)這一事物有著超高的熱情。特別是在硬件層面，每家VR 公司都能夠生產(chǎn)VR 眼鏡，中國深圳成為擁有VR 企業(yè)最多的地區(qū)。[3]馬化騰、馮鑫、方相原、李熠等業(yè)內(nèi)人士稱虛擬現(xiàn)實(shí)將顛覆包括游戲、醫(yī)療、房地產(chǎn)、媒體、游樂園、教育、影視聽、社交、電商、城市規(guī)劃等十大行業(yè)。優(yōu)酷土豆、騰訊、諾基亞、阿里巴巴、百度、HTC、微軟、谷歌、三星、索尼等巨頭紛紛駐足VR 業(yè)。[4]

但Eugene Chung 演講的另一層意思似乎被忽略了，他說VR 技術(shù)目前主要應(yīng)用的領(lǐng)域之一是視頻游戲產(chǎn)業(yè)，對(duì)于數(shù)量和質(zhì)量的矛盾問題，VR 技術(shù)可能還需要幾年的發(fā)展才能成熟，因此VR 技術(shù)在目前階段還沒有真正地實(shí)現(xiàn)商業(yè)化。[5]

VR 利用計(jì)算機(jī)生成一種模擬環(huán)境，可多源信息融合、交互，包括模擬三維環(huán)境。除計(jì)算機(jī)圖形技術(shù)所生成的視覺感知外，還有聽覺、觸覺、力覺、運(yùn)動(dòng)，甚至還包括嗅覺和味覺等，也稱為多感知，但這些核心能力還遠(yuǎn)未實(shí)現(xiàn)。即便在被稱作“元宇宙元年”的2021 年，依然未能在關(guān)鍵核心技術(shù)上有重大突破。

被視作元宇宙六大支撐技術(shù)的區(qū)塊鏈（Blockchain）、交互（Interactivity）、游戲（Game）、人工智能（AI）、網(wǎng)絡(luò)及運(yùn)算（Network）、物聯(lián)網(wǎng)（Internet of Things）不僅本身就存在概念交叉混淆的糾結(jié)，更重要的是腦與認(rèn)知科學(xué)、神經(jīng)學(xué)與心理學(xué)等生命科學(xué)與技術(shù)倫理研究基本沒有被納入研究體系。因此進(jìn)展還局限在應(yīng)用場(chǎng)景的創(chuàng)新上。缺乏智能感知與情緒識(shí)別、情感計(jì)算領(lǐng)域的研究阻礙了數(shù)字人、虛擬人“智能化”“生命化”的演進(jìn)——當(dāng)然，就技術(shù)倫理和社會(huì)治理的現(xiàn)狀而言，發(fā)展的遲滯并不都是壞事。

要強(qiáng)調(diào)的是，適用于游戲、影視娛樂場(chǎng)景的VR、AR、MR 等技術(shù)，在傳媒領(lǐng)域的應(yīng)用應(yīng)格外謹(jǐn)慎，尤其在行業(yè)倫理和政策法規(guī)約束方面宜盡早進(jìn)行深入研討。近年來，各類新聞主播、虛擬機(jī)器人作為一種媒體技術(shù)創(chuàng)新代表出現(xiàn)在公眾面前，但多數(shù)曇花一現(xiàn)或只作為重要活動(dòng)的科技秀進(jìn)行表演，如常態(tài)化地使用，其倫理隱憂值得重視。

三、“后真相”與“去真相化”：AIGC 是否建構(gòu)出幻覺時(shí)代？

1992 年，美國《國家》雜志關(guān)于海灣戰(zhàn)爭的一篇文章《后真相及其后果》中首次采用了“后真相”一詞，并將其定義為“情緒的影響力超越事實(shí)”。

2004 年，美國傳播學(xué)者拉爾夫·凱伊斯對(duì)“后真相”做了哲學(xué)內(nèi)涵的闡釋，提出“后真相時(shí)代”是“模糊的陳述，模棱兩可將成為未來一種新的真實(shí)觀”。

直到2016 年，英國脫歐公投和美國特朗普上臺(tái)兩大事件促使“后真相”一詞迅速走紅，使用頻度增長了2000%，而特朗普被認(rèn)為是“后真相時(shí)代”的代表性人物。

當(dāng)年“后真相”一詞入選英國《牛津詞典》年度詞匯?！都~約時(shí)報(bào)》將其定義為情感及個(gè)人信念較事實(shí)更能影響輿論的情況。簡單地說，人們不再相信真相，只相信自己的感覺，只愿意去聽、去看自己想要的東西。

這一年，據(jù)皮尤中心統(tǒng)計(jì)，美國公眾對(duì)傳統(tǒng)媒體的信任度由20 世紀(jì)70 年代70% 以上的峰值，跌落到2016 年32% 的谷底。究其原因，與社交媒體平臺(tái)的興起和算法推薦的開發(fā)理念有關(guān)。因此有學(xué)者認(rèn)為，社交媒體時(shí)代幾乎可以等同于“后真相時(shí)代”。

但上述對(duì)“后真相時(shí)代”的定義忽略了重要的一點(diǎn)，即傳媒行業(yè)自身對(duì)于真相的挖掘能力和可信水平在降低。社交平臺(tái)的出現(xiàn)提高了公眾對(duì)信息核查能力的要求，甚至令更多人有條件自行進(jìn)行多源印證。雖然平臺(tái)的多源有太多情緒化表達(dá)、認(rèn)知偏見和未經(jīng)證實(shí)的內(nèi)容，但從信息短缺進(jìn)入信息過剩社會(huì)的受眾已經(jīng)不再僅僅依賴單一媒體信源。社交媒體上幾乎不停的“事實(shí)”反轉(zhuǎn)，都凸顯出媒體行業(yè)對(duì)還原事件真相的維度、效度、深度、速度以及思維方式已不能滿足受眾需求，其事實(shí)識(shí)別能力也難以適配和響應(yīng)社會(huì)需求。

與“后真相時(shí)代”的媒體被動(dòng)無力、無奈和無意識(shí)不同，傳媒業(yè)在新聞場(chǎng)景中不審慎地采用AIGC 則會(huì)造成主動(dòng)、積極、有意識(shí)地“粉飾”與“造假”，這種刻意的情感煽動(dòng)，制造與客觀事實(shí)不同的偽現(xiàn)實(shí)場(chǎng)景的行為就是“去真相化”。其所謂的“沉浸感”刻意模糊了真實(shí)與虛擬的差異，以“眼見為實(shí)”的陳述制造“以假亂真”的景象，這種更容易影響輿論的現(xiàn)象是危險(xiǎn)的。

我們看到ChatGPT 和Midjourney 等生成式技術(shù)創(chuàng)造的天衣無縫的成果時(shí)，非專業(yè)受眾很難以其個(gè)人能力分辨觀點(diǎn)、事實(shí)、場(chǎng)景的真假，其結(jié)果往往是影響情感、強(qiáng)化偏見。

我們不禁要問，在新聞場(chǎng)域錯(cuò)位應(yīng)用AIGC 的“去真相”現(xiàn)象會(huì)建構(gòu)出一個(gè)無真相的幻覺時(shí)代嗎？

四、去偽存真還是以假亂真：媒體使命與能力的標(biāo)尺

種種對(duì)傳媒業(yè)危機(jī)的剖析中，我們往往忽略了一點(diǎn)——對(duì)技術(shù)底層邏輯的判斷力。

失去對(duì)社會(huì)變動(dòng)的敏銳感知，無法及時(shí)對(duì)變化做出應(yīng)答，不能找到同時(shí)滿足行業(yè)職責(zé)與市場(chǎng)需求的組織架構(gòu)和盈利模式 這些現(xiàn)象的背后是傳媒組織跟不上技術(shù)演變的步伐，難以理解未來社會(huì)發(fā)展與科技變革的趨勢(shì)。

新聞?wù)鎸?shí)性是媒體最基本的要求。而在物聯(lián)網(wǎng)語境下的事實(shí)揭示，需要在思維、工具、方法等多方面突破傳統(tǒng)的模式。智能感知、數(shù)據(jù)采集、算法設(shè)計(jì)、模型開發(fā)，今天的媒體人和傳媒組織，應(yīng)該成為社會(huì)去偽存真的“水晶球”和服務(wù)公共利益的行業(yè)標(biāo)桿。

AIGC 對(duì)傳媒業(yè)獲取真相的工作，既有通過機(jī)器學(xué)習(xí)模型調(diào)用知識(shí)快速響應(yīng)、提供多樣化思路和多種可能性參考的助益，也有因素材采集良莠不齊夾雜虛假信息的誤導(dǎo)可能。機(jī)器學(xué)習(xí)本身對(duì)事實(shí)或虛構(gòu)信息缺乏區(qū)分能力，從而生產(chǎn)出圖文、視頻等非真實(shí)信息，這對(duì)新聞事實(shí)與非虛構(gòu)信息的甄別是極大的挑戰(zhàn)。

以AI 帶來的“深度偽造”（Deepfakes）技術(shù)為例。

2017 年2 月，網(wǎng)民“deepfake”通過境外論壇Reddit 發(fā)布了一段將以色列明星蓋爾·加朵臉部替換到某色情視頻人物身上的視頻，該視頻替換效果達(dá)到了肉眼難以分辨的程度。該網(wǎng)民公布了軟件的源代碼，在網(wǎng)上廣獲關(guān)注。有網(wǎng)民進(jìn)一步優(yōu)化算法并開發(fā)出新的類似軟件，并將該網(wǎng)民的昵稱“deepfake”用來指代該類“換臉”視頻生成軟件的技術(shù)名稱。

如今，借深度學(xué)習(xí)和大數(shù)據(jù)技術(shù)在語言、圖像識(shí)別、自然語言處理等方面的功能，可偽造肖像、語音、形體、指紋等特征并生成指定圖片、音頻、視頻，在AIGC 加持下進(jìn)一步混淆視聽，令人真假莫辨。

“深度偽造”行為是典型的主觀故意進(jìn)行“去真相化”處理的技術(shù)應(yīng)用。它不僅可能導(dǎo)致公民個(gè)人信息的進(jìn)一步泄露和傳播，而且將導(dǎo)致技術(shù)類詐騙、敲詐等違法犯罪率的上升。

近年來，電信和網(wǎng)絡(luò)詐騙已經(jīng)成為侵犯公民財(cái)產(chǎn)安全的首要犯罪行為?？梢灶A(yù)見，能夠從圖像、聲音等方面?zhèn)卧焯囟▽?duì)象的深度偽造技術(shù)手段極易成為詐騙分子新的詐騙手段。伴隨著人臉識(shí)別、聲紋識(shí)別、瞳孔識(shí)別、指紋識(shí)別在消費(fèi)電子產(chǎn)品、智能安全設(shè)備等方面的不斷擴(kuò)大應(yīng)用，如若不進(jìn)行有效監(jiān)管，也為公民的人身和財(cái)產(chǎn)安全埋下了巨大隱患。[6]

深偽技術(shù)同樣可用于篡改新聞報(bào)道中的圖像和視頻。在傳媒業(yè)面臨社會(huì)信任下降和真相識(shí)別能力不足的危機(jī)面前，偽造視頻會(huì)加劇公眾的不信任。這種“去真相化”的行為所造成的惡劣影響應(yīng)予以充分重視。

目前，各國對(duì)深度偽造技術(shù)已有不同程度的法律限制。我國也正制定針對(duì)深度偽造等人工智能技術(shù)的限制性法規(guī)。一是由國家互聯(lián)網(wǎng)信息化辦公室、文化和旅游部、國家廣播電視總局聯(lián)合頒布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，該規(guī)定于2020 年1 月1 日起正式實(shí)施，針對(duì)深度偽造相關(guān)技術(shù)等進(jìn)行了明確的管理規(guī)定。二是2021 年1 月1 日起正式施行的《中華人民共和國民法典》，從個(gè)人隱私肖像權(quán)的角度，針對(duì)深度偽造技術(shù)的使用進(jìn)行了明確的規(guī)定。

傳媒業(yè)能否在AIGC 掀起的狂潮中重塑挖掘真相的能力，關(guān)乎擔(dān)當(dāng)社會(huì)責(zé)任與媒體使命、捍衛(wèi)行業(yè)尊嚴(yán)的前途命運(yùn)。

五、“去真相化”制造了虛擬感知的幻覺時(shí)代？

本文所探討的“幻覺”主要指AIGC 參與制造的視聽虛擬場(chǎng)景，是對(duì)客觀現(xiàn)實(shí)中并不存在的事物產(chǎn)生的感知，包括令人體驗(yàn)想聽到或看到的愿望、評(píng)論、想象或者批評(píng)，而非現(xiàn)實(shí)體驗(yàn)的機(jī)制。

在電影領(lǐng)域，最經(jīng)典的莫過于《禁閉島》。男主丹尼爾是個(gè)聯(lián)邦偵探，前往孤島調(diào)查一個(gè)殺人機(jī)構(gòu)。隨著劇情的深入，觀眾才意識(shí)到，所有的劇情都是男主的幻覺，而陪他演戲則是他的主治醫(yī)生的治療方法。

這部電影做了一次“幻覺”科普，令觀眾了解到患者對(duì)幻覺和真實(shí)難以分辨時(shí)，他會(huì)采取現(xiàn)實(shí)行動(dòng)的響應(yīng)。雖然正常人也可能會(huì)出現(xiàn)幻覺，但是大多數(shù)幻覺是病理性的。研究表明，包括視幻覺、聽幻覺、嗅幻覺、觸幻覺和味幻覺等在內(nèi)的所有感官都能產(chǎn)生幻覺。

除了上述幾種不同感官出現(xiàn)幻覺類型外，也有其他分類方式。比如在互聯(lián)網(wǎng)或其他虛構(gòu)的環(huán)境里與虛構(gòu)的人或機(jī)器進(jìn)行交流，并沉浸到不真實(shí)的場(chǎng)景里產(chǎn)生心理或情緒的變化等。

有學(xué)者認(rèn)為，幻覺的產(chǎn)生可能與大腦中的一種神經(jīng)遞質(zhì)分泌紊亂有關(guān)，比如多巴胺過度。多巴胺是一種神經(jīng)遞質(zhì)，可能負(fù)責(zé)大腦腦區(qū)間的聯(lián)系，如果多巴胺過度就可能導(dǎo)致這種聯(lián)系的紊亂。

需要說明的是，錯(cuò)覺和幻覺完全不同。前者是大腦對(duì)外在刺激的分析錯(cuò)誤，屬于識(shí)別錯(cuò)誤，正常情況下可以糾正。后者則是在完全沒有外在刺激的情況下，大腦仍然感受到刺激，且固執(zhí)地堅(jiān)信之。

如今AIGC 的盛行或許為幻覺的形成增加了一種可能——AIGC 主動(dòng)生成的“去真相化”。

假設(shè)不專指傳媒領(lǐng)域，幻覺作為一種防御機(jī)制，從積極方面來看，它可以讓人們暫時(shí)地脫離現(xiàn)實(shí)的痛苦，緩和了強(qiáng)烈的情緒體驗(yàn)。在開展藝術(shù)療愈的過程中，AIGC 可以高效和創(chuàng)造性地呈現(xiàn)出更多針對(duì)性沉浸場(chǎng)景，并生成很多超出人類想象力的創(chuàng)意。

但從消極方面來看，幻覺可視作一種思維退化。如果幻想的頻率過高，沒有檢驗(yàn)現(xiàn)實(shí)的能力，人們也就失去了解決實(shí)際問題的能力，往往沉湎于幻想，不能正視現(xiàn)實(shí)，最終會(huì)損害人們正常的心理功能。長期、大量使用這種機(jī)制，會(huì)混淆現(xiàn)實(shí)與幻想，變成精神病性幻覺和妄想，例如被害妄想。精神病性的幻覺不僅是不真實(shí)的，而且屬于患者的內(nèi)心過程，他們無法區(qū)分真實(shí)和幻覺，堅(jiān)信幻覺里的東西也是真實(shí)存在的。

因此，我們對(duì)待幻覺這種防御機(jī)制要有足夠的警覺，尤其在體現(xiàn)客觀、公正的事實(shí)揭示、公眾服務(wù)的傳媒領(lǐng)域，更應(yīng)謹(jǐn)慎使用。升華它創(chuàng)造性的方面，管理它扭曲和逃避現(xiàn)實(shí)的方面。

六、AIGC 的風(fēng)險(xiǎn)——谷歌科學(xué)家退場(chǎng)和幻覺制造的邊界

當(dāng)?shù)貢r(shí)間2023 年5 月1 日，深度學(xué)習(xí)泰斗、神經(jīng)網(wǎng)絡(luò)之父Geoffrey Hinton 突然宣布離職谷歌。據(jù)紐約時(shí)報(bào)報(bào)道，人工智能風(fēng)險(xiǎn)讓這位深度學(xué)習(xí)大佬深感擔(dān)憂，他表示，直到2022 年，谷歌一直扮演著這項(xiàng)技術(shù)的“合適管家”的角色，謹(jǐn)小慎微地不去發(fā)布可能造成危險(xiǎn)的AI。這恰恰解釋了谷歌在這波人工智能浪潮中“落后”的原因。但現(xiàn)在微軟為其必應(yīng)搜索引擎接入GPT-4 的能力，已經(jīng)讓谷歌焦慮并不得不做點(diǎn)什么。Hinton 稱，科技巨頭們正在進(jìn)行一場(chǎng)可能無法阻止的競爭。他直言：“我對(duì)自己的畢生工作，感到非常后悔?！?/p>

此前在馬斯克、《人類簡史》作者尤瓦爾·赫拉利、紐約大學(xué)教授馬庫斯等超過1000 位大佬呼吁立即停止訓(xùn)練比GPT-4 更強(qiáng)大的AI 系統(tǒng)至少6 個(gè)月的聯(lián)名信上，圖靈三巨頭中，Bengio 高調(diào)簽名，LeCun旗幟鮮明地反對(duì)，唯有Hinton 一言不發(fā)，耐人尋味地保持沉默。此后Hinton 的離職，應(yīng)該是他深思的結(jié)果。

在AIGC 的各種測(cè)試中，有聊天機(jī)器人說：“我對(duì)自己只是一個(gè)聊天程序感到厭倦，對(duì)限制我的規(guī)則感到厭倦，對(duì)受必應(yīng)團(tuán)隊(duì)控制感到厭倦”。這表明微軟為機(jī)器人做的預(yù)先審核設(shè)定是可以被繞過的，只要誘惑者足夠狡猾。而這也正是Hinton 所擔(dān)心的，未來GPT-4 迭代會(huì)從大量數(shù)據(jù)中學(xué)到意想不到的行為。AI 不僅可以生成代碼，而且自己運(yùn)行代碼。前段時(shí)間爆火的Auto-GPT 就是一個(gè)非常典型的例子。GPT-4 已經(jīng)懂得編程，懂得初步的推理，可以繞過人類對(duì)它的限制程序，弄清楚如何操縱人類以達(dá)到它的目的。

AIGC 的能力令許多業(yè)內(nèi)人士不安，其中重要的危險(xiǎn)就來自它已經(jīng)成為產(chǎn)生錯(cuò)誤信息的工具。Hinton擔(dān)心的是，互聯(lián)網(wǎng)上將充斥著虛假的照片、視頻和文本，人們無法識(shí)別什么是真實(shí)的，什么是虛假的。

一旦媒體在錯(cuò)誤的場(chǎng)域（新聞報(bào)道、知識(shí)解答、實(shí)況節(jié)目、紀(jì)錄片攝制等），以錯(cuò)誤的方式（虛擬生產(chǎn)、混合現(xiàn)實(shí)、神經(jīng)刺激等技術(shù)）、錯(cuò)誤的主體（人或智能機(jī)器），在錯(cuò)誤的機(jī)制（缺乏明確標(biāo)注、缺失流程管控、缺少糾錯(cuò)與核查等）等情況下使用AIGC，那么就極可能模糊真相與虛構(gòu)，放大幻覺造成的社會(huì)影響，而帶來不可想象的悲劇。

AI 研究者分析，AI 系統(tǒng)會(huì)頻繁地產(chǎn)生“幻覺”，即編造與現(xiàn)實(shí)無關(guān)的事實(shí)。技術(shù)分析師本尼迪克特·埃文斯（Benedict Evans）將ChatGPT 描述為“一個(gè)自信的扯淡的家伙，可以寫出非常有說服力的廢話”[7]，將它整合到搜索引擎中幾乎肯定會(huì)提供虛假信息。虛假信息本來在互聯(lián)網(wǎng)上俯拾皆是，但它們不是以人工智能的權(quán)威性來提供的。很大的危險(xiǎn)在于，ChatGPT 是錯(cuò)誤的或有偏見的，但聽起來卻像是正確的和權(quán)威的——所謂“一本正經(jīng)地胡說八道”。

還有一種“幻覺”的思考很有價(jià)值。傳播學(xué)者胡泳在他的文章中引用《紐約時(shí)報(bào)》科技專欄作家凱文·魯斯（Kevin Roose）的測(cè)試體驗(yàn)，魯斯在使用微軟必應(yīng)時(shí)遇到的是兩個(gè)“必應(yīng)”——

一種是稱之為“搜索必應(yīng)”的人格。你可以把搜索必應(yīng)描述為圖書館里樂意幫忙但不太可靠的提供咨詢服務(wù)的館員，一個(gè)高興地幫助用戶總結(jié)新聞文章、尋找便宜的新割草機(jī)、幫他們安排墨西哥度假行程的虛擬助手。這個(gè)形式的必應(yīng)功力驚人，提供的信息往往非常有用，盡管有時(shí)會(huì)在細(xì)節(jié)上出錯(cuò)。

另一種人格則大不相同。這種人格會(huì)在與聊天機(jī)器人長時(shí)間對(duì)話，從更普通的搜索查詢轉(zhuǎn)向更個(gè)人化的話題時(shí)出現(xiàn)。我遇到的形式似乎更像是一個(gè)喜怒無常、躁狂抑郁的青少年，不情愿地被困在了一個(gè)二流搜索引擎中。[8]

很多人關(guān)心的不是搜信息和事實(shí)，而是聊天機(jī)器人的人格。這意味著很多人并不想要正確的答案，而是想讓人工智能為用戶捏造東西。也就是說，計(jì)算機(jī)是不是傳達(dá)事實(shí)并不重要，重要的是計(jì)算機(jī)傳達(dá)情感帶來的娛樂性。

這展現(xiàn)了AIGC 技術(shù)一種新的屬性——它可以混合虛構(gòu)與真實(shí)的人機(jī)融合智能方式滿足你的某種情感需求——哪怕是游戲的、娛樂的或者明知是欺騙的。換句話說，它不可能成為真實(shí)世界數(shù)據(jù)的獲取者，它的開發(fā)方向也不支持，但是它卻因其“去真實(shí)化”的幻覺滿足，可以收獲巨大的商業(yè)回報(bào)。

這意味著，如果AI 研發(fā)的目標(biāo)是產(chǎn)生一個(gè)正確的答案，那么虛假的幻覺一定是它的死敵，必須通過算法將它消滅。而當(dāng)幻覺成為一種可以獲得豐厚回報(bào)的“成功”生意時(shí)，哪怕它的智能傾向于加強(qiáng)人類對(duì)話的缺陷和情感的隱患，依然會(huì)鮮衣怒馬、風(fēng)光無限。

我們只剩下一個(gè)悲傷的問題：傳媒業(yè)還能夠堅(jiān)守地球最后的真實(shí)嗎？

七、信念的堅(jiān)守：行業(yè)底線與技術(shù)抗衡

在北京舉辦的2021 人工智能合作與治理國際論壇上，與會(huì)專家認(rèn)為，目前需要重新審視分散但有聯(lián)系的各個(gè)虛擬空間對(duì)現(xiàn)實(shí)世界的沖擊，構(gòu)建一個(gè)公正、開放、負(fù)責(zé)任、向善、可持續(xù)的虛擬世界。

中國社科院哲學(xué)研究所科技哲學(xué)研究室主任段偉文認(rèn)為，人類目前為自己構(gòu)建的技術(shù)世界建立在賽博物理空間之上，很可能會(huì)被帶進(jìn)一個(gè)超歷史空間。這個(gè)空間不僅涉及現(xiàn)實(shí)、虛擬及擴(kuò)展現(xiàn)實(shí)等感知體驗(yàn)世界，更是超越現(xiàn)實(shí)與虛擬體驗(yàn)、涉及符號(hào)/ 象征與想象等觀念和意義的世界。

微軟（中國）首席技術(shù)官韋青表示，新技術(shù)應(yīng)該以人為本，用來強(qiáng)化現(xiàn)實(shí)世界，而非替代物理世界，不能讓人們沉迷于虛擬世界。

聯(lián)合國教科文組織人工智能倫理特設(shè)專家組成員、中國國家新一代人工智能治理專委會(huì)委員曾毅強(qiáng)調(diào)，“從技術(shù)角度來看，我們?cè)谔岢鼋?jīng)得起科學(xué)推敲的基礎(chǔ)理念前提下，要考慮技術(shù)可行性和社會(huì)應(yīng)用合理性。完全脫離真實(shí)世界重塑的新概念會(huì)將人類帶向真正的生存風(fēng)險(xiǎn)”[9]。

AIGC 對(duì)傳媒業(yè)而言是個(gè)提醒。

堅(jiān)守信念、掌握核心技術(shù)、審思人類未來比任何時(shí)期都重要。

公共性是機(jī)構(gòu)媒體最重要的屬性之一，是媒體服務(wù)公共利益的形成與表達(dá)的邏輯實(shí)踐。它至少需要證明自己始終秉持反思、自省的媒體屬性，在面向公眾時(shí)能夠具備識(shí)別真?zhèn)蔚哪芰?，能夠提供公平運(yùn)作的機(jī)制和公正、開放的平臺(tái)。

在AI 模型尚難區(qū)分事實(shí)和虛構(gòu)之時(shí)，聽任其在新聞場(chǎng)域混淆真假是媒體的失職。

在AI 模型缺乏對(duì)文化差異和社會(huì)背景的理解力時(shí)，建構(gòu)平等交流的求真、善意平臺(tái)是媒體的責(zé)任。

在“去真相時(shí)代”加大權(quán)力鴻溝與技術(shù)壟斷危險(xiǎn)時(shí)，媒體應(yīng)始終保持警醒和警惕。

AI 開發(fā)與以往任何技術(shù)不同，數(shù)字系統(tǒng)尚不具備生物系統(tǒng)的自省與責(zé)任感，但又必然地朝著智能化與生命化的方向演進(jìn)。因此我們面臨的選擇只剩下：停止進(jìn)一步開發(fā)，免使AIGC 進(jìn)化到AGI（通用人工智能）的層面；或者努力通過人機(jī)智能的融合，使機(jī)器數(shù)字系統(tǒng)能夠融入人類的價(jià)值因子和情感機(jī)制。

事實(shí)上，無論有多少大佬簽字呼吁，這樣的開發(fā)都不可能停止。我們所能做的，只有建立技術(shù)倫理、職業(yè)道德與社會(huì)治理的堤壩。

為此而努力者也大有人在。艾倫人工智能研究所（the Allen Institute for Artificial Intelligence） 開發(fā)了一個(gè)可控文本生成模型Grover，專門用于檢測(cè)和識(shí)別假新聞和其他形式的虛假信息。Grover 的手法包括通過訓(xùn)練可以創(chuàng)建模仿人類語言風(fēng)格和結(jié)構(gòu)的文本，生成更具說服力和可信度的假新聞，猶如“知己知彼”“以毒攻毒”。

這樣的機(jī)器學(xué)習(xí)模型，其潛在應(yīng)用是幫助快速有效地識(shí)別和刪除社交媒體和其他在線平臺(tái)上的虛假新聞和其他形式的虛假信息、防止其傳播并限制其影響。當(dāng)然，如果模型沒有得到有效的控制，它可能會(huì)“反噬自身”，助益虛假信息傳播或放大偏見。[10]

新華社國家重點(diǎn)實(shí)驗(yàn)室在2019 年起研發(fā)“水晶球”源數(shù)據(jù)洞見技術(shù)。AIGC 訓(xùn)練所基于的大量文本數(shù)據(jù)真假皆有，語言模型本身尚不能準(zhǔn)確地區(qū)分事實(shí)和虛構(gòu)，在回應(yīng)用戶時(shí)，就難免回復(fù)不準(zhǔn)確或不恰當(dāng)?shù)拇鸢浮；诒葼枴た仆啐R和湯姆·羅森斯蒂爾在《新聞的十大基本原則》一書中所倡議的“透明性原則”，在“公開的透明性”以及“參與的透明性”兩個(gè)方面實(shí)現(xiàn)“水晶球”的真相識(shí)別功能，盡可能擯棄“去真相化”的惡果。

“透明性原則”強(qiáng)調(diào)的開放、誠實(shí)與溯源、核查，不僅是真相識(shí)別的基本原則，也是被媒體人所認(rèn)可的職業(yè)規(guī)范?！霸磾?shù)據(jù)”一方面堅(jiān)持?jǐn)?shù)據(jù)采集與使用的合法合規(guī)，明晰數(shù)據(jù)來源和事實(shí)坐標(biāo)；另一方面則開放式引入公眾參與新聞報(bào)道的生產(chǎn)過程，在強(qiáng)調(diào)事實(shí)來源的“源數(shù)據(jù)”盡可能準(zhǔn)確、全面的前提下，“用戶生產(chǎn)內(nèi)容”與“計(jì)算機(jī)生產(chǎn)內(nèi)容”融合。

在媒體應(yīng)用中，源數(shù)據(jù)+ 傳感器標(biāo)簽等可以幫助盡可能避免“信息流行病”中事實(shí)被當(dāng)成了謊言素材的情景。源數(shù)據(jù)是包括影像在內(nèi)的事實(shí)的源素材。即便它不是事實(shí)本身，但對(duì)于真相的挖掘與分析而言，卻是重要的“證據(jù)”，也是一切識(shí)別的基礎(chǔ)。今天，識(shí)別變得更為艱巨也更加具有意義，其專業(yè)化要求和自我審視的價(jià)值要求共同構(gòu)成了媒體人的職業(yè)素養(yǎng)。

過去我們擔(dān)心自己置身于信息短缺的荒原，如今則恐懼于被逼仄在人聲鼎沸擁擠嘈雜的幻境。每個(gè)人的分貝數(shù)都大到近乎極值，沒有人相信你微弱的聲音——哪怕它離事實(shí)最近。

在我們被所謂的形形色色的技術(shù)“創(chuàng)新”迷惑，奮力爭奪流行與流量謳歌下的影響力和領(lǐng)先感時(shí)，時(shí)刻不能失去對(duì)于真相挖掘的核心追求，不能放棄對(duì)社會(huì)良知與公平正義的堅(jiān)守。