智媒時代深度合成技術(shù)的實(shí)踐與思考

內(nèi)容提要 智媒時代，涌現(xiàn)出人工智能與數(shù)據(jù)分析技術(shù)，給數(shù)字內(nèi)容領(lǐng)域帶來新一輪的重塑。“深度合成技術(shù)”是人工智能發(fā)展到一定階段的產(chǎn)物，包括圖像合成、語音合成、視頻生成以及數(shù)字虛擬人等應(yīng)用形式，對于當(dāng)今社會重要性日益彰顯；另一方面，技術(shù)應(yīng)用的社會意義及影響則需要以理性的態(tài)度觀察與思考。文章分析該技術(shù)潛在風(fēng)險與倫理挑戰(zhàn)，探討當(dāng)今時代應(yīng)如何理性對待深度合成技術(shù)。

縱觀媒介發(fā)展史，沒有一個時代比今天更需要科技賦能。從印刷媒介到電子媒介，從大眾傳播到算法推薦，從社交媒體到智能媒體，從人與人的連接到人與物的連接進(jìn)而到萬物互聯(lián)，可知“技術(shù)為先導(dǎo)、內(nèi)容為基礎(chǔ)、連接為本質(zhì)的‘智媒時代’已經(jīng)到來”。[1]人工智能被認(rèn)為是“關(guān)于知識的學(xué)科”，現(xiàn)代人工智能起源于1956年的達(dá)特茅斯會議，該會議確立了人工智能作為一個獨(dú)立研究學(xué)科的地位。人工智能技術(shù)的目標(biāo)是了解人類智能的本質(zhì)，以模擬、延伸和擴(kuò)展人的智能。經(jīng)歷過以深度學(xué)習(xí)模型的雛形貝爾曼方程為主的人工智能1.0時代和以多層神經(jīng)網(wǎng)絡(luò)與BP反向算法為主的人工智能2.0時代，人工智能正在掀起第三次浪潮，即人工智能3.0時代。以2006年深度學(xué)習(xí)模型的提出為標(biāo)志，產(chǎn)生了大數(shù)據(jù)、傳感器、深度合成等一系列數(shù)據(jù)與知識交叉融合、相互作用的技術(shù)新秀。

當(dāng)前，人工智能合成內(nèi)容（AIgenerated Media）正在快速興起，利用AI算法生產(chǎn)、修改數(shù)據(jù)和信息內(nèi)容，從而改變圖像、語音、視頻的原本內(nèi)容與畫面。尤其是隨著生成對抗網(wǎng)絡(luò)（GAN）這一算法的誕生，AI生成內(nèi)容中的“深度合成”（deep synthesis）技術(shù)可以實(shí)現(xiàn)換臉、人臉合成、語音合成、視頻生成甚至是數(shù)字虛擬人等諸多功能，備受社會廣泛關(guān)注。2017年是深度合成技術(shù)進(jìn)入公眾視野的第一年，直至現(xiàn)在，依托深度合成技術(shù)的諸多商業(yè)化應(yīng)用問世，其技術(shù)潛力迅速顯現(xiàn)。

一、深度合成技術(shù)的實(shí)踐應(yīng)用

“深度合成”（deep synthesis）作為一種AI合成內(nèi)容（AI-generated Media）技術(shù)，最早引發(fā)關(guān)注是在2017年。當(dāng)時，一位名為“deepfakes”的用戶在美國新聞網(wǎng)站Reddit上發(fā)布了經(jīng)過數(shù)字化篡改的色情視頻，即視頻中的成人演員的臉被替換成了明星的臉。此后，該網(wǎng)站便成為分享虛假色情視頻的主要陣地。新聞媒體也開始用“deepfake”一詞來描述一些基于深度合成技術(shù)制作而成的內(nèi)容。盡管后來該網(wǎng)站因?yàn)槌涑庵罅亢铣傻纳橐曨l而被關(guān)閉，但其背后的智能技術(shù)卻引起技術(shù)社區(qū)的廣泛興趣，相關(guān)的開源方法和工具性應(yīng)用不斷涌現(xiàn)，例如Facewap、FaceAPP、ZAO等等。而一些涉及奧巴馬、特朗普等政治人物的偽造視頻，更是將深度合成技術(shù)推到了社會輿論的風(fēng)口浪尖，引起歐美國家政府機(jī)構(gòu)的廣泛關(guān)注。目前，深度合成技術(shù)最常用的有人臉替換、人臉合成、語音合成以及人臉再現(xiàn)等，用來進(jìn)行圖片、語音、視頻的合成以及數(shù)字虛擬人的創(chuàng)建。

（一）圖片合成

圖片合成最常涉及兩種功能，即人臉替換技術(shù)與人臉合成技術(shù)。人臉替換（face replacement），是指將原人物臉部圖像 “縫合”到目標(biāo)人物臉上，從而覆蓋目標(biāo)人物的面部。人臉合成（face generation），是指利用深度合成技術(shù)創(chuàng)建一個全新的人臉圖像。這些合成的人臉圖像逼真度很高，甚至可以與真實(shí)的人臉圖像相媲美，因此，有時作為商業(yè)用途使用，如用戶頭像、廣告宣傳等。

在新聞傳播領(lǐng)域，人臉識別技術(shù)多被用來制作創(chuàng)意性的H5新聞作品進(jìn)行傳播。以《人民日報》為例，在2019年國慶期間相繼推出 “時代青年秀”（圖1）、“我的年代照”以及“愛國style”等廣泛流傳的新聞作品。其支撐正是人臉識別、人臉替換等合成技術(shù)。

□圖1 人民日報×美圖秀秀：時代青年秀 （圖片來源：H5案例分享網(wǎng)）

□圖2 將現(xiàn)代人類照片變成文藝復(fù)興時期的畫作（圖片來源：搜狐網(wǎng)）

與此同時，出現(xiàn)了諸多圖片合成相關(guān)的社交應(yīng)用。包括FaceAPP（AI人臉編輯器）、Snapchat、Face2face、ZAO等圖像合成應(yīng)用，在國內(nèi)外市場皆產(chǎn)生了熱烈反響。FaceAPP推出的嬰兒濾鏡、老年濾鏡，可基于現(xiàn)有面部特征合成幼化面孔，也可以自動添加白發(fā)、皺紋和皮膚松弛等衰老跡象，照片真實(shí)感十足；應(yīng)用軟件ZAO則主打視頻換臉，利用影視化素材進(jìn)行表情遷移和姿勢遷移，讓用戶與明星同框，體會表演與展示自我的樂趣；社交平臺Snapchat此前和AI Factory 合作增強(qiáng)Cameos功能，讓用戶可以將自拍嵌入動態(tài)圖像，從而創(chuàng)造出合成的動圖，而且越來越多的網(wǎng)絡(luò)平臺開始推出類似功能；騰訊旗下的網(wǎng)絡(luò)游戲“和平精英”引入深度合成應(yīng)用，玩家可化身游戲中的“和平精英”與火箭少女101同框合影。

伴隨技術(shù)發(fā)展，合成圖像質(zhì)量突飛猛進(jìn)，不僅實(shí)現(xiàn)人臉合成，也可以實(shí)現(xiàn)圖像疊加融合或直接生成全新的高清圖片，肉眼根本難以分辨真假。例如，2019年MIT和IBM沃森聯(lián)合實(shí)驗(yàn)室發(fā)布的一個基于生成對抗網(wǎng)絡(luò)的AI藝術(shù)畫師，就可以學(xué)習(xí)文藝復(fù)興時期畫家的繪畫風(fēng)格，將現(xiàn)代人類的照片變成文藝復(fù)興時期的畫作（圖2）。其中的技術(shù)優(yōu)勢在于，這種神經(jīng)網(wǎng)絡(luò)會根據(jù)自己學(xué)到的技巧為畫面重新構(gòu)圖，也就是畫出新的圖片，而不是利用風(fēng)格遷移的方式改變原圖色彩。

（二）語音合成

語音合成（speech synthesis），關(guān)鍵在于創(chuàng)建特定的聲音模型，不僅可以將文字轉(zhuǎn)換成聲音，而且可以轉(zhuǎn)化為接近真人語調(diào)和節(jié)奏的聲音。加拿大語音合成系統(tǒng)Realtalk，與以往基于語音輸入學(xué)習(xí)人聲的系統(tǒng)不同，它可以僅基于文本輸入生成完美逼近真人的聲音。此外，Modulate.ai的語音合成產(chǎn)品，允許用戶自主選擇任何年齡和性別的語音模型，而不是模仿特定目標(biāo)的聲音。

語音合成技術(shù)之于音頻，一方面可用來升級音頻剪輯技術(shù)，為影視制作中特效、配音呈現(xiàn)更好效果，減輕編輯人員工作壓力；另一方面可減少演員以及拍攝現(xiàn)場的局限，拓展電影的創(chuàng)作空間，衍生出更多改編作品。例如，它可以創(chuàng)建演員的聲音模型，幫助因疾病而失去聲音的演員使用數(shù)字聲音繼續(xù)表演，或因?yàn)閯∏樾枰淖兘巧_詞，還可以自動執(zhí)行各種語言的逼真配音，從而使不同受眾群體能夠更好地欣賞電影。深度合成技術(shù)還可用于“數(shù)字復(fù)活”已故演員，在2017年《星球大戰(zhàn)8：最后的絕地武士》中，萊雅公主的飾演者凱莉·費(fèi)舍爾因心臟病突發(fā)去世，制片方利用她以往真聲錄音合成了更多臺詞，結(jié)合未公開使用的素材，延續(xù)了這一角色的“生命”。2018年，大型紀(jì)錄片《創(chuàng)新中國》發(fā)布，該紀(jì)錄片是世界首部使用人工智能模擬人聲完成配音的大型紀(jì)錄片，節(jié)目解說部分全程運(yùn)用語音合成技術(shù)，使已故配音大師李易先生的聲音在技術(shù)支持下得以“重現(xiàn)”。

（三）視頻合成

除圖片和音頻之外，深度合成技術(shù)還應(yīng)用于視頻領(lǐng)域。其技術(shù)依托為人臉再現(xiàn)（face re-enactment），主要指利用深度合成技術(shù)改變?nèi)说拿娌刻卣?，包括目?biāo)對象的眉毛、眼睛、鼻子、唇部等五官的呈現(xiàn)，操縱目標(biāo)對象的臉部表情。人臉再現(xiàn)不同于AI換臉，不是為了替換身份，而是改變某個人的臉部表情，從而讓其看起來在說他們從未說過的話。

2019年6月21日，美國科技媒體The Verge報道，一段關(guān)于Facebook的首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）的人工智能深度合成“換臉”視頻被上傳到Instagram。在視頻中，“扎克伯格”說：“讓我們快速想象一下，一個人，手握偷竊來的數(shù)十億人的隱私信息，他們的所有秘密、生活和未來等等……我將其歸功于幽靈，幽靈告訴我，誰掌握了數(shù)據(jù)，誰就掌控著未來?！?/p>

視頻合成技術(shù)也多用于AI合成主播等智能化媒體產(chǎn)品。2020年5月21日，新華社發(fā)布一段視頻播報畫面，宣布全球首位3D版AI合成主播“新小微”的誕生（圖3）。這是繼新華社智能化編輯部聯(lián)合搜狗公司最新研發(fā)的智能化產(chǎn)品。和前一代AI合成主播相比，“新小微”實(shí)現(xiàn)了從單一景深機(jī)位到多機(jī)位多景深、微笑播報到多樣化精微表情播報等進(jìn)步，播報形態(tài)可通過不同角度全方位呈現(xiàn)，立體感和層次感明顯增強(qiáng)。

□圖3 新華社發(fā)布全球首位3D版AI合成主播“新小微” （圖片來源：百度百科）

□圖4 對于美國前任總統(tǒng)巴拉克·奧巴馬的深度偽造視頻（圖片來源：搜狐網(wǎng)）

AI合成主播的核心是運(yùn)用人臉識別、人臉建模、語音合成、智能傳感器及深度學(xué)習(xí)等多項合成技術(shù)，實(shí)現(xiàn)三大工作原理：“一是通過人工智能技術(shù)識別和匹配信息，根據(jù)語義合成面部表情并標(biāo)簽化；二是通過深度學(xué)習(xí)技術(shù)、提取聲音、面部、表情等生成仿真模型；三是進(jìn)行高逼真度的唇語合成，自動生成海量播報視頻。”[2]

作為新華社AI合成主播家族的最新成員，3D版AI合成主播“新小微”在2020年全國兩會期間通過新華社客戶端為公眾帶來全新的新聞資訊體驗(yàn)，也進(jìn)一步助力新華社智能化編輯部建設(shè)，推動媒體融合向縱深發(fā)展，為新聞生產(chǎn)的未來場景開辟空間。

（四）數(shù)字虛擬人

深度合成技術(shù)可以生成相應(yīng)的數(shù)字虛擬人，通過深度模擬個體生物特征，為個人創(chuàng)造虛擬化身、并通過虛擬化身參與媒體中各類社交活動，創(chuàng)造出超越現(xiàn)實(shí)的個性化體驗(yàn)。在某種意義上，深度合成技術(shù)可以帶來更為真實(shí)的虛擬體驗(yàn)，產(chǎn)生更強(qiáng)大的代入感和化身效果，從而實(shí)現(xiàn)目的性的自我表達(dá)和體驗(yàn)。

使用人像數(shù)據(jù)創(chuàng)建3D模型，并實(shí)時更新眼神、表情及肢體語言，進(jìn)一步增強(qiáng)虛擬與現(xiàn)實(shí)交互，這一技術(shù)已經(jīng)在騰訊會議中使用。在線上會議中，結(jié)合語音識別與機(jī)器翻譯技術(shù)，同時改變參會者呈現(xiàn)出來的臉部表情與唇部動作，使每個人看起來像在使用相同的語言進(jìn)行交流。這可進(jìn)一步打破語言交流障礙，發(fā)展更好的人際關(guān)系和線上互動。但是相較于圖片與音視頻合成，數(shù)字虛擬人的發(fā)展還在初級探索階段，一旦發(fā)展趨于成熟，定將帶來前所未有的社交體驗(yàn)。

二、深度合成技術(shù)的潛在風(fēng)險

深度合成技術(shù)的影響與日俱增。其背后的AI技術(shù)也顯示出很大的正向應(yīng)用價值，如社交媒體換臉應(yīng)用、“數(shù)字復(fù)活”演員、AI合成主播等等，極大地改變了傳統(tǒng)內(nèi)容生產(chǎn)與傳播方式；另一方面，深度合成技術(shù)應(yīng)用也面臨著潛在的道德風(fēng)險與倫理挑戰(zhàn)。目前，已經(jīng)出現(xiàn)利用深度合成技術(shù)偽造一些真假難辨的影像欺詐公眾現(xiàn)象。如色情報復(fù)、散布虛假信息、非法獲取個人信息、威脅國家安全與擾亂社會秩序等，網(wǎng)絡(luò)與信息安全問題被帶到一個全新的層面。

（一）“深度偽造”風(fēng)險

深度偽造（Deepfake）是通過人工智能深度合成技術(shù)，模仿、偽造人類行為特征從而生成圖片、音頻、視頻的行為，是智能生產(chǎn)、操縱、修改數(shù)據(jù)，最終實(shí)現(xiàn)媒體傳播的一種結(jié)果?！懊绹鴧⒆h員本·薩斯（Ben Sasse）在其提出的關(guān)于‘深度偽造’的法案中，專門從法律角度給予了界定：‘深度偽造’一詞是指以合理的觀察者（常人）誤認(rèn)為是真實(shí)記錄個人實(shí)際言論或行為的方式制作或修改的視聽記錄。”[3]

2016年，歐洲刑警組織發(fā)布的《網(wǎng)絡(luò)有組織犯罪威脅評估報告》中，點(diǎn)名了深度偽造將成為主要的犯罪趨勢?！耙院铣梢曨l為例，直至2019年12月，網(wǎng)上合成視頻的總數(shù)比2018年12月翻了一番，達(dá)到近15000個，其中合成色情視頻占比高達(dá)96%，深度合成已經(jīng)成為了色情復(fù)仇的重要工具?！盵4]這種深度偽造現(xiàn)象的廣泛存在導(dǎo)致公眾形成了深度合成技術(shù)等同于深度偽造的刻板印象。對此，騰訊研究院發(fā)文稱，“‘深度偽造’是以偏概全，不足以涵蓋所有的深度合成技術(shù)和相應(yīng)的合成內(nèi)容。追根溯源，deepfake最初只用于描述AI換臉的色情視頻，是一種特定的AI換臉技術(shù)?！盵5]但無論怎樣，深度偽造風(fēng)險已然出現(xiàn)，并且嚴(yán)重涉及個人最基本的隱私與權(quán)利，必須給予高度關(guān)注。

（二）“技術(shù)黑箱”現(xiàn)象

深度合成技術(shù)作為一種新興的人工智能技術(shù)存在“技術(shù)黑箱”現(xiàn)象。因?yàn)?，幾乎所有的智能化技術(shù)都遵循著“收集數(shù)據(jù)—算法預(yù)測—個性化推送”的平臺邏輯，而正是這種邏輯將普通受眾隔絕于生產(chǎn)操作過程之外，使內(nèi)容過濾、內(nèi)容生產(chǎn)、推薦要素等過程完全“黑箱” 化，信息的真實(shí)準(zhǔn)確性也無法得到保證。雖然當(dāng)前深度合成內(nèi)容的制作門檻已大為降低，人們通過一些開源代碼和網(wǎng)絡(luò)教程也可以制作一些初級的合成內(nèi)容，但是高質(zhì)量、高仿真的深度合成內(nèi)容還需要專業(yè)化團(tuán)隊來制作。相當(dāng)于技術(shù)依舊掌握在少數(shù)人手中，“技術(shù)黑箱”現(xiàn)象依舊存在 。

在新聞傳播領(lǐng)域，技術(shù)黑箱化很容易導(dǎo)致虛假信息與反轉(zhuǎn)新聞泛濫。因?yàn)檫@種算法已經(jīng)深度介入新聞生產(chǎn)的各個環(huán)節(jié)，將新聞生產(chǎn)過程推進(jìn)更深的“黑箱”，人們無從得知新聞是如何被制作出來的、更無法推敲其中的技術(shù)因素。并且，當(dāng)前也沒有針對深度合成內(nèi)容的識別技術(shù)，對事實(shí)的核查、對真相的追尋面臨著更多的阻礙。“根據(jù)皮尤研究中心（Pew Research）于2019年6月發(fā)布的一項報告顯示，約有2/3的美國人表示，篡改視頻和圖像已成為受眾理解時事和基本事實(shí)的主要問題。超過1/3的受訪者表示，‘虛假新聞’導(dǎo)致他們減少了接受新聞的數(shù)量”。[6]在這種情況下，“技術(shù)黑箱”不僅導(dǎo)致虛假信息泛濫，更嚴(yán)重的是逐漸成為不信任的符號，降低媒體公信力，從而威脅整個新聞業(yè)的未來。

（三）侵犯數(shù)據(jù)隱私

深度合成技術(shù)歸根結(jié)底是人工智能發(fā)展到一定階段的產(chǎn)物。而在“人工智能發(fā)展的三大基礎(chǔ)——超強(qiáng)的運(yùn)算能力、海量的數(shù)據(jù)以及精準(zhǔn)的算法中除了超強(qiáng)的運(yùn)算能力與計算機(jī)的硬件發(fā)展水平關(guān)系更為密切外，其余兩個都離不開數(shù)據(jù)?！盵7]數(shù)據(jù)主義代替人文主義成為社會發(fā)展的基礎(chǔ)，而代價則是隱私權(quán)作為最后的私人領(lǐng)域遭到前所未有的侵犯。尤其是深度合成技術(shù)收集的不僅是個人的互聯(lián)網(wǎng)訪問記錄等，而是非常直觀的個人面部數(shù)據(jù)。如今很多日常應(yīng)用軟件、支付設(shè)備都有“刷臉”技術(shù)的情況下，一旦用戶的肖像等個人信息泄露，將給用戶帶來非常大的安全隱患。

對此，有學(xué)者開始反思數(shù)據(jù)是不是財產(chǎn)、個人通過社交媒體生產(chǎn)的數(shù)據(jù)是否能夠擁有私人產(chǎn)權(quán)、怎樣界定其邊界等大數(shù)據(jù)時代資本主義市場邏輯所產(chǎn)生的悖論。同時，業(yè)界也迫切希望能夠最大限度地制止個人數(shù)據(jù)隱私的泄露。2018年10月，在布魯塞爾舉行的第40屆數(shù)據(jù)保護(hù)與隱私專員國際大會（ICDPPC）通過《人工智能倫理與數(shù)據(jù)保護(hù)宣言》，將視點(diǎn)聚焦于人工智能時代數(shù)據(jù)保護(hù)和隱私方面的問題，充分考慮到個人信息收集、使用和披露之間的關(guān)系，提出“人工智能系統(tǒng)的任何創(chuàng)建、開發(fā)和利用都應(yīng)該充分尊重人權(quán)，特別是個人數(shù)據(jù)保護(hù)和隱私的權(quán)利，以及人格尊嚴(yán)、非歧視和基本價值，并應(yīng)提供解決方案是個人保持對人工智能系統(tǒng)的控制和理解?！盵8]

（四）威脅國家安全

□新華社推出的AI合成主播已成為一張靚麗名片。

深度合成技術(shù)的潛在風(fēng)險除了“深度偽造”“技術(shù)黑箱”以及數(shù)據(jù)隱私侵犯之外，更為嚴(yán)重的后果是危及國家安全以及世界秩序。2018年，涉及美國前總統(tǒng)巴拉克·奧巴馬（Barack Obama）的一段視頻在網(wǎng)上流行（圖4），視頻中奧巴馬以犀利的言語攻擊現(xiàn)任總統(tǒng)唐納德·特朗普（Donald Trump）。但實(shí)際上，這段視頻并非奧巴馬本人所為，而是由美國導(dǎo)演喬丹·皮爾（Jordan Peele）模仿奧巴馬的聲音以及面部表情而制作的深度偽造視頻。2019年，美國眾議院議長南?！づ辶_西（Nancy Pelosi）的一段聽起來像醉酒后說話的深度偽造視頻在Facebook、Twitter等社交媒體上廣泛傳播，對其個人形象帶來了極大的影響。

這些有關(guān)美國政治人物的深度偽造視頻在社交媒體上的廣泛傳播引起美國政府的擔(dān)憂。正如美國加利福尼亞大學(xué)教授哈尼法里德所說，“我們應(yīng)該擔(dān)心‘深度偽造視頻’的出現(xiàn)，如果我們不能相信自己所看到的，來自于世界各地的視頻，聽到的音頻，那就是很嚴(yán)重的事關(guān)國家安全的危險?！盵9]尤其在美國大選來臨之際，美國議會先后提出《Deepfakes責(zé)任法案》和《2019年Deepfake報告法案》，以防競爭敵手利用深度合成技術(shù)散布虛假信息，干擾選舉活動。畢竟，“在智媒時代海量信息生產(chǎn)與受眾有限注意力的相互掣肘和博弈之下，如何在社交平臺上快速‘吸睛’‘刷屏’、提升‘流量’，進(jìn)而影響甚至操控新聞輿論和公眾認(rèn)知成為‘?dāng)?shù)字選戰(zhàn)’的首要目標(biāo)?！盵10]

在國內(nèi)，深度合成技術(shù)及其應(yīng)用也已引起政府的高度重視。根據(jù)中國國家互聯(lián)網(wǎng)信息辦公室于2019年12月20日發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，“網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動?！盵11]這一規(guī)定給當(dāng)前“深度合成技術(shù)”應(yīng)用劃定了邊界，同時也為其正向應(yīng)用場景留出了探索與發(fā)展的空間。

三、關(guān)于深度合成技術(shù)的思考

深度合成技術(shù)正在顛覆當(dāng)今的內(nèi)容生產(chǎn)與傳播模式，對媒體融合發(fā)展產(chǎn)生一系列積極正面的影響。與此同時，深度偽造、虛假信息、隱私泄露等問題也共生共存，作為技術(shù)的創(chuàng)造者和使用者，人類需要共同直面與應(yīng)對這些難題，讓深度合成技術(shù)對人類社會產(chǎn)生更為正向的價值影響。因此，對于深度合成技術(shù)的發(fā)展，我們不僅需要討論“術(shù)”，更需要討論“道”。當(dāng)我們在享受深度合成技術(shù)便利的同時，不可忽視其規(guī)范性與治理層面的問題。

（一）探索相應(yīng)核查技術(shù)

當(dāng)我們溯源這些存在風(fēng)險時會發(fā)現(xiàn)，問題早已存在。例如廣播出現(xiàn)時遭遇公眾反抗，相機(jī)的發(fā)明讓人類擔(dān)心隱私被侵犯。但這些都阻擋不住技術(shù)變革的腳步，倒不如尋求如何“以智治智”，從技術(shù)層面進(jìn)行更多的探索，這是應(yīng)對深度合成技術(shù)風(fēng)險的必要途徑。首先，應(yīng)致力于制作一整套事實(shí)核查技術(shù)，保證內(nèi)容的真實(shí)性；其次，應(yīng)努力提升內(nèi)容生產(chǎn)的公開性，保證內(nèi)容生產(chǎn)的可信度與透明度。

如微軟總裁布拉德·史密斯（Brad Smith）所說，“如果你的技術(shù)改變了世界，你就有責(zé)任幫助世界應(yīng)對這些變化”。現(xiàn)實(shí)中，微軟確實(shí)也踐行了這樣的創(chuàng)新理念，其團(tuán)隊提出的Face X-Ray 算法，可以通過檢測換臉過程中產(chǎn)生的瑕疵來鑒別圖像真?zhèn)?。并且在確定圖片是否進(jìn)行過換臉同時還可以指出換臉操作的邊界在哪里。類似核查技術(shù)的成熟化正是擺脫當(dāng)今難辨真?zhèn)蔚男畔h(huán)境所需的必經(jīng)之路。

（二）制定相關(guān)法律法規(guī)

深度合成技術(shù)等信息科技的迅速發(fā)展正在從根本上改變著傳統(tǒng)的社會信息生產(chǎn)與傳播模式，也重塑著法律所處的宏觀環(huán)境，傳統(tǒng)法律制度在新技術(shù)面前顯得無所適從。亟需進(jìn)行自我完善，自我進(jìn)化，以適應(yīng)科技發(fā)展的新要求。尤其是在當(dāng)前事實(shí)核查技術(shù)還不成熟的情況下，應(yīng)對深度合成技術(shù)帶來的一系列挑戰(zhàn)，應(yīng)從法律法規(guī)層面給予更多的關(guān)注與解決之道。

具體來說，從內(nèi)容制作方與平臺傳播方兩面思考如何確定相關(guān)的技術(shù)使用規(guī)則與懲治措施是相對可行的思路。對于內(nèi)容制作方，應(yīng)制定專門性應(yīng)用法規(guī)，明確規(guī)定深度合成技術(shù)的應(yīng)用范圍、權(quán)力邊界、責(zé)任承擔(dān)等方面的內(nèi)容；對于平臺傳播方，可以結(jié)合限制性與鼓勵性條款制定相關(guān)法規(guī)，在限制技術(shù)濫用的同時保留適當(dāng)?shù)陌l(fā)展空間，以發(fā)揮其正向應(yīng)用價值。

（三）建立協(xié)同治理體系

技術(shù)濫用的風(fēng)險雖已來臨，但技術(shù)本身并沒有善惡之分。“人工智能作為一種新技術(shù)，它屬于誰，為誰所控制，又是為了誰，這是我們現(xiàn)在就要提出的問題?！盵12]科技是一種能力，而向善是一種選擇。在應(yīng)對深度合成技術(shù)潛在風(fēng)險時，不能僅僅依靠技術(shù)和法律法規(guī)，更重要的是社會各方的參與，從而建立一個多元協(xié)同的治理體系。包括法律工作者、新聞工作者、技術(shù)開發(fā)者等等。

尤為重要的是，公眾媒介素養(yǎng)的進(jìn)一步提升。人工智能技術(shù)的發(fā)展使得信息環(huán)境變得更為復(fù)雜，公眾也要提升自身的媒介素養(yǎng)。如今的媒介素養(yǎng)不僅單純地指向媒介使用素養(yǎng)，也應(yīng)當(dāng)擴(kuò)展到內(nèi)容生產(chǎn)與傳播素養(yǎng)、相關(guān)法律素養(yǎng)、社會參與素養(yǎng)等方面，從而更好地應(yīng)對人工智能時代的倫理風(fēng)險。

四、結(jié)語

我們正處于一個智媒化的人類世界，神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)和算法機(jī)制等變得日益強(qiáng)大，深度合成技術(shù)也日漸成熟。其中包括語音、圖像、視頻等多種合成類型，并越來越朝著數(shù)字虛擬人等綜合性的方向發(fā)展，給內(nèi)容生產(chǎn)與傳播帶來前所未有的變革。就目前而言，深度合成技術(shù)在新聞傳播、電影娛樂、通訊社交、電子商務(wù)等諸多領(lǐng)域嶄露頭角，甚至有學(xué)者預(yù)言2020年有望成為這一技術(shù)商業(yè)化應(yīng)用的元年。

技術(shù)的應(yīng)用總是具有兩面性，一方面可以消除一些風(fēng)險，推動社會進(jìn)步；另一方面也會帶來新的風(fēng)險。我們不能在 “科技崇高化”的氛圍中為信息科技披上“科學(xué)神話”的霓裳，從而缺少一些應(yīng)有的反思精神。在發(fā)揮其正向應(yīng)用價值的同時意識到潛在風(fēng)險與倫理挑戰(zhàn)，最大程度減少技術(shù)濫用的可能性。在這一過程，“除了技術(shù)從業(yè)者的努力，更需要全行業(yè)乃至整個社會的共同努力，將創(chuàng)造技術(shù)、使用技術(shù)、管理技術(shù)以及受技術(shù)影響的人和組織匯聚在一起，才能確保最終以負(fù)責(zé)任的方式去設(shè)計AI，真正造福人類。”[13]

【注釋】

[1]傳媒圈.“人工智能編輯部”——主流媒體“智能+”的創(chuàng)新引領(lǐng)[EB/OL].（2019-11-1）.https://baijiahao.baidu.com/s?id=1648947045964901352&wfr=spider&for=pc

[2]王媛.人工智能技術(shù)賦能傳統(tǒng)新聞報道——以新華社AI合成主播為例[J].出版廣角，2019（21）：64-66.

[3]陳昌鳳，徐芳依.智能時代的“深度偽造”信息極其治理方式[J].新聞與寫作，2020（04）：66-71.

[4]騰訊研究院.2020年AI生成內(nèi)容發(fā)展報告[EB/OL].（2020-5-25）.http://www.199it.com/archives/1049428.html.

[5]騰訊研究院.關(guān)于“深度合成”技術(shù)的十個誤解[EB/OL].（2020-5-11）.https://www.sohu.com/a/394450226_455313.

[6]陳昌鳳，徐芳依.智能時代的“深度偽造”信息極其治理方式[J].新聞與寫作，2020（04）：66-71.

[7]胡曙光，陳昌鳳.觀念與規(guī)范：人工智能時代媒介倫理困境及其引導(dǎo)[J].中國出版，2019（02）：11-15.

[8]歐洲數(shù)據(jù)保護(hù)專員，意大利個人數(shù)據(jù)保護(hù)專員，孔祥盛，龐玲玲，孫舒暢.人工智能倫理與數(shù)據(jù)保護(hù)宣言[J].辦公自動化，2019，24（01）：12-13+15.

[9]央視網(wǎng).眼見也不一定為實(shí)，“深度偽造視頻”美國防部警惕[EB/OL].（2019-1-31）.http://news.cctv.com/2019/01/31/ARTIJYHzB7hCBeeG7KqEsuJP190131.shtml.

[10]史安斌，王沛楠.2020全球新聞傳播新趨勢——基于五大熱點(diǎn)話題的訪談[J].新聞記者，2020（03）：24-32.

[11]中華人民共和國國家互聯(lián)網(wǎng)信息辦公室.網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定[EB/OL].（2019-12-20）.http://www.cac.gov.cn/201912/20/c_1578375159509309.htm.

[12]呂新雨，趙月枝，吳暢暢，王維佳，洪宇，田雷，胡凌，熊節(jié)，余亮.生存，還是毀滅——“人工智能時代數(shù)字化生存與人類傳播的未來”圓桌對話[J].新聞記者，2018（06）:28-42.

[13]微軟亞洲研究院.AI換臉鑒別率超99.6%，微軟用技術(shù)應(yīng)對虛假信息[EB/OL].（2019-11-1）.https://www.msra.cn/zh-cn/news/features/ai-detect-fake-face.