深度造假：人工智能時代的視覺政治

人工智能時代，后真相的社會進程并沒有因為各類事實核查技術和數字賦權運動的發(fā)展而被阻止，反而借助逐漸成熟和大眾化的深度學習技術應用以及以社交媒體為代表的泛在的傳播設施走向新階段。以平臺控制為核心的“后真相體制”得以鞏固。以多邊供需機制為特征的互聯網平臺在自我規(guī)制或者說自我強化的過程中，也借助大數據和機器學習等自動化技術孵化新的產品形態(tài)，從而在給社會帶來新的不確定性的同時，更進一步對社會加以控制。在這個過程中，技術與人的界限正在各個層面變得模糊起來，而賽博格正逐漸從想象走向現實。人工智能所俘獲的已經超越了單純的文本和圖片，而是對認知更具基礎性，也更具有迷惑性、煽動力和用戶粘性的載體——視頻和音頻。這就是自2017年以來被稱為“深度造假”（deepfake）的技術運動，因為借助“深度學習”技術而得此名，也被翻譯為“深度偽造”。

深度造假是政治精英、技術專家和新聞媒體話語中的又一場真假對立，還是預示了一種持續(xù)的或者新的權力結構，超越了真假二元論，從而對社會產生更深刻的影響？

深度造假簡史

英文語境中，“深度造假”涉及多個詞匯，包括deepfake、deepfakes、deep fake、deep fakes等。其中，deepfakes是社交新聞網站Reddit的一個用戶的名稱，該用戶因發(fā)布換臉視頻和公開深度造假代碼而成為熱搜對象。后來，deepfake成為被更廣泛使用的概念。根據Google Trends的統(tǒng)計分析，全球范圍內對上述四個英文詞的搜索在2017年11月至2019年5月期間發(fā)生了比較顯著的變化。作為發(fā)明者的deepfakes主導了初期的熱度，但在2018年中以后明顯衰減，更具有現象學意義的deepfake一詞逐漸成為最受關注的概念，并在2019年上半年掀起了另外兩個搜索波峰。

大多數深度造假都依托于一種深度學習技術——生成式對抗網絡（GANs）。截至目前，深度造假的技術展示大致分為換臉、唇形同步、面部復現和動作轉移。由于有關GANs的研究和其他深度學習技術的公共可獲得性，以及以社交網絡為代表的互聯網平臺公司的漸次進入，深度造假的大眾創(chuàng)造能力正在迅速蔓延，并成為一個新的技術運動，進而導致造假與打假的矛盾循環(huán)。簡言之，“深度造假”指的是把圖片和聲音輸入機器學習的算法，從而可以輕易地進行“面部操作”——把一個人的臉部輪廓和表情放置在其他任何一個人的臉上，同時利用對聲音的逼真處理，制造出實為合成卻看似極真的視頻——用以躲避識別、混淆視聽、娛樂用戶，以及實現其他虛假宣傳的目的。當然，這一技術并不單純用于換臉，還被較少爭議地應用在影視、健康和教育等其他行業(yè)之中。

Britt Paris和Joan Donovan在全面梳理這一技術運動的報告中提出了一個“深度造假—廉價造假”光譜，其主要標準是所使用的技術的復雜性。其中，深度造假位于光譜一端，高度依賴數據和計算，較少被大眾所接觸；而廉價造假位于另一端，借助一些廉價乃至免費下載的軟件，消費者不需要特殊的專業(yè)知識和技術能力即可通過終端加載的調整速度、攝像頭效果、更換背景等實現換臉等操作。廉價造假呈現出巨大的娛樂效果，從而進一步使造假現象及其社會效應復雜化。斯坦福大學研究員Tom Van de Weghe聯合計算機、新聞等行業(yè)的專家，成立了“深度造假研究小組”，總結出深度造假發(fā)展至今的六條基本趨勢，即：應用的大眾化和終端化，算法的平臺化，擴大的商品化，不曾停歇的貓鼠游戲，區(qū)塊鏈技術的重要性、公眾自身鑒別能力的提升。

深度造假不僅是一種技術迷思和技術景觀，而且是一個充滿變動的權力場域。這一場域受到多種政治、經濟和技術力量的干預。自2017年出現并流行以來，關于深度造假最具代表性的懷疑論點來自被虛假信息和假新聞所動搖的理性主義真相觀，尤以新聞專業(yè)主義為代表。然而，本文認為，真相的瓦解與重建并不能改變深度造假的技術趨勢，需要關注的應是深度造假如何參與型構了新的平臺控制，并依托怎樣的經濟動能完成平臺的可持續(xù)再生產。

深度后真相：理性主義視野中真相的最終瓦解？

深度造假之所以被政治和社會領域所關注，恰恰是由于精確換臉對這些領域中真相的認識論的進一步瓦解，以及造成的有關傳播失序的道德恐慌。始自2016年的與美國大選相關的后真相和假新聞，挑戰(zhàn)著如今升級為更具顛覆力的深度造假，進一步挑戰(zhàn)著傳統(tǒng)的真相觀，或者更精確地說，傳統(tǒng)上擁有真相定義或制造權的專業(yè)權威。本文將這一新階段稱為“深度后真相”。延續(xù)理性主義的邏輯，“深度后真相”具有兩個方面的特征：

第一，視覺客觀性的瓦解。自從攝影術、視頻、射線掃描技術出現以來，視覺文本的客觀性就在法律、新聞以及其他社會領域被慢慢建立起來，成為真相存在——或者更準確地說，建構真相——的最有力證據?！把垡姙閷崱背蔀檫@一認識論權威的最通俗表達；與此同時，視覺文本的制造者和闡釋者也順理成章地成為真相的最權威定義者和闡釋者。在這個意義上，視覺客觀性產自一種特定的專業(yè)權威體制。然而，深度造假的技術優(yōu)勢和游獵特征，使得這一專業(yè)權威體制遭遇前所未有的挑戰(zhàn)。借助這一體制生產的視覺文本，深度造假者替換了不同乃至相反的文本內容和意涵，造成了文本的自我顛覆，也就從根本上顛覆了這一客觀性或者真相的生產體制。除此之外，借助“云服務+終端”的平臺化網絡架構，更加廉價和智能的深度造假終端應用進一步擴大了這一體制瓦解的負面效應。對視覺文本的廣泛不信任將嚴重影響社會的政治進程和傳播秩序。

第二，新聞專業(yè)主義的自我救贖。這無疑是新聞專業(yè)主義權威在后真相時代的瓦解與重建的新階段。面對視覺化后真相時代的到來，在更具傳播力和煽動性的深度造假視頻面前，傳統(tǒng)媒體的解決方案依然是回到兼具意識形態(tài)和操作規(guī)范的專業(yè)主義。比如，為了應對深度造假的來臨，《華盛頓郵報》設立了“媒體求證委員會”，匯集了視頻、攝影、視覺、研究、平臺和新聞編輯在內的各種力量，通過內部訓練提升甄別深度造假的能力。在擁有深度學習能力的深度造假技術面前，傳統(tǒng)媒體依然堅守了基于主客體二元論和新聞業(yè)獨立性的專業(yè)主義立場，認為成就自身專業(yè)水準的那些能力依然可以保證真相的可獲得性。然而，雖然擁有這些制造真相和核查真相的專業(yè)技術，但深度造假快速崛起的現實以及傳播與核查之間富裕的時間差，使得傳統(tǒng)媒體在多大程度上能夠有效應對網絡化生產和散布的造假視頻，乃至繼續(xù)扮演民主的守門人角色，成為一個難以回答的問題。當下，深度造假可能是假新聞在質量上的變化，也就是采用包括人工智能在內的更加復雜但越來越廉價和可以被用戶端所輕易使用的技術，未來也可能在數量上超出以往任何時期。

簡而言之，深度造假正在影響乃至控制著人們對政治世界和社會政策的認知，也因其多義性使得不同意見群體可以進行多元解釋。在進一步瓦解真相的理性建構觀的基礎上，深度造假參與形塑著正在崛起的平臺社會。在這里，人與人的互聯被數據化、商品化和互聯網平臺的算法選擇或者說算法偏見所型構。真與假的二元對立關系被替換為渠道與內容的供需關系，復雜的政治后果背后隱藏著平臺經濟的精明算計。

視覺控制：深度造假的政治內涵

隨著深度造假被廣泛使用，其侵入政治領域所激發(fā)的有關真假與民主的關系的討論，再次加深了全社會對后真相時代的體認。2016年以來，后真相時代假新聞的出現“恰逢”全球范圍內政治誠信的危機和民粹主義政治的興起，深度造假自然也是這一“歷史巧合”下的產物或者延伸，而視覺傳播賦予了深度后真相以生命力。

首先，在西方，深度造假干預政黨競選并擴大政治分裂。圍繞深度造假的討論大多與2020年美國總統(tǒng)大選有關。2016年以來，深受假新聞和社交媒體干預的美國競選政治，在快速發(fā)展的傳播技術面前表現得異常緊張。電影人Jordan Peele曾使用深度造假技術，借用奧巴馬的臉來向公眾發(fā)出警示，讓公眾警惕深度造假的危害。但深度造假視頻的病毒式傳播往往早于對假視頻的識別結果，盡管或早或晚會被證實造假，但在這一時間差內，造假視頻借力社交媒體平臺的傳播效果已經顯現，而改變人們已經形成的認知就變得異常困難。在這個政治語境中，深度造假并不是簡單地加劇了真與假的分離，而是進一步撕裂了政治鴻溝，從而導致更加嚴重的社會分裂、更極化的政治立場和更激化的社會矛盾。因此，深度造假也被認為有可能成為未來虛假信息戰(zhàn)的武器，被各方政治力量所使用。簡言之，如果作為獨立監(jiān)督力量的傳統(tǒng)媒體已經深陷假新聞和黨派政治的漩渦，而作為替代性的網絡平臺也被無法追蹤來源的虛假信息所充斥，甚至通過視覺造假在最基礎的認知層面?zhèn)鬟f誤導性信息和煽動性言論，那么，西方民主的根基——理性的公眾——就面臨崩塌的危險。

其次，從地緣政治的角度而言，深度造假正在威脅國家安全，其核心是對域外信息控制的擔心。各國的國防系統(tǒng)已經成為研究深度造假的前沿力量，以提防深度造假的“武器化”。正如美國國防部聯合人工智能中心主任Jack Shanahan中將所說：“深度造假是一個國家安全問題，國防部需要在能夠對付它的技術上投入巨資。”美國2020年的《國防授權法案》中就提出要資助檢測深度造假的技術創(chuàng)新，因為深度造假已經威脅到美國的國家安全。法案要求開發(fā)檢測和利用深度造假的技術，以應對機器主導的媒體和潛在的外國力量利用這一技術武器，散布虛假信息以影響美國大選。與此同時，以民主黨參議員Jennifer Wexton為代表的政治勢力也向以臉書為代表的社交媒體施壓，希望其有效甄別和控制蓄意造假的視頻。由此，深度造假與國家機器的綁定更加清晰。不管是虛假視頻還是其傳輸渠道，都成為涉及國家安全的重要方面。

再次，視覺控制除了內容造假，更涉及虛假內容的網絡化傳播。于是，這一項政治議程指向了社交媒體平臺。社交媒體的渠道霸權和平臺中立性主張往往成為深度造假產生強大傳播效果和廣泛政治影響的技術前提。中立是否政治無赦？一方面，從平臺的外部性而言，“網絡中立性”原則在美國被提出和被廢止的短暫歷史已經說明不同的政治立場很難在這一點上達成一致，中立往往成為一種表達立場的政治修辭；另一方面，正如Tarleton Gillespie在其《互聯網的守護者》一書中所揭示的，盡管平臺公司的領導者往往把自己呈現為中立的中介角色，但卻無法掩蓋平臺組織和選擇內容的事實。他將這一點描繪為平臺的“不可調和的矛盾”。在這個意義上，平臺孵化了深度造假的應用，也利用深度造假生產著分裂的網上公眾，使后者更依賴平臺進行信息發(fā)布、意見表達和運動組織。

需要注意的是，平臺控制也有著豐富的地緣差異，從而導致了視覺控制的寬度和力度。如果深度造假可以依托源自北美的社交媒體體系（如臉書和推特）達到特定的政治宣傳和政治動員的目的，那么在中國，具體問題就不是情緒表達乃至政治攻訐。中國雖然同樣具備深度造假的技術條件和平臺化水平，但虛假視頻一般不會涉及政治領域，而是存在于相對去政治化的社交空間中。這顯然是中國特定的政治與媒體關系、對于互聯網的治理方式所決定的，但這并不意味著深度造假視頻不會對中國的政治議題和政治環(huán)境產生影響，相反，它會繼續(xù)以收割社交媒體流量的方式將傳統(tǒng)媒體為代表的權威信源邊緣化，從而在客觀上導致政治討論的去中心化。

平臺動能：深度造假的經濟價值

后真相體制是一個有關真相的游戲。游戲的基礎有二，一個是高度分裂的社會，另一個是注意力經濟，即網絡參與的數據化和商品化。二者對互聯網平臺而言，缺一不可。深度造假的興起恰恰符合這一政治經濟邏輯。另外，依托應用平臺和社交平臺的網絡化效應，深度造假正在轉向“廉價造假”，其潛在的經濟價值正在被各個互聯網平臺所發(fā)掘。

對承載著后真相時代虛假信息的散布的社交媒體平臺而言，吸引注意力、增加用戶粘度、成為互聯網的入口，從而帶來更多、更穩(wěn)定流量的商業(yè)考慮往往優(yōu)先于事實核驗和理性辯論。在平臺或者生態(tài)系統(tǒng)的中立性修辭表象下，對這些平臺企業(yè)而言，真與假的辯證其實并不重要，對其公共性的訴求也超出了其組織承載力。與此同時，這一去政治化的實用主義商業(yè)動機也內嵌在各種算法邏輯中，從而通過作用于社交媒體時代大眾的信息消費和情感表達心理，促成了特定信息的快速流通和大量消費，最終也不可避免地產生了更加廣泛的政治與社會后果。這也是以荷蘭學者Jose van Dijck為代表的平臺社會研究者們所關心的核心問題，即如何讓一個私有并且商業(yè)化運行的互聯網平臺系統(tǒng)在創(chuàng)新的規(guī)制體系下發(fā)揮公共服務的功能，而不是任由商業(yè)價值侵蝕公共價值。在這里，資本借由技術變成一種直接的建構性力量，造就了一個“平臺資本主義”時代的到來。在這個意義上，各類應用作為平臺經濟的代表，本身就是資本積累的重要工具。

深度造假共享了平臺社會的一系列基本原則，并逐漸演化為平臺經濟的一種內容商品，成為互聯網企業(yè)突破增長瓶頸的新選擇。按照Jose van Dijck等人的分析，平臺設施在社會中的擴張依賴于其基本過程。第一，數據化，即盡可能多地、系統(tǒng)性地獲取用戶信息。對深度造假而言，這也是深度學習、機器訓練的基礎，社交媒體平臺提供了獲得數量龐大的用戶視頻資源的可能。第二，商品化，即將線上行為轉化為可以交易的產品。深度造假的商品化首先體現在注意力經濟，其本身就具有挑戰(zhàn)既有認知框架的反常性特征，能夠有效促進從點擊到轉發(fā)的網絡行為；其次，社交平臺以服務用戶為名，使用用戶自制內容而不需要付費，尤其是依托深度造假客戶端而上傳的用戶視頻素材和制作的合成視頻。除此之外，就社交媒體平臺而言，其內嵌的“技術法則”雖然出自技術專家之手，包含了技術、產品和文化的邏輯，但大多服務于其母公司（多為私營）的商業(yè)模式。而截至目前，社交媒體平臺的主要商業(yè)或盈利模式，在喧囂的技術神話和商業(yè)概念泡沫的掩蓋下，矗立得像傳統(tǒng)媒體一樣古老。Jakob Rigi和Robert Prey將之總結為兩個方面，即廣告空間的租用和虛擬資本所期待的意外之財。通俗來說，就是廣告收入和在股票市場的表現。

小結

進入人工智能為技術基礎的深度后真相時代，深度造假進一步用超越人類識別力的技術，模糊了真與假的界限，并將真相開放為可加工的內容，供所有參與者使用。在這個意義上，深度造假開啟的是普通人參與視覺表達的新階段，然而，這種表達方式還會結構性地受到平臺權力的影響，從而使得極端言論更容易被選擇和被傳播。在NiemanLab的Rubina Madan Fillion看來，“威權主義的崛起與深度造假——使用人工智能軟件創(chuàng)造出逼真的影像——的繁榮巧合地同時出現”，與核查事實、澄清真相相比，對于偏見的確認似乎更具有影響力。換句話說，對帶有偏見的影像的肯定和散布，遠比獲取事實來得容易。