“AI換臉術(shù)”的價(jià)值、風(fēng)險(xiǎn)與發(fā)展方向

摘要：智媒體時(shí)代，人工智能技術(shù)、海量數(shù)據(jù)的獲取、超級(jí)計(jì)算軟件的應(yīng)用為“AI換臉術(shù)”的進(jìn)一步發(fā)展提供了契機(jī)，“AI換臉術(shù)”是對(duì)人臉識(shí)別系統(tǒng)的升級(jí)，隨著該項(xiàng)技術(shù)的更新迭代，由此引發(fā)的社會(huì)問題必須予以提前預(yù)判并加以控制?；诖?，文章闡述“AI換臉術(shù)”在影視、新聞、廣告及娛樂等領(lǐng)域的應(yīng)用價(jià)值，并深入分析其面臨的大眾社會(huì)身份的解構(gòu)、倫理道德邊界的沖擊、侵權(quán)違法現(xiàn)象的加劇、相關(guān)軟件發(fā)展的混亂等風(fēng)險(xiǎn)，并提出提升大眾技術(shù)素養(yǎng)、推動(dòng)政策法律實(shí)施、創(chuàng)新多元化應(yīng)用方向、加強(qiáng)反偵察技術(shù)應(yīng)用等策略，以期對(duì)“AI換臉術(shù)”的價(jià)值回歸有所助益。

關(guān)鍵詞：“AI換臉術(shù)” 人工智能 法律 倫理道德 智媒體

從最初的2G移動(dòng)傳播技術(shù)到如今5G移動(dòng)傳播技術(shù)的普及，從最初的算法推薦到如今的人工智能應(yīng)用，媒介環(huán)境從新媒體、融媒體、全媒體時(shí)代一路走來，進(jìn)入一個(gè)技術(shù)更加智能成熟的智媒體時(shí)代。智媒體時(shí)代下的AI人工智能技術(shù)不斷升級(jí)，并廣泛應(yīng)用于計(jì)算機(jī)、經(jīng)濟(jì)、政治領(lǐng)域，以及各行業(yè)的控制系統(tǒng)、仿真系統(tǒng)中，其中以仿真系統(tǒng)為基礎(chǔ)的“AI換臉術(shù)”一經(jīng)問世便成為影視行業(yè)、短視頻行業(yè)的“新寵”，迅速掀起“AI換臉”熱潮。智能技術(shù)的生產(chǎn)與應(yīng)用造福了許多行業(yè)，“AI換臉術(shù)”的廣泛應(yīng)用也彰顯出一定價(jià)值，使部分行業(yè)與用戶享受到技術(shù)所帶來的紅利與歡樂?，F(xiàn)階段，在挖掘“AI換臉術(shù)”發(fā)展價(jià)值的同時(shí)，需要思考技術(shù)背后蘊(yùn)藏的風(fēng)險(xiǎn)，“AI換臉術(shù)”的隱憂亟待探討和解決。

一、“AI換臉術(shù)”的價(jià)值體現(xiàn)

“AI換臉術(shù)”（Artificial intelligence powered face swapping technology）又稱“深度偽造技術(shù)”（Deep fake），是指機(jī)器或系統(tǒng)通過深度學(xué)習(xí)（Deep learning）與偽造（Fake），結(jié)合虛擬現(xiàn)實(shí)技術(shù)、視覺合成技術(shù)能夠在圖像、視頻及虛擬場(chǎng)景中實(shí)施人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等一系列操作的技術(shù)。隨著“AI換臉術(shù)”的技術(shù)公開和應(yīng)用下沉，“ZAO”“Deepfakes Web”及“Face Swap Live”等以“AI換臉術(shù)”為核心的軟件逐漸增多，“AI換臉術(shù)”從服務(wù)行業(yè)轉(zhuǎn)向服務(wù)大眾，應(yīng)用范圍更加廣泛。

1.提升影視制作質(zhì)量。“AI換臉術(shù)”的出現(xiàn)促使影視行業(yè)發(fā)生了一場(chǎng)前所未有的產(chǎn)業(yè)變革，在重構(gòu)演員角色、后期特效等方面具有深刻影響。一直以來，影視行業(yè)對(duì)于特效和演員換臉的需求從未減少，尤其是《阿凡達(dá)》《復(fù)仇者聯(lián)盟》等對(duì)演員妝造、形象有特殊需求的特效影視。影視換臉經(jīng)歷傳統(tǒng)實(shí)物化妝換臉、數(shù)字圖像換臉、三維動(dòng)作捕捉術(shù)換臉三個(gè)階段后，發(fā)展至如今的“AI換臉術(shù)”。相較于以往的影視換臉方式，“AI換臉術(shù)”實(shí)現(xiàn)了高效率、高逼真度、超自然和低成本換臉，一方面顯著提升影視創(chuàng)制生態(tài)的整體質(zhì)量，幫助影視演員實(shí)現(xiàn)跨時(shí)空、跨物種及跨年齡的完美演繹；另一方面拯救大批因個(gè)別演員違規(guī)而被迫下架的影視劇，如熱播影視《狂飆》《甄嬛傳》等均在上線后及時(shí)通過“AI換臉術(shù)”完成演員替換。

2.喚醒廣告營銷市場(chǎng)。企業(yè)廣告營銷與技術(shù)發(fā)展息息相關(guān)，“AI換臉術(shù)”的應(yīng)用能夠喚醒廣告營銷市場(chǎng)，利用“AI換臉術(shù)”可以進(jìn)行創(chuàng)意營銷，創(chuàng)設(shè)多元式、沉浸式的營銷環(huán)境，使用戶在立體可感的環(huán)境中感受服務(wù)和產(chǎn)品。用戶可以將個(gè)人肖像通過“AI換臉術(shù)”轉(zhuǎn)移到所需要的產(chǎn)品、服務(wù)和場(chǎng)景中，如服飾、妝造、發(fā)型、藝術(shù)照等生活類服務(wù)，以及直播、游戲、旅游等場(chǎng)景類服務(wù)，獲得身臨其境的代入感，從而為產(chǎn)品和服務(wù)打開新的營銷通道。例如，2022年三八婦女節(jié)，傳統(tǒng)家電企業(yè)美的利用“AI換臉術(shù)”策劃了一場(chǎng)“美的AI換新劇場(chǎng)”活動(dòng)，通過生成女性職業(yè)影集成功完成別具一格的品牌營銷。

3.擴(kuò)大新聞傳播范圍。技術(shù)因素在新聞生態(tài)及格局的改變中發(fā)揮著至關(guān)重要的作用，智媒體時(shí)代新聞傳播面臨信息爆炸、受眾注意力缺失等現(xiàn)狀，“AI換臉術(shù)”的應(yīng)用能夠創(chuàng)新新聞生產(chǎn)傳播方式，擴(kuò)大新聞傳播范圍。其一，“AI換臉術(shù)”能夠在技術(shù)層面為新聞生產(chǎn)提供多元?jiǎng)?chuàng)意和便捷通道，如北京冬奧會(huì)央視虛擬手語主持人的五官形象借助“AI換臉術(shù)”得以塑造完成，其面部表情和動(dòng)作神態(tài)成為當(dāng)時(shí)科技的一大亮點(diǎn)。其二，“AI換臉術(shù)”能夠增強(qiáng)用戶與媒體之間的互動(dòng)，用戶可以通過進(jìn)入新聞場(chǎng)景、模擬主持人播報(bào)等方式直觀感受新聞現(xiàn)場(chǎng)、參與新聞活動(dòng)，如在中國人民解放軍建軍90周年之際，人民日?qǐng)?bào)客戶端推出《快看吶！這是我的軍裝照》活動(dòng)，用戶可以通過“AI換臉術(shù)”獲得個(gè)人軍裝照，此活動(dòng)最終瀏覽量超過10億次，實(shí)現(xiàn)了以互動(dòng)方式擴(kuò)大新聞傳播范圍。

4.帶動(dòng)數(shù)字娛樂發(fā)展。隨著“AI換臉術(shù)”的技術(shù)愈發(fā)成熟和便捷，很多社交平臺(tái)開始借助“AI換臉術(shù)”進(jìn)行特效創(chuàng)新，吸引用戶參與?！癦AO”作為國內(nèi)較早利用“AI換臉術(shù)”將用戶肖像替代影視明星視頻的APP，上線初期便吸引大量用戶參與且深受大眾喜愛，短時(shí)間內(nèi)登頂應(yīng)用商店的下載榜首?，F(xiàn)階段，抖音、快手等社交類短視頻平臺(tái)中也有幫助用戶換裝變臉的特效，其借助“AI換臉術(shù)”通過選取用戶全臉或五官局部特征實(shí)現(xiàn)換臉。例如，抖音的“超級(jí)變臉”特效能夠幫助用戶看到自身不同年齡段的模樣，同時(shí)“國風(fēng)照”“影視照”特效也備受用戶喜愛?？傊癆I換臉術(shù)”使大眾獲得即時(shí)性的娛樂感官體驗(yàn)，可帶動(dòng)數(shù)字娛樂發(fā)展。

二、“AI換臉術(shù)”存在的風(fēng)險(xiǎn)

在發(fā)展過程中，“AI換臉術(shù)”的技術(shù)成本不斷降低，社交媒體平臺(tái)對(duì)初級(jí)“AI換臉術(shù)”的應(yīng)用進(jìn)一步助推了該項(xiàng)技術(shù)的普及和傳播，使得“AI換臉術(shù)”應(yīng)用價(jià)值凸顯?！癆I換臉術(shù)”能夠?qū)崿F(xiàn)一鍵生成、快速成型，意味著該技術(shù)已經(jīng)能夠脫離編碼被自由運(yùn)用于更廣泛的領(lǐng)域，但是當(dāng)前“AI換臉術(shù)”的應(yīng)用更多集中在娛樂領(lǐng)域，技術(shù)進(jìn)步與社會(huì)實(shí)踐明顯失衡，導(dǎo)致“AI換臉術(shù)”的市場(chǎng)化過程如同“被打開的潘多拉魔盒”，由此引發(fā)的社會(huì)問題不容忽視。

1.大眾社會(huì)身份的解構(gòu)。肖像既是大眾在社會(huì)交往中用于區(qū)分、辨識(shí)身份的基礎(chǔ)，也是大眾建構(gòu)社會(huì)身份的第一要素。“AI換臉術(shù)”的應(yīng)用打破了社會(huì)大眾明確彼此身份的界限，既是對(duì)大眾肖像、身體、聲音及意識(shí)的剝離，也是對(duì)大眾社會(huì)身份的解構(gòu)?！癆I換臉術(shù)”的使用界限不明及泛娛樂化趨勢(shì)會(huì)導(dǎo)致越來越多的“非本體肖像”充斥在互聯(lián)網(wǎng)平臺(tái)，在媒介化程度不斷加深的當(dāng)下，身份和肖像虛實(shí)難辨。一方面，會(huì)造成社會(huì)身份的混亂，打亂社會(huì)原有的社交秩序；另一方面，會(huì)引發(fā)大眾對(duì)自我身份認(rèn)知的模糊性。

2.倫理道德邊界的沖擊?！癆I換臉術(shù)”的出現(xiàn)是對(duì)媒介倫理和社會(huì)道德的一次沖擊。由于“AI換臉術(shù)”對(duì)人面部特征、表情、動(dòng)作甚至面部光感的模仿越來越逼真，換臉之后的圖片和視頻足以達(dá)到以假亂真的境界，應(yīng)用于影視短視頻及新聞傳播領(lǐng)域，致使虛假內(nèi)容不斷攀升，“有圖有真相”的時(shí)代就此終結(jié)。例如，在美國競選期間，有人利用“AI換臉術(shù)”仿制奧巴馬演講視頻，制造的虛假政治新聞挑戰(zhàn)著媒介權(quán)威。此外，有網(wǎng)友借助“AI換臉術(shù)”將已故親人照片制作成視頻，并與其進(jìn)行隔空的視頻對(duì)話，縱使技術(shù)“溫情”的一面得以被展示，但背后的倫理道德問題始終爭論不休。

3.侵權(quán)違法現(xiàn)象的加劇。“AI換臉術(shù)”作為智媒體時(shí)代的一項(xiàng)新技術(shù)，在為部分行業(yè)提供便利和新發(fā)展方向的同時(shí)，伴隨著法律問題和侵權(quán)糾紛。當(dāng)前，由于“AI換臉術(shù)”的技術(shù)日益成熟，一鍵換臉的便捷性與對(duì)原肖像的極高還原度，使得只需擁有一張肖像照未經(jīng)本人同意便可以隨意使用，許多明星被換臉至多種場(chǎng)合并廣泛傳播，引起大眾誤解，嚴(yán)重侵犯他人的肖像權(quán)和知識(shí)產(chǎn)權(quán)。甚至部分不法分子利用“AI換臉術(shù)”批量生產(chǎn)不雅照片及視頻，以此來吸引流量獲取收益，不僅侵犯他人的肖像權(quán)和名譽(yù)權(quán)，也對(duì)社會(huì)發(fā)展造成嚴(yán)重負(fù)面影響。此外，部分人利用“AI換臉術(shù)”偽造視頻進(jìn)行盜刷和詐騙等違法活動(dòng)，嚴(yán)重?fù)p害他人經(jīng)濟(jì)利益。

4.相關(guān)軟件發(fā)展的混亂。曾經(jīng)紅極一時(shí)的換臉APP“ZAO”通過“完全免費(fèi)、不可撤銷、永久使用用戶肖像”等隱藏的不平等條例對(duì)用戶的肖像和權(quán)利進(jìn)行過度索取和免責(zé)使用，被相關(guān)部門約談后幾乎在一夜之間就銷聲匿跡，因“螞蟻呀嘿”特效爆紅的換臉APP“Avatarify”在中國區(qū)上架一周就被下架。但是，除了“ZAO”“Avatarify”等知名換臉APP能夠被及時(shí)監(jiān)控和發(fā)現(xiàn)之外，微信平臺(tái)和各大應(yīng)用商店還有大量“AI換臉”小程序和APP，這類軟件很容易脫離監(jiān)管范疇，且軟件內(nèi)的很多功能和特效使用均需要收費(fèi)。一方面，收費(fèi)標(biāo)準(zhǔn)的合理性和規(guī)范性得不到保障；另一方面，無形中加大了用戶生物識(shí)別信息及隱私泄露的風(fēng)險(xiǎn)。

三、“AI換臉術(shù)”的發(fā)展方向

2020年全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)等機(jī)構(gòu)發(fā)布《人臉識(shí)別應(yīng)用公眾調(diào)研報(bào)告》（以下簡稱《報(bào)告》），《報(bào)告》顯示超過90%的受訪人群接觸并使用人臉識(shí)別系統(tǒng)，60%的受訪人群對(duì)人臉識(shí)別類技術(shù)表示擔(dān)憂，30%受訪人群表示因人臉信息泄露自身權(quán)利遭到侵害。因此，只有引導(dǎo)大眾理性看待技術(shù)發(fā)展，將“AI換臉術(shù)”的應(yīng)用控制在合理領(lǐng)域，才能夠持續(xù)正向地發(fā)揮“AI換臉術(shù)”的價(jià)值。

1.提升大眾技術(shù)素養(yǎng)。“AI換臉術(shù)”將大眾帶入一個(gè)“狂歡世界”，但對(duì)于部分人而言狂歡是以生物信息和隱私泄露為代價(jià)的，甚至還需要承擔(dān)侵害他人肖像權(quán)、名譽(yù)權(quán)的責(zé)任。智媒體時(shí)代，培養(yǎng)大眾媒介素養(yǎng)是根本，但提升大眾技術(shù)素養(yǎng)才是關(guān)鍵。一方面，大眾應(yīng)當(dāng)增強(qiáng)自身理解技術(shù)的能力，即主動(dòng)了解“AI換臉術(shù)”的技術(shù)原理，正確認(rèn)識(shí)“AI換臉術(shù)”的價(jià)值所在，實(shí)現(xiàn)從技術(shù)狂歡到技術(shù)理性的轉(zhuǎn)變。另一方面，大眾應(yīng)當(dāng)增強(qiáng)自身技術(shù)使用能力，尤其要在倫理道德范疇之內(nèi)使用技術(shù)，從而有效降低有意或無意引發(fā)的侵權(quán)風(fēng)險(xiǎn)。

此外，當(dāng)前以“AI換臉術(shù)”為支撐的各類APP和小程序，很容易便能獲取到用戶的個(gè)人信息，尤其是對(duì)于頻繁使用真人肖像進(jìn)行換臉操作的用戶，這些軟件的留痕和追蹤能力較強(qiáng)，用戶綜合信息在軟件上的安全系數(shù)極低。因此，大眾技術(shù)素養(yǎng)的提升還需體現(xiàn)在對(duì)個(gè)人信息的保護(hù)方面，其一，大眾在進(jìn)行“AI換臉”前應(yīng)認(rèn)真閱讀相關(guān)軟件設(shè)置的使用條例，在了解清楚使用規(guī)則后再使用。其二，針對(duì)不了解的“AI換臉術(shù)”軟件或是非正規(guī)渠道的“AI換臉”軟件，在不清楚是否存在安全隱患的情況下，大眾應(yīng)當(dāng)審慎處理，拒絕授權(quán)個(gè)人信息。其三，為了防止“AI換臉”軟件對(duì)個(gè)人隱私和生物信息的泄露和濫用，大眾需要有意識(shí)地留存使用痕跡，保留相關(guān)證據(jù)，以備舉報(bào)、維權(quán)等不時(shí)之需。

2.推動(dòng)政策法律實(shí)施。鑒于一些“AI換臉術(shù)”的應(yīng)用已嚴(yán)重影響社會(huì)秩序，部分甚至已觸碰法律紅線，若繼續(xù)放任“AI換臉術(shù)”肆意升級(jí)及與其相關(guān)產(chǎn)業(yè)的野蠻生長，必將導(dǎo)致風(fēng)險(xiǎn)日益增長，甚至走向無法預(yù)料和無法控制的境地。因此，推動(dòng)相關(guān)政策和法律的實(shí)施是防止“AI換臉術(shù)”風(fēng)險(xiǎn)升級(jí)的有效方式，能夠打破一直以來的“技術(shù)中立”僵局，引導(dǎo)“AI換臉術(shù)”和與其相關(guān)軟件朝著更加高效、安全的方向發(fā)展。

其一，法律應(yīng)明確與“AI換臉術(shù)”相關(guān)的人身權(quán)利，如隱私權(quán)、肖像權(quán)、知識(shí)產(chǎn)權(quán)及表演者權(quán)等，并完善侵權(quán)表現(xiàn)、維權(quán)途徑及懲戒措施，將“AI換臉術(shù)”引起的風(fēng)險(xiǎn)納入法律監(jiān)管體系中。其二，相關(guān)部門應(yīng)出臺(tái)相應(yīng)政策，結(jié)合“AI算法”的安全評(píng)估制度，徹查“AI換臉術(shù)”軟件市場(chǎng)，及時(shí)處理和下架違反市場(chǎng)規(guī)則、技術(shù)規(guī)則及倫理道德的軟件，規(guī)范“AI換臉”軟件市場(chǎng)發(fā)展。其三，從技術(shù)本身著手，陳列出嚴(yán)禁“AI換臉術(shù)”涉足的領(lǐng)域和從事的活動(dòng)，并要求通過“AI換臉術(shù)”制作的圖片和視頻中必須有“AI換臉”的痕跡，以加水印的方式來幫助大眾識(shí)別真?zhèn)巍?/p>

3.創(chuàng)新多元化應(yīng)用方向?！癆I換臉術(shù)”在多個(gè)領(lǐng)域已顯現(xiàn)出技術(shù)優(yōu)勢(shì)，但過分偏向于商業(yè)領(lǐng)域會(huì)導(dǎo)致“AI換臉術(shù)”只追求經(jīng)濟(jì)效益而忽略社會(huì)效益，技術(shù)的逐利性過強(qiáng)也會(huì)無形之中引起技術(shù)無視倫理道德或是通過彌補(bǔ)技術(shù)漏洞來規(guī)避政策的現(xiàn)象。創(chuàng)新“AI換臉術(shù)”多元化應(yīng)用方向，既能夠讓該技術(shù)在更多領(lǐng)域發(fā)揮價(jià)值，引導(dǎo)“AI換臉術(shù)”為社會(huì)服務(wù)，也能夠通過正規(guī)方式保障技術(shù)的經(jīng)濟(jì)效益，反哺“AI換臉術(shù)”升級(jí)。

“AI換臉術(shù)”除了在影視、娛樂及廣告營銷等領(lǐng)域深入發(fā)展，還應(yīng)當(dāng)在社會(huì)公益領(lǐng)域不斷深耕，促進(jìn)社會(huì)問題的有效解決。例如，“AI換臉術(shù)”可以借助面部識(shí)別和照片識(shí)別功能，修復(fù)老舊照片；通過還原文物資料和歷史人物，輔助歷史文化研究。再如，“AI換臉術(shù)”可以深入公安系統(tǒng)，幫助警務(wù)人員還原與案件相關(guān)的人員樣貌，尤其是針對(duì)幼年走失的兒童，“AI換臉術(shù)”可以結(jié)合走失兒童親屬的樣貌特征，結(jié)合“AI算法”測(cè)算出走失兒童不同年齡段的樣貌，提高公安尋人效率及準(zhǔn)確率。

4.加強(qiáng)反偵察技術(shù)應(yīng)用。面對(duì)“AI換臉術(shù)”濫用、監(jiān)管幅度大及治理難度大等問題，單純依靠政策和法律手段進(jìn)行人為干預(yù)的效果不甚理想，治理速度遠(yuǎn)不及“AI換臉”違法圖片、視頻的生產(chǎn)速度。因此，需要借助技術(shù)力量來制衡技術(shù)發(fā)展，減少對(duì)“AI換臉術(shù)”的濫用。2023年1月10日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式實(shí)施，其中有關(guān)“AI換臉術(shù)”顯著標(biāo)識(shí)中規(guī)定“任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)”，這就需要進(jìn)一步加強(qiáng)AI技術(shù)與區(qū)塊鏈技術(shù)的綜合應(yīng)用，在技術(shù)層面為“AI換臉”作品標(biāo)識(shí)“不可篡改”“不可偽造”加碼。

加強(qiáng)反偵察技術(shù)的應(yīng)用還需要研發(fā)與“AI換臉術(shù)”相對(duì)的“反換臉”檢測(cè)技術(shù)，如美國英特爾公司在2022年11月推出一款名為“Fake Catcher（虛假捕獵者）”的軟件，主要用來檢測(cè)和處理“AI換臉”視頻，該軟件的精準(zhǔn)率高達(dá)96%，有效遏制了“AI換臉術(shù)”的濫用。但是，“反換臉”檢測(cè)技術(shù)容易“一刀切”，對(duì)于部分正常需要“AI換臉術(shù)”支撐的內(nèi)容顯失公平，還需要持續(xù)技術(shù)升級(jí)以開發(fā)分領(lǐng)域、分場(chǎng)景和分對(duì)象的個(gè)性化治理軟件，同時(shí)結(jié)合人工審查和申訴環(huán)節(jié)，保障“AI換臉術(shù)”在合理范圍內(nèi)發(fā)展。

作者單位 韓國世宗大學(xué)

參考文獻(xiàn)

[1]楊叢遜.人工智能時(shí)代AI換臉技術(shù)對(duì)新聞?lì)I(lǐng)域的影響[J].傳播力研究，2020（01）.

[2]萬旭琪.AI換臉視頻中的身份解構(gòu)、倫理爭議與法律風(fēng)險(xiǎn)探究——以“ZAO”App為例[J].東南傳播，2020（03）.

【編輯：朱垚穎】