AI換臉技術(shù)有多恐怖

常莽

最近，AI換臉應(yīng)用ZAO的出現(xiàn)，引起了軒然大波。ZAO的最大賣點在于可以將視頻中的人臉，通過AI算法PS成另一個人的相貌。只需要把照片上傳到ZAO當中，就能夠?qū)⒁曨lP成相應(yīng)的臉，可謂是操作簡單、效果明了。也因為如此，ZAO一出現(xiàn)就引來了人們的激烈討論，畢竟誰也保不準自己會不會被P進小電影中，變成奇怪劇情的主人公。

雖然ZAO再次點燃了AI換臉技術(shù)的討論熱潮，但是AI換臉引發(fā)爭議，已經(jīng)不是什么新鮮事。早在ZAO上架之前，Deep Fakes就已經(jīng)將AI換臉的恐怖之處刻入人心。為何AI換臉會引起如此程度的驚恐？AI換臉的風行意味著什么？今天就一起來談?wù)勏嚓P(guān)話題吧。

AI換臉技術(shù)是如何走向泛濫的

ZAO將AI換臉技術(shù)再次放置到了聚光燈下，但這并非是AI換臉首次走上歷史舞臺。早在2017年底，國外論壇就已經(jīng)出現(xiàn)了ID為“deepfakes”的用戶，發(fā)布了通過機器學習來更換視頻人臉的AI算法。不過當時該技術(shù)的使用門檻還比較高，需要編譯代碼等操作；而在數(shù)個月后，使用管理DeepFakes技術(shù)的簡易版AI換臉工具FakeApp出現(xiàn)了，就算是普通用戶，也能夠順利操作。

FakeApp令A(yù)I換臉的使用門檻大幅下降，不過它還是需要一定的準備工作。首先它需要安裝額外的運行庫，其次它對硬件有需求，需要高性能顯卡參與運算，其中對N卡的兼容最好。而FakeApp還需要較新版的Windows 10系統(tǒng)才可以安裝，運行起來還得等待一段時間———過程越久效果越好，畢竟機器學習還是需要足夠的時長和樣本，最后，F(xiàn)akeApp就可以生成幾乎以假亂真的AI換臉視頻了。

FakeApp的出現(xiàn)令A(yù)I換臉視頻一度猶如黃河泛濫一發(fā)不可收拾，不少名人都深受其害。例如大名鼎鼎的“神奇女郎”，就莫名其妙成為了色情片里的主演；又例如國內(nèi)很多人都印象深刻的楊冪版小龍女，令人驚嘆演員換臉的奇效。

AI換臉目前已經(jīng)在網(wǎng)絡(luò)上泛濫到怎樣的一種程度呢？我們從幾個細節(jié)就可以看到。首先是AI換臉色情視頻的廣為流傳，俗語云，色情是互聯(lián)網(wǎng)的第一生產(chǎn)力，AI換臉技術(shù)的出現(xiàn)，令色情內(nèi)容的制造者們迎來了狂歡。盡管各網(wǎng)站可能是出于法律風險方面的考慮，紛紛聲明禁止該類換臉視頻的上傳，但止不住人多勢眾，時至今日仍可在這些網(wǎng)站上找到換臉的視頻。

而除了色情網(wǎng)站外，網(wǎng)絡(luò)的多個角落也蔓延著AI換臉視頻。例如在國內(nèi)的視頻站，只要用“AI換臉”為關(guān)鍵詞搜索，輕松就能找到大量使用DeepFakes技術(shù)生成的視頻。而如果想要制造AI換臉視頻，并不需要鉆研代碼，甚至不需要安裝FakeApp。在淘寶上，就有很多商家提供AI換臉視頻制作服務(wù)，只需要幾塊錢或十幾塊錢，就能夠定制一部換臉視頻。

簡而言之，DeepFakes技術(shù)的出現(xiàn)為AI換臉視頻的流行打下了基礎(chǔ)，而FakeApp的誕生則讓AI換臉視頻成為了真正意義上的爆款。而現(xiàn)在，ZAO的出現(xiàn)，極有可能將AI換臉視頻的風險推到一個新的高度。

和“前輩們”相比，ZAO的門檻進一步降低。首先，ZAO不需要復(fù)雜的配置，使用手機APP即可開始制作；其次，它對硬件沒有特別大的需求，ZAO將視頻制作的運算放到了服務(wù)器上，用戶不需要準備高性能的硬件；最后，它的生成速度飛快，視頻上傳后很快就得出結(jié)果。

在ZAO當中，AI換臉視頻即點即成，制作已然不存在門檻。也正因如此，在AI換臉視頻已經(jīng)泛濫的現(xiàn)狀下，ZAO的降臨意味著對這股潮流進一步推波助瀾，令人平添了幾份恐慌。

AI換臉技術(shù)會帶來怎樣的問題

拋開風險來說，AI換臉視頻還是非常有趣的。例如用在電影上，就等于換了個演員，想要體驗顏值高但演技不在線的演員真正會演戲的樣子，可能還真得靠這一技術(shù)；又例如把自己或者朋友熟人的臉換到某個視頻上，在私密間分享，也不失為一種有趣的玩笑———這可比P表情包歡樂多了。

然而這一切，都是忽視風險后的論調(diào)，而憑心而論的話，制作AI換臉視頻是沒辦法不考慮風險的。

首先這對于信息的真實性形成嚴峻的挑戰(zhàn)。PS發(fā)明后，有圖不再有真相；而AI視頻換臉技術(shù)的出現(xiàn)，則讓視頻也開始變得鏡花水月了起來———人們普遍認為視頻可以擔當“實錘”，而現(xiàn)在這把實錘竟可憑空制造，對于本來就假消息滿天飛的互聯(lián)網(wǎng)來說，這無疑會造成進一步的信任崩壞。

其次，這會大大增加侵犯肖像權(quán)的可能，正如文章一開頭所說，沒人愿意自己的臉龐出現(xiàn)在莫名其妙的視頻當中。和多用途的PS等修圖軟件不同，AI換臉技術(shù)的功能只有一個，那就是換臉，從這個角度來說它的存在天然就是一種對肖像權(quán)的威脅。而網(wǎng)站之所以對AI換臉視頻如臨大敵，肖像權(quán)風險就是一大原因。

再者，ZAO這樣的工具還徒增了信息安全的相關(guān)隱患。這主要涉及兩方面。一是ZAO這樣的在線處理機制，流程上必須上傳相應(yīng)肖像，甚至還要填寫詳細的實名制信息，而服務(wù)商是否能妥善保管相關(guān)方面信息是個未知數(shù)，使用ZAO只是為了娛樂，付出這樣的風險代價似乎得不償失；二是類似技術(shù)生成的偽視頻，是否會成為一把破解人臉識別大門的鑰匙？盡管現(xiàn)在生成的視頻有一定局限性，但從機理上來看，假視頻的確比假照片更具這方面的可能。

換言之，AI換臉技術(shù)或許玩著有趣，然而真正的問題在于，這樣風險百出的技術(shù)我們到底玩不玩得起？這非常值得大家深思。

AI換臉技術(shù)可能僅僅只是個開始

由于上述提到的風險，AI換臉技術(shù)已經(jīng)在相當程度上引起恐慌。也難怪，當?shù)弥摷夹g(shù)能夠接近完美捏造假視頻的時候，擔心自己的言行是否會被虛構(gòu)，是很正常的自然反應(yīng)。然而，在警惕AI換臉技術(shù)的同時，我們或許還需要意識到，AI技術(shù)仍在不斷發(fā)展，目前的AI換臉視頻或許遠非終點。

當前的AI換臉技術(shù)已經(jīng)達到了驚人的水準，但目前大多數(shù)的AI換臉仍只涉及視覺。然而事情正在發(fā)生變化———AI換臉已經(jīng)成為了現(xiàn)實，而AI變聲也開始嶄露頭角。谷歌之前曾經(jīng)研究過AI變聲的相應(yīng)技術(shù)，但并沒有大規(guī)模實裝；而國內(nèi)廠商則更加激進，不少研究輸入法的廠商都已經(jīng)嘗試在產(chǎn)品當中推廣AI變聲功能。在一些輸入法當中，現(xiàn)在就可以找到AI變聲的開關(guān)，輸入一段語音后，等待片刻即可生成特定音調(diào)音色的語音，擬真度相當出色。

當然，此類產(chǎn)品限定了AI變聲的模版，但聲音的自由變換、修改相對于我們來說也并不是那么遙遠。例如“Modulate.ai”這個網(wǎng)站，就提供了AI變聲服務(wù)，甚至連奧巴馬的聲音都能完美模仿。

Modulate.ai所使用的變聲技術(shù)和DeepFakes類似，都使用了神經(jīng)網(wǎng)絡(luò)機器學習算法來訓(xùn)練模型，所擬真出來的聲音真假難辨。另外還有“Lyrebird.ai”這個網(wǎng)站，也提供了類似的服務(wù)，而且所提供的模仿對象更加豐富，據(jù)悉多達上千種，包括特朗普、奧巴馬和克林頓等名人的聲音都可以被模仿。

可見，AI變聲技術(shù)已經(jīng)逐漸成熟，它和AI換臉技術(shù)結(jié)合后，會形成威力無窮的組合拳。在之前，就有人結(jié)合AI換臉、AI變聲，偽造一段虛假的奧巴馬演講視頻。視頻當中，奧巴馬指斥特朗普是個“笨蛋”，令人震驚。這段視頻在國外引起了轟動，如果沒有特別標注，恐怕很多人會信以為真。

而這仍不是AI換臉的終點。目前的AI換臉、變聲仍需要一段時間的運算，難以和真人互動。而當AI換臉、變聲可以實時生效時，恐怕連視頻電話的真?zhèn)味茧y以分辨，而人臉識別也將面臨著嚴峻挑戰(zhàn)。到了這步，AI換臉、變聲技術(shù)極可能成為犯罪分子的詐騙、勒索利器。

通過大數(shù)據(jù)和機器學習，AI將特定信息解構(gòu)后，重構(gòu)成為難以分辨的虛假信息，當相應(yīng)的技術(shù)成熟后，虛假信息可以源源不斷地生成，如此高質(zhì)量的虛假信息能夠大批量生產(chǎn)，在歷史上可謂是前所未有。

然而盡管人們對此感到恐慌，但相應(yīng)的應(yīng)用、開發(fā)卻并沒有停下腳步。ZAO自不必說，直接把這樣高風險的技術(shù)做成了娛樂APP，令人們前所未有近距離接觸到了AI構(gòu)建的虛假視頻；而行業(yè)中的巨頭也視此為機遇，蘋果、谷歌、Facebook和微軟等“大佬”都爆出過利用用戶數(shù)據(jù)訓(xùn)練語音、語言模型的新聞，而近年也可以看到AI自動應(yīng)答的邏輯性、自動生成語音的擬真度大幅上漲，用AI構(gòu)建一個完全虛擬的人格，似乎也為期不遠。

在未來，我們或許不僅可以看到逼真的AI換臉、AI變聲，甚至可能連應(yīng)答都由AI來完成。當AI能自動生成以假亂真的面容、聲音乃至語言的時候，互聯(lián)網(wǎng)乃至整個社會該如何應(yīng)對這種身份信息的混亂？現(xiàn)在仍沒有一個好的應(yīng)對方案。

就在不久前，筆者的擔心成真了。《華爾街日報》的最新報道顯示，2019年3月份，有犯罪分子使用AI技術(shù)成功模仿了英國某能源公司在德國母公司CEO的聲音，詐騙了220 000歐元（約1 730 806人民幣）。僅僅依靠AI變聲就能釀造出一宗如此重大的詐騙案，AI騙術(shù)的威力可見一斑。

當詐騙短信進化為AI假視頻、還能夠自動應(yīng)答的時候，我們是否還有方法防范？對于AI擬真技術(shù)的運用，人們應(yīng)該更加謹慎，這不是一項可以隨便曝光于公眾視野的技術(shù)。