Facebook Deepfake 檢測挑戰(zhàn)賽

Senior Technology Writer

人工智能（AI）的力量越來越強大，尤其在越來越逼真的視頻和數(shù)字媒體上表現(xiàn)得最明顯[1]，如新興的AI換臉視頻技術(shù)——深度偽造（Deepfake）[2]。在這一背景下，臉書（Facebook）公司贊助并發(fā)起了一項人臉視頻深度偽造檢測挑戰(zhàn)賽。Deepfake檢測挑戰(zhàn)賽（DFDC）于2019年12月啟動，于2020年3月報名截止[3]。比賽結(jié)果排名見參考文獻[3-5]。雖然比賽結(jié)果并不驚人，但其強調(diào)了識別深度偽造視頻日益增長的挑戰(zhàn)性，為自動檢測策略提供了一個基準，并為進一步研究提供了有益的指導(dǎo)。

在近乎沒有人指導(dǎo)的情況下，深度偽造技術(shù)的先進計算機算法可以自動處理視頻和文本，達到以假亂真的效果[1,6,7]。這種技術(shù)在創(chuàng)造許多積極應(yīng)用的同時也帶來了極大的潛在風(fēng)險，如無意或惡意誤導(dǎo)受眾，傳播虛假新聞和虛假信息[8]。這引發(fā)了計算機科學(xué)家和數(shù)字公民自由主義倡導(dǎo)者的廣泛關(guān)注。

美國紐約州布法羅的紐約州立大學(xué)計算機科學(xué)教授兼媒體取證實驗室主任Siwei Lyu表示：“在我看來，這些工具的發(fā)展極其迅速，并正向著更高質(zhì)量、更真實、更快速的趨勢發(fā)展，只需要一些人臉數(shù)據(jù)，算法就能實時制作出換臉視頻?！?/p>

Facebook公司與AI合作組織（Partnership on AI，位于美國加利福尼亞州舊金山，致力于AI研究和倡導(dǎo)的組織，成員包括谷歌公司和亞馬遜公司）、微軟公司以及來自美國、英國、德國和意大利的大學(xué)的科學(xué)家[3]聯(lián)合組織了DFDC。大賽學(xué)術(shù)顧問Lyu說：“這項挑戰(zhàn)賽引起了研究界的廣泛關(guān)注?！?/p>

大賽提供了10萬多個新創(chuàng)建的10 s換臉視頻短片（DFDC偽造人臉視頻數(shù)據(jù)集）。來自學(xué)術(shù)界和行業(yè)的2114名參賽者用此數(shù)據(jù)集來測試各自的檢測模型[4,9]。參賽者的任務(wù)是識別數(shù)據(jù)集中的深度偽造視頻，其中包括用不同技術(shù)合成的虛假視頻，以及一些不易被現(xiàn)有的檢測模型識別的虛假視頻[3,4]。隨后，用包含4000多個視頻短片的黑盒數(shù)據(jù)集測試算法，這些數(shù)據(jù)集包括訓(xùn)練數(shù)據(jù)集中未出現(xiàn)的一些高級加強版?zhèn)卧煲曨l短片。比賽結(jié)果排行榜和100萬美元獎金獲得者名單已于2020年6月公布。

最優(yōu)的算法模型在已知的訓(xùn)練數(shù)據(jù)集中識別偽造視頻的準確率達80%以上，但是，在更真實的、不可預(yù)見的黑盒測試中，最優(yōu)算法模型的識別準確率只有65%，遠低于在已知訓(xùn)練數(shù)據(jù)集中的識別準確性[4]。其他4支獲勝隊伍的檢測模型的識別準確率與第一名差距不大。Facebook公司發(fā)言人Kristina Milian表示：“比賽結(jié)果顯示的較低準確率強調(diào)了一點，即建立一套能夠概括歸納深度偽造技術(shù)未知領(lǐng)域的系統(tǒng)，仍然是一個亟待解決的難題?！?/p>

美國印第安納州西拉法葉普渡大學(xué)計算機工程學(xué)教授Edward Delp說，“低端偽造”（cheapfakes）幾乎用任何一種機器都可以實現(xiàn)，并且易于發(fā)現(xiàn)，而目前最高端的深度偽造需要復(fù)雜的計算機硬件（包括圖形處理單元）創(chuàng)建?，F(xiàn)實中，每當我們開口說話時，我們的頭或嘴唇會產(chǎn)生微妙但獨特的運動，而在偽造的視頻里這些動作表現(xiàn)得并不明顯。位于白俄羅斯明斯克的地圖公司Mapbox的機器學(xué)習(xí)工程師Selim Seferbekov提交的代碼獲得了DFDC的第一名。該算法借助機器學(xué)習(xí)工具，識別出人的頭部在移動時與背景不一致的像素，從而識別虛假視頻。Delp認為這是一個相當復(fù)雜的方法。

Delp表示，現(xiàn)在的深度偽造代碼會產(chǎn)生干擾因素，例如，調(diào)整或裁剪視頻幀、略微模糊或重新壓縮視頻幀都可能會引入一些偽影，使檢測復(fù)雜化。因此，如DFDC結(jié)果所示，檢測算法的準確性取決于樣本的多樣性和樣本的質(zhì)量。

美國弗吉尼亞州阿靈頓市美國國防部高級研究計劃局（DARPA）信息創(chuàng)新辦公室項目經(jīng)理Matt Turek指出，準確檢測的關(guān)鍵在于正確識別不一致性。除了檢測數(shù)碼贗像，檢測算法還可以檢查視頻的物理完整性，如光線和陰影是否正確匹配，還可以查找語義上的不一致，如視頻中的天氣是否與獨立已知的天氣匹配，還可以分析深度偽造創(chuàng)作和發(fā)現(xiàn)的社會背景，推斷發(fā)布人的意圖[10]。DARPA已經(jīng)在其新的語義取證項目中開始了這一領(lǐng)域的專門研究[11]。

對所有的檢測工作來說，最大的問題可能不是漏識幾個偽造視頻樣本，而是錯誤地標記了原始的真實視頻樣本。美國紐約州紐約大學(xué)的計算機科學(xué)教授Nasir Memon說：“誤報是導(dǎo)致失敗的原因?！彼硎荆偃绱蠖鄶?shù)事件都是良性的，那么基率謬誤總會讓檢測出現(xiàn)問題。例如，在人們每天上傳到Y(jié)ouTube的數(shù)百萬個視頻中，可能只有少部分是篡改偽造的。在這樣的前提下，即使是精確度達到99%的檢測算法也會錯誤地標記成千上萬的良性視頻，從而很難快速捕捉到真正惡意篡改的視頻。Memon說：“對所有問題都做出回應(yīng)是不可能的?！?/p>

一些數(shù)字取證專家，為了減少誤報的影響，將重點放在了問題的另一面，這是DFDC競賽未涉及的。美國紐約州約翰·杰伊刑事司法學(xué)院的計算機科學(xué)教授Shweta Jain表示：“我一直在努力確定非偽造視頻的來源，而不是尋找偽造視頻。”

Jain利用區(qū)塊鏈技術(shù)開發(fā)了E-Witness方法，該方法可為圖像或視頻文件注冊唯一的“hash”或指紋，“hash”或指紋可以重新計算文件并驗證其完整性[12]。Jain解釋，這個過程類似在照片上使用水印，但不同的是原始“hash”標志始終存在于區(qū)塊鏈中，不容易被篡改?！癶ash”可以包括相關(guān)文件的“元數(shù)據(jù)”，如制作圖像或視頻的設(shè)備的信息、位置數(shù)據(jù)以及數(shù)據(jù)壓縮算法。Turek透露，DARPA研究人員也在研究媒體特定來源的安全方法，但仍處于早期開發(fā)階段。

同時，創(chuàng)建形成虛假視頻的算法的能力也越來越強大。這種算法不僅能創(chuàng)建越來越逼真的視頻而且還能逃避檢測[9]。Memon說：“人們總是假想自己的技術(shù)會被對手知曉，這就類似于貓和老鼠的游戲?！痹谶@個游戲角逐中，微軟公司已經(jīng)開發(fā)出深度偽造檢測工具[13]，TikTok公司緊隨Facebook、Twitter等其他社交媒體公司[14,15]，開始采取措施禁止深度偽造技術(shù)在其平臺上使用[16]。