換臉軟件可能不靈了

還記得火遍全網(wǎng)的換臉 APP《ZAO》嗎？這款應(yīng)用一經(jīng)上線就引爆了社交網(wǎng)絡(luò)，將換臉的門檻拉到新低，只要下載一個 APP 就能輕松玩轉(zhuǎn)換臉。

換臉一時爽，但一旦被濫用，可就不能一直爽了。本月中旬，推特正式發(fā)布了首個反 Deepfake 策略草案。該公司表示，如果 Deepfake 內(nèi)容威脅到某人的人身安全或可能造成嚴(yán)重傷害，他們會將該內(nèi)容從推特上刪除。目前，推特還在為這項草案征集公眾意見。

目前的 Deepfake 視頻 96% 仍為色情內(nèi)容，會對廣大女性造成極大的困擾。此外，美國等國家的政客也擔(dān)心 Deepfake 會被用于抹黑政客、干預(yù)大選，所以一直非常警惕，并敦促各大科技巨頭出臺相應(yīng)措施。

作為響應(yīng)，推特公布了一版關(guān)于打擊 Deepfake 策略草案的細節(jié)。這家社交媒體表示，當(dāng)發(fā)現(xiàn)有人上傳試圖引導(dǎo)大眾或者混淆視聽的 Deepfake 文件時，他們會考慮將該內(nèi)容刪除。

目前，該公司正在進行一項調(diào)查，征集用戶的反饋意見。調(diào)查結(jié)果顯示，用戶認為，如果一個 Deepfake 內(nèi)容對某人的心理健康、隱私、尊嚴(yán)、財產(chǎn)或其他方面造成威脅，該內(nèi)容也應(yīng)該被刪除。

名詞解釋：Deepfake是一種人工智能基礎(chǔ)的人物圖像合成技術(shù)。它用于使用稱為“ 生成對抗性網(wǎng)絡(luò) ”（GAN）的機器學(xué)習(xí)技術(shù)將現(xiàn)有圖像和視頻組合并疊加到源圖像或視頻上?，F(xiàn)有視頻和源視頻的組合產(chǎn)生假視頻，該視頻顯示在現(xiàn)實中從未發(fā)生過的事件中執(zhí)行動作的一個或多個人。

在 AI 技術(shù)的加持下，Deepfake 視頻等內(nèi)容數(shù)量激增，僅去年一年就翻了一番。這讓人們更容易制作以假亂真的音視頻文件，但當(dāng)這種技術(shù)變得人人可用時，事情就越來越危險。因為它導(dǎo)致了“眼見不一定為實”。

2017 年底，Deepfake 剛剛在 Reddit 上火爆起來，網(wǎng)友們?nèi)浩鸲耄虝r間內(nèi)就出現(xiàn)了大量 AI 換臉的視頻——但問題在于，這個“Deepfakes”社區(qū)慢慢變成了色情作品的聚集地，最后被徹底關(guān)閉。

今年 7 月份的時候，有一款叫做“DeepNude”的“自動脫衣”APP 一度火熱，但又迅速下架。它的功能很簡潔卻又很恐怖： APP 可借助神經(jīng)網(wǎng)絡(luò)自動“脫掉”照片中女性身上的衣服，從而展現(xiàn)其裸體。

除了以上不可描述的應(yīng)用，Deepfake 在政治上也容易被不軌之徒所利用。比如在選舉活動中，Deepfake 可以制作某位候選人從未說過或做過的事情的文件，無中生有或者歪曲事實，故意破壞該候選人的聲譽。

幾個月前，美國民主黨議員南?！づ迓逦鳎∟ancy Pelosi）在美國進步中心的一段演講視頻在 Facebook 上瘋傳。視頻中佩洛西的語速被降到了原版的 75% 左右，同時音調(diào)也被人為調(diào)高，陰陽怪氣，宛如醉酒一般。這條惡搞視頻對當(dāng)事人的心理產(chǎn)生了很惡劣的影響，但當(dāng)時 Facebook 拒絕下架該視頻。

該事件引發(fā)了美國政客對這些大型社交媒體的不滿。有消息稱，在 Facebook 決定保留佩洛西“醉酒”的視頻之后，扎克伯格曾試圖打電話給佩洛西，探討社交媒體假視頻的應(yīng)對方案，但卻被佩洛西拒接。之后，美國政府不斷呼吁社交媒體加強對虛假視頻等內(nèi)容的監(jiān)管。

其實，除了推特之外，F(xiàn)acebook、亞馬遜、谷歌等科技巨頭也采取了一系列抵制 Deepfake 假視頻泛濫的措施。

今年 9 月份，F(xiàn)acebook 宣布將斥資 1000 萬美元，與微軟、Partnership on AI 及多所高校共同發(fā)起一場 Deepfake 檢測挑戰(zhàn)賽。他們通過用 GAN 等工具生成的假視頻來測試檢測工具的效果。

10 月份，亞馬遜也宣布支持這場挑戰(zhàn)賽，為機器學(xué)習(xí)專家提供“技術(shù)支持和指導(dǎo)”，并將向需要云服務(wù)以完成檢測工作的團隊提供 100 萬美元的 AWS 積分。他們還將為競賽提供數(shù)據(jù)集等幫助。此外，該項目還涉及來自康奈爾科技大學(xué)、麻省理工學(xué)院、牛津大學(xué)、加州大學(xué)伯克利分校、馬里蘭大學(xué)帕克分校和紐約州立大學(xué)奧爾巴尼的學(xué)者。

當(dāng)然，在這種公益活動面前，“不作惡”的谷歌也不甘落后。今年 10 月份，谷歌宣布開源大型Deepfake 視頻數(shù)據(jù)集，以支持社區(qū)對 Deepfake 檢測的研究。為了制作該數(shù)據(jù)集，谷歌在過去一年中與多名有償和無償演員合作拍攝了數(shù)百個視頻。然后，他們使用公開可用的 Deepfake 生成方法，基于這些視頻創(chuàng)建出數(shù)千個 Deepfake 視頻。即使 Deepfake 代表著人物圖像合成技術(shù)的進步——但在監(jiān)管和審查尚不夠給力的階段，大家面對的仍然是“泥沙俱下”。