AI換臉，風(fēng)險(xiǎn)知多少

李明子

這兩天，微信朋友圈和微博都被一個(gè)名為“Zao–逢聯(lián)造戲”的換臉APP刷屏。

上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號(hào)》中小李子扮演的“杰克”，或是《喜劇之王》里的“柳飄飄”。

只需幾秒，便可跨越AI換臉的高難技術(shù)門(mén)檻，實(shí)現(xiàn)和偶像互動(dòng)飆戲的美夢(mèng)，如APP宣傳語(yǔ)所說(shuō)，“只需一張照片，出演天下好戲”，很難不讓人心動(dòng)。截至9月1日晚，該APP已經(jīng)在蘋(píng)果商店免費(fèi)榜排行第一。

有法律專業(yè)人士提出，該產(chǎn)品涉及侵犯著作權(quán)、肖像權(quán)、隱私權(quán)等諸多法律問(wèn)題，有用戶表示“自己莫名成了權(quán)利侵犯者或受害人，不知道注銷（賬號(hào)）后是否能保護(hù)自己的肖像權(quán)”。但也有網(wǎng)友不懼隱患，直言“只要能和偶像同框，不怕風(fēng)險(xiǎn)”。

引發(fā)這場(chǎng)討論的根源是Zao隱藏在用戶協(xié)議中的霸王條款，一方面過(guò)度攫取用戶授權(quán)，另一方面涉嫌侵犯肖像權(quán)，并甩鍋給用戶。

在最初的用戶協(xié)議中，第6條第1款規(guī)定：“在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實(shí)際權(quán)利人同意授予Zao及其關(guān)聯(lián)公司以及Zao用戶全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯?！?/p>

也就是說(shuō)，用戶同意將自己的肖像授權(quán)給Zao，即便有一天肖像被再次轉(zhuǎn)賣也無(wú)能為力。

同時(shí)，協(xié)議第7條第7款寫(xiě)明：“若您侵害他人名譽(yù)權(quán)、肖像權(quán)、知識(shí)產(chǎn)權(quán)等合法權(quán)利的……Zao可以訴諸行政執(zhí)法機(jī)構(gòu)或司法機(jī)關(guān)，追究相應(yīng)法律責(zé)任。若因您違反本協(xié)議或Zao平臺(tái)的其他規(guī)則導(dǎo)致任何第三方損害的，您應(yīng)當(dāng)獨(dú)立承擔(dān)法律責(zé)任并承擔(dān)損害賠償責(zé)任；Zao及其關(guān)聯(lián)公司遭受損失的，您也應(yīng)當(dāng)一并賠償?！?/p>

翻譯過(guò)來(lái)就是，如果有人起訴被侵犯了肖像權(quán)，Zao可以說(shuō)技術(shù)無(wú)罪，侵權(quán)的是玩換臉游戲的用戶。

這讓上一秒還在感嘆“科技改變生活”的網(wǎng)友坐不住了，Zao也馬上對(duì)協(xié)議作出了修改，新版用戶協(xié)議中刪除了“不可撤銷”“完全免費(fèi)”“永久”等字樣，但問(wèn)題仍未解決。

“我一直認(rèn)為‘AI換臉’隱藏了不可回避的法律問(wèn)題，所以看到Zao出現(xiàn)后，很好奇他們是如何解決的，很遺憾，他們并沒(méi)有解決?！北本樅饴蓭熓聞?wù)所一級(jí)合伙人、律師李昆蔚說(shuō)，協(xié)議修改后，侵犯著作權(quán)、公眾人物肖像權(quán)的問(wèn)題仍沒(méi)有解決，同時(shí)，用戶在注銷賬號(hào)后，動(dòng)態(tài)和靜態(tài)肖像是否可以刪除，為什么區(qū)別對(duì)待公眾人物肖像和普通人的肖像，“這些問(wèn)題需要Zao來(lái)回答，也是我發(fā)問(wèn)的初衷，目前還沒(méi)有收到Zao法務(wù)的回復(fù)?！崩罾ノ嫡f(shuō)。

換臉技術(shù)本身并不新奇，在美國(guó)好萊塢已經(jīng)存在了20多年。2016年上映的《星球大戰(zhàn)外傳：俠盜一號(hào)》還原了《星球大戰(zhàn)4》（1977年）中總督塔金的角色，但其扮演者彼得·庫(kù)欣早在22年前就去世了，特效團(tuán)隊(duì)為此找來(lái)一位長(zhǎng)相酷似彼得的演員進(jìn)行面部表情捕捉，然后用計(jì)算機(jī)動(dòng)畫(huà)（CG）技術(shù)將塔金復(fù)活。不過(guò)盧克斯影業(yè)和迪士尼表示，在制作《星球大戰(zhàn)外傳》時(shí)已經(jīng)取得了彼得家人和產(chǎn)權(quán)繼承人的同意。

將“換臉”推到風(fēng)口浪尖的是一系列融合了AI技術(shù)的“假視頻”。

2017年12月，一個(gè)名為“深度偽造”（deepfakes）的用戶在美國(guó)論壇Reddit上發(fā)布了多段色情視頻，不同的是，他讓電腦學(xué)習(xí)好萊塢女明星的圖像資料，然后把女明星的面部移植到色情片女主角臉上，近乎完美地實(shí)現(xiàn)了動(dòng)態(tài)換臉，這引發(fā)了大量討論和抨擊，最后以賬號(hào)被封告終。

不過(guò)，AI換臉并未消失，用戶“深度偽造”隨后直接開(kāi)源了項(xiàng)目代碼，更多效仿者隨之而來(lái)，為了紀(jì)念他，便用他的名字代稱“AI換臉”技術(shù)。據(jù)說(shuō)，Zao也是基于“深度偽造”開(kāi)源代碼開(kāi)發(fā)出來(lái)的，但Zao并不是第一個(gè)。

2018年1月，一個(gè)名為FakeApp的軟件上線，可實(shí)現(xiàn)“一鍵換臉”，視頻內(nèi)容也是千奇百怪，包括惡搞美國(guó)總統(tǒng)特朗普，或是將自己的臉貼到好萊塢明星的臉上。雖然Reddit明令禁止換臉視頻和圖片在該網(wǎng)站傳播，但仍有超過(guò)9萬(wàn)名用戶在Reddit上傳播這類視頻。

今年6月13日，美國(guó)眾議院情報(bào)委員會(huì)召開(kāi)關(guān)于人工智能深度偽造的聽(tīng)證會(huì)，公開(kāi)談?wù)摿松疃葌卧旒夹g(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。美國(guó)外交政策研究所研究員克林特·瓦茨認(rèn)為，深度偽造技術(shù)對(duì)美國(guó)2020大選具有潛在威脅——若放任偽造視頻擴(kuò)散，則會(huì)對(duì)美國(guó)民主選舉產(chǎn)生不良影響，挫傷選民的積極性。

“AI換臉技術(shù)是成熟的，之所以沒(méi)有被推廣，就是因?yàn)檫€有很多法律、倫理問(wèn)題沒(méi)有討論清楚?！崩罾ノ嫡f(shuō)，“Zao現(xiàn)在的盈利方式還不清楚，但要是為了賺錢(qián)，去做一些鉆法律空子的事情，從而傷害了廣大用戶，是行不通的?！?/p>

除了侵權(quán)問(wèn)題，還有網(wǎng)友擔(dān)心，既然人臉識(shí)別已經(jīng)在支付場(chǎng)景得到應(yīng)用，面部信息泄露，是否會(huì)導(dǎo)致賬戶被盜刷？對(duì)此，支付寶安全中心8月31日發(fā)布公告：“不管換臉軟件多逼真，都無(wú)法突破刷臉支付?！敝Ц秾毎踩行谋硎?，刷臉支付采用的是3D人臉識(shí)別技術(shù)，在進(jìn)行人臉識(shí)別前，也會(huì)通過(guò)軟硬件結(jié)合的方式進(jìn)行檢測(cè)，來(lái)判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來(lái)的身份冒用情況。

瑞士科學(xué)家在一篇論文中就首次對(duì)人臉識(shí)別方法檢測(cè)Deepfake的效果進(jìn)行了較為全面的測(cè)評(píng)，嘗試用最前沿的人臉識(shí)別系統(tǒng)去識(shí)別假視頻，結(jié)果錯(cuò)誤率高達(dá)95%。

《人民法院報(bào)》官網(wǎng)微博評(píng)論道：“試用任何一款新型軟件的時(shí)候一定要認(rèn)真閱讀用戶協(xié)議，多留個(gè)心眼，保護(hù)好自己的各項(xiàng)權(quán)益?！?/p>

“我不知道我們能否為此做好充分準(zhǔn)備，但是我們還可以做更多的工作，確定敵人的計(jì)劃和意圖，盡早找出并揭露它，告知公眾他們需要關(guān)注什么，應(yīng)當(dāng)做什么，而不僅僅忽略他們所看到的一切?！泵绹?guó)眾議院情報(bào)委員會(huì)聽(tīng)證會(huì)主席亞當(dāng)·希夫表示。

雖然沒(méi)有一招制勝的方法，但阻止深度偽造負(fù)面影響蔓延的方法有很多，誠(chéng)如馬里蘭大學(xué)法學(xué)教授丹尼爾·希特龍?jiān)谏鲜雎?tīng)證會(huì)上總結(jié)的，對(duì)深度偽造的內(nèi)容不能一竿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對(duì)影響國(guó)家安全、公共安全、民主政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。涉及刑事犯罪和一般網(wǎng)絡(luò)侵權(quán)的深度偽造適用不同的規(guī)制，監(jiān)管應(yīng)區(qū)別對(duì)待，美國(guó)相關(guān)立法目前主要從刑事犯罪角度對(duì)深度偽造予以規(guī)制。

（摘自《中國(guó)新聞周刊》2019年第33期，作者為該刊記者。標(biāo)題有改動(dòng)）