AI換臉，不能想換就換

郭洪平

當(dāng)AI換臉技術(shù)被用于詐騙、色情、盜竊、惡搞、非法逐利等方面時(shí)，其不良效應(yīng)也引發(fā)了社會(huì)的關(guān)注和擔(dān)憂(yōu)——放任自流，任其異化，其可能成為侵害他人合法權(quán)益和危害社會(huì)公共安全的工具

上傳一張照片，經(jīng)過(guò)AI技術(shù)算法合成，立即秒變一張你想要的人臉……這樣的事聽(tīng)起來(lái)是不是很有趣？但有趣的同時(shí)，AI換臉也帶來(lái)不少問(wèn)題：不法分子借此制作虛假視頻詐騙錢(qián)財(cái)、利用換臉?lè)绞角趾λ诵は瘛卧烊四樧R(shí)別認(rèn)證從事非法活動(dòng)，等等。專(zhuān)家表示，人工智能新技術(shù)給社會(huì)生活帶來(lái)方便的同時(shí)，也給人們隱私保護(hù)、財(cái)產(chǎn)及人身安全等都敲響了警鐘。

前不久，河北省高陽(yáng)縣網(wǎng)警破獲一起制作、販賣(mài)、傳播淫穢物品牟利案。犯罪嫌疑人李豪通過(guò)QQ群自學(xué)AI換臉技術(shù)，用明星圖片制作淫穢視頻在網(wǎng)上以每10分鐘300元的價(jià)格售賣(mài)，嚴(yán)重侵犯了當(dāng)事人的肖像權(quán)和名譽(yù)權(quán)。李豪還根據(jù)買(mǎi)家特殊需求，提供“私人定制”，由買(mǎi)家提供素人照片資料，李豪再將照片加工制作成淫穢視頻或圖片賣(mài)給買(mǎi)家。經(jīng)調(diào)查，李豪通過(guò)制作、販賣(mài)淫穢物品非法獲利近3萬(wàn)元。目前，李豪被檢察機(jī)關(guān)以涉嫌制作、復(fù)制、出版、販賣(mài)、傳播淫穢物品牟利罪提起公訴。目前，案件尚未宣判。

專(zhuān)家指出，隨著人工智能的發(fā)展，AI換臉門(mén)檻逐漸降低，普通人也能方便地制作換臉視頻，滿(mǎn)足了人們獵奇、美顏、社交等各種需求。但是，當(dāng)這項(xiàng)技術(shù)被用于詐騙、色情、盜竊、惡搞、非法逐利等方面時(shí)，其不良效應(yīng)也引發(fā)了社會(huì)的關(guān)注和擔(dān)憂(yōu)——放任自流，任其異化，可能成為侵害他人合法權(quán)益和危害社會(huì)公共安全的工具。面對(duì)網(wǎng)絡(luò)新風(fēng)險(xiǎn)，需要行業(yè)自律與司法實(shí)踐相結(jié)合加以遏制。不管是經(jīng)營(yíng)者還是使用者，都要秉持科技向善的原則，不能利用這項(xiàng)技術(shù)從事違法犯罪行為。

低門(mén)檻低成本A1換臉被濫用

AI換臉是人工智能新技術(shù)，能把一張臉換成另一張臉，且表情自然，效果逼真，通常只需一張照片即可在特定的軟件上完成替換，準(zhǔn)確度幾乎亂真。當(dāng)然，也有些技術(shù)差的、粗制濫造的“AI臉”是“肉眼可見(jiàn)”的假，只能騙騙低端需求。

“AI換臉原來(lái)難度比較大，一般要三四個(gè)鐘頭或半天才能完成一個(gè)換臉，但現(xiàn)在技術(shù)突破了，換臉過(guò)程比較簡(jiǎn)單。普通人下載一個(gè)換臉App就能完成相關(guān)操作?！北本┠秤耙暪緞?dòng)畫(huà)技師楊先生告訴《方圓》記者，因?yàn)橹谱鏖T(mén)檻和成本越來(lái)越低，AI換臉現(xiàn)在有被濫用的趨勢(shì)。

“網(wǎng)上經(jīng)常能看到一些明星、網(wǎng)紅被換臉的視頻，弄成什么樣的都有。不論什么類(lèi)型的作品，制作人都能夠通過(guò)AI換臉技術(shù)將他想要看到的形象替換上去。”楊先生說(shuō)，有的網(wǎng)站還出現(xiàn)了心懷不軌的人將一線女明星的形象安在了不堪入目的畫(huà)面上，這對(duì)被害人女明星來(lái)說(shuō)影響是很大的。大家都相信眼見(jiàn)為實(shí)，人們看到視頻上不堪的畫(huà)面時(shí)，難免都會(huì)對(duì)女明星產(chǎn)生一些不好的印象。

楊先生說(shuō)，AI換臉技術(shù)發(fā)明之初本來(lái)是用于視頻剪輯以及模擬智能學(xué)習(xí)領(lǐng)域，但現(xiàn)在越來(lái)越被濫用和不受控制。有人曾作過(guò)多次試探，發(fā)現(xiàn)將靜態(tài)照片通過(guò)AI換臉軟件生成動(dòng)態(tài)視頻后，在乘坐地鐵進(jìn)行刷臉支付進(jìn)出站時(shí)可秒過(guò)。不僅如此，在刷臉認(rèn)證小區(qū)門(mén)禁時(shí)也可直接上“視頻”通行。

一名業(yè)內(nèi)人士告訴《方圓》記者，由于線上線下都有換臉需求，目前在一些電商平臺(tái)已悄然形成一個(gè)黑灰產(chǎn)業(yè)鏈：有提供軟件及技術(shù)的，有提供視頻和照片定制的，也有售賣(mài)成品視頻類(lèi)的，“不過(guò)都比較隱蔽，大多數(shù)都進(jìn)行了偽裝，不會(huì)明目張膽地跟人交易，但懂行的人知道他們是干什么的”。

2021年，廣東省廣州市越秀區(qū)檢察院辦理了一起AI換臉民事公益訴訟案。案件特征之一就是涉案的幾名當(dāng)事人彼此間形成了上下游交易關(guān)系。周至組群專(zhuān)門(mén)用于個(gè)人信息非法交易；高文、朱宏、劉斐等人通過(guò)廣告加入群組，按照下家提供的個(gè)人信息，從周至手中購(gòu)得大量與個(gè)人信息相匹配的高清身份證照片，利用照片中的頭像制作AI視頻賣(mài)給下家，賺取差價(jià)。

據(jù)一些懂行的人透露，黑市提供定制換臉視頻的價(jià)格，一般每分鐘80元至100元，具體還要根據(jù)實(shí)際情況來(lái)定，難易程度不同，要價(jià)也有所不同，有的要到每分鐘200元至300元不等。

經(jīng)人指點(diǎn)，《方圓》記者在某寶網(wǎng)上搜索“AI換臉”“deepfake”（深度偽造）等關(guān)鍵詞，出現(xiàn)了不少換臉軟件售賣(mài)信息，包括“商業(yè)背書(shū)視頻”“明星偶像互動(dòng)視頻”“惡搞視頻”等，有的還專(zhuān)門(mén)標(biāo)出了“動(dòng)作逼真清晰”等字樣，還有的能提供換臉視頻制作服務(wù)等。一個(gè)某寶ID為“專(zhuān)業(yè)定制換臉視頻”的賣(mài)家表示，可以代為制作換臉視頻，3分鐘以?xún)?nèi)價(jià)格為300元。

《方圓》記者還在某二手交易平臺(tái)上以3元的價(jià)格購(gòu)買(mǎi)了一款名為“fakeApp”（一鍵換臉）的換臉軟件，根據(jù)教程，導(dǎo)入提供的視頻素材，只需要按“提取”和“合成”鍵等，就可以將視頻素材中的人臉進(jìn)行互換，幾乎看不出痕跡。

“這項(xiàng)技術(shù)的傳播就像打開(kāi)了潘多拉的魔盒，相比于正向應(yīng)用，人們更擔(dān)心它會(huì)被用在灰色領(lǐng)域，成為違法犯罪的幫兇。”騰訊公司技術(shù)專(zhuān)家蔣增增介紹，在金融領(lǐng)域的一些安防場(chǎng)景、網(wǎng)點(diǎn)的柜面都有應(yīng)用人臉識(shí)別技術(shù)。線上銀行的遠(yuǎn)程開(kāi)戶(hù)，P2P借貸也有人臉識(shí)別核驗(yàn)的功能。這些刷臉支付的方式在方便生活的同時(shí)，也存在個(gè)人信息被盜用進(jìn)而影響資金安全的隱患。

業(yè)內(nèi)人士表示，一旦不法分子利用人工智能技術(shù)將他人照片進(jìn)行活化，就可以做出模擬真人的點(diǎn)頭、搖頭、眨眼、說(shuō)話(huà)等行為，極易被用作辦理網(wǎng)貸、盜竊或?qū)嵤┚珳?zhǔn)詐騙。

2021年11月，浙江省杭州市上城區(qū)檢察院辦理過(guò)一起網(wǎng)絡(luò)盜竊案：劉靖、陳叔華、王等共謀，利用AI換臉技術(shù)對(duì)某知名社交平臺(tái)支付人臉認(rèn)證進(jìn)行破解，并和上家共商，利用換臉手段，半個(gè)月內(nèi)盜竊被害人周娟等人賬戶(hù)3萬(wàn)余元，得手后和上家分成非法獲利。

辦案檢察官說(shuō)，劉靖、陳叔華、王等分工明確，由劉靖在各社交群發(fā)布廣告拉業(yè)務(wù)，由陳叔華、王等負(fù)責(zé)操作盜竊來(lái)的社交賬號(hào)和盜取賬號(hào)內(nèi)資金。陳叔華通過(guò)相關(guān)灰色產(chǎn)業(yè)的社交群獲得被害人的社交賬號(hào)、密碼，從網(wǎng)上的黑灰產(chǎn)業(yè)鏈購(gòu)買(mǎi)到被害人的身份證正面照片，并花錢(qián)學(xué)習(xí)了詳細(xì)的AI換臉教程。他們的溝通還設(shè)定了暗語(yǔ)，作案手法非常隱蔽，如果不是及時(shí)將三人抓獲，還可能給其他人造成更大的財(cái)產(chǎn)損失。

背后暗藏不少法律風(fēng)險(xiǎn)和侵權(quán)糾紛

不少案例表明，深度合成技術(shù)快速發(fā)展，在服務(wù)用戶(hù)需求、改進(jìn)用戶(hù)體驗(yàn)的同時(shí)，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等，影響了傳播秩序和社會(huì)秩序，損害了大眾合法權(quán)益。同時(shí)，由于有了換臉、變聲工具，社交媒介上，用戶(hù)可以任意更改性別、國(guó)籍、外貌，仿真度極高、欺騙性極強(qiáng)，后果往往也比較嚴(yán)重。

在中國(guó)政法大學(xué)傳播法研究中心副主任朱巍看來(lái)，AI換臉很大程度上會(huì)造成核心個(gè)人信息的泄露，會(huì)侵犯?jìng)€(gè)人隱私。

“AI換臉需要用手機(jī)號(hào)動(dòng)態(tài)驗(yàn)證碼進(jìn)行驗(yàn)證登錄。用戶(hù)如果想要下載或分享?yè)Q臉視頻，需要進(jìn)行驗(yàn)證確認(rèn)所使用的照片的確是用戶(hù)本人才行，而驗(yàn)證的方式則是在攝像頭前進(jìn)行眨眼、扭頭、張嘴等各種指示動(dòng)作。在這個(gè)過(guò)程中，換臉軟件實(shí)際上已經(jīng)搜集了用戶(hù)的面部識(shí)別信息并加以保存，因此，換臉的過(guò)程實(shí)際上存在嚴(yán)重的核心個(gè)人信息泄露風(fēng)險(xiǎn)?！敝煳≌f(shuō)。

有多年互聯(lián)網(wǎng)案件審判工作經(jīng)驗(yàn)的北京互聯(lián)網(wǎng)法院法官魯寧表示，擅自使用他人肖像制作換臉視頻，可能會(huì)涉嫌構(gòu)成多種民事侵權(quán)行為，如侵犯他人的肖像權(quán)、名譽(yù)權(quán)等。

魯寧說(shuō)，在換臉App中，有人將自己的臉換成明星的臉，將明星的臉換成自己的臉，或者將甲明星的臉換成乙明星的臉。如果換臉后仍然保留了明星的主要面部特征，公眾據(jù)此可以直接辨認(rèn)出明星的身份，那么用戶(hù)的這種行為就有可能侵犯明星的肖像權(quán)。

“如果再將明星的臉換到不雅視頻中，或者換臉后對(duì)明星進(jìn)行惡意丑化，導(dǎo)致公眾誤以為該明星拍攝了不雅視頻，或者做了一些有違道德標(biāo)準(zhǔn)甚至違法違紀(jì)的行為，對(duì)明星產(chǎn)生負(fù)面評(píng)價(jià)或評(píng)價(jià)降低，那么這種換臉行為就可能侵害明星的名譽(yù)權(quán)?！濒攲幷f(shuō)。

“無(wú)論是換臉App的經(jīng)營(yíng)者還是普通網(wǎng)友，凡未經(jīng)影視劇著作權(quán)人的授權(quán)和許可，擅自將換臉后的影視片段通過(guò)網(wǎng)絡(luò)提供給公眾，使公眾可以在其個(gè)人選定的時(shí)間和地點(diǎn)進(jìn)行在線播放甚至下載等，都可能涉嫌侵害影視劇著作權(quán)人的信息網(wǎng)絡(luò)傳播權(quán)。同時(shí)，如果換臉后對(duì)原影視劇片段的主旨進(jìn)行了歪曲篡改，最常見(jiàn)的形式就是惡搞，還有可能侵害影視劇著作權(quán)人的保護(hù)作品完整權(quán)等?！濒攲幈硎?。

還有法律人士認(rèn)為，AI換臉還可能會(huì)給信息的真實(shí)性帶來(lái)挑戰(zhàn)，給科技倫理、人身及財(cái)產(chǎn)安全等帶來(lái)危害?！叭绻褂肁I換臉技術(shù)公然侮辱他人或從事網(wǎng)絡(luò)盜竊、網(wǎng)絡(luò)詐騙等違法活動(dòng)，還可能涉嫌刑事犯罪?！?/p>

東南大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授宋宇波以AI換臉可能給公民人身及財(cái)產(chǎn)安全造成潛在危害舉例說(shuō)，如果單純是為了消遣搞笑而制作換臉視頻，本身并沒(méi)有太多的問(wèn)題，但如果這一技術(shù)被不法分子利用，則會(huì)產(chǎn)生極大危害。

宋宇波認(rèn)為，將名人或明星的臉移植到一些他們本不該出現(xiàn)的場(chǎng)景中，很有可能造成負(fù)面影響。而對(duì)于普通人來(lái)說(shuō)，目前許多金融場(chǎng)所都依賴(lài)于視頻線上識(shí)別進(jìn)行身份核實(shí)，如果不法分子運(yùn)用深度合成中的表情操縱方法生成偽視頻，則很可能造成個(gè)人金錢(qián)損失。

多位法律人士表示，AI換臉技術(shù)的濫用，在現(xiàn)實(shí)生活中引發(fā)了很多侵權(quán)糾紛。北京互聯(lián)網(wǎng)法院曾披露過(guò)一組數(shù)據(jù)：2018年9月至2020年8月，該院共受理利用網(wǎng)絡(luò)侵害人格權(quán)糾紛案6284件，其中涉網(wǎng)絡(luò)侵害肖像權(quán)糾紛的案件就有4109件，占到人格權(quán)糾紛案的65.4%，居于首位。

對(duì)此，吉林大學(xué)法學(xué)院教授侯學(xué)賓等專(zhuān)業(yè)人士表示，AI換臉已讓網(wǎng)絡(luò)侵權(quán)變得更加容易，法律規(guī)制的效果也變得難以實(shí)現(xiàn)。

“AI換臉不只停留于搞怪開(kāi)玩笑，而且更多地被用到色情行業(yè)。在當(dāng)前的AI換臉技術(shù)之前，就有人利用相關(guān)技術(shù)將各種明星的頭像置換到各種色情視頻獲取暴利，現(xiàn)在的換臉技術(shù)只是讓這種做法變得更為便捷?！焙顚W(xué)賓說(shuō)，盡管依據(jù)現(xiàn)有法律可以對(duì)此進(jìn)行規(guī)制，維護(hù)被害人的權(quán)益，但是網(wǎng)絡(luò)的特性讓這種照片或視頻很難被完全消除，被侵權(quán)者只能默默忍受由此帶來(lái)的傷害。

若使用必須獲得單獨(dú)授權(quán)

的確，技術(shù)的發(fā)展讓AI換臉變簡(jiǎn)單了，下載相關(guān)的App就能實(shí)現(xiàn)一鍵換臉。閑暇無(wú)聊之時(shí)，下個(gè)換臉軟件消遣一番，也不失為一種娛樂(lè)方式。不過(guò)，在法律人士看來(lái)，雖然AI換臉的門(mén)檻和成本變低了，換臉操作好像無(wú)時(shí)不在無(wú)處不在，但也并不是說(shuō)想換就換，無(wú)所顧忌。在換臉這場(chǎng)“狂歡”里，仍然需要合理的邊界和尺度。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)法工委副秘書(shū)長(zhǎng)、中消協(xié)律師胡鋼表示，AI換臉本身是一項(xiàng)中性技術(shù)，提供的只是一種解決問(wèn)題的方式。網(wǎng)友通過(guò)某種方式創(chuàng)作一些內(nèi)容并完成有關(guān)表演，是法律規(guī)定公民所享有的權(quán)利。但任何一項(xiàng)言論或行為自由，都要和相關(guān)義務(wù)、責(zé)任進(jìn)行匹配，可以有自由，但自由的邊界是不得侵犯其他個(gè)人或組織的利益，也不能損害公共利益，對(duì)此必須有清晰的法律界限。

一些研究人員也表示，不同的人使用AI換臉技術(shù)，可能出于不同目的或動(dòng)機(jī)，雖然采用同樣的技術(shù)，但所產(chǎn)生的社會(huì)效果和法律效果并不相同。AI換臉技術(shù)的開(kāi)發(fā)者和經(jīng)營(yíng)者在授權(quán)他人使用相關(guān)產(chǎn)品時(shí)，一定要明白科技倫理的概念，考慮這項(xiàng)技術(shù)在法律上、倫理上是否可能被濫用，在開(kāi)放過(guò)程中應(yīng)當(dāng)采取更加合法合規(guī)的措施和方式，以及注意后期的預(yù)防措施等。

“比如，產(chǎn)品所展現(xiàn)的圖像本身或聲音本身，開(kāi)發(fā)運(yùn)營(yíng)者是否強(qiáng)調(diào)了這是經(jīng)過(guò)AI技術(shù)處理的內(nèi)容，是否標(biāo)注了僅用于表演、娛樂(lè)字樣等。這種重要的提示完全可以嵌入到相關(guān)開(kāi)發(fā)技術(shù)運(yùn)營(yíng)單位的經(jīng)營(yíng)流程之中，如果能牢牢守住這一點(diǎn)，就能避免一些法律風(fēng)險(xiǎn)，如果守不住，就可能引來(lái)一些麻煩?！睂?zhuān)家說(shuō)。

2022年12月，杭州互聯(lián)網(wǎng)法院審理過(guò)一起因AI換臉App利用深度合成算法侵害他人肖像權(quán)案件，最終判決App開(kāi)發(fā)者賠禮道歉并賠償損失共5000元。

原告樓曉云是一名古風(fēng)模特，2022年3月，其在某短視頻平臺(tái)發(fā)布過(guò)一段古風(fēng)漢服短視頻。被告上海某公司是一款A(yù)I換臉App的運(yùn)營(yíng)主體。該App宣傳“僅需一張照片，立即變成視頻主角”“只需一張自拍，馬上改頭換面”。用戶(hù)通過(guò)支付68元至198元不等的會(huì)員費(fèi)，即可使用全部“換臉”視頻模板。

原告樓曉云發(fā)現(xiàn)，被告上海某公司運(yùn)營(yíng)的AI換臉App中有她拍攝的古風(fēng)造型視頻模板。用戶(hù)可通過(guò)上傳個(gè)人照片，將視頻模板中的人臉替換成用戶(hù)上傳的人臉，除五官發(fā)生實(shí)質(zhì)性變化外，其余內(nèi)容都與原視頻保持一致。軟件生成換臉后的古風(fēng)造型視頻，用戶(hù)可以將其保存并分享到其他平臺(tái)。樓曉云認(rèn)為，上海該公司的行為侵害其肖像權(quán)，請(qǐng)求法院判令該公司承擔(dān)停止侵權(quán)、賠禮道歉并賠償損失的責(zé)任。

法院審理認(rèn)為，民法典明確將“不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”作為侵害肖像權(quán)的一種典型形態(tài)予以規(guī)制。在這起案件中，樓曉云對(duì)案涉要素模板視頻及替換后視頻中所載對(duì)應(yīng)形象的人物肖像均享有肖像權(quán)。被告上海某公司未經(jīng)樓曉云同意，通過(guò)技術(shù)手段提取涉案古風(fēng)肖像視頻，并擅自上傳至其運(yùn)營(yíng)的換臉App中供用戶(hù)選擇使用，該行為已侵害樓曉云肖像權(quán)，依法應(yīng)認(rèn)定為構(gòu)成對(duì)樓曉云肖像權(quán)的侵害。

法官表示，自然人的肖像權(quán)具有絕對(duì)性、專(zhuān)屬性、排他性，人臉信息屬于個(gè)人信息保護(hù)法予以特殊保護(hù)的生物識(shí)別信息，面部形象的主人有權(quán)拒絕將其面部移轉(zhuǎn)至他人面部形象或身體形象中。因此，深度合成服務(wù)提供者提供人臉等生物識(shí)別信息編輯功能的，必須具有特定的目的和充分的必要性，采取嚴(yán)格保護(hù)措施，并取得被編輯的個(gè)人信息主體的單獨(dú)授權(quán)才行。沒(méi)有授權(quán)就是侵權(quán)。法院據(jù)此作出判決后，被告上海某公司沒(méi)有上訴，目前判決已經(jīng)生效。

專(zhuān)家指出，使用個(gè)人信息要獲得個(gè)人信息主體單獨(dú)授權(quán)，是法律對(duì)公民肖像權(quán)的有力保護(hù)。民法典、網(wǎng)絡(luò)安全法、個(gè)人信息保護(hù)法以及《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)，對(duì)生物識(shí)別、生成合成類(lèi)內(nèi)容等提出了不同程度的規(guī)制要求。于2023年1月10日施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》又進(jìn)一步明確，提供深度合成服務(wù)，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)。若提供人臉、人聲等生物識(shí)別信息的顯著編輯功能，還需取得個(gè)人信息主體的單獨(dú)同意。“這是必要的信息告知，可以大大減少誤會(huì)和誤判的可能，避免公眾混淆或者誤認(rèn)，對(duì)于嚴(yán)格區(qū)分玩笑與欺騙很有意義?！睂?zhuān)家說(shuō)。

普通人更要防止“被偷臉”

實(shí)際上，防止隨意AI換臉不光是技術(shù)開(kāi)發(fā)者和經(jīng)營(yíng)者的基本責(zé)任，也是每個(gè)人都要有的一種自我保護(hù)意識(shí)。

北京一位律師說(shuō)，生活中我們遇到的一些AI換臉情況，主要是網(wǎng)紅和明星居多，因?yàn)樗ㄋ﹤兩鐣?huì)關(guān)注度高，容易吸引眼球，大家就以為AI換臉好像是網(wǎng)紅和明星的事，和普通人關(guān)系不大。實(shí)際上這是一種錯(cuò)覺(jué)，AI換臉不是網(wǎng)紅、明星的專(zhuān)利，它離我們每個(gè)人其實(shí)很近，有時(shí)就在身邊。

北京某安防公司一位專(zhuān)家說(shuō)，從技術(shù)上看，現(xiàn)在的技術(shù)采集人臉信息非常簡(jiǎn)單，只要有攝像頭就可以不間斷采集。很多人都有這種感受，收集并使用人臉數(shù)據(jù)的工具和場(chǎng)景，正變得越來(lái)越多：擁有相冊(cè)讀取權(quán)限的App、提供人臉解鎖功能的手機(jī)廠商、進(jìn)行身份驗(yàn)證和面部檢測(cè)的各種金融類(lèi)App，甚至是辦公樓里的刷臉出入系統(tǒng)，以及無(wú)處不在的安防攝像頭等。

這位專(zhuān)家說(shuō)，除了少數(shù)采集者有采集明示或獲得用戶(hù)同意外，大量場(chǎng)景下的人臉信息采集，悄無(wú)聲息。部分商城會(huì)運(yùn)用人臉識(shí)別技術(shù)，收集顧客的行為和購(gòu)買(mǎi)手段。一些高校運(yùn)用人臉識(shí)別技術(shù)收集學(xué)生的抬頭率、微表情、上課的姿態(tài)。另外，基于人臉圖像分析的換臉、美妝、性格判斷、健康狀態(tài)預(yù)測(cè)等應(yīng)用也很常見(jiàn)。

“這些靜悄悄的收集方式，具有無(wú)意識(shí)性與非接觸性，可以遠(yuǎn)距離發(fā)揮作用，并能長(zhǎng)時(shí)間大規(guī)模地積累數(shù)據(jù)而不被用戶(hù)察覺(jué)，具有很強(qiáng)的侵入性?！币晃环扇耸扛嬖V《方圓》記者，近年來(lái)發(fā)生的一些AI換臉案件或糾紛，相關(guān)采集機(jī)構(gòu)或人員就是這樣收集人臉數(shù)據(jù)進(jìn)而轉(zhuǎn)賣(mài)進(jìn)行牟利的。

2021年4月，安徽合肥警方打掉一個(gè)網(wǎng)絡(luò)犯罪團(tuán)伙，偵查人員從犯罪嫌疑人電腦里發(fā)現(xiàn)了10G多公民人臉數(shù)據(jù)，分門(mén)別類(lèi)存放在不同電子文件夾中，而人臉數(shù)據(jù)中的當(dāng)事人對(duì)此毫不知情。

法律人士提醒，防偷臉、防換臉不光是明星網(wǎng)紅的事，普通人更要增強(qiáng)這方面的意識(shí)，看護(hù)好自己的人臉信息。

“作為普通個(gè)人，應(yīng)當(dāng)保護(hù)好自己的生物信息，避免使用收集指紋、人臉識(shí)別等生物信息的公共設(shè)施設(shè)備。對(duì)于居民小區(qū)、寫(xiě)字樓、經(jīng)營(yíng)場(chǎng)所強(qiáng)制要求業(yè)主或進(jìn)出人員使用人臉、指紋識(shí)別通行，而未給予其他選擇的，可向相關(guān)單位的監(jiān)管部門(mén)反映和舉報(bào)?！彼拇òl(fā)現(xiàn)律師事務(wù)所律師黃鴻彬說(shuō)。

黃鴻彬建議，個(gè)人在使用手機(jī)App或登錄網(wǎng)站時(shí)，應(yīng)仔細(xì)閱讀相關(guān)的告知書(shū)和風(fēng)險(xiǎn)提示，如發(fā)現(xiàn)有泄露個(gè)人信息風(fēng)險(xiǎn)時(shí)應(yīng)停止使用或者使用其他替代方式登錄?！霸囉萌魏我豢钚滦蛙浖欢ㄒJ(rèn)真閱讀用戶(hù)協(xié)議，多留個(gè)心眼?！彼嵝丫用?，如果發(fā)現(xiàn)自己的人臉信息被盜用，可通過(guò)提起民事訴訟要求盜用人停止侵權(quán)、賠禮道歉并賠償損失。如果發(fā)現(xiàn)盜用人可能存在大量收集個(gè)人信息的情況或者利用人臉信息實(shí)施其他犯罪時(shí)，可在第一時(shí)間向公安機(jī)關(guān)報(bào)案。

一些專(zhuān)業(yè)人士也建議，為防范被偷臉情況發(fā)生，有幾件事盡量不要做——一是不要在網(wǎng)上亂發(fā)帶有自己指紋信息的照片。不要在不可信的設(shè)備上錄入自己的指紋。用完指紋鎖或者手機(jī)后，把傳感器表面上擦一下，通過(guò)這個(gè)動(dòng)作可把指紋圖像完全模糊化，讓其失去提取的價(jià)值。二是對(duì)于一些要求上傳手持身份證照片或視頻的服務(wù)，應(yīng)保持警惕。三是不下載、不使用來(lái)歷不明的應(yīng)用程序。避免使用陌生的無(wú)安全防護(hù)的Wi-Fi。四是使用虹膜驗(yàn)證身份的敏感人群，不要隨意上傳照片到網(wǎng)絡(luò)，也不要輕易接受他人拍攝照片的要求。

“家中有老人的，要做好宣傳防范工作。提醒老年人在接到電話(huà)、短信時(shí)，要放下電話(huà)，再次撥打家人電話(huà)確認(rèn)一下，不要貿(mào)然轉(zhuǎn)賬。尤其是對(duì)于不明平臺(tái)發(fā)來(lái)的廣告、中獎(jiǎng)、交友等鏈接提高警惕，不要隨意填寫(xiě)個(gè)人信息，上傳照片，以免被騙子‘精準(zhǔn)圍獵。”專(zhuān)家說(shuō)，生物信息是個(gè)人信息安全的最后一道防線，一定要守護(hù)好。即便有識(shí)別技術(shù)，也應(yīng)保持警惕心理，不以此技害人，也不被此技所害。

擰緊安全閥需要法律和技術(shù)雙管齊下

專(zhuān)家指出，深度偽造技術(shù)的濫用，確實(shí)給人們生活和社會(huì)穩(wěn)定帶來(lái)諸多問(wèn)題和挑戰(zhàn)，而且隨著仿真精度的提升，這種問(wèn)題還有愈演愈烈的趨勢(shì)。但技術(shù)畢竟是中立的，也是不可遏制的潮流，大眾對(duì)此無(wú)須談之色變，而更應(yīng)審視技術(shù)背后的責(zé)任和意圖以及如何管控。

幾位技術(shù)研究人員告訴《方圓》記者，既然AI時(shí)代已經(jīng)到來(lái)，那大家應(yīng)該做好積極應(yīng)對(duì)，保證新技術(shù)被正當(dāng)使用，不能放任自流，任其異化，成為侵害他人合法權(quán)益和危害社會(huì)公共安全的工具?！爸匾氖菙Q緊‘安全閥，這就需要法律和技術(shù)雙管齊下——在法律層面，AI作惡必須有‘緊箍咒管它；在技術(shù)層面，‘魔高一尺還要有‘道高一丈進(jìn)行抗衡?！?/p>

《方圓》記者看到，針對(duì)近年來(lái)AI換臉亂象不斷的情況，國(guó)家網(wǎng)信辦、各地網(wǎng)警、檢察機(jī)關(guān)、審判機(jī)關(guān)等相關(guān)部門(mén)協(xié)調(diào)配合，加大對(duì)涉及AI換臉違規(guī)違法現(xiàn)象的整治打擊力度，辦理了不少民事和刑事案件，出臺(tái)了多項(xiàng)政策法規(guī)加強(qiáng)治理，效果非常明顯。

比如，檢察公益訴訟在涉人臉識(shí)別公民個(gè)人信息保護(hù)中已經(jīng)發(fā)揮了積極作用。上文提到的廣州市越秀區(qū)檢察院于2021年辦理的AI換臉民事公益訴訟案中，在越秀區(qū)法院對(duì)周至等4人以犯侵犯公民個(gè)人信息罪分別判處有期徒刑和罰金后，越秀區(qū)檢察院再次對(duì)此案向廣州互聯(lián)網(wǎng)法院提起民事公益訴訟。除了要求周至等被告人停止侵害、支付公益損害賠償金、公開(kāi)賠禮道歉外，檢察院還提出以行為補(bǔ)償?shù)姆绞綇浹a(bǔ)和修復(fù)其行為對(duì)社會(huì)公共利益造成損害的訴訟請(qǐng)求。

“周至等人需要通過(guò)參加與個(gè)人信息保護(hù)相關(guān)的警示教育、公益宣傳、志愿服務(wù)等方式進(jìn)行行為補(bǔ)償，以彌補(bǔ)和修復(fù)其行為對(duì)社會(huì)公共利益造成的損害，消除不法行為造成的不良影響。”承辦檢察官說(shuō)。

2022年2月25日，廣州互聯(lián)網(wǎng)法院公開(kāi)審理此案。7月11日，這起廣東省首例向互聯(lián)網(wǎng)法院提起的涉人臉識(shí)別公民個(gè)人信息保護(hù)民事公益訴訟案公開(kāi)宣判，法院支持了檢察院的主張，判決被告周至、高文、朱宏、劉斐立即停止對(duì)公民個(gè)人信息的侵害、支付公益損害賠償金、公開(kāi)賠禮道歉并以行為補(bǔ)償彌補(bǔ)損害。

這種“治標(biāo)也要治本”，除了給予處罰也要讓大家“長(zhǎng)記性”的處理思路，值得進(jìn)一步關(guān)注和思考。

目前，我國(guó)刑法、民法典，以及國(guó)家有關(guān)部門(mén)出臺(tái)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等多部法律法規(guī)及政策規(guī)定，均涉及深度合成應(yīng)用的規(guī)范、侵權(quán)責(zé)任等內(nèi)容。尤其是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰作出具體規(guī)定，并對(duì)作為深度合成服務(wù)提供者的平臺(tái)方進(jìn)行審核、評(píng)估、監(jiān)管等都提出了明確的要求。

“現(xiàn)在能想象到的AI換臉技術(shù)運(yùn)用場(chǎng)景，都沒(méi)有逸出現(xiàn)行法律法規(guī)及行業(yè)規(guī)定約束范圍，一些機(jī)構(gòu)和人員一旦涉及違法，都能找到相應(yīng)領(lǐng)域的法律和制度規(guī)范予以打擊。所以，大眾對(duì)AI換臉技術(shù)不用過(guò)于擔(dān)心，只要增強(qiáng)防范意識(shí)就好。”一位律師說(shuō)。

不過(guò)，在一些專(zhuān)業(yè)人士看來(lái)，目前對(duì)于深度合成服務(wù)與應(yīng)用方面的規(guī)范還需進(jìn)一步細(xì)化和明確，要從法律和技術(shù)方面加以約束。

浙江墾丁律師事務(wù)所元宇宙法律研究部成員程念認(rèn)為，深度合成技術(shù)相關(guān)的一些概念界定、平臺(tái)責(zé)任邊界等問(wèn)題的確定，在法律上面臨挑戰(zhàn)，需要加以明晰。

專(zhuān)業(yè)人員說(shuō)，網(wǎng)絡(luò)平臺(tái)應(yīng)強(qiáng)化內(nèi)容審核，強(qiáng)制要求使用深度合成技術(shù)的內(nèi)容信息必須提供顯著標(biāo)識(shí)功能，對(duì)發(fā)布者故意將合成內(nèi)容偽造成真實(shí)信息等問(wèn)題，第一時(shí)間封停賬號(hào)，并向監(jiān)管部門(mén)報(bào)告。

北京京師律師事務(wù)所律師王琮瑋認(rèn)為，對(duì)于利用AI技術(shù)進(jìn)行的犯罪行為，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》所規(guī)范的只是提供符合市場(chǎng)需求的應(yīng)用技術(shù)，而對(duì)于這一技術(shù)被濫用甚至從事違法犯罪行為并不能起到限制或禁止作用，當(dāng)AI技術(shù)的使用上升到刑事法律層面，還需要刑法來(lái)調(diào)整。

北京瑞萊智慧科技有限公司專(zhuān)家唐家渝認(rèn)為，在AI技術(shù)合規(guī)性方面，目前還缺乏一套科學(xué)嚴(yán)謹(jǐn)?shù)臉?biāo)準(zhǔn)機(jī)制。未來(lái)應(yīng)引導(dǎo)學(xué)術(shù)界、產(chǎn)業(yè)界不斷加強(qiáng)技術(shù)研究，利用技術(shù)創(chuàng)新、技術(shù)對(duì)抗等方式，持續(xù)提升和迭代深度合成檢測(cè)能力，并擴(kuò)展深度合成溯源、深度合成鑒定等方面的研究。

專(zhuān)家表示，深度偽造技術(shù)正在不斷演進(jìn)，AI換臉泄露個(gè)人隱私給人們?cè)斐傻睦_是互聯(lián)網(wǎng)技術(shù)發(fā)展過(guò)程中不可回避的問(wèn)題。對(duì)于網(wǎng)絡(luò)新風(fēng)險(xiǎn)的防控治理，騰訊安全專(zhuān)家石追認(rèn)為，數(shù)據(jù)安全風(fēng)險(xiǎn)源復(fù)雜且動(dòng)態(tài)，需要App開(kāi)發(fā)者、應(yīng)用分發(fā)商、操作系統(tǒng)、終端廠商、SDK和API等多環(huán)節(jié)多場(chǎng)景多主體共力協(xié)同，行業(yè)自律與司法實(shí)踐相結(jié)合，才能發(fā)揮成效。

“尤其是行業(yè)和監(jiān)管部門(mén)應(yīng)當(dāng)加快技術(shù)升級(jí)，研發(fā)相應(yīng)的‘反換臉檢測(cè)技術(shù)，加快建立人工智能算法的安全評(píng)估制度，解決相關(guān)技術(shù)濫用問(wèn)題。監(jiān)管部門(mén)對(duì)于違法侵權(quán)視頻，要重點(diǎn)關(guān)注和監(jiān)測(cè)，對(duì)可能造成惡劣社會(huì)影響、危害國(guó)家安全和社會(huì)公共利益的換臉視頻，要嚴(yán)格監(jiān)管，對(duì)違法侵權(quán)行為重拳出擊?！敝袊?guó)傳媒大學(xué)教授王四新說(shuō)。（文中涉案人員均為化名）