妙鴨相機(jī)“踩了制度紅線(xiàn)”？AI換臉隱私泄露之憂(yōu)

《中國(guó)經(jīng)濟(jì)周刊》 記者 宋杰 | 上海報(bào)道

近期，來(lái)自上海一家企業(yè)開(kāi)發(fā)的小程序“妙鴨相機(jī)”因?yàn)槠涓咦R(shí)別度而迅速走紅?；?.9 元就能擁有4 款發(fā)型的“數(shù)字分身”，選擇其中之一與現(xiàn)有身體模板合成，就能擁有美麗的相片。雖然目前上線(xiàn)的身體模板并不多，但由于該軟件識(shí)別、還原度較高，且收費(fèi)不算貴，因此在朋友圈迅速流行。

同時(shí)，能以假亂真、掩人耳目的AI技術(shù)因在民事方面易引發(fā)肖像權(quán)等侵權(quán)行為，刑事方面易引發(fā)詐騙罪、侵犯公民個(gè)人信息罪等，也引發(fā)了不少爭(zhēng)議。記者查閱中國(guó)裁判文書(shū)網(wǎng)后發(fā)現(xiàn)，從2022 年8 月至今年4 月，共有12起由“AI 換臉”引發(fā)的民事訴訟。

體驗(yàn)：想要得到“完美”數(shù)字分身，記者上傳了60 張照片

“像是像的，就是PS 得很厲害，臉型不太像，五官像，我付了9.9 元，在線(xiàn)上排了9 小時(shí)的隊(duì)。”熱愛(ài)拍美照的葛女士對(duì) 《中國(guó)經(jīng)濟(jì)周刊》 記者說(shuō)，“朋友圈里不知道的同事還問(wèn)我是哪里拍的寫(xiě)真，AI 感不強(qiáng)，因?yàn)樽兏咔寮跋螺d都要額外費(fèi)用，所以我又忍不住充了錢(qián)。”

《中國(guó)經(jīng)濟(jì)周刊》 記者實(shí)測(cè)后發(fā)現(xiàn)，系統(tǒng)要求最少上傳20 張人像照片，上傳的照片分為“達(dá)標(biāo)”“超棒”“完美”三個(gè)等級(jí)，為達(dá)到“完美”等級(jí)，記者前后共上傳了60 張照片，最終成功“換臉”，通過(guò)細(xì)節(jié)調(diào)整進(jìn)一步生成寫(xiě)真，想要高清及下載，還需要充值購(gòu)買(mǎi)“鉆石”。

通過(guò)測(cè)試，《中國(guó)經(jīng)濟(jì)周刊》記者感覺(jué)古裝的造型與本人差距較大，想聯(lián)系人工客服退款，通過(guò)小程序始終無(wú)人應(yīng)答。

除了“像或不像”的問(wèn)題之外，其背后的AI 技術(shù)也引發(fā)了部分用戶(hù)對(duì)隱私泄露的擔(dān)憂(yōu)。有網(wǎng)友質(zhì)疑妙鴨相機(jī)之前的用戶(hù)協(xié)議。

第一版的隱私協(xié)議如是表述：“您特此授權(quán)我方在全世界（包括元宇宙等虛擬空間）范圍內(nèi)享有永久的、不可撤銷(xiāo)的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的、免費(fèi)的和非獨(dú)家的許可，使得我方可以任何形式、任何媒體或技術(shù)（無(wú)論現(xiàn)在已知或以后開(kāi)發(fā)）使用您的內(nèi)容。”

7 月20 日，妙鴨相機(jī)通過(guò)官方微博發(fā)布公告稱(chēng)：已經(jīng)收到用戶(hù)關(guān)于妙鴨用戶(hù)協(xié)議的反饋，原協(xié)議內(nèi)容有誤，已進(jìn)行了修改。妙鴨相機(jī)同時(shí)承諾，消費(fèi)者上傳的照片只會(huì)用于數(shù)字分身制作，不會(huì)提取也不會(huì)用于識(shí)別和其他用途，且分身制作完成后自動(dòng)刪除。

在該條微博評(píng)論留言中，妙鴨相機(jī)回復(fù)網(wǎng)友時(shí)表示，即將上線(xiàn)注銷(xiāo)功能，用戶(hù)可以自主選定是否要清除自己妙鴨的所有數(shù)據(jù)信息，同時(shí)，新版隱私協(xié)議已向包括已簽署過(guò)的老用戶(hù)在內(nèi)的全體用戶(hù)發(fā)起新版協(xié)議簽署流程。

7 月26 日，上海市消保委發(fā)文稱(chēng)：“上海市消保委微信團(tuán)隊(duì)的工作人員翻完該小程序的服務(wù)協(xié)議，并沒(méi)有找到退款相關(guān)條款。唯一跟退款相關(guān)的只有在支付下方的：一旦購(gòu)買(mǎi)成功，不支持退款。上海市消保委認(rèn)為，此項(xiàng)協(xié)議涉嫌侵害消費(fèi)者的公平交易權(quán)。”

7 月27 日，妙鴨相機(jī)運(yùn)營(yíng)方未序網(wǎng)絡(luò)科技公司表示，目前妙鴨相機(jī)在微信公眾號(hào)端已設(shè)有客服入口，但由于團(tuán)隊(duì)處于創(chuàng)業(yè)初期，客服人員配置不足給用戶(hù)造成了不便。對(duì)此，公司表示深感歉意，并承諾將盡快增加客服人員，同時(shí)增加小程序端客服入口，以暢通與用戶(hù)的溝通渠道，高效處理用戶(hù)反饋問(wèn)題。

一旦有糾紛，法院怎么判？

記者通過(guò)查詢(xún)關(guān)鍵詞“AI 換臉”查閱中國(guó)裁判文書(shū)網(wǎng)后發(fā)現(xiàn)，已經(jīng)有不少肖像權(quán)案件，最終法院判決的賠償金在1000～8000 元不等。

比如：在上海市金山區(qū)人民法院的一起關(guān)于肖像權(quán)糾紛的 《民事判決書(shū)》 中這樣寫(xiě)道：“被告在原告未授權(quán)同意的情況下，在其運(yùn)營(yíng)的‘×××’換臉軟件中的‘古風(fēng)漢服’欄目里，上傳以原告肖像為原內(nèi)容的視頻提供給用戶(hù)換臉使用而非法牟利。被告通過(guò)AI 換臉技術(shù)，將該視頻開(kāi)放給眾多用戶(hù)分享并允許用戶(hù)通過(guò)購(gòu)買(mǎi)成為被告的會(huì)員后，自行制作‘換臉’后的視頻以達(dá)到使用該軟件的核心功能的目的?！弊罱K，除被告需道歉外，法院裁定被告賠償原告5200 元。

北京德和衡（上海）律師事務(wù)所高級(jí)聯(lián)席合伙人婁鶴接受《中國(guó)經(jīng)濟(jì)周刊》記者采訪(fǎng)時(shí)說(shuō)，以妙鴨相機(jī)為代表的AI 換臉應(yīng)用程序，主要存在一些個(gè)人信息保護(hù)和數(shù)據(jù)安全方面的潛在隱患。

他分析道，根據(jù)民法典第一千零一十八條：“肖像是通過(guò)影像、雕塑、繪畫(huà)等方式在一定載體上所反映的特定自然人可以被識(shí)別的外部形象。”這表明肖像權(quán)的范圍并不僅限于人的面部特征，還包括佩戴口罩、側(cè)面、形體動(dòng)作等，只要能夠識(shí)別特定自然人的外部形象都受到肖像權(quán)的保護(hù)。民法典明確了侵犯肖像權(quán)的具體行為，其中包括未經(jīng)肖像權(quán)人同意，丑化、污損或者利用信息技術(shù)手段偽造等方式侵犯他人的肖像權(quán)，例如使用AI 換臉技術(shù)。

“在中國(guó)，侵害肖像權(quán)的法律責(zé)任形式，主要是承擔(dān)民事責(zé)任。該民事責(zé)任方式包括停止侵害、消除影響、賠禮道歉、賠償損失。”婁鶴對(duì)記者說(shuō)，在我國(guó)的司法實(shí)踐中，即使侵權(quán)人不以營(yíng)利為目的，只要存在惡意毀損、玷污、丑化公民的肖像，或利用公民肖像進(jìn)行人身攻擊等，也被認(rèn)定為屬于侵害肖像權(quán)的行為。因此，“以營(yíng)利為目的”，并不是決定是否存在侵犯公民肖像權(quán)的唯一前提和要件。在“AI 換臉”案件中，軟件公司通常都是商業(yè)運(yùn)營(yíng)的主體，并以獲取流量或銷(xiāo)售服務(wù)為目的，通常被認(rèn)定為侵權(quán)主體。如果通過(guò)“AI 換臉”，尤其是利用一些明星、名人效應(yīng)“吸粉”，通過(guò)互聯(lián)網(wǎng)傳播換臉后的圖文、視頻等，導(dǎo)致他人社會(huì)評(píng)價(jià)受損，則可能侵犯他人的名譽(yù)權(quán)。

近期，國(guó)家網(wǎng)信辦等七部門(mén)聯(lián)合公布 《生成式人工智能服務(wù)管理暫行辦法》，自2023 年8 月15 日起施行，其中就有許多關(guān)于“個(gè)人信息安全保護(hù)”的條款。出臺(tái)該辦法，既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要。

婁鶴認(rèn)為，對(duì)于企業(yè)而言，在利用AI 技術(shù)提供服務(wù)時(shí)，應(yīng)該提高合法合規(guī)意識(shí)，確保數(shù)據(jù)處理和信息生成的合法性、正當(dāng)性和規(guī)范性，采取措施來(lái)落實(shí)個(gè)人信息保護(hù)的要求，提前進(jìn)行風(fēng)險(xiǎn)評(píng)估，加強(qiáng)消費(fèi)者權(quán)益保護(hù)。

同時(shí)，婁鶴建議，消費(fèi)者在使用AI類(lèi)產(chǎn)品和服務(wù)時(shí)，為了最大程度減少風(fēng)險(xiǎn)隱患，應(yīng)注意以下幾點(diǎn)：要有風(fēng)險(xiǎn)防范意識(shí)，注重個(gè)人信息和隱私保護(hù)；在使用前仔細(xì)閱讀用戶(hù)協(xié)議和隱私政策，了解服務(wù)方對(duì)個(gè)人數(shù)據(jù)的處理和保護(hù)；選擇可信賴(lài)的服務(wù)提供商，確保其具備良好的安全措施和合規(guī)性；盡量避免上傳過(guò)于敏感的個(gè)人照片或信息；如果發(fā)現(xiàn)個(gè)人信息泄露或侵權(quán)事件，要積極主動(dòng)維權(quán)。