“ZAO”背后的社會管理難題

王四新

剛上線的換臉軟件“ZAO”一夜爆紅，同時也帶來很多爭議。除容易想到的版權(quán)、肖像權(quán)問題之外，還引發(fā)人們對用戶隱私和數(shù)據(jù)安全的擔憂。而隱私和個人數(shù)據(jù)安全出問題的話，又會產(chǎn)生社會管理問題。剛開始大家可能更多關(guān)注的是它對用戶產(chǎn)生的影響，而用戶使用軟件過程中又可能對第三方產(chǎn)生大規(guī)模侵權(quán)，并引發(fā)更多的社會管理問題。

雖然目前它已經(jīng)修改了用戶協(xié)議中過度使用“肖像權(quán)”的內(nèi)容，但這并不能解決它所存在的安全問題。換句話說，能不能有效保護消費者的隱私和數(shù)據(jù)安全不是通過用戶協(xié)議來實現(xiàn)的，用戶協(xié)議只是一個方面，更關(guān)鍵的問題是用戶協(xié)議如何落實。用戶數(shù)據(jù)的使用方式和保護方式，也非常重要。如果不對其進行有效監(jiān)管，很可能會出現(xiàn)數(shù)據(jù)被非法使用并對消費者產(chǎn)生更多次生災害的情況。此外，隨著平臺用戶和數(shù)據(jù)的增多，平臺網(wǎng)絡(luò)安全措施是否足以應對用戶激增以后產(chǎn)生的管理風險，也是一個問題。

社會管理的有效進行，建立在可以對行為的實施者進行識別并對之進行追蹤的基礎(chǔ)上的。政府可以運用社會的認證體系提升行為人的責任意識，可以利用證據(jù)等找到真正的罪犯或者說實施者，這是社會管理得以運行的基礎(chǔ)。這類App很容易產(chǎn)生深度偽造（deepfake）的現(xiàn)象，以假亂真的視頻、音頻挑戰(zhàn)了公眾“眼見為實”認知，也挑戰(zhàn)著現(xiàn)有社會管理的基礎(chǔ)。從這個軟件使用的情況來看，如果不嚴格限定其使用范圍和使用方式，它完全有可能為各種各樣的違法者提供技術(shù)上的便利，并給政府的有效監(jiān)管帶來意想不到的挑戰(zhàn)。

實際上，對于類似的新技術(shù)新應用我們國家是有相關(guān)規(guī)定的，國家互聯(lián)網(wǎng)信息辦公室對新技術(shù)新應用，尤其是具有新聞屬性和社會動員功能的新技術(shù)新應用，需要在上線之前進行安全評估。這個軟件具有很明確的社交功能和社交訴求，將其納入評估范圍是沒有任何問題的。不清楚這個軟件有沒有進行安全評估，如果沒有評估，非常有必要對其啟動安全評估程序。

當然我們也不必過于悲觀，通過監(jiān)管部門的嚴格監(jiān)管和企業(yè)社會責任的認真履行，“ZAO”所引發(fā)的擔憂，是可以得到緩解甚至從根本上解決的。將新技術(shù)真正納入到法治、人文、倫理的框架內(nèi)，是能更好地服務(wù)于社會的?！ㄗ髡呤侵袊鴤髅酱髮W政法學院副院長、教授）