技術(shù)應用須守法律、倫理底線

朱巍

從技術(shù)角度講，AI+人臉識別是互聯(lián)網(wǎng)應用發(fā)展方向，顛覆性地改變了移動互聯(lián)網(wǎng)時代的科技應用，也是未來5G時代萬物互聯(lián)、人機互聯(lián)的重要基礎。從法律角度看，人臉識別，特別是AI+人臉識別，平臺獲取的數(shù)據(jù)信息屬于個人信息，是隱私權(quán)法律保護體系中的核心隱私。

盡管隱私權(quán)本質(zhì)屬于民事權(quán)利，如果平臺事先充分告知用戶收集數(shù)據(jù)的范圍、類型和目的，按照合法性、正當性和必要性的基本原則依法使用，一般來說，平臺是可以通過網(wǎng)民協(xié)議等方式處分用戶數(shù)據(jù)信息的。不過，移動端作為網(wǎng)絡支付和社交平臺，人臉識別就好比能夠打開用戶家大門的鑰匙。網(wǎng)民協(xié)議作為君子協(xié)議，平臺好好遵守倒是無妨，一旦發(fā)生了信息泄露或不當使用，這個危害是非常大的，數(shù)據(jù)的可復制性，將注定事后處置不能完全去除危害。

在我國“一法一決定”實施之前，對個人數(shù)據(jù)違法違規(guī)使用問題大都以“亡羊補牢”為主。網(wǎng)安法實施之后，立法將信息數(shù)據(jù)安全置于最高保護地位，重點放到了信息數(shù)據(jù)的提前保護，“未雨綢繆”的新舉措將數(shù)據(jù)信息泄露風險降到了最低。即便數(shù)據(jù)信息沒有被侵害，只是存在較大風險的情況，例如此次“ZAO”軟件的“換臉”應用，相關(guān)機關(guān)也可以依法進行必要的監(jiān)管。

“技術(shù)無罪”，這句話是需要前提的。第一，技術(shù)應該遵守法律?？觳グ竸傔^去沒幾年，P2P技術(shù)被用作傳播淫穢信息，這就是技術(shù)應被法律糾偏的地方。第二，技術(shù)應具有可控性。以網(wǎng)絡信息傳播為例，雖然網(wǎng)絡服務提供者享有“避風港規(guī)則”的法律豁免，但網(wǎng)站必須設置舉報端口和信息過濾機制，如果連基本的信息安全制度都不遵守，那么平臺就需要承擔“紅旗規(guī)則”的法律責任。第三，技術(shù)必須向善。好的技術(shù)發(fā)展不能僅以流量、獲利、生態(tài)和市場占有率為評價方式，好的技術(shù)應該是核心技術(shù)，創(chuàng)新才是技術(shù)發(fā)展的靈魂所在。我們要時刻牢記，技術(shù)本身也是雙刃劍。只考慮賺錢的技術(shù)，最終會失去人心，缺乏社會責任感和道德意識的平臺很難走得遠。

我們必須承認，立法具有一定滯后性，技術(shù)又走得過快，這對矛盾的解決機制中，還有“第三種力量”——道德倫理，技術(shù)的進步必須受到道德性的約束。將人臉識別技術(shù)應用于視頻換臉，甚至作為監(jiān)控學校師生上課的工具，這本身就是不道德的行為。換臉的代價是個人信息的泄露風險、侵害人格權(quán)事件的發(fā)生、影視作品版權(quán)和演員表演權(quán)的損害。監(jiān)控師生上課的代價，是讓教學失去精彩內(nèi)容吸引學生的意義，讓老師失去課堂控制的權(quán)威，讓未成年人敏感信息存在曝光的可能，讓學生失去天真爛漫的天性。

即便是網(wǎng)民協(xié)議寫得再好，法律授權(quán)獲取得再完整，換臉技術(shù)和課堂監(jiān)控仍然不應成為AI+人臉識別的應用場所，前者涉及人格尊嚴和信息安全，后者涉及師道尊嚴和學生自由，這都是倫理道德制約技術(shù)應用的重要體現(xiàn)。

互聯(lián)網(wǎng)下半場的核心競爭力在于創(chuàng)新，只有核心技術(shù)才能帶來真正的市場和紅利，換臉和課堂監(jiān)控這類“花拳繡腿”，特別是在平臺信息安全技術(shù)和制度保障尚未百分之百完備的時候，應盡快喊停。▲

（作者是中國政法大學傳播法研究中心副主任）