代表熱議：準備好應(yīng)對AI時代法律風險

姜浩峰

“立法機關(guān)也在加強對人工智能等領(lǐng)域法律問題的研究，不斷建立健全相關(guān)法律制度?！?023年6月25日，全國人大常委會法制工作委員會舉行記者招待會介紹立法相關(guān)工作情況。當時由于“AI換臉”技術(shù)實施詐騙案件屢發(fā)，這一新型網(wǎng)絡(luò)電信詐騙引起社會關(guān)注。當初傳出的訊息是，人工智能法草案進入國務(wù)院年度立法工作計劃，準備提請全國人大常委會審議。

今年全國兩會期間，“AI與安全”仍然是全國人大代表、全國政協(xié)委員們熱議的話題。

全國人大代表、科大訊飛董事長劉慶峰提出加快推動通用人工智能（AGI）發(fā)展的九項建議，全國政協(xié)委員、微博首席執(zhí)行官曹菲及知乎創(chuàng)始人周源提出規(guī)范AI數(shù)據(jù)交易及大模型的數(shù)據(jù)采集相關(guān)的舉措，奇安信董事長齊向東在AI及安全等方面建言。

連續(xù)履職17年的全國人大代表、上海富申評估咨詢集團董事長樊蕓在今年的全國兩會期間接受了《新民周刊》記者的采訪。

現(xiàn)有法律中也有管“AI詐騙”的

經(jīng)過深入調(diào)研，樊蕓對“AI與安全”的看法是——要看到相關(guān)違法行為的本質(zhì)是通過各種手段去追求不正當利益。

且看近期一些案例，頗有典型性。

2月初，香港警方披露了一起多人“AI換臉”詐騙案，涉案金額高達2億港元。這起案件被香港警方定義為“AI深偽”。案件過程是這樣的：一家跨國公司香港分部的職員受邀參加總部首席財務(wù)官發(fā)起的“多人視頻會議”，并按照要求先后轉(zhuǎn)賬多次，他將2億港元分別轉(zhuǎn)賬15次，轉(zhuǎn)到5個本地銀行賬戶內(nèi)。其后，他向總部查詢才知道受騙。警方調(diào)查得知，這起案件中所謂的視頻會議中只有受害人一個人是“真人”，其他“參會人員”都是經(jīng)過“AI換臉”后的詐騙人員。盡管此事發(fā)生在香港地區(qū)，亦引起了內(nèi)地法律界人士的矚目。央視在報道這起案件時如此評論：“這事聽上去似乎匪夷所思，卻真實地發(fā)生了?！?/p>

另一起案件發(fā)生在陜西。西安財務(wù)人員張女士與老板視頻通話，老板要求她轉(zhuǎn)賬186萬元到一個指定賬號。被害人張女士當時理解，這筆款老板要得非常著急。因為視頻顯示的那個“他”的聲音、身影都跟老板一模一樣，張女士信以為真。轉(zhuǎn)賬之后，張女士按照規(guī)定將電子憑證發(fā)到了公司財務(wù)內(nèi)部群里，群里的老板看到信息后，向她詢問這筆資金的來由。被害人張女士感覺不對勁打電話跟老板去核實。報警后，警方立刻對接反詐中心、聯(lián)系相關(guān)銀行進行緊急止付，最終保住了大部分被騙資金——156萬元。

樊蕓向記者分析道：“這兩起詐騙案件，看上去像是升級版的電信詐騙?！痹谒磥?，無論是既有的線下詐騙、電信詐騙，還是新冒出來的AI詐騙，違法者的目的都是不擇手段非法占有不正當利益，從這個角度去看，現(xiàn)有法律也適用于對AI詐騙犯罪的制裁?！叭斯ぶ悄苎苌龅男滦褪侄?，掩蓋不了犯罪分子非法占有的目的。”樊蕓告訴記者，“也正因此，我們才說互聯(lián)網(wǎng)不是法外之地。”

無論是既有的線下詐騙、電信詐騙，還是新冒出來的AI詐騙，違法者的目的都是不擇手段非法占有不正當利益，從這個角度去看，現(xiàn)有法律也適用于對AI詐騙犯罪的制裁。

中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專委會專家薛智慧曾介紹，“AI換臉”過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個關(guān)鍵步驟，其背后最核心的技術(shù)包括三個部分：首先，利用深度學(xué)習(xí)算法精準地識別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征；其次，將這些特征與目標人臉圖像進行匹配、替換、融合；最后，通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假換臉視頻。

樊蕓認為，未經(jīng)他人允許而使用他人肖像，相當于通過偽裝和欺騙的手段去詐騙受害者。這一犯罪路徑是能夠找尋到的。根據(jù)《中華人民共和國民法典》，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。同時，這種手段還涉嫌侵犯著作權(quán)、聲音權(quán)等。樊蕓認為，有關(guān)人工智能法律問題的研究，該關(guān)切現(xiàn)有法律無法涉及、無以適用的領(lǐng)域。

保護個人信息與保障數(shù)據(jù)安全

在2月28日舉行的2024上海網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新大會上記者了解到，上海市經(jīng)濟信息化委組織遴選了34家網(wǎng)絡(luò)和數(shù)據(jù)安全支撐單位，希望各企業(yè)圍繞風險信息報送、工業(yè)互聯(lián)網(wǎng)安全分類分級、工業(yè)數(shù)據(jù)安全分類分級、現(xiàn)場核查、風險評估、應(yīng)急保障、咨詢服務(wù)等7個方向，加快推進工業(yè)信息化領(lǐng)域網(wǎng)絡(luò)和數(shù)據(jù)安全保障體系建設(shè)，推動網(wǎng)絡(luò)和數(shù)據(jù)安全產(chǎn)業(yè)創(chuàng)新發(fā)展。

全國人大代表樊蕓出席十四屆全國人大二次會議。??

上海市經(jīng)濟和信息化委員會總工程師葛東波稱：“目前上海的網(wǎng)絡(luò)安全產(chǎn)業(yè)生態(tài)正持續(xù)完善中，希望加快建設(shè)上海網(wǎng)絡(luò)安全產(chǎn)業(yè)示范園，打造網(wǎng)絡(luò)安全產(chǎn)業(yè)協(xié)同創(chuàng)新中心，開展攻防競賽、聯(lián)合實驗室、在職培訓(xùn)等多途徑人才培養(yǎng)模式?！?/p>

樊蕓認為，人工智能要賦能高質(zhì)量發(fā)展，在市場環(huán)境下，比如在使用數(shù)字人進行一些商業(yè)會議，或者信息披露時，要提前告知。如果以技術(shù)進步為幌子，刻意讓人無法區(qū)分數(shù)字人、虛擬人與真人，并且不是單純的游戲的話，恐怕就涉及欺詐了。

今年全國兩會，樊蕓還提出了《關(guān)于侵犯公民個人信息犯罪涉案企業(yè)合規(guī)專項評估審查標準的建議》。她認為，對侵犯公民個人信息犯罪涉案企業(yè)進行專項合規(guī)評估審查時，應(yīng)當堅持三個原則：一為合規(guī)管理體系建設(shè)與合規(guī)風險相適應(yīng)；二為全面評估審查與重點環(huán)節(jié)評估審查相結(jié)合；三為評估審查標準的統(tǒng)一性與涉案企業(yè)特點相結(jié)合。總之，要以個人信息保護合規(guī)風險整改防控為重點，結(jié)合危害個人權(quán)益、公共利益和國家安全的不同情形，確定合規(guī)重點領(lǐng)域、重點環(huán)節(jié)和重點人員。