或推動(dòng)人工智能前瞻性立法進(jìn)程

趙麗

記者：針對(duì)AI深度換臉技術(shù)風(fēng)險(xiǎn)多發(fā)，有關(guān)網(wǎng)絡(luò)安全法律專家認(rèn)為，必須高度警惕這種技術(shù)被惡意使用的風(fēng)險(xiǎn)，盡快開展法律風(fēng)險(xiǎn)評(píng)估。

王四新（中國傳媒大學(xué)網(wǎng)絡(luò)法與知識(shí)產(chǎn)權(quán)研究中心主任）：我們需要對(duì)它進(jìn)行安全評(píng)估，這種安全評(píng)估也是有法律依據(jù)的，網(wǎng)絡(luò)安全法、網(wǎng)信辦制定的規(guī)范性文件都有相應(yīng)要求。安全評(píng)估需要弄清楚的是，實(shí)際運(yùn)作過程中可能會(huì)存在哪些風(fēng)險(xiǎn)，針對(duì)這些風(fēng)險(xiǎn)，我們可以采取哪些措施。只有這些問題全部落實(shí)，才可以正常運(yùn)轉(zhuǎn)。

記者：今年6月13日，美國眾議院情報(bào)委員會(huì)召開關(guān)于人工智能深度偽造的聽證會(huì)，公開談?wù)摿松疃葌卧旒夹g(shù)對(duì)國家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。隨著AI技術(shù)的深度應(yīng)用，也有不少業(yè)內(nèi)人士提出，我們必須高度警惕這種技術(shù)被惡意使用的風(fēng)險(xiǎn)。但對(duì)深度偽造的內(nèi)容不能一棍子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，只有影響國家安全、公共安全、民主政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。涉及刑事犯罪和一般網(wǎng)絡(luò)侵權(quán)的深度偽造適用不同的規(guī)制。

王四新：要構(gòu)建非常完備的內(nèi)部制度，或者說構(gòu)建一個(gè)比較好的體制和機(jī)制，對(duì)于這些發(fā)展過程中出現(xiàn)的問題，有一些特殊的流程。同時(shí)，還要建立有效的反饋機(jī)制。

鄭寧（中國傳媒大學(xué)政法學(xué)院法律系副主任）：對(duì)于深度偽造，要具體問題具體分析。如果不影響國家安全、公共安全、公民個(gè)人權(quán)利，比如電影特效，就不用太多干預(yù)，如果有影響才應(yīng)當(dāng)加以監(jiān)管。具體的法律責(zé)任要看違法的嚴(yán)重程度，然后來判斷承擔(dān)民事責(zé)任、行政責(zé)任還是刑事責(zé)任。

記者：有專家建議，立法部門應(yīng)緊跟國際人工智能技術(shù)最新進(jìn)展，聯(lián)合國內(nèi)專業(yè)研究力量，評(píng)估這項(xiàng)新技術(shù)可能帶來的法律風(fēng)險(xiǎn)，以及對(duì)國家安全等構(gòu)成的威脅，加快對(duì)類似新興技術(shù)的前瞻性立法研究。

鄭寧：網(wǎng)絡(luò)安全法第十七條規(guī)定，國家推進(jìn)網(wǎng)絡(luò)安全社會(huì)化服務(wù)體系建設(shè)，鼓勵(lì)有關(guān)企業(yè)、機(jī)構(gòu)開展網(wǎng)絡(luò)安全認(rèn)證、檢測(cè)和風(fēng)險(xiǎn)評(píng)估等安全服務(wù)。對(duì)于新技術(shù)，應(yīng)該開展安全評(píng)估，評(píng)估可以由社會(huì)組織或企業(yè)自行開展，政府部門監(jiān)督檢查。

王四新：網(wǎng)絡(luò)安全法是一個(gè)非常龐大的系統(tǒng)工程，需要企業(yè)全面履行主體責(zé)任，真正解決實(shí)踐中出現(xiàn)的這些問題。

劉德良（北京師范大學(xué)法學(xué)院網(wǎng)絡(luò)與智慧社會(huì)法治研究中心主任）：針對(duì)這種立法，可能在未來需要跨過一些坎。首先要轉(zhuǎn)變觀念，從關(guān)注個(gè)人信息的泄露轉(zhuǎn)到濫用的方向。我認(rèn)為障礙就在于觀念問題，現(xiàn)在的主流看法都在強(qiáng)調(diào)泄露，而不在防止濫用上。

在觀念轉(zhuǎn)變之后，再組織專家商討、提案，或許情形很復(fù)雜，主體也不一樣、侵犯的權(quán)益也不盡相同，要系統(tǒng)地規(guī)范什么叫濫用，濫用有哪些類型，如何從民法、行政法、刑法有效防止濫用。如果沒有立法，司法也沒有意義。

記者：在您看來，防止泄露、絕對(duì)的保密是否無法做到，未來相關(guān)領(lǐng)域的立法重點(diǎn)是否應(yīng)該在如何防止這些信息或數(shù)據(jù)的濫用

劉德良：相關(guān)法律法規(guī)的建立完善要具有可操作性，不能不利于大數(shù)據(jù)和人工智能產(chǎn)業(yè)的發(fā)展。大數(shù)據(jù)、人工智能產(chǎn)業(yè)本身就需要數(shù)據(jù)搜集，現(xiàn)在我們的個(gè)人信息已經(jīng)存在于N個(gè)商家和機(jī)構(gòu)中，泄露了也不知道從哪里泄露的，防止的不是泄露，關(guān)鍵在于不能濫用。

從立法上要讓進(jìn)行身份識(shí)別的機(jī)構(gòu)或者平臺(tái)（比如銀行、支付平臺(tái)、電信公司、保險(xiǎn)公司）去承擔(dān)責(zé)任。如果用戶的個(gè)人信息被盜用、濫用，有兩種思路去問責(zé)：一是對(duì)這些機(jī)構(gòu)、平臺(tái)進(jìn)行過錯(cuò)推定，除非能證明履行了核實(shí)比對(duì)義務(wù)，這種義務(wù)的標(biāo)準(zhǔn)隨著技術(shù)、時(shí)代的變遷也會(huì)不斷升級(jí)改變，需要司法按照這個(gè)標(biāo)準(zhǔn)去判定取證，來確定是否盡到義務(wù)，才可以免責(zé)，否則就要和假冒者一起承擔(dān)連帶責(zé)任；二是更加嚴(yán)苛，承擔(dān)無過錯(cuò)責(zé)任。

如果法律有這種規(guī)定，就會(huì)倒逼這些機(jī)構(gòu)、平臺(tái)認(rèn)真核查比對(duì)，甚至?xí)敕皆O(shè)法開發(fā)更新的技術(shù)手段，來有效避免身份假冒濫用。如果不這樣立法，掌握個(gè)人信息的機(jī)構(gòu)、平臺(tái)就會(huì)把風(fēng)險(xiǎn)轉(zhuǎn)嫁給被假冒者，讓個(gè)人承擔(dān)風(fēng)險(xiǎn)。

（摘自9月6日《法制日?qǐng)?bào)》。作者為該報(bào)記者）