張樺
(中共廣州市委黨校信息網(wǎng)絡(luò)中心,廣州 510070)
深度偽造是“生成對(duì)抗網(wǎng)絡(luò)”的產(chǎn)物,具有智能化和高度的逼真性,使得非當(dāng)事人很難分辨真假。加之,制作成本低、品質(zhì)高,這使得深度偽造愈發(fā)對(duì)社會(huì)、政治制度和商業(yè)構(gòu)成重大威脅。自2017年Reddit用戶發(fā)布Deepfake視頻[1]后,深度偽造對(duì)社會(huì)產(chǎn)生了廣泛的威脅。如深造偽造可以使新聞業(yè)面臨巨大的公眾信任問(wèn)題;深度偽造可以通過(guò)傳播政治宣傳或破壞選舉活動(dòng)來(lái)威脅國(guó)家安全;深度偽造可能會(huì)妨礙公民對(duì)政府或權(quán)威機(jī)構(gòu)發(fā)布信息的信任;深度偽造可以用于發(fā)布虛假信息進(jìn)行市場(chǎng)操作;深度偽造還可進(jìn)行身份欺詐等活動(dòng)。
隨著網(wǎng)絡(luò)、信息技術(shù)的發(fā)展,人類(lèi)生存除依賴(lài)于物理空間提供的基礎(chǔ)物質(zhì)外,愈發(fā)依賴(lài)于網(wǎng)絡(luò)、信息所構(gòu)建的網(wǎng)絡(luò)空間,網(wǎng)絡(luò)空間已經(jīng)成為人類(lèi)賴(lài)以生存的除物理空間外的第二大空間[2]。當(dāng)前,深度偽造已在國(guó)外引起了重視,特別是在政治民主安全、社會(huì)公眾安全、軍事安全等方面[3-7]。
國(guó)內(nèi)外對(duì)于深度偽造技術(shù)威脅的防御基本都處于起步階段。在技術(shù)層面,主張通過(guò)自動(dòng)檢測(cè)技術(shù)(如基于深度學(xué)習(xí)的自動(dòng)檢測(cè))或新技術(shù)(如基于區(qū)塊鏈的驗(yàn)證系統(tǒng))的方法檢測(cè)、防御深度偽造[8-11]。標(biāo)稱(chēng)深度偽造技術(shù)的檢測(cè)準(zhǔn)確率在71%~95%之間。在社科層面,主張通過(guò)可靠平臺(tái)向社會(huì)科學(xué)研究人員發(fā)布大型社交媒體數(shù)據(jù)集,以研究錯(cuò)誤虛假信息傳播的解決方案[12-13]。在管理層面,主要是主張加強(qiáng)深度偽造的有關(guān)立法,明確媒體平臺(tái)、創(chuàng)作者等的責(zé)任,制定切實(shí)可行的處罰措施[14-16]。
本文根據(jù)深度偽造生成的特點(diǎn),結(jié)合目前最新研究成果,將技防和人防相結(jié)合,構(gòu)建了基于時(shí)空網(wǎng)眾包的深度偽造威脅防御體系。
參考文獻(xiàn)[17-19],定義如下:
定義1時(shí)空網(wǎng)眾包任務(wù)。一個(gè)時(shí)空網(wǎng)眾包任務(wù)被該任務(wù)的請(qǐng)求者發(fā)布,通常被定義為如下六元組的形式,記為,其中,lt表示該眾包任務(wù)的位置;pt為該任務(wù)的網(wǎng)絡(luò)地址(IP),st為該任務(wù)的發(fā)布時(shí)間;et為該任務(wù)的截止時(shí)間;rt為該任務(wù)發(fā)布的空間范圍,即在此范圍內(nèi)的眾包參與者才有機(jī)會(huì)接收到該任務(wù);wt是完成該任務(wù)的權(quán)值(可以獲得的獎(jiǎng)勵(lì)或效用,通常表示為任務(wù)的價(jià)格或獎(jiǎng)金)。
對(duì)于任意的時(shí)空網(wǎng)眾包任務(wù),上述六元組中的前四者應(yīng)必須被包括以標(biāo)記此任務(wù)的時(shí)空網(wǎng)屬性;是否包含后兩者視具體應(yīng)用而定。例如,某些任務(wù)希望眾包平臺(tái)的每位眾包參與者都獲知,則可去除此空間范圍約束。另外,如果某些任務(wù)不為參與者帶來(lái)任何獎(jiǎng)勵(lì),也可刪除該項(xiàng)內(nèi)容。
此外,時(shí)空網(wǎng)眾包參與者定義如下。
定義2時(shí)空網(wǎng)眾包參與者。一位時(shí)空網(wǎng)眾包參與者也被稱(chēng)為時(shí)空網(wǎng)眾包工人,通常被定義為如下七元組的形式,記為t=,其中,li表示該參與者當(dāng)前的空間位置;pi為此參與者的網(wǎng)絡(luò)地址(IP),si為此參與者的抵達(dá)時(shí)空眾包平臺(tái)的時(shí)間;ei為該參與者預(yù)計(jì)離開(kāi)時(shí)空眾包平臺(tái)的時(shí)間;ri為該參與者的空間服務(wù)范圍,即對(duì)于該范圍外的眾包任務(wù),此參與者將不能提供服務(wù);ci代表該參與者計(jì)劃承擔(dān)的眾包任務(wù)數(shù)量;qi度量該參與者提供服務(wù)的可信度,通常表示為歷史任務(wù)守信率或歷史累計(jì)失信率等形式。
與時(shí)空網(wǎng)眾包任務(wù)的定義相似,對(duì)于任意時(shí)空網(wǎng)眾包參與者的七元組,也是前五者應(yīng)被包括,而后二者可視具體應(yīng)用而定。注意:上述時(shí)空網(wǎng)眾包任務(wù)與時(shí)空網(wǎng)眾包參與者的定義皆為基礎(chǔ)性定義,根據(jù)不同的應(yīng)用需求,可在上述兩個(gè)定義的基礎(chǔ)上進(jìn)行擴(kuò)展。因此,基于上述定義,可將時(shí)空眾包定義如下。
定義3時(shí)空網(wǎng)眾包。時(shí)空網(wǎng)眾包通常是指通過(guò)互聯(lián)網(wǎng)設(shè)備實(shí)時(shí)地在時(shí)空網(wǎng)絡(luò)空間眾包平臺(tái)上匯聚眾包任務(wù)與眾包參與者,并通過(guò)平臺(tái)對(duì)眾包任務(wù)進(jìn)行分配調(diào)度與質(zhì)量控制,從而使眾包參與者在物理世界和網(wǎng)絡(luò)空間共同完成眾包任務(wù)并滿足任務(wù)約束條件的過(guò)程。
綜上所述,時(shí)空網(wǎng)眾包旨在通過(guò)整合物理世界和網(wǎng)絡(luò)空間中智能群體,組織其在網(wǎng)絡(luò)空間中完成機(jī)器難以解決的問(wèn)題,從而有效地利用人群智能與硅基智能的資源。
在深度偽造防御網(wǎng)絡(luò)空間中,眾包具有脫“虛”向“實(shí)”的作用。時(shí)空網(wǎng)眾包的時(shí)、空、網(wǎng)屬性,強(qiáng)調(diào)了在深度偽造防御中的真實(shí)性、可信度性和可追溯性。因此,時(shí)空網(wǎng)眾包無(wú)論是在眾包任務(wù)上、眾包參與者,還是眾包平臺(tái)上都存在與傳統(tǒng)眾包的差異。
在眾包任務(wù)上,傳統(tǒng)眾包任務(wù)更多地在于在網(wǎng)絡(luò)空間中完成,而時(shí)空網(wǎng)的眾包更關(guān)注于任務(wù)發(fā)生的現(xiàn)實(shí)世界。因而基于時(shí)間、地點(diǎn)和網(wǎng)絡(luò)空間的任務(wù)使得第一現(xiàn)場(chǎng)成為辨別真?zhèn)蔚年P(guān)鍵。在眾包參與者方面,傳統(tǒng)眾包只需要在網(wǎng)絡(luò)空間上即可參與,而時(shí)空網(wǎng)眾包需要參與者跟眾包任務(wù)發(fā)包方在時(shí)、空、網(wǎng)三者上具有臨近約束或真相約束,參與渠道是使用平臺(tái)的工人或用戶。在眾包平臺(tái)上,傳統(tǒng)眾包無(wú)時(shí)空網(wǎng)約束,具有廣泛性,而時(shí)空網(wǎng)眾包平臺(tái),具有篩選性,且需要平臺(tái)注重時(shí)空網(wǎng)數(shù)據(jù)的隱私處理。
在構(gòu)建時(shí)空網(wǎng)眾包的深度偽造防御時(shí),首先注重深度偽造的使用者和典型的應(yīng)用場(chǎng)景,然后著重從技術(shù)體系、社科體系和管理體系三個(gè)層面予以構(gòu)建。
深度偽造從定義上著重于偽造現(xiàn)實(shí),其威脅強(qiáng)調(diào)通過(guò)逼真的“欺詐性”來(lái)達(dá)成,使得深度偽造安全防御不同于常規(guī)網(wǎng)絡(luò)安全防御,深度偽造安全防御更應(yīng)該著重于“反欺詐性”。從深度偽造產(chǎn)生的源頭分析,產(chǎn)生于機(jī)器學(xué)習(xí)算法,具體是“生成對(duì)抗網(wǎng)絡(luò)”的產(chǎn)物,這使得其安全防御必須應(yīng)對(duì)機(jī)器生成的“海量性”問(wèn)題。
在構(gòu)建針對(duì)深度偽造威脅的防御體系時(shí),除了借鑒一般網(wǎng)絡(luò)安全防御體系的構(gòu)建,在結(jié)合深度偽造的生態(tài)體系和典型場(chǎng)景后,還要特別專(zhuān)注于深度偽造的特性。針對(duì)“反欺詐性”,必須給予現(xiàn)實(shí)的、真實(shí)的、可信的應(yīng)證,而現(xiàn)實(shí)的、真實(shí)的、可信的應(yīng)證正是人類(lèi)所長(zhǎng),在構(gòu)建深度偽造安全防御體系時(shí),注重于“人的要素”的考慮,從社科層面和管理層面進(jìn)行構(gòu)建;針對(duì)“海量性”,必須給予批量的、可規(guī)?;奶幚?,這正是機(jī)器所長(zhǎng),注重于“技的要素”,從技術(shù)層面進(jìn)行構(gòu)建。三個(gè)層面相互融合,互為支撐,共同構(gòu)建深度偽造威脅防御體系。
構(gòu)建時(shí)空網(wǎng)眾包的深度偽造威脅防御體系,立足于人群群體智能計(jì)算對(duì)抗以硅基為基礎(chǔ)的“云機(jī)”智能計(jì)算。在進(jìn)行網(wǎng)絡(luò)安全防御時(shí),分別在管理層面、社科層面和技術(shù)層面進(jìn)行可信眾包防御體系構(gòu)建。
2.2.1 時(shí)空網(wǎng)眾包防御模型
從深度偽造的生態(tài)構(gòu)成分析,不難發(fā)現(xiàn)深度偽造發(fā)生在網(wǎng)絡(luò)空間信息發(fā)布、流通環(huán)節(jié),如果深度偽造不借助網(wǎng)絡(luò)空間發(fā)布和流通,其威脅就無(wú)從談起。因此在構(gòu)建時(shí)空網(wǎng)眾包防御模型時(shí),圍繞深度偽造信息發(fā)布流通環(huán)節(jié)進(jìn)行。如圖1所示。
圖1 可信時(shí)空網(wǎng)眾包防御模型示意圖
(1)平臺(tái)用戶通過(guò)平臺(tái)渠道提交信息(該信息一定是未進(jìn)行真假審核)。
(2)平臺(tái)在收到該用戶發(fā)布的信息后,進(jìn)行基于時(shí)空網(wǎng)眾包的生成工作,完成后進(jìn)入(3)。
(3)進(jìn)行時(shí)空網(wǎng)眾包的任務(wù)分配,首先分配給“硅基”智能進(jìn)行第一輪眾包。即在技術(shù)層面,基于“硅基”智能計(jì)算通過(guò)自動(dòng)檢測(cè)技術(shù)或新技術(shù)等對(duì)時(shí)空網(wǎng)眾包任務(wù)中時(shí)間St、空間位置lt、網(wǎng)絡(luò)地址pt等信息按照一定的算法進(jìn)行可信任務(wù)分配,在“硅基”智能對(duì)該信息進(jìn)行判定后,將結(jié)果返回給平臺(tái),進(jìn)入(4)。
(4)平臺(tái)在收到“硅基”智能對(duì)該信息的判定結(jié)果后,對(duì)該信息進(jìn)行分析,評(píng)估之前“硅基”智能對(duì)該類(lèi)信息判定的可信度kt,把真實(shí)域中隨機(jī)去重抽取比例at的該類(lèi)信息和偽造域中該類(lèi)信息作為人群智能時(shí)空網(wǎng)眾包的輸入,進(jìn)入社科層面(5)。
(5)在社科層面,同樣,平臺(tái)根據(jù)時(shí)空網(wǎng)眾包任務(wù)中時(shí)間St、空間位置lt、網(wǎng)絡(luò)地址pt和可信度qi等信息按照一定的算法向平臺(tái)工人用戶分配眾包任務(wù),平臺(tái)工人用戶在領(lǐng)取任務(wù)后,通過(guò)“人群”智能計(jì)算進(jìn)行判定,并將判定結(jié)果返回給平臺(tái),進(jìn)入(6)。
(6)平臺(tái)通過(guò)分析“人群”智能計(jì)算的結(jié)果,根據(jù)判定票數(shù)進(jìn)行博弈判定。并根據(jù)判定結(jié)果修正、更新“硅基”智能計(jì)算樣本集。進(jìn)入(7)。
(7)平臺(tái)判定結(jié)果,如果真實(shí)合規(guī),則完成該用戶請(qǐng)求發(fā)布該信息;如果是偽造合規(guī),同樣發(fā)布,但打上偽造標(biāo)簽(可對(duì)用戶端透明,但平臺(tái)必須標(biāo)注自己清楚);如果是偽造違約,則拒絕響應(yīng)該用戶請(qǐng)求,拒絕發(fā)布。進(jìn)入(8)。
(8)發(fā)布后的信息,進(jìn)入用戶、公眾和管理層面的視野。
(9)管理層面的立法、行規(guī)監(jiān)督、檢查、指導(dǎo)平臺(tái)、用戶的網(wǎng)絡(luò)空間行為。
對(duì)于存量的網(wǎng)絡(luò)空間信息需要真?zhèn)螌徍说?,從?)進(jìn)入(1)由平臺(tái)進(jìn)行自動(dòng)深度偽造防御流程。
2.2.2 任務(wù)生成及分配
任務(wù)分配是眾包模式的研究熱點(diǎn)問(wèn)題之一,對(duì)于時(shí)空網(wǎng)眾包任務(wù)而言,平臺(tái)很容易獲得請(qǐng)求用戶的時(shí)空網(wǎng)屬性:用戶發(fā)起信息發(fā)布請(qǐng)求(稱(chēng)為任務(wù)發(fā)包方)的位置信息lt、網(wǎng)絡(luò)地址(IP)信息pt,發(fā)起的時(shí)間St。根據(jù)任務(wù)發(fā)包方的時(shí)空網(wǎng)信息,構(gòu)建該任務(wù)的平臺(tái)眾包任務(wù)工人集合S=
假設(shè)構(gòu)建的m名該任務(wù)眾包工人之間沒(méi)有交互、相互獨(dú)立,所以每次博弈都可以被視為零和博弈(都是眾包工人對(duì)任務(wù)發(fā)包方真與假的判定)。對(duì)于任意工人si用zi表示該工人的博弈過(guò)程包含的總周期數(shù)。同時(shí),用zij表示工人si的第j個(gè)博弈周期。眾包工人接受眾包任務(wù)需要激勵(lì)機(jī)制,即構(gòu)建任務(wù)權(quán)值wt。在社科領(lǐng)域?qū)τ谝粋€(gè)人對(duì)于某項(xiàng)工作的勝任,一般是看能力和忠誠(chéng)度。在眾包任務(wù)權(quán)值時(shí),引入工人的眾包能力因子poweri和可信度因子honi,則工人si第j個(gè)任務(wù)的能力因子表示為powerij,可信度為honij,其中:
工人si的可信度首次接受任務(wù)時(shí)默認(rèn)都是完全可信的,其后,根據(jù)工人si累計(jì)失信的次數(shù)k和累計(jì)失信的能力poweri,j-1生成。工人si第j個(gè)任務(wù)的權(quán)值表示為gij,生成權(quán)值集合:
其中:
2.2.3 質(zhì)量控制
深度偽造時(shí)空網(wǎng)眾包任務(wù)的質(zhì)量控制,關(guān)鍵在于其眾包工人集S的生成質(zhì)量qg和判別質(zhì)量aq(可信度)。生成質(zhì)量依賴(lài)于眾包工人的能力因子power,設(shè)生成質(zhì)量控制閾值q0,power≥q0。判別質(zhì)量aq依賴(lài)于眾包工人的可信度hon,假設(shè)判別質(zhì)量控制閾值a0,hon≥a0。
由于眾包工人之間相互獨(dú)立,且眾包工人每次博弈結(jié)果只有兩種真與假,且眾包工人si判別正確的概率,即m個(gè)眾包工人發(fā)生的概率互斥且和為1,服從多項(xiàng)式分布。由多項(xiàng)式分布的期望E(Si)=nvi、方差var(si)=nvi(1-vi)和協(xié)方差Cov(si,sj)=-nvi vj,n為眾包工人n次博弈周期且對(duì)角線上的元素為各眾包工人的方差。由此可以以協(xié)方差矩陣的數(shù)值量化時(shí)空網(wǎng)眾包的任務(wù)質(zhì)量情況。
2.2.4 隱私保護(hù)
構(gòu)建時(shí)空網(wǎng)眾包深度防御,其隱私保護(hù)是內(nèi)在要求,既保護(hù)眾包參與者的時(shí)空網(wǎng)信息,又可根據(jù)眾包參與者保護(hù)后的時(shí)空網(wǎng)信息指導(dǎo)其有效地完成任務(wù)是眾包平臺(tái)自身的建設(shè)的內(nèi)在要求,其本質(zhì)是平臺(tái)信息隱私保護(hù)。有關(guān)信息隱私保護(hù)的研究眾多,技術(shù)上有各種加密算法、方法和處理模型,將信息進(jìn)行脫敏處理;平臺(tái)和管理上有“數(shù)據(jù)合規(guī)”、網(wǎng)絡(luò)、數(shù)據(jù)安全法規(guī)。這是目前網(wǎng)絡(luò)空間隱私保護(hù)研究的話題。
在構(gòu)建時(shí)空網(wǎng)眾包深度偽造威脅防御時(shí),本文已充分考慮了平臺(tái)對(duì)參與者時(shí)空網(wǎng)信息的有效利用,對(duì)于時(shí)空網(wǎng)信息的隱私保護(hù),眾包平臺(tái)重在使用其價(jià)值,并非對(duì)時(shí)空網(wǎng)信息的擁有。因此對(duì)于眾包平臺(tái)時(shí)空網(wǎng)信息的隱私保護(hù),在對(duì)時(shí)空網(wǎng)信息進(jìn)行已有技術(shù)脫敏處理的同時(shí),加大社科和管理層面制度建設(shè)構(gòu)建眾包平臺(tái)隱私保護(hù)的“黑匣子”,即基于時(shí)空網(wǎng)信息任務(wù)的生成、分配只能在“黑匣子”內(nèi)完成,將結(jié)果輸出至平臺(tái),且“黑匣子”的開(kāi)啟只能在平臺(tái)注冊(cè)的第三方數(shù)據(jù)局,平臺(tái)只管對(duì)其任務(wù)判定結(jié)果的使用。如圖2虛線方框內(nèi)為“黑匣子”部分所示。
圖2 時(shí)空網(wǎng)眾包平臺(tái)的“黑匣子”示意圖
居民垃圾投放是居民生活必不可少的日常行為,垃圾分類(lèi)是居民垃圾投放的重要手段。最近對(duì)于垃圾分類(lèi)的討論在各社區(qū)議論紛紛,有人發(fā)起圖文并茂的“偽垃圾分類(lèi)說(shuō)”——居民垃圾分類(lèi)投放,而垃圾運(yùn)輸車(chē)無(wú)分類(lèi),均是同一個(gè)車(chē)運(yùn)走,垃圾分類(lèi)只是給居民造成投遞麻煩,根本沒(méi)有分類(lèi)的效果。為判定這類(lèi)居民圖文的說(shuō)話是否屬實(shí)——即是否是居民分類(lèi)投放,而垃圾車(chē)運(yùn)輸車(chē)卻無(wú)分類(lèi),同一車(chē)混裝運(yùn)輸。擬采用本文的深度偽造判別法來(lái)對(duì)事實(shí)進(jìn)行判別,以驗(yàn)證本文時(shí)空網(wǎng)眾包深度偽造防御的有效性。
(1)該社區(qū)根據(jù)上級(jí)主管部門(mén)要求,垃圾分為兩類(lèi):餐廚垃圾和其他垃圾。
(2)垃圾運(yùn)輸車(chē)分為兩類(lèi):餐廚垃圾運(yùn)輸車(chē)和其他垃圾運(yùn)輸車(chē),車(chē)型、大小、外觀均相同,只是餐廚垃圾運(yùn)輸車(chē)車(chē)廂側(cè)面有“餐廚垃圾”白色字樣,而其他垃圾運(yùn)輸車(chē)則沒(méi)有任何提示字樣。
(3)該社區(qū)垃圾運(yùn)輸車(chē)每天來(lái)2次,上午9:30~10:00,晚上9:30~10:00。
(4)該社區(qū)居民垃圾分類(lèi)定時(shí)投放點(diǎn)和誤時(shí)投放點(diǎn)均在該社區(qū)同一個(gè)地方,且社區(qū)無(wú)其他垃圾分類(lèi)投放點(diǎn)。居民定時(shí)投放時(shí)間是:上午7:00~9:00,晚上7:00~9:00,其他時(shí)間為誤時(shí)投放,定時(shí)投放時(shí)間有垃圾分類(lèi)指導(dǎo)員,誤時(shí)投放則沒(méi)有指導(dǎo)員。
首先構(gòu)建該社區(qū)的偽垃圾分類(lèi)時(shí)空網(wǎng)眾包平臺(tái),3公里以?xún)?nèi)的平臺(tái)眾包工人分布均勻。
將原圖文并茂的偽垃圾分類(lèi)說(shuō)進(jìn)行偽造,換其他社區(qū)真實(shí)圖片10份,修改部分文字標(biāo)點(diǎn)10份,總計(jì)21份任務(wù)。
平臺(tái)內(nèi)眾包工人的首次使用初始化時(shí),眾包工人在注冊(cè)時(shí)均能獲取眾包工人的地理位置、網(wǎng)絡(luò)地址(IP)和注冊(cè)時(shí)間。根據(jù)3.4.2節(jié),剛開(kāi)始平臺(tái)眾包工人的可信度均為hon=100,歸一化可信度為hon=100∕100=1,工作能力取簡(jiǎn)單的歐幾里得距離。
△li為用戶注冊(cè)的位置與眾包任務(wù)中事件位置的空間距離差?!鱬i為用戶注冊(cè)的IP與眾包任務(wù)發(fā)布IP的地理位置空間距離差,△si為用戶最近一次登陸平臺(tái)的時(shí)間或在線時(shí)間與眾包任務(wù)的時(shí)間差。gij初始時(shí)取值工作能力的初始取值。如下:
通過(guò)平臺(tái)的計(jì)算的時(shí)空網(wǎng)眾包平臺(tái),向任務(wù)發(fā)生位置3公里內(nèi)的用戶發(fā)布眾包任務(wù)——判定該社區(qū)表內(nèi)的圖文并茂的“偽垃圾分類(lèi)說(shuō)”是否屬實(shí)。向1050個(gè)用戶發(fā)出眾包任務(wù),有759個(gè)用戶瀏覽了該任務(wù),最后由178個(gè)用戶完成了眾包任務(wù),其中有128位判定“偽垃圾分類(lèi)說(shuō)”為假,其眾包任務(wù)的權(quán)值之和WF=0.051;50位判定為真,其眾包任務(wù)的權(quán)值之和WT=0.083,由于眾包任務(wù)權(quán)值WT>W(wǎng)F,時(shí)空網(wǎng)眾包任務(wù)最終判定結(jié)果為該社區(qū)群“偽垃圾分類(lèi)說(shuō)”為假。事后實(shí)地考證,結(jié)果是餐廚垃圾和其他垃圾是分類(lèi)運(yùn)輸?shù)?,圖文偽造了其他垃圾車(chē)身,在其他垃圾車(chē)身PS了餐廚垃圾的車(chē)身字樣,差別細(xì)小,極具偽造性。
本著審查、可追溯和注重隱私保護(hù)的原則,探討了深度偽造防御問(wèn)題,著重基于時(shí)空網(wǎng)眾包以人群智能的所長(zhǎng),應(yīng)對(duì)機(jī)器智能深度偽造的所長(zhǎng),這對(duì)深度偽造的“欺詐性”做了很好的回應(yīng),將網(wǎng)絡(luò)空間脫實(shí)向虛發(fā)展和威脅防御需要的脫虛向?qū)嵃l(fā)展結(jié)合起來(lái)。設(shè)計(jì)的時(shí)空網(wǎng)眾包具有鮮明的地域特色,旨在平臺(tái)信息發(fā)布處就截住虛假的深度偽造信息,實(shí)驗(yàn)論證具有良好的網(wǎng)絡(luò)效果。對(duì)于防御體系的管理層面,更多的是合規(guī)和立法方面的內(nèi)容,本文沒(méi)有做過(guò)多的探討,因?yàn)閷?duì)于法條的實(shí)用性、針對(duì)性、可操作性和法學(xué)原理的論證、解釋、說(shuō)明不是本文的重點(diǎn)。需要說(shuō)明的是,在管理層面,在于法規(guī)的精準(zhǔn)有效。在基于時(shí)空網(wǎng)眾包的防御體系中,法規(guī)需抓住如下幾個(gè)關(guān)鍵:
(1)各信息發(fā)布平臺(tái)、應(yīng)用等發(fā)布信息都不得收集用戶隱私信息,對(duì)于任何含有隱私的信息都必須有獨(dú)立于平臺(tái)和應(yīng)用的“黑匣子”的判定,該“黑匣子”的監(jiān)管獨(dú)立于平臺(tái)和應(yīng)用,平臺(tái)和應(yīng)用只有使用其輸出結(jié)果的權(quán)力和執(zhí)行共同監(jiān)督的權(quán)力。
(2)對(duì)于深度偽造的合規(guī)信息,必須有明確的標(biāo)識(shí),至少是在監(jiān)管視圖內(nèi)有明確標(biāo)識(shí),對(duì)于用戶視圖為了更好的娛樂(lè)性和經(jīng)濟(jì)效益,可以屏蔽該標(biāo)識(shí)。
(3)對(duì)于實(shí)時(shí)性的把握,本文顯得不足。此外,多少量值的任務(wù)完成才使得任務(wù)有效和終止,是需要大量實(shí)驗(yàn)的累計(jì)和實(shí)踐。因此,本文的防御體系暫時(shí)不宜發(fā)生在涉及國(guó)計(jì)民生的政府新聞媒體和宣傳、國(guó)防安全、應(yīng)急管理等方面,但對(duì)于眾多普通網(wǎng)民防御深度偽造的威脅具有針對(duì)性。同時(shí),在兼容社會(huì)效率和干凈可控的網(wǎng)絡(luò)空間如何找到合適的取舍也是下一步研究的重要內(nèi)容。