• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    行政機(jī)關(guān)采集人臉信息活動(dòng)的法治因應(yīng)

    2023-11-04 07:52:19陳姿君
    行政法學(xué)研究 2023年3期
    關(guān)鍵詞:數(shù)字治理

    陳姿君

    關(guān)鍵詞:人臉信息;采集環(huán)節(jié);數(shù)字治理;行政法治

    一、問題的提出

    近年來,新興數(shù)字技術(shù)革命引發(fā)政府治理模式的變遷?!斗ㄖ握ㄔO(shè)實(shí)施綱要(2021-2025)》(以下簡(jiǎn)稱《綱要》)提出,“著力實(shí)現(xiàn)政府治理信息化與法治化深度融合,建立健全運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)手段進(jìn)行行政管理的制度規(guī)則”。人臉識(shí)別技術(shù)是利用生物特征識(shí)別或驗(yàn)證身份的便捷數(shù)字技術(shù),行政機(jī)關(guān)以人臉識(shí)別技術(shù)輔助行政任務(wù)完成的實(shí)踐已久。早在2008年北京奧運(yùn)會(huì)安保部署就已投入對(duì)人臉識(shí)系統(tǒng)的使用,因該技術(shù)已從識(shí)別身份升級(jí)至用戶畫像及實(shí)時(shí)追蹤,如今更加受到行政機(jī)關(guān)的青睞。現(xiàn)今運(yùn)用場(chǎng)景擴(kuò)至行政許可、行政處罰、新業(yè)態(tài)行業(yè)監(jiān)管、疫情防控等領(lǐng)域。然而,過于注重?cái)?shù)字技術(shù)帶來的效能提升而忽視深度應(yīng)用所疊加的負(fù)面影響,引發(fā)社會(huì)廣泛關(guān)注和擔(dān)憂。如何合法使用該技術(shù)成為學(xué)術(shù)研究熱點(diǎn)。

    采集數(shù)字臉譜是應(yīng)用該技術(shù)的第一步,從技術(shù)源頭規(guī)范行政機(jī)關(guān)的行為是避免異化使用該技術(shù)的有效策略。目前,采集環(huán)節(jié)存在以下行政法治悖論。實(shí)踐層面,采集主體縱橫多元、目的廣泛、場(chǎng)景開放,針對(duì)應(yīng)當(dāng)如何采集的指引措施較少。立法層面,規(guī)定推廣應(yīng)用人臉識(shí)別技術(shù)的規(guī)范性文件位階較低。以《中華人民共和國個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱《個(gè)保法》)為主的法律規(guī)定了國家機(jī)關(guān)處理個(gè)人信息以及敏感個(gè)人信息的規(guī)則,然而現(xiàn)有規(guī)定存在不容忽視的漏洞。一是授權(quán)依據(jù)不明確。行政機(jī)關(guān)采集人臉信息的活動(dòng)是否屬于法律保留事項(xiàng)有待厘清。同時(shí),作為采集授權(quán)依據(jù)的告知同意規(guī)則存在適用困境。二是關(guān)于采集的規(guī)范意涵不明晰,諸如“最小范圍”“公共利益”等不確定概念較多,采集容易脫離法律控制。三是監(jiān)督機(jī)制尚并不健全。例如,采集環(huán)節(jié)的行政程序規(guī)則、救濟(jì)渠道、責(zé)任機(jī)制尚未構(gòu)建。學(xué)理層面,現(xiàn)有的討論鮮有區(qū)分公用和商用的二元場(chǎng)景,且以規(guī)制商用的探討為主。此外,對(duì)如何使用該技術(shù)的宏觀探討頗多,鮮有聚焦微觀視角。人臉識(shí)別程序?qū)嶋H是人機(jī)兩方共同參與、客觀性與主觀性交互影響的復(fù)雜過程,宏觀的討論不利于識(shí)別并解決不同環(huán)節(jié)中的具體問題。故本文聚焦于行政機(jī)關(guān)應(yīng)用人臉識(shí)別技術(shù)中的第一步——采集人臉信息活動(dòng),對(duì)如何采集嘗試探討。

    二、行政機(jī)關(guān)采集人臉信息活動(dòng)的內(nèi)涵界定

    采集人臉信息活動(dòng)本質(zhì)是行政權(quán)的運(yùn)作結(jié)果,對(duì)其展開研究需以相關(guān)概念為基石。受德國法影響,我國行政法學(xué)以“行政行為”這一核心概念統(tǒng)合各類行政活動(dòng),但既有的形式框架無法全面回應(yīng)日益豐富的數(shù)字行政,例如“采集活動(dòng)”并非“行政行為”。本部分?jǐn)M厘清其中的基礎(chǔ)概念,為后續(xù)的討論奠定理論基礎(chǔ)。

    (一)采集的定義及特點(diǎn)

    采集是《個(gè)保法》第4條規(guī)定的具有法律意義的個(gè)人信息處理環(huán)節(jié),指通過各種方式獲取所需的信息。本文所探討的采集環(huán)節(jié),是指獲取上述的“數(shù)字臉譜”,包括采集探針照片和算法編譯數(shù)字臉譜兩步。探針照片的采集目前有三種方式:一是自助上傳采集。例如,健康碼的注冊(cè)環(huán)節(jié)之一是,用戶自主打開攝像頭并根據(jù)提示完成采集。二是公共視頻監(jiān)控采集。帶有人臉識(shí)別功能的公共監(jiān)控?cái)z像頭可以抓取人臉照片。三通過其他互聯(lián)網(wǎng)渠道采集。美國科技公司Clearview AI將面部識(shí)別技術(shù)與數(shù)據(jù)爬取技術(shù)相結(jié)合,可爬取采集來源于公共網(wǎng)絡(luò)渠道的人臉信息。第二步是算法編譯數(shù)字臉譜。數(shù)字臉譜的獲取需要依賴科技公司編寫的算法,通過算法將人臉圖像轉(zhuǎn)換成數(shù)字臉譜,構(gòu)建機(jī)器學(xué)習(xí)的基礎(chǔ)數(shù)據(jù)庫。應(yīng)當(dāng)說,“人臉識(shí)別算法編寫的委托”以及“人臉識(shí)別設(shè)備的裝置”都是行政機(jī)關(guān)采集活動(dòng)的一部分。

    采集的特征決定了單獨(dú)規(guī)制采集環(huán)節(jié)的必要性。人臉信息處理的采集、存儲(chǔ)、應(yīng)用等不同階段面臨著不同的法律問題。在采集階段,何種場(chǎng)景下可以采集人臉信息以及如何防止過度采集是主要問題。雖然不同階段之間存在緊密聯(lián)系,但以流程觀的框架去分析各階段對(duì)個(gè)人權(quán)利和自由的影響程度更為直觀,精準(zhǔn)控制“技術(shù)權(quán)力化,權(quán)力技術(shù)化”。另外,采集是處理活動(dòng)的開端,將采集活動(dòng)單獨(dú)列出來規(guī)制,雖然會(huì)增加合規(guī)成本,但是行政機(jī)關(guān)過度或不當(dāng)采集個(gè)人信息帶來的風(fēng)險(xiǎn)不可預(yù)估,因此單獨(dú)設(shè)計(jì)采集環(huán)節(jié)的規(guī)則有利于回應(yīng)上述問題。最后,數(shù)據(jù)的分析、應(yīng)用環(huán)節(jié)由于存在自動(dòng)化分析的算法黑箱,因此更加不透明和不可控,而是否要采集、哪些主體有權(quán)采集、采集的方式是可由人為決定的,因此事前控制作為起點(diǎn)的采集活動(dòng)可行性更強(qiáng)。

    (二)人臉信息的內(nèi)涵與特征

    于公民個(gè)體而言,人臉信息具有私人屬性。人臉信息的物理屬性包括唯一性、難以更改性、易識(shí)別性,它的法律屬性特指“敏感性”。一旦泄露,受道德、風(fēng)俗等多重因素影響,對(duì)個(gè)人尊嚴(yán)、隱私或財(cái)產(chǎn)會(huì)造成嚴(yán)重影響?!懊舾袛?shù)據(jù)的公開和傳播不僅帶來狹義的隱私權(quán)侵害,還會(huì)造成政治或社會(huì)上的歧視,妨害人的尊嚴(yán)和基本權(quán)利。”目前通過算法分析,從人臉信息中甚至能挖掘出病史病情、政治傾向、宗教信仰等敏感個(gè)人信息,故個(gè)人敏感信息承載的法益是多重的,包括人格尊嚴(yán)、隱私權(quán)以及個(gè)人信息權(quán)益??偨Y(jié)來說,相較于一般的個(gè)人信息,“敏感信息”是能夠識(shí)別出某特定自然人的信息,同時(shí)這部分信息和隱私存在交叉,包含著個(gè)人不愿意公開披露且不涉及公共利益的部分,但是愿意公開披露的個(gè)人信息也有可能是敏感個(gè)人信息。人臉信息就屬于敏感的非私密信息。個(gè)人信息保護(hù)的概念內(nèi)涵是對(duì)抗國家在利用個(gè)人信息時(shí)公權(quán)力對(duì)個(gè)體產(chǎn)生的侵害。而法律之所以將敏感個(gè)人信息、一般個(gè)人信息二者區(qū)分開來,也是為了課予敏感個(gè)人信息的處理者特殊義務(wù),對(duì)敏感個(gè)人信息的保護(hù)程度更嚴(yán)苛。

    另外,人臉信息具有公共屬性。信息是我們對(duì)外界進(jìn)行調(diào)節(jié)并使我們的調(diào)節(jié)為外界所了解時(shí)而與外界環(huán)境交換來的東西,接收和使用信息的過程構(gòu)成了有效生活的基礎(chǔ)。數(shù)字臉譜具有認(rèn)證和識(shí)別功能,成為數(shù)字治理底層架構(gòu)的基礎(chǔ)元素。國家權(quán)力分為兩類,一類是“專斷性的國家權(quán)力”,另一類是“基礎(chǔ)性國家權(quán)力”。其中“基礎(chǔ)性國家能力”指國家建設(shè)的“基礎(chǔ)設(shè)施”,類別之一包括國家認(rèn)證能力。傳統(tǒng)的身份認(rèn)證通過公安機(jī)關(guān)編制的身份證號(hào)碼進(jìn)行,數(shù)字時(shí)代的認(rèn)證是在人臉信息與人、物與物之間進(jìn)行一對(duì)一的固定和整合:以人臉信息指代現(xiàn)實(shí)中的人,其中的代碼或編碼包含特定人的身份和財(cái)產(chǎn)信息,“數(shù)字人”由此形成,在治理的意義上,“數(shù)字人”比“物理人”包含的信息更加真實(shí)、全面。

    (三)行政機(jī)關(guān)采集人臉信息活動(dòng)的法律性質(zhì)

    現(xiàn)代行政任務(wù)的多樣性使得行政機(jī)關(guān)的角色不斷地在發(fā)生變化。在數(shù)字治理的場(chǎng)景中,行政機(jī)關(guān)或從“授益或負(fù)擔(dān)行政行為的作出者”變成“個(gè)人信息的采集主體”。采集活動(dòng)不直接設(shè)定權(quán)利義務(wù),屬于行政事實(shí)行為。行政事實(shí)行為屬于行政機(jī)關(guān)行使職權(quán)的行為,同樣受制于法律的規(guī)范。

    行政機(jī)關(guān)的采集活動(dòng)呈現(xiàn)出以下特征:

    主體上,采集活動(dòng)是雙方而非單方的行政活動(dòng)。采集人臉信息活動(dòng)需要依賴公民的主觀信任和主動(dòng)配合?!秱€(gè)保法》規(guī)定采集個(gè)人信息須取得被采集主體的同意。也即采集活動(dòng)以行政主體和行政相對(duì)人的意思表示一致為前提,行政機(jī)關(guān)的采集活動(dòng)應(yīng)尊重和保護(hù)公民的個(gè)人信息自決權(quán)。因此,行政機(jī)關(guān)采集活動(dòng)是一種雙方的行政活動(dòng)。如果公民大規(guī)模拒絕人臉識(shí)別認(rèn)證,僅有部分人同意,也無法達(dá)成數(shù)字治理的目標(biāo)。

    程序上,采集程序?qū)儆谧詣?dòng)化行政的程序。采集于數(shù)字空間內(nèi)進(jìn)行,技術(shù)賦能以完成非接觸性的采集。經(jīng)算法運(yùn)行瞬間完成采集的同時(shí),傳統(tǒng)的行政程序規(guī)則例如聽證、說明理由、陳述申辯等在現(xiàn)實(shí)空間被壓縮。同時(shí),根據(jù)上述分析,第二、第三種采集具有非公開性,未標(biāo)明具有人臉識(shí)別功能的攝像頭、或者隱秘爬取公共網(wǎng)絡(luò)渠道中的人臉信息,不透明性較強(qiáng)。

    效力上,發(fā)生何種法律后果以法律為依據(jù)。行政行為的法律后果是直接產(chǎn)生、變更、消滅或確認(rèn)行政法律關(guān)系,具有單方屬性。而行政事實(shí)行為并非如此,行政事實(shí)行為不一定產(chǎn)生法律關(guān)系,這取決于法律的規(guī)定。例如,行政侵權(quán)行為將形成國家賠償法律關(guān)系。采集階段本身沒有為當(dāng)事人設(shè)定或消滅權(quán)利或義務(wù),尚未形成行政法律關(guān)系。采集人臉信息的活動(dòng)行為本質(zhì)屬于職權(quán)行為,基于行政法治的原理,此種權(quán)力行為也需要符合依法行政原則的規(guī)定。行政機(jī)關(guān)違反法律規(guī)定須承擔(dān)法定的不利后果。

    三、行政機(jī)關(guān)采集人臉信息活動(dòng)的現(xiàn)狀及法治悖論

    當(dāng)前,人臉識(shí)別技術(shù)的應(yīng)用以行政機(jī)關(guān)發(fā)布的規(guī)范性文件為綱領(lǐng)進(jìn)行主導(dǎo)推動(dòng)。為了完成數(shù)字治理的任務(wù),實(shí)踐中采集人臉信息的活動(dòng)形式多樣,場(chǎng)景豐富。本部分?jǐn)M從規(guī)范性文件切入深描采集現(xiàn)狀,同時(shí)梳理既有的實(shí)體法依據(jù),在規(guī)范與事實(shí)之間來回流轉(zhuǎn),以分析目前采集活動(dòng)中存在的法治悖論。

    (一)采集實(shí)踐分析

    其一,采集的場(chǎng)景具有開放性。筆者在北大法寶上以“人臉識(shí)別”為關(guān)鍵詞檢索相關(guān)文件,其中行政法規(guī)有5項(xiàng)、部門規(guī)章有93項(xiàng)、地方政府規(guī)章及規(guī)章以下的規(guī)范性文件共1565項(xiàng)。目前這些規(guī)范性文件內(nèi)容位階較低、內(nèi)容多有重復(fù),故筆者進(jìn)行簡(jiǎn)化整理,以展示采集人臉信息的活動(dòng)圖景。從下表中可知,人臉信息采集的場(chǎng)景集中于行政許可、行政處罰、行政確認(rèn)等傳統(tǒng)領(lǐng)域、新興行業(yè)的監(jiān)管、公共場(chǎng)所的監(jiān)控安防部署。

    其二,采集主體縱橫多元??v向上,各級(jí)行政機(jī)關(guān)上到省級(jí)下到鄉(xiāng)鎮(zhèn)級(jí)政府都在不同場(chǎng)景中采集人臉信息。橫向上,采集主體大致包括三類。一是傳統(tǒng)行政領(lǐng)域的實(shí)施機(jī)關(guān)。數(shù)字賦能行政許可、行政處罰、治安等傳統(tǒng)領(lǐng)域的實(shí)施,采集人臉信息是實(shí)現(xiàn)職能數(shù)字化轉(zhuǎn)型的第一步。二是對(duì)新業(yè)態(tài)的監(jiān)管機(jī)關(guān)。例如,針對(duì)網(wǎng)約車行業(yè)、直播行業(yè)目前已經(jīng)引入人臉識(shí)別技術(shù)進(jìn)行實(shí)時(shí)管控。三是疫情防控機(jī)關(guān)。目前防疫部門主要使用健康碼進(jìn)行精細(xì)化防控,健康碼的運(yùn)轉(zhuǎn)以采集個(gè)人信息為基礎(chǔ)。例如注冊(cè)北京健康寶需要采集人臉信息。五花八門的采集主體導(dǎo)致采集活動(dòng)呈現(xiàn)碎片、無序、重復(fù)的特征。

    其三,采集的目的不斷擴(kuò)張。采集人臉信息的目的不僅用于識(shí)別身份,還通過分析人臉信息挖掘其他信息。行政機(jī)關(guān)采集人臉信息的最主要的目的是用于不同場(chǎng)景的身份認(rèn)證。因?yàn)閷?duì)比傳統(tǒng)的認(rèn)證方式,數(shù)字認(rèn)證具有以下優(yōu)勢(shì):一是降低認(rèn)證的成本。刷臉?biāo)查g完成對(duì)比,而且免去了身份證丟失補(bǔ)辦的麻煩,由此降低了成本。二是減少因認(rèn)證而產(chǎn)生的行政糾紛。三是可以提高信息獲取的能力。政府提供公共產(chǎn)品和服務(wù),必須掌握公民相關(guān)的信息。當(dāng)前社會(huì)人口流動(dòng)性大,人們的身份不固定,但除非存在極端情形,人臉信息不會(huì)改變。其次,采集是為了疫情防控。人臉信息結(jié)合其他個(gè)人信息可以對(duì)被采集主體實(shí)時(shí)跟蹤,識(shí)別分析出個(gè)人軌跡、疫苗接種、核酸檢測(cè)等信息實(shí)現(xiàn)精準(zhǔn)防控。另外,采集人臉信息用于維護(hù)公共安全。公共空間部署的公共視頻監(jiān)控可用于識(shí)別違法個(gè)體。

    最后,既有的規(guī)范性文件規(guī)定了少量約束性規(guī)則。一是規(guī)定了替代性規(guī)則。例如,《出生醫(yī)學(xué)證明電子證照應(yīng)用推廣工作的通知》中規(guī)定,“也可使用身份證閱讀器對(duì)居民身份信息進(jìn)行人臉比對(duì)”。二是規(guī)定了采集須經(jīng)被采集主體同意。例如,《關(guān)于印發(fā)(新冠肺炎疫情社區(qū)防控工作信息化建設(shè)和應(yīng)用指引)的通知》中規(guī)定,“在社區(qū)居民授權(quán)同意的情況下”才可使用人臉識(shí)別。三是對(duì)人臉信息的來源作出要求。例如,《全國救助管理信息系統(tǒng)人臉識(shí)別技術(shù)使用管理規(guī)定(試行)》規(guī)定,救助管理機(jī)構(gòu)在采集人像、錄入系統(tǒng)過程中,可以使用人臉識(shí)別器直接采集頭像數(shù)據(jù),也可以使用攝像設(shè)備采集照片。不得通過影像軟件在視頻資料或其他照片中截取人像信息。

    (二)行政機(jī)關(guān)采集人臉信息活動(dòng)實(shí)踐的法治悖論

    首先,工具理性至上從而強(qiáng)化官僚制弊端。馬克思·韋伯在其著作中首次提出工具理性和價(jià)值理性的二元范疇。工具理性是通過對(duì)外界情況和他人的舉止的期待,并利用其作為“條件”或者作為“手段”,以期實(shí)現(xiàn)目的。簡(jiǎn)言之,工具理性是選擇最有效的手段達(dá)成特定目的,只關(guān)心手段的有效性,不關(guān)心也不愿意去證明目的正當(dāng)性。官僚體制是根據(jù)工具理性的原則和精神建立,其邏輯是用抽象框架把人隔離和定位在分立的單元之中,以便完成管理目標(biāo)。數(shù)字技術(shù)介入固化甚至加劇了官僚制原有的弊端,采集場(chǎng)景的開放性、采集主體的多元性、采集程序的自動(dòng)化將公民固定在一行行代碼之中,衍生出“數(shù)字至上”“數(shù)字依賴”等觀念?!皵?shù)據(jù)庫在個(gè)人之外重新建立一個(gè)虛擬個(gè)體,并通過對(duì)之進(jìn)行編碼形成數(shù)據(jù)的方式,這些數(shù)據(jù)在電腦之間進(jìn)行傳播和交換,從而把數(shù)據(jù)庫的監(jiān)視網(wǎng)擴(kuò)大到人們的一切生活中,統(tǒng)治模式迭代升級(jí)至超級(jí)全景監(jiān)獄模式?!比四樞畔⒉杉臒o序現(xiàn)狀背后體現(xiàn)的是政府對(duì)控制與效率的追求、數(shù)字權(quán)力的擴(kuò)張。

    其次,價(jià)值理性的衰落限制個(gè)體權(quán)益。價(jià)值理性是通過有意識(shí)地對(duì)倫理的、美學(xué)的、宗教的等無條件的固有價(jià)值的純粹信仰,不管是否達(dá)成目的。⑤例如幸福、平等、正義都屬于價(jià)值理性范疇。而法治的魂在于,通過價(jià)值理性的視角發(fā)現(xiàn)法治涵義,賦予法治以神圣性的是捍衛(wèi)公民的自由、保護(hù)人權(quán)和尊嚴(yán)的價(jià)值基礎(chǔ),而采集人臉信息將產(chǎn)生侵犯公民自由、人權(quán)和尊嚴(yán)的風(fēng)險(xiǎn)。人臉自身不屬于個(gè)人隱私,但其所承載的個(gè)人信息與相應(yīng)的時(shí)空信息結(jié)合在一起,可能構(gòu)成隱私。但帶有人臉識(shí)別技術(shù)的公共視頻監(jiān)控出現(xiàn)后,行政機(jī)關(guān)利用公民自愿披露的人臉對(duì)公民進(jìn)行實(shí)時(shí)跟蹤,這種跟蹤具有透視性,在公民不知情的情況下挖掘其隱私信息。數(shù)字治理時(shí)代,公民成為“數(shù)字人”的同時(shí)也成為了“透明人”。另外,采集人臉信息引發(fā)限制公民權(quán)利行使的風(fēng)險(xiǎn)。人臉信息作為一種遺傳信息,與生俱來的特性包含其中,如果人臉信息外泄或者經(jīng)由算法不當(dāng)解讀,公民的職業(yè)機(jī)遇和選擇權(quán)利會(huì)被剝奪。最后,公民在治理中無法有效參與。民主參與是重要的價(jià)值理性,自動(dòng)化采集壓縮了原有的程序規(guī)定和裁量規(guī)定,公民個(gè)體在采集活動(dòng)中的有效參與被排除在外,降低了人工干預(yù)程度。公眾的參與權(quán)被削弱甚至剝奪,不符合現(xiàn)代化法治基本原理。

    最后,采集算法存有技術(shù)缺陷。首先,算法準(zhǔn)確率不高會(huì)降低行政的效率,同時(shí)削弱行政機(jī)關(guān)的公信力。人臉識(shí)別算法的準(zhǔn)確性受到以下幾個(gè)因素的限制:相機(jī)的位置和移動(dòng)性、算法的準(zhǔn)確性和速度以及數(shù)據(jù)庫的大小。其次,識(shí)別分析的算法存在算法黑箱。在大量人臉數(shù)據(jù)和機(jī)器學(xué)習(xí)的技術(shù)支持下,算法可以對(duì)公民的行為分析,但因算法黑箱無法對(duì)其進(jìn)行解釋。另外,算法自動(dòng)地將人臉信息與其他個(gè)人信息進(jìn)行關(guān)聯(lián)匹配,可能形成身份偏差。數(shù)字身份的正確性和完整性可能脫離于事先認(rèn)知,自主構(gòu)建數(shù)字身份將產(chǎn)生困擾。

    (三)行政機(jī)關(guān)采集人臉信息的制度依據(jù)及存在的問題

    《個(gè)保法》系統(tǒng)地規(guī)定了行政機(jī)關(guān)采集人臉信息的制度依據(jù),另外《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《行政處罰法》等也包含了一些采集人臉信息的規(guī)定。上述法律規(guī)定的制度依據(jù)總體上分為兩類。一類是賦權(quán)依據(jù),另一類是限權(quán)依據(jù)。

    1.賦權(quán)和限權(quán)依據(jù)分析

    賦權(quán)依據(jù)主要表現(xiàn)為“概括賦權(quán)”+“有限賦權(quán)”。中國的法治建設(shè)各領(lǐng)域和環(huán)節(jié)大多有明確的法治規(guī)劃作為依據(jù),以法治規(guī)劃統(tǒng)籌法治建設(shè)成為我國的重要經(jīng)驗(yàn)?!毒V要》是建設(shè)法治政府的行動(dòng)綱領(lǐng)?!毒V要》明確提出,要深入促進(jìn)“互聯(lián)網(wǎng)+”執(zhí)法,促進(jìn)智能執(zhí)法,加強(qiáng)信息技術(shù)和設(shè)備的安裝和應(yīng)用。這是對(duì)行政機(jī)關(guān)使用人臉識(shí)別技術(shù)采集人臉信息的“概括賦權(quán)”?!秱€(gè)保法》中關(guān)于行政機(jī)關(guān)采集人臉信息活動(dòng)的賦權(quán)依據(jù)較少,主要包括以下三個(gè)條款?!秱€(gè)保法》第13條第3款、第4款規(guī)定,為履行法定職責(zé)所必需、為應(yīng)對(duì)突發(fā)公共衛(wèi)生事件或在緊急情況下為保護(hù)相對(duì)人的生命、健康和財(cái)產(chǎn),可處理個(gè)人信息。該法第29條同時(shí)規(guī)定,個(gè)人信息處理者只有在具備特殊目的、充足必要性以及配套嚴(yán)格措施下,方能處理敏感個(gè)人信息。另外,《中華人民共和國突發(fā)事件應(yīng)對(duì)法》第7條明確規(guī)定了行政機(jī)關(guān)的法定職責(zé)之一是應(yīng)對(duì)突發(fā)事件。因此,從條文中可知,只有在為履行法定職責(zé)所必需或者具有特定目的和充分必要性之時(shí),方能采集人臉信息。此處的賦權(quán)依據(jù)屬于有限的賦權(quán)。除此之外,《網(wǎng)絡(luò)安全法》第28條、第69條和《數(shù)據(jù)安全法》第35條規(guī)定依法可以要求網(wǎng)絡(luò)運(yùn)營者提供數(shù)據(jù)、技術(shù)的支持和協(xié)助。拒不向公安機(jī)關(guān)、國家安全機(jī)關(guān)提供技術(shù)支持和協(xié)助的,應(yīng)受處罰。這意味著行政機(jī)關(guān)有權(quán)獲取網(wǎng)絡(luò)運(yùn)營者掌握的人臉信息。

    限權(quán)依據(jù)包括事前的影響評(píng)估、事中的告知、事后的行政責(zé)任追究制度。其一,采集個(gè)人信息,事前要進(jìn)行個(gè)人信息保護(hù)的影響評(píng)估。其二,通過“告知同意”規(guī)則限制對(duì)人臉信息的采集?!秱€(gè)保法》第17、30條規(guī)定了告知同意規(guī)則的具體適用規(guī)則和豁免適用的情形。告知,是指告知采集的目的、方式、類別、存儲(chǔ)時(shí)間以及主張個(gè)人權(quán)利的途徑和程序。另外,采集敏感個(gè)人信息還應(yīng)當(dāng)告知當(dāng)事人采集敏感個(gè)人信息的必要性以及對(duì)個(gè)人權(quán)益的影響。同時(shí)《個(gè)保法》第14條、15條、29條、30條規(guī)定了三種豁免告知情形:有保密義務(wù)、緊急情況、妨礙履行職責(zé)。同意,是指?jìng)€(gè)人在充分知情的前提下自愿、明確作出愿意被采集的意思表示,且有撤回同意、重新同意的權(quán)利。采集敏感個(gè)人信息不僅需要個(gè)人的單獨(dú)同意,還需遵守法律法規(guī)的條款取得書面同意?;砻馔獾那樾伟槁男蟹ǘ氊?zé)或法定義務(wù)、為應(yīng)對(duì)突發(fā)公共衛(wèi)生事件、緊急情況下為保護(hù)自然人的生命健康和財(cái)產(chǎn)安全以及在合理的范圍內(nèi)已公開的個(gè)人信息。其三,規(guī)定了不履行個(gè)人信息保護(hù)義務(wù)的行政責(zé)任,以上級(jí)部門或者專職部門責(zé)令改正為主。另外,對(duì)監(jiān)控設(shè)備的法制和技術(shù)審核本質(zhì)上也是對(duì)行政機(jī)關(guān)采集活動(dòng)的限制?!秱€(gè)保法》第26條規(guī)定在公共場(chǎng)所安裝圖像采集、個(gè)人身份識(shí)別設(shè)備,應(yīng)出于公共安全維護(hù)的需要,并設(shè)置明顯的識(shí)別標(biāo)志。同時(shí)《行政處罰法》第41條也規(guī)定,行政機(jī)關(guān)利用電子技術(shù)監(jiān)控設(shè)備采集、固定違法事實(shí)的,應(yīng)當(dāng)經(jīng)過法制和技術(shù)審核,確保電子技術(shù)監(jiān)控設(shè)備符合標(biāo)準(zhǔn)、設(shè)置合理、標(biāo)志明顯,同時(shí)設(shè)置地點(diǎn)應(yīng)當(dāng)向社會(huì)公布。

    2.現(xiàn)有規(guī)定保護(hù)的局限性

    數(shù)字時(shí)代利用數(shù)字技術(shù)展開行政契合時(shí)代需求,因而行政機(jī)關(guān)采集人臉信息的活動(dòng)具有一定的正當(dāng)性。但技術(shù)的使用也需要以法治為牽引,目前采集人臉信息的現(xiàn)實(shí)脫離依法行政的要求,具體表現(xiàn)為以下三個(gè)方面:

    一是法律依據(jù)缺位?!胺杀A簟焙汀胺蓛?yōu)位”是行政法治的基礎(chǔ)構(gòu)造。法律保留是指行政活動(dòng)需要有法律的授權(quán)。行政機(jī)關(guān)就人臉信息進(jìn)行采集,涉及對(duì)隱私權(quán)、人格尊嚴(yán)的干涉,需要絕對(duì)的法律保留,但尚無立法規(guī)制行政機(jī)關(guān)的采集活動(dòng)。法律按照內(nèi)容和功能可區(qū)分為組織規(guī)范、根據(jù)規(guī)范與規(guī)制規(guī)范。分配職權(quán)職責(zé)的是組織規(guī)范,規(guī)定行政活動(dòng)實(shí)體要件和效果的法律規(guī)范是根據(jù)規(guī)范,目的規(guī)范和程序規(guī)范是規(guī)制規(guī)范。在采集活動(dòng)中,首先面臨組織規(guī)范的缺失。哪些級(jí)別的機(jī)關(guān)有權(quán)采購、部署、使用“人臉識(shí)別設(shè)備”或者有權(quán)向企業(yè)調(diào)取人臉信息,經(jīng)授權(quán)的公共組織或私主體能否采集人臉信息尚無規(guī)定。其次是根據(jù)規(guī)范的缺失。行政機(jī)關(guān)的職責(zé)種類多樣,行政機(jī)關(guān)在履行何種職責(zé)或者相對(duì)人作出何種行為時(shí),可以采集人臉信息,也無明確的法律規(guī)范,且指引規(guī)范位階較低。行政機(jī)關(guān)為了“履行法定職責(zé)”采集人臉信息是對(duì)公民個(gè)人信息權(quán)益的限制,限制的是“個(gè)人信息自決權(quán)”,而該項(xiàng)權(quán)利是在《民法典》《個(gè)保法》等“狹義”法律層面設(shè)定的。因而此處“法定職責(zé)”的“法”是根據(jù)規(guī)范,應(yīng)當(dāng)也是狹義的法。最后是規(guī)制規(guī)范的缺失。根據(jù)“突發(fā)公共衛(wèi)生事件”或“緊急情況下為保護(hù)公民的生命權(quán)和財(cái)產(chǎn)權(quán)”可以采集人臉信息,但如何界定“突發(fā)”或者“緊急情況”存疑。另外,和以商業(yè)價(jià)值為目標(biāo)的采集不同,行政機(jī)關(guān)對(duì)人臉信息的采集基于公共管理的目的,采集規(guī)則以及違反采集規(guī)則的法律責(zé)任應(yīng)當(dāng)有不同的內(nèi)容,目前規(guī)定未將二者區(qū)分開來。

    二是告知同意規(guī)則存在適用困境。告知同意是核心規(guī)則,信息主體的參與權(quán)和控制力借由“同意”的對(duì)話機(jī)制使其意志在信息處理的過程得以體現(xiàn)。除了法定豁免的緣由之外,基于巨大的權(quán)力勢(shì)差、個(gè)體對(duì)同意后果的認(rèn)知能力有限、以及基于信息流通利用成本的考慮,告知同意規(guī)則在政府履職行為中存在構(gòu)造上的縮減。而以“充分告知+明示同意=合法處理”為基礎(chǔ)規(guī)范結(jié)構(gòu)的“強(qiáng)同意”模式是分布式計(jì)算機(jī)時(shí)代的產(chǎn)物,而大數(shù)據(jù)時(shí)代數(shù)據(jù)處理場(chǎng)景復(fù)雜多元,一對(duì)一的同意模式既無現(xiàn)實(shí)可能,還會(huì)導(dǎo)致數(shù)據(jù)主體的信息麻木與同意疲勞。

    三是限制行政機(jī)關(guān)從私主體處調(diào)取人臉信息的規(guī)范付之闕如。放眼全球,商業(yè)領(lǐng)域?qū)θ四樧R(shí)別技術(shù)的使用走在前沿?!白晕遗丁蔽幕呐d起、“刷臉”的便捷性,微博、微信等社交平臺(tái)掌握著大量的人臉信息。谷歌、蘋果、Meta等互聯(lián)網(wǎng)企業(yè)通過商業(yè)積累掌握著海量的個(gè)人信息。在“數(shù)據(jù)開放和互通”的背景下,行政機(jī)關(guān)有理由也有能力從互聯(lián)網(wǎng)企業(yè)處采集人臉信息。但是此種采集是不透明的,無從得知何時(shí)、何地、哪些主體在采集人臉信息。我國目前仍沒有出臺(tái)限制性規(guī)范對(duì)此種類型的采集進(jìn)行規(guī)制。

    四、規(guī)范行政機(jī)關(guān)采集人臉信息活動(dòng)的法律策略

    基于上述原理的分析,以行政法治規(guī)范行政機(jī)關(guān)采集人臉信息的活動(dòng)實(shí)為必要。數(shù)字空間法治規(guī)則的構(gòu)造不同于物理場(chǎng)域,在采集活動(dòng)中,需要以最小必要原則為指引,根據(jù)虛擬空間采集活動(dòng)的特點(diǎn)重構(gòu)相應(yīng)的法律策略。

    (一)完善《個(gè)保法》規(guī)定以約束采集活動(dòng)

    一是增加授權(quán)規(guī)范。架構(gòu)人臉識(shí)別設(shè)備、算法的委托開發(fā)、網(wǎng)絡(luò)爬取都需要基于事前的法律授權(quán)。例如,美國《人臉識(shí)別道德使用法(草案)》規(guī)定,“除非經(jīng)授權(quán),否則受該法案約束的機(jī)關(guān)不得在美國境內(nèi)設(shè)置任何與人臉識(shí)別技術(shù)相關(guān)聯(lián)的攝像設(shè)備,不得訪問或使用經(jīng)人臉識(shí)別技術(shù)獲得的信息,或進(jìn)口人臉識(shí)別技術(shù)以識(shí)別個(gè)人”。再如,歐盟委員會(huì)通過的《人工智能法》將人臉識(shí)別技術(shù)列為高危AI系統(tǒng),原則上禁止使用,除非存有必要,在使用前應(yīng)經(jīng)過司法機(jī)關(guān)或行政機(jī)關(guān)的事前授權(quán)。

    二是限制采集的目的。《個(gè)保法》規(guī)定,采集人臉信息應(yīng)當(dāng)限于最小范圍,不得過度采集。現(xiàn)行采集的目的是認(rèn)證身份、維護(hù)公共安全、疫情防控、行業(yè)監(jiān)管。然而對(duì)于上述目的應(yīng)進(jìn)行重新審視。首先,用于身份認(rèn)證。對(duì)身份的認(rèn)證存在可替代措施,例如登記身份證。在負(fù)擔(dān)行政中,相對(duì)人將承擔(dān)不利的法律后果,且數(shù)據(jù)可能會(huì)保存一定期限。基于采集的自動(dòng)性以及人臉信息的敏感特性,應(yīng)當(dāng)禁止在負(fù)擔(dān)行政中采集人臉信息以認(rèn)證身份,可用其他認(rèn)證方式替代。其次,用于疫情防控。在疫情防控期間的非正常狀態(tài),公民若不配合行政機(jī)關(guān)的采集活動(dòng),基本上無法出行,進(jìn)行對(duì)全民查驗(yàn)身份甚至是限制部分敏感信息權(quán)益是必要的。需要考慮的是,疫情解除后已缺失必要性。執(zhí)法部門因疫情防控而架起的刷臉設(shè)備、帶有識(shí)別功能的攝像頭以及手機(jī)APP當(dāng)逐一下架。再次,用于維護(hù)公共安全。這一目的是模糊不清的。目前法律規(guī)定了可以實(shí)時(shí)查驗(yàn)公民身份的情形,可以參照。例如,《居民身份證法》、《中華人民共和國人民警察法》第9條都規(guī)定了查驗(yàn)居民身份證維護(hù)治安秩序的具體情形。放眼域外,歐盟《人工智能法》規(guī)定,除非使用該技術(shù)對(duì)實(shí)現(xiàn)以下目標(biāo)是絕對(duì)必要的。條文中所述的目標(biāo)是指辦理刑事犯罪案件,而非行政案件。美國《華盛頓FRT法案》規(guī)定,政府不得將該技術(shù)用于監(jiān)視,除非獲得搜查令,或者存在緊急情況,或者獲得法庭命令以協(xié)助尋找失蹤人員或辨認(rèn)死者。最后,基于行業(yè)監(jiān)管而采集人臉信息應(yīng)當(dāng)區(qū)分不同行業(yè)以及采集對(duì)象的特殊性。比如對(duì)網(wǎng)絡(luò)直播行業(yè)的監(jiān)管,采集未成年人的人臉信息時(shí)應(yīng)予以衡量。

    三是區(qū)分場(chǎng)景調(diào)整告知同意規(guī)則的適用。針對(duì)告知同意的適用困境,學(xué)界提出諸多修正方案。例如,有的觀點(diǎn)認(rèn)為因公民與權(quán)力機(jī)關(guān)之間權(quán)力與權(quán)利的失衡,無法獲得真實(shí)自由的同意,不適用同意原則,而應(yīng)遵循其他合法性規(guī)定。有的觀點(diǎn)則認(rèn)為應(yīng)從一次性同意向持續(xù)的信息披露與動(dòng)態(tài)同意轉(zhuǎn)變,嘗試有條件的寬泛同意+退出權(quán)模式。筆者認(rèn)為,應(yīng)當(dāng)在采集環(huán)節(jié)堅(jiān)持遵守告知同意的規(guī)定,但需要針對(duì)采集的不同場(chǎng)景和步驟動(dòng)態(tài)調(diào)整。在探針照片采集環(huán)節(jié),若通過客戶端上傳,應(yīng)當(dāng)告知用戶并征得單獨(dú)同意,可設(shè)置相關(guān)“隱私政策”在每次采集前告知采集目的、加密措施以及可能發(fā)生的風(fēng)險(xiǎn),并獲得同意。若被采集主體不同意,應(yīng)當(dāng)采取替代措施。如若通過大規(guī)模公共視頻監(jiān)控采集人臉信息的,應(yīng)著重平衡保護(hù)與利用人臉信息的關(guān)系,采單獨(dú)同意將阻礙信息公共價(jià)值的實(shí)現(xiàn)。因此,應(yīng)當(dāng)向社會(huì)告知哪些公共視頻監(jiān)控含有人臉識(shí)別功能,并假定公民逕行同意。如若收到多數(shù)公民不同意布置此類視頻監(jiān)控的意見,應(yīng)當(dāng)及時(shí)拆除。爬取網(wǎng)絡(luò)公開渠道中的人臉信息,較前兩種采集方式更為隱秘,不應(yīng)豁免告知同意。如果通過此種途徑采集,應(yīng)該告知當(dāng)事人相關(guān)網(wǎng)站或APP等采集渠道、采集的目的以及需要取得被采集人的單獨(dú)同意。若公民不同意采集,應(yīng)采用第一種方式替代。

    (二)改進(jìn)行政程序規(guī)則以保障數(shù)字參與權(quán)

    公權(quán)力和社會(huì)資本是推動(dòng)人臉識(shí)別技術(shù)迭代升級(jí)和深度應(yīng)用的主導(dǎo)力量,而技術(shù)作用的對(duì)象是公民個(gè)體。對(duì)于公民來說,有效參與行政程序是對(duì)自己的事務(wù)在一定程度上行使了自決權(quán),其作為人的主體地位在得到尊重的同時(shí),也制約了行政權(quán)力濫用。具體到采集環(huán)節(jié),應(yīng)針對(duì)采集的特點(diǎn)配置相應(yīng)的程序規(guī)則。

    探針照片采集環(huán)節(jié)由人工操作,需遵循傳統(tǒng)的程序規(guī)則,聽證是其中的核心規(guī)則。美國加州的《監(jiān)控技術(shù)條例》賦予市議會(huì)很大的權(quán)力,委托市議會(huì)評(píng)估技術(shù)的恰當(dāng)使用。若將此類技術(shù)用于未獲批準(zhǔn)的目的需要經(jīng)過公眾聽證會(huì)和市議會(huì)的批準(zhǔn),其次要提交監(jiān)督影響報(bào)告。簡(jiǎn)言之,采集若用于其他未經(jīng)授權(quán)的目的,應(yīng)當(dāng)主動(dòng)依職權(quán)進(jìn)行聽證。

    在算法編譯數(shù)字臉譜環(huán)節(jié),傳統(tǒng)的程序規(guī)則因自動(dòng)化操作而萎縮。由馬里蘭大學(xué)教授丹尼爾·西特魯恩提出的技術(shù)性正當(dāng)程序旨在保護(hù)受數(shù)字技術(shù)沖擊的程序參與權(quán)。從算法設(shè)計(jì)的起點(diǎn)出發(fā),通過程序代碼化實(shí)現(xiàn)對(duì)算法權(quán)力的規(guī)制和監(jiān)督,核心規(guī)則包括算法公開、算法的解釋權(quán)以及算法審核。算法編譯數(shù)字臉譜環(huán)節(jié)應(yīng)引入技術(shù)性正當(dāng)程序以保障公眾參與。以公開這一程序正當(dāng)原則為基礎(chǔ),我國目前形成了不同類型的行政公開制度,其中公開的對(duì)象、內(nèi)容、階段、目的等均存在差異。例如,公開的目的或是為了實(shí)現(xiàn)武器平等、實(shí)現(xiàn)有效參與、滿足知情權(quán)。算法公開是技術(shù)性正當(dāng)程序的基本要求,算法公開或是為了判斷是否存在歧視和偏見,或是為了使公眾更好地獲取、體驗(yàn)、學(xué)習(xí)算法信息。應(yīng)當(dāng)說,算法公開的目的因行政活動(dòng)要達(dá)成的目的而有所差異。采集人臉信息活動(dòng)是為應(yīng)用階段做準(zhǔn)備,公開采集算法的目的是為了讓公眾全方位參與采集活動(dòng),明白采集的原理和目的。厘清算法公開的目的之后,可明確公開的時(shí)間點(diǎn)、方式及內(nèi)容。算法解釋權(quán)是指?jìng)€(gè)體有權(quán)主張行政機(jī)關(guān)對(duì)算法進(jìn)行解釋,是說明理由的延伸。算法解釋權(quán)是為了在信息處理者與被處理者之間搭建橋梁,建立信任,通過溝通消除誤解、減輕疑慮。相較而言,算法解釋比算法公開形成更深層的技術(shù)可視化要求。由于算法具有復(fù)雜性,算法解釋也可靈活運(yùn)用多種不同的方法。采集階段的算法相較應(yīng)用階段的算法,結(jié)構(gòu)簡(jiǎn)單,故可在告知環(huán)節(jié)采用事前解釋+局部解釋。當(dāng)然,算法解釋是動(dòng)態(tài)的、不斷溝通的程序。最后是對(duì)算法的審查。錯(cuò)誤算法的惡性循環(huán)危害后果極大,因此應(yīng)在合理間隔內(nèi)由專業(yè)人員協(xié)助審查算法,及時(shí)修正錯(cuò)誤。

    (三)構(gòu)建責(zé)任機(jī)制和救濟(jì)渠道以監(jiān)督權(quán)力

    信息時(shí)代,因個(gè)人信息保護(hù)而產(chǎn)生的糾紛數(shù)量將不斷增長,應(yīng)當(dāng)建立完善的責(zé)任機(jī)制和救濟(jì)制度予以回應(yīng)?!秱€(gè)保法》第68規(guī)定了國家機(jī)關(guān)不履行保護(hù)個(gè)人信息義務(wù)的內(nèi)部行政責(zé)任機(jī)制,包括責(zé)令改正和行政處分。與此同時(shí),應(yīng)當(dāng)構(gòu)建相匹配的外部行政責(zé)任。非訴救濟(jì)渠道包括投訴舉報(bào)、行政調(diào)解。目前的行政救濟(jì)渠道主要包括行政復(fù)議和行政訴訟。當(dāng)前行政救濟(jì)法的內(nèi)容主要調(diào)節(jié)物理場(chǎng)域的行政糾紛,尚未回應(yīng)數(shù)字空間虛擬場(chǎng)域的新型糾紛,且受案范圍限于行政行為,并未將行政事實(shí)行為納入。值《行政復(fù)議法》修改之際,筆者認(rèn)為可以先針對(duì)采集類糾紛構(gòu)建特殊規(guī)則,待時(shí)機(jī)成熟再將其納入行政訴訟。數(shù)字治理的特征決定了采集人臉信息的活動(dòng)是大規(guī)模進(jìn)行的,故有必要引入公益訴訟制度?!秱€(gè)保法》初步規(guī)定了個(gè)人信息保護(hù)的公益訴訟制度,由人民檢察院、法律規(guī)定的消費(fèi)者組織和國家網(wǎng)信部門確定的組織提起。在此基礎(chǔ)上,可逐步構(gòu)建行政公益訴訟制度督促行政機(jī)關(guān)履行相關(guān)個(gè)人信息保護(hù)職責(zé)。具體而言,若行政機(jī)關(guān)未充分進(jìn)行影響評(píng)估或履行告知義務(wù)、未經(jīng)當(dāng)事人同意擅自采集或未經(jīng)法律授權(quán)采集人臉信息,便構(gòu)成違法履職,檢察機(jī)關(guān)可先發(fā)出檢察建議督促行政機(jī)關(guān)履行相應(yīng)告知程序、停止采集并刪除已采集的人臉信息。若行政機(jī)關(guān)在指定期間內(nèi)未糾正或者未充分履職,檢察機(jī)關(guān)應(yīng)提起訴訟。

    結(jié)語

    人臉信息是驅(qū)動(dòng)數(shù)字治理的新元素。當(dāng)人臉識(shí)別技術(shù)迭代升級(jí)至可以精準(zhǔn)分析更多個(gè)人信息之際,行政機(jī)關(guān)是否會(huì)將已采集的人臉信息用于限制個(gè)人權(quán)利和自由我們不得而知,這是由技術(shù)應(yīng)用環(huán)節(jié)的復(fù)雜性和私密性決定的。實(shí)踐中已出現(xiàn)濫用人臉信息的事例,如有的地方肆意調(diào)換健康碼,用于非法目的。因此,對(duì)人臉識(shí)別技術(shù)應(yīng)用的第一步采集環(huán)節(jié)進(jìn)行規(guī)制乃防患于未然之計(jì)。政府大規(guī)模采集人臉信息的同時(shí)產(chǎn)生了法治張力,采集環(huán)節(jié)的自動(dòng)化極易造成行政機(jī)關(guān)的肆意采集與路徑依賴,衍生出公權(quán)與私權(quán)的失衡問題。為此,采集活動(dòng)應(yīng)以法治為牽引,平衡數(shù)字治理中的工具理性和價(jià)值理性,在法治軌道上推進(jìn)治理模式的數(shù)字化轉(zhuǎn)型。

    (責(zé)任編輯:張紅)

    猜你喜歡
    數(shù)字治理
    新時(shí)代數(shù)字技術(shù)、數(shù)字轉(zhuǎn)型與數(shù)字治理
    “一帶一路”數(shù)字經(jīng)濟(jì)治理邏輯、問題及應(yīng)對(duì)
    數(shù)字治理視角下縣級(jí)政府治理現(xiàn)代化的評(píng)估體系分析
    數(shù)字經(jīng)濟(jì)的概念及發(fā)展問題對(duì)策探討
    新形勢(shì)下數(shù)字經(jīng)濟(jì)的發(fā)展與治理
    基于科技與人文融合的數(shù)字文化治理體系建設(shè)研究
    以人民為中心的數(shù)字治理機(jī)制構(gòu)建
    大數(shù)據(jù)時(shí)代疫情防控中的數(shù)字治理途徑探析
    決策探索(2020年12期)2020-06-23 04:07:38
    以“數(shù)字治理”推動(dòng)政務(wù)資源共享
    群眾(2019年7期)2019-04-30 09:08:56
    數(shù)字化視角下的環(huán)境治理
    祖國(2019年24期)2019-03-17 09:33:53
    www.www免费av| 岛国在线免费视频观看| 国产美女午夜福利| 久久久久久久亚洲中文字幕 | 午夜福利高清视频| 国产成年人精品一区二区| 国产精品爽爽va在线观看网站| 极品教师在线免费播放| 18+在线观看网站| 99热精品在线国产| 欧美一级a爱片免费观看看| 久久精品国产99精品国产亚洲性色| 老司机午夜十八禁免费视频| 两人在一起打扑克的视频| 操出白浆在线播放| 国内精品久久久久久久电影| 国产亚洲精品久久久com| 久久性视频一级片| 欧美乱妇无乱码| 青草久久国产| 久久九九热精品免费| 成人av在线播放网站| 国产淫片久久久久久久久 | 亚洲精品色激情综合| 在线免费观看的www视频| 黄色视频,在线免费观看| 精品熟女少妇八av免费久了| 久久久久久久久中文| 亚洲成人中文字幕在线播放| 亚洲七黄色美女视频| 女人被狂操c到高潮| 欧美日本视频| 亚洲成人中文字幕在线播放| 亚洲国产精品成人综合色| www国产在线视频色| 香蕉久久夜色| 一a级毛片在线观看| 国产高清有码在线观看视频| svipshipincom国产片| 成人国产综合亚洲| 精品国产三级普通话版| 日韩高清综合在线| 日韩大尺度精品在线看网址| 嫩草影视91久久| 久久精品综合一区二区三区| 夜夜夜夜夜久久久久| 亚洲国产日韩欧美精品在线观看 | 色av中文字幕| 亚洲专区国产一区二区| 精品乱码久久久久久99久播| 日韩有码中文字幕| 亚洲一区二区三区不卡视频| 国产真实伦视频高清在线观看 | 九色成人免费人妻av| 好男人在线观看高清免费视频| 精品一区二区三区av网在线观看| 日本免费一区二区三区高清不卡| 国产精品自产拍在线观看55亚洲| 中出人妻视频一区二区| 免费av不卡在线播放| 色噜噜av男人的天堂激情| 久久久久久久精品吃奶| 人妻久久中文字幕网| www日本在线高清视频| 亚洲精品日韩av片在线观看 | 中文字幕av在线有码专区| 精品人妻偷拍中文字幕| 国产精品女同一区二区软件 | bbb黄色大片| 可以在线观看毛片的网站| 三级国产精品欧美在线观看| 久久久精品欧美日韩精品| 免费在线观看亚洲国产| 久久精品亚洲精品国产色婷小说| 一区福利在线观看| 乱人视频在线观看| 免费高清视频大片| 久久人妻av系列| 国产成人a区在线观看| 9191精品国产免费久久| 窝窝影院91人妻| 色综合婷婷激情| 看片在线看免费视频| 成人国产综合亚洲| 一区二区三区高清视频在线| 国产av在哪里看| 国产主播在线观看一区二区| 一a级毛片在线观看| 亚洲,欧美精品.| 听说在线观看完整版免费高清| 99国产精品一区二区蜜桃av| 国产精品久久久久久人妻精品电影| 国模一区二区三区四区视频| aaaaa片日本免费| 亚洲国产欧美网| 日本与韩国留学比较| 制服丝袜大香蕉在线| 亚洲av不卡在线观看| 亚洲精品一卡2卡三卡4卡5卡| 国产欧美日韩一区二区三| 99riav亚洲国产免费| 国产成人av激情在线播放| 老熟妇仑乱视频hdxx| 久久久久久久午夜电影| 99久久综合精品五月天人人| 在线天堂最新版资源| 十八禁网站免费在线| 操出白浆在线播放| 香蕉久久夜色| 色吧在线观看| 黄色片一级片一级黄色片| 在线播放无遮挡| 亚洲乱码一区二区免费版| 天美传媒精品一区二区| 一本精品99久久精品77| 三级国产精品欧美在线观看| 观看美女的网站| 内地一区二区视频在线| 国内少妇人妻偷人精品xxx网站| 最近视频中文字幕2019在线8| 首页视频小说图片口味搜索| 在线观看66精品国产| 国产精品,欧美在线| 别揉我奶头~嗯~啊~动态视频| 午夜视频国产福利| 日韩 欧美 亚洲 中文字幕| 一边摸一边抽搐一进一小说| 99热精品在线国产| eeuss影院久久| 国产成人影院久久av| 成人一区二区视频在线观看| 精华霜和精华液先用哪个| 一区二区三区免费毛片| 日韩欧美在线乱码| 搡女人真爽免费视频火全软件 | 国产高清三级在线| 成人国产综合亚洲| 精品无人区乱码1区二区| 别揉我奶头~嗯~啊~动态视频| 淫妇啪啪啪对白视频| 婷婷精品国产亚洲av| 波多野结衣高清无吗| 床上黄色一级片| 久久九九热精品免费| 真实男女啪啪啪动态图| 搡老熟女国产l中国老女人| 97碰自拍视频| 天堂动漫精品| 啪啪无遮挡十八禁网站| 性欧美人与动物交配| 男女那种视频在线观看| 国产 一区 欧美 日韩| 草草在线视频免费看| 久久精品夜夜夜夜夜久久蜜豆| 国产成人福利小说| 亚洲五月婷婷丁香| www国产在线视频色| 国语自产精品视频在线第100页| 国内揄拍国产精品人妻在线| 一区二区三区免费毛片| 成熟少妇高潮喷水视频| 亚洲无线观看免费| 亚洲欧美日韩无卡精品| 久久久久久久精品吃奶| 精品日产1卡2卡| 亚洲国产精品合色在线| 欧美在线黄色| 极品教师在线免费播放| 午夜老司机福利剧场| 欧美丝袜亚洲另类 | 午夜福利在线在线| 国产91精品成人一区二区三区| 日日干狠狠操夜夜爽| 午夜激情欧美在线| www.熟女人妻精品国产| 久久久国产成人免费| 中出人妻视频一区二区| 一区二区三区国产精品乱码| 三级男女做爰猛烈吃奶摸视频| 免费av观看视频| 亚洲第一电影网av| 日韩大尺度精品在线看网址| 麻豆成人av在线观看| 91字幕亚洲| 色吧在线观看| 在线观看美女被高潮喷水网站 | 一进一出好大好爽视频| 亚洲内射少妇av| 亚洲五月天丁香| 亚洲成a人片在线一区二区| 精品国内亚洲2022精品成人| 亚洲专区国产一区二区| 女人高潮潮喷娇喘18禁视频| 男女床上黄色一级片免费看| 成人无遮挡网站| 精品人妻一区二区三区麻豆 | 久久久国产成人免费| 两性午夜刺激爽爽歪歪视频在线观看| 久久精品影院6| 亚洲一区高清亚洲精品| 一个人看视频在线观看www免费 | 亚洲成人久久性| 国产精品综合久久久久久久免费| 亚洲真实伦在线观看| 九九热线精品视视频播放| 欧美丝袜亚洲另类 | 最新中文字幕久久久久| 亚洲av熟女| 免费搜索国产男女视频| 国产v大片淫在线免费观看| 欧美绝顶高潮抽搐喷水| 成人高潮视频无遮挡免费网站| 女人高潮潮喷娇喘18禁视频| 俄罗斯特黄特色一大片| 国产精华一区二区三区| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 激情在线观看视频在线高清| 嫩草影视91久久| 99热只有精品国产| 成人午夜高清在线视频| 精品熟女少妇八av免费久了| 日本三级黄在线观看| netflix在线观看网站| 国产一区二区三区视频了| 黄色女人牲交| 国产黄色小视频在线观看| 国产中年淑女户外野战色| 国产av麻豆久久久久久久| 亚洲精品在线观看二区| 别揉我奶头~嗯~啊~动态视频| 又黄又爽又免费观看的视频| 国产精品自产拍在线观看55亚洲| 美女被艹到高潮喷水动态| 色噜噜av男人的天堂激情| 国产美女午夜福利| av在线蜜桃| 欧美激情在线99| 可以在线观看毛片的网站| 久久精品国产亚洲av香蕉五月| 亚洲人成伊人成综合网2020| 久久精品91蜜桃| 国产伦人伦偷精品视频| 成人欧美大片| 国产精品一区二区三区四区久久| 色尼玛亚洲综合影院| 欧美又色又爽又黄视频| 欧美日韩福利视频一区二区| 日韩中文字幕欧美一区二区| 日日干狠狠操夜夜爽| 国产激情偷乱视频一区二区| 日韩欧美三级三区| 高清在线国产一区| 一级a爱片免费观看的视频| 成人av在线播放网站| 一级黄色大片毛片| av视频在线观看入口| 午夜免费男女啪啪视频观看 | 在线观看舔阴道视频| 久久中文看片网| 成熟少妇高潮喷水视频| 亚洲国产精品999在线| 久久久国产成人免费| 黄色成人免费大全| 最近最新中文字幕大全免费视频| 国产精品亚洲美女久久久| 国产精品一区二区三区四区久久| 一本精品99久久精品77| 国产伦精品一区二区三区视频9 | 精品人妻偷拍中文字幕| 1024手机看黄色片| 国产极品精品免费视频能看的| 日日干狠狠操夜夜爽| 亚洲精品一区av在线观看| 嫩草影院入口| 国产毛片a区久久久久| 淫秽高清视频在线观看| av专区在线播放| 男女做爰动态图高潮gif福利片| 中亚洲国语对白在线视频| 成人一区二区视频在线观看| 国产高清视频在线观看网站| 欧美一级毛片孕妇| 亚洲国产精品sss在线观看| 天美传媒精品一区二区| 日本一本二区三区精品| 国产精品久久久久久精品电影| 黄片大片在线免费观看| 少妇的逼水好多| 五月玫瑰六月丁香| 最近最新中文字幕大全电影3| 少妇丰满av| 欧美色欧美亚洲另类二区| 每晚都被弄得嗷嗷叫到高潮| 毛片女人毛片| 中文亚洲av片在线观看爽| 最近最新中文字幕大全免费视频| 在线播放无遮挡| 亚洲内射少妇av| 国产色爽女视频免费观看| 午夜免费成人在线视频| 老鸭窝网址在线观看| 亚洲欧美日韩高清在线视频| 亚洲精品在线美女| 国产一区二区在线av高清观看| 久久久国产成人免费| 国产 一区 欧美 日韩| 久久国产精品影院| 久久99热这里只有精品18| 亚洲av第一区精品v没综合| 久久精品国产99精品国产亚洲性色| 亚洲色图av天堂| 久久精品影院6| 夜夜夜夜夜久久久久| 亚洲无线观看免费| 精品人妻1区二区| 亚洲国产欧美人成| 在线免费观看不下载黄p国产 | 69av精品久久久久久| 欧洲精品卡2卡3卡4卡5卡区| av福利片在线观看| 午夜福利欧美成人| 午夜免费激情av| 午夜日韩欧美国产| 99久久精品热视频| 日本a在线网址| www.熟女人妻精品国产| 午夜福利在线观看免费完整高清在 | 免费看十八禁软件| 真人一进一出gif抽搐免费| 国产精品一区二区免费欧美| 精品国产亚洲在线| 色综合站精品国产| 老司机午夜十八禁免费视频| 欧美+日韩+精品| 久久精品国产亚洲av香蕉五月| 欧美成狂野欧美在线观看| 很黄的视频免费| 亚洲国产欧美网| 久久亚洲精品不卡| 18禁黄网站禁片午夜丰满| 国产成+人综合+亚洲专区| 久久亚洲精品不卡| 无人区码免费观看不卡| 在线观看66精品国产| 偷拍熟女少妇极品色| 亚洲人成网站在线播| 国内精品一区二区在线观看| 精品国产三级普通话版| 亚洲精华国产精华精| 中文字幕人妻熟人妻熟丝袜美 | 国产高清有码在线观看视频| 国产aⅴ精品一区二区三区波| 国产一区二区三区视频了| АⅤ资源中文在线天堂| 欧美乱妇无乱码| 亚洲午夜理论影院| 好男人电影高清在线观看| 亚洲国产精品成人综合色| 国产色爽女视频免费观看| 99国产极品粉嫩在线观看| 一本一本综合久久| 欧美一区二区精品小视频在线| 一级作爱视频免费观看| 国产爱豆传媒在线观看| 操出白浆在线播放| 人人妻,人人澡人人爽秒播| 亚洲人成伊人成综合网2020| 午夜福利18| 性欧美人与动物交配| 国产午夜精品久久久久久一区二区三区 | 亚洲人成网站高清观看| 老汉色av国产亚洲站长工具| 看片在线看免费视频| 成年女人永久免费观看视频| 小蜜桃在线观看免费完整版高清| 亚洲av电影在线进入| 久久久久久久久中文| 亚洲av电影在线进入| 亚洲成av人片在线播放无| 九九热线精品视视频播放| 中文字幕av在线有码专区| 久久久久久大精品| 亚洲一区二区三区不卡视频| 成人午夜高清在线视频| av天堂中文字幕网| 久久午夜亚洲精品久久| 每晚都被弄得嗷嗷叫到高潮| 99热6这里只有精品| 精品人妻1区二区| 国产亚洲欧美98| 国产真实伦视频高清在线观看 | 深夜精品福利| 久久精品国产99精品国产亚洲性色| 在线天堂最新版资源| 成人午夜高清在线视频| 一级毛片高清免费大全| avwww免费| 亚洲成a人片在线一区二区| 久久国产精品影院| 香蕉丝袜av| 国产色婷婷99| 亚洲自拍偷在线| 精品欧美国产一区二区三| 波野结衣二区三区在线 | 成人性生交大片免费视频hd| 久久精品国产亚洲av涩爱 | 国产乱人视频| 日本 欧美在线| 在线观看舔阴道视频| 狠狠狠狠99中文字幕| 久久人妻av系列| 国产成人系列免费观看| 免费观看的影片在线观看| 成人国产综合亚洲| 久久久久久国产a免费观看| 制服人妻中文乱码| 男女下面进入的视频免费午夜| 99热6这里只有精品| 亚洲成人免费电影在线观看| 18禁美女被吸乳视频| 成人一区二区视频在线观看| 女人高潮潮喷娇喘18禁视频| 最好的美女福利视频网| 欧美乱妇无乱码| 国内精品一区二区在线观看| 一个人免费在线观看的高清视频| 国产又黄又爽又无遮挡在线| 亚洲国产精品999在线| 性色avwww在线观看| 在线观看舔阴道视频| 一进一出好大好爽视频| 99久国产av精品| 亚洲自拍偷在线| 三级毛片av免费| 亚洲最大成人中文| 国产精品一及| 人妻久久中文字幕网| 神马国产精品三级电影在线观看| 一本一本综合久久| 成人特级黄色片久久久久久久| 日韩欧美免费精品| 丁香六月欧美| 免费电影在线观看免费观看| 美女高潮的动态| 国产高潮美女av| 日本 欧美在线| 久久精品国产亚洲av涩爱 | 欧美不卡视频在线免费观看| 最近视频中文字幕2019在线8| 亚洲欧美日韩高清在线视频| av欧美777| xxxwww97欧美| 每晚都被弄得嗷嗷叫到高潮| 一本久久中文字幕| 亚洲欧美日韩东京热| 一个人免费在线观看的高清视频| 高潮久久久久久久久久久不卡| 亚洲片人在线观看| 午夜福利成人在线免费观看| 亚洲精品亚洲一区二区| 在线观看免费午夜福利视频| 国产伦精品一区二区三区四那| 国产成年人精品一区二区| 亚洲精品乱码久久久v下载方式 | 在线看三级毛片| 一进一出抽搐gif免费好疼| 日本一二三区视频观看| 婷婷精品国产亚洲av| 亚洲aⅴ乱码一区二区在线播放| 国产免费男女视频| 淫秽高清视频在线观看| 窝窝影院91人妻| 中文字幕人妻丝袜一区二区| 中文字幕人妻熟人妻熟丝袜美 | 人妻久久中文字幕网| 午夜影院日韩av| 老司机午夜十八禁免费视频| 欧美一区二区精品小视频在线| 久久久色成人| 成人特级黄色片久久久久久久| 日本 欧美在线| 一个人看的www免费观看视频| 亚洲黑人精品在线| 白带黄色成豆腐渣| 制服丝袜大香蕉在线| 99久久99久久久精品蜜桃| 欧美一区二区国产精品久久精品| 日韩大尺度精品在线看网址| 久久久久久久久久黄片| 高清在线国产一区| 最新中文字幕久久久久| 亚洲欧美精品综合久久99| 啦啦啦免费观看视频1| 首页视频小说图片口味搜索| av中文乱码字幕在线| 免费在线观看成人毛片| 亚洲专区中文字幕在线| 午夜精品久久久久久毛片777| 国产视频一区二区在线看| 国产精品久久久久久人妻精品电影| 特级一级黄色大片| 我要搜黄色片| netflix在线观看网站| 亚洲狠狠婷婷综合久久图片| 一区二区三区国产精品乱码| 国内毛片毛片毛片毛片毛片| av福利片在线观看| 非洲黑人性xxxx精品又粗又长| 国内揄拍国产精品人妻在线| 美女被艹到高潮喷水动态| 亚洲av第一区精品v没综合| 亚洲电影在线观看av| 免费在线观看亚洲国产| 免费av毛片视频| 小蜜桃在线观看免费完整版高清| 老鸭窝网址在线观看| 久久久久久九九精品二区国产| 女人被狂操c到高潮| 18禁国产床啪视频网站| 欧美乱码精品一区二区三区| 国产成人影院久久av| av天堂在线播放| 国产高清videossex| 久久久久久大精品| av福利片在线观看| 国内精品久久久久久久电影| 国产精品久久久久久精品电影| 成人精品一区二区免费| 亚洲五月天丁香| 中文字幕av成人在线电影| 精品久久久久久成人av| 琪琪午夜伦伦电影理论片6080| 老熟妇乱子伦视频在线观看| 午夜精品久久久久久毛片777| www日本黄色视频网| 中文字幕久久专区| 久久久久久久精品吃奶| 亚洲专区中文字幕在线| svipshipincom国产片| 九九热线精品视视频播放| 免费av不卡在线播放| x7x7x7水蜜桃| 国产免费av片在线观看野外av| 午夜免费男女啪啪视频观看 | 精品一区二区三区人妻视频| 热99re8久久精品国产| 色在线成人网| 国产精品久久电影中文字幕| 国产精品久久久久久精品电影| 淫妇啪啪啪对白视频| 搡老妇女老女人老熟妇| 免费在线观看影片大全网站| 精品午夜福利视频在线观看一区| 亚洲国产欧洲综合997久久,| 欧美激情久久久久久爽电影| 女警被强在线播放| 他把我摸到了高潮在线观看| 久久久久免费精品人妻一区二区| 午夜福利视频1000在线观看| 97人妻精品一区二区三区麻豆| 日韩大尺度精品在线看网址| 日韩av在线大香蕉| 日韩欧美国产一区二区入口| 欧美大码av| 少妇裸体淫交视频免费看高清| 亚洲成人免费电影在线观看| 成年女人毛片免费观看观看9| 一二三四社区在线视频社区8| 日韩精品中文字幕看吧| 国产成人av教育| 国产免费av片在线观看野外av| 亚洲国产日韩欧美精品在线观看 | 日本五十路高清| 久久国产精品人妻蜜桃| 日韩欧美免费精品| 99久久久亚洲精品蜜臀av| 日韩欧美在线二视频| 噜噜噜噜噜久久久久久91| 日韩中文字幕欧美一区二区| 国产v大片淫在线免费观看| 国产av不卡久久| 成人国产综合亚洲| 99热6这里只有精品| 97超视频在线观看视频| 亚洲va日本ⅴa欧美va伊人久久| 最近最新中文字幕大全免费视频| 身体一侧抽搐| 日韩欧美在线二视频| 黄色视频,在线免费观看| 亚洲中文字幕一区二区三区有码在线看| 欧美成人免费av一区二区三区| 欧美一区二区国产精品久久精品| 国产精品亚洲一级av第二区| 狂野欧美激情性xxxx| 有码 亚洲区| 精品不卡国产一区二区三区| 狂野欧美激情性xxxx| 久久香蕉国产精品| 又紧又爽又黄一区二区| 国产成人欧美在线观看| 亚洲内射少妇av| 日本成人三级电影网站| 狂野欧美激情性xxxx| 国产亚洲欧美在线一区二区| 日本成人三级电影网站| 老司机午夜福利在线观看视频| 床上黄色一级片| 女同久久另类99精品国产91| 中出人妻视频一区二区| 波多野结衣高清作品| 国产亚洲精品av在线| 色精品久久人妻99蜜桃| 国产爱豆传媒在线观看| 狂野欧美激情性xxxx| 免费电影在线观看免费观看|