人工智能趨勢下自動化行政的個人數(shù)據(jù)保護(hù)機(jī)制之構(gòu)建

自動化行政借助電子媒介開展行政活動，為行政效率的提高和行政流程的再造提供了可能性，而對人工智能技術(shù)的引入則使其應(yīng)用實效進(jìn)一步提升。但與此同時，人工智能趨勢下的自動化行政亦顯現(xiàn)出多方面的潛在風(fēng)險，其中較為突出的是智能系統(tǒng)對信息供給的高需求為公民個人數(shù)據(jù)保護(hù)所帶來的挑戰(zhàn)，包括敏感個人數(shù)據(jù)采集常態(tài)化、智能系統(tǒng)之算法歧視缺乏有效監(jiān)管等。2018年5月25日，歐洲聯(lián)盟出臺《通用數(shù)據(jù)保護(hù)條例》，對企業(yè)獲取和使用個人數(shù)據(jù)作出體系化規(guī)制，也為我國自動化行政中個人數(shù)據(jù)保護(hù)機(jī)制之構(gòu)建提供了參考。

一、概述

相較傳統(tǒng)行政模式，人工智能趨勢下的自動化行政顯現(xiàn)出其獨特的優(yōu)越性，能夠大幅提高行政行為的效率，促進(jìn)對公共資源的合理配置，其特征是以自動化設(shè)備的運作過程而不必人為操作的程度來衡量。但人工智能技術(shù)在行政行為中的引入也并非全為裨益。人工智能中樞對行政行為之范式的深度學(xué)習(xí)及此后在個案中應(yīng)用是以數(shù)據(jù)庫的支撐為基礎(chǔ)。如在人工智能的研發(fā)階段，需要大規(guī)模的數(shù)據(jù)儲備;人工智能的運行階段，是為個人提供個性化服務(wù)的過程，是收集用戶信息、生成新信息的過程。因此，當(dāng)人工智能技術(shù)廣泛應(yīng)用于行政領(lǐng)域后，勢必會對行政相對人的個人數(shù)據(jù)保護(hù)造成威脅。2018年5月25日，歐洲聯(lián)盟出臺《通用數(shù)據(jù)保護(hù)條例》（GDPR），對企業(yè)采集、處理、流通公民個人數(shù)據(jù)的行為作出了系統(tǒng)化的規(guī)制，也為我國自動化行政中個人數(shù)據(jù)保護(hù)機(jī)制的構(gòu)建提供了參考路徑。

二、個人數(shù)據(jù)保護(hù)視閾下自動化行政智能化的潛在風(fēng)險

（一）常態(tài)化采集生物性識別數(shù)據(jù)

隨著人工智能技術(shù)的發(fā)展，虹膜、面部信息等生物性識別數(shù)據(jù)的使用率有所提高，“刷臉支付”功能的推出更是將人臉識別技術(shù)推向了新一輪的應(yīng)用高峰。在自動化行政領(lǐng)域，該技術(shù)亦逐漸擴(kuò)大使用。例如，目前已有多個城市在交通管制中引入“電子警察”系統(tǒng)。毋庸置疑，這一系統(tǒng)的引入的確能夠?qū)痪块T起到有效的輔佐作用。然而，面部信息等生物性識別數(shù)據(jù)相較姓名、聯(lián)系方式等個人信息具有其特殊性，此類信息的泄露具有不可逆性。以支付領(lǐng)域中的個人信息為例，當(dāng)傳統(tǒng)數(shù)字型密碼泄露后，用戶可通過修改密碼的方式防止個人賬戶被盜用。但當(dāng)可用于“刷臉支付”的面部信息被泄露后，公民很難采取措施逆轉(zhuǎn)由此可能產(chǎn)生的不利后果。雖然目前的人臉識別系統(tǒng)多配備活體檢測功能，僅通過照片很難破解。但當(dāng)3D結(jié)構(gòu)光技術(shù)逐漸發(fā)展后，未來通過對人臉結(jié)構(gòu)光的解析運算和3D打印相結(jié)合將極有可能產(chǎn)生能夠破解人臉識別系統(tǒng)的人臉面具，屆時將使面部信息泄露帶來的風(fēng)險大幅提升。

（二）智能系統(tǒng)的技術(shù)性瑕疵缺乏有效監(jiān)管

隨著人工智能技術(shù)的日臻成熟，人工智能系統(tǒng)逐漸成為一個決策過程不可見的“黑箱”，機(jī)器學(xué)習(xí)模型的內(nèi)部決策邏輯并不總是可以被理解的，即使對于程序員也是如此。算法黑箱的存在將導(dǎo)致作出行政決策的內(nèi)部邏輯和依據(jù)出現(xiàn)不透明性。同時，人工智能系統(tǒng)已經(jīng)被發(fā)現(xiàn)存在“算法歧視”問題。因此，當(dāng)算法黑箱和算法歧視同時存在時，就將導(dǎo)致部分行政決策由于智能系統(tǒng)內(nèi)部的算法歧視而在公民的個人數(shù)據(jù)間產(chǎn)生傾向性，產(chǎn)生對行政相對人不公正的后果，同時，這種不公正性又將因為算法黑箱而無法被行政部門和行政相對人所知曉，對行政法的合理行政原則和程序正當(dāng)原則提出巨大挑戰(zhàn)。

（三）存在過度使用個人數(shù)據(jù)之嫌

人工智能趨勢下的自動化行政強(qiáng)調(diào)信息融通，各行政部門間建立信息聯(lián)動機(jī)制，以期建立數(shù)據(jù)源最健全的人工智能中樞。然而，這種對公民個人數(shù)據(jù)采集后提供給其他部門進(jìn)行二次使用的行為模式的正當(dāng)性是有待考量的。例如，當(dāng)公民以辦理證件為目的同意某部門采集其面部數(shù)據(jù)時，該部門是否有權(quán)將采集到的信息歸入智能數(shù)據(jù)庫，使交警部門能夠借助“電子警察”系統(tǒng)對違規(guī)行人的面部數(shù)據(jù)進(jìn)行比對？而在前述對公民個人數(shù)據(jù)聯(lián)動使用的情景中，顯然已經(jīng)明顯不符目的限制原則。因此，當(dāng)前自動化行政中對公民個人數(shù)據(jù)的處理方式存在過度使用之嫌，有權(quán)采集并不意味著有權(quán)控制數(shù)據(jù)之流通，行政主體在自動化行政中需厘清其處理公民個人數(shù)據(jù)的權(quán)限邊界。

三、我國自動化行政中個人數(shù)據(jù)保護(hù)機(jī)制的構(gòu)建路徑

（一）確立行政主體的算法透明度義務(wù)

在構(gòu)建自動化行政的法律規(guī)制時，應(yīng)當(dāng)確立使用自動化行政的行政主體的算法透明度義務(wù)。以行政許可為例，《行政許可法》第三十八條規(guī)定：“行政機(jī)關(guān)依法作出不予行政許可的書面決定的，應(yīng)當(dāng)說明理由?！痹谧詣踊姓沫h(huán)境下，行政許可決定不再由行政主體直接作出，而是由智能系統(tǒng)作出。傳統(tǒng)行政模式下行政主體作出行政許可決定的原因轉(zhuǎn)化為自動化行政模式下智能系統(tǒng)作出行政許可決定的算法依據(jù)。據(jù)此，此時應(yīng)對《行政許可法》第三十八條中的“理由”作擴(kuò)大解釋，即“理由”包括智能系統(tǒng)的程式邏輯、內(nèi)部算法，否則將導(dǎo)致在自動化行政中該條款無法有效適用。此外，當(dāng)存在算法歧視的潛在風(fēng)險性時，不同行政相對人的個人數(shù)據(jù)被賦予或優(yōu)或劣的傾向性，這意味著行政相對人在行政行為的實施過程中地位不再平等。而確立行政主體的算法透明度則一方面可以通過社會監(jiān)督反作用于行政主體，促進(jìn)其盡可能完善自動化行政的智能系統(tǒng)、盡可能規(guī)避算法歧視問題，促進(jìn)行政相對人得到公平對待。

（二）構(gòu)建行政相對人個人數(shù)據(jù)之被遺忘權(quán)

在不影響行政主體正常行使職能的范圍內(nèi)清除可能造成智能系統(tǒng)傾向性的過往數(shù)據(jù)，以良好的數(shù)據(jù)庫基礎(chǔ)支持自動化行政智能系統(tǒng)合理運作。此種對數(shù)據(jù)的合理清除即為被遺忘權(quán)，即權(quán)利主體享有要求義務(wù)主體立即清除與其相關(guān)的個人數(shù)據(jù)，而義務(wù)主體在沒有正當(dāng)原因的情況下不能延誤清除數(shù)據(jù)主體個人數(shù)據(jù)的權(quán)利。自2012年歐盟委員會提出創(chuàng)建被遺忘權(quán)以來，其在多國司法實踐中得到體現(xiàn)。構(gòu)建個人數(shù)據(jù)之被遺忘權(quán)，不僅僅是出于數(shù)據(jù)隱私保護(hù)的需求，同時也是出于應(yīng)對人工智能系統(tǒng)潛在技術(shù)性瑕疵的需求。

（三）注重個人數(shù)據(jù)權(quán)利之內(nèi)涵微觀化

我國目前關(guān)于保護(hù)公民個人信息的法律規(guī)制可見之于《侵權(quán)責(zé)任法》、《消費者權(quán)益保護(hù)法》、《刑法》及司法解釋等多部文件中，碎片化現(xiàn)象嚴(yán)重，進(jìn)而又導(dǎo)致無法對個人數(shù)據(jù)權(quán)利的權(quán)利內(nèi)涵作出體系性的規(guī)定。據(jù)此，筆者認(rèn)為在構(gòu)建自動化行政的個人數(shù)據(jù)保護(hù)機(jī)制時，應(yīng)當(dāng)注重權(quán)利內(nèi)涵微觀化——即保障公民個人數(shù)據(jù)的法律規(guī)制應(yīng)當(dāng)細(xì)化體現(xiàn)在獲取、使用、保存階段中的不同權(quán)利，例如在獲取數(shù)據(jù)階段行政相對人要求其說明數(shù)據(jù)用途的權(quán)利、在數(shù)據(jù)使用階段行政相對人要求數(shù)據(jù)在行政相對人此先說明的范圍內(nèi)使用的權(quán)利、在數(shù)據(jù)的保存階段行政相對人要求在合理范圍內(nèi)行使被遺忘權(quán)的權(quán)利。如此方可使對行政相對人的個人數(shù)據(jù)保護(hù)機(jī)制能夠真正產(chǎn)生實效，對各類侵犯行政相對人數(shù)據(jù)權(quán)利發(fā)揮有效規(guī)制作用。

參考文獻(xiàn)

[1]張順彬，孟然，李博：《對行政自動化的再思考》，《遼寧經(jīng)濟(jì)》2005年02期。

[2]雷悅：《人工智能發(fā)展中的法律問題探析》，《北京郵電大學(xué)學(xué)報（社會科學(xué)版）》2018年第1期。

[3]盧有學(xué)，竇澤正：《論刑法如何對自動駕駛進(jìn)行規(guī)制———以交通肇事罪為視角》，載《學(xué)術(shù)交流》，2018年4月。

[4]李慧：《被遺忘權(quán)的本土化研究》，《法制博覽》2018年10月.

作者簡介：夏韻（1998.09-），女，浙江杭州人，學(xué)歷：2017級本科生。