• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    自動(dòng)化行政許可審查的法律控制

    2022-02-01 11:44:45唐曼
    現(xiàn)代法學(xué) 2022年6期

    摘 要:在自動(dòng)化技術(shù)崛起和行政審批服務(wù)改革的雙重背景下,以自動(dòng)化方式改革行政許可審查的做法已漸成趨勢(shì)。自動(dòng)化行政許可審查即行政機(jī)關(guān)有意識(shí)地將自動(dòng)化技術(shù)不同程度地嵌入行政許可審查的步驟中,使自動(dòng)化系統(tǒng)模擬人腦實(shí)施許可審查并作出許可決策。將許可審查方式變革為自動(dòng)化方式,在法律上具有有限的容許性,許可機(jī)關(guān)有選擇自動(dòng)化許可審查方式的裁量權(quán),但必須恪守有關(guān)的法律約束并結(jié)合具體情形作出個(gè)案裁量,否則可能導(dǎo)致裁量瑕疵。在具體應(yīng)用場(chǎng)景中,采用自動(dòng)化方式的許可審查,可能在事實(shí)認(rèn)定、法律適用、程序正義等方面遭遇法律挑戰(zhàn)。未來應(yīng)厘定自動(dòng)化行政許可審查的適用邊界,強(qiáng)化許可機(jī)關(guān)在自動(dòng)化許可審查中的作用,優(yōu)化自動(dòng)化許可審查的程序設(shè)計(jì),加強(qiáng)許可機(jī)關(guān)的能力建設(shè)。

    關(guān)鍵詞:自動(dòng)化行政;行政許可審查;相對(duì)人同意

    中圖分類號(hào):DF 31 文獻(xiàn)標(biāo)志碼:A

    DOI:10.3969/j.issn.1001-2397.2022.06.06 開放科學(xué)(資源服務(wù))標(biāo)識(shí)碼(OSID):

    基金項(xiàng)目:國家社會(huì)科學(xué)基金2020年度重大項(xiàng)目“突發(fā)重大公共衛(wèi)生事件防控的法治體系研究”(20&ZD188)

    作者簡(jiǎn)介:

    唐曼(1993),女,甘肅臨夏人,南開大學(xué)法學(xué)院博士生。

    一、引言

    近年來,我國加快了以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等自動(dòng)化技術(shù)促進(jìn)政府管理創(chuàng)新和行政審批改革的步伐。例如,要求堅(jiān)持體制創(chuàng)新與技術(shù)發(fā)展融合促進(jìn),改革行政許可方式,加快推進(jìn)政務(wù)服務(wù)“一網(wǎng)通辦”“審批服務(wù)便民化”;要求政務(wù)服務(wù)事項(xiàng)遵循“應(yīng)上盡上、全程在線”的網(wǎng)上辦理原則。在此背景下,國務(wù)院部門及部分地方政府逐步將自動(dòng)化方式引入了行政許可審查。在企業(yè)注冊(cè)登記、執(zhí)業(yè)資格證照辦理、民生社保事項(xiàng)辦理、人才落戶、稅務(wù)辦理、建筑工程項(xiàng)目規(guī)劃審批、出入境邊檢許可以及排污、衛(wèi)生、辦學(xué)、經(jīng)營許可證照核發(fā)等領(lǐng)域,已出現(xiàn)了“無人審批”“秒批”“智能審批”“刷臉審批”“不見面審批”“無感審批”等新型審批方式。在實(shí)踐中,“以技術(shù)為治理賦能”,將自動(dòng)化方式應(yīng)用于行政許可審查已漸成趨勢(shì)。

    行政許可審查是行政許可實(shí)施的核心步驟,是最終許可決定賴以作出的基礎(chǔ)。審查過程即許可機(jī)關(guān)判斷申請(qǐng)人實(shí)際情況是否符合法定許可條件的過程。傳統(tǒng)人工模式下,許可審查過程通常包含“申請(qǐng)人實(shí)際情況認(rèn)定”“法定許可條件解釋及補(bǔ)充”“申請(qǐng)人事實(shí)條件涵攝于法定許可條件”等三個(gè)步驟。而新型的自動(dòng)化許可審查,即許可機(jī)關(guān)有意識(shí)地將自動(dòng)化技術(shù)不同程度地嵌入上述步驟中,使得在無需人工介入的情況下,由自動(dòng)化系統(tǒng)全部或部分地代替人工,模擬人腦完成許可審查,進(jìn)而獨(dú)立或輔助許可機(jī)關(guān)作出“應(yīng)否授予許可”的決定。

    這種新型審查方式使得自動(dòng)化系統(tǒng)實(shí)質(zhì)性參與到許可決策中,引發(fā)了“人工決策”向“自動(dòng)化決策”的變革。原本審查程序內(nèi)部相對(duì)獨(dú)立的環(huán)節(jié)被壓縮、糅合或省略,許可申請(qǐng)、審查、判斷、決策等內(nèi)部環(huán)節(jié)瞬時(shí)、同步完成,很難再按照傳統(tǒng)釋義學(xué)的要求進(jìn)行截取和區(qū)分,給《中華人民共和國行政許可法》(以下簡(jiǎn)稱《行政許可法》)相關(guān)條文的適用帶來了挑戰(zhàn)。盡管“技術(shù)升級(jí)”順應(yīng)了電子化行政的時(shí)代潮流,為行政機(jī)關(guān)和相對(duì)人帶來了便捷高效的技術(shù)紅利。但技術(shù)背后潛藏的安全性、歧視、隱私、偏見等問題,也可能招致法律上的不確定性與負(fù)外部性,乃至侵蝕行政法的原理與原則。因此,自動(dòng)化與許可審查的結(jié)合,并不似其表面看起來那般理所當(dāng)然。

    在全面依法治國背景下,許可機(jī)關(guān)以自動(dòng)化方式作出行政許可審查,須經(jīng)受合法性與合目的性的拷問。如果許可機(jī)關(guān)未經(jīng)法律上容許性的判斷,未考慮技術(shù)在具體運(yùn)行場(chǎng)景和實(shí)際運(yùn)行過程中的各類風(fēng)險(xiǎn),即選擇以自動(dòng)化技術(shù)代替人工作出行政許可審查,則此舉措的合法性與裁量的適當(dāng)性可堪質(zhì)疑。

    頒布于2003年的《行政許可法》未能對(duì)自動(dòng)化行政許可審查予以明確的回應(yīng)。學(xué)界雖已積累了一些“自動(dòng)化行政”的研究成果,但往往缺少結(jié)合具體行政場(chǎng)景的研究。面對(duì)狂飆突進(jìn)的技術(shù)實(shí)踐和紛繁復(fù)雜的行政實(shí)踐,仍需對(duì)此開展更為細(xì)密的研究。

    本文綜合運(yùn)用法釋義學(xué)和法政策學(xué)方法,分析自動(dòng)化行政許可審查的方式裁量行為在法律上的容許性,繼而從審查過程的微觀視角,分析自動(dòng)化行政許可審查在事實(shí)認(rèn)定、法律適用、審查程序等不同層面可能面臨的挑戰(zhàn),并對(duì)自動(dòng)化行政許可的制度完善之道提出了些許見解。

    二、自動(dòng)化行政許可審查的容許性

    目前,尚無條文就“法律上能否容許以自動(dòng)化方式作出許可審查”加以明確的規(guī)定,行政法釋義學(xué)上也缺乏有關(guān)行政行為方式選擇的學(xué)理指引。為此,需考察行政機(jī)關(guān)能否基于裁量機(jī)制,在既定法律框架內(nèi)獲得選擇自動(dòng)化許可審查方式的正當(dāng)性。

    (一)選擇以自動(dòng)化方式作出行政許可審查的裁量空間

    行政機(jī)關(guān)在自動(dòng)化審查與人工審查之間的抉擇,是針對(duì)許可審查方式與程序形式的裁量,屬于程序裁量的范疇。除非在個(gè)案中遭遇“裁量收縮至零”的情況,使得行政機(jī)關(guān)只限于唯一的可選方式;否則,只要沒有明確的法律限制,行政機(jī)關(guān)即享有選擇行政行為作成方式的“方式自由”,可采取更加適宜的手段來完成行政任務(wù)。

    《行政許可法》第6條規(guī)定了便民和效率原則,規(guī)定“實(shí)施行政許可,應(yīng)當(dāng)遵循便民的原則,提高辦事效率,提供優(yōu)質(zhì)服務(wù)?!?《行政許可法》第33條規(guī)定,“行政機(jī)關(guān)應(yīng)當(dāng)建立和完善有關(guān)制度,推行電子政務(wù),……方便申請(qǐng)人采取數(shù)據(jù)電文等方式提出行政許可申請(qǐng)……提高辦事效率?!币陨蠗l款旨在優(yōu)化政務(wù)服務(wù)質(zhì)量,方便申請(qǐng)人提出許可申請(qǐng),提高行政效能。第33條倡導(dǎo)許可機(jī)關(guān)引入電子政務(wù)制度,但建立和完善何種制度來推行“電子政務(wù)”,應(yīng)采取何種許可審查方式來追求“便民、效率”的改革目標(biāo),是立法留待行政機(jī)關(guān)積極作為的裁量空間,行政機(jī)關(guān)可選擇符合便民和效率要求的許可審查方式,以更快捷、更高質(zhì)量地實(shí)施行政許可。

    電子政務(wù)指“政府部門利用信息技術(shù)(IT)、通信技術(shù)(ICT)以及其他基于網(wǎng)絡(luò)的電子信息技術(shù)來改善和提高政務(wù)服務(wù)效率和有效性”。以網(wǎng)絡(luò)信息傳輸與智能算法為基礎(chǔ)的自動(dòng)化行政是推行電子政務(wù)的主要手段,天然帶有便捷、高效的特性。自動(dòng)化行政許可審查與《行政許可法》倡導(dǎo)的“便民、效率”理念相契合,也坐落于《行政許可法》所賦予的許可審查方式裁量空間之內(nèi)。

    (二)對(duì)方式裁量的約束

    根據(jù)裁量瑕疵理論,行政裁量應(yīng)當(dāng)受法律約束。行政裁量超越其外部界限(授權(quán)規(guī)定、一般法律原則等法規(guī)范邊界)就構(gòu)成裁量逾越;行政裁量超越其內(nèi)部界限(不符裁量授權(quán)目的、思慮不周等主觀判斷因素不當(dāng))就構(gòu)成裁量濫用。行政機(jī)關(guān)裁量使用自動(dòng)化的許可審查方式,也應(yīng)當(dāng)遵守程序原則,符合裁量授權(quán)目的,在法律容許的框架內(nèi)運(yùn)行。

    1.“相對(duì)人同意”作為引入自動(dòng)化方式的前提性約束

    首先,從程序原則的角度,“相對(duì)人同意”是“參與”原則的題中之義?!皡⑴c”原則是行政程序的一般性原則,指受行政權(quán)力運(yùn)行結(jié)果影響的人有權(quán)參與行政權(quán)力的運(yùn)作,并對(duì)行政決定的形成發(fā)揮有效作用。在傳統(tǒng)行政程序中,告知、聽證等制度是參與原則的主要表現(xiàn)形式,而在網(wǎng)絡(luò)化、自動(dòng)化的行政程序中,尋求相對(duì)人同意,以相對(duì)人適應(yīng)、自愿的方式作出行政行為,是確保行政程序公正的重要途徑。自動(dòng)化審查方式引發(fā)原有程序的運(yùn)行邏輯改變,可能實(shí)質(zhì)性影響相對(duì)人的程序權(quán)益。如果不能確保相對(duì)人的知情、同意、選擇、拒絕等權(quán)利,就無法確保相對(duì)人在程序中的主體性,損害相對(duì)人的尊嚴(yán)。

    其次,從行政實(shí)效的角度,“相對(duì)人同意”是提高自動(dòng)化審查程序的接受程度,優(yōu)化執(zhí)行效果的重要前提。實(shí)施行政管理不能僅考慮行政機(jī)關(guān)單方面的管理需要,不能只為行政管理的“方便”而強(qiáng)迫相對(duì)人為此增加額外的成本與負(fù)擔(dān),應(yīng)當(dāng)尋求相對(duì)人的理解與同意。根據(jù)心理學(xué)研究和社會(huì)實(shí)踐調(diào)查,人工智能服務(wù)系統(tǒng)不易贏得用戶的信任。在與智能系統(tǒng)的交互中,相對(duì)人每每會(huì)感到被輕視或低估,主觀上會(huì)產(chǎn)生“智能系統(tǒng)不如人工系統(tǒng)”的刻板印象,對(duì)智能系統(tǒng)的服務(wù)和決策具有較低的心理評(píng)價(jià)和接受度,對(duì)自動(dòng)化許可審查有抵觸情緒和懷疑。此時(shí)如果未經(jīng)相對(duì)人同意而強(qiáng)行引入自動(dòng)化審查方式,容易降低相對(duì)人的安全感和心理舒適度,加劇不信任心理,動(dòng)搖相對(duì)人內(nèi)心對(duì)自動(dòng)化許可決定的信賴,導(dǎo)致其反復(fù)質(zhì)疑,甚至引發(fā)行政糾紛,損害審批效能。

    最后,在個(gè)人信息保護(hù)法上,“相對(duì)人同意”是其核心規(guī)范與“黃金法則”。在大數(shù)據(jù)時(shí)代,自動(dòng)化的許可審查程序無法脫離大規(guī)模、持續(xù)性的個(gè)人信息收集、利用,行政機(jī)關(guān)和其他履行公共職能的數(shù)據(jù)權(quán)力主體需要利用個(gè)人信息來塑造和調(diào)整個(gè)人行為。“數(shù)據(jù)壟斷”下的信息處理者與個(gè)人之間高度不對(duì)稱的權(quán)力結(jié)構(gòu),使個(gè)人面臨人格尊嚴(yán)侵蝕、合法權(quán)益減損的風(fēng)險(xiǎn)。對(duì)此,需要賦予個(gè)人在信息處理過程中的知情權(quán)、選擇權(quán)、拒絕權(quán)等對(duì)抗機(jī)制,對(duì)信息處理者形成制衡,以充分實(shí)現(xiàn)權(quán)益保障。

    域外已有立法例直接或間接地將取得“相對(duì)人同意”作為行政機(jī)關(guān)采取自動(dòng)化行政方式的前提條件。如歐盟《一般數(shù)據(jù)保護(hù)條例》(GDPR)第22條規(guī)定,數(shù)據(jù)主體有權(quán)不受制于僅由自動(dòng)化程序作出的法律決定,除非該決定是以數(shù)據(jù)主體明確的同意為基礎(chǔ),即相對(duì)人同意是其受自動(dòng)化決策約束的前提。德國《稅務(wù)條例》賦予相對(duì)人由適用全自動(dòng)程序轉(zhuǎn)為適用普通程序的選擇權(quán),相對(duì)人還可要求人工介入,拒絕適用全自動(dòng)行政程序。我國現(xiàn)行法律中并未為自動(dòng)化行政程序的引入規(guī)定“相對(duì)人同意”原則,但國務(wù)院的一系列規(guī)范性文件已對(duì)智能化政務(wù)服務(wù)的分類推進(jìn)給出了導(dǎo)引,要求對(duì)處于信息弱勢(shì)地位的群體,堅(jiān)持傳統(tǒng)服務(wù)方式與智能化服務(wù)方式并行的原則,以線上線下服務(wù)渠道相互結(jié)合、相互補(bǔ)充的方式,推動(dòng)數(shù)字化服務(wù)的普惠應(yīng)用,賦予相對(duì)人根據(jù)自身情況選擇傳統(tǒng)或智能化服務(wù)的自由。也有不少地方立法規(guī)定,政務(wù)部門應(yīng)促進(jìn)線上線下融合,為相對(duì)人提供兼容傳統(tǒng)與智能化的辦事和服務(wù)渠道。例如,《杭州城市大腦賦能城市治理促進(jìn)條例》第12條規(guī)定,應(yīng)“保障公民選擇服務(wù)方式包括傳統(tǒng)服務(wù)方式的權(quán)利”,開創(chuàng)了以立法形式認(rèn)可相對(duì)人程序選擇權(quán)的地方先例。

    綜上,“相對(duì)人同意”是推行自動(dòng)化行政許可審查的前提性約束要件,除非行政機(jī)關(guān)因“裁量收縮”而只能采用自動(dòng)化審查方式,否則,應(yīng)尊重相對(duì)人對(duì)自動(dòng)化許可審查的選擇權(quán)與拒絕權(quán)。行政機(jī)關(guān)也只能在相對(duì)人同意的前提下,采用自動(dòng)化行政許可審查方式,而不能濫用方式裁量。對(duì)于醫(yī)療、社保、民政、金融、電信、郵政、信訪、出入境、生活繳費(fèi)等高頻服務(wù)事項(xiàng),應(yīng)保留必要的線下辦理渠道,并向基層延伸,滿足相對(duì)人多樣化的辦事需求。

    2.“便民、效率”作為引入自動(dòng)化方式的目的性約束

    《行政許可法》第6條、第33條規(guī)定了“便民、效率”原則,構(gòu)成了許可機(jī)關(guān)選擇自動(dòng)化許可審查程序的裁量授權(quán)目的。許可機(jī)關(guān)改用自動(dòng)化方式實(shí)施許可審查,應(yīng)以方便相對(duì)人、提高行政效率為追求,應(yīng)從正反兩方面衡量,分析采用自動(dòng)化方式對(duì)于“便民、效率”目標(biāo)的推進(jìn)有無實(shí)益,以追求最合乎裁量授權(quán)目的的決定。

    一方面,行政機(jī)關(guān)必須考慮,相較傳統(tǒng)方式而言,自動(dòng)化許可審查是否實(shí)質(zhì)性地方便了相對(duì)人,提高了行政效率。

    “便民”要求許可審查的實(shí)施必須以人民為中心,考量相對(duì)人的實(shí)際需求,降低其負(fù)擔(dān),為其提供便利,提升其滿意度與獲得感。“效率”要求行政機(jī)關(guān)用更短時(shí)間、更低成本去完成更多任務(wù)。自動(dòng)化行政恰以高效、便捷為其顯著特征:其一,人工智能、機(jī)器學(xué)習(xí)、預(yù)測(cè)分析等技術(shù)能夠?qū)崿F(xiàn)海量數(shù)據(jù)的急速處理,提高預(yù)測(cè)的準(zhǔn)確性,將行政人員從繁重的重復(fù)性勞動(dòng)中解放出來,有助于節(jié)約行政資源。其二,自動(dòng)化許可審查能突破時(shí)空限制,實(shí)現(xiàn)24小時(shí)政務(wù),便利省時(shí),減少相對(duì)人的實(shí)地往返。其三,信息和文檔的線上處理、存儲(chǔ)、傳送,能實(shí)現(xiàn)許可業(yè)務(wù)辦理的無紙化,節(jié)約物質(zhì)資源。其四,審批業(yè)務(wù)的網(wǎng)絡(luò)化辦理能提升政民互動(dòng)實(shí)效??梢姡瑢⒆詣?dòng)化方式引入許可審查,從時(shí)間、空間、人財(cái)物等多方面節(jié)省了許可成本,顯著提升審批服務(wù)的扁平化、高效化、便捷化、智能化水平,有助于“便民、效率”目標(biāo)的實(shí)現(xiàn)。

    另一方面,行政機(jī)關(guān)須審慎衡量,自動(dòng)化技術(shù)的引入是否可能產(chǎn)生與“便民、效率”背道而馳的效果,從而無助于行政任務(wù)的實(shí)現(xiàn)。

    盡管自動(dòng)化技術(shù)以高效、便捷為顯著特征,但其固有的缺陷也可能帶來低效與不便。其一,相對(duì)人和行政機(jī)關(guān)必須購置實(shí)施自動(dòng)化許可審查所必需的電子設(shè)備和基礎(chǔ)設(shè)施,并且不斷淘汰更新,這增加了經(jīng)濟(jì)成本。其二,自動(dòng)化設(shè)備可能由于斷電、斷網(wǎng)、信號(hào)不良、軟件不兼容、機(jī)器故障等各種原因而陷入癱瘓。其三,即便設(shè)備運(yùn)轉(zhuǎn)正常,由于技術(shù)迭代速度遠(yuǎn)超人類知識(shí)更新速度,很容易導(dǎo)致人來不及與技術(shù)磨合而被困在“技術(shù)鴻溝”之中,審批技術(shù)手段的飛速更迭升級(jí)也會(huì)給用戶帶來障礙與壓力,對(duì)其理解、學(xué)習(xí)、操作的困難會(huì)增加相對(duì)人的不便。其四,相較于紙質(zhì)文檔,自動(dòng)化行政許可審查所使用的電子信息數(shù)據(jù)還存在安全隱憂,電子文檔的竊取、偽造、篡改往往不易發(fā)現(xiàn),也很難以證據(jù)的形式將其固定和收集,這不但造成了監(jiān)管的困難,在后續(xù)可能的復(fù)議或訴訟中,也容易轉(zhuǎn)變?yōu)殡y以證明和辨別真?zhèn)蔚囊牲c(diǎn)。

    綜上,許可機(jī)關(guān)不應(yīng)盲目追求信息化潮流而強(qiáng)行“自動(dòng)化”,應(yīng)當(dāng)考察自動(dòng)化技術(shù)的具體適用場(chǎng)景及實(shí)效,全面衡量對(duì)方式裁量具有重要影響的因素,以作出合乎法律授權(quán)意旨的妥適判斷。

    (三)方式裁量未遵守約束的法律后果

    1.未取得“相對(duì)人同意”的情形

    如前所述,無論相對(duì)人客觀上“不能”抑或主觀上“不愿”,都有權(quán)拒絕采用自動(dòng)化許可審查方式。不同許可審查程序的進(jìn)行需要相對(duì)人作出相應(yīng)的配合,如果未經(jīng)相對(duì)人同意而徑行進(jìn)入自動(dòng)化的許可審查程序,則意味著迫使相對(duì)人在自動(dòng)化系統(tǒng)上完成申請(qǐng)、驗(yàn)證、提交信息等一系列捆綁環(huán)節(jié)?!缎姓S可法》第29條規(guī)定,相對(duì)人可通過信函、電報(bào)、電傳、傳真、電子數(shù)據(jù)交換和電子郵件等多種方式提出許可申請(qǐng),如果只能在自動(dòng)化系統(tǒng)上提出申請(qǐng),相當(dāng)于違法限縮了相對(duì)人選擇許可申請(qǐng)方式的自由,與《行政許可法》的規(guī)定不符,則許可機(jī)關(guān)對(duì)審查方式的裁量將因違反法律規(guī)定而構(gòu)成裁量逾越。

    許可機(jī)關(guān)提出改變?cè)S可辦理方式的要求,看似僅涉及下載或使用某種軟件程序,實(shí)則是一種改變?cè)S可業(yè)務(wù)辦理規(guī)程的要求。這意味著相對(duì)人所參與的許可程序類型發(fā)生了變化,其程序權(quán)利義務(wù)、程序參與深度、協(xié)助與配合行政的復(fù)雜程度、交互方式、所須遵守的技術(shù)性規(guī)則、獲取許可的時(shí)限與流程等也隨之改變。如果許可機(jī)關(guān)未經(jīng)程序參與主體同意即作出程序變更,還可能導(dǎo)致程序瑕疵。

    2.不符合“便民、效率”裁量授權(quán)目的的情形

    許可機(jī)關(guān)在選擇是否引入自動(dòng)化許可審查方式時(shí),應(yīng)秉持“便民、效率”的理念,全面、綜合地權(quán)衡有關(guān)要點(diǎn),無論是對(duì)支持或反對(duì)自動(dòng)化許可審查的觀點(diǎn),還是對(duì)自動(dòng)化許可審查的正面或負(fù)面效果,都應(yīng)加以適當(dāng)?shù)臋?quán)衡。否則,盲目順應(yīng)政策而

    一律“自動(dòng)化”,導(dǎo)致實(shí)際效果與行政目的相去甚遠(yuǎn)乃至落空,將因思慮不周、權(quán)衡失誤而遭受濫用裁量的質(zhì)疑。

    (四)方式裁量容許性的三重考辨

    要回答“法律上能否容許以自動(dòng)化方式作出許可審查”的問題,需基于以下三重考辨,進(jìn)行綜合分析:首先,如果立法上存在不得采用自動(dòng)化方式實(shí)施許可審查的禁止性規(guī)定,則不可采用自動(dòng)化方式作出許可審查。其次,如果法律沒有明令禁止采用自動(dòng)化方式,則應(yīng)考察方式裁量空間及其一般性約束。許可機(jī)關(guān)可在遵守裁量約束的前提下,在裁量空間內(nèi)選擇是否以及如何引入自動(dòng)化技術(shù),否則,未遵守裁量約束可能導(dǎo)致瑕疵乃至違法的后果。最后,行政機(jī)關(guān)還需充分考慮個(gè)案的實(shí)際情況,在具體場(chǎng)景中衡量自動(dòng)化許可審查,其利弊得失,審慎履行個(gè)案中的裁量義務(wù),否則,貿(mào)然推行自動(dòng)化許可審查裁量,其決定仍有違法之虞。

    三、自動(dòng)化行政許可審查面臨的法律挑戰(zhàn)

    行政許可審查過程一般包括事實(shí)認(rèn)定、法律適用、對(duì)比涵攝等三個(gè)步驟,以自動(dòng)化方式作出許可審查,可能會(huì)遭遇事實(shí)認(rèn)定、法律適用的局限性,還可能因技術(shù)風(fēng)險(xiǎn)而侵蝕程序正義。

    (一)自動(dòng)化行政許可審查所面臨的事實(shí)認(rèn)定局限

    傳統(tǒng)模式下,申請(qǐng)人一般提交實(shí)體材料,供許可機(jī)關(guān)審查。自動(dòng)化許可審查模式下,申請(qǐng)材料轉(zhuǎn)變?yōu)榫€上讀取或抓取的各種數(shù)據(jù)信息。信息獲取方式的變革可能潛藏著信息安全、材料數(shù)據(jù)化、信息質(zhì)量等方面的問題。

    1.個(gè)人信息安全隱患

    根據(jù)《行政許可法》第31條的規(guī)定,申請(qǐng)人需要就自身真實(shí)情況,向許可機(jī)關(guān)提交申請(qǐng)材料。申請(qǐng)材料可能包含詳細(xì)的個(gè)人信息,包括生物信息和其他敏感信息。這些隱秘的個(gè)人信息上傳網(wǎng)絡(luò)本就無法避免一定概率的泄露、遺失、被盜用風(fēng)險(xiǎn),為相對(duì)人帶來信息安全隱患。

    由于許可審查程序整體搬遷上網(wǎng)后,原本的申請(qǐng)人身份核驗(yàn)、確認(rèn)等手續(xù)失去了面對(duì)面辦理的條件,更多以人臉、指紋、聲紋等敏感信息為依據(jù)的遠(yuǎn)程核驗(yàn)成為自動(dòng)化許可辦理的前置捆綁程序。如果識(shí)別與核驗(yàn)無法通過,相對(duì)人即不能進(jìn)入后續(xù)的辦理頁面,這迫使相對(duì)人不得不以交付更多私密信息作為配合自動(dòng)化許可審查的代價(jià)。

    2.審查材料數(shù)據(jù)化的困境

    傳統(tǒng)許可審查模式下,無論是書面還是實(shí)物的審查材料,都由審查人員以文字形式描述和記錄。而要令自動(dòng)化系統(tǒng)實(shí)施許可審查,首要的問題便是將審查材料轉(zhuǎn)換為機(jī)器可讀取的格式化數(shù)據(jù)。但困難在于,行政許可種類繁多,有針對(duì)人的許可,還有針對(duì)物的許可,不同領(lǐng)域的許可審查要求相去甚遠(yuǎn),審查材料形態(tài)各異,這使得自動(dòng)化許可審查面臨材料數(shù)據(jù)化的難題。例如,藥品、保健食品注冊(cè)時(shí),依法需提交樣品以供審查;申請(qǐng)餐飲服務(wù)許可,依法須由審查機(jī)關(guān)派員赴經(jīng)營場(chǎng)所現(xiàn)場(chǎng)檢查,此類要求實(shí)物核驗(yàn)、實(shí)地核查的許可審查依賴人工對(duì)具體情況的實(shí)時(shí)觀察、分析、評(píng)價(jià)、判斷,很難將這些真實(shí)世界的實(shí)物和情境加以數(shù)據(jù)化,因而,在這些領(lǐng)域或許很難引入自動(dòng)化許可審查方式。

    3.信息質(zhì)量問題

    準(zhǔn)確的信息是正確適用法律和開展許可審查的基礎(chǔ)?!缎姓S可法》第31條規(guī)定了申請(qǐng)人的真實(shí)信息義務(wù),申請(qǐng)人必須提供內(nèi)容真實(shí)的申請(qǐng)材料,不得以虛假信息騙取行政許可。第30條、第32條規(guī)定了許可機(jī)關(guān)對(duì)申請(qǐng)人輔導(dǎo)、糾正信息錯(cuò)誤的義務(wù),許可機(jī)關(guān)發(fā)現(xiàn)材料有誤,應(yīng)即時(shí)告知補(bǔ)正。這些機(jī)制都是為了確保申請(qǐng)和審查信息的準(zhǔn)確。

    而自動(dòng)化系統(tǒng)缺乏自檢自查的靈活處理能力,也不能像人一樣依靠常識(shí)和經(jīng)驗(yàn),及時(shí)辨別申請(qǐng)材料的真?zhèn)?,發(fā)現(xiàn)信息錯(cuò)誤。只能機(jī)械套用算法指令,將錯(cuò)就錯(cuò),按照指令運(yùn)算出結(jié)果。尤其在全自動(dòng)模式下,系統(tǒng)的自動(dòng)化閉環(huán)處理的回路瞬間運(yùn)行完畢,審查機(jī)關(guān)沒有及時(shí)介入的機(jī)會(huì),無法及時(shí)進(jìn)行糾正和指導(dǎo)。因此,在自動(dòng)化許可審查中,很難捕獲信息收集、選擇、處理過程中的瑕疵,無法及時(shí)發(fā)現(xiàn)和解決信息質(zhì)量帶來的一系列問題。

    此外,系統(tǒng)處理數(shù)據(jù)的錯(cuò)漏或瑕疵還難以留痕,難以用證據(jù)形式固定。這容易使后續(xù)可能的訴訟程序陷入“事實(shí)真?zhèn)尾幻鳌钡睦Ь?。例如,在“陳明春、方育鴻訴蕭山區(qū)住建局案”中,原告在許可機(jī)關(guān)的自動(dòng)化房屋合同備案系統(tǒng)上提交備案申請(qǐng)。同一時(shí)段有167套房屋在該系統(tǒng)上成功備案,但唯獨(dú)原告的備案申請(qǐng)被系統(tǒng)以檢測(cè)出異常情況為由而拒絕。原告符合備案條件,但卻因無法及時(shí)備案而影響了后續(xù)房屋交易的進(jìn)行,為此遭受了經(jīng)濟(jì)損失。雖然數(shù)據(jù)錯(cuò)誤是導(dǎo)致審批出錯(cuò)的原因,但在算法“黑箱”掩蓋之下,原告、被告、法院任一方都無法查明和證明究竟是何原因?qū)е铝藬?shù)據(jù)錯(cuò)誤,因此,無法及時(shí)稽核追蹤系統(tǒng)的錯(cuò)誤發(fā)生在哪個(gè)環(huán)節(jié),這直接導(dǎo)致責(zé)任認(rèn)定成為救濟(jì)環(huán)節(jié)中的疑難癥結(jié)。

    可見,自動(dòng)化系統(tǒng)的運(yùn)算可能更精確,但其判斷不一定更正確。人們往往只知道輸入了什么申請(qǐng)信息,輸出了什么許可結(jié)果,但對(duì)系統(tǒng)作出許可事實(shí)認(rèn)定的過程缺乏理解和監(jiān)督的能力?!昂谙洹睂傩允瓜到y(tǒng)的錯(cuò)誤無法得到及時(shí)糾正,甚至被代入算法在不斷自我肯定和強(qiáng)化的反饋與學(xué)習(xí)中,形成錯(cuò)誤的運(yùn)行回路,使許可機(jī)關(guān)困在錯(cuò)誤決策的閉環(huán)中,為機(jī)器的錯(cuò)誤買單。

    (二)自動(dòng)化行政許可審查所面臨的法律適用難題

    傳統(tǒng)人工許可審查模式下,由審查人員完成找法、解釋、補(bǔ)充、事實(shí)與法規(guī)的涵攝等一系列法律適用活動(dòng)。在自動(dòng)化行政許可審查模式下,許可機(jī)關(guān)需要事先將審查所涉及的許可條件轉(zhuǎn)譯為代碼,輸入到自動(dòng)化系統(tǒng)中,由系統(tǒng)完成法律適用。這似乎提高了許可法律適用的公平性與準(zhǔn)確性,消解了傳統(tǒng)審查方式下一線執(zhí)法人員恣意與濫用許可審查的問題,也有助于破解審查人力資源不足、審查負(fù)擔(dān)過重等難題。但以自動(dòng)化方式進(jìn)行法律適用,面臨著審查條件難以數(shù)據(jù)化、涵攝推理難以模擬、法律解釋與補(bǔ)充難以自動(dòng)化進(jìn)行等問題。

    1.許可審查條件難以數(shù)據(jù)化

    自動(dòng)化許可審查的法律適用,首要的難題是許可審查條件的算法化。這要求以簡(jiǎn)易、精準(zhǔn)的算法形式語言來轉(zhuǎn)譯許可審查規(guī)范,而將復(fù)雜模糊的自然語言和法律知識(shí)轉(zhuǎn)譯為簡(jiǎn)易精確的代碼,面臨著難以跨越的語義門檻。

    行政許可適用領(lǐng)域廣泛,相較于其他行政行為,許可條件及審查基準(zhǔn)多面臨更為復(fù)雜的具體情境和更為多元的利益格局,因而具有較高的抽象性和原則性,蘊(yùn)含較多的不確定法律概念,難以列舉為十分具體的、“數(shù)字化”和“條目化”的審查要件,更遑論轉(zhuǎn)譯為代碼。

    算法的編寫需要經(jīng)過不同語言系統(tǒng)的轉(zhuǎn)義映射,需要利用指稱和解釋的方法實(shí)現(xiàn)程序文字符號(hào)與現(xiàn)實(shí)許可條件的層層對(duì)應(yīng)。這種映射和定義的實(shí)現(xiàn),要求許可條件在一定時(shí)期內(nèi)具有穩(wěn)定的內(nèi)容和固定的意涵。而行政許可作為一種事前管理手段,多涉及對(duì)未來可能發(fā)生情況及解決方案的前瞻和推斷,往往受制于人的認(rèn)識(shí)水平,需要不斷地評(píng)價(jià)和調(diào)適。許可條件及審查基準(zhǔn)也因此具有較強(qiáng)的易變性,難以滿足內(nèi)容固定和內(nèi)涵穩(wěn)定的要求。

    2.法律涵攝推理難以模擬

    許可審查要判斷申請(qǐng)人的實(shí)際情況是否與許可條件相符,許可機(jī)關(guān)須完成案件事實(shí)與許可條件之間的涵攝,才能得出許可審查的結(jié)論,而機(jī)器很難對(duì)這種涵攝推理加以模擬。

    其一,人工智能技術(shù)大多依賴于統(tǒng)計(jì)學(xué)的方法,擅長(zhǎng)通過分析對(duì)象的相關(guān)性、模式、概率來作出“形式裁判”,而不分析因果關(guān)系。它是對(duì)既有數(shù)據(jù)的學(xué)習(xí)和關(guān)聯(lián),是面向過去的線性推理。與之迥異的是,法律推理以法律因果關(guān)系為邏輯基礎(chǔ)。實(shí)踐中,許可機(jī)關(guān)的事實(shí)認(rèn)定與法律適用環(huán)節(jié)并非如學(xué)理闡發(fā)時(shí)那樣涇渭分明,許可機(jī)關(guān)的目光要在事實(shí)與規(guī)范之間不斷往返流轉(zhuǎn),進(jìn)行“理解的循環(huán)”,使事實(shí)認(rèn)定與許可條件之間不斷地相互關(guān)照校正,使二者之間不斷接近而獲得涵攝的結(jié)果。這種法律推理與機(jī)器的線性推理具有本質(zhì)差異,也很難被機(jī)器所模仿或替代。

    其二,相較于行政處罰,行政許可審查基準(zhǔn)的執(zhí)行蘊(yùn)含更多的要件裁量,更關(guān)乎正當(dāng)性的評(píng)價(jià)。除對(duì)不確定法律概念的解釋外,許可審查人員還需要根據(jù)立法目的、政策考慮、道德習(xí)慣等價(jià)值要素,結(jié)合自身的個(gè)體經(jīng)驗(yàn)、以往慣例、指導(dǎo)性標(biāo)準(zhǔn)等,對(duì)原則性的許可審查條件作出帶有主觀創(chuàng)造性的評(píng)價(jià)或判斷。但道德、價(jià)值理念、意志是人所獨(dú)有的本領(lǐng),無法轉(zhuǎn)譯為代碼,也無法使之成為機(jī)器具備乃至主動(dòng)應(yīng)用于決策活動(dòng)的本領(lǐng)。機(jī)器也沒有現(xiàn)實(shí)的生活經(jīng)驗(yàn),只能通過關(guān)聯(lián)學(xué)習(xí),根據(jù)算法和指令機(jī)械地抓取關(guān)鍵信息來“生產(chǎn)”出一個(gè)決定,作出非此即彼的判斷,而無法進(jìn)行全景式分析。這樣的“決策”過程難免機(jī)械僵化,容易偏離個(gè)案正義。

    3.很難以自動(dòng)化方式進(jìn)行法律解釋與補(bǔ)充

    行政許可基準(zhǔn)的適用還要求審查者掌握較高的規(guī)范適用技術(shù)。在相對(duì)集中許可的視角下,出現(xiàn)了由單一許可組合成復(fù)合許可的現(xiàn)象,由此產(chǎn)生了行政許可審查規(guī)則沖突的問題,包括實(shí)體性審查規(guī)則的沖突,以及程序規(guī)則“互為前置”的沖突。這些沖突主要通過法律解釋技術(shù)加以解決。同時(shí),行政許可審查條件不僅僅由法律、法規(guī)、規(guī)章加以規(guī)定,實(shí)踐中,許可實(shí)施機(jī)關(guān)還需要制定更多的細(xì)化規(guī)則,由此構(gòu)成了由不同效力等級(jí)的規(guī)范交織而成的階梯式“規(guī)則群”。這些具體的許可執(zhí)行規(guī)則分散于部門法律體系、不同機(jī)關(guān)的審批文件、行政慣例中,需要許可審查人員在適用中加以清理、整理、匯編、解釋、補(bǔ)充,否則,很難窺見許可審查要件的全貌。以上工作專業(yè)性強(qiáng),需要調(diào)動(dòng)抽象思維能力、法律解釋與補(bǔ)充能力、規(guī)范性社會(huì)價(jià)值理解能力等多種“高階人類能力”,并非簡(jiǎn)單套用某種公式,因此,很難由自動(dòng)化系統(tǒng)來代替完成。

    (三)自動(dòng)化行政許可審查面臨的程序正義危機(jī)

    1.行政機(jī)關(guān)自我免除了程序性義務(wù)

    在既有的許可法體系下,許可機(jī)關(guān)負(fù)有判斷申請(qǐng)人是否適格、許可申請(qǐng)材料是否符合法律要求的義務(wù)。若材料不符合要求,行政機(jī)關(guān)還負(fù)有現(xiàn)場(chǎng)指導(dǎo)、釋明的義務(wù)。

    許可的申請(qǐng)條件涉及行政機(jī)關(guān)管轄范圍、事權(quán)歸屬、相對(duì)人適格與否等專業(yè)問題,相對(duì)人可能無法僅憑經(jīng)驗(yàn)常識(shí)而掌握這些法律知識(shí)。面對(duì)日益復(fù)雜和細(xì)化的行政管理,相對(duì)人在許多情況下,需要行政機(jī)關(guān)及其工作人員提供專業(yè)的咨詢和指導(dǎo),才能理解申請(qǐng)條件的規(guī)范涵義,完成申請(qǐng)程序。但在自動(dòng)化許可審查程序中,“自助”在線填報(bào)的環(huán)境往往使相對(duì)人處于“孤立無援”的囧境,只能按機(jī)器頁面提示,在系統(tǒng)上自行填寫預(yù)設(shè)了填寫規(guī)則的表格或欄目。如果填寫不符合預(yù)設(shè)規(guī)則,系統(tǒng)將反復(fù)啟動(dòng)報(bào)錯(cuò)反饋彈窗,不再繼續(xù)辦理流程。此時(shí)行政機(jī)關(guān)的現(xiàn)場(chǎng)指導(dǎo)和協(xié)助因?yàn)椤疤厥馇榫场倍@得至關(guān)重要,甚至可以決定自動(dòng)化流程能否順利進(jìn)行,實(shí)質(zhì)性地影響著相對(duì)人的切身利益,不可以隨意減省。

    自動(dòng)化的許可審查能夠?qū)彶槿藛T從繁重的勞動(dòng)中解放出來,但身體的解放不代表義務(wù)的解除。許可審查機(jī)關(guān)不得因利用了自動(dòng)化審批技術(shù)而隨意自我免除調(diào)查、指導(dǎo)、說明的義務(wù),也不得限縮申請(qǐng)人的咨詢權(quán),或增加其提交許可申請(qǐng)的難度,否則,可能導(dǎo)致自動(dòng)化許可審查程序陷入合法性危機(jī)。

    2.申請(qǐng)人、利害關(guān)系人的程序權(quán)利被限縮

    《行政許可法》第6條、第36條規(guī)定了許可申請(qǐng)人、利害關(guān)系人的知情、陳述、申辯權(quán)。但自動(dòng)化許可審查流程中,審查過程被壓縮,審查時(shí)限縮短,“秒報(bào)秒批”瞬間完成,申請(qǐng)人、利害關(guān)系人可能尚未行使知情權(quán)、陳述申辯權(quán),即已被送達(dá)許可決定。此外,自動(dòng)化系統(tǒng)也很難從行政許可審查材料中,識(shí)別出誰是行政許可的利害關(guān)系人,因而很難履行及時(shí)告知利害關(guān)系人的義務(wù)。

    由于自動(dòng)化許可決策的過程被“封裝”進(jìn)算法黑箱,透明性和可知性被大幅削弱。申請(qǐng)人不具備對(duì)自動(dòng)化決策過程進(jìn)行預(yù)測(cè)、審查、理解、監(jiān)督的能力,很難知曉系統(tǒng)是如何進(jìn)行許可信息的檢索與分類的,是如何考慮不同的決策因素、如何作出裁量與判斷的,只能被動(dòng)地接受決策結(jié)果。這種信息弱勢(shì)地位導(dǎo)致相對(duì)人不易獲得收集證據(jù)、尋求救濟(jì)的機(jī)會(huì),損害了相對(duì)人的程序權(quán)利。

    四、推動(dòng)自動(dòng)化行政許可審查的制度改革

    自動(dòng)化許可審查在提升行政效率的同時(shí),也面臨著實(shí)體和程序?qū)用娴姆商魬?zhàn),未來應(yīng)厘定自動(dòng)化行政許可審查的適用邊界,強(qiáng)化許可機(jī)關(guān)在自動(dòng)化許可審查中的作用,優(yōu)化自動(dòng)化許可審查的程序設(shè)計(jì)。

    (一)厘定自動(dòng)化行政許可審查的適用邊界

    1.明確自動(dòng)化許可審查的使用范圍

    并非所有的許可事項(xiàng)都適合引入自動(dòng)化的審查方式。自動(dòng)化的行政許可審查主要適用于事實(shí)簡(jiǎn)單清晰、具有高度可預(yù)測(cè)性、易于被數(shù)據(jù)化、要素化、結(jié)構(gòu)化、程式化的許可事項(xiàng),而不適用于許可條件籠統(tǒng)抽象、裁量因素復(fù)雜、各種相互沖突的利益多元交織、側(cè)重合理性判斷的許可事項(xiàng)。

    許可機(jī)關(guān)應(yīng)走出對(duì)自動(dòng)化審查手段的過度篤信,更應(yīng)關(guān)注技術(shù)利用的必要性與適當(dāng)性。未來可采取按許可事項(xiàng)分類推進(jìn)自動(dòng)化審查方式的思路,評(píng)估將許可審查對(duì)象、許可條件、審查基準(zhǔn)代碼化的難易程度,對(duì)不同的許可事項(xiàng),根據(jù)其對(duì)自動(dòng)化許可審查技術(shù)的適應(yīng)程度,設(shè)置相應(yīng)的適用條件和適用規(guī)則。此外,在需要進(jìn)行價(jià)值判斷、裁量、解釋不確定法律概念的場(chǎng)合,還應(yīng)盡量排除全自動(dòng)許可審查的適用。

    2.明確自動(dòng)化技術(shù)的使用限度

    許可機(jī)關(guān)應(yīng)警惕過度利用技術(shù),使公權(quán)力與算法權(quán)力形成共謀。應(yīng)防止在公共利益和履行審查義務(wù)的借口掩護(hù)下,隨意利用技術(shù)侵入私人領(lǐng)地。

    可通過立法為許可機(jī)關(guān)規(guī)定合法、必要、合目的的技術(shù)利用規(guī)則。許可機(jī)關(guān)只能在法定的適用情境中,以法律允許的方式和限度使用自動(dòng)化技術(shù),不得憑借技術(shù)侵害申請(qǐng)人個(gè)人隱私,不得過度采集與審查事項(xiàng)不相關(guān)的申請(qǐng)人信息。對(duì)于人臉、指紋、聲紋等敏感信息的采集和利用,許可機(jī)關(guān)必須履行向申請(qǐng)人告知的義務(wù),如果申請(qǐng)人質(zhì)疑,許可機(jī)關(guān)應(yīng)當(dāng)說明理由。許可機(jī)關(guān)不得濫用數(shù)據(jù)挖掘、關(guān)聯(lián)預(yù)測(cè)等技術(shù),隨意為相對(duì)人畫像,或鎖定、追蹤他人。

    對(duì)于審查材料中涉及的個(gè)人信息,應(yīng)當(dāng)設(shè)置許可機(jī)關(guān)的保密和限制利用條款,以強(qiáng)化許可申請(qǐng)人個(gè)人信息的保護(hù)。在本案中收集的個(gè)人信息,不得在其他案件中用以作出可能對(duì)申請(qǐng)人產(chǎn)生不利影響的行政處分。

    (二)強(qiáng)化許可機(jī)關(guān)在自動(dòng)化行政許可審查中的作用

    1.許可機(jī)關(guān)應(yīng)保有自主決策權(quán)

    其一,許可機(jī)關(guān)應(yīng)警惕因“自動(dòng)化偏見”(automation bias)而過度依賴自動(dòng)化系統(tǒng)。雖然自動(dòng)化許可決策削減了“人”的因素,能有效扼制一線執(zhí)法人員的恣意和偏見,有助于做出整齊劃一的決定。但許可審查機(jī)關(guān)要謹(jǐn)防被自動(dòng)化系統(tǒng)取代,謹(jǐn)防自動(dòng)化系統(tǒng)接管公權(quán)力,成為實(shí)際的決策者。事實(shí)上,行政機(jī)關(guān)也容易因?yàn)椤白詣?dòng)化偏見”而依賴并盲從算法作出的智能決策,導(dǎo)致失去許可決策的獨(dú)立性和自我管理的主動(dòng)權(quán)。社會(huì)心理學(xué)實(shí)驗(yàn)已證明,自動(dòng)化偏見很難消除,即便形式上仍由人掌控智能系統(tǒng),但人們還是更傾向于相信算法權(quán)威的判斷。因此,未來應(yīng)警惕過度信賴自動(dòng)化系統(tǒng)的決策,不能“唯技術(shù)論”,不能陶醉于技術(shù)帶來的便利而導(dǎo)致行政機(jī)關(guān)主體價(jià)值的貶損,不應(yīng)使算法過多地介入公權(quán)力的場(chǎng)域,而應(yīng)該保有自主決策的能力。

    其二,許可機(jī)關(guān)應(yīng)當(dāng)警惕過度依賴第三方部門和技術(shù)專家。自動(dòng)化許可審查系統(tǒng)的建設(shè)和運(yùn)營,離不開私人技術(shù)部門及專家的支持,其提供的技術(shù)原本是中立的,但是技術(shù)遵從的算法指令卻可能植入了設(shè)計(jì)者的意志、偏好與立場(chǎng)。許可機(jī)關(guān)應(yīng)謹(jǐn)防被專家裹挾,防止自己在不知不覺間被“技術(shù)寡頭”甄選和誘導(dǎo),使得看似中立的自動(dòng)化技術(shù)實(shí)際上成為第三方向執(zhí)法機(jī)關(guān)輸送私人意志的工具。不同領(lǐng)域的許可機(jī)關(guān)掌握著各自領(lǐng)域的行業(yè)信息、經(jīng)驗(yàn)、專業(yè)技術(shù)知識(shí),這些制度優(yōu)勢(shì)是立法機(jī)關(guān)對(duì)其授予許可權(quán)的正當(dāng)性根據(jù),如果許可機(jī)關(guān)依賴外包、公私合作,如同“溫水煮青蛙”一般逐漸喪失了專業(yè)判斷的優(yōu)勢(shì),會(huì)淪入失職和不作為。

    2.許可機(jī)關(guān)應(yīng)強(qiáng)化對(duì)自動(dòng)化許可審查的監(jiān)督和判斷

    補(bǔ)強(qiáng)許可機(jī)關(guān)對(duì)自動(dòng)化技術(shù)的駕馭能力,還包括強(qiáng)化許可機(jī)關(guān)對(duì)自動(dòng)化審查決策的監(jiān)督與控制能力。只有許可機(jī)關(guān)具備了審查和測(cè)評(píng)機(jī)器決策質(zhì)量的能力,能夠判斷自動(dòng)化審查決定是否實(shí)現(xiàn)了法律原旨及政策意圖,才能實(shí)質(zhì)上掌控自主決策權(quán)。

    或可開發(fā)自動(dòng)化審查系統(tǒng)的評(píng)估與檢測(cè)工具,例如,增加對(duì)“沙盒”的開發(fā)投入?!吧澈小辈粌H能發(fā)揮決策去風(fēng)險(xiǎn)化的功能,還能使系統(tǒng)不斷從失敗中學(xué)習(xí)經(jīng)驗(yàn)。再如,可開發(fā)用于分析自動(dòng)化決策質(zhì)量的算法標(biāo)準(zhǔn),以之為監(jiān)測(cè)工具進(jìn)行算法測(cè)試、算法審計(jì)、算法查驗(yàn)、數(shù)據(jù)備份。算法標(biāo)準(zhǔn)不僅能用作過程控制的指引,也能為事后問責(zé)提供保障。有效的測(cè)評(píng)工具可以用于分析自動(dòng)化許可審查決策帶來的影響,為許可機(jī)關(guān)管理、運(yùn)行和優(yōu)化自動(dòng)化許可審查系統(tǒng)提供參考,有助于強(qiáng)化行政機(jī)關(guān)對(duì)自動(dòng)化審查及其決策的監(jiān)督與判斷能力。

    (三)優(yōu)化自動(dòng)化行政許可審查的程序設(shè)計(jì)

    自動(dòng)化行政許可審查往往瞬時(shí)完成,將傳統(tǒng)行政程序中的分散環(huán)節(jié)在后臺(tái)予以壓縮和整合,這在相當(dāng)程度上限制了正當(dāng)程序原則發(fā)揮作用的場(chǎng)景,有可能不當(dāng)豁免行政機(jī)關(guān)的程序性義務(wù),擠壓相對(duì)人行使程序權(quán)利的空間。應(yīng)通過改革自動(dòng)化行政許可審查程序,完善正當(dāng)程序原則的適用,設(shè)計(jì)公開、透明、可參與、可救濟(jì)的自動(dòng)化許可審查程序,為申請(qǐng)人提供“最低限度的公正”。

    1.促進(jìn)自動(dòng)化行政許可審查程序的公開、透明

    其一,需提升自動(dòng)化許可審查系統(tǒng)的可見性,披露自動(dòng)化許可決策系統(tǒng)和相應(yīng)算法的存在。基于政府技術(shù)系統(tǒng)安全性與技術(shù)方商業(yè)秘密保護(hù)需求的考量,可以根據(jù)具體情形,建立差異化的算法披露規(guī)則,通過立法規(guī)定算法披露的范圍、對(duì)象、內(nèi)容。除非與國家安全、社會(huì)秩序、個(gè)人隱私、知識(shí)產(chǎn)權(quán)的保護(hù)相沖突,否則,許可機(jī)關(guān)應(yīng)當(dāng)以顯著的方式告知用戶自動(dòng)化許可審查系統(tǒng)及審查程序的有關(guān)情況,增加自動(dòng)化許可審查的透明度。

    其二,算法的透明不代表算法的可知,必須強(qiáng)化許可機(jī)關(guān)的解釋說明義務(wù),提升自動(dòng)化許可審查算法的可解釋性,降低非專業(yè)人員對(duì)技術(shù)與算法規(guī)則的理解門檻。需打開技術(shù)黑箱,披露隱藏于其中的內(nèi)部信息,厘清封裝在黑箱中的決策規(guī)則與因果關(guān)系,減少黑箱帶來的法律復(fù)雜性與信息不對(duì)稱。許可機(jī)關(guān)應(yīng)在允許范圍內(nèi),以適當(dāng)方式公示自動(dòng)化許可算法的基本原理、目的意圖和主要運(yùn)行機(jī)制,解釋自動(dòng)化算法的目的、邏輯、公式、考量因素及比重、被代碼化的法律和數(shù)據(jù)等,確保自動(dòng)化的許可審查過程能夠被識(shí)別、理解、追溯,以此提升自動(dòng)化許可程序的可知性。

    2.拓展申請(qǐng)人、利害關(guān)系人行使程序權(quán)利的空間

    《行政許可法》第7條規(guī)定了公民、法人或其他組織對(duì)實(shí)施行政許可的陳述、申辯權(quán)。應(yīng)當(dāng)構(gòu)建與自動(dòng)化系統(tǒng)快速執(zhí)行任務(wù)特性相協(xié)調(diào)的程序機(jī)制,確保申請(qǐng)人與利害關(guān)系人參與行政許可程序、進(jìn)行陳述和申辯的權(quán)利。例如,可以在自動(dòng)化審批程序以外,為申請(qǐng)人與利害關(guān)系人專門設(shè)置表達(dá)意見的程序機(jī)制,彌補(bǔ)自動(dòng)化許可審查的程序正義;也可以在自動(dòng)化許可審查程序中,為申請(qǐng)人預(yù)留人工介入或轉(zhuǎn)為線下程序的接口,賦予申請(qǐng)人中止或退出自動(dòng)化許可程序、尋求意見表達(dá)窗口的權(quán)利,以代償相對(duì)人在自動(dòng)化許可審查程序中的信息弱勢(shì)地位所導(dǎo)致的程序權(quán)利減損。

    3.優(yōu)化自動(dòng)化行政許可審查平臺(tái)建設(shè)

    應(yīng)創(chuàng)設(shè)簡(jiǎn)潔的、用戶友好型的政務(wù)許可服務(wù)信息平臺(tái),進(jìn)一步完善網(wǎng)上辦理許可事項(xiàng)的引導(dǎo)功能,建構(gòu)一個(gè)“可查找的政府”。應(yīng)優(yōu)化頁面設(shè)計(jì),簡(jiǎn)化辦事操作,規(guī)范在線引導(dǎo)、咨詢服務(wù),提供更加簡(jiǎn)明、易懂、實(shí)用的辦事指南和操作說明。開發(fā)在線導(dǎo)辦、幫辦等輔助辦理功能,為相對(duì)人提供有效的智能和人工客服,提高自動(dòng)化許可審查程序的智能化、精準(zhǔn)化、個(gè)性化服務(wù)水平,降低相對(duì)人的辦事成本。

    五、結(jié)語

    在智能化的時(shí)代,技術(shù)與行政的結(jié)合已成必然之勢(shì),自動(dòng)化行政許可審查只是復(fù)雜現(xiàn)實(shí)的一個(gè)縮影。新技術(shù)可以為行政賦能,可以打造更為便捷、高效、智能的政府,使人們享受科技紅利,但也會(huì)深刻地改變傳統(tǒng)行政行為運(yùn)行范式,帶來諸多法律和倫理層面的難題。行政機(jī)關(guān)可以利用技術(shù)手段謀求更好地完成行政任務(wù),但必須堅(jiān)守法治理念,在法律所容許的空間和限度內(nèi)加以合理的利用。應(yīng)確保傳統(tǒng)執(zhí)法方式的技術(shù)改良具備合法性基礎(chǔ),還應(yīng)兼顧技術(shù)固有的風(fēng)險(xiǎn)是否可能侵?jǐn)_相對(duì)人的權(quán)利安寧,行政機(jī)關(guān)不得將追求“技術(shù)升級(jí)”的政策目標(biāo)凌駕于權(quán)利保護(hù)之上。

    行政機(jī)關(guān)必須明確,技術(shù)只是人的延伸,技術(shù)只能服務(wù)于人,而不能支配甚至替代人。機(jī)器替代人腦作出的智能決策或許更加準(zhǔn)確、迅速,但不一定更為正確、合理。行政決定的作出往往涵蓋了事實(shí)認(rèn)定、法律適用、推理涵攝等諸多專業(yè)化的思維活動(dòng),除了需要運(yùn)用專業(yè)化知識(shí),還需要有價(jià)值理念、道德倫理、生活經(jīng)驗(yàn)的支撐,而這是機(jī)器難以企及的。未來如何應(yīng)對(duì)行政的自動(dòng)化與智能化轉(zhuǎn)型,如何審視行政機(jī)關(guān)利用技術(shù)手段的限度,如何平衡行政機(jī)關(guān)對(duì)技術(shù)的積極開發(fā)利用與審慎監(jiān)管之間的關(guān)系,如何建構(gòu)便捷、高效、規(guī)范的新行政程序,如何調(diào)處電子政務(wù)發(fā)展與公民權(quán)利保護(hù)之間的緊張關(guān)系,如何解決行政技術(shù)化轉(zhuǎn)型后的責(zé)任分擔(dān)問題,都將成為行政法學(xué)研究需直面的課題。

    The Legal Control of Automated Administrative Licensing Review

    TANG Man

    (Law School, Nankai University, Tianjin 300350, China)

    Abstract:Against the backdrop of both the rise of automated technology and the reform of administrative licensing services, there has been a growing wave of automated approaches to reforming administrative licensing review. Automated administrative licensing review means that administrative authorities consciously embed automation technology into the steps of administrative licensing review to varying degrees, so that the automated system simulates the human brain to carry out licensing review and make licensing decisions. There is limited legal latitude for changing the licensing review approach to an automated one, and the licensing authority has the discretion to choose the automated licensing review approach, but must adhere to the relevant legal constraints and make case-by-case discretion in the light of specific circumstances, otherwise it may lead to discretionary defects. In specific application scenarios, automated administrative licensing reviews may encounter legal challenges in terms of fact finding, legal application and procedural justice. In the future, the boundaries of application of automated administrative licensing review should be clarified, the role of licensing authorities in automated licensing review should be strengthened, the procedural design of automated licensing review should be optimized, and the capacity of licensing authorities should be enhanced.

    Key Words:automated administration; administrative licensing review; consent of the administrative counterpart

    本文責(zé)任編輯:林士平

    青年學(xué)術(shù)編輯:楊尚東

    中文字幕av成人在线电影| 亚洲欧美清纯卡通| 国产黄色免费在线视频| 另类亚洲欧美激情| 久久久久性生活片| 欧美性猛交╳xxx乱大交人| 亚洲av国产av综合av卡| 另类亚洲欧美激情| 国产精品久久久久久久久免| 在线观看免费高清a一片| 亚洲美女视频黄频| 国产精品一区二区在线观看99| 国产综合懂色| 一本久久精品| 国产成人免费观看mmmm| 亚洲经典国产精华液单| 别揉我奶头 嗯啊视频| 欧美xxxx黑人xx丫x性爽| 七月丁香在线播放| 大话2 男鬼变身卡| 99久久精品一区二区三区| 五月天丁香电影| 麻豆久久精品国产亚洲av| 毛片女人毛片| 永久网站在线| 日韩免费高清中文字幕av| 欧美日韩综合久久久久久| 69av精品久久久久久| 99re6热这里在线精品视频| 97在线视频观看| 久久久精品免费免费高清| 各种免费的搞黄视频| 国产大屁股一区二区在线视频| 搡女人真爽免费视频火全软件| 成年av动漫网址| 精品久久久久久久久亚洲| 久热久热在线精品观看| 亚洲熟女精品中文字幕| 国产成人精品一,二区| 国产精品久久久久久精品电影小说 | 国产在视频线精品| xxx大片免费视频| 男人舔奶头视频| 免费大片黄手机在线观看| 精品99又大又爽又粗少妇毛片| 午夜福利视频1000在线观看| 精品久久久久久久久av| 国产精品偷伦视频观看了| 久久久久久久久久久免费av| 老女人水多毛片| 亚洲精品成人av观看孕妇| 视频中文字幕在线观看| 菩萨蛮人人尽说江南好唐韦庄| 精品熟女少妇av免费看| 久久久欧美国产精品| 蜜桃亚洲精品一区二区三区| 亚洲精品影视一区二区三区av| 啦啦啦在线观看免费高清www| 亚洲精品,欧美精品| 成人免费观看视频高清| 国产日韩欧美在线精品| 五月天丁香电影| 有码 亚洲区| av国产免费在线观看| 亚洲国产高清在线一区二区三| 久热这里只有精品99| 嘟嘟电影网在线观看| av国产久精品久网站免费入址| 国产黄a三级三级三级人| 欧美日韩在线观看h| 黄色日韩在线| 小蜜桃在线观看免费完整版高清| 欧美日韩亚洲高清精品| 男人和女人高潮做爰伦理| 国产精品女同一区二区软件| 亚洲国产av新网站| 亚洲av中文av极速乱| 成人免费观看视频高清| 一级毛片aaaaaa免费看小| 天美传媒精品一区二区| 国产精品一及| 国产精品福利在线免费观看| 美女脱内裤让男人舔精品视频| 人妻 亚洲 视频| 亚洲不卡免费看| 狂野欧美白嫩少妇大欣赏| 男男h啪啪无遮挡| 亚洲怡红院男人天堂| 欧美潮喷喷水| 国产av国产精品国产| 国产成人精品久久久久久| 97精品久久久久久久久久精品| 久久精品国产自在天天线| 观看免费一级毛片| 国产视频首页在线观看| 成人亚洲欧美一区二区av| 三级国产精品片| 亚洲精品色激情综合| 亚洲在久久综合| 国产老妇伦熟女老妇高清| 日韩中字成人| 精品久久久久久久人妻蜜臀av| 国产亚洲av片在线观看秒播厂| 亚洲图色成人| 亚洲不卡免费看| 男插女下体视频免费在线播放| 青青草视频在线视频观看| 99久久中文字幕三级久久日本| 中文欧美无线码| 日韩欧美 国产精品| 女人久久www免费人成看片| 少妇的逼水好多| 日本一本二区三区精品| 成人亚洲精品av一区二区| 韩国av在线不卡| 好男人在线观看高清免费视频| 国产精品久久久久久av不卡| 激情 狠狠 欧美| 国产亚洲91精品色在线| 亚洲美女视频黄频| 中文欧美无线码| 午夜福利高清视频| 国产高清不卡午夜福利| 搞女人的毛片| 人人妻人人看人人澡| 亚洲在线观看片| 久久精品国产a三级三级三级| 欧美3d第一页| 狂野欧美白嫩少妇大欣赏| 国内精品宾馆在线| 国产成人a∨麻豆精品| 深爱激情五月婷婷| 国产一区二区亚洲精品在线观看| 亚洲av.av天堂| 看非洲黑人一级黄片| 汤姆久久久久久久影院中文字幕| 肉色欧美久久久久久久蜜桃 | 亚洲av福利一区| 久久人人爽av亚洲精品天堂 | 18+在线观看网站| 性插视频无遮挡在线免费观看| 日产精品乱码卡一卡2卡三| 久久精品久久久久久久性| 国产成人aa在线观看| 久久久久久久亚洲中文字幕| 高清在线视频一区二区三区| 久久久久国产精品人妻一区二区| 听说在线观看完整版免费高清| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产伦在线观看视频一区| 在线观看人妻少妇| 嘟嘟电影网在线观看| 97精品久久久久久久久久精品| 亚洲四区av| 日韩不卡一区二区三区视频在线| 国产白丝娇喘喷水9色精品| 伊人久久国产一区二区| 免费黄网站久久成人精品| 香蕉精品网在线| 亚洲精品中文字幕在线视频 | 简卡轻食公司| 亚洲av免费高清在线观看| 亚洲国产精品成人综合色| 国产av国产精品国产| 欧美一区二区亚洲| 国产精品三级大全| 亚洲综合色惰| 色吧在线观看| 我的女老师完整版在线观看| 国产精品一及| 99热网站在线观看| 免费观看a级毛片全部| 亚洲精品自拍成人| 国产乱人视频| 在线观看av片永久免费下载| av网站免费在线观看视频| 我的老师免费观看完整版| 大陆偷拍与自拍| 久久久久国产网址| 欧美激情久久久久久爽电影| 国产毛片在线视频| 免费看光身美女| 高清视频免费观看一区二区| 日韩在线高清观看一区二区三区| 在线观看一区二区三区激情| 免费黄网站久久成人精品| 亚洲美女搞黄在线观看| 嘟嘟电影网在线观看| 亚洲av不卡在线观看| 蜜桃久久精品国产亚洲av| 女人被狂操c到高潮| 亚洲欧美日韩另类电影网站 | 日韩人妻高清精品专区| 免费观看在线日韩| 我的老师免费观看完整版| 麻豆久久精品国产亚洲av| 亚洲精品aⅴ在线观看| 免费观看av网站的网址| 国产有黄有色有爽视频| 亚洲av二区三区四区| 国产精品一区二区三区四区免费观看| 小蜜桃在线观看免费完整版高清| 国产精品国产av在线观看| 亚洲av中文字字幕乱码综合| 国产成人午夜福利电影在线观看| 久热这里只有精品99| 一级爰片在线观看| av线在线观看网站| 涩涩av久久男人的天堂| 老师上课跳d突然被开到最大视频| 尤物成人国产欧美一区二区三区| 老女人水多毛片| 夜夜爽夜夜爽视频| 国产日韩欧美在线精品| 99热这里只有是精品50| 精品视频人人做人人爽| 99久久精品一区二区三区| kizo精华| 看免费成人av毛片| 国产精品一区二区三区四区免费观看| 国产探花极品一区二区| 亚洲国产日韩一区二区| 在线a可以看的网站| 在线a可以看的网站| 永久免费av网站大全| 国产永久视频网站| 22中文网久久字幕| 欧美精品一区二区大全| 亚洲精品,欧美精品| 99热国产这里只有精品6| 国产精品国产三级国产av玫瑰| 精品午夜福利在线看| 亚洲一级一片aⅴ在线观看| 亚洲伊人久久精品综合| 亚洲自偷自拍三级| 久久久久久久久久久丰满| av在线老鸭窝| 国产高清三级在线| 免费黄频网站在线观看国产| 久久久欧美国产精品| 在线a可以看的网站| 永久免费av网站大全| 国产精品无大码| 26uuu在线亚洲综合色| 丰满人妻一区二区三区视频av| av又黄又爽大尺度在线免费看| 夫妻午夜视频| 国产高清国产精品国产三级 | 亚洲综合色惰| 国产精品三级大全| 亚洲aⅴ乱码一区二区在线播放| 欧美成人a在线观看| 男插女下体视频免费在线播放| 秋霞在线观看毛片| 成年av动漫网址| 免费黄频网站在线观看国产| 国产成人a区在线观看| 成人综合一区亚洲| 国产伦在线观看视频一区| 亚洲成色77777| 22中文网久久字幕| 日本色播在线视频| 国产精品秋霞免费鲁丝片| 国产成人免费观看mmmm| 91久久精品国产一区二区三区| 一个人观看的视频www高清免费观看| 最近手机中文字幕大全| 少妇熟女欧美另类| 国产精品蜜桃在线观看| 男女那种视频在线观看| 人妻制服诱惑在线中文字幕| 亚洲精品aⅴ在线观看| 91aial.com中文字幕在线观看| 久久国产乱子免费精品| 国产成人免费观看mmmm| 狂野欧美激情性xxxx在线观看| 在线观看免费高清a一片| 亚洲国产色片| 久久精品国产亚洲网站| 午夜精品国产一区二区电影 | www.av在线官网国产| 国产免费一级a男人的天堂| 国产精品国产三级专区第一集| 亚洲av成人精品一二三区| 日韩三级伦理在线观看| 啦啦啦中文免费视频观看日本| 老司机影院成人| 欧美成人精品欧美一级黄| 国产综合懂色| 成人一区二区视频在线观看| 日本熟妇午夜| 国产免费一级a男人的天堂| 少妇丰满av| 久久人人爽人人爽人人片va| 99九九线精品视频在线观看视频| 欧美成人a在线观看| 一级黄片播放器| av在线app专区| 久久久久久久久久成人| 最近中文字幕2019免费版| 久久久亚洲精品成人影院| 国产精品久久久久久精品电影| 国产亚洲最大av| 亚洲欧美清纯卡通| 天堂俺去俺来也www色官网| 亚洲久久久久久中文字幕| 国产精品国产av在线观看| 全区人妻精品视频| 日本午夜av视频| 国产国拍精品亚洲av在线观看| 在线观看国产h片| 日本欧美国产在线视频| 中文字幕亚洲精品专区| 国产成人午夜福利电影在线观看| 欧美最新免费一区二区三区| av网站免费在线观看视频| 久久久成人免费电影| 少妇裸体淫交视频免费看高清| 国产老妇伦熟女老妇高清| 欧美 日韩 精品 国产| 99热这里只有是精品50| 国产成人午夜福利电影在线观看| 插逼视频在线观看| 精华霜和精华液先用哪个| 成人特级av手机在线观看| 嫩草影院入口| 韩国av在线不卡| 大又大粗又爽又黄少妇毛片口| 成年版毛片免费区| 亚洲精品久久久久久婷婷小说| 日日撸夜夜添| 成人漫画全彩无遮挡| 下体分泌物呈黄色| 国产在线一区二区三区精| 国产伦理片在线播放av一区| 亚洲电影在线观看av| 日本与韩国留学比较| 高清av免费在线| 最近手机中文字幕大全| 午夜精品国产一区二区电影 | 天堂网av新在线| 欧美激情国产日韩精品一区| 91久久精品电影网| 九九久久精品国产亚洲av麻豆| 一级爰片在线观看| 亚洲欧美日韩东京热| 91久久精品电影网| 成人国产av品久久久| 在线a可以看的网站| 少妇人妻一区二区三区视频| 久久综合国产亚洲精品| 久久久久国产精品人妻一区二区| 又爽又黄a免费视频| 人妻一区二区av| 男女边摸边吃奶| 国产男女内射视频| 国语对白做爰xxxⅹ性视频网站| 极品教师在线视频| 大又大粗又爽又黄少妇毛片口| 肉色欧美久久久久久久蜜桃 | 久久久久久国产a免费观看| 毛片女人毛片| 成人亚洲精品av一区二区| 人妻制服诱惑在线中文字幕| 欧美亚洲 丝袜 人妻 在线| 国产黄a三级三级三级人| 最近手机中文字幕大全| 91精品国产九色| 小蜜桃在线观看免费完整版高清| 久久久亚洲精品成人影院| 欧美精品国产亚洲| 精品久久久精品久久久| 国产一级毛片在线| 人妻一区二区av| 亚洲真实伦在线观看| 激情 狠狠 欧美| 麻豆成人午夜福利视频| 插阴视频在线观看视频| 婷婷色综合大香蕉| 在线观看一区二区三区激情| 亚洲国产精品成人久久小说| 国产精品无大码| 亚洲欧美精品专区久久| 高清日韩中文字幕在线| 亚洲av成人精品一二三区| 国产高清有码在线观看视频| 亚州av有码| 大片电影免费在线观看免费| 国产成人免费无遮挡视频| 国产精品久久久久久久久免| 伊人久久国产一区二区| 国产精品偷伦视频观看了| 免费黄色在线免费观看| 大陆偷拍与自拍| 久久午夜福利片| 看黄色毛片网站| 九色成人免费人妻av| 免费黄频网站在线观看国产| 3wmmmm亚洲av在线观看| 久久久久久久大尺度免费视频| 天堂中文最新版在线下载 | 国产成人午夜福利电影在线观看| 亚洲欧洲国产日韩| 伊人久久国产一区二区| 精品午夜福利在线看| 国产成人精品一,二区| 国产成年人精品一区二区| 久久久a久久爽久久v久久| 久久久成人免费电影| 亚洲av在线观看美女高潮| 国内精品美女久久久久久| 国内精品宾馆在线| 不卡视频在线观看欧美| 亚洲av电影在线观看一区二区三区 | 国产淫语在线视频| 男女国产视频网站| 小蜜桃在线观看免费完整版高清| 国产成人精品婷婷| 精品久久久久久久人妻蜜臀av| 国产成人福利小说| 老女人水多毛片| 各种免费的搞黄视频| 韩国av在线不卡| 国产老妇女一区| 欧美少妇被猛烈插入视频| 97在线人人人人妻| av在线观看视频网站免费| 一本色道久久久久久精品综合| 91精品国产九色| 精品国产乱码久久久久久小说| 2021少妇久久久久久久久久久| 黄色一级大片看看| 久久午夜福利片| 一级毛片黄色毛片免费观看视频| 欧美激情在线99| 久久精品国产亚洲av涩爱| 色哟哟·www| 欧美变态另类bdsm刘玥| 亚洲精品国产成人久久av| 赤兔流量卡办理| 18禁在线播放成人免费| 人妻制服诱惑在线中文字幕| 精品久久久精品久久久| 国产精品一区二区性色av| 久久久久网色| 国产有黄有色有爽视频| 99久国产av精品国产电影| 两个人的视频大全免费| 啦啦啦中文免费视频观看日本| 国产精品一区二区在线观看99| 69av精品久久久久久| 人人妻人人澡人人爽人人夜夜| 最后的刺客免费高清国语| 国产在线男女| 欧美性猛交╳xxx乱大交人| 亚洲欧美日韩东京热| 在线观看免费高清a一片| 免费看光身美女| 午夜福利视频精品| 欧美xxⅹ黑人| 六月丁香七月| 国产免费福利视频在线观看| 亚洲成人久久爱视频| 人人妻人人澡人人爽人人夜夜| 禁无遮挡网站| 日韩av不卡免费在线播放| 99热这里只有是精品在线观看| 亚洲av欧美aⅴ国产| 亚洲四区av| 精品人妻偷拍中文字幕| 免费看av在线观看网站| 一区二区av电影网| 午夜精品一区二区三区免费看| 最近最新中文字幕免费大全7| 黄色欧美视频在线观看| 中国国产av一级| 观看免费一级毛片| 丰满人妻一区二区三区视频av| 日韩电影二区| 狂野欧美激情性xxxx在线观看| 免费人成在线观看视频色| 亚洲最大成人av| 天天一区二区日本电影三级| 嫩草影院新地址| 免费av不卡在线播放| 亚洲av免费高清在线观看| 亚洲国产精品999| 一级毛片久久久久久久久女| 三级经典国产精品| 男人和女人高潮做爰伦理| 黄色一级大片看看| 99久久精品国产国产毛片| 日韩av不卡免费在线播放| 欧美日韩亚洲高清精品| 免费av不卡在线播放| 麻豆成人午夜福利视频| 亚洲成人精品中文字幕电影| 99久久人妻综合| 少妇丰满av| 日本一本二区三区精品| 噜噜噜噜噜久久久久久91| 国产淫语在线视频| av国产精品久久久久影院| 亚洲电影在线观看av| 最近2019中文字幕mv第一页| 日本午夜av视频| 日日啪夜夜爽| 精品久久久久久久久av| 一级毛片aaaaaa免费看小| 免费大片18禁| 成人亚洲欧美一区二区av| 在线免费十八禁| 国产精品无大码| av黄色大香蕉| 最新中文字幕久久久久| 国产色婷婷99| 亚洲av一区综合| 久久久久久久久久人人人人人人| 18禁在线播放成人免费| 内射极品少妇av片p| 成人无遮挡网站| 午夜福利高清视频| 国语对白做爰xxxⅹ性视频网站| 亚洲精品亚洲一区二区| 精品99又大又爽又粗少妇毛片| 国产成年人精品一区二区| 国产色爽女视频免费观看| 综合色av麻豆| 国产黄片美女视频| 国产黄片视频在线免费观看| 欧美区成人在线视频| 最近2019中文字幕mv第一页| 搡女人真爽免费视频火全软件| 国产精品久久久久久精品电影小说 | 在线看a的网站| 男插女下体视频免费在线播放| 久久久午夜欧美精品| 久久久久久久久久久丰满| 2018国产大陆天天弄谢| 美女被艹到高潮喷水动态| 亚洲aⅴ乱码一区二区在线播放| 边亲边吃奶的免费视频| 久热久热在线精品观看| 亚洲精品日韩av片在线观看| 又黄又爽又刺激的免费视频.| 中国国产av一级| 99精国产麻豆久久婷婷| 男插女下体视频免费在线播放| 成人毛片a级毛片在线播放| 91精品国产九色| 久久人人爽人人爽人人片va| 国产毛片a区久久久久| 色婷婷久久久亚洲欧美| 成人黄色视频免费在线看| 亚洲人成网站高清观看| 青春草亚洲视频在线观看| 亚洲精华国产精华液的使用体验| 亚洲高清免费不卡视频| 国产极品天堂在线| 欧美一区二区亚洲| 亚洲欧美一区二区三区黑人 | 成年版毛片免费区| 男人爽女人下面视频在线观看| av国产免费在线观看| 国产免费又黄又爽又色| 中文精品一卡2卡3卡4更新| 精品酒店卫生间| 熟女人妻精品中文字幕| 国产精品久久久久久精品电影| 国产一级毛片在线| 国产国拍精品亚洲av在线观看| 国产欧美亚洲国产| 综合色av麻豆| 肉色欧美久久久久久久蜜桃 | 视频区图区小说| 啦啦啦啦在线视频资源| 大片电影免费在线观看免费| 亚洲经典国产精华液单| 日韩一区二区三区影片| 亚洲欧美精品专区久久| 国产探花在线观看一区二区| 大片免费播放器 马上看| 男女边摸边吃奶| a级毛色黄片| 亚洲精品乱久久久久久| 日韩国内少妇激情av| 国产美女午夜福利| 国产精品久久久久久精品电影| 国产高清三级在线| 舔av片在线| 成年女人看的毛片在线观看| 极品教师在线视频| 国产亚洲午夜精品一区二区久久 | 国内少妇人妻偷人精品xxx网站| 久久久久网色| 久久久久久九九精品二区国产| 久久久久九九精品影院| 制服丝袜香蕉在线| 美女cb高潮喷水在线观看| 亚洲精品日韩av片在线观看| a级一级毛片免费在线观看| 国产免费一区二区三区四区乱码| 一区二区三区精品91| 亚洲美女搞黄在线观看| 我要看日韩黄色一级片| 日本-黄色视频高清免费观看| 一级av片app| 一区二区av电影网| 高清视频免费观看一区二区| 国产人妻一区二区三区在| 日韩制服骚丝袜av| 伊人久久国产一区二区| 69人妻影院| 91午夜精品亚洲一区二区三区| 涩涩av久久男人的天堂|