• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    規(guī)制算法權(quán)力之技術(shù)審核及其推行進(jìn)路

    2022-02-04 00:24:24黃竹智
    南海法學(xué) 2022年3期
    關(guān)鍵詞:規(guī)范人工智能法律

    黃竹智

    (鹽城市交通運(yùn)輸局,江蘇 鹽城 224001)

    一、問題的提出

    2021 年《中華人民共和國(guó)行政處罰法》(以下簡(jiǎn)稱《行政處罰法》)的修訂將技術(shù)審核制度建設(shè)推到前臺(tái)。此次對(duì)技術(shù)審核制度的修訂在第四十一條要求行政機(jī)關(guān)依照法律、行政法規(guī)規(guī)定利用電子技術(shù)監(jiān)控設(shè)備收集、固定違法事實(shí)的,應(yīng)當(dāng)經(jīng)過法制和技術(shù)審核。但關(guān)于“技術(shù)審核”,誰(shuí)有資格從事、如何從事、從事的標(biāo)準(zhǔn)是什么,沒有明確。電子技術(shù)監(jiān)控設(shè)備有隨著社會(huì)需求變遷高頻更新?lián)Q代的特征,①王發(fā)鴻、達(dá)慶利:《電子行業(yè)再制造逆向物流模式選擇決策分析》,《中國(guó)管理科學(xué)》2006年第6期。對(duì)技術(shù)審核制度提出了區(qū)別于傳統(tǒng)法律制度追求穩(wěn)定性的差異性要求。當(dāng)前法律概念的模糊雖然給制度定義留下彈性法律解釋空間,根據(jù)情勢(shì)變化進(jìn)行更新有利于立法的穩(wěn)定性與靈活性的平衡;但需要正視的是,在科技不斷發(fā)展以及行政決策程序機(jī)制缺乏明確規(guī)范與嚴(yán)格監(jiān)督的情況下,行政權(quán)力的擴(kuò)張會(huì)模糊行政權(quán)力與行政相對(duì)人權(quán)利的界線。對(duì)電子技術(shù)監(jiān)控設(shè)備行政利用的技術(shù)審核,是影響私權(quán)益的行政內(nèi)部監(jiān)督行為,作為一種內(nèi)部糾錯(cuò)機(jī)制,在行政處罰法實(shí)踐先行的法制背景下,行政相對(duì)人本身缺少介入與參與行政內(nèi)部程序的路徑與機(jī)制,制度的模糊增加了對(duì)該項(xiàng)制度的期待與制度短板的內(nèi)在沖突。故有必要對(duì)該制度在自動(dòng)化行政的法治遠(yuǎn)景中的使用做好理論與實(shí)踐的智識(shí)探索,以明晰技術(shù)審核結(jié)合其審核對(duì)象要采用什么樣的路徑,以及如何確保技術(shù)審核制度本身的公平正義。

    二、規(guī)制算法權(quán)力的技術(shù)審核

    (一)技術(shù)審核概述

    “技術(shù)審核”作為一個(gè)普通用語(yǔ)并非生僻詞,但作為一個(gè)法律用語(yǔ),在我國(guó)的規(guī)范體系中卻略顯陌生。通過法律法規(guī)數(shù)據(jù)庫(kù)進(jìn)行全文檢索,當(dāng)前我國(guó)法律法規(guī)體系中僅有四部地方性法規(guī)使用該詞,對(duì)這四部地方性法規(guī)進(jìn)行通讀,其中的“技術(shù)審核”并非行政處罰法意義上對(duì)“電子技術(shù)監(jiān)控設(shè)備”相關(guān)的“技術(shù)審核”。通過北大法寶高級(jí)檢索,檢索策略為2021年行政處罰法生效后,全文中精確包含“技術(shù)審核”的規(guī)章級(jí)別以上現(xiàn)行有效規(guī)范文件,檢索到《關(guān)于進(jìn)一步壓實(shí)網(wǎng)站平臺(tái)信息內(nèi)容管理主體責(zé)任的意見》(以下簡(jiǎn)稱《意見》)與《交通運(yùn)輸行政執(zhí)法程序規(guī)定(2021修正)》(以下簡(jiǎn)稱《程序規(guī)定》)兩部,其中《意見》中“技術(shù)審核”是對(duì)網(wǎng)站平臺(tái)信息內(nèi)容審核的一種方式,并非行政執(zhí)法意義上的具備行政權(quán)力行使的“技術(shù)審核”;《程序規(guī)定》是交通運(yùn)輸部針對(duì)新修訂的行政處罰法增加法制與技術(shù)審核規(guī)定的同步更新。作為生僻法律概念的“技術(shù)審核”,在對(duì)規(guī)范意義進(jìn)行有限解讀的現(xiàn)實(shí)背景下,近期全國(guó)人大官網(wǎng)關(guān)于行政執(zhí)法中“技術(shù)審核”的一些公開材料可以作為我們理解“技術(shù)審核”的參考。全國(guó)人大常委會(huì)法工委行政法室處長(zhǎng)張曉瑩提到“技術(shù)審核”時(shí)說,有關(guān)立法機(jī)關(guān)應(yīng)及時(shí)清理相關(guān)規(guī)定,對(duì)于超出權(quán)限作出的非現(xiàn)場(chǎng)執(zhí)法規(guī)定盡快進(jìn)行清理;有關(guān)行政機(jī)關(guān)應(yīng)及時(shí)補(bǔ)充法制審核、技術(shù)審核、公布設(shè)置地點(diǎn)等手續(xù),完善電子技術(shù)監(jiān)控設(shè)備設(shè)置的合法性。既要充分運(yùn)用現(xiàn)代科技手段,也要兼顧不同群體需求。①全國(guó)人民代表大會(huì)官網(wǎng):《新修訂的行政處罰法自7月15日起施行 全面體現(xiàn)嚴(yán)格規(guī)范公正文明執(zhí)法要求》,http://www.npc.gov.cn/npc/c30834/202107/16e78412c76446bf9ed1db558ce5c5ae.shtml,訪問日期:2022年2月6日。她還表示,新修訂的《行政處罰法》對(duì)電子技術(shù)監(jiān)控設(shè)備的多方面作出規(guī)定。比如,明確利用電子技術(shù)監(jiān)控設(shè)備收集、固定違法事實(shí)的,應(yīng)當(dāng)經(jīng)過法制和技術(shù)審核,確保電子技術(shù)監(jiān)控設(shè)備符合標(biāo)準(zhǔn);未經(jīng)審核或者經(jīng)審核不符合要求的,不得作為行政處罰的證據(jù)。行政機(jī)關(guān)應(yīng)當(dāng)及時(shí)告知當(dāng)事人違法事實(shí),為當(dāng)事人查詢、陳述和申辯提供便利”。②全國(guó)人民代表大會(huì)官網(wǎng):《處罰權(quán)下放基層、規(guī)范“電子眼”執(zhí)法、整治“重復(fù)執(zhí)法”……新行政處罰法如何破解執(zhí)法難點(diǎn)?》,http://www.npc.gov.cn/npc/c30834/202107/1f1fac5b482944e8b0c1f004e65e17a7.shtml,訪問日期:2022年2月6日。從以上信息中較為官方的正式表達(dá)中可以看出,當(dāng)前規(guī)范層面定義中,“技術(shù)審核”與“法制審核”在概念與行為上仍舊交織含糊,從有限的釋意中劈除法制審核意蘊(yùn),則“技術(shù)審核”的內(nèi)容可歸納為:一是針對(duì)“電子技術(shù)監(jiān)控設(shè)備”的規(guī)范建設(shè),即確保電子技術(shù)監(jiān)控設(shè)備符合標(biāo)準(zhǔn)依法設(shè)置;二是針對(duì)電子技術(shù)監(jiān)控設(shè)備獲取數(shù)據(jù)的規(guī)范使用,即確保真實(shí)、清晰、完整、準(zhǔn)確。故此,行政主體依法實(shí)施審核“電子技術(shù)監(jiān)控設(shè)備”是否依照法定標(biāo)準(zhǔn)建設(shè),“電子技術(shù)監(jiān)控設(shè)備”獲取數(shù)據(jù)是否真實(shí)、清晰、完整、準(zhǔn)確的行政行為為行政處罰法規(guī)范意義上的“技術(shù)審核”行為。

    (二)技術(shù)審核的本質(zhì)與對(duì)象

    厘清技術(shù)審核的對(duì)象能夠更清晰地看到當(dāng)前技術(shù)審核制度的本質(zhì),以及其與治理對(duì)象所需相適應(yīng)的能力差距。只有針對(duì)有效的對(duì)象對(duì)癥施策,才能使審核的主體條件、程序、手段在相應(yīng)技術(shù)條件下的手段行為與目的行為在必要限度內(nèi)吻合。①鹽野宏:《行政法》,楊建順譯,法律出版社,1999,第49頁(yè)。行政處罰法規(guī)定技術(shù)審核針對(duì)行政機(jī)關(guān)利用電子技術(shù)監(jiān)控設(shè)備收集、固定“違法”事實(shí)的,厘清“電子技術(shù)監(jiān)控設(shè)備”如何收集、固定“違法”事實(shí),是明晰“技術(shù)審核”內(nèi)容的前提,而這與它本身的質(zhì)性有密切關(guān)聯(lián)?!半娮蛹夹g(shù)監(jiān)控設(shè)備”是技術(shù)賦能行政提升能力的技術(shù)治理應(yīng)用基礎(chǔ),②謝明睿、余凌云:《技術(shù)賦能交警非現(xiàn)場(chǎng)執(zhí)法對(duì)行政程序的挑戰(zhàn)及完善》,《法學(xué)雜志》2021年第3期。是內(nèi)含大數(shù)據(jù)、人工智能、5G 等不斷涌現(xiàn)的新技術(shù)力量的法治載體。根據(jù)《行政處罰法》第四十一條,從上下文使用的法定程序、設(shè)置條件以及技術(shù)標(biāo)準(zhǔn)等法規(guī)范事實(shí)中闡釋其法律概念,③雷磊:《法律概念是重要的嗎》,《法學(xué)研究》2017年第4期。對(duì)其語(yǔ)句含義進(jìn)行分解,其中“電子”“技術(shù)”“監(jiān)控”“設(shè)備”四個(gè)原子表達(dá),表達(dá)了它的質(zhì)性,“技術(shù)”與“設(shè)備”皆非“電子”意義上的技術(shù),“電子”表達(dá)的是利用現(xiàn)代電子技術(shù)意義上的監(jiān)管時(shí)空的非受限性,“技術(shù)”表達(dá)的是采用信息技術(shù)手段的電子程序性,④王貴:《算法行政的興起、挑戰(zhàn)及法治化調(diào)適》,《電子政務(wù)》2021年第7期。“監(jiān)控”表達(dá)的是與行政相對(duì)人接觸的非直接性,⑤茅銘晨:《從自定走向法定——我國(guó)〈行政處罰法〉修改背景下的非現(xiàn)場(chǎng)執(zhí)法程序立法研究》,《政治與法律》2020年第6期?!霸O(shè)備”表達(dá)的是其物理客觀性。而它的外延,即行政處罰法意義上的“電子技術(shù)監(jiān)控設(shè)備”的規(guī)范用途是從“運(yùn)行及環(huán)境”中“收集、固定違法事實(shí)的”,此區(qū)別于國(guó)標(biāo)《高速公路監(jiān)控設(shè)施通信規(guī)程》中對(duì)監(jiān)控設(shè)施的定義。⑥《高速公路監(jiān)控設(shè)施通信規(guī)程》GB/T34428.1—2017 第1 部分:通用規(guī)程“監(jiān)控設(shè)施”( surveillance and control devices):安裝于高速公路沿線或監(jiān)控中心、分中心、監(jiān)控站的室內(nèi)外設(shè)備,用于采集高速公路運(yùn)行及環(huán)境等數(shù)據(jù)或發(fā)布信息,以及用于向監(jiān)控值班人員、管理人員顯示監(jiān)控?cái)?shù)據(jù)及信息的設(shè)備。該設(shè)備的行政功能:收集、固定違法事實(shí)。“違法”顯現(xiàn)了其行政目的:實(shí)施行政處罰。法制與技術(shù)審核:限定了收集“違法”事實(shí)所依之法定程序?!半娮蛹夹g(shù)監(jiān)控設(shè)備”利用其與行政相對(duì)人接觸的非直接性與監(jiān)管時(shí)空的非受限性,實(shí)現(xiàn)便利收集行政工作所需的數(shù)據(jù),其電子程序性則為強(qiáng)、弱人工智能的自動(dòng)化行政提供了基礎(chǔ)。技術(shù)審核所針對(duì)的對(duì)象不僅是此類設(shè)備的設(shè)置行為,更是透過此類設(shè)備實(shí)施的行政行為。所需規(guī)制的行政行為中的法律程序合法性由法制審核進(jìn)行規(guī)制,但技術(shù)審核應(yīng)采用的程序與方法在當(dāng)前的規(guī)范表達(dá)中則并不清晰,僅在《行政處罰法》第四十一條規(guī)定審核標(biāo)準(zhǔn)是確保“記錄違法事實(shí)應(yīng)當(dāng)真實(shí)、清晰、完整、準(zhǔn)確”?!半娮蛹夹g(shù)監(jiān)控設(shè)備”通過模數(shù)數(shù)模轉(zhuǎn)換算法與技術(shù)感知真實(shí)世界,⑦“算法”概念,在計(jì)算機(jī)科學(xué)中它的形式表現(xiàn)為特定的、用來處理具有某些特征數(shù)據(jù)集的函數(shù),但內(nèi)容上卻是凝聚算法設(shè)計(jì)者智慧的人類思維。在法學(xué)領(lǐng)域,作為知識(shí)產(chǎn)權(quán)的“算法”可以指稱前述特定函數(shù);而作為法律要規(guī)制的對(duì)象,是指運(yùn)用計(jì)算機(jī)軟件開發(fā)程序編譯后經(jīng)過封裝的模型和數(shù)據(jù),形成可運(yùn)行的程序,程序中的算法可能是單一的,可能是復(fù)合的,這些算法程序經(jīng)過部署實(shí)際作用于社會(huì)生產(chǎn)、生活,并因此而形成法律關(guān)系。本文中的算法一般在這個(gè)意義上進(jìn)行論述。并通過電子程序性的信息技術(shù)手段將數(shù)據(jù)轉(zhuǎn)換成虛擬世界。但無論是模數(shù)數(shù)模轉(zhuǎn)換算法與技術(shù)還是電子程序性的信息技術(shù)手段,其背后的人類智識(shí)本質(zhì)是算法技術(shù)。

    2017年,《探索與爭(zhēng)鳴》編輯部聯(lián)合華東政法大學(xué)政治學(xué)研究院召開了“人工智能與未來社會(huì):趨勢(shì)、風(fēng)險(xiǎn)與挑戰(zhàn)”研討會(huì),段偉文在研討會(huì)上作題為《控制的危機(jī)與人工智能的未來情境》的報(bào)告。在探討“一種凸顯主體與技術(shù)結(jié)合的賽博文化”,分析賽博空間中形成的新的控制危機(jī)時(shí),他提出了“算法權(quán)力”的概念,并認(rèn)為數(shù)據(jù)標(biāo)注、算法設(shè)計(jì)以及對(duì)相關(guān)性等數(shù)據(jù)洞察的解讀并非負(fù)載著各種價(jià)值,擁有數(shù)據(jù)并設(shè)定算法的智能化平臺(tái)形成了讓數(shù)據(jù)說話的算法權(quán)力,網(wǎng)絡(luò)空間的治理成為辯證的必然。由此開啟了對(duì)“算法權(quán)力”的學(xué)術(shù)熱潮,并推動(dòng)了后續(xù)的法治實(shí)踐。后續(xù)學(xué)者針對(duì)“算法權(quán)力”推動(dòng)的“自動(dòng)化行政”,進(jìn)一步對(duì)行政執(zhí)法中滲透的技術(shù)治理進(jìn)行有效研究。①如胡敏潔:《自動(dòng)化行政的法律控制》,《行政法學(xué)研究》2019 年第2 期,第56—66 頁(yè);馬顏昕:《自動(dòng)化行政的分級(jí)與法律控制變革》,《行政法學(xué)研究》2019 年第1 期,第80—92 頁(yè);.馬顏昕:《自動(dòng)化行政方式下的行政處罰:挑戰(zhàn)與回應(yīng)》,《政治與法律》2020年第4期,第139—148頁(yè);張凌寒:《算法自動(dòng)化決策與行政正當(dāng)程序制度的沖突與調(diào)和》,《東方法學(xué)》2020 年第6 期,第4—17 頁(yè);查云飛:《健康碼:個(gè)人疫情風(fēng)險(xiǎn)的自動(dòng)化評(píng)級(jí)與利用》,《浙江學(xué)刊》2020年第3期,第28—35頁(yè)。對(duì)“電子技術(shù)監(jiān)控設(shè)備”進(jìn)行“技術(shù)審核”,表象層要審核“電子技術(shù)監(jiān)控設(shè)備”的各項(xiàng)電子性能指標(biāo),實(shí)質(zhì)是要對(duì)驅(qū)動(dòng)“電子技術(shù)監(jiān)控設(shè)備”運(yùn)行的后臺(tái)算法是否符合相關(guān)標(biāo)準(zhǔn)進(jìn)行審核。②2019年2月,科技部宣布成立國(guó)家新一代人工智能治理專業(yè)委員會(huì);2019年6月,國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》;2020年7月,五部門印發(fā)《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》;2021年9月,國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能倫理規(guī)范》。作為智能信息化社會(huì)的靈魂與治理對(duì)象,驅(qū)動(dòng)“電子技術(shù)監(jiān)控設(shè)備”實(shí)現(xiàn)功能運(yùn)行的算法,決定著“電子技術(shù)監(jiān)控設(shè)備”提供數(shù)據(jù)的真實(shí)、清晰、完整、準(zhǔn)確。立法選擇“電子技術(shù)監(jiān)控設(shè)備”作為回應(yīng)技術(shù)進(jìn)步的規(guī)范表達(dá)與載體,“技術(shù)審核”對(duì)驅(qū)動(dòng)“電子技術(shù)監(jiān)控設(shè)備”運(yùn)行之算法進(jìn)行審核,以此為基礎(chǔ)進(jìn)一步規(guī)范技術(shù)滲透行政結(jié)構(gòu)的轉(zhuǎn)型,調(diào)節(jié)因結(jié)構(gòu)轉(zhuǎn)型帶來的利益沖突。

    算法驅(qū)動(dòng)的信息化設(shè)備,伴隨著互聯(lián)網(wǎng)以及移動(dòng)通信技術(shù)的發(fā)展不斷進(jìn)步升級(jí),還未能完全適應(yīng)工業(yè)化社會(huì)的人類,又被迫進(jìn)入了信息時(shí)代開啟對(duì)構(gòu)建智能社會(huì)法律秩序的探索。③張文顯:《構(gòu)建智能社會(huì)的法律秩序》,《東方法學(xué)》2020年第5期。被電腦嵌入的生活背后是被算法裹挾的權(quán)益變化與利益配置失衡,“算法私權(quán)力”④周輝:《算法權(quán)力及其規(guī)制》,《法制與社會(huì)發(fā)展》2019年第6期。以便捷之名牢牢控制了普羅大眾的智能互聯(lián)生活,“算法公權(quán)力”不僅配置不夠強(qiáng)大、不均衡,而且也因行政主體的質(zhì)疑而內(nèi)部存在著權(quán)力失衡。《行政處罰法》通過技術(shù)審核對(duì)“電子技術(shù)監(jiān)控設(shè)備”進(jìn)行規(guī)制的嘗試,實(shí)際是對(duì)“算法權(quán)力”規(guī)制的一次行政法治實(shí)踐,是對(duì)規(guī)制“算法權(quán)力”的期待。以期通過“技術(shù)審核”制度實(shí)現(xiàn)智能互聯(lián)時(shí)代“科學(xué)、人本、公正、包容、共治”的智能社會(huì)法律秩序。它的審核對(duì)象是:已經(jīng)撬動(dòng)算法權(quán)益蹺蹺板的隱藏在“電子技術(shù)監(jiān)控設(shè)備”背后的算法權(quán)力,以及由它所引起的算法風(fēng)險(xiǎn)與危機(jī),其中包括算法公權(quán)力內(nèi)部的權(quán)力配置(在某種程序形式上它又可能是法制審核的對(duì)象)。

    三、規(guī)制算法權(quán)力之技術(shù)審核的隱憂

    算法本身并不是權(quán)力的締造者,資本與政治根據(jù)自身的差異地位與需求形塑了算法權(quán)力。⑤張愛軍:《算法權(quán)力及其政治建構(gòu)》,《閱江學(xué)刊》2021年第1期。它在賦能個(gè)體提升私主體應(yīng)對(duì)社會(huì)能力的同時(shí),作為一種有限、確定、高效并適合用計(jì)算機(jī)程序來解決問題的方法,增強(qiáng)了政府公權(quán)力和平臺(tái)企業(yè)私權(quán)力的支配力、控制力和影響力。封閉的算法權(quán)力系統(tǒng)自身缺乏控制和反思機(jī)制,造成的“算法黑箱”難以將負(fù)外部性內(nèi)部化;法律規(guī)制若獨(dú)立于算法權(quán)力外部,將無法有效地參與算法權(quán)力的運(yùn)行過程。⑥趙一丁、陳亮:《算法權(quán)力異化及法律規(guī)制》,《云南社會(huì)科學(xué)》2021年第5期。面對(duì)“算法權(quán)力”,行政與市場(chǎng)主體之間存在著不對(duì)稱的信息鴻溝,而且因算法解決社會(huì)問題的復(fù)雜性,算法自身的“可解釋性”“可理解性”的艱深難懂會(huì)造成所謂不透明的“算法黑箱”,單純的人工技術(shù)審核不可能完全找出其中的缺陷,而有可能陷入運(yùn)用算法規(guī)制算法的路徑中去。當(dāng)前對(duì)技術(shù)審核的規(guī)范建設(shè)處于規(guī)范空白的真空狀況,技術(shù)審核的理路仍然類似于運(yùn)用算法面對(duì)復(fù)雜問題的人類理性,運(yùn)用算法的技術(shù)審核與算法本身一樣存在缺陷。

    (一)規(guī)范維度技術(shù)審核制度性缺失

    技術(shù)審核存在復(fù)刻算法權(quán)力的規(guī)范不足所致的失序風(fēng)險(xiǎn),它們都由新技術(shù)驅(qū)動(dòng),屬于新技術(shù)范疇,法律始終趨向承認(rèn)新事物存在規(guī)制不足的風(fēng)險(xiǎn),這是法的確定性和社會(huì)生活變動(dòng)不居的差異,是應(yīng)然與實(shí)然之間的必然鴻溝。在設(shè)置“技術(shù)審核”之前,法律體系中已經(jīng)先試點(diǎn)建設(shè)了“法制審核”①2017年國(guó)務(wù)院辦公廳印發(fā)《推行行政執(zhí)法公示制度執(zhí)法全過程記錄制度重大執(zhí)法決定法制審核制度試點(diǎn)工作方案》的通知,其中落實(shí)了審核主體、確定了審核范圍、明確了審核內(nèi)容、細(xì)化了審核程序。制度。2021 年修訂《行政處罰法》,“法制審核”制度從試點(diǎn)進(jìn)入法律,但《行政處罰法》的第五十八條規(guī)定的法制審核范圍中的三個(gè)明確款項(xiàng)中用了兩個(gè)“重大”、一個(gè)“復(fù)雜”與“多個(gè)”,目的在于將法制審核事項(xiàng)范圍限定在前述試點(diǎn)工作中已經(jīng)限定過的“重大執(zhí)法決定”上;然而,行政處罰法第四十一條又規(guī)定了對(duì)“電子技術(shù)監(jiān)控設(shè)備”規(guī)范建設(shè)使用的法制與技術(shù)審核,那么第四十一條與第五十八條作為“法制審核”共同的制度審核范圍,立法為什么沒有將技術(shù)審核工作經(jīng)過試點(diǎn)就直接通過“法律”規(guī)范呢?可能的答案:一是問題極為迫切,亟需立法進(jìn)行調(diào)整;二是法律技術(shù)已經(jīng)成熟,無須試點(diǎn)觀察施行效果;三是立法期待超前并通過立法技術(shù)保持一定的彈性,以使立法保持相對(duì)穩(wěn)定。信息智能化行政領(lǐng)域立法為了保持法律的穩(wěn)定性,必須保持相對(duì)的超前預(yù)見性。然而在超前性與明確性之間,技術(shù)審核制度配套規(guī)范并不完善,行政現(xiàn)況并非上述的“技術(shù)審核”技術(shù)已經(jīng)成熟,至少“技術(shù)審核”并非如“法制審核”在試點(diǎn)工作中就已經(jīng)明確了審核主體、審核范圍、審核內(nèi)容、審核程序。技術(shù)審核面對(duì)“電子技術(shù)監(jiān)控設(shè)備”所處的現(xiàn)代智能社會(huì),本身作為應(yīng)對(duì)快速變遷的技術(shù)更新及與之所帶動(dòng)的社會(huì)結(jié)構(gòu)變化的法律制度;倘若解決技術(shù)難題的技術(shù)審核缺乏作為技術(shù)的算法做支撐,智慧行政就丟失了大腦,會(huì)被大量無用的信息堆積。

    當(dāng)前類似于“電子技術(shù)監(jiān)控設(shè)備”的信息化智能設(shè)備在中國(guó)社會(huì)生活中的普及程度越發(fā)廣泛,作為個(gè)體的我們已經(jīng)進(jìn)入了一個(gè)立體式的信息化智能時(shí)代,尤其是在2020 年的新冠肺炎疫情推動(dòng)下,包括行政機(jī)關(guān)在內(nèi)的各方主體都在繼續(xù)強(qiáng)化智能設(shè)備的配備與建設(shè)。法治實(shí)踐現(xiàn)狀是智能互聯(lián)網(wǎng)領(lǐng)域的既有法律規(guī)范對(duì)其難以進(jìn)行有效涵蓋和調(diào)整,既有規(guī)則邏輯的解釋力日顯困難,既有司法解紛機(jī)制也遭遇了明顯障礙。②馬長(zhǎng)山:《智能互聯(lián)網(wǎng)時(shí)代的法律變革》,《法學(xué)研究》2018年第4期?!八惴ā弊鳛榧仁潜O(jiān)管對(duì)象又是監(jiān)管手段的復(fù)合體,倘若缺乏對(duì)嵌入政府治理結(jié)構(gòu)的算法形成的算法權(quán)力的治理權(quán)力的正當(dāng)性論證,勢(shì)必引發(fā)被算法權(quán)力約束的公民權(quán)利為預(yù)防算法權(quán)力異化進(jìn)行規(guī)范規(guī)制的正當(dāng)訴求。倘若從規(guī)范視角而非從實(shí)然視角進(jìn)行審視,勢(shì)必要從法理層面對(duì)算法權(quán)力的規(guī)范校準(zhǔn)進(jìn)行論證。缺少規(guī)范視角審視的算法權(quán)力,在法體系中的定位(公法、私法)以及權(quán)利義務(wù)的形成、對(duì)權(quán)力的規(guī)范制約、對(duì)權(quán)利的救濟(jì),都會(huì)面臨法學(xué)方法論層面“算法權(quán)力”的法理與實(shí)踐挑戰(zhàn);如此算法在權(quán)力的支配下,算法行政容易將個(gè)體貶抑為客體或純粹的手段作為任意替代的數(shù)值,容易忽視人的價(jià)值而侵犯人性尊嚴(yán)。制度性建構(gòu)不足是技術(shù)審核模糊不清的規(guī)范動(dòng)因,疊加過程性行政行為缺乏回應(yīng)行政相對(duì)人質(zhì)疑渠道,因之而起的對(duì)行政相對(duì)人權(quán)益的侵犯、對(duì)主體價(jià)值的忽視使技術(shù)審核制度同樣陷入對(duì)算法權(quán)力規(guī)制不足的困境。

    (二)技術(shù)維度算法所致之理性不足

    技術(shù)審核存在復(fù)刻算法權(quán)力的技術(shù)理性缺陷風(fēng)險(xiǎn)。技術(shù)專家始終滿懷躊躇,尤其人工智能時(shí)代更加激發(fā)對(duì)人類理性無限性的憧憬。①郭少飛:《“電子人”法律主體論》,《東方法學(xué)》2018年第3期。然而,智能互聯(lián)時(shí)代讓我們最終憂慮的卻是人類可能陷入被技術(shù)統(tǒng)治的泥淖中。②斯蒂芬·威廉·霍金、周翔:《讓人工智能造福人類及其賴以生存的家園》,《科技中國(guó)》2017年第6期。算法嵌入政府治理,已經(jīng)引發(fā)算法偏見損害社會(huì)公平、自主決策失控減損了政府公信、代碼至上產(chǎn)生代碼專制、數(shù)據(jù)濫用侵害隱私安全等問題。③任蓉:《算法嵌入政府治理的風(fēng)險(xiǎn)及其防控》,《電子政務(wù)》2021年第7期。技術(shù)主義規(guī)制進(jìn)路和策略,推動(dòng)規(guī)則代碼化成為不可阻擋的規(guī)制發(fā)展趨勢(shì)。算法既是人工智能面對(duì)人類理性產(chǎn)生的巨大挑戰(zhàn),④崔靖梓:《算法歧視挑戰(zhàn)下平等權(quán)保護(hù)的危機(jī)與應(yīng)對(duì)》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2019年第3期。又如同一般來說為人類理性的法律,⑤E.博登海默:《法理學(xué)——法哲學(xué)及其方法》,鄧正來、姬敬武譯,華夏出版社,1987,第55頁(yè)。同樣具有人類理性思維的有限性特征,并非無懈可擊而始終帶有缺陷。在越來越追求精細(xì)分工的今天,某個(gè)行業(yè)的專家天才對(duì)領(lǐng)域外的知識(shí)可能表現(xiàn)得極為平庸,而技術(shù)作為綜合性產(chǎn)物超出了個(gè)體人類理性的極限,呈現(xiàn)的是算法發(fā)展的無限性與人類理性的有限性的緊張對(duì)立。霍金曾指出,人工智能的短期影響由控制它的人決定,而長(zhǎng)期影響則取決于人工智能是否完全為人所控制。隨著其自主性的提升以及一定程度上決策權(quán)轉(zhuǎn)讓給機(jī)器,設(shè)計(jì)者也已經(jīng)難以對(duì)其所設(shè)計(jì)的機(jī)器的自主執(zhí)行過程完全理解。⑥段偉文:《人工智能時(shí)代的價(jià)值審度與倫理調(diào)適》,《中國(guó)人民大學(xué)學(xué)報(bào)》2017年第6期。

    技術(shù)抑或科技,作為具有科學(xué)真實(shí)性的——受控實(shí)驗(yàn)普遍可重復(fù)的具有迭代向前特征的真實(shí)性體系是區(qū)別于經(jīng)驗(yàn)真實(shí)的,是人類社會(huì)的存在結(jié)構(gòu)。⑦金觀濤:《反思“人工智能革命”》,《文化縱橫》2017年第4期。這種存在結(jié)構(gòu)中自然存在著確定性的秩序與永恒迭代向前的前進(jìn)性之間的張力。沒有確定性的秩序——宏觀有序性,人類的生存狀態(tài)是分裂的、崩潰的。沒有永恒迭代向前的發(fā)展性——微觀無序性,人類的生存狀態(tài)是靜止與不可欲的。法律與科學(xué)或技術(shù)之間的關(guān)系,是這種張力的維持,是要確保宏觀的有序,以及微觀無序?qū)暧^有序的沖擊。技術(shù)推動(dòng)我們走向何方?沒有人能給出明確答案。嵌入政府治理的算法,既是一組靜態(tài)的文本,又是一股外在的動(dòng)態(tài)力量(通過編譯程序combine 形成可自執(zhí)行的程序)。從純文本的視角來看,它類似于靜態(tài)的法律文本;但從外在力量的視角來看,它又是能自我執(zhí)行的動(dòng)態(tài)的法律。曾經(jīng)“并不存在一邊輸入事實(shí)與法律另一邊就會(huì)自動(dòng)產(chǎn)生公正判決的理想狀態(tài)”⑧蔡寶剛:《論法治的道德底蘊(yùn)的增強(qiáng)路徑》,《求是學(xué)刊》2017年第6期。的論斷被打破。算法就是這種一邊輸入事實(shí)與法律,另一邊就會(huì)自動(dòng)產(chǎn)生公正判決的理想狀態(tài)。算法是兼顧了靜態(tài)的法文本與動(dòng)態(tài)的執(zhí)法者的權(quán)力角色。這種混合體兼容進(jìn)現(xiàn)代互聯(lián)網(wǎng)與高性能計(jì)算機(jī)技術(shù),布置下“天羅地網(wǎng)”。如果將這一切寄望于通過科學(xué)倫理來解決,則問題不僅是人工智能的設(shè)計(jì)者、控制者和使用者應(yīng)該遵守特定的倫理規(guī)范,而且還需要將特定倫理規(guī)范編程到機(jī)器人自身的系統(tǒng)中去,那么人類已經(jīng)具備了足夠的理性去理解人類的倫理性了嗎?

    然而人類不能因進(jìn)入“快節(jié)奏社會(huì)”而遷就技術(shù)快進(jìn)的步伐,進(jìn)而遺棄正義,這是顯見的法理。自動(dòng)化推動(dòng)人類進(jìn)入“快節(jié)奏社會(huì)”結(jié)構(gòu)中,正當(dāng)程序原則挑戰(zhàn)的不是信息傳遞的快慢,而是要在程序結(jié)構(gòu)中為行政相對(duì)人的權(quán)益保障留有彰顯正義的體制性環(huán)節(jié),這個(gè)環(huán)節(jié)應(yīng)因技術(shù)結(jié)構(gòu)性加速而缺失,這個(gè)環(huán)節(jié)的缺失彰顯的只能是其中正義的消弭。自動(dòng)化行政需要克服的不是“告知程序”“申辯程序”會(huì)導(dǎo)致的行政效率的降低,而是對(duì)“告知程序”“申辯程序”等正當(dāng)程序制度的保障。作為法律規(guī)范的“技術(shù)審核”制度,必須具備審核技術(shù)的技術(shù)要求,算法中的技術(shù)不是厘清法權(quán)關(guān)系通過法理闡釋就能夠制約的。在億數(shù)級(jí)的指令面前,技術(shù)審核要么繳械投降,要么必須強(qiáng)化自身的技術(shù)力量,個(gè)體在億數(shù)級(jí)的指令面前的理性顯得如此蒼白與無力。挑戰(zhàn)人類理性的是人類自身的理性有限性,理性缺失為算法留下的漏洞又僅能從人類自身有限的理性中尋找答案,這既是人類的宿命又是人類進(jìn)化要永恒面對(duì)的困境。

    (三)權(quán)力維度反向支配結(jié)構(gòu)性失衡

    技術(shù)審核存在的類似算法權(quán)力引起權(quán)力結(jié)構(gòu)性失衡問題,存在“反向傳導(dǎo)”①楊東、李子碩:《監(jiān)管技術(shù)巨頭:技術(shù)力量作為市場(chǎng)支配地位認(rèn)定因素之再審視》,《學(xué)術(shù)月刊》2021年第8期。至支配它的實(shí)體行政體系的風(fēng)險(xiǎn)。只要人類群聚而居,衣食住行之外的首要主體便是支配權(quán),權(quán)力的爭(zhēng)逐是人類永恒的話題,現(xiàn)代民族國(guó)家是人類從權(quán)力的野蠻爭(zhēng)逐時(shí)代逐步進(jìn)化的結(jié)果,利維坦被解釋為人類權(quán)益的國(guó)家守護(hù)者;互聯(lián)網(wǎng)作為在市場(chǎng)經(jīng)濟(jì)的環(huán)境中成長(zhǎng)起來的虛擬空間,是人類實(shí)存世界于電子信息化空間中的自然映射。在沒有形成一種可以完全“自主式”布置的系統(tǒng)前,電子系統(tǒng)的運(yùn)行與部署至少?gòu)膯?dòng)上來說需要通過外在力量。離開這種外在力量,算法權(quán)力無法形成?,F(xiàn)在雖然已經(jīng)可以制造一種“算法”,一經(jīng)啟動(dòng)就可以無窮盡地耗費(fèi)外在資源運(yùn)行下去,但這種外在的力量如今還始終未能脫離人類的掌控。原初的人工智能通過對(duì)有效關(guān)聯(lián)規(guī)則的模式解釋,從大量數(shù)據(jù)中提取出隱含其中的價(jià)值信息,直觀地體現(xiàn)要素間的關(guān)聯(lián)程度,為人的決策提供參考。②陳麗、孔志洪、陳根才:《基于數(shù)據(jù)挖掘建立動(dòng)態(tài)人事管理決策系統(tǒng)》,《計(jì)算機(jī)工程與應(yīng)用》2001年第20期。算法權(quán)力逐步對(duì)數(shù)據(jù)標(biāo)注、算法設(shè)計(jì)等進(jìn)行解讀,負(fù)載著各種價(jià)值擁有數(shù)據(jù)并設(shè)定算法的智能化平臺(tái)主導(dǎo)形成所謂讓數(shù)據(jù)說話的算法權(quán)力。市場(chǎng)經(jīng)濟(jì)體制下,市場(chǎng)主體曾經(jīng)要求利維坦作為其守夜人,如今智能信息時(shí)代語(yǔ)境下自由競(jìng)爭(zhēng)的互聯(lián)網(wǎng)空間卻形成了“算法利維坦”及“算法私權(quán)力”,一切不能被還原為數(shù)字的東西都值得懷疑是不真實(shí)的;③方晶剛:《啟蒙精神批判之考察》,《蘇州大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2013年第4期。數(shù)字成為算法的準(zhǔn)則,能夠被數(shù)據(jù)化、程序化并被記錄、運(yùn)算、比對(duì)和分析的社會(huì)行為能夠得到“算法權(quán)力”的眷顧,偏離算法規(guī)則的社會(huì)行為則被“算法權(quán)力”所排斥甚至規(guī)訓(xùn)?!八惴ㄋ綑?quán)力”缺乏公權(quán)力介入電子信息化空間的利維坦式合法性論證,一方面,“算法私權(quán)力”作為市場(chǎng)主體普遍具有的壟斷擴(kuò)張性,不斷加劇公權(quán)力與互聯(lián)網(wǎng)技術(shù)之間本身就存在著的信息與技術(shù)的不對(duì)稱;另一方面,“算法私權(quán)力”作為一種隱秘的權(quán)力形式,必須依附于公權(quán)力才能不斷攫取其利益,這種依附卻加劇了公權(quán)力的異化。普羅大眾在“算法私權(quán)力”與迷失的公權(quán)力的擠壓下,越發(fā)成為溫順的綿羊,表象之下是權(quán)力與權(quán)利之間的極度失衡。

    在技術(shù)審核復(fù)刻的算法權(quán)力失衡風(fēng)險(xiǎn)支配下,缺乏規(guī)制的算法始終趨向?qū)?quán)力的壟斷與加強(qiáng),④鄭智航、徐昭曦:《大數(shù)據(jù)時(shí)代算法歧視的法律規(guī)制與司法審查——以美國(guó)法律實(shí)踐為例》,《比較法研究》2019年第4期。對(duì)權(quán)益的輕視與吞滅。權(quán)力是人類社會(huì)永恒的話題,我們無法分析是我們?cè)谥錂?quán)力還是權(quán)力在支配我們,人類處于支配又處于被支配的境地。我國(guó)對(duì)“權(quán)力”范疇少有專題論述似與西方傳統(tǒng)法律體系的私法傳統(tǒng)有關(guān),而“權(quán)力”范疇在法學(xué)上受到重視又與近代權(quán)力分立理論的啟蒙及現(xiàn)代公法的發(fā)展有關(guān)。⑤郭道暉:《認(rèn)真對(duì)待權(quán)力——讀〈規(guī)范權(quán)力——權(quán)力的法理研究〉》,《政治與法律》2008年第8期。算法行政權(quán)力是當(dāng)代權(quán)力發(fā)展的新形式,是互聯(lián)網(wǎng)時(shí)代國(guó)家權(quán)力在現(xiàn)實(shí)空間向虛擬世界的拓展,缺乏算法行政權(quán)力的虛擬空間將會(huì)面臨嚴(yán)重失序,但基于算法權(quán)力的特性,它又是對(duì)人類固有的自由、平等、公平、正義的一種新的制約,這種制約令當(dāng)代人感覺似乎生活在一種“永恒的監(jiān)視”之中。何種形態(tài)的體系結(jié)構(gòu)能夠更科學(xué)地建構(gòu)“算法權(quán)力”,按張凌寒的區(qū)分,算法分為針對(duì)特定社會(huì)行為作出特定動(dòng)作的“反應(yīng)型算法”與預(yù)測(cè)市場(chǎng)主體行為并作出特定動(dòng)作的“預(yù)測(cè)型算法”①?gòu)埩韬骸端惴ㄗ詣?dòng)化決策與行政正當(dāng)程序制度的沖突與調(diào)和》,《東方法學(xué)》2020年第6期。,作出這樣區(qū)分之目的就在于對(duì)行政資源進(jìn)行調(diào)配引導(dǎo)和部署行政活動(dòng),算法與行政資源、行政活動(dòng)的勾連是其“權(quán)力本質(zhì)”的表現(xiàn)。離開行政資源的調(diào)配與行政活動(dòng)部署,在“算法私權(quán)力”的支配下,一般行政相對(duì)人容易被動(dòng)地在算法空間中失去“行動(dòng)自由”,然而特別的“黑客”卻仍然能夠從算法空間的間隙中獲取巨大的利益。②克里斯托弗·斯坦納:《算法帝國(guó)》,李筱瑩譯,人民郵電出版社,2014,第37頁(yè)。針對(duì)算法對(duì)公眾具有的神秘性、不透明性、歧視危險(xiǎn)性,以及運(yùn)算結(jié)果難解釋性、算法軟件和平臺(tái)的易受攻擊性,致使算法的數(shù)據(jù)搜集、集成、識(shí)別、分類、傳輸、運(yùn)用、預(yù)測(cè)和決策充滿變數(shù)甚至沖擊道德倫理底線的問題。張文顯教授主張加強(qiáng)對(duì)算法的法律規(guī)制,特別是要加強(qiáng)對(duì)算法規(guī)則的合法性審查,從而生成合理的法權(quán)關(guān)系,讓算法合乎法理,用法理引導(dǎo)算法,以法律規(guī)范算法。

    應(yīng)當(dāng)如何以及在何種程度上賦予算法授權(quán),算法授權(quán)的正當(dāng)性基礎(chǔ)如何恰當(dāng)闡釋,算法權(quán)力支配下公民權(quán)利義務(wù)的甄別與救濟(jì),是系統(tǒng)性的工程,但不是人類史上的全新領(lǐng)域,改革開放后我國(guó)經(jīng)濟(jì)社會(huì)發(fā)展迅速,權(quán)力與權(quán)益之間的博弈是推動(dòng)改革的主動(dòng)力。正是在這種語(yǔ)境下,算法可能或已經(jīng)打破了權(quán)力主體與權(quán)益主體之間各自需求的平衡,算法時(shí)代的行政資源配置與活動(dòng)部署勢(shì)在必行。對(duì)算法權(quán)力的擔(dān)憂是:借由技術(shù)壁壘形成隔離性使得算法權(quán)力與普通公眾隔離,算法權(quán)力與現(xiàn)有法律制度隔離;并通過算法做出的即時(shí)生效的具體行政行為而損害正當(dāng)程序制度;在缺乏相應(yīng)的規(guī)制與救濟(jì)路徑的現(xiàn)狀下,產(chǎn)生異化權(quán)力最終侵害公民合法權(quán)益。技術(shù)審核一旦觸及對(duì)算法的應(yīng)用,通過算法監(jiān)管“電子技術(shù)監(jiān)控設(shè)備”以及其背后的“算法權(quán)力”,必然會(huì)同樣被算法權(quán)力支配并承載同樣的技術(shù)與倫理難題,仍然要正視當(dāng)前算法權(quán)力因各種結(jié)構(gòu)性不對(duì)稱引發(fā)的權(quán)力結(jié)構(gòu)性失衡,存在的向運(yùn)用算法的技術(shù)審核權(quán)力體系傳導(dǎo)的風(fēng)險(xiǎn)。

    四、技術(shù)審核制度的推行進(jìn)路

    未來“技術(shù)審核”的路徑是明確的,有三種:人工對(duì)技術(shù),即專業(yè)技術(shù)人員進(jìn)行純?nèi)斯ぜ夹g(shù)審核;人工輔助技術(shù)對(duì)技術(shù),即半人工半算法的算法輔助型審核;技術(shù)對(duì)技術(shù),即專業(yè)的審核算法對(duì)“算法權(quán)力”進(jìn)行算法對(duì)算法的審核。形式層面,技術(shù)審核通過審核內(nèi)容的法定化,能夠更清晰表達(dá)參與國(guó)家行政機(jī)器運(yùn)行的技術(shù)設(shè)備的運(yùn)行機(jī)理;內(nèi)容層面,需要通過對(duì)技術(shù)審核的制度化設(shè)計(jì),重塑被技術(shù)推動(dòng)的行政效率追求打破的行政權(quán)擴(kuò)張與控制之間的平衡,使內(nèi)部制度外部化,吸納行政相對(duì)人參與,確保蘊(yùn)含其中的“算法權(quán)力”在法治軌道上有效運(yùn)行,并通過規(guī)范“技術(shù)審核”制度提高行政體系應(yīng)對(duì)“算法權(quán)力”及約束“算法行政權(quán)力”的能力。

    (一)規(guī)范授權(quán),打通權(quán)力流通渠道

    技術(shù)審核權(quán)力作為新技術(shù)應(yīng)用引起的權(quán)力配置結(jié)構(gòu)的變革,其動(dòng)力在于新技術(shù)的引用,其風(fēng)險(xiǎn)在于技術(shù)審核權(quán)力從法律授權(quán)起始的模糊,因權(quán)力結(jié)構(gòu)變化引起的利益沖突。針對(duì)三種不同的路徑,技術(shù)審核機(jī)制中的單純?nèi)斯?duì)技術(shù)路徑,當(dāng)前存在的問題為審核主體、審核范圍、審核內(nèi)容、審核程序模糊,應(yīng)對(duì)技術(shù)審核的主體、范圍、內(nèi)容、程序通過進(jìn)一步的法律解釋,盡快彌補(bǔ)上述漏洞,并根據(jù)形勢(shì)變化進(jìn)行更新,此既有利于立法的穩(wěn)定性,又能保持相對(duì)靈活性,保持一種動(dòng)態(tài)平衡;亦可為對(duì)“技術(shù)審核”做進(jìn)一步探索留出足夠的空間。而一旦技術(shù)審核突破人工審核,兼容技術(shù)對(duì)技術(shù)的規(guī)制,則超出了法解釋技術(shù)能夠解決問題的范圍;反思以大數(shù)據(jù)、智能算法為構(gòu)成,以數(shù)據(jù)和算法為技術(shù)文化的數(shù)據(jù)世界,并非具有“社會(huì)必然性”,“數(shù)據(jù)的量化采集有其前提和假定,算法本身也并非純粹客觀的數(shù)據(jù)處理手段,而存在諸多不透明的因素”①段偉文:《數(shù)據(jù)智能的算法權(quán)力及其邊界??薄?,《探索與爭(zhēng)鳴》2018年第10期。。明言或者暗示的算法權(quán)力論題似乎是現(xiàn)實(shí)權(quán)力在虛擬空間中的簡(jiǎn)單映射,而非一種需要特別呼喚“算法正義”進(jìn)行校正的新型正義觀。從法律到算法的過渡陷入如何對(duì)技術(shù)授權(quán)、算法與法律之間如何轉(zhuǎn)換的論題。

    在“電子技術(shù)監(jiān)控設(shè)備”入法前,《優(yōu)化營(yíng)商環(huán)境條例》已經(jīng)先行提出加快建設(shè)全國(guó)一體化在線政務(wù)服務(wù)平臺(tái);而實(shí)踐中,此前雖然相關(guān)的建設(shè)標(biāo)準(zhǔn)缺乏或者不一,但大量信息平臺(tái)已被法律規(guī)范納入治理體系中。從法律規(guī)范授權(quán)行政主體進(jìn)行相關(guān)自我形塑的規(guī)范性授權(quán),到行政主體依托規(guī)范性授權(quán)采購(gòu)符合相關(guān)的應(yīng)用軟體,這個(gè)過程中權(quán)力的流通途徑是從法律規(guī)范流向應(yīng)用軟體,應(yīng)用軟體承接了法律規(guī)范的應(yīng)然權(quán)力。隨著授權(quán)平臺(tái)所承接的治理要求的不斷升級(jí)(從簡(jiǎn)單的收集信息到對(duì)信息的整理統(tǒng)計(jì),到依托統(tǒng)計(jì)數(shù)據(jù)輔助決策,再到依托大數(shù)據(jù)分析作出自動(dòng)化行政決定),授權(quán)平臺(tái)所承接的算法行政權(quán)力不斷擴(kuò)張,對(duì)外的權(quán)益侵蝕也逐步加深,其侵害社會(huì)主體權(quán)益的可能性也越來越大,法治實(shí)踐對(duì)它的規(guī)制要求也不斷提高?!缎姓幜P法》修訂增加對(duì)“電子技術(shù)監(jiān)控設(shè)備”進(jìn)行法制與技術(shù)審核后,各部門法將持續(xù)跟進(jìn),法治與技術(shù)方向會(huì)漸漸明晰,自發(fā)權(quán)力驅(qū)向規(guī)范構(gòu)建轉(zhuǎn)向。當(dāng)前,雖然應(yīng)用軟體可以整體依托《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》的信息化標(biāo)準(zhǔn)進(jìn)行規(guī)劃、開發(fā)、測(cè)試、上線運(yùn)行,但仍然忽略了從法律規(guī)范的應(yīng)然價(jià)值到應(yīng)用軟體中實(shí)然事實(shí)之間的銜接過程。如何將法律規(guī)范的規(guī)范意圖貫徹到統(tǒng)一平臺(tái)的設(shè)計(jì)規(guī)范中,除開應(yīng)當(dāng)符合《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》相關(guān)標(biāo)準(zhǔn)外,應(yīng)于立法時(shí)規(guī)范授權(quán)建設(shè)相應(yīng)的平臺(tái)承擔(dān)職能,還應(yīng)當(dāng)由立法機(jī)關(guān)在授權(quán)層面對(duì)實(shí)現(xiàn)規(guī)范授權(quán)職能之平臺(tái)予以立法審核,明確審核主體義務(wù),規(guī)范建構(gòu)立法審核程序性規(guī)范,依法保證授權(quán)之平臺(tái)符合相關(guān)授權(quán)規(guī)則,打通整體的授權(quán)通道。

    (二)厘清技術(shù)審核法律責(zé)任體系

    “新技術(shù)的發(fā)明與使用本質(zhì)上是要反映人的意志,要為人類的社會(huì)生活與政治理想服務(wù)”②郭小平、秦藝軒:《解構(gòu)智能傳播的數(shù)據(jù)神話:算法偏見的成因與風(fēng)險(xiǎn)治理路徑》,《現(xiàn)代傳播(中國(guó)傳媒大學(xué)學(xué)報(bào))》2019年第9期。。作為蘊(yùn)含著技術(shù)力量的技術(shù)審核,蘊(yùn)含其中的服務(wù)政治理想的公權(quán)力意志,在人類有限理性的支配下的技術(shù),算法設(shè)計(jì)者基于單向逐利的自主行為,制造了人類控制之下的與可能脫離人類控制的算法權(quán)力。嵌入算法技術(shù)的技術(shù)審核則同樣可能是在人類控制之下,亦可能是脫離人類控制,單向逐利趨勢(shì)為其帶來潛在侵害私權(quán)益的可能。權(quán)力要在法治的軌道上運(yùn)行,必須規(guī)定相應(yīng)的違犯責(zé)任,違法行為和不合理行政行為應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任,建立和健全責(zé)任追究和落實(shí)機(jī)制,建立和實(shí)現(xiàn)權(quán)力與責(zé)任、職權(quán)與職責(zé)高度一致性責(zé)任體系。③肖金明:《論服務(wù)政府與責(zé)任政府——兼論行政許可法制的意義》,《中國(guó)行政管理》2005年第8期。當(dāng)前的規(guī)范體系中,技術(shù)審核的對(duì)象還僅限于行政機(jī)關(guān)建設(shè)“電子技術(shù)監(jiān)控設(shè)備”與依托“電子技術(shù)監(jiān)控設(shè)備”獲取數(shù)據(jù)的行政行為,二者在行政處罰法體系下,其中建設(shè)行為為非具體實(shí)施至個(gè)案的行政行為,其可訴性可以參照抽象行政行為,行政主體的不當(dāng)建設(shè)行為應(yīng)當(dāng)承擔(dān)相應(yīng)的內(nèi)部行政責(zé)任;而獲取數(shù)據(jù)之行為若未能對(duì)行政相對(duì)人造成外部性侵害,則為行政過程性行為,而一旦具體到某一行政案例中則其應(yīng)為可訴之行政行為,由行政主體承擔(dān)相應(yīng)責(zé)任。

    具體到相應(yīng)的審核路徑中,人工審核的技術(shù)審核機(jī)制責(zé)任建構(gòu)較為容易,誰(shuí)審核誰(shuí)負(fù)責(zé),誰(shuí)失責(zé)誰(shuí)擔(dān)責(zé)。半人工與全自動(dòng)的審核體系的責(zé)任建構(gòu)機(jī)制則相對(duì)復(fù)雜,也是當(dāng)前自動(dòng)行政所面臨的難題。全自動(dòng)審核體系面臨的是人工智能法律主體地位的論證,當(dāng)前對(duì)人工智能法律主體地位的主要觀點(diǎn)有:肯定說,即人工智能具有法律主體地位;有限肯定說,即人工智能承擔(dān)有限法律責(zé)任;否定說,即人工智能不具有法律主體地位。①黎慈:《人工智能嵌入行政執(zhí)法的法理分析:現(xiàn)狀、風(fēng)險(xiǎn)與應(yīng)對(duì)》,《湖北社會(huì)科學(xué)》2020年第7期。半自動(dòng)則要面臨人工審核責(zé)任比例的分配問題,結(jié)合前述人工智能主體地位的三種觀點(diǎn),肯定說可以在人工與人工智能之間按照決策程度均衡分配,有限肯定說則需人工承擔(dān)主要責(zé)任,而否定說則完全由人工承擔(dān)責(zé)任。在最終擔(dān)責(zé)方面,當(dāng)前我國(guó)的國(guó)家賠償法僅規(guī)定了賠償義務(wù)機(jī)關(guān),該法第十六條規(guī)定,行政機(jī)關(guān)對(duì)行政相對(duì)人承擔(dān)賠償責(zé)任后,“應(yīng)當(dāng)責(zé)令有故意或者重大過失的工作人員或者受委托的組織或者個(gè)人承擔(dān)部分或者全部賠償費(fèi)用”。由此可以明晰,技術(shù)審核責(zé)任建構(gòu)不影響行政相對(duì)人因受損向行政機(jī)關(guān)求責(zé),僅影響內(nèi)部責(zé)任的分配。在前述權(quán)力流通渠道中,加強(qiáng)了立法機(jī)關(guān)在授權(quán)層面予以立法審核環(huán)節(jié)后,全自動(dòng)審核人工智能的過錯(cuò)責(zé)任應(yīng)當(dāng)要追責(zé)到立法審核環(huán)節(jié),而半自動(dòng)審核則應(yīng)根據(jù)自動(dòng)化程度在行政人與立法審核環(huán)節(jié)進(jìn)行責(zé)任分配。技術(shù)審核法律責(zé)任應(yīng)當(dāng)作為內(nèi)部行政責(zé)任監(jiān)督體系予以構(gòu)建,內(nèi)部責(zé)任分配可以借鑒一種“價(jià)值流分析機(jī)制”,通過厘清輸入和輸出的價(jià)值流向,使責(zé)任追究和權(quán)利保護(hù)能有源可溯、有跡可循。當(dāng)前這一環(huán)節(jié)的相關(guān)研究與立法實(shí)踐還處于真空狀態(tài),進(jìn)行適當(dāng)?shù)牧⒎▽?shí)踐將有利于靜態(tài)文本與動(dòng)態(tài)關(guān)系的立體實(shí)現(xiàn),有利于對(duì)非符合價(jià)值觀的腐敗關(guān)系的主動(dòng)規(guī)避,有利于法律實(shí)效的主動(dòng)表達(dá)。

    (三)完善分類分級(jí)技術(shù)審核程序

    任蓉在算法嵌入政府治理而導(dǎo)致的“風(fēng)險(xiǎn)社會(huì)”的探討中,認(rèn)為“場(chǎng)景化、全過程”是算法嵌入政府治理的風(fēng)險(xiǎn)防控路徑,包括算法嵌入政府治理前的審查評(píng)估:制定算法分級(jí)分類制度、算法公開制度,進(jìn)行安全性評(píng)估;要求可理解的算法解釋與行政侵權(quán)責(zé)任認(rèn)定。在算法“攛掇”權(quán)力形成算法權(quán)力后,加強(qiáng)算法的透明性、可理解性、可解釋性的規(guī)制要求,②劉東亮:《技術(shù)性正當(dāng)程序:人工智能時(shí)代程序法和算法的雙重變奏》,《比較法研究》2020年第5期??梢宰鳛榧夹g(shù)審核“電子技術(shù)監(jiān)控設(shè)備”背后的潛在技術(shù)路徑。但算法作為計(jì)算機(jī)技術(shù),作為技術(shù)秘密的范疇,要求完全的透明性、可理解性、可解釋性則是對(duì)當(dāng)今知識(shí)產(chǎn)權(quán)體系的一種挑戰(zhàn),通過現(xiàn)有知識(shí)產(chǎn)權(quán)的“公開換保護(hù)”機(jī)制未必能實(shí)現(xiàn)算法透明性和可解釋性規(guī)則對(duì)各方利益的平衡和保護(hù)。③侯東德、田少帥:《人工智能應(yīng)用中的政治風(fēng)險(xiǎn)及其法律應(yīng)對(duì)》,《學(xué)?!?021年第2期。而通過場(chǎng)景對(duì)“算法權(quán)力”進(jìn)行規(guī)范,一旦現(xiàn)實(shí)生活形成新的場(chǎng)景,立法的腳步未必能跟上變動(dòng)不居的社會(huì)生活。分級(jí)分類的計(jì)算機(jī)系統(tǒng)安全保護(hù)能力的五個(gè)等級(jí)④第一級(jí)為用戶自主保護(hù)級(jí),第二級(jí)為系統(tǒng)審計(jì)保護(hù)級(jí),第三級(jí)為安全標(biāo)記保護(hù)級(jí),第四級(jí)為結(jié)構(gòu)化保護(hù)級(jí),第五級(jí)為訪問驗(yàn)證保護(hù)級(jí)。也許可以為技術(shù)審核提供一種新的思路。結(jié)合前述責(zé)任體系構(gòu)建中的三種技術(shù)審核路徑(人工對(duì)技術(shù)、人工輔助技術(shù)對(duì)技術(shù)、技術(shù)對(duì)技術(shù)),將計(jì)算機(jī)系統(tǒng)安全保護(hù)能力的五個(gè)等級(jí)與三種技術(shù)審核的路徑相匹配,形成以下審核思路:級(jí)別較高的安全保護(hù)采取純?nèi)斯徍?,?jí)別較低的采取純技術(shù)審核,中間級(jí)別采取人工與技術(shù)相結(jié)合,并根據(jù)級(jí)別高低配置人工與技術(shù)審核的比例。

    當(dāng)前技術(shù)審核的規(guī)范目的:一是審核電子技術(shù)監(jiān)控設(shè)備是否符合標(biāo)準(zhǔn),二是審核電子技術(shù)監(jiān)控設(shè)備獲取的數(shù)據(jù)是否真實(shí)、清晰、完整、準(zhǔn)確,三是技術(shù)參與行政樹立公信力。圍繞著規(guī)范目的,針對(duì)技術(shù)審核的三種路徑分別制定相應(yīng)的審核程序。全人工審核對(duì)審核人員的要求較高,結(jié)合行政正當(dāng)程序以確保技術(shù)審核的公正實(shí)施,與當(dāng)前的行政程序不存在沖突。技術(shù)結(jié)合人工與全技術(shù)審核,審核程序的路徑:一是法定程序,這相當(dāng)考驗(yàn)立法智慧;二是仍然以《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》與《新一代人工智能倫理規(guī)范》等作為原則性指導(dǎo),具體程序授權(quán)市場(chǎng)化選擇,這條路徑將技術(shù)審核智慧交給市場(chǎng)開發(fā),可以激發(fā)活力卻有漏洞風(fēng)險(xiǎn)。明確審核程序的路徑選擇,結(jié)合審核對(duì)象的系統(tǒng)安全保護(hù)等級(jí),分類分級(jí)完善審核程序,先突破當(dāng)前籠統(tǒng)的模糊概況,在明確的法治實(shí)踐基礎(chǔ)上再進(jìn)行總結(jié)并進(jìn)一步完善是比較適宜的技術(shù)路徑。此外,區(qū)別于法制審核主要關(guān)注“主體、管轄權(quán)限、執(zhí)法程序、事實(shí)認(rèn)定、行政裁量權(quán)運(yùn)用和法律適用”等明確事項(xiàng),技術(shù)審核的對(duì)象泛算法化,需要為技術(shù)審核構(gòu)建行政相對(duì)人參與的響應(yīng)機(jī)制,提升審核程序與內(nèi)容的透明性,落實(shí)技術(shù)審核制度的實(shí)效運(yùn)行。

    結(jié)語(yǔ)

    從無紙化到辦公自動(dòng)化,從一門式服務(wù)到智慧政府,信息化、網(wǎng)絡(luò)化、智能化既為數(shù)字政府提供算法社會(huì)治理的紅利,也對(duì)法治政府提出了防治算法權(quán)力濫用的新數(shù)字正義要求。當(dāng)前行政處罰法的“法制與技術(shù)審核”設(shè)計(jì)過于簡(jiǎn)單,不可能達(dá)至完成建設(shè)一個(gè)數(shù)字型法治政府的宏大目標(biāo);計(jì)算法學(xué)關(guān)注點(diǎn)集中在司法領(lǐng)域的公平與正義上。當(dāng)前的技術(shù)審核制度內(nèi)涵有待于立法對(duì)該制度的預(yù)期作進(jìn)一步的拓展,也需要數(shù)字型法治政府對(duì)未來算法治理進(jìn)行更多的思考與實(shí)踐。

    猜你喜歡
    規(guī)范人工智能法律
    來稿規(guī)范
    來稿規(guī)范
    PDCA法在除顫儀規(guī)范操作中的應(yīng)用
    來稿規(guī)范
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    亚洲av第一区精品v没综合| 一级a爱片免费观看的视频| 日本 av在线| 露出奶头的视频| 亚洲成av人片免费观看| 午夜福利成人在线免费观看| www日本在线高清视频| 国产爱豆传媒在线观看 | 色播亚洲综合网| 99在线视频只有这里精品首页| 国产人伦9x9x在线观看| 一级黄色大片毛片| 国内揄拍国产精品人妻在线 | 成年女人毛片免费观看观看9| 国产片内射在线| 中文资源天堂在线| 男人舔奶头视频| 国产精品久久久久久亚洲av鲁大| 欧美黑人欧美精品刺激| 叶爱在线成人免费视频播放| 给我免费播放毛片高清在线观看| 久久久久精品国产欧美久久久| 欧美激情久久久久久爽电影| av在线播放免费不卡| 国内毛片毛片毛片毛片毛片| 精品久久蜜臀av无| 亚洲午夜精品一区,二区,三区| 午夜影院日韩av| АⅤ资源中文在线天堂| 国产精品美女特级片免费视频播放器 | 91字幕亚洲| 99精品欧美一区二区三区四区| 午夜福利在线观看吧| 老司机福利观看| 国产亚洲精品一区二区www| 亚洲全国av大片| 久久精品影院6| 男人操女人黄网站| 亚洲av中文字字幕乱码综合 | 久久久久久亚洲精品国产蜜桃av| 99久久99久久久精品蜜桃| 午夜福利高清视频| 欧美性猛交黑人性爽| 久99久视频精品免费| 人妻丰满熟妇av一区二区三区| 精品少妇一区二区三区视频日本电影| 99热只有精品国产| 久久香蕉激情| 精品高清国产在线一区| 大型黄色视频在线免费观看| 99在线人妻在线中文字幕| 禁无遮挡网站| 国内精品久久久久精免费| 久久精品91蜜桃| 18禁国产床啪视频网站| 午夜影院日韩av| 免费高清视频大片| 非洲黑人性xxxx精品又粗又长| 一级毛片精品| 国产男靠女视频免费网站| 国产精品精品国产色婷婷| 久久久精品国产亚洲av高清涩受| 韩国av一区二区三区四区| 日韩欧美国产一区二区入口| 精品国产乱码久久久久久男人| aaaaa片日本免费| 看黄色毛片网站| 久久精品人妻少妇| 亚洲无线在线观看| 一级作爱视频免费观看| 欧美久久黑人一区二区| 亚洲人成网站在线播放欧美日韩| 精品国产美女av久久久久小说| 亚洲五月天丁香| 日本三级黄在线观看| 欧美日韩精品网址| 美女高潮喷水抽搐中文字幕| 精品欧美国产一区二区三| 九色国产91popny在线| 黑人巨大精品欧美一区二区mp4| 国产av一区二区精品久久| av超薄肉色丝袜交足视频| 午夜成年电影在线免费观看| 变态另类成人亚洲欧美熟女| 深夜精品福利| 99热6这里只有精品| 波多野结衣巨乳人妻| 亚洲全国av大片| 国产精品爽爽va在线观看网站 | 久久久久久免费高清国产稀缺| 亚洲男人天堂网一区| 久久九九热精品免费| 人人澡人人妻人| 黄色 视频免费看| 亚洲av成人av| 很黄的视频免费| 韩国av一区二区三区四区| 在线视频色国产色| 一个人观看的视频www高清免费观看 | 免费高清视频大片| 老司机午夜十八禁免费视频| 女性被躁到高潮视频| 久久狼人影院| 丝袜人妻中文字幕| 精品一区二区三区av网在线观看| 好男人电影高清在线观看| 老汉色av国产亚洲站长工具| xxxwww97欧美| 精品福利观看| 天堂√8在线中文| 亚洲人成电影免费在线| 两性午夜刺激爽爽歪歪视频在线观看 | 一进一出好大好爽视频| 男人操女人黄网站| 日韩国内少妇激情av| 久久狼人影院| 成年人黄色毛片网站| 50天的宝宝边吃奶边哭怎么回事| 婷婷精品国产亚洲av在线| 搡老妇女老女人老熟妇| 法律面前人人平等表现在哪些方面| 一二三四在线观看免费中文在| 香蕉av资源在线| 国产av又大| 国产激情偷乱视频一区二区| 一级a爱片免费观看的视频| 欧美黑人巨大hd| 正在播放国产对白刺激| 悠悠久久av| 久久久久久国产a免费观看| 最新在线观看一区二区三区| 一级黄色大片毛片| 亚洲狠狠婷婷综合久久图片| √禁漫天堂资源中文www| 国产视频一区二区在线看| 亚洲久久久国产精品| 可以在线观看的亚洲视频| netflix在线观看网站| 无遮挡黄片免费观看| 大型av网站在线播放| 久久午夜综合久久蜜桃| 欧美又色又爽又黄视频| 国产精品 国内视频| 成人18禁高潮啪啪吃奶动态图| 国产99白浆流出| 琪琪午夜伦伦电影理论片6080| 国产真实乱freesex| 熟女少妇亚洲综合色aaa.| 黑人巨大精品欧美一区二区mp4| 老汉色av国产亚洲站长工具| 欧美日韩亚洲国产一区二区在线观看| 色哟哟哟哟哟哟| 淫秽高清视频在线观看| 精品午夜福利视频在线观看一区| 成人av一区二区三区在线看| 两个人视频免费观看高清| 久久久久精品国产欧美久久久| 免费在线观看影片大全网站| 免费看美女性在线毛片视频| xxx96com| 婷婷精品国产亚洲av在线| 亚洲aⅴ乱码一区二区在线播放 | 男人舔奶头视频| 国产成人精品无人区| 久久人妻av系列| 大型黄色视频在线免费观看| 免费看十八禁软件| 中文资源天堂在线| 亚洲精品美女久久久久99蜜臀| 中文字幕精品亚洲无线码一区 | 日韩视频一区二区在线观看| 久久国产精品人妻蜜桃| 精华霜和精华液先用哪个| 丝袜人妻中文字幕| 午夜日韩欧美国产| 婷婷六月久久综合丁香| 免费在线观看亚洲国产| 欧美三级亚洲精品| 国产亚洲精品久久久久5区| 久久午夜综合久久蜜桃| 久久久久亚洲av毛片大全| 大型av网站在线播放| 亚洲欧美日韩高清在线视频| 午夜福利欧美成人| 18禁黄网站禁片午夜丰满| 亚洲最大成人中文| 国产av不卡久久| 老司机午夜福利在线观看视频| 一区二区三区激情视频| 18禁美女被吸乳视频| 最近最新中文字幕大全电影3 | 欧美日韩一级在线毛片| 国产精品一区二区精品视频观看| 亚洲全国av大片| 国产成人精品无人区| 亚洲欧美日韩高清在线视频| 男女做爰动态图高潮gif福利片| 操出白浆在线播放| 精品少妇一区二区三区视频日本电影| 91av网站免费观看| 亚洲 欧美一区二区三区| 在线视频色国产色| 人人妻人人澡人人看| 女性被躁到高潮视频| АⅤ资源中文在线天堂| 亚洲欧美精品综合久久99| 久久久久久免费高清国产稀缺| 精品国产乱码久久久久久男人| 久久人妻av系列| 村上凉子中文字幕在线| 这个男人来自地球电影免费观看| 欧美乱色亚洲激情| 十八禁网站免费在线| 欧美一级毛片孕妇| 国产高清视频在线播放一区| 18美女黄网站色大片免费观看| 精品卡一卡二卡四卡免费| 久久精品国产亚洲av香蕉五月| 热99re8久久精品国产| 精品福利观看| 久久人妻福利社区极品人妻图片| 窝窝影院91人妻| 99re在线观看精品视频| 精品无人区乱码1区二区| 老司机在亚洲福利影院| 免费女性裸体啪啪无遮挡网站| 精品第一国产精品| 日韩精品免费视频一区二区三区| aaaaa片日本免费| 黄网站色视频无遮挡免费观看| 黄色视频,在线免费观看| 欧美久久黑人一区二区| 国产av一区二区精品久久| 日本撒尿小便嘘嘘汇集6| 变态另类成人亚洲欧美熟女| 两个人视频免费观看高清| 一级毛片精品| 国产精品一区二区三区四区久久 | 自线自在国产av| 日本 欧美在线| 热re99久久国产66热| 久久精品国产清高在天天线| 婷婷丁香在线五月| 亚洲成人久久性| 欧美zozozo另类| 可以在线观看毛片的网站| 午夜a级毛片| 热99re8久久精品国产| 中文亚洲av片在线观看爽| 一夜夜www| 精品国内亚洲2022精品成人| 久久天堂一区二区三区四区| 成人亚洲精品av一区二区| 成人国产一区最新在线观看| 午夜精品在线福利| 欧美精品啪啪一区二区三区| 黄色视频,在线免费观看| 午夜免费鲁丝| 国产91精品成人一区二区三区| 老司机午夜福利在线观看视频| 国内少妇人妻偷人精品xxx网站 | 在线观看午夜福利视频| 欧美乱色亚洲激情| 女性生殖器流出的白浆| 我的亚洲天堂| 国内揄拍国产精品人妻在线 | ponron亚洲| 又大又爽又粗| 国产黄片美女视频| 欧美在线一区亚洲| 日韩国内少妇激情av| 欧美日韩中文字幕国产精品一区二区三区| 日本一本二区三区精品| 国产高清激情床上av| 99久久精品国产亚洲精品| 999久久久精品免费观看国产| 最近最新中文字幕大全免费视频| 好看av亚洲va欧美ⅴa在| 亚洲成av片中文字幕在线观看| 亚洲avbb在线观看| 97人妻精品一区二区三区麻豆 | 亚洲国产高清在线一区二区三 | 搡老熟女国产l中国老女人| 波多野结衣高清作品| 国产精品永久免费网站| 久久国产精品男人的天堂亚洲| 非洲黑人性xxxx精品又粗又长| 999久久久精品免费观看国产| 国产精品 国内视频| 亚洲自偷自拍图片 自拍| videosex国产| 国产激情欧美一区二区| 亚洲久久久国产精品| 国产高清videossex| 精品久久久久久,| 亚洲一卡2卡3卡4卡5卡精品中文| 国产成+人综合+亚洲专区| 他把我摸到了高潮在线观看| 色播亚洲综合网| 午夜福利免费观看在线| 丝袜人妻中文字幕| 亚洲天堂国产精品一区在线| 少妇粗大呻吟视频| 国产精品爽爽va在线观看网站 | 青草久久国产| 亚洲成a人片在线一区二区| 最近最新中文字幕大全电影3 | 国产欧美日韩一区二区三| 一本久久中文字幕| 老司机福利观看| 午夜两性在线视频| 成人免费观看视频高清| 十分钟在线观看高清视频www| 欧美精品啪啪一区二区三区| 久久天堂一区二区三区四区| 好男人在线观看高清免费视频 | 午夜福利免费观看在线| 国产成人欧美在线观看| 成年版毛片免费区| 1024香蕉在线观看| 国产精品美女特级片免费视频播放器 | 日韩欧美一区二区三区在线观看| 午夜精品在线福利| 久久久久免费精品人妻一区二区 | 色播亚洲综合网| 亚洲午夜理论影院| 日韩三级视频一区二区三区| 怎么达到女性高潮| 国产黄a三级三级三级人| 淫妇啪啪啪对白视频| 国产私拍福利视频在线观看| 久久人妻av系列| 少妇被粗大的猛进出69影院| 精品日产1卡2卡| 久久人人精品亚洲av| 黄色片一级片一级黄色片| 亚洲精品在线美女| 国产色视频综合| 国产亚洲精品久久久久久毛片| 欧美黑人巨大hd| 婷婷亚洲欧美| a级毛片在线看网站| 曰老女人黄片| 夜夜爽天天搞| 国语自产精品视频在线第100页| 精品免费久久久久久久清纯| 又黄又爽又免费观看的视频| 国产黄色小视频在线观看| 白带黄色成豆腐渣| cao死你这个sao货| 老司机在亚洲福利影院| 午夜福利在线观看吧| 欧美精品亚洲一区二区| av超薄肉色丝袜交足视频| 精品福利观看| www.www免费av| 精品不卡国产一区二区三区| 国产亚洲av嫩草精品影院| 日本成人三级电影网站| 一边摸一边抽搐一进一小说| 欧美成人午夜精品| 午夜精品在线福利| 国产爱豆传媒在线观看 | 中文字幕高清在线视频| 国产精品精品国产色婷婷| 91在线观看av| 搡老妇女老女人老熟妇| 国产亚洲精品综合一区在线观看 | 99国产综合亚洲精品| 成人18禁高潮啪啪吃奶动态图| 亚洲国产精品999在线| 在线观看午夜福利视频| 国产激情偷乱视频一区二区| 国产一区在线观看成人免费| 午夜福利视频1000在线观看| 国产伦一二天堂av在线观看| 亚洲激情在线av| 女警被强在线播放| 岛国在线观看网站| 深夜精品福利| 国产成人欧美在线观看| 国产一级毛片七仙女欲春2 | 国产免费男女视频| 国产成年人精品一区二区| 免费看日本二区| 在线观看www视频免费| 日韩欧美免费精品| 欧美大码av| av天堂在线播放| www.www免费av| 搞女人的毛片| 在线天堂中文资源库| √禁漫天堂资源中文www| 精品少妇一区二区三区视频日本电影| 变态另类成人亚洲欧美熟女| 免费在线观看影片大全网站| 亚洲人成77777在线视频| 亚洲天堂国产精品一区在线| 国产亚洲av高清不卡| 最近最新中文字幕大全免费视频| 亚洲专区字幕在线| АⅤ资源中文在线天堂| 级片在线观看| 日本 av在线| 久久久久国产一级毛片高清牌| 91字幕亚洲| 男人的好看免费观看在线视频 | 国产av又大| 国产视频一区二区在线看| 中文字幕另类日韩欧美亚洲嫩草| 丁香六月欧美| 免费在线观看完整版高清| 很黄的视频免费| 成人特级黄色片久久久久久久| 免费女性裸体啪啪无遮挡网站| 成人18禁高潮啪啪吃奶动态图| 村上凉子中文字幕在线| 母亲3免费完整高清在线观看| 9191精品国产免费久久| 色综合亚洲欧美另类图片| 久久草成人影院| 美女国产高潮福利片在线看| 精品日产1卡2卡| 韩国精品一区二区三区| 麻豆国产av国片精品| 久久精品91蜜桃| 亚洲国产欧美一区二区综合| 韩国av一区二区三区四区| 亚洲av电影在线进入| 精品高清国产在线一区| 亚洲男人天堂网一区| 日本三级黄在线观看| av天堂在线播放| 欧美成狂野欧美在线观看| 亚洲一区中文字幕在线| 久久精品影院6| 国产精品 欧美亚洲| 人人妻,人人澡人人爽秒播| 香蕉国产在线看| 亚洲精品一卡2卡三卡4卡5卡| 亚洲九九香蕉| 成人一区二区视频在线观看| 国产精品久久久人人做人人爽| 成人国语在线视频| 精品国产超薄肉色丝袜足j| 狠狠狠狠99中文字幕| 色播在线永久视频| 99热只有精品国产| 人妻久久中文字幕网| 成人国产一区最新在线观看| 18禁裸乳无遮挡免费网站照片 | 亚洲国产精品999在线| 欧美中文综合在线视频| 美女大奶头视频| 国产97色在线日韩免费| av欧美777| 色综合欧美亚洲国产小说| 香蕉av资源在线| 成人欧美大片| 欧美激情高清一区二区三区| 国产精品国产高清国产av| 免费看十八禁软件| 日本免费一区二区三区高清不卡| 精品久久蜜臀av无| 国产精品免费一区二区三区在线| 久久 成人 亚洲| 丝袜美腿诱惑在线| 婷婷精品国产亚洲av| 成人手机av| 男人舔女人的私密视频| 首页视频小说图片口味搜索| 婷婷六月久久综合丁香| 精品久久久久久久人妻蜜臀av| 天美传媒精品一区二区| 夜夜看夜夜爽夜夜摸| 久久精品夜色国产| 少妇丰满av| 久久久精品大字幕| 亚洲性夜色夜夜综合| 欧美激情久久久久久爽电影| 久久久色成人| 少妇人妻一区二区三区视频| 最近最新中文字幕大全电影3| 久久精品综合一区二区三区| 国产精品国产高清国产av| 国产亚洲精品久久久com| 亚洲精品在线观看二区| 成年av动漫网址| 久久人人爽人人爽人人片va| 精品少妇黑人巨大在线播放 | 观看美女的网站| 欧美区成人在线视频| 欧美xxxx性猛交bbbb| 久久精品国产自在天天线| 亚洲在线自拍视频| 在线观看美女被高潮喷水网站| 三级男女做爰猛烈吃奶摸视频| 精品一区二区三区视频在线| 18禁黄网站禁片免费观看直播| 国产色爽女视频免费观看| 欧美一区二区国产精品久久精品| 色综合色国产| 给我免费播放毛片高清在线观看| 午夜影院日韩av| 校园人妻丝袜中文字幕| 国产老妇女一区| 99热6这里只有精品| 久久亚洲精品不卡| 99热精品在线国产| 亚洲av熟女| 我的老师免费观看完整版| 又爽又黄无遮挡网站| 丰满人妻一区二区三区视频av| 午夜日韩欧美国产| 欧美成人一区二区免费高清观看| 国产精品一区二区性色av| 国产精品伦人一区二区| 亚洲国产欧洲综合997久久,| 日韩国内少妇激情av| 毛片女人毛片| 亚洲精品日韩av片在线观看| 一本精品99久久精品77| 亚洲精品国产成人久久av| 婷婷精品国产亚洲av| 狂野欧美白嫩少妇大欣赏| 久久亚洲精品不卡| 看黄色毛片网站| 18禁在线无遮挡免费观看视频 | 亚洲久久久久久中文字幕| 国产黄a三级三级三级人| 欧美激情久久久久久爽电影| 人妻少妇偷人精品九色| 一区福利在线观看| 国产在线男女| 男女视频在线观看网站免费| 亚洲国产高清在线一区二区三| 秋霞在线观看毛片| 日韩欧美一区二区三区在线观看| 日韩在线高清观看一区二区三区| 最后的刺客免费高清国语| 久久欧美精品欧美久久欧美| 蜜桃久久精品国产亚洲av| 久久精品综合一区二区三区| 看免费成人av毛片| 国产亚洲av嫩草精品影院| 日韩欧美精品v在线| 成人美女网站在线观看视频| 91在线精品国自产拍蜜月| 12—13女人毛片做爰片一| 欧美另类亚洲清纯唯美| 麻豆国产97在线/欧美| 三级经典国产精品| 国产中年淑女户外野战色| 久久久久久久久大av| 国产精品人妻久久久久久| 精品久久久久久久末码| 人人妻人人澡欧美一区二区| 老女人水多毛片| 日韩成人av中文字幕在线观看 | 美女 人体艺术 gogo| 国产成人91sexporn| 国产激情偷乱视频一区二区| 午夜福利在线观看吧| 免费看a级黄色片| 亚洲人成网站高清观看| 欧美性猛交黑人性爽| 两性午夜刺激爽爽歪歪视频在线观看| 毛片一级片免费看久久久久| 男插女下体视频免费在线播放| 日本-黄色视频高清免费观看| 亚洲国产色片| 最好的美女福利视频网| 人妻少妇偷人精品九色| 婷婷精品国产亚洲av在线| 国产v大片淫在线免费观看| eeuss影院久久| 午夜久久久久精精品| 日韩制服骚丝袜av| 一本精品99久久精品77| 亚州av有码| 中文字幕久久专区| 中国国产av一级| 伊人久久精品亚洲午夜| 成人午夜高清在线视频| 白带黄色成豆腐渣| 亚洲精品影视一区二区三区av| 精品不卡国产一区二区三区| 春色校园在线视频观看| 熟女电影av网| 能在线免费观看的黄片| 男人舔奶头视频| 可以在线观看的亚洲视频| 国产精品无大码| 久久精品国产亚洲av天美| 香蕉av资源在线| 可以在线观看毛片的网站| 免费大片18禁| 国产毛片a区久久久久| 性色avwww在线观看| 精品人妻偷拍中文字幕| 一级av片app| 亚洲精品日韩av片在线观看| 国产av一区在线观看免费| 少妇的逼好多水| 国产免费男女视频| 欧美成人a在线观看| 我的老师免费观看完整版| a级毛色黄片| 久久精品夜夜夜夜夜久久蜜豆| 精品一区二区三区av网在线观看| 一级毛片电影观看 | 舔av片在线| 精品熟女少妇av免费看| 99热这里只有精品一区| 深爱激情五月婷婷|