• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智慧法院建設(shè)背景下數(shù)據(jù)信息利用與安全的隱患及防控
    ——以H省F縣人民法院數(shù)據(jù)信息利用與安全保護(hù)的實踐為樣本

    2021-05-20 15:36:22張素敏
    關(guān)鍵詞:人民法院個人信息司法

    張素敏

    (西南政法大學(xué)法學(xué)院 重慶401120)

    2017年12月,淘寶網(wǎng)作為原告,將高某某告上杭州互聯(lián)網(wǎng)法院,要求人民法院判令高某某停止在淘寶網(wǎng)上銷售假貨的行為,這看似是一起普通的民事案件[1],但因阿里巴巴集團(tuán)曾經(jīng)與浙江省人民法院達(dá)成過戰(zhàn)略合作項目,為其提供司法資源智能推送、訴訟結(jié)果預(yù)判等智能輔助服務(wù),這讓人們對此案的司法公正產(chǎn)生了一絲擔(dān)憂。目前,在智慧法院建設(shè)背景下,全國各級人民法院高度依賴技術(shù)外包公司提供智能化數(shù)據(jù)信息服務(wù),享用大數(shù)據(jù)的信息計算和推送功能,并按國家要求最大可能地公開司法信息,那么此種情況會給人民法院的數(shù)據(jù)信息利用與安全帶來什么樣的隱患呢?本文以H省F縣人民法院的數(shù)據(jù)信息利用與安全保護(hù)實踐為樣本,對數(shù)據(jù)信息收集環(huán)節(jié)、應(yīng)用環(huán)節(jié)、公開環(huán)節(jié)中存在的隱患進(jìn)行分析,并提出相應(yīng)的數(shù)據(jù)信息利用與安全隱患的防控路徑,以期對人民法院的數(shù)據(jù)信息利用與安全有所裨益。

    一、H省F縣人民法院數(shù)據(jù)信息利用與安全保護(hù)的實踐

    考察H省F縣人民法院數(shù)據(jù)信息利用與安全保護(hù)的實踐現(xiàn)狀,其主要呈現(xiàn)以下三個方面的特征:一是法院案多人少,數(shù)據(jù)信息專業(yè)人員缺乏;二是法院數(shù)據(jù)信息安全保護(hù)的漏洞明顯,措施失位;三是法院網(wǎng)絡(luò)安全維護(hù)觀念落后,對外包服務(wù)依賴性強(qiáng)。

    (一)法院案多人少,數(shù)據(jù)信息專業(yè)人員缺乏

    H省F縣位于Z市西北部,縣域面積1163平方公里,總?cè)丝?4.3萬人,轄16個鄉(xiāng)鎮(zhèn)、1個產(chǎn)業(yè)集聚區(qū)、411個行政村。而H省F縣人民法院內(nèi)設(shè)有綜合辦公室、訴訟服務(wù)中心、民事團(tuán)隊、刑事團(tuán)隊等10個機(jī)構(gòu)以及6個人民法庭。全院現(xiàn)有干警153人、員額法官34人、法官助理68人。其中中央政法編制111人、事業(yè)編制19人、聘任制書記員23人、勞務(wù)派遣42人。

    2017—2019年,H省F縣人民法院審判業(yè)務(wù)三年分別立案8552件、10564件和11482件,分別審結(jié)(包含舊存案件數(shù))8470件、10386件和10662件(見圖1)。執(zhí)行案件立案數(shù)三年分別為3569件、3568件和5472件,執(zhí)結(jié)案件數(shù)(包含舊存案件數(shù))分別為2993件、3291件和4697件(見圖2)。

    圖1 H省F縣人民法院2017—2019年審判立結(jié)案件數(shù)

    圖2 H省F縣人民法院2017—2019年執(zhí)行立結(jié)案件數(shù)

    從以上數(shù)據(jù)統(tǒng)計可知①,該人民法院各項數(shù)據(jù)幾乎都保持著每年快速增長的趨勢。在2020年上半年,因為疫情緣故,有一段時間H省F縣人民法院取消了現(xiàn)場立案方式,然而即使是這樣,上半年的立案依舊有5934件,截至2020年6月底,審結(jié)案件5116件(包含舊存案件數(shù))。假設(shè)F縣人民法院全部34名員額法官都從事審判業(yè)務(wù)且無休息日的條件下,需要每名員額法官每兩天就審理完結(jié)一件案件,這無疑說明了H省F縣人民法院案多人少的司法現(xiàn)狀,如果仍采用原始的司法傳統(tǒng)辦案模式,很明顯人民法官的力量將呈現(xiàn)出捉襟見肘的局面。當(dāng)前,在智慧法院建設(shè)背景下,信息技術(shù)革命已在司法領(lǐng)域如火如荼地展開,但司法工作與現(xiàn)代數(shù)據(jù)信息技術(shù)的深度融合仍需進(jìn)一步推進(jìn),這就要求人民法院配備一定比例的數(shù)據(jù)信息專業(yè)人員,以此來提高人民法院審判工作的質(zhì)效。但令人遺憾的是,據(jù)筆者調(diào)研得知,在F縣人民法院所有司法干警中,計算機(jī)信息類專業(yè)人員僅有1人,這就導(dǎo)致大量審判工作的數(shù)據(jù)信息技術(shù)支撐,只能借助技術(shù)外包來完成,而外包公司數(shù)據(jù)信息技術(shù)人員的素質(zhì)參差不齊,給人民法院的工作帶來了一定程度的隱患。

    (二)法院數(shù)據(jù)信息安全保護(hù)的漏洞明顯,措施失位

    2020年在H省高級人民法院發(fā)布的網(wǎng)絡(luò)與信息安全情況通報中提到,截至2020年6月17日,全省各級人民法院共有1689臺電腦被僵尸、木馬和蠕蟲病毒入侵,其中H省Z市的中級人民法院和8縣2區(qū)的10家基層人民法院,被病毒入侵的電腦終端數(shù)量為67臺,在全省19個地市人民法院被病毒入侵的電腦終端數(shù)量排名中排第11位。而僅H省F縣人民法院受感染電腦終端數(shù)量就有36臺,其中22臺電腦終端感染了gamarue、木馬遠(yuǎn)控,4臺感染了sality、飛客蠕蟲、gandcrab、ircbot、phorpiex、ramnit、virut、wannacry、勒索軟件等病毒。這充分說明H省F縣人民法院數(shù)據(jù)信息安全保護(hù)的漏洞明顯,措施失位。經(jīng)筆者調(diào)研發(fā)現(xiàn),H省F縣人民法院出現(xiàn)上述問題的原因,主要是因為外置存儲(如U盤)使用不規(guī)范、EDR殺毒控件安裝不到位、病毒查殺不及時等問題。

    (三)法院網(wǎng)絡(luò)安全維護(hù)觀念落后,對外包服務(wù)依賴性強(qiáng)

    在H省F縣人民法院,僅有2名網(wǎng)絡(luò)安全維護(hù)員,他們除了要負(fù)責(zé)全法院上下10個部門和6個人民法庭的計算機(jī)日常維護(hù)工作外,還要負(fù)責(zé)庭審直播設(shè)備的調(diào)試以及網(wǎng)絡(luò)會議的信號接收等。而這2名網(wǎng)絡(luò)安全維護(hù)員均是來自于第三方某某陽計算機(jī)技術(shù)公司,該公司與H省F縣人民法院簽署了長期的技術(shù)服務(wù)合同,為人民法院提供專業(yè)的計算機(jī)網(wǎng)絡(luò)信息服務(wù),主要負(fù)責(zé)維護(hù)人民法院計算機(jī)及網(wǎng)絡(luò)的正常工作運(yùn)轉(zhuǎn)。H省F縣人民法院自身內(nèi)部,并未設(shè)置有與計算機(jī)維護(hù)和網(wǎng)絡(luò)安全工作相關(guān)的行政編制或事業(yè)編制崗位,而是將相關(guān)工作完全交給了技術(shù)外包公司。

    筆者通過進(jìn)一步調(diào)研了解發(fā)現(xiàn),H省F縣人民法院還與某某通公司存在打印機(jī)技術(shù)維修服務(wù)委托合同關(guān)系,購買了某某航技術(shù)公司專網(wǎng)整改服務(wù)項目,與某某華和某某浪公司有庭審直播系統(tǒng)安裝和維護(hù)委托關(guān)系等??梢?,H省F縣人民法院網(wǎng)絡(luò)安全維護(hù)觀念確實落后,對外包服務(wù)項目依賴性非常強(qiáng)。

    二、智慧法院建設(shè)背景下數(shù)據(jù)信息利用與安全的隱患

    目前,新一輪科技革命和產(chǎn)業(yè)變革正席卷全球,大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)、人工智能、區(qū)塊鏈等新技術(shù)不斷涌現(xiàn),數(shù)字經(jīng)濟(jì)正深刻地改變著人類的生產(chǎn)和生活方式。有學(xué)者認(rèn)為,大數(shù)據(jù)是二十一世紀(jì)信息化時代的“石油”,這種變化不僅是技術(shù)上的革新,更是對人類思維和觀念的革新,大數(shù)據(jù)技術(shù)必將深刻影響人類社會的各個方面[2],這當(dāng)然也會影響到司法領(lǐng)域;也有學(xué)者認(rèn)為,大數(shù)據(jù)的廣泛應(yīng)用是一把雙刃劍,它在給人們帶來便利的同時也存在數(shù)據(jù)信息利用與安全的隱患,比如人臉識別系統(tǒng)、司法大數(shù)據(jù)技術(shù)外包,都給保護(hù)公民個人的隱私權(quán)提出了嚴(yán)峻挑戰(zhàn)[3]。概言之,誰率先擁有、善于利用大數(shù)據(jù),誰就能掌握主動,贏得未來。

    (一)數(shù)據(jù)信息收集環(huán)節(jié)的隱患

    數(shù)據(jù)信息收集環(huán)節(jié)的隱患,主要表現(xiàn)為兩個方面:一是數(shù)據(jù)信息技術(shù)外包削弱司法公信力的隱患;二是人民法院數(shù)據(jù)信息技術(shù)外包存在泄露訴訟當(dāng)事人信息的隱患。

    1.數(shù)據(jù)信息技術(shù)外包削弱司法公信力的隱患

    在智慧法院建設(shè)的背景下,人民法院信息化改革也是迫在眉睫,而依據(jù)騰訊研究院發(fā)布的《全球人工智能人才白皮書》顯示,全球AI領(lǐng)域人才約10萬人,而市場需求在百萬量級[4],人民法院作為專注審判工作的司法機(jī)構(gòu),更是嚴(yán)重缺乏計算機(jī)專業(yè)人才,依靠內(nèi)部力量實現(xiàn)智能化研發(fā)幾乎是一件不可能的事,像浙江省人民法院一樣尋求與外部科技公司合作,實施數(shù)據(jù)信息技術(shù)外包就成為了全國各級人民法院的不二選擇。

    人民法院將自身并不擅長的數(shù)據(jù)信息技術(shù)工作外包給企業(yè),推動自身信息化建設(shè)進(jìn)程,而技術(shù)服務(wù)提供者收集并管理人民法院的相關(guān)數(shù)據(jù)信息,將這些數(shù)據(jù)信息進(jìn)行整理和計算,然后提供給法官協(xié)助辦案。此種做法本應(yīng)是“琴瑟和鳴”“各取所需”,但問題在于獲取人民法院數(shù)據(jù)信息的技術(shù)提供者,是否會像前述案例中的阿里巴巴集團(tuán)一樣,在某一天搖身一變成為下一個訴訟案件的當(dāng)事人,又是否會像外界擔(dān)憂的一樣,因為與人民法院存在合作關(guān)系,而在舉證、質(zhì)證等環(huán)節(jié)占盡了優(yōu)勢。我們姑且不論這樣的擔(dān)憂是否多余,又是否有道理,但僅僅是有懷疑的產(chǎn)生就已是對司法公信力產(chǎn)生了不良影響。

    2.人民法院數(shù)據(jù)信息技術(shù)外包存在泄露訴訟當(dāng)事人信息的隱患

    科學(xué)技術(shù)發(fā)展迅速的當(dāng)下,在利用數(shù)據(jù)信息為我們提供便利的同時,利用數(shù)據(jù)信息犯罪的案件數(shù)量也在逐年攀升,數(shù)據(jù)信息安全逐漸引起越來越多人的關(guān)注。如前文所述,當(dāng)前我國智慧法院的建設(shè)多釆用數(shù)據(jù)信息技術(shù)外包的形式,人民法院為數(shù)據(jù)信息技術(shù)服務(wù)方開放數(shù)據(jù)信息訪問權(quán)限,數(shù)據(jù)信息技術(shù)服務(wù)方提供專業(yè)設(shè)備和平臺,在這一過程中,服務(wù)方需要將海量的司法數(shù)據(jù)信息,通過技術(shù)手段進(jìn)行收集和計算,而這些司法數(shù)據(jù)信息,相較于互聯(lián)網(wǎng)上碎片化的信息要更為詳細(xì),隱私性也更強(qiáng),一旦泄露,其危害也更為嚴(yán)重[5]。人民法院作為司法審判機(jī)關(guān),本身對當(dāng)事人和訴訟參與人的數(shù)據(jù)信息負(fù)有釆集和妥善保管的義務(wù),當(dāng)然不會有故意泄露或者濫用個人數(shù)據(jù)信息的行為,但是數(shù)據(jù)信息技術(shù)提供方作為科技公司,卻存在著泄露或者濫用的風(fēng)險。同時,人民法院如果引入了帶有權(quán)限漏洞的服務(wù)平臺,或者后臺數(shù)據(jù)被不懷好意者盜竊并泄露,其后果也是不堪設(shè)想。

    (二)數(shù)據(jù)信息應(yīng)用環(huán)節(jié)的隱患

    “算法”作為一種大數(shù)據(jù)技術(shù),聽起來與我們相隔萬里,但實際上我們的生活在逐漸被“算法”所影響。當(dāng)我們打開某購物軟件,就會出現(xiàn)依據(jù)我們的喜好推送的商品信息;當(dāng)我們刷某社交軟件,觀看“猜你喜歡”類別下的視頻會無法停止;當(dāng)我們打開約車軟件,“目的地”一欄已經(jīng)按照“慣例”導(dǎo)入了我們最可能想要去的地點(diǎn)。其實這些都是中了“算法”的“圈套”。從科學(xué)上來說,一項技術(shù)并不存在好與壞之分,但是當(dāng)算法在缺少有效規(guī)范監(jiān)督措施的前提下被應(yīng)用在司法領(lǐng)域,算法“黑箱”也許會帶來損害司法公正的隱患。

    1.算法“黑箱”引起司法偏見的隱患

    人工智能本身就是建立在大數(shù)據(jù)之上自我學(xué)習(xí)判斷、決策的算法,其在類案類判、智慧檢務(wù)建設(shè)等司法系統(tǒng)的“技術(shù)革命”中起著重要作用[6]。但看似公平公正的大數(shù)據(jù)算法,在實際司法應(yīng)用中出現(xiàn)了難以避免的“黑箱”現(xiàn)象。在美國,部分法院在使用累犯預(yù)測軟件COMPAS時就發(fā)現(xiàn),一個未來沒有再犯罪危險的黑人的高累犯風(fēng)險是白人的兩倍,而相同條件下黑人獲得低累犯風(fēng)險的可能只有白人的一半左右[7]。此軟件的原理就是算法依據(jù)大數(shù)據(jù)已收集的累犯者的種族、性別、信仰等信息,代入某個已有的函數(shù)關(guān)系,并利用該計算方程評估未來該個體出現(xiàn)再犯罪的風(fēng)險值。很顯然,這樣的司法數(shù)據(jù)并不能實現(xiàn)個體正義的追求目標(biāo)。產(chǎn)生這樣的結(jié)果其實不難理解,在人工智能研發(fā)領(lǐng)域存在著這樣的法則:“Garbage in,garbage out(垃圾進(jìn),垃圾出)”,顧名思義就是算法模型獲取到含有偏見的訓(xùn)練數(shù)據(jù)就會產(chǎn)生有偏見性的結(jié)果,這種有偏見的數(shù)據(jù)要么是通過人們有意或無意輸入的,要么是人工智能由某個不具有代表性的樣本中挖掘出的,因此所得出的推論會存在一定的“偏差”。

    在我國大部分人民法院,人工智能還處在弱人工智能階段,僅作為司法輔助性工具協(xié)助法官辦案,所以截至目前還沒有出現(xiàn)因為算法“黑箱”引發(fā)司法不公的案件。但即使是這樣,也還是有學(xué)者認(rèn)為,算法偏差依然可以影響到法官依法辦案[8],例如征信記錄可以影響法官對證據(jù)的采納程度,消費(fèi)水平會影響法官對處罰金額大小的判斷,也許只是計算數(shù)據(jù)的偏差,也都會成為法官主觀偏見的誘因,并最終影響案件結(jié)果的公平公正。

    2.算法“黑箱”違背司法公開

    《中華人民共和國憲法》第一百二十五條規(guī)定:“人民法院審理案件,除法律規(guī)定的特別情況外,一律公開進(jìn)行?!边@里的“公開”既包括審理公開,也包括宣判公開[9]。在傳統(tǒng)的司法審判模式中,案件審理主要依靠法官的專業(yè)技能和社會實踐經(jīng)驗,在依法辦案的基礎(chǔ)上,充分發(fā)揮法官的自由裁量權(quán),而這種自由裁量權(quán)的限度,是要求符合社情民意且可以解釋,只有這樣才符合司法公開性原則。然而,在人工智能算法試圖取代法官的自由心證“算法”的當(dāng)下,也許我們可以依靠人工智能更快更準(zhǔn)確地得出裁判結(jié)論,但因為人工智能算法的運(yùn)算程序和計算依據(jù)都是不可知的,就好比被裝進(jìn)了黑箱子,這就使得產(chǎn)生的司法結(jié)論不具有解釋性,且不具有說服力。而產(chǎn)生這種“算法”黑箱的原因,除了是因為算法本身固有的透明度較低外,科技研發(fā)公司出于對商業(yè)秘密的保護(hù)拒絕公開也是主要原因之一,如果人民法院完全采納通過這樣“不可名狀”的算法產(chǎn)生的司法數(shù)據(jù),會使得司法決策系統(tǒng)進(jìn)行裁決時的說理和論證變得無法審閱[10],削弱司法的透明度,有違審判公開原則。

    (三)數(shù)據(jù)信息公開環(huán)節(jié)的隱患

    在大數(shù)據(jù)時代,我們享受著數(shù)據(jù)帶給我們的便捷,但在“到處留痕”的當(dāng)下,也有人高呼“生我者父母,知我者大數(shù)據(jù)也”。每個人都有可能成為被研究和被分析的對象,這又何嘗不是一種數(shù)據(jù)恐懼呢!眾所周知,我們目前所言的“被遺忘權(quán)”,其前身可以追溯到歐盟的《1995指令》中提及的“刪除權(quán)”,該權(quán)利的核心就是“被遺忘權(quán)”[11]。浙江大學(xué)吳飛教授認(rèn)為:“被遺忘權(quán)是一項法定權(quán)利,權(quán)利主體有權(quán)要求數(shù)據(jù)存儲方刪除自己或他人放置在互聯(lián)網(wǎng)上的、令其尷尬的照片或者其他數(shù)據(jù)信息,除非數(shù)據(jù)的保存和使用為法律規(guī)定的維持公共利益的正常運(yùn)作所需要的。”[12]但當(dāng)前在我國尚未出臺與“被遺忘權(quán)”相關(guān)的法律法規(guī)。因此,2016年5月,在北京海淀區(qū)人民法院審結(jié)的全國首例個人訴百度公司侵害“被遺忘權(quán)”一案②中,法官就以網(wǎng)絡(luò)信息是互聯(lián)網(wǎng)自動生成,與百度公司無關(guān),且我國目前尚未引入“被遺忘權(quán)”法律規(guī)定為由駁回了原告訴求。由此可見,我國的個人信息保護(hù)任重而道遠(yuǎn)。下文將分別從裁判文書網(wǎng)上公開和庭審直播兩個智慧法院建設(shè)成果角度,分析人民法院的數(shù)據(jù)信息利用與安全在數(shù)據(jù)信息公開環(huán)節(jié)的隱患。

    1.裁判文書網(wǎng)上公開中個人信息泄露的隱患

    裁判文書網(wǎng)上公開是指將發(fā)生法律效力的判決書、裁定書上傳網(wǎng)絡(luò)提供給公眾查閱的法律制度,是我國司法改革的重大成就。但自人民法院裁判文書網(wǎng)上公開制度頒布以來,關(guān)于司法公開與個人信息保護(hù)的爭議就未曾停止過。截止到2020年8月19日下午6點(diǎn),中國裁判文書網(wǎng)公開的裁判文書總量是9700多萬件,當(dāng)日新增93000件,其中僅H省Z市兩級人民法院上網(wǎng)的文書就有253791件,這每一件都包含著當(dāng)事人和訴訟參與人的重要信息。

    為探求網(wǎng)上公開的裁判文書中究竟會顯示多少當(dāng)事人的個人信息,筆者采用了抽樣調(diào)查的方式,選取2020年H省Z市兩級人民法院的裁判文書進(jìn)行分析,一共選取了43篇。在21篇刑事案件裁判文書中,均出現(xiàn)了當(dāng)事人的“姓名”“職業(yè)”“性別”“民族”“出生日期”“文化水平”等信息。其中出現(xiàn)當(dāng)事人具體住址文書1篇,陳述當(dāng)事人前科犯罪信息5篇,描寫當(dāng)事人身體健康狀況1篇,且均未按照2014年H省《全省法院公布裁判文書實施細(xì)則》的規(guī)定為“被判處三年以下有期徒刑刑罰以及免予刑事處罰,且不屬于累犯或者慣犯的被告人”做匿名處理。在22篇民事和行政案件判決書中,均出現(xiàn)有當(dāng)事人的“姓名”“出生日期”“民族”“性別”等信息,出現(xiàn)詳細(xì)住址1篇,出現(xiàn)具體工作單位1篇。由以上數(shù)據(jù)可知,在上網(wǎng)裁判文書中,刑事裁判文書中出現(xiàn)的個人信息含量最多,屬于最容易泄露個人信息的領(lǐng)域。

    2.庭審直播中個人信息泄露的隱患

    目前,中國庭審公開網(wǎng)是人民法院繼審判流程、裁判文書、執(zhí)行信息公開之后的第四大司法公開平臺,是我國推動陽光法院、智慧法院的又一創(chuàng)舉[13],其實現(xiàn)了坐在家中就可以旁聽各類庭審直播。據(jù)筆者調(diào)研了解:截止到2020年8月19日,H省Z市兩級人民法院已累計直播案件17871件,可以說每一次直播都是一個巨大的信息載體。通過視聽這種更為直接的方式,讓公眾輕而易舉地獲取了案件信息,但同時庭審直播也是個人信息泄露的重要途徑。

    2019年12月26日,上海市徐匯區(qū)人民法院直播了一起侵犯個人信息案件的庭審,被告人徐某自建多個成人高考、遠(yuǎn)程教育網(wǎng)站,誘導(dǎo)瀏覽者填寫個人信息,并將獲取的信息有償轉(zhuǎn)售給教育機(jī)構(gòu),獲利70余萬元。然而,在這場直播的開始,公訴人在鏡頭前與被告人核實了身份信息,包括姓名、身份證號、戶籍地等,據(jù)當(dāng)時的直播界面顯示,在線觀看人數(shù)達(dá)32萬[14]。另外,在中國庭審公開網(wǎng)直播的2019年發(fā)生在河北的一起借款合同糾紛案和江蘇的一起盜竊案中,審判員都首先核實了當(dāng)事人身份,涉及姓名、身份證號、戶籍地、居住地等信息[14]。毫無疑問,公訴人核實被告人信息是人民法院庭審的法定程序之一,但是否適合在直播過程中進(jìn)行核實,引起了很大爭議。有的學(xué)者認(rèn)為,公訴人在直播過程中核實被告人信息,顯然是嚴(yán)重泄漏個人信息的行為,該核實行為應(yīng)當(dāng)屬于《最高人民法院關(guān)于人民法院直播錄播庭審活動的規(guī)定》第三條規(guī)定的“人民法院進(jìn)行庭審直播、錄播的,不宜公開的內(nèi)容”[14],所以核實行為應(yīng)當(dāng)在直播開始前進(jìn)行。

    據(jù)統(tǒng)計,僅在2013年因個人信息泄露等侵權(quán)事件、利用非法獲取的個人信息實施的電信網(wǎng)絡(luò)詐騙而導(dǎo)致的經(jīng)濟(jì)損失就達(dá)1400多億元[15]。因此,解決“被遺忘權(quán)”與司法公開相悖問題的關(guān)鍵,就在于平衡社會知情權(quán)與個人信息權(quán)之間的關(guān)系,這也是個人利益與群體利益之間的一場激烈角逐[16]。然而,最終無論哪方獲勝,都不會是一場完全的勝利,正所謂“有限制的權(quán)利才是真正的自由”。

    三、智慧法院建設(shè)背景下數(shù)據(jù)信息利用與安全隱患的防控路徑

    目前,數(shù)據(jù)審判時代已經(jīng)來臨,智慧法院的建設(shè)離不開大數(shù)據(jù)的支持。因而本文立足于人民法院的工作實際,結(jié)合當(dāng)前大數(shù)據(jù)技術(shù)研究成果及未來技術(shù)發(fā)展方向,針對人民法院數(shù)據(jù)信息利用與安全的隱患,提出相應(yīng)的防控路徑,希望能達(dá)到有效保證人民法院數(shù)據(jù)信息利用與安全的目的。

    (一)掌握主動才能贏得未來:加強(qiáng)人民法院數(shù)據(jù)信息技術(shù)外包的管理水平

    如前文所述,目前人民法院通常釆用數(shù)據(jù)信息技術(shù)外包的方式,與科技公司達(dá)成合作協(xié)議。諾貝爾經(jīng)濟(jì)學(xué)獎得主奧利弗·哈特和本特·霍姆斯特朗提出了“不完全契約理論”(GHM 理論),他們認(rèn)為在契約關(guān)系中,由于人們的有限理性、信息的不完全性及交易事項的不確定性,絕對完全的契約是不存在的,因此,在契約中未提及的剩余權(quán)利的歸屬就會顯得格外重要,誰能掌握“剩余權(quán)利”的主動性,誰就控制了降低契約風(fēng)險的關(guān)鍵。人民法院技術(shù)外包合同符合“不完全契約”理論的“不完全”特征。按照“不完全契約”理論,當(dāng)人民法院與技術(shù)提供方簽訂技術(shù)服務(wù)合同時,因為無法預(yù)測未來智能化設(shè)備的演變方向,且與技術(shù)服務(wù)方對設(shè)備信息的了解程度嚴(yán)重不對等等原因,合同內(nèi)容勢必?zé)o法涵蓋可能會發(fā)生的全部事項,權(quán)責(zé)分工也是不明確的,原始合同的約束力不夠強(qiáng),其中最可能出現(xiàn)的不利因素包括外包成本增加、技術(shù)提供方有“敲竹杠”行為,甚至是服務(wù)質(zhì)量下降等。所以數(shù)據(jù)信息技術(shù)外包合同的中后期管理對外包成敗起著關(guān)鍵性作用。

    1.增強(qiáng)人民法院數(shù)據(jù)信息安全管理能力

    按照“不完全契約”理論的解釋,當(dāng)原始合同無法應(yīng)對新出現(xiàn)的問題時,擁有“剩余權(quán)利”的一方將掌握契約主動權(quán)。所以,人民法院應(yīng)當(dāng)在選擇外包商的同時,建立一系列的規(guī)制機(jī)制,增強(qiáng)人民法院數(shù)據(jù)信息安全的管理能力。一是成立專業(yè)的外包管理機(jī)構(gòu)。該機(jī)構(gòu)可以由法院的數(shù)據(jù)信息技術(shù)人才和監(jiān)督管理部門組成,也可以邀請第三方風(fēng)控公司[17],從外包商的選擇到后期運(yùn)營監(jiān)管全程參與,內(nèi)外結(jié)合監(jiān)督約束外包公司技術(shù)行為。二是建立服務(wù)提供商績效考核機(jī)制。與企業(yè)內(nèi)部為激勵員工而設(shè)置獎懲措施同理,要想長時間保持較高質(zhì)量的技術(shù)服務(wù)水平,人民法院應(yīng)當(dāng)建立起相應(yīng)的同步控制體系和信息反饋體系,跟蹤檢查和分析外包商行動結(jié)果與計劃目標(biāo)的偏離程度,并可以根據(jù)實際情況將考核結(jié)果與服務(wù)方報酬相聯(lián)系[18]。

    2.建立良性法院與企業(yè)合作關(guān)系

    信息化時代,科技公司與司法機(jī)構(gòu)的關(guān)系開始變得復(fù)雜化,一方面,人民法院的信息化建設(shè)離不開與專業(yè)科技公司的合作,另一方面,人民法院作為獨(dú)立行使審判權(quán)的司法機(jī)構(gòu),與民營企業(yè)關(guān)系過密難免會遭到公眾的詬病。“法企”究竟該如何相處,也許用馬云在達(dá)沃斯演講中對政企關(guān)系的形容“阿里和政府只談戀愛不結(jié)婚”的模式最合適?!爸徽剳賽鄄唤Y(jié)婚”表現(xiàn)在人民法院與企業(yè)的關(guān)系中是指人民法院和科技公司在合作中應(yīng)當(dāng)把握好雙方的尺度,在雙方簽署的保密協(xié)議的范圍內(nèi),人民法院作為數(shù)據(jù)的實際控制者應(yīng)當(dāng)對合作方的產(chǎn)品服務(wù)起到審核的作用,而合作企業(yè)不得以在合作中知悉的相關(guān)信息來獲得在訴訟中的優(yōu)勢地位。只有“法企”雙方互不逾矩,保持界限思維,才能實現(xiàn)互利共贏新局面。

    (二)讓司法陽光照亮算法“黑箱”:完善算法審查和申訴渠道

    在我國司法實踐中,所謂算法“黑箱”,用通俗易懂的方式解釋,就是人民法院利用人工智能對已有的大數(shù)據(jù)進(jìn)行整合計算,存在著得出具有誤導(dǎo)性司法信息的可能?!昂谙洹崩碚搶λ痉ǖ膫Γ嗍莵碓从凇八惴ā边^程的不可知與結(jié)論的不可解釋。正如“關(guān)燈洗襪子,襪子洗得干凈不干凈,只有打開燈以后才知道”,如果可以最大限度地公開人工智能的運(yùn)算方式及過程,論證算法結(jié)論的正當(dāng)性,并協(xié)助“人的智慧”,建立司法倫理審查機(jī)制,賦予當(dāng)事人對計算結(jié)論的申訴權(quán),讓司法陽光照進(jìn)算法“黑箱”,才能做到切實維護(hù)司法公正,提高司法公信力。

    1.制定算法公開和倫理審查制度

    如前文所述,因為種種原因,科技公司提供的數(shù)據(jù)信息技術(shù)服務(wù)中,算法運(yùn)行程序一般是不可知、不公開的。然而,目前這樣的“行業(yè)慣例”在司法領(lǐng)域是行不通的。全國人民法院系統(tǒng)應(yīng)當(dāng)建立起一整套自上而下的人工智能算法公開規(guī)則,這一計算方法不僅要向上級人民法院和同級人大常委會報批備案,而且要設(shè)置專門人員負(fù)責(zé)向社會大眾公示公開,并釆用簡單易懂的語言文字,解釋說明算法的運(yùn)算規(guī)則[19]。對于不愿意公開人工智能算法內(nèi)容的科技公司,人民法院應(yīng)當(dāng)將其排除出技術(shù)外包公司的候選名單。為防范私自更改算法內(nèi)容而不向人民法院報備的外包公司,人民法院可以在制訂合同時增加問責(zé)條款內(nèi)容。

    誠然,僅是公開算法內(nèi)容還遠(yuǎn)遠(yuǎn)不夠,人民法院還可以設(shè)置算法糾錯機(jī)制,主動發(fā)現(xiàn)算法存在的信息誤導(dǎo)。我國醫(yī)療衛(wèi)生機(jī)構(gòu)設(shè)置有臨床試驗倫理審查委員會[20],由醫(yī)生和法律工作者組成,主要審查在醫(yī)學(xué)實驗中是否存在危害實驗者身心健康的事項。人民法院也可以效仿該措施,由高級人民法院牽頭成立人民法院算法倫理審查委員會,各級人民法院根據(jù)自身實際情況靈活參與。該委員會可以由法官、倫理法學(xué)者、人大代表、新聞媒體人、普通民眾等多類人員構(gòu)成,采取社會報名和隨機(jī)抽取等方式選拔,對當(dāng)事人提出的人民法院人工智能算法申訴案件,進(jìn)行倫理審查并得出最終結(jié)論。

    2.賦予當(dāng)事人對人工智能算法結(jié)論的知情權(quán)和申訴權(quán)

    知情權(quán)和申訴權(quán)都屬于我國法律規(guī)定的基本人權(quán)。廣義上,知情權(quán)是指公民擁有從官方及非官方途徑獲取信息的權(quán)利,申訴權(quán)是指公民在合法權(quán)益受到侵害時向國家機(jī)關(guān)提出申訴的權(quán)利。我國法律規(guī)定訴訟當(dāng)事人有權(quán)獲悉人民法院做出的判決、裁定和調(diào)解結(jié)果,并可以在該結(jié)果生效后,向人民法院提出異議申訴,人民法院對符合相關(guān)規(guī)定的案件應(yīng)當(dāng)再審。隨著智慧法院建設(shè)進(jìn)程的加快,人工智能在司法案件審理中的參與也在不斷升級,為了有效防止算法“黑箱”可能引發(fā)的司法不公,效仿上述規(guī)定,當(dāng)事人也應(yīng)當(dāng)被賦予對人工智能算法結(jié)果的知情權(quán)和申訴權(quán)。依據(jù)正當(dāng)程序原則,法官在判案過程中所獲取的人工智能計算信息,應(yīng)當(dāng)標(biāo)注在裁判文書中,并做出合理性解釋,當(dāng)事人對該人工智能計算結(jié)論有異議的,可以在一定時間內(nèi)向主審法官提出申訴[21],法官收集當(dāng)事人提交的申訴材料,并提交給上文提到的算法倫理審查委員會,委員會成員在規(guī)定期限內(nèi)開會討論,并給出該結(jié)論是否可作為判案依據(jù)的決定。

    (三)先立規(guī)矩再畫方圓:推動相關(guān)法律法規(guī)和規(guī)章制度的制定

    國人受傳統(tǒng)的觀念影響,過去很少會關(guān)注個人信息權(quán)益,我國與維護(hù)個人信息相關(guān)的訴訟案件相較于國外的要少之又少。但國人對個人信息安全的忽視,不代表泄露和濫用個人信息的行為就是正當(dāng)?shù)?、不?yīng)受懲罰的。隨著我國依法治國體系的不斷完善,加大個人信息安全保護(hù)力度必定是司法未來發(fā)展的趨勢之一。

    1.推動我國個人信息保護(hù)法的出臺及完善

    歐洲在上個世紀(jì)末立法通過了“被遺忘權(quán)”條款,而我國對個人信息的法律保護(hù)一直僅在零星的法律法規(guī)中有所體現(xiàn),2020年《中華人民共和國民法典》的頒布無疑是一顆“信號彈”,此次頒布的新的民法典,在體例上將人格權(quán)單獨(dú)成篇,并在第六章專設(shè)了“隱私權(quán)和個人信息保護(hù)”,其中有六條法律法規(guī)涉及對個人信息的收集、處理及其原則的規(guī)定[22]。此次民法典的突破性改變,既為個人信息權(quán)益保護(hù)起到總領(lǐng)的作用,又為個人信息保護(hù)法的出臺留下了討論的空間。但民法典的相關(guān)規(guī)定并不能完全涵蓋個人信息保護(hù)的全部內(nèi)容,例如對個人信息保護(hù)范圍的明確、個人信息侵權(quán)的取證和侵權(quán)責(zé)任劃分規(guī)則,以及民事個人信息侵權(quán)的懲罰性機(jī)制等內(nèi)容,這些內(nèi)容都需要在新的個人信息保護(hù)法中有所規(guī)定[23]。因此,筆者建議盡快出臺個人信息保護(hù)法以保護(hù)個人信息的安全。

    2.細(xì)化人民法院安全管理規(guī)定,加強(qiáng)數(shù)據(jù)信息安全培訓(xùn)

    大數(shù)據(jù)信息安全可控是智慧法院建設(shè)不可逾越的“紅線”[24],我們清楚地認(rèn)識到,智慧法院的建設(shè)中必然會涉及到互聯(lián)網(wǎng)信息的共用共享,而這些信息的收集和使用的合法合規(guī),既需要國家層面法律法規(guī)的出臺,也需要人民法院部門規(guī)章制度的完善。以H省Z市人民法院為例,雖然全市兩級人民法院均制定出臺有自己的信息安全管理規(guī)定,但隨著人民法院信息化程度的不斷加深,舊有的管理規(guī)定早已不適應(yīng)新的發(fā)展。要做好人民法院的數(shù)據(jù)信息安全防控管理工作,就必須要實現(xiàn)與智慧法院建設(shè)同研究、同部署、同推進(jìn)、同應(yīng)用。進(jìn)而從宏觀和微觀兩個方面進(jìn)行防控:宏觀上,要制定人民法院網(wǎng)絡(luò)數(shù)據(jù)信息安全標(biāo)準(zhǔn)和數(shù)據(jù)信息保密細(xì)則,并構(gòu)建嚴(yán)密的監(jiān)督管理機(jī)制,確保各項規(guī)定的落實;微觀上,要增強(qiáng)人民法院辦公人員的數(shù)據(jù)信息安全意識,組織相關(guān)數(shù)據(jù)信息化設(shè)備使用培訓(xùn),強(qiáng)化保密意識,增強(qiáng)安全防護(hù)技能,劃清保密責(zé)任,對泄露司法數(shù)據(jù)信息的行為嚴(yán)懲不貸[25]。只有如此,才能有效防控司法數(shù)據(jù)信息的泄露。

    結(jié)語

    美國著名的大法官卡多佐指出“法律的最終目的是社會福利”[26]。在此,筆者想強(qiáng)調(diào)的是,規(guī)制大數(shù)據(jù)技術(shù)使用的最終目的也是為社會謀福利。雖然大數(shù)據(jù)技術(shù)在人民法院的應(yīng)用有著廣闊的發(fā)展前景,但不可否認(rèn)的是,限于技術(shù)發(fā)展本身特點(diǎn)及其它因素,仍然存在許多限制人民法院大數(shù)據(jù)技術(shù)應(yīng)用的不利因素。在智慧法院建設(shè)水平已經(jīng)成為人民法院重要考核內(nèi)容的當(dāng)下,理論界和實務(wù)界的諸多學(xué)者都紛紛為推動人民法院信息化建設(shè)出謀劃策,本文聚焦智慧法院建設(shè)中的數(shù)據(jù)信息利用與安全的隱患問題,以H省F縣人民法院的數(shù)據(jù)信息利用與安全保護(hù)的實踐為樣本,從數(shù)據(jù)信息收集、數(shù)據(jù)信息應(yīng)用以及數(shù)據(jù)信息公開三個環(huán)節(jié)分別提出問題并結(jié)合理論針對性地提出應(yīng)對之策。未來,人工智能大數(shù)據(jù)在司法領(lǐng)域的應(yīng)用一定是日新月異。因此,我們在享受大數(shù)據(jù)帶來便捷的同時,也要警惕數(shù)據(jù)信息利用與安全隱患的防控問題。

    注釋:

    ①以上數(shù)據(jù)為筆者根據(jù)H省F縣人民法院審判管理平臺系統(tǒng)數(shù)據(jù)統(tǒng)計所得。

    ②2014年5月13日,歐盟法院作出了確認(rèn)普通公民對個人信息擁有“被遺忘權(quán)”的終審裁定,進(jìn)而在歐盟范圍內(nèi)確立了“被遺忘權(quán)”。在該權(quán)利被歐盟法院確認(rèn)近兩周年之際,北京市海淀區(qū)人民法院依法審結(jié)了公民個人信息“被遺忘權(quán)”司法保護(hù)領(lǐng)域的全國首例案件。http://bjgy.chinacourt.gov.cn/article/detail/2016/05/id/1850523.shtm l,最后訪問時間:2020年9月10日。

    猜你喜歡
    人民法院個人信息司法
    滄州市運(yùn)河區(qū)人民法院以黨建促隊建、促審判
    如何保護(hù)勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護(hù)進(jìn)入“法時代”
    制定法解釋中的司法自由裁量權(quán)
    法律方法(2021年4期)2021-03-16 05:34:28
    高邑縣人民法院 7天成功調(diào)解17個案件
    公民與法治(2020年7期)2020-03-11 15:35:08
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    司法所悉心調(diào)解 墊付款有了著落
    非正式司法的悖謬
    安平縣人民法院:知行合一踐行“兩學(xué)一做”
    論司法公開的困惑與消解
    成人免费观看视频高清| 一二三四社区在线视频社区8| 久久精品国产综合久久久| 女人被狂操c到高潮| 性色av乱码一区二区三区2| 久久狼人影院| 妹子高潮喷水视频| 看黄色毛片网站| 亚洲一区高清亚洲精品| 男女下面插进去视频免费观看| 少妇被粗大的猛进出69影院| 亚洲精品一卡2卡三卡4卡5卡| x7x7x7水蜜桃| or卡值多少钱| 亚洲精品久久成人aⅴ小说| 色哟哟哟哟哟哟| 国产精品一区二区在线不卡| 1024视频免费在线观看| 岛国视频午夜一区免费看| 亚洲 国产 在线| 欧美国产精品va在线观看不卡| 九色国产91popny在线| 老司机午夜十八禁免费视频| 久久精品国产亚洲av高清一级| 免费高清视频大片| 免费少妇av软件| 精品国产亚洲在线| 亚洲国产日韩欧美精品在线观看 | 日韩成人在线观看一区二区三区| 欧美 亚洲 国产 日韩一| 久久草成人影院| 一区在线观看完整版| 免费人成视频x8x8入口观看| 极品教师在线免费播放| 亚洲精品久久成人aⅴ小说| 麻豆久久精品国产亚洲av| 无限看片的www在线观看| 国产人伦9x9x在线观看| 大香蕉久久成人网| 一个人免费在线观看的高清视频| 男女做爰动态图高潮gif福利片 | 免费看a级黄色片| 一边摸一边做爽爽视频免费| 成人三级做爰电影| www.熟女人妻精品国产| 又黄又粗又硬又大视频| 成人av一区二区三区在线看| 99re在线观看精品视频| 国产黄a三级三级三级人| 国产精品久久视频播放| 久久久国产成人精品二区| 怎么达到女性高潮| 一边摸一边抽搐一进一出视频| 久久人人爽av亚洲精品天堂| 欧美日韩福利视频一区二区| 黄色视频不卡| 美女午夜性视频免费| 欧美日韩黄片免| 国产免费男女视频| 成人18禁高潮啪啪吃奶动态图| 午夜精品在线福利| 欧美日韩亚洲综合一区二区三区_| 在线观看一区二区三区| 九色亚洲精品在线播放| 淫妇啪啪啪对白视频| 久久久国产成人精品二区| 又大又爽又粗| 天堂√8在线中文| 国产成人系列免费观看| 亚洲中文字幕一区二区三区有码在线看 | 久热爱精品视频在线9| 亚洲男人的天堂狠狠| 俄罗斯特黄特色一大片| 欧美av亚洲av综合av国产av| 精品不卡国产一区二区三区| 一区二区三区国产精品乱码| 国产区一区二久久| 国产亚洲欧美在线一区二区| 又大又爽又粗| 99国产精品免费福利视频| 一区在线观看完整版| 动漫黄色视频在线观看| 精品卡一卡二卡四卡免费| 久久草成人影院| 青草久久国产| 色播亚洲综合网| 国产精品爽爽va在线观看网站 | 久久久久久久久免费视频了| 十分钟在线观看高清视频www| 麻豆国产av国片精品| 日韩av在线大香蕉| 淫秽高清视频在线观看| 亚洲男人天堂网一区| 自线自在国产av| 久久精品亚洲熟妇少妇任你| 人妻丰满熟妇av一区二区三区| 欧美一级毛片孕妇| 国产色视频综合| 国产成人精品无人区| 长腿黑丝高跟| 国产xxxxx性猛交| 人人妻,人人澡人人爽秒播| 国产精品亚洲一级av第二区| 曰老女人黄片| 黑人操中国人逼视频| 亚洲欧洲精品一区二区精品久久久| 桃红色精品国产亚洲av| av在线天堂中文字幕| 久久久水蜜桃国产精品网| 男女下面进入的视频免费午夜 | 伦理电影免费视频| 国产成人一区二区三区免费视频网站| 搡老妇女老女人老熟妇| 黄色视频不卡| 欧美午夜高清在线| 色在线成人网| 黑人巨大精品欧美一区二区蜜桃| 侵犯人妻中文字幕一二三四区| 精品卡一卡二卡四卡免费| 国产日韩一区二区三区精品不卡| 亚洲一区高清亚洲精品| 一进一出抽搐动态| 51午夜福利影视在线观看| 一个人免费在线观看的高清视频| 美女高潮喷水抽搐中文字幕| 美女午夜性视频免费| 久久精品人人爽人人爽视色| 国产xxxxx性猛交| 国产一区二区三区综合在线观看| 19禁男女啪啪无遮挡网站| 欧美黄色片欧美黄色片| 国产男靠女视频免费网站| 国产99白浆流出| 亚洲 欧美 日韩 在线 免费| 两性午夜刺激爽爽歪歪视频在线观看 | 久久久久久久久免费视频了| 欧美中文日本在线观看视频| 99久久精品国产亚洲精品| 日韩一卡2卡3卡4卡2021年| 最新在线观看一区二区三区| 两人在一起打扑克的视频| 国产麻豆成人av免费视频| tocl精华| 给我免费播放毛片高清在线观看| 又大又爽又粗| 一个人观看的视频www高清免费观看 | √禁漫天堂资源中文www| 欧美黄色淫秽网站| 精品无人区乱码1区二区| 欧美色欧美亚洲另类二区 | 日韩精品中文字幕看吧| 看黄色毛片网站| 人人澡人人妻人| 亚洲色图综合在线观看| 麻豆一二三区av精品| 久久青草综合色| 精品久久久久久久久久免费视频| 久久人人爽av亚洲精品天堂| 成人三级做爰电影| 女人精品久久久久毛片| 女警被强在线播放| 真人一进一出gif抽搐免费| 丝袜人妻中文字幕| 亚洲性夜色夜夜综合| 成人免费观看视频高清| 国产精品久久久人人做人人爽| 亚洲国产精品sss在线观看| 亚洲国产欧美日韩在线播放| 色老头精品视频在线观看| 国产亚洲精品av在线| 精品久久久精品久久久| 男男h啪啪无遮挡| 精品高清国产在线一区| 国产1区2区3区精品| 精品高清国产在线一区| 中文字幕av电影在线播放| 久久草成人影院| 欧美黄色淫秽网站| 99精品久久久久人妻精品| 99精品久久久久人妻精品| 欧美色视频一区免费| 午夜福利视频1000在线观看 | 脱女人内裤的视频| 国产日韩一区二区三区精品不卡| 国产高清videossex| 日本在线视频免费播放| 欧美中文日本在线观看视频| 操出白浆在线播放| 久久香蕉激情| 午夜免费激情av| 久久性视频一级片| 久久久久久久久久久久大奶| 男女下面插进去视频免费观看| 免费女性裸体啪啪无遮挡网站| 国产亚洲欧美在线一区二区| 中文字幕人妻丝袜一区二区| 国产蜜桃级精品一区二区三区| 久久国产精品男人的天堂亚洲| 久久人人精品亚洲av| 午夜福利欧美成人| 一区福利在线观看| 99在线人妻在线中文字幕| 长腿黑丝高跟| 久久精品影院6| 女生性感内裤真人,穿戴方法视频| 亚洲精品美女久久av网站| av在线天堂中文字幕| 色播亚洲综合网| 亚洲成av人片免费观看| 亚洲人成电影免费在线| 欧美日韩福利视频一区二区| 国内精品久久久久久久电影| 亚洲免费av在线视频| 国产片内射在线| av天堂久久9| 精品卡一卡二卡四卡免费| 不卡av一区二区三区| 一二三四在线观看免费中文在| 精品少妇一区二区三区视频日本电影| 69精品国产乱码久久久| 免费看十八禁软件| 久久性视频一级片| 亚洲欧美激情综合另类| 国产成人欧美在线观看| 正在播放国产对白刺激| 精品久久久久久久人妻蜜臀av | 亚洲专区国产一区二区| 动漫黄色视频在线观看| 国产av在哪里看| 男女下面进入的视频免费午夜 | 亚洲一区二区三区不卡视频| 成人国产综合亚洲| 日韩中文字幕欧美一区二区| 婷婷精品国产亚洲av在线| 天天躁狠狠躁夜夜躁狠狠躁| 精品国产美女av久久久久小说| 亚洲精品粉嫩美女一区| 黄色视频,在线免费观看| 老鸭窝网址在线观看| 制服诱惑二区| 十分钟在线观看高清视频www| 亚洲第一电影网av| 黄片播放在线免费| 美国免费a级毛片| 欧美乱码精品一区二区三区| 免费无遮挡裸体视频| 好男人电影高清在线观看| 亚洲片人在线观看| 亚洲激情在线av| 19禁男女啪啪无遮挡网站| 少妇裸体淫交视频免费看高清 | 夜夜夜夜夜久久久久| x7x7x7水蜜桃| 亚洲精品国产一区二区精华液| 久久影院123| 色播在线永久视频| 色在线成人网| 午夜免费观看网址| 亚洲精品美女久久久久99蜜臀| or卡值多少钱| 欧美在线一区亚洲| 高清毛片免费观看视频网站| 人人妻人人澡人人看| 熟女少妇亚洲综合色aaa.| 黑人欧美特级aaaaaa片| 欧美 亚洲 国产 日韩一| 国产一级毛片七仙女欲春2 | 亚洲精品国产区一区二| 亚洲精品在线观看二区| 少妇被粗大的猛进出69影院| 午夜福利免费观看在线| cao死你这个sao货| 久久午夜亚洲精品久久| 国产成人欧美在线观看| 国产av一区在线观看免费| 久久 成人 亚洲| 一边摸一边抽搐一进一出视频| 天天躁夜夜躁狠狠躁躁| 国产主播在线观看一区二区| 国产三级黄色录像| 色播亚洲综合网| 一区在线观看完整版| 可以免费在线观看a视频的电影网站| 亚洲国产日韩欧美精品在线观看 | 中文字幕最新亚洲高清| 国产精品一区二区在线不卡| 中文字幕av电影在线播放| 欧美绝顶高潮抽搐喷水| 色哟哟哟哟哟哟| 午夜福利欧美成人| 天堂动漫精品| 99国产综合亚洲精品| 色精品久久人妻99蜜桃| 麻豆国产av国片精品| 亚洲一区高清亚洲精品| 两个人看的免费小视频| 美国免费a级毛片| 好男人电影高清在线观看| 国产免费av片在线观看野外av| 国产黄a三级三级三级人| 亚洲精品中文字幕一二三四区| 欧美成人一区二区免费高清观看 | 国产亚洲欧美在线一区二区| 日韩欧美免费精品| 大香蕉久久成人网| 国产区一区二久久| 国产精品一区二区在线不卡| 韩国av一区二区三区四区| 精品不卡国产一区二区三区| 此物有八面人人有两片| av欧美777| 亚洲精品国产精品久久久不卡| 国产精品 国内视频| 99久久精品国产亚洲精品| 日韩大尺度精品在线看网址 | 午夜福利视频1000在线观看 | 老司机靠b影院| 日韩成人在线观看一区二区三区| 91精品三级在线观看| 男女下面插进去视频免费观看| bbb黄色大片| 黄色a级毛片大全视频| 9热在线视频观看99| 久久欧美精品欧美久久欧美| 国产私拍福利视频在线观看| 久久人妻熟女aⅴ| 麻豆国产av国片精品| 国产成人啪精品午夜网站| 国产精品乱码一区二三区的特点 | 视频在线观看一区二区三区| 成人三级做爰电影| 9191精品国产免费久久| 老熟妇仑乱视频hdxx| 人人妻人人爽人人添夜夜欢视频| 精品国产乱码久久久久久男人| 国产亚洲av嫩草精品影院| √禁漫天堂资源中文www| 午夜福利影视在线免费观看| 亚洲成人久久性| 免费在线观看完整版高清| 电影成人av| 欧美成人免费av一区二区三区| 中文字幕高清在线视频| 精品电影一区二区在线| 亚洲熟妇熟女久久| a在线观看视频网站| 精品久久久久久成人av| netflix在线观看网站| 国产视频一区二区在线看| 日本欧美视频一区| 久久久水蜜桃国产精品网| 久久久久久久精品吃奶| 亚洲成a人片在线一区二区| 男男h啪啪无遮挡| 国产高清视频在线播放一区| 欧美老熟妇乱子伦牲交| cao死你这个sao货| 在线av久久热| 亚洲中文日韩欧美视频| 亚洲电影在线观看av| 国产一区在线观看成人免费| 90打野战视频偷拍视频| 久久性视频一级片| www.精华液| 美国免费a级毛片| 大型黄色视频在线免费观看| 日韩欧美三级三区| 国产精品久久久久久人妻精品电影| 久久这里只有精品19| 一级毛片精品| 黄色成人免费大全| 国产不卡一卡二| 黑丝袜美女国产一区| 亚洲成av人片免费观看| 亚洲欧洲精品一区二区精品久久久| 亚洲熟女毛片儿| 黄色女人牲交| 18禁美女被吸乳视频| 欧美中文日本在线观看视频| 女人爽到高潮嗷嗷叫在线视频| 国产野战对白在线观看| 亚洲狠狠婷婷综合久久图片| e午夜精品久久久久久久| 久久精品国产综合久久久| 国产亚洲精品第一综合不卡| 午夜亚洲福利在线播放| 校园春色视频在线观看| 亚洲欧美精品综合一区二区三区| 一区二区日韩欧美中文字幕| 最近最新免费中文字幕在线| 伦理电影免费视频| 夜夜看夜夜爽夜夜摸| 欧美日本中文国产一区发布| 亚洲一卡2卡3卡4卡5卡精品中文| 日日摸夜夜添夜夜添小说| 纯流量卡能插随身wifi吗| 亚洲av成人av| 99精品久久久久人妻精品| 91精品国产国语对白视频| 亚洲专区中文字幕在线| av有码第一页| 国产麻豆69| 不卡av一区二区三区| 在线观看一区二区三区| 午夜福利在线观看吧| 成人18禁高潮啪啪吃奶动态图| 久久久久久免费高清国产稀缺| 在线免费观看的www视频| 日韩大码丰满熟妇| 欧美一级a爱片免费观看看 | 欧美在线一区亚洲| 中文字幕最新亚洲高清| 亚洲三区欧美一区| 免费高清视频大片| 久99久视频精品免费| 精品国产国语对白av| 国产成人系列免费观看| 两性夫妻黄色片| 99精品在免费线老司机午夜| 18禁观看日本| 日韩视频一区二区在线观看| av片东京热男人的天堂| 99国产精品一区二区三区| 国产主播在线观看一区二区| 又大又爽又粗| 免费在线观看日本一区| 91字幕亚洲| 欧美日韩乱码在线| 婷婷丁香在线五月| 黄网站色视频无遮挡免费观看| 国产精品二区激情视频| 18禁黄网站禁片午夜丰满| 美国免费a级毛片| 亚洲国产看品久久| 亚洲黑人精品在线| 最新美女视频免费是黄的| 国产欧美日韩一区二区三区在线| 午夜福利免费观看在线| 亚洲欧美精品综合久久99| 美女国产高潮福利片在线看| 久久精品国产清高在天天线| 在线观看免费午夜福利视频| 99精品在免费线老司机午夜| 久久久国产欧美日韩av| 99热只有精品国产| 久99久视频精品免费| 亚洲专区字幕在线| 两个人免费观看高清视频| av福利片在线| 色婷婷久久久亚洲欧美| 91麻豆精品激情在线观看国产| 亚洲人成电影免费在线| 一本综合久久免费| 国产真人三级小视频在线观看| 18美女黄网站色大片免费观看| 免费在线观看日本一区| 国产精品久久久久久亚洲av鲁大| 一夜夜www| 最近最新中文字幕大全电影3 | 国产精品久久电影中文字幕| 成人特级黄色片久久久久久久| 黄色视频不卡| 99久久综合精品五月天人人| 亚洲五月色婷婷综合| 久久久久久久午夜电影| 老司机午夜福利在线观看视频| 亚洲欧美激情在线| 国产亚洲欧美在线一区二区| 久久草成人影院| 日韩中文字幕欧美一区二区| 露出奶头的视频| www国产在线视频色| 黄网站色视频无遮挡免费观看| 国产精品爽爽va在线观看网站 | 99国产综合亚洲精品| 日本在线视频免费播放| 99久久久亚洲精品蜜臀av| 久久中文字幕一级| 国产精品 欧美亚洲| 亚洲专区中文字幕在线| а√天堂www在线а√下载| 最近最新中文字幕大全电影3 | www国产在线视频色| 精品不卡国产一区二区三区| 19禁男女啪啪无遮挡网站| 欧美一级毛片孕妇| 999精品在线视频| 搡老妇女老女人老熟妇| 亚洲情色 制服丝袜| 精品久久久久久,| 日韩大码丰满熟妇| 国产亚洲精品av在线| 日韩欧美一区二区三区在线观看| 一进一出抽搐动态| 亚洲精品一卡2卡三卡4卡5卡| 久久久久久国产a免费观看| 日本在线视频免费播放| 嫩草影视91久久| 国产精品 国内视频| 看黄色毛片网站| 日韩精品青青久久久久久| 亚洲国产欧美一区二区综合| 波多野结衣巨乳人妻| 精品人妻在线不人妻| 黄色片一级片一级黄色片| 国产精品一区二区精品视频观看| 欧美日韩中文字幕国产精品一区二区三区 | 男女下面插进去视频免费观看| 高潮久久久久久久久久久不卡| 美女免费视频网站| 亚洲人成电影免费在线| 一二三四在线观看免费中文在| 中文字幕另类日韩欧美亚洲嫩草| 精品国产乱子伦一区二区三区| avwww免费| 女人精品久久久久毛片| 久久久久久人人人人人| av超薄肉色丝袜交足视频| 一本大道久久a久久精品| 国产午夜精品久久久久久| svipshipincom国产片| 国产亚洲精品第一综合不卡| 香蕉国产在线看| 欧美不卡视频在线免费观看 | 一区二区三区国产精品乱码| 亚洲视频免费观看视频| 国产麻豆69| 久久香蕉精品热| 久久久久久久精品吃奶| netflix在线观看网站| 视频区欧美日本亚洲| 真人做人爱边吃奶动态| 国产精品九九99| 一区二区三区国产精品乱码| 久久中文字幕一级| 中文字幕高清在线视频| 天堂√8在线中文| 九色国产91popny在线| 国产亚洲精品第一综合不卡| 麻豆国产av国片精品| 一边摸一边抽搐一进一出视频| 琪琪午夜伦伦电影理论片6080| 九色国产91popny在线| 午夜福利欧美成人| 日韩一卡2卡3卡4卡2021年| 亚洲精品中文字幕在线视频| 日韩av在线大香蕉| 女人爽到高潮嗷嗷叫在线视频| 久久天堂一区二区三区四区| 美女扒开内裤让男人捅视频| 黑人巨大精品欧美一区二区mp4| 亚洲精品美女久久久久99蜜臀| 欧美一级毛片孕妇| 欧美亚洲日本最大视频资源| 日韩视频一区二区在线观看| 国产99久久九九免费精品| 久久天堂一区二区三区四区| 自拍欧美九色日韩亚洲蝌蚪91| 女人高潮潮喷娇喘18禁视频| 欧美日韩福利视频一区二区| 亚洲 欧美 日韩 在线 免费| 一级,二级,三级黄色视频| 美国免费a级毛片| 一个人免费在线观看的高清视频| 脱女人内裤的视频| 国产av一区二区精品久久| 婷婷丁香在线五月| 国产野战对白在线观看| 麻豆国产av国片精品| 在线观看免费视频日本深夜| 91av网站免费观看| 精品一区二区三区av网在线观看| 无遮挡黄片免费观看| 十八禁人妻一区二区| 亚洲午夜理论影院| 国产成年人精品一区二区| 国产区一区二久久| 久久国产乱子伦精品免费另类| 操出白浆在线播放| 女同久久另类99精品国产91| 俄罗斯特黄特色一大片| 欧美久久黑人一区二区| 999精品在线视频| 大香蕉久久成人网| 亚洲国产高清在线一区二区三 | 天天躁夜夜躁狠狠躁躁| 黄片大片在线免费观看| 国产视频一区二区在线看| 亚洲精品久久国产高清桃花| 亚洲色图av天堂| av网站免费在线观看视频| 亚洲av五月六月丁香网| 久久久久久久精品吃奶| 99国产精品一区二区三区| 久久人妻熟女aⅴ| 又黄又粗又硬又大视频| 国产精品自产拍在线观看55亚洲| 国产亚洲精品综合一区在线观看 | 日日夜夜操网爽| 女生性感内裤真人,穿戴方法视频| 最近最新中文字幕大全电影3 | 成年版毛片免费区| av网站免费在线观看视频| 欧美国产精品va在线观看不卡| 久久人妻熟女aⅴ| www日本在线高清视频| 久久精品国产亚洲av高清一级| 757午夜福利合集在线观看| 99国产精品一区二区蜜桃av| 色老头精品视频在线观看| 国产精品久久视频播放| 日韩成人在线观看一区二区三区| 久99久视频精品免费| 国产午夜福利久久久久久| 青草久久国产|