• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字技術(shù)的廣泛應(yīng)用與法律體系的變革

    2018-02-05 21:18:19
    中國科技論壇 2018年11期
    關(guān)鍵詞:法律體系

    趙 鵬

    (中國政法大學(xué)法治政府研究院,北京 100088)

    1 問題的提出

    數(shù)字技術(shù)的興起革命了信息獲取、傳播、記錄和解釋的方式,大幅降低了社會(huì)成員間協(xié)作的成本,根本性地改變了整個(gè)社會(huì)的生產(chǎn)、社交和娛樂的組織方式。這一技術(shù)具有全面改造經(jīng)濟(jì)、社會(huì)活動(dòng)的潛力,因而激發(fā)了關(guān)于數(shù)字經(jīng)濟(jì)的理論[1]和政府戰(zhàn)略[2]。近年來,發(fā)展數(shù)字經(jīng)濟(jì)也進(jìn)入我國公共政策議程的核心:2016年,G20杭州峰會(huì)發(fā)布了《二十國集團(tuán)數(shù)字經(jīng)濟(jì)發(fā)展與合作倡議》,強(qiáng)調(diào)數(shù)字經(jīng)濟(jì)對(duì)效率提升和經(jīng)濟(jì)結(jié)構(gòu)優(yōu)化的重要意義[3];2017年3月,國務(wù)院政府工作報(bào)告首次提及數(shù)字經(jīng)濟(jì),并強(qiáng)調(diào)“推動(dòng)‘互聯(lián)網(wǎng)+’深入發(fā)展、促進(jìn)數(shù)字經(jīng)濟(jì)加快成長[4]”;2017年10月,數(shù)字經(jīng)濟(jì)更是被寫入十九大報(bào)告。

    從相關(guān)政策文獻(xiàn)來看,中國政府對(duì)數(shù)字經(jīng)濟(jì)的定義具有兩個(gè)突出特點(diǎn):其一,強(qiáng)調(diào)通過數(shù)字技術(shù)改變社會(huì)互動(dòng)方式,使各類主體、服務(wù)和技術(shù)創(chuàng)新相互融合,引領(lǐng)科技革命和產(chǎn)業(yè)變革,并改造傳統(tǒng)經(jīng)濟(jì)[5],這與一些國家狹義地將數(shù)字經(jīng)濟(jì)定義為信息、通信、媒體和傳播等領(lǐng)域[6]有著巨大差異;其二,其對(duì)數(shù)字技術(shù)的定義亦是廣義的,不限于運(yùn)用二進(jìn)制進(jìn)行運(yùn)算、加工、存儲(chǔ)、傳送、傳播的底層技術(shù),而是包括互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)、金融科技與其他新興技術(shù)在內(nèi)的廣義數(shù)字技術(shù)[3]。

    由于政府的戰(zhàn)略意圖是運(yùn)用廣義的數(shù)字技術(shù)推動(dòng)經(jīng)濟(jì)社會(huì)全面轉(zhuǎn)型,法律層面的回應(yīng)便不能僅限于知識(shí)產(chǎn)權(quán)等部門,而必須全面關(guān)注數(shù)字技術(shù)廣泛應(yīng)用對(duì)法律體系的變革需求。新興技術(shù)的商業(yè)化應(yīng)用需要法律層面的確認(rèn)才能獲得穩(wěn)定發(fā)展所需要的確定性,只有確保受到影響的權(quán)益得到妥善保護(hù),社會(huì)才會(huì)支持這種數(shù)字化轉(zhuǎn)型。

    2 數(shù)字技術(shù)廣泛應(yīng)用對(duì)法律提出的任務(wù)

    根據(jù)“摩爾定律”,數(shù)字技術(shù)的迭代非常迅速,大約每隔18~24個(gè)月便有新的或者性能大幅改進(jìn)的產(chǎn)品[7]。同時(shí),互聯(lián)網(wǎng)“終端到終端”的設(shè)計(jì)形成了一種去中心化的架構(gòu),大量分散的終端擁有強(qiáng)勁的創(chuàng)新動(dòng)能[8]。由此,以數(shù)字技術(shù)為底層架構(gòu)的經(jīng)濟(jì)和社會(huì)活動(dòng)形成了一個(gè)龐大的、快速演化的生態(tài)體系[9]。這一生態(tài)體系不斷突破既有邊界,從消費(fèi)、貿(mào)易、服務(wù)到生產(chǎn)均日益數(shù)字化,傳統(tǒng)產(chǎn)業(yè)也不斷被改造。近年來,電子商務(wù)、社交網(wǎng)絡(luò)、分享經(jīng)濟(jì)、人工智能等不斷重塑經(jīng)濟(jì)和社會(huì)交互的格局,即是這種快速演化的例證。

    與數(shù)字技術(shù)廣泛應(yīng)用并深刻改造經(jīng)濟(jì)社會(huì)的面貌相比,法律框架卻未能同步演進(jìn),從而在某種程度上形成了“20世紀(jì)的法律指導(dǎo)21世紀(jì)的現(xiàn)實(shí)”的情況[10],傳統(tǒng)法律體系在規(guī)制內(nèi)容和規(guī)制思路上均面臨深刻挑戰(zhàn):其一,數(shù)字時(shí)代是虛擬世界與物理世界的統(tǒng)一,但是,當(dāng)下大量的法律規(guī)則生成于工業(yè)時(shí)代,主要以物理世界為范本設(shè)計(jì),這些規(guī)則對(duì)數(shù)字經(jīng)濟(jì)的調(diào)整和引導(dǎo)已逐漸力不從心。例如,法律如何界定數(shù)據(jù)權(quán)屬問題,如何理解算法和實(shí)體產(chǎn)品相結(jié)合的機(jī)器智能問題,等等。針對(duì)此類問題,法律需要及時(shí)發(fā)現(xiàn)、確認(rèn)和建構(gòu)新型規(guī)則,規(guī)范數(shù)字時(shí)代的社會(huì)、經(jīng)濟(jì)秩序;其二,數(shù)字技術(shù)的廣泛運(yùn)用使得私域與公域、個(gè)人與社群深度融合,特別是在“物物在線、萬物互聯(lián)”的時(shí)代,個(gè)人參與市場和社會(huì)的廣度與深度主動(dòng)或被動(dòng)加強(qiáng),企業(yè)的經(jīng)營行為與個(gè)人生活深度融合,在某種意義上個(gè)人純粹意思自治的空間受到壓縮,與此同時(shí),由于數(shù)字技術(shù)的復(fù)雜性,導(dǎo)致確定責(zé)任根源的系統(tǒng)性困難,很難在邏輯上找出導(dǎo)致問題的具體原因,這些現(xiàn)實(shí)均要求法律義務(wù)和責(zé)任安排做出體系性的變化。

    具體而言,在以下幾個(gè)方面,數(shù)字技術(shù)的廣泛應(yīng)用已經(jīng)使法律層面的回應(yīng)提上議事日程:

    (1)新興技術(shù)的應(yīng)用會(huì)放大某些權(quán)益受到侵害的風(fēng)險(xiǎn)或者引發(fā)一些新型問題,法律體系需要發(fā)展出契合技術(shù)特點(diǎn)的風(fēng)險(xiǎn)規(guī)制和責(zé)任判定方案。通過將信息抽象為比特這一通用語言,加上互聯(lián)網(wǎng)基礎(chǔ)設(shè)施的建設(shè),數(shù)字技術(shù)的應(yīng)用致力于形成一個(gè)高度互聯(lián)的社會(huì)。這雖然極大激勵(lì)了創(chuàng)新并提高了整個(gè)經(jīng)濟(jì)社會(huì)運(yùn)行的效率,但是,一些問題如個(gè)人隱私、信息安全等問題會(huì)被高度放大。雖然這些問題一直是傳統(tǒng)法律體系所關(guān)注的,但是,新興技術(shù)的應(yīng)用顯然放大了這一問題,使其從背景走向前臺(tái)。而且,在可以預(yù)見的將來,伴隨著物聯(lián)網(wǎng)、人臉識(shí)別、語音識(shí)別等技術(shù)的應(yīng)用,這些問題會(huì)更加突出。法律體系也需要因應(yīng)新的技術(shù)現(xiàn)實(shí),不斷調(diào)整而防止保護(hù)漏洞。與此同時(shí),數(shù)字技術(shù)的應(yīng)用逐漸不再局限于虛擬世界,轉(zhuǎn)向控制線下活動(dòng),形成從比特回到原子的趨勢。例如,人工智能與機(jī)器結(jié)合的無人駕駛汽車、無人機(jī)等自主性機(jī)器人即使數(shù)字活動(dòng)具有了物質(zhì)載體。面對(duì)這一趨勢,法律關(guān)注的焦點(diǎn)也應(yīng)當(dāng)從以前人格、版權(quán)等問題擴(kuò)張到身體傷害和財(cái)產(chǎn)損害的風(fēng)險(xiǎn)。目前來看,這些風(fēng)險(xiǎn)在現(xiàn)行法律框架下尚無完善的規(guī)制方案:智能機(jī)器一般具有開放性的軟件和模塊化的硬件,在開放平臺(tái)上,各主體參與進(jìn)來,各種規(guī)則運(yùn)用的多樣性及其之間相互作用的衍生性,使得智能機(jī)器決策在某些情況下難以預(yù)測。而且,人工智能的自我學(xué)習(xí)和進(jìn)化功能進(jìn)一步加劇了這一問題。在這種情況下,無論是產(chǎn)品責(zé)任認(rèn)定還是管制標(biāo)準(zhǔn)制定中所需要的因果關(guān)聯(lián)、可預(yù)見性等很難認(rèn)定,法律需要發(fā)展出適合其技術(shù)特點(diǎn)的風(fēng)險(xiǎn)評(píng)估和責(zé)任判定的方案。

    上述問題并非一個(gè)局部性的問題,而可能引發(fā)整個(gè)數(shù)字活動(dòng)規(guī)制范式的轉(zhuǎn)型。有研究指出,在前人工智能時(shí)代,互聯(lián)網(wǎng)的典型范式是“代碼即法律”(Code is Law)[11],即代碼的設(shè)計(jì)可以確定網(wǎng)絡(luò)空間內(nèi)的行為方式,法律因而可以借助責(zé)任體系引導(dǎo)代碼的設(shè)計(jì),從而達(dá)到規(guī)制行為的目標(biāo)。而在人工智能時(shí)代,某種程度上“代碼是無規(guī)則的”(Code is Lawless)[12],這意味著既有規(guī)制范式在某種程度上的失靈,需要尋找新的路徑。實(shí)際上,歐盟議會(huì)已經(jīng)通過決議,建議未來對(duì)智能機(jī)器的監(jiān)管應(yīng)當(dāng)基于風(fēng)險(xiǎn)預(yù)防原則,并建立專門的管制機(jī)構(gòu)[13]。

    (2)基于數(shù)字技術(shù)展開的經(jīng)濟(jì)活動(dòng)在快速演化,不斷出現(xiàn)的新類型的經(jīng)濟(jì)活動(dòng)無法在既有法律體系中找到精確對(duì)應(yīng)的規(guī)則,法律體系需要適時(shí)調(diào)整以應(yīng)對(duì)既有規(guī)制體系的紊亂[14]。

    數(shù)字技術(shù)和互聯(lián)網(wǎng)服務(wù)的架構(gòu)設(shè)計(jì)改變了傳統(tǒng)經(jīng)濟(jì)活動(dòng)的組織方式,打破了傳統(tǒng)經(jīng)濟(jì)活動(dòng)的邊界[15]。共享經(jīng)濟(jì)便是典型的例證:借助數(shù)字平臺(tái)所提供的信息匯聚、交易撮合等服務(wù),個(gè)體可以將其擁有的閑置資源與需求方進(jìn)行交易,或者利用空閑時(shí)間參與到各種類型的經(jīng)濟(jì)活動(dòng)中去。這些活動(dòng)實(shí)現(xiàn)了對(duì)海量分散化閑置資源的利用并滿足多樣化的需求,但也為法律規(guī)則的調(diào)整提出了要求。

    以消費(fèi)者保護(hù)領(lǐng)域的法律為例,傳統(tǒng)法律基于企業(yè)相對(duì)強(qiáng)勢的地位將交易雙方分別界定為經(jīng)營者和消費(fèi)者,對(duì)前者規(guī)定了相應(yīng)的義務(wù)和責(zé)任而對(duì)后者更多地賦予權(quán)利。而在共享經(jīng)濟(jì)中,個(gè)人用戶不再像傳統(tǒng)電子商務(wù)那樣局限于消費(fèi)者的角色,相反,他們同時(shí)成為商品和服務(wù)的生產(chǎn)者和經(jīng)營者,以一種新的方式來提供傳統(tǒng)上受到政府高度監(jiān)管的服務(wù)。但是,傳統(tǒng)法律如果不加修正的適用則會(huì)出現(xiàn)規(guī)制紊亂,畢竟這些個(gè)體缺乏與傳統(tǒng)企業(yè)相同的規(guī)模、經(jīng)驗(yàn)和資源很難滿足主要針對(duì)大型企業(yè)和專業(yè)化的服務(wù)提供者而設(shè)計(jì)的管制規(guī)范。與此同時(shí),共享經(jīng)濟(jì)中商品服務(wù)提供者和購買者之間相對(duì)平等,且存在居中的平臺(tái)來協(xié)調(diào)雙方的利益,針對(duì)傳統(tǒng)行業(yè)設(shè)計(jì)的規(guī)范很容易導(dǎo)致過度管制。

    隨著數(shù)字技術(shù)日益廣泛的應(yīng)用,個(gè)體能夠通過數(shù)字平臺(tái)參與的活動(dòng)也不斷擴(kuò)張,其中,大量活動(dòng)是傳統(tǒng)上很難想象或者難以規(guī)模化的。因此,前述法律調(diào)整并非局限于消費(fèi)者保護(hù)等個(gè)別領(lǐng)域,而是包括稅法、勞動(dòng)法和政府監(jiān)管體系在內(nèi)的系統(tǒng)性調(diào)整。針對(duì)這些新型經(jīng)濟(jì)活動(dòng),法律體系需要根據(jù)現(xiàn)實(shí)的需要適時(shí)調(diào)整,尋找新的、契合于這些活動(dòng)根本特點(diǎn)的規(guī)制方案。

    (3)數(shù)據(jù)日益成為重要的生產(chǎn)資料,需要法律系統(tǒng)設(shè)計(jì)采集、存儲(chǔ)、使用和流通的規(guī)則,以妥善平衡各種相互競爭的利益。雖然歷史上信息對(duì)經(jīng)濟(jì)活動(dòng)的有效運(yùn)行一直具有重要作用,但伴隨數(shù)字技術(shù)的廣泛應(yīng)用,信息開發(fā)和分享的物理限制被前所未有地降低,這催生了突飛猛進(jìn)的數(shù)據(jù)經(jīng)濟(jì)。當(dāng)下,包括零售、醫(yī)療、金融、交通在內(nèi)的幾乎所有行業(yè)均在通過各種類型的方式認(rèn)識(shí)、開發(fā)和利用數(shù)據(jù),以圖不斷降低成本和提升效率[16]。通過大量數(shù)據(jù)訓(xùn)練、改進(jìn)的算法也使生產(chǎn)、經(jīng)營和管理越來越智能化,可以說,這些新興技術(shù)已經(jīng)成為新型經(jīng)濟(jì)的智能引擎,而數(shù)據(jù)則是其燃料。由此,數(shù)據(jù)被市場賦予巨大的商業(yè)價(jià)值,從而演化為能夠創(chuàng)造巨大價(jià)值的新型生產(chǎn)資料。

    與此同時(shí),圍繞數(shù)據(jù)控制權(quán)的爭奪也日益激勵(lì)。2017年引發(fā)社會(huì)高度關(guān)注的菜鳥網(wǎng)絡(luò)與豐巢科技相繼關(guān)閉數(shù)據(jù)接口一案便是典型體現(xiàn)[17]。而且,某些數(shù)據(jù)掮客違法從事的交換數(shù)據(jù)、洗數(shù)據(jù)、數(shù)據(jù)補(bǔ)全活動(dòng),已經(jīng)形成了龐大的產(chǎn)業(yè)鏈[18]。傳統(tǒng)法律體系是以信息的內(nèi)容為標(biāo)準(zhǔn)分別適用不同的法律來提供保護(hù),如涉及個(gè)人信息則以人格權(quán)制度加以保護(hù);涉及人類智力勞動(dòng)的產(chǎn)物,則以知識(shí)產(chǎn)權(quán)制度加以保護(hù)。而數(shù)據(jù)作為以數(shù)字形態(tài)記載信息的載體或者存在形式,法律本身并不提供獨(dú)立的保護(hù)。在數(shù)字技術(shù)廣泛應(yīng)用的背景下,上述保護(hù)方式已經(jīng)顯示出涵蓋不全和法律適用成本巨大的挑戰(zhàn)。由此,法律需要考慮圍繞數(shù)據(jù)系統(tǒng)設(shè)計(jì)采集、存儲(chǔ)、使用和流通的規(guī)則,以提供高效和全面的規(guī)范[19]。

    (4)數(shù)字平臺(tái)日漸成為生產(chǎn)、社交、娛樂的組織中心,法律需要對(duì)其地位、權(quán)利、義務(wù)和責(zé)任系統(tǒng)考慮。與普通經(jīng)營者不同,數(shù)字平臺(tái)一般不直接提供某種內(nèi)容,而是在平臺(tái)上存儲(chǔ)、鏈接或傳送源自第三方的內(nèi)容,或者為第三方提供基于互聯(lián)網(wǎng)的數(shù)字服務(wù)。近年來,數(shù)字平臺(tái)的影響力迅速擴(kuò)張:開放性使其能夠迅速聚合大量資源,就此形成雙邊或多邊市場效應(yīng),日漸成為生產(chǎn)、社交、娛樂的組織中心[20]。甚至有從業(yè)者提出了“告別公司,擁抱平臺(tái)”的口號(hào)。伴隨數(shù)字技術(shù)對(duì)經(jīng)濟(jì)、社會(huì)各方面的加速滲透,從趨勢而言,未來一些數(shù)字平臺(tái)對(duì)經(jīng)濟(jì)活動(dòng)將擁有無可比擬的影響力,甚至在一定程度上具備基礎(chǔ)設(shè)施的特性。

    然而,對(duì)這一當(dāng)下經(jīng)濟(jì)活動(dòng)中關(guān)鍵組織的法律地位,既有法律概念難以提供令人信服的解釋。以數(shù)字交易平臺(tái)為例,將傳統(tǒng)商事概念如柜臺(tái)出租者、居間類比于平臺(tái)均有削足適履之嫌,迫切需要考慮平臺(tái)以電子技術(shù)集散、處理海量信息等特征來賦予其獨(dú)立的法律地位[21]。目前,現(xiàn)行法律對(duì)平臺(tái)法律地位的回應(yīng)仍然是分散、粗放的,規(guī)則并未體系化,存在大量模糊甚至是內(nèi)在沖突之處。由于對(duì)數(shù)字平臺(tái)的法律地位缺乏科學(xué)合理的法律界定,現(xiàn)實(shí)中,關(guān)于平臺(tái)應(yīng)當(dāng)承擔(dān)的義務(wù)和責(zé)任是高度不確定的。例如,對(duì)于平臺(tái)上存在的涉嫌違法行為,哪些應(yīng)當(dāng)由平臺(tái)根據(jù)平臺(tái)規(guī)則進(jìn)行處理,哪些應(yīng)當(dāng)由監(jiān)管部門根據(jù)法律予以認(rèn)定并處理,存在巨大的分歧[22]。由于穩(wěn)定、可預(yù)見而且設(shè)置合理的義務(wù)和責(zé)任機(jī)制是產(chǎn)業(yè)發(fā)展的重要制度環(huán)境,數(shù)字經(jīng)濟(jì)的發(fā)展需要正視并及時(shí)回應(yīng)這一問題。

    3 法律體系變革對(duì)數(shù)字技術(shù)有序嵌入社會(huì)的意義

    任何技術(shù)一旦被社會(huì)廣泛應(yīng)用,總會(huì)改變現(xiàn)行利益和風(fēng)險(xiǎn)分配的格局,在這個(gè)意義上,技術(shù)有一個(gè)社會(huì)嵌入的過程。而作為社會(huì)規(guī)范之一,法律有責(zé)任保證這個(gè)嵌入過程有序進(jìn)行。然而,當(dāng)法律和技術(shù)開發(fā)應(yīng)用相遭遇的時(shí)候總會(huì)產(chǎn)生一種緊張:法律體系的發(fā)展本身是回顧式的,即它是建立在對(duì)既有生活經(jīng)驗(yàn)的總結(jié)和表達(dá)上,而非主要憑預(yù)測進(jìn)行設(shè)計(jì)與展望。在這個(gè)意義上,法律體系所強(qiáng)調(diào)的“守成”能力與新興技術(shù)開發(fā)應(yīng)用的“創(chuàng)新”精神始終存在一定的緊張。

    法律體系的適度滯后不可避免且并不必然是缺陷:數(shù)字技術(shù)應(yīng)用的創(chuàng)新過程產(chǎn)生了大量不確定性,對(duì)于科學(xué)技術(shù)工作者而言,這種不確定性不是問題,它只是確定了下一步研發(fā)的議程;對(duì)于企業(yè)家而言也不是問題,因?yàn)槌袚?dān)伴隨這種不確定性的風(fēng)險(xiǎn)本身就是獲得利潤的源泉。但是,法律體系服務(wù)于當(dāng)下具體問題的解決,它必須在有限時(shí)間、信息和資源約束下做出一個(gè)各方相對(duì)可接受的決定。因此,如果存在大量不確定性,它一般會(huì)基于既有經(jīng)驗(yàn)做出相對(duì)保守的決定。此外,社會(huì)對(duì)一些重大創(chuàng)新的回應(yīng),一般都會(huì)經(jīng)歷創(chuàng)新、產(chǎn)業(yè)化、顛覆傳統(tǒng)的無秩序和回歸秩序的歷史周期[23],過早確立強(qiáng)制性的法律規(guī)則,反而阻礙了未來的可能。但是,這并不意味著法律體系可以因循守舊,它雖然應(yīng)當(dāng)給實(shí)踐留出一定的探索時(shí)間,待對(duì)問題有了較明確的認(rèn)知后方予以系統(tǒng)性調(diào)整,但這仍然有一個(gè)限度:首先,如果法律不在控制系統(tǒng)性風(fēng)險(xiǎn)的前提下給打破常規(guī)的實(shí)踐開辟探索空間,則永遠(yuǎn)不會(huì)積累對(duì)于未來的經(jīng)驗(yàn);其次,如果趨勢已經(jīng)明朗,而不及時(shí)調(diào)整相關(guān)制度安排,其結(jié)果便是受到影響的各方均在一個(gè)高度不確定的法律環(huán)境中發(fā)生交易。這意味著法律體系一方面可能已經(jīng)成為經(jīng)濟(jì)社會(huì)發(fā)展的障礙,另一方面卻未能夠在一個(gè)快速變化的社會(huì)中給企業(yè)和用戶提供充分的保護(hù)。

    相對(duì)于經(jīng)濟(jì)社會(huì)的發(fā)展,我國法律體系變革的效率本身也有待提高[24],這進(jìn)一步凸顯了問題的緊迫性。因此,數(shù)字技術(shù)的廣泛應(yīng)用迫切需要建立一套完整的機(jī)制,對(duì)法律框架進(jìn)行定期評(píng)估,并適時(shí)更新,從而確保它們適應(yīng)日益數(shù)字化的世界。具體而言,這種法律體系變革的必要性在于:

    (1)確保數(shù)字化轉(zhuǎn)型過程中不產(chǎn)生個(gè)人權(quán)利保護(hù)的真空。新興技術(shù)的應(yīng)用在提高效率、改善生活的同時(shí)亦會(huì)使一些個(gè)體權(quán)利更加暴露于某些風(fēng)險(xiǎn),而社會(huì)和技術(shù)環(huán)境的變化也會(huì)導(dǎo)致既有法律體系的回應(yīng)方案受到挑戰(zhàn)。這要求法律體系適當(dāng)調(diào)整從而完善事前防范風(fēng)險(xiǎn)的安全網(wǎng),并為可能發(fā)生的損害科學(xué)分配責(zé)任。唯此,法律方可有效降低權(quán)利受侵害的風(fēng)險(xiǎn),將其控制在可接受的水平以內(nèi),這對(duì)于數(shù)字化的穩(wěn)健發(fā)展具有至關(guān)重要的意義。

    一方面,從憲法層面而言,國家對(duì)于人民的生命、人身和財(cái)產(chǎn)等基本權(quán)利負(fù)有保障的義務(wù),有義務(wù)通過積極的行動(dòng)去完成憲法層面的這個(gè)委托[25]。為了保障公民的基本權(quán)利,國家不僅僅“可以”干預(yù)新技術(shù)及其商業(yè)應(yīng)用引發(fā)的權(quán)利受侵害風(fēng)險(xiǎn),而且有“義務(wù)”干預(yù)這些風(fēng)險(xiǎn)。而且,在數(shù)字經(jīng)濟(jì)時(shí)代,借助數(shù)字技術(shù),整個(gè)社會(huì)呈現(xiàn)出一個(gè)高度互聯(lián)的狀態(tài),任何局部的問題都很容易形成系統(tǒng)性的影響,這意味著如何應(yīng)對(duì)數(shù)字技術(shù)帶來的風(fēng)險(xiǎn)必然與諸如責(zé)任、公平、正義、價(jià)值相互連接,并引發(fā)社會(huì)的系統(tǒng)反應(yīng)。在這個(gè)意義上,運(yùn)用公共選擇彌補(bǔ)個(gè)人防范風(fēng)險(xiǎn)能力的不足應(yīng)當(dāng)成為法律體系的應(yīng)有之義。

    另一方面,通過織密個(gè)體權(quán)利的保護(hù)網(wǎng)絡(luò),法律可以在管理社會(huì)預(yù)期方面發(fā)揮重要作用,這對(duì)社會(huì)有序接納新技術(shù)的嵌入非常重要。畢竟,在現(xiàn)代風(fēng)險(xiǎn)社會(huì),對(duì)不安全的感覺容易主導(dǎo)公眾的情緒,成為影響社會(huì)生活和國家任務(wù)的決定因素[26]。在這種心理下,如果法律和監(jiān)管體系存在大量漏洞,一些丑聞就很容易引發(fā)公眾非理性的回應(yīng),并促使政府采取一些強(qiáng)硬甚至過度的管制措施,這反而阻礙了創(chuàng)新??梢哉f,法律必須確保公眾對(duì)數(shù)字化轉(zhuǎn)型的信心,方能確保社會(huì)接納各種技術(shù)創(chuàng)新[27],對(duì)此,社會(huì)對(duì)轉(zhuǎn)基因技術(shù)的拒絕即是一個(gè)警示。

    (2)為產(chǎn)業(yè)發(fā)展創(chuàng)造一個(gè)穩(wěn)定、可預(yù)期的環(huán)境。一個(gè)界定清晰、執(zhí)行高效的法律體系是經(jīng)濟(jì)成功的前提條件,因?yàn)槔硇缘姆赏ㄟ^對(duì)市場交易提供穩(wěn)定的預(yù)期和合法性而支撐經(jīng)濟(jì)活動(dòng)的發(fā)展,因此,運(yùn)行良好的市場經(jīng)濟(jì)一定是法治經(jīng)濟(jì)[28],數(shù)字經(jīng)濟(jì)亦不例外。由于法律只能根據(jù)社會(huì)本身提供的條件來界定社會(huì)[29],因此,它需要根據(jù)技術(shù)及其商業(yè)實(shí)踐的變遷而不斷調(diào)試。否則,過時(shí)的規(guī)則會(huì)創(chuàng)造大量的不確定性,這會(huì)影響企業(yè)技術(shù)創(chuàng)新的積極性。

    實(shí)際上,法律體系的變革歷來是經(jīng)濟(jì)社會(huì)變革的重要基礎(chǔ):有限責(zé)任公司和知識(shí)產(chǎn)權(quán)制度的創(chuàng)設(shè)就在相當(dāng)程度上促進(jìn)和保障了相應(yīng)的工業(yè)革命;而20世紀(jì)90年代,美國在版權(quán)法和侵權(quán)法領(lǐng)域的改革對(duì)于硅谷在數(shù)字技術(shù)領(lǐng)域的崛起亦至關(guān)重要。這些法律改革為互聯(lián)網(wǎng)中介建構(gòu)了一套更加符合其技術(shù)和商業(yè)特點(diǎn)的責(zé)任體系和隱私保護(hù)義務(wù),使硅谷的互聯(lián)網(wǎng)創(chuàng)業(yè)公司享有相較于其日本和歐洲同行更為確定的法律環(huán)境,進(jìn)而吸引了風(fēng)險(xiǎn)投資的大量進(jìn)入[30]。

    4 法律變革的原則與路徑

    雖然理論和實(shí)務(wù)界已經(jīng)意識(shí)到法律體系落后于數(shù)字技術(shù)廣泛應(yīng)用的現(xiàn)實(shí),但是,如何改革卻在很多地方缺乏共識(shí),這有著深刻的原因:

    (1)數(shù)字技術(shù)的迭代及其商業(yè)化應(yīng)用的演化非常迅速,如何確保法律和監(jiān)管體系與快速變化的世界相同步是非常巨大的挑戰(zhàn)。例如,一些觀點(diǎn)就認(rèn)為,《電子商務(wù)法(草案)》以五年前的電子商務(wù)形態(tài)為藍(lán)本,已經(jīng)不適合當(dāng)下深度跨界融合的商業(yè)形態(tài)。實(shí)際上,回顧法律對(duì)新興技術(shù)監(jiān)管的歷史,剛剛制定就過時(shí)的案例并非少見。

    (2)數(shù)字技術(shù)應(yīng)用對(duì)傳統(tǒng)產(chǎn)業(yè)的改造勢必引發(fā)利益的重新調(diào)整,在這個(gè)過程中,受影響的利益也會(huì)施壓監(jiān)管部門通過立法或者監(jiān)管政策來抵制上述改造。以網(wǎng)約車為例,其合法化意味著對(duì)出租車行業(yè)管制的放松,而原來出租車運(yùn)營牌照的持有者對(duì)其牌照支付了代價(jià)。因此,這種放松管制勢必沖擊原持牌者的財(cái)產(chǎn)利益,引發(fā)他們的反彈。目前,一些地方為網(wǎng)約車建立較高的準(zhǔn)入門檻或者限定網(wǎng)約車的經(jīng)營范圍,其政策意圖即是來延緩這種沖擊。

    (3)政府自身數(shù)字化轉(zhuǎn)型相對(duì)滯后,未形成適應(yīng)數(shù)字化特點(diǎn)的監(jiān)管體系。數(shù)字技術(shù)的廣泛應(yīng)用需要政府開發(fā)一系列基礎(chǔ)設(shè)施并在此基礎(chǔ)上建構(gòu)適合數(shù)字化特點(diǎn)的監(jiān)管體系。實(shí)際上,正是因?yàn)檎A(chǔ)服務(wù)和監(jiān)管能力建設(shè)的滯后,法律體系不得不對(duì)某些領(lǐng)域數(shù)字化轉(zhuǎn)型如互聯(lián)網(wǎng)醫(yī)療、互聯(lián)網(wǎng)藥品銷售持謹(jǐn)慎態(tài)度,這在很大程度上限制了數(shù)字技術(shù)應(yīng)用潛力的發(fā)揮。而且,某些本應(yīng)由政府履行的職責(zé),在政府技術(shù)能力不足的情況下,法律或者監(jiān)管部門要求企業(yè)承擔(dān),也帶來了不少難以控制的風(fēng)險(xiǎn)。以互聯(lián)網(wǎng)實(shí)名制為例,它被證明是確保交易安全和有效監(jiān)管的重要支撐。但是,政府目前并未建立一套統(tǒng)一的電子身份認(rèn)證系統(tǒng),監(jiān)管部門只能要求平臺(tái)企業(yè)對(duì)其用戶實(shí)名驗(yàn)證,這至少帶來以下幾個(gè)問題:實(shí)名驗(yàn)證對(duì)于一些小企業(yè)而言成本高昂,增加了行業(yè)壁壘;不同企業(yè)均要驗(yàn)證,重復(fù)浪費(fèi)資源;更為重要的是,這大幅增加了個(gè)人信息泄露的風(fēng)險(xiǎn)[31]。

    考慮到上述背景,法律體系的變革不宜過于激進(jìn),而應(yīng)當(dāng)在廣泛商談、凝聚共識(shí)的基礎(chǔ)上積極推進(jìn)??偟膩碚f,需要遵循以下原則:

    (1)包容審慎規(guī)制。法律應(yīng)考慮數(shù)字技術(shù)發(fā)展特性,調(diào)和法律規(guī)范與數(shù)字技術(shù)革新之間的矛盾。一些發(fā)達(dá)國家在這一領(lǐng)域就立法技術(shù)采用實(shí)驗(yàn)性立法(Experimental Legislation),在監(jiān)管理念上倡導(dǎo)輕觸式監(jiān)管(Light Touch Regulation)和謹(jǐn)慎干預(yù)(Cautious Intervention)的經(jīng)驗(yàn)值得借鑒。這種規(guī)制思路保持了公權(quán)力的克制,能夠?yàn)閿?shù)字經(jīng)濟(jì)的自我演化創(chuàng)造足夠的制度空間。而且,立法和政策制定者需要特別注意,數(shù)字技術(shù)的應(yīng)用的確會(huì)帶來一些潛在的風(fēng)險(xiǎn),立法需要及時(shí)回應(yīng)公眾的安全關(guān)切。但是,由于認(rèn)知的局限,普通公眾很難理解和把握數(shù)字技術(shù)的邏輯,一些擔(dān)憂可能被放大。這要求規(guī)則制定要保持理性,進(jìn)行充分的風(fēng)險(xiǎn)溝通,避免采取過激的干預(yù)行動(dòng)。

    (2)注重原則引導(dǎo),避免僵化。如前所述,數(shù)字技術(shù)的迭代及其商業(yè)化應(yīng)用演化非常迅速,在這一快速變化的過程中,會(huì)產(chǎn)生大量的不確定性——新的技術(shù)運(yùn)用會(huì)產(chǎn)生何種風(fēng)險(xiǎn),會(huì)帶來何種收益,會(huì)發(fā)生哪些意想不到的影響等都難以準(zhǔn)確預(yù)判。而且,這種不確定性是內(nèi)在于數(shù)字技術(shù)發(fā)展及其商業(yè)實(shí)踐創(chuàng)新過程之中的,無法根除。與此同時(shí),整個(gè)社會(huì)的數(shù)字化轉(zhuǎn)型又是一個(gè)非常復(fù)雜的系統(tǒng)工程,在某個(gè)方面采取的規(guī)制措施可能影響到其他的領(lǐng)域。在這種不確定性和復(fù)雜性面前,如果過早制定具體規(guī)則很容易僵化過時(shí)。因此,在法律體系變革過程中,應(yīng)當(dāng)更加倚重一般性的原則引導(dǎo)各方行為,即立法注重闡明各方具有共識(shí)的基本立場,而在執(zhí)行過程中由執(zhí)法者根據(jù)技術(shù)、商業(yè)環(huán)境的變化而靈活適用。實(shí)際上,這種原則導(dǎo)向的立法,也是一些發(fā)達(dá)國家在處理復(fù)雜問題時(shí)所經(jīng)常采用的[32]。

    (3)重視激勵(lì)社會(huì)共治。面對(duì)前述快速變化的技術(shù)和現(xiàn)實(shí),錯(cuò)綜復(fù)雜的利益平衡,以及政府自身技術(shù)能力的限制,法律不應(yīng)當(dāng)期待僅僅依賴自上而下的命令控制就可以完成數(shù)字時(shí)代的社會(huì)秩序規(guī)范。實(shí)際上,社會(huì)生活中,需要長期交往的主體間經(jīng)過反復(fù)試錯(cuò)和博弈自生自發(fā)地形成了許多良好的非正式規(guī)則。而且,這些主體之間的聲譽(yù)機(jī)制、軟性約束等也能夠確保規(guī)則以較低的成本得到執(zhí)行。因此,無論是規(guī)則制定還是規(guī)則執(zhí)行,政府都需要尋求與被規(guī)制者、其他社會(huì)主體的合作,并激勵(lì)社會(huì)的自我規(guī)制。而且,數(shù)字技術(shù)發(fā)展本身也使得相關(guān)利益主體直接參與治理的可能性極大提高。因此,無論從節(jié)約治理成本、追求治理效果出發(fā),或是從踐行民主精神、塑造現(xiàn)代公民人格的規(guī)范性要求觀之,數(shù)字時(shí)代的法律都應(yīng)當(dāng)引導(dǎo)治理模式從單純的政府監(jiān)管向社會(huì)共治轉(zhuǎn)變。

    在上述原則指引下,考慮到我國當(dāng)下的現(xiàn)實(shí),可以通過以下具體制度安排來推動(dòng)變革,并確保相應(yīng)變革的科學(xué)性。

    (1)建立對(duì)法律體系的定期評(píng)估制度,并在新的立法中廣泛設(shè)定審查評(píng)估條款。在整個(gè)經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型的背景下,為了解決法律法規(guī)不適應(yīng)新的社會(huì)形勢問題,必須有相應(yīng)的組織架構(gòu)和工作機(jī)制來定期對(duì)法律體系進(jìn)行評(píng)估和清理,將已經(jīng)過時(shí)的規(guī)制措施予以廢止,并及時(shí)填補(bǔ)規(guī)范體系的漏洞。

    實(shí)際上,我國在加入WTO前后,為了確保相關(guān)法律法規(guī)符合WTO的要求,就曾經(jīng)對(duì)法律法規(guī)進(jìn)行過系統(tǒng)清理。遺憾的是,這一做法并未形成固定的制度安排。考慮到數(shù)字技術(shù)的廣泛應(yīng)用意味著經(jīng)濟(jì)、社會(huì)的深度轉(zhuǎn)型,它必然要求法律體系不斷回應(yīng)新的技術(shù)和經(jīng)濟(jì)現(xiàn)實(shí)。因此,有必要形成一個(gè)組織架構(gòu)和工作程序來對(duì)法律體系定期評(píng)估。與此同時(shí),在新的立法中也有必要廣泛引入審查評(píng)估條款,即規(guī)定現(xiàn)行規(guī)則在未來應(yīng)當(dāng)定期評(píng)估以確定效力是否應(yīng)當(dāng)延續(xù)[33]。與此同時(shí),評(píng)估法律體系與技術(shù)現(xiàn)實(shí)、商業(yè)環(huán)境是否匹配需要大量借助技術(shù)、經(jīng)濟(jì)專業(yè)的知識(shí),這需要立法和行政機(jī)關(guān)以外的專業(yè)人士加入,方能確保對(duì)相關(guān)事實(shí)的全面認(rèn)知;而且,法律體系涉及利益的分配,評(píng)估成員中立于各個(gè)方面的利益也是評(píng)估客觀性的重要保障。因此,這種評(píng)估應(yīng)當(dāng)主要通過成立第三方專家咨詢委員會(huì)的方式進(jìn)行。當(dāng)然,專家亦有自身的偏好、價(jià)值判斷甚至利益訴求。因此,需要建構(gòu)一套完整的專家遴選、利益申明和議事規(guī)則,并確保整個(gè)專家評(píng)估過程的透明性,甚至可以考慮學(xué)習(xí)一些國家的經(jīng)驗(yàn),出臺(tái)專門法規(guī)來對(duì)專家咨詢活動(dòng)進(jìn)行規(guī)范[34]。

    (2)建立制度規(guī)范行政立法,遏制部門利益。新興技術(shù)及其商業(yè)化應(yīng)用必然引發(fā)既得利益的深刻調(diào)整。由于這些傳統(tǒng)企業(yè)與相關(guān)部門已經(jīng)有長期合作,體制嵌入更深,對(duì)政策制定的影響力也更大,因此由部門主導(dǎo)的立法很可能過度保守,前述網(wǎng)約車行業(yè)就是例證。實(shí)際上,即使網(wǎng)約車合法化對(duì)于既有出租車牌照持有者的利益產(chǎn)生不公正的影響,甚至構(gòu)成管制性征收,也可以采取一次性經(jīng)濟(jì)補(bǔ)償?shù)姆绞絹韽浹a(bǔ)[35],而非采用產(chǎn)業(yè)保護(hù)的方式。畢竟后者意味著對(duì)既有競爭的扭曲,會(huì)最終影響到消費(fèi)者的選擇空間和福利,這也是發(fā)改委考慮以“公平競爭審查”審查地方網(wǎng)約車管制規(guī)范的原因[36]。

    經(jīng)濟(jì)社會(huì)全面的數(shù)字化轉(zhuǎn)型當(dāng)然會(huì)對(duì)某些既有行業(yè)產(chǎn)生沖擊,而決策應(yīng)當(dāng)基于其對(duì)整體社會(huì)生產(chǎn)效率和消費(fèi)者福利的影響。因此,相關(guān)規(guī)則制定需要一個(gè)超越部門利益的立場全政府回應(yīng)方案。而在我國,法律制定、修訂過程中,行業(yè)的主管或者監(jiān)管部門往往擁有很大的政策影響力,“部門利益”很容易主導(dǎo)立法議程,這在行政立法中的表現(xiàn)尤其明顯[37]。為了制衡這一因素,可以考慮參考域外一些國家的做法,建立相對(duì)集中的行政立法成本效益分析,即任何管制措施出臺(tái)之前,由中央或者國務(wù)院某個(gè)相對(duì)超脫的機(jī)構(gòu)評(píng)估其對(duì)整個(gè)經(jīng)濟(jì)社會(huì)所帶來的成本和潛在的收益,然后進(jìn)行權(quán)衡[38]。與此同時(shí),還可以考慮通過行政立法程序的完善強(qiáng)化受影響產(chǎn)業(yè)、消費(fèi)者團(tuán)體、研究機(jī)構(gòu)對(duì)立法過程的參與,并要求立法起草部門對(duì)相關(guān)意見是否采納及其理由做充分說明,從而制衡單一部門或者行業(yè)的利益。

    (3)推動(dòng)政府監(jiān)管體系的數(shù)字化轉(zhuǎn)型。數(shù)字技術(shù)的應(yīng)用大幅降低了整個(gè)社會(huì)的交易成本,同時(shí)也使違法行為可以更便利地實(shí)施。在數(shù)字環(huán)境下,違法活動(dòng)的實(shí)施者具有相對(duì)匿名的特征,這進(jìn)一步加大了監(jiān)管難度。這些挑戰(zhàn)要求政府監(jiān)管體系需要適應(yīng)數(shù)字環(huán)境的特點(diǎn)而進(jìn)行深刻轉(zhuǎn)型。

    一方面,政府可以考慮更多地根據(jù)數(shù)字環(huán)境的特點(diǎn),通過建設(shè)數(shù)字監(jiān)管系統(tǒng)等方式來調(diào)整日常的監(jiān)管執(zhí)法模式。例如,美國一些城市的衛(wèi)生部門根據(jù)yelp點(diǎn)評(píng)數(shù)據(jù)去精準(zhǔn)地配置檢查資源,大大提高了發(fā)現(xiàn)食品衛(wèi)生問題的效率。實(shí)際上,數(shù)字技術(shù)廣泛應(yīng)用的一個(gè)重要后果在于,它使大量的活動(dòng)都會(huì)留下痕跡,而這些痕跡又會(huì)以數(shù)據(jù)的形式聚集于一些大型的互聯(lián)網(wǎng)平臺(tái),這給追蹤違法行為帶來了相當(dāng)?shù)谋憷鸞39]。因此,與某些人的直覺相反,數(shù)字技術(shù)構(gòu)建的虛擬環(huán)境并非違法者的庇護(hù)所,相反,從產(chǎn)生伊始,它業(yè)已提供某種強(qiáng)大的監(jiān)管能力。如果政府能夠充分利用這些數(shù)據(jù)資源,將可以形成更為精準(zhǔn)的監(jiān)管體系。

    另一方面,監(jiān)管部門激勵(lì)和支持大型平臺(tái)進(jìn)行自我規(guī)制。實(shí)際上,這些年我們也看到一些平臺(tái)發(fā)展出了一些頗具實(shí)效的治理技術(shù),例如在線爭端解決、用戶點(diǎn)評(píng)體系,這些技術(shù)甚至啟發(fā)了政府的監(jiān)管。監(jiān)管部門應(yīng)當(dāng)激勵(lì)平臺(tái)自我發(fā)展一些治理技術(shù),以彌補(bǔ)政府執(zhí)法資源的不足。在這方面,可以考慮給治理良好的平臺(tái)更多的實(shí)驗(yàn)空間并放松管制,同時(shí),輔以合理的法律責(zé)任來矯正平臺(tái)怠于治理的情況。

    猜你喜歡
    法律體系
    法律推理與法律一體化
    法律方法(2022年1期)2022-07-21 09:17:10
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    構(gòu)建體系,舉一反三
    探索自由貿(mào)易賬戶體系創(chuàng)新應(yīng)用
    中國外匯(2019年17期)2019-11-16 09:31:14
    法律適用中的邏輯思維
    法律方法(2019年3期)2019-09-11 06:27:06
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    如何建立長期有效的培訓(xùn)體系
    “曲線運(yùn)動(dòng)”知識(shí)體系和方法指導(dǎo)
    讓法律做主
    浙江人大(2014年5期)2014-03-20 16:20:27
    天堂中文最新版在线下载| 电影成人av| 亚洲欧美色中文字幕在线| 精品少妇久久久久久888优播| 肉色欧美久久久久久久蜜桃| 99九九在线精品视频| 免费观看人在逋| 丁香欧美五月| 午夜激情av网站| 午夜成年电影在线免费观看| 51午夜福利影视在线观看| 国产日韩欧美亚洲二区| 亚洲欧美日韩高清在线视频 | 99热网站在线观看| 久久中文字幕一级| 成人国产一区最新在线观看| 精品卡一卡二卡四卡免费| 两人在一起打扑克的视频| 亚洲精华国产精华精| 精品人妻熟女毛片av久久网站| 黄网站色视频无遮挡免费观看| 人人澡人人妻人| 操出白浆在线播放| 国产亚洲精品久久久久5区| 国产精品香港三级国产av潘金莲| a级毛片黄视频| 正在播放国产对白刺激| 在线观看免费日韩欧美大片| 亚洲av美国av| 久久人人97超碰香蕉20202| 午夜福利影视在线免费观看| 欧美另类亚洲清纯唯美| 亚洲国产欧美一区二区综合| 考比视频在线观看| 精品一区二区三区视频在线观看免费 | 久久久久久久久久久久大奶| h视频一区二区三区| 亚洲专区国产一区二区| 免费一级毛片在线播放高清视频 | tocl精华| 亚洲av电影在线进入| 色在线成人网| 又紧又爽又黄一区二区| 成人精品一区二区免费| 国产成人啪精品午夜网站| 69精品国产乱码久久久| 成人亚洲精品一区在线观看| 丝袜喷水一区| 久久国产精品影院| 久久精品国产综合久久久| √禁漫天堂资源中文www| 香蕉国产在线看| 欧美日本中文国产一区发布| 国产男靠女视频免费网站| 在线观看66精品国产| 国产1区2区3区精品| 国产精品久久电影中文字幕 | 精品视频人人做人人爽| 国产成人欧美| 一边摸一边抽搐一进一出视频| 两个人看的免费小视频| 人人妻人人澡人人看| cao死你这个sao货| 欧美午夜高清在线| 午夜视频精品福利| 欧美 亚洲 国产 日韩一| 2018国产大陆天天弄谢| 免费人妻精品一区二区三区视频| 大陆偷拍与自拍| 欧美黄色片欧美黄色片| 国产成人系列免费观看| 少妇 在线观看| 丁香六月欧美| 亚洲国产欧美在线一区| 别揉我奶头~嗯~啊~动态视频| 精品免费久久久久久久清纯 | 中文亚洲av片在线观看爽 | 日日夜夜操网爽| 人妻久久中文字幕网| 国产精品偷伦视频观看了| 国产精品秋霞免费鲁丝片| 国产欧美亚洲国产| 久久亚洲精品不卡| 午夜视频精品福利| 久久久久网色| 亚洲 欧美一区二区三区| 丰满人妻熟妇乱又伦精品不卡| 国产极品粉嫩免费观看在线| 久久久久国内视频| 欧美黑人欧美精品刺激| 国产亚洲精品第一综合不卡| 中文亚洲av片在线观看爽 | 制服人妻中文乱码| 国产成人一区二区三区免费视频网站| 国产精品九九99| 亚洲熟女毛片儿| 自拍欧美九色日韩亚洲蝌蚪91| 欧美精品一区二区免费开放| 欧美激情高清一区二区三区| 亚洲中文av在线| 一进一出好大好爽视频| 国产又色又爽无遮挡免费看| 每晚都被弄得嗷嗷叫到高潮| www日本在线高清视频| 啦啦啦在线免费观看视频4| av一本久久久久| 亚洲人成伊人成综合网2020| 久久免费观看电影| 黑丝袜美女国产一区| 国产一区二区三区综合在线观看| 一区福利在线观看| 午夜免费成人在线视频| 国产日韩欧美视频二区| 色综合婷婷激情| 99精品在免费线老司机午夜| 久久久久精品国产欧美久久久| 国产成人免费观看mmmm| 视频在线观看一区二区三区| 久久精品国产亚洲av高清一级| 国产精品一区二区在线观看99| 亚洲男人天堂网一区| 精品国产一区二区三区四区第35| 国产一区二区三区视频了| 亚洲欧美精品综合一区二区三区| 一本综合久久免费| 真人做人爱边吃奶动态| 欧美中文综合在线视频| 极品人妻少妇av视频| 久久亚洲真实| 国产免费现黄频在线看| 国产91精品成人一区二区三区 | 久久久久国内视频| 最近最新中文字幕大全免费视频| 黄色视频,在线免费观看| 99在线人妻在线中文字幕 | 涩涩av久久男人的天堂| 纯流量卡能插随身wifi吗| 亚洲中文字幕日韩| 精品久久久精品久久久| 99精品在免费线老司机午夜| 日本av手机在线免费观看| 国产在线精品亚洲第一网站| 成人国产av品久久久| 精品一区二区三区四区五区乱码| 青草久久国产| 亚洲一码二码三码区别大吗| 99精品欧美一区二区三区四区| 日本欧美视频一区| av线在线观看网站| 午夜视频精品福利| 国产亚洲av高清不卡| 大片免费播放器 马上看| 国产精品一区二区在线不卡| 18禁裸乳无遮挡动漫免费视频| 老司机午夜十八禁免费视频| 国产色视频综合| 欧美激情高清一区二区三区| 成人免费观看视频高清| 天堂动漫精品| 人妻一区二区av| 亚洲视频免费观看视频| 亚洲美女黄片视频| 99久久人妻综合| 好男人电影高清在线观看| 妹子高潮喷水视频| 精品国产超薄肉色丝袜足j| 久久精品亚洲精品国产色婷小说| 国精品久久久久久国模美| 午夜免费鲁丝| 日韩欧美三级三区| 国产又色又爽无遮挡免费看| 欧美精品高潮呻吟av久久| 少妇粗大呻吟视频| 成年版毛片免费区| a级毛片黄视频| 超碰成人久久| 色综合婷婷激情| 人人妻人人添人人爽欧美一区卜| 国产激情久久老熟女| 欧美成人免费av一区二区三区 | 国产精品久久久久成人av| 国产1区2区3区精品| 日本av手机在线免费观看| 久久ye,这里只有精品| 中文字幕色久视频| 成年女人毛片免费观看观看9 | 另类亚洲欧美激情| 18禁国产床啪视频网站| 亚洲精品美女久久久久99蜜臀| 午夜福利,免费看| 久久av网站| 久久久水蜜桃国产精品网| 99在线人妻在线中文字幕 | 老熟女久久久| 91成人精品电影| 天天躁狠狠躁夜夜躁狠狠躁| 日韩成人在线观看一区二区三区| 国产在线观看jvid| 在线观看一区二区三区激情| tube8黄色片| 成人永久免费在线观看视频 | 国产欧美日韩一区二区三| 精品一区二区三卡| 久久精品亚洲精品国产色婷小说| 欧美国产精品一级二级三级| 免费av中文字幕在线| 人人妻人人添人人爽欧美一区卜| 我要看黄色一级片免费的| 久久久久网色| 精品卡一卡二卡四卡免费| 激情在线观看视频在线高清 | 国产一区二区在线观看av| 狠狠精品人妻久久久久久综合| 国产亚洲精品一区二区www | 亚洲成a人片在线一区二区| 国产成人av教育| 国产成人精品久久二区二区免费| 久久精品国产综合久久久| 我的亚洲天堂| 国产av又大| 69精品国产乱码久久久| 国产成人一区二区三区免费视频网站| 99香蕉大伊视频| 亚洲成国产人片在线观看| 久久人妻av系列| 精品少妇内射三级| 欧美日韩精品网址| 黄色片一级片一级黄色片| 成人国产av品久久久| 欧美日韩亚洲高清精品| 汤姆久久久久久久影院中文字幕| 一边摸一边抽搐一进一出视频| 黄色片一级片一级黄色片| 一级,二级,三级黄色视频| 国产成人一区二区三区免费视频网站| 一二三四在线观看免费中文在| 精品人妻熟女毛片av久久网站| 亚洲成a人片在线一区二区| 国产精品1区2区在线观看. | 天堂中文最新版在线下载| 一级毛片电影观看| 国产男靠女视频免费网站| 欧美精品人与动牲交sv欧美| 美女福利国产在线| 久久毛片免费看一区二区三区| 18禁黄网站禁片午夜丰满| 免费日韩欧美在线观看| 成人免费观看视频高清| 国产日韩一区二区三区精品不卡| 欧美av亚洲av综合av国产av| 99热国产这里只有精品6| 9191精品国产免费久久| 欧美黑人欧美精品刺激| 一级片'在线观看视频| 12—13女人毛片做爰片一| 肉色欧美久久久久久久蜜桃| 啦啦啦视频在线资源免费观看| 国产又爽黄色视频| 亚洲国产av影院在线观看| 97人妻天天添夜夜摸| 欧美激情极品国产一区二区三区| 免费av中文字幕在线| 伊人久久大香线蕉亚洲五| 人成视频在线观看免费观看| 亚洲av成人一区二区三| 深夜精品福利| 免费久久久久久久精品成人欧美视频| 乱人伦中国视频| 视频在线观看一区二区三区| 两性午夜刺激爽爽歪歪视频在线观看 | 国产男女内射视频| 欧美+亚洲+日韩+国产| 交换朋友夫妻互换小说| 亚洲欧美一区二区三区久久| 99国产精品免费福利视频| 黄频高清免费视频| 亚洲成人国产一区在线观看| 麻豆乱淫一区二区| 一二三四在线观看免费中文在| 国产在视频线精品| 午夜福利,免费看| 91av网站免费观看| 天堂8中文在线网| 免费少妇av软件| 午夜精品久久久久久毛片777| 免费在线观看视频国产中文字幕亚洲| 亚洲熟妇熟女久久| 欧美大码av| 精品亚洲成a人片在线观看| 日韩大码丰满熟妇| 老司机亚洲免费影院| 在线天堂中文资源库| 大片电影免费在线观看免费| 亚洲av成人不卡在线观看播放网| 又大又爽又粗| 国产精品国产高清国产av | 桃红色精品国产亚洲av| 成年版毛片免费区| 午夜福利一区二区在线看| 亚洲精品国产区一区二| 欧美激情高清一区二区三区| 国产精品国产高清国产av | 黄色视频,在线免费观看| 黄色视频不卡| 亚洲精品国产一区二区精华液| 国产深夜福利视频在线观看| 亚洲色图 男人天堂 中文字幕| 激情在线观看视频在线高清 | 大型黄色视频在线免费观看| 咕卡用的链子| 99国产精品99久久久久| 中文字幕av电影在线播放| 人人妻人人爽人人添夜夜欢视频| 午夜成年电影在线免费观看| 中文欧美无线码| 日韩一卡2卡3卡4卡2021年| 久久久国产成人免费| 国产三级黄色录像| 久久亚洲精品不卡| 五月天丁香电影| 中文字幕人妻丝袜制服| 久久久国产精品麻豆| 欧美黑人精品巨大| 午夜福利在线免费观看网站| 国产精品一区二区在线不卡| 国产亚洲精品第一综合不卡| 国产成人av教育| 黄色视频在线播放观看不卡| 久久国产精品影院| 国产一区二区 视频在线| 丝袜人妻中文字幕| 国产一区二区在线观看av| 久久影院123| 欧美性长视频在线观看| 男人舔女人的私密视频| av欧美777| 波多野结衣av一区二区av| h视频一区二区三区| 午夜免费成人在线视频| 日韩 欧美 亚洲 中文字幕| 日韩制服丝袜自拍偷拍| 不卡av一区二区三区| 午夜久久久在线观看| 亚洲精品乱久久久久久| 十八禁人妻一区二区| 免费在线观看黄色视频的| 777久久人妻少妇嫩草av网站| 香蕉丝袜av| 午夜福利视频精品| 亚洲熟妇熟女久久| 免费在线观看日本一区| 国产精品二区激情视频| 最新美女视频免费是黄的| 男女无遮挡免费网站观看| 十分钟在线观看高清视频www| 男人舔女人的私密视频| 国产一区二区在线观看av| 老熟妇仑乱视频hdxx| 国产熟女午夜一区二区三区| 热re99久久精品国产66热6| 最新的欧美精品一区二区| 777久久人妻少妇嫩草av网站| 久久久久久久精品吃奶| 曰老女人黄片| 1024视频免费在线观看| av免费在线观看网站| 纵有疾风起免费观看全集完整版| 欧美性长视频在线观看| 亚洲一码二码三码区别大吗| 757午夜福利合集在线观看| 国产免费福利视频在线观看| 国产精品久久久久成人av| 91av网站免费观看| 国产精品国产高清国产av | 老司机午夜十八禁免费视频| 色在线成人网| 大片电影免费在线观看免费| 午夜福利一区二区在线看| www.熟女人妻精品国产| 美女高潮喷水抽搐中文字幕| 久久青草综合色| 日本黄色日本黄色录像| 久久 成人 亚洲| 国产欧美亚洲国产| 亚洲国产欧美网| 国产男女超爽视频在线观看| 一本综合久久免费| 亚洲一码二码三码区别大吗| 变态另类成人亚洲欧美熟女 | 日韩免费av在线播放| 精品国产乱码久久久久久小说| 好男人电影高清在线观看| 国产国语露脸激情在线看| 男人舔女人的私密视频| 十分钟在线观看高清视频www| 国产成人系列免费观看| 国产精品 欧美亚洲| 久热这里只有精品99| 免费av中文字幕在线| 蜜桃在线观看..| 国产在线精品亚洲第一网站| 亚洲精品美女久久久久99蜜臀| xxxhd国产人妻xxx| 91成年电影在线观看| 在线观看舔阴道视频| 国产有黄有色有爽视频| 亚洲午夜精品一区,二区,三区| 亚洲黑人精品在线| 精品少妇一区二区三区视频日本电影| 亚洲熟女精品中文字幕| 国产在线一区二区三区精| 国产成人免费观看mmmm| 日本欧美视频一区| 免费av中文字幕在线| 亚洲第一青青草原| 日日摸夜夜添夜夜添小说| 国产一区二区三区在线臀色熟女 | 黄色a级毛片大全视频| 亚洲精品粉嫩美女一区| 色综合婷婷激情| 丝袜美腿诱惑在线| 欧美精品亚洲一区二区| 国产色视频综合| 女同久久另类99精品国产91| 后天国语完整版免费观看| 久久婷婷成人综合色麻豆| 亚洲一区二区三区欧美精品| 99久久精品国产亚洲精品| 无限看片的www在线观看| 男女床上黄色一级片免费看| 日日爽夜夜爽网站| 日韩视频一区二区在线观看| 中文字幕最新亚洲高清| 精品少妇黑人巨大在线播放| 制服人妻中文乱码| a级片在线免费高清观看视频| 久久久国产一区二区| 久热这里只有精品99| 精品午夜福利视频在线观看一区 | 欧美日韩视频精品一区| 男男h啪啪无遮挡| 人妻一区二区av| 国产成人欧美在线观看 | 老熟女久久久| a级毛片在线看网站| 美国免费a级毛片| 日本欧美视频一区| av片东京热男人的天堂| 日韩免费av在线播放| 日本av免费视频播放| 女同久久另类99精品国产91| 国产av又大| 久久久精品区二区三区| 99热国产这里只有精品6| 一边摸一边抽搐一进一出视频| 视频在线观看一区二区三区| 欧美精品亚洲一区二区| 亚洲一卡2卡3卡4卡5卡精品中文| 下体分泌物呈黄色| 成人手机av| 成年版毛片免费区| 精品久久久久久久毛片微露脸| 国产在线精品亚洲第一网站| www.999成人在线观看| 国产成人精品久久二区二区免费| 五月开心婷婷网| 香蕉久久夜色| 中文字幕另类日韩欧美亚洲嫩草| 国产精品99久久99久久久不卡| av网站免费在线观看视频| 午夜两性在线视频| 高清毛片免费观看视频网站 | 国产一区二区三区在线臀色熟女 | 成人手机av| 午夜激情av网站| 欧美成狂野欧美在线观看| 久热爱精品视频在线9| 又大又爽又粗| 好男人电影高清在线观看| 久久久国产成人免费| 亚洲精品在线观看二区| 国产麻豆69| 国产又色又爽无遮挡免费看| 国产精品欧美亚洲77777| 人妻一区二区av| av天堂久久9| 人妻 亚洲 视频| 欧美国产精品一级二级三级| 日韩制服丝袜自拍偷拍| 一区二区av电影网| 亚洲熟女毛片儿| 十八禁人妻一区二区| 建设人人有责人人尽责人人享有的| 18禁黄网站禁片午夜丰满| 建设人人有责人人尽责人人享有的| 人人妻人人澡人人看| 女人被躁到高潮嗷嗷叫费观| 在线av久久热| 搡老岳熟女国产| 正在播放国产对白刺激| 日韩欧美三级三区| 亚洲精品国产色婷婷电影| 日韩欧美一区二区三区在线观看 | 国产色视频综合| 伊人久久大香线蕉亚洲五| tocl精华| 热re99久久精品国产66热6| 黄片大片在线免费观看| 一区二区三区激情视频| 一进一出抽搐动态| 成人国产一区最新在线观看| 亚洲国产中文字幕在线视频| 99re在线观看精品视频| 国产黄色免费在线视频| 中文亚洲av片在线观看爽 | 天天操日日干夜夜撸| 国产精品亚洲一级av第二区| 亚洲人成电影观看| 另类精品久久| 日本vs欧美在线观看视频| 97在线人人人人妻| 搡老乐熟女国产| 18禁国产床啪视频网站| 自拍欧美九色日韩亚洲蝌蚪91| 高清视频免费观看一区二区| 国精品久久久久久国模美| 久久中文字幕一级| 亚洲av片天天在线观看| 99国产精品一区二区蜜桃av | 成人永久免费在线观看视频 | 日本vs欧美在线观看视频| 一区福利在线观看| www.精华液| 女性生殖器流出的白浆| 看免费av毛片| 日本a在线网址| 欧美精品啪啪一区二区三区| 精品国产乱码久久久久久男人| 久热爱精品视频在线9| 亚洲五月婷婷丁香| 十八禁高潮呻吟视频| av片东京热男人的天堂| 大型黄色视频在线免费观看| 国产精品久久电影中文字幕 | 中文字幕制服av| 视频区图区小说| 亚洲国产看品久久| svipshipincom国产片| 成人免费观看视频高清| 欧美日韩国产mv在线观看视频| 亚洲精品自拍成人| 国产亚洲一区二区精品| 最新在线观看一区二区三区| 丁香欧美五月| 91麻豆av在线| 19禁男女啪啪无遮挡网站| 中文字幕高清在线视频| 一边摸一边抽搐一进一小说 | 日韩人妻精品一区2区三区| 亚洲熟女毛片儿| 免费不卡黄色视频| 午夜福利,免费看| 丰满少妇做爰视频| 色精品久久人妻99蜜桃| 久久人人97超碰香蕉20202| svipshipincom国产片| 人人妻人人澡人人爽人人夜夜| 一级毛片电影观看| 久久久欧美国产精品| 王馨瑶露胸无遮挡在线观看| 男女下面插进去视频免费观看| 国产一区二区三区视频了| 成人国语在线视频| 天堂动漫精品| 手机成人av网站| 18禁黄网站禁片午夜丰满| 在线永久观看黄色视频| 欧美乱码精品一区二区三区| 桃红色精品国产亚洲av| 国产精品久久久av美女十八| xxxhd国产人妻xxx| 久久亚洲真实| 丝瓜视频免费看黄片| 黄色丝袜av网址大全| 99国产综合亚洲精品| 黄网站色视频无遮挡免费观看| 女人精品久久久久毛片| 久久久精品免费免费高清| 亚洲av片天天在线观看| 亚洲精品久久成人aⅴ小说| 亚洲avbb在线观看| kizo精华| 国产1区2区3区精品| 男女之事视频高清在线观看| 国产亚洲av高清不卡| 国产成人一区二区三区免费视频网站| 亚洲欧美色中文字幕在线| 搡老乐熟女国产| 亚洲七黄色美女视频| 国产欧美日韩一区二区三区在线| 丰满人妻熟妇乱又伦精品不卡| 视频区欧美日本亚洲| 亚洲午夜精品一区,二区,三区| 亚洲国产av影院在线观看| 18禁国产床啪视频网站| 国产成人av激情在线播放| 国产成人精品无人区| 伊人久久大香线蕉亚洲五| 久久人妻av系列| 国产欧美亚洲国产| 中文字幕精品免费在线观看视频| av福利片在线| kizo精华| 欧美日韩国产mv在线观看视频| 波多野结衣一区麻豆|