• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    無人駕駛汽車電子化運(yùn)營:優(yōu)勢、法律風(fēng)險與規(guī)制

    2022-12-18 15:14:28張志堅曾曉梅
    行政管理改革 2022年1期
    關(guān)鍵詞:主體法律汽車

    張志堅 曾曉梅

    5G 時代的到來,為以無人駕駛汽車為代表的新興智能科技提供技術(shù)支持,迎來了新一輪的產(chǎn)業(yè)革新。近年來,英、德、美、日等國家紛紛出臺文件,旨在通過法律、政策上的支持來促進(jìn)無人駕駛汽車的發(fā)展,以在新一輪信息時代發(fā)展浪潮中占據(jù)高地。隨著人工智能(AI)發(fā)展浪潮再次涌現(xiàn),我國也陸續(xù)出臺多部文件以促進(jìn)無人駕駛汽車的發(fā)展和應(yīng)用。2021年3月,“十四五”規(guī)劃進(jìn)一步明確,要培育壯大人工智能、大數(shù)據(jù)等新興數(shù)字產(chǎn)業(yè),構(gòu)建基于5G 的應(yīng)用場景和產(chǎn)業(yè)生態(tài),在智能交通等重點(diǎn)領(lǐng)域開展試點(diǎn)示范。緊接著,《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例(征求意見稿)》發(fā)布,進(jìn)一步放寬智能網(wǎng)聯(lián)汽車道路測試和示范應(yīng)用條件。這意味著在不久的將來,無人駕駛汽車將大規(guī)模投入商用。在這一背景下,有學(xué)者預(yù)言“隨著5G 時代的來臨,區(qū)塊鏈將不可避免地與物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、AI 等技術(shù)產(chǎn)生接觸,而如何使它們更好地融合,進(jìn)而讓區(qū)塊鏈更好地服務(wù)于人類社會將是未來研究者們的一個重要方向”。[1]這為無人駕駛汽車的運(yùn)營選擇提供了技術(shù)契機(jī),借助區(qū)塊鏈技術(shù),以智能合約代替?zhèn)鹘y(tǒng)合同,搭建“人機(jī)互動”平臺,可實(shí)現(xiàn)電子化運(yùn)營,具有不可比擬的優(yōu)勢。同時,這種依托人工智能與區(qū)塊鏈技術(shù),以智能合約搭建的數(shù)字交易模式,也會因交易環(huán)境的復(fù)雜性以及算法執(zhí)行結(jié)果的不確定性而暗含一定法律風(fēng)險,如何對其運(yùn)營實(shí)現(xiàn)有效規(guī)制?理順汽車運(yùn)營商、數(shù)據(jù)運(yùn)營平臺、乘客以及智能系統(tǒng)研發(fā)者等主體之間的法律關(guān)系?這值得探討。

    一、電子化運(yùn)營:智能合約與無人駕駛汽車的融合

    無人駕駛汽車是人工智能在交通領(lǐng)域的典型代表,是自動駕駛汽車發(fā)展至L5 階段的產(chǎn)物,它的啟動、運(yùn)行完全依靠網(wǎng)絡(luò)系統(tǒng),無需外部人員干預(yù),即可通過網(wǎng)絡(luò)系統(tǒng)的算力,自主生成算法,實(shí)現(xiàn)汽車正常駕駛運(yùn)行。具體而言,無人駕駛汽車在運(yùn)行過程中,車主只需給出從A 點(diǎn)到B 點(diǎn)的指令,其他全由無人駕駛汽車自主完成,實(shí)現(xiàn)無需介入駕駛操作而完成出行的目的。因此,無人駕駛汽車具有高度自主性、安全性、共享性等特性,具有傳統(tǒng)汽車不可比擬的優(yōu)勢。同時,基于無人駕駛汽車全自動駕駛的“智能化”運(yùn)行模式,無人駕駛汽車需要車輛軟件所有者(研發(fā)者)、數(shù)據(jù)運(yùn)營平臺、硬件所有者(汽車運(yùn)營商)等主體共同配合才能實(shí)現(xiàn)自主運(yùn)行。①從技術(shù)模塊的角度出發(fā),無人駕駛汽車由車輛端(包括上下兩層)和云端(無人駕駛云平臺)構(gòu)成。從汽車構(gòu)造的角度出發(fā),無人駕駛汽車由車輛動力傳動系統(tǒng)、車輛懸掛系統(tǒng)、車輛轉(zhuǎn)向系統(tǒng)、車輛制動系統(tǒng)、汽車線控系統(tǒng)技術(shù)、CAN 總線技術(shù)構(gòu)成。而無人駕駛構(gòu)成要件的認(rèn)定既要考慮無人駕駛汽車本身的構(gòu)成特征,又要從便于解決無人駕駛汽車可能引發(fā)的法律問題出發(fā)。因此,無人駕駛汽車的構(gòu)成要件應(yīng)包括硬件、軟件、數(shù)據(jù)三部分。如此,乘客通過與運(yùn)營商達(dá)成協(xié)議,即能享受由運(yùn)營商提供的出行服務(wù)。鑒于這一特性,無人駕駛汽車在商業(yè)領(lǐng)域具有巨大的發(fā)展?jié)摿?。雖然對于無人駕駛汽車運(yùn)營模式的戰(zhàn)略選擇,目前還處于真空階段,但現(xiàn)有的“滴滴打車”“共享汽車”“網(wǎng)約車”等傳統(tǒng)汽車的運(yùn)營模式,即通過與乘客達(dá)成購買出行服務(wù)的電子協(xié)議,構(gòu)建權(quán)利義務(wù)關(guān)系,線上完成交易的模式,為無人駕駛汽車的運(yùn)營提供了借鑒。

    當(dāng)然,無人駕駛汽車與“滴滴打車”等運(yùn)營模式仍有區(qū)別,其作為人工智能的科技產(chǎn)物,具有自主性,它突破了傳統(tǒng)出行服務(wù)的人與人之間的法律關(guān)系,更加強(qiáng)調(diào)人與物之間的互動、溝通,以實(shí)現(xiàn)無人駕駛汽車的正常運(yùn)行。以“滴滴打車”為例,“滴滴打車”平臺以其掌握的數(shù)據(jù)信息,利用網(wǎng)絡(luò)平臺這個載體,搭建信息交換的溝通平臺,充當(dāng)“信用”媒介,促進(jìn)司機(jī)與乘客雙向選擇,達(dá)成出行服務(wù)協(xié)議,完成交易。從本質(zhì)上而言,出行服務(wù)的雙方當(dāng)事人是司機(jī)與乘客,而“滴滴平臺”只是一個中介機(jī)構(gòu),在司機(jī)違約的情況下,其作為第三方為乘客提供私力救濟(jì)服務(wù)。然而,無人駕駛汽車因其自身的“擅自”行為切斷了法律上人與人之間的因果關(guān)系,所以在運(yùn)營模式上需要實(shí)現(xiàn)“人機(jī)互動”,去人類中心化,構(gòu)建人與物的法律關(guān)系。

    目前,在技術(shù)領(lǐng)域,已經(jīng)有相當(dāng)一部分學(xué)者在關(guān)注AI 技術(shù)與區(qū)塊鏈技術(shù)的融合應(yīng)用,并在無人駕駛汽車應(yīng)用方面提出一種基于區(qū)塊鏈的車聯(lián)網(wǎng)節(jié)點(diǎn)數(shù)據(jù)安全通信模型(DSCM)。[2]也有學(xué)者提出區(qū)塊鏈技術(shù)在網(wǎng)聯(lián)云控自動駕駛系統(tǒng)上的應(yīng)用,利用區(qū)塊鏈構(gòu)建一種分層化、模塊化、去中心化、可持續(xù)發(fā)展的網(wǎng)聯(lián)云控自動駕駛系統(tǒng)。[3]但在法學(xué)領(lǐng)域,學(xué)者對于無人駕駛汽車與區(qū)塊鏈技術(shù)相互融合衍生出的法律問題,例如在法律上如何實(shí)現(xiàn)“人機(jī)互動”等問題,相關(guān)文獻(xiàn)比較少。其實(shí),AI 技術(shù)與區(qū)塊鏈技術(shù)的結(jié)合存在互補(bǔ)的潛力,[4]“區(qū)塊鏈技術(shù)”作為推動產(chǎn)業(yè)集成革新的另一新興技術(shù),影響著各行各業(yè)的發(fā)展。它起源于比特幣,是其底層技術(shù),成熟于數(shù)字貨幣。在2.0 階段又衍生出了“智能合約”——一種以人工智能可以“讀取”的計算機(jī)代碼語言,為“人機(jī)互動”搭建溝通橋梁,實(shí)現(xiàn)自我交易、自我驗(yàn)證、自動執(zhí)行的計算機(jī)程序。在運(yùn)行特點(diǎn)上,智能合約與無人駕駛汽車具有天然的互補(bǔ)關(guān)系,具體表現(xiàn)為:

    第一,算法融合。無人駕駛汽車以人工智能技術(shù)為依托,憑借大數(shù)據(jù)分析、計算,形成算法執(zhí)行。正因如此,無人駕駛汽車在運(yùn)行過程中,必須依靠計算機(jī)算力進(jìn)行海量的數(shù)據(jù)分析,同時需要具備安全、可靠的傳輸系統(tǒng),才能保證無人駕駛汽車穩(wěn)定運(yùn)行。然而,AI 算法在運(yùn)行過程中基于所需的數(shù)據(jù)存儲、訓(xùn)練過于中心化,算法在執(zhí)行過程中通常需要第三方的介入和管理,從而出現(xiàn)安全性不佳、缺乏激勵機(jī)制等問題,往往導(dǎo)致數(shù)據(jù)得不到足夠多的用戶信任和支持,繼而導(dǎo)致模型訓(xùn)練的精度受限等問題。[5]而區(qū)塊鏈技術(shù)作為一項(xiàng)分布式數(shù)據(jù)賬本技術(shù),其去中心化的運(yùn)行架構(gòu)及其分布式結(jié)構(gòu)和分布式特點(diǎn),與無人駕駛汽車“智能系統(tǒng)”算法融合,能實(shí)現(xiàn)更加完善的協(xié)同優(yōu)化決策。兩者在算法層面可以互補(bǔ)融合,為無人駕駛汽車的運(yùn)營提供技術(shù)保障。

    第二,共享性。區(qū)塊鏈技術(shù)具有去中心化、公開透明、安全高效等特點(diǎn),能為無人駕駛汽車運(yùn)營提供可靠的交易平臺。區(qū)塊鏈作為一項(xiàng)新興存儲技術(shù),具有更加廣泛的數(shù)據(jù)來源,不僅在架構(gòu)理念上凸顯了數(shù)據(jù)共享的特點(diǎn),而且與AI 技術(shù)的結(jié)合,可以為無人駕駛汽車的運(yùn)營提供信息資源。同時,其去中心化的架構(gòu),摒棄了第三方的介入與管理,實(shí)現(xiàn)了用戶之間互相信任并共享數(shù)據(jù),以龐大且可靠的數(shù)據(jù)集,提高了智能體決策的精度,運(yùn)行配置更加優(yōu)化。此外,區(qū)塊鏈去中心化的特性也為無人駕駛汽車提供了更加契合的交易模式,減少了第三方的監(jiān)管和溝通,其以智能合約搭建聯(lián)系,實(shí)現(xiàn)電子化運(yùn)營,為公眾提供更加快捷、安全的出行服務(wù)。

    第三,自主性。人工智能只具有弱自主性,[6]意味著無人駕駛汽車在現(xiàn)階段的“自主性”并不能達(dá)到與人類等同的“自由意志”,仍然需要借助外部機(jī)制來幫助無人駕駛汽車實(shí)現(xiàn)自我決策、自我運(yùn)行。區(qū)塊鏈技術(shù)中的智能合約應(yīng)用程序,也具有自動執(zhí)行的特點(diǎn),在本質(zhì)上也具有一定的“自主性”。具言之,智能合約通過內(nèi)部機(jī)制提前預(yù)設(shè)履行條件,一旦當(dāng)事人觸發(fā)條件,即可自動執(zhí)行,有效地降低了傳統(tǒng)合同帶來的履行風(fēng)險,與無人駕駛汽車的“自主性”相互配合,進(jìn)一步提高其自主運(yùn)行能力。因此,智能合約與無人駕駛汽車的融合應(yīng)用,屬于“強(qiáng)強(qiáng)聯(lián)合”,凸顯了人工智能的自主性,為無人駕駛汽車運(yùn)營的電子化提供切實(shí)保障。

    二、智能合約融入無人駕駛汽車運(yùn)營的優(yōu)勢

    無人駕駛汽車電子化運(yùn)營離不開智能合約的技術(shù)支撐。智能合約的本質(zhì)是將傳統(tǒng)合約變成一段可以自動執(zhí)行的程序,在合約形成之初,合約的創(chuàng)造者們應(yīng)就合約內(nèi)容進(jìn)行協(xié)商,此時的合約與傳統(tǒng)合約一樣從法律、商業(yè)等角度形成了一套行為規(guī)則,通過規(guī)則的觸發(fā)產(chǎn)生不同的結(jié)果。[7]由此可以看出,智能合約與傳統(tǒng)合同在本質(zhì)上并無二致。而智能合約成為無人駕駛汽車的運(yùn)營選擇,也并非偶然。這是由無人駕駛汽車自身特性決定的,同時也是由智能合約具有傳統(tǒng)合同所不具備的優(yōu)勢決定的。與傳統(tǒng)合同相比,智能合約具有以下優(yōu)勢:

    第一,區(qū)塊鏈技術(shù)建立了龐大且穩(wěn)定的數(shù)字社群,為規(guī)?;纳虡I(yè)交易模式提供了可信任、高效率的應(yīng)用場景。[8]區(qū)塊鏈技術(shù)由分布式存儲平臺和智能合約承載運(yùn)轉(zhuǎn),仰賴數(shù)字化系統(tǒng)進(jìn)行治理,實(shí)現(xiàn)點(diǎn)對點(diǎn)互聯(lián)互通,突破傳統(tǒng)中心化系統(tǒng)模式。具言之,區(qū)塊鏈技術(shù)應(yīng)用系統(tǒng)全年365 天無間斷運(yùn)轉(zhuǎn),每一筆買賣成功,區(qū)塊數(shù)據(jù)將自動加蓋時間戳,進(jìn)而利用加密算法計算出哈希值,每個區(qū)塊記載著上一個區(qū)塊哈希值,區(qū)塊順次前后首尾相接,構(gòu)成鏈?zhǔn)絽^(qū)塊形狀,為用戶提供了可溯及的分布式記賬技術(shù)。[9]因而,與傳統(tǒng)合同模式相比,智能合約融入無人駕駛汽車的運(yùn)營,不僅有著強(qiáng)大的區(qū)塊鏈技術(shù)系統(tǒng)為其保駕護(hù)航,利用分布式存儲技術(shù),確保合約的生成、履行等任何一個交易環(huán)節(jié)可追蹤,降低運(yùn)營及信用成本,而且智能合約部署于鏈上,可以打破傳統(tǒng)合同交易模式的“私密性”弊端,確保合同利益能通過這種公開透明的社群環(huán)境以更加安全、高度信任的方式實(shí)現(xiàn),有利于降低商業(yè)風(fēng)險,更好地實(shí)現(xiàn)無人駕駛汽車的高效運(yùn)營。

    第二,區(qū)塊鏈技術(shù)具有高度自治性、安全性等特性,與無人駕駛汽車電子化運(yùn)營理念高度耦合。區(qū)塊鏈技術(shù)與無人駕駛汽車都高度依賴網(wǎng)絡(luò)系統(tǒng),需要借助網(wǎng)絡(luò)算力,前者搭建交易平臺,后者搭建驅(qū)動平臺,為不特定群體提供各自的技術(shù)服務(wù),滿足用戶需求。無人駕駛汽車運(yùn)營以銷售出行服務(wù)來實(shí)現(xiàn)營利目的,此時區(qū)塊鏈技術(shù)利用虛擬貨幣技術(shù),在商業(yè)交易領(lǐng)域?qū)崿F(xiàn)了資金在互聯(lián)網(wǎng)自由流動,為無人駕駛汽車搭建更加便利、快捷、安全和高效的交易平臺,契合了無人駕駛汽車電子化運(yùn)營的理念,二者相輔相成,高度耦合。同時,區(qū)塊鏈技術(shù)下的智能合約改變了傳統(tǒng)合同模式的交易方式,提供了新的商談機(jī)制,降低了交易成本。在傳統(tǒng)的合同交易模式中,磋商、訂立合約、履行合約是交易活動中經(jīng)濟(jì)損耗占比最高的環(huán)節(jié)。而智能合約突破了傳統(tǒng)合同的交易模式,一方面憑借區(qū)塊鏈技術(shù),以其共識機(jī)制構(gòu)建了先天的信任基礎(chǔ),使得交易雙方無需第三方機(jī)制及監(jiān)管即可自行進(jìn)行溝通交流、自主磋商、商議交易規(guī)則和方式,實(shí)現(xiàn)了網(wǎng)絡(luò)化、便捷化的商談機(jī)制,有效地降低了交易成本。另一方面,智能合約本身具有不可篡改、不可撤回、變更、自動執(zhí)行等特性,[10]可以避免因合約變更、撤回等交易活動帶來的經(jīng)濟(jì)損耗,有效縮短交易時長,盡可能地降低交易成本,提高運(yùn)營效率。

    第三,智能合約的監(jiān)督和仲裁都由計算機(jī)根據(jù)預(yù)先制定的規(guī)則來完成,降低了違約風(fēng)險,有利于市場化運(yùn)營。智能合約的技術(shù)應(yīng)用是指利用代碼語言代替?zhèn)鹘y(tǒng)的條文形式,由自動化軟件表示和執(zhí)行。if/then 語句被編入智能合約應(yīng)用程序中,當(dāng)智能合約中輸入的預(yù)定義和雙方協(xié)議約定的條件得到滿足時,代碼片段就將執(zhí)行預(yù)設(shè)的任務(wù)。也就是說,智能合約是執(zhí)行合約條款的可計算交易協(xié)議,將人、法律合約和網(wǎng)絡(luò)三者之間的關(guān)系程序化了,[11]有利于解決傳統(tǒng)合同因合同訂立與執(zhí)行相分離而出現(xiàn)的“執(zhí)行難”問題。智能合約的訂立與履行是一體的,所有條款和執(zhí)行過程都是預(yù)先制定好的,一旦部署運(yùn)行,合約中的任何一方都不能單方面修改合約內(nèi)容以及干預(yù)合約的執(zhí)行,即可實(shí)現(xiàn)自我驗(yàn)證、自動執(zhí)行,排除了人為因素導(dǎo)致的不利影響,降低了違約風(fēng)險。具言之,合同履行條件一經(jīng)滿足,預(yù)設(shè)程序即自動從用戶賬戶劃撥同等數(shù)值的數(shù)字貨幣,以完成交易。這一編程技術(shù),比之傳統(tǒng)合同交易模式,可以有效減少惡賬拖欠,降低合同履行、申請裁決和強(qiáng)制執(zhí)行所產(chǎn)生的人力、物力成本,極大降低交易風(fēng)險。同時,區(qū)塊鏈技術(shù)的去中心化特性,意味著智能合約無須第三方中心機(jī)構(gòu)的參與,就能自主地通過網(wǎng)絡(luò)技術(shù)互聯(lián)互通,解決信息不對稱問題,實(shí)時響應(yīng)客戶需求,大大優(yōu)化了服務(wù)質(zhì)量。

    三、無人駕駛汽車電子化運(yùn)營的法律風(fēng)險

    無人駕駛汽車引入智能合約,搭建“人機(jī)互動”平臺,實(shí)現(xiàn)電子化運(yùn)營,雖有不可比擬的優(yōu)勢,但也存在不可忽視的法律風(fēng)險。在技術(shù)層面,電子化運(yùn)營需要在區(qū)塊鏈平臺部署智能合約,而智能合約的執(zhí)行結(jié)果常常都是確定的,而無人駕駛汽車算法執(zhí)行的結(jié)果通常是不確定的、隨機(jī)的,而且多數(shù)情況是難以預(yù)測的。這兩者間的矛盾對無人駕駛汽車嵌入智能合約用于執(zhí)行決策優(yōu)化形成了一定的挑戰(zhàn),[12]一旦發(fā)生爭議,例如發(fā)生交通事故時,應(yīng)如何認(rèn)定責(zé)任主體,此為其一。其二,智能合約一旦被部署到鏈上就無法進(jìn)行修改,而復(fù)雜的智能合約也易出現(xiàn)代碼錯誤、系統(tǒng)漏洞等問題,發(fā)生錯誤時該如何救濟(jì)?其三,即使事前對代碼進(jìn)行了詳細(xì)檢查,但無人駕駛汽車運(yùn)營并未完全脫離人工操作,仍存在人為干預(yù)風(fēng)險。此外,無人駕駛汽車電子化運(yùn)營還可能遭受外部的網(wǎng)絡(luò)黑客攻擊,調(diào)用外部合約版本,盜取數(shù)字貨幣等風(fēng)險。[13]也就是說,在區(qū)塊鏈平臺、網(wǎng)絡(luò)系統(tǒng)維護(hù)以及交易中,任何一個環(huán)節(jié)發(fā)生問題都有可能產(chǎn)生法律風(fēng)險。

    (一)不同層級主體之間權(quán)責(zé)難以厘定

    區(qū)塊鏈創(chuàng)設(shè)了一種新的行為模式,實(shí)質(zhì)是一種民事法律行為,涉及不同民事主體。但由于交易模式的改變,以特殊技術(shù)達(dá)到交易目的,導(dǎo)致參與主體很容易被隱藏或者被忽略。[14]在龐雜的合同關(guān)系之中,智能合約除了各方當(dāng)事人可能隸屬于不同層級的主體,各主體之間可能并沒有直接的技術(shù)關(guān)聯(lián)。因此,若發(fā)生爭議,在判定責(zé)任類型和責(zé)任分配時將會略顯復(fù)雜。[15]在計算機(jī)領(lǐng)域,學(xué)者認(rèn)為智能合約基本架構(gòu)包含數(shù)據(jù)層、傳輸層、智能合約主體、驗(yàn)證層、執(zhí)行層以及合約之上的應(yīng)用層這6 個要素。[16]在金融領(lǐng)域,學(xué)者認(rèn)為智能合約的運(yùn)行架構(gòu)主要依托數(shù)據(jù)層、規(guī)則層及應(yīng)用層,完成信息資源的數(shù)據(jù)整合,根據(jù)市場與客戶需求,進(jìn)行改造升級,以此提升市場交易效率及用戶滿意度。[17]智能合約在金融領(lǐng)域的運(yùn)行架構(gòu)與無人駕駛汽車運(yùn)營基本一致,也是由數(shù)據(jù)層、規(guī)則層、應(yīng)用層構(gòu)成。數(shù)據(jù)層,是智能合約運(yùn)行的數(shù)據(jù)庫,即區(qū)塊鏈技術(shù)利用大數(shù)據(jù)及云計算技術(shù)采集數(shù)據(jù)。規(guī)則層,主要集中區(qū)塊鏈技術(shù)在不同行業(yè)中實(shí)行去中心化自我管理,形成特定的交易規(guī)則與定價規(guī)則,統(tǒng)一傳送到銀行中心服務(wù)器。應(yīng)用層,主要針對客戶端及APP 應(yīng)用模式中,結(jié)合客戶需求及反饋,不斷更新系統(tǒng),優(yōu)化服務(wù)質(zhì)量。因而,相較于傳統(tǒng)運(yùn)營模式,無人駕駛汽車運(yùn)營借助的區(qū)塊鏈技術(shù),是由多個節(jié)點(diǎn)構(gòu)建而成的分布式記賬技術(shù)。這意味著智能合約的主體不再局限于合約的雙方當(dāng)事人,需要多個層級主體共同參與,例如數(shù)據(jù)層的核心開發(fā)組、其他服務(wù)器的所有者、智能合約的使用者等主體。雖然這一模式有利于保障交易安全,但由于是去中心化機(jī)制,缺乏第三方監(jiān)管,運(yùn)營環(huán)境更為復(fù)雜,牽涉更多利益主體,一旦因代碼錯誤、系統(tǒng)漏洞等情形而發(fā)生損害時,更加難以厘定法律關(guān)系,劃分責(zé)任主體。

    (二)自動履行機(jī)制的違約風(fēng)險

    智能合約為信任雙方之間提供了一套建立在代碼規(guī)則之上的糾紛解決機(jī)制,既可以在被信任一方發(fā)生違約情形時,系統(tǒng)自發(fā)觸動程序,執(zhí)行救濟(jì)措施,有效避免公力救濟(jì)的滯后性,亦可通過預(yù)先程序設(shè)定,免除權(quán)利人對私力救濟(jì)過當(dāng)?shù)膿?dān)憂。[18]正因如此,無人駕駛汽車運(yùn)營如果借助智能合約自我執(zhí)行的特性,可以有效減少交易成本,提高交易效率,實(shí)現(xiàn)大規(guī)模的商業(yè)運(yùn)營。然而,智能合約雖然在自動履行方面不可逆,但這不等于說智能合約不會違約。[19]也就是說,智能合約的自動履行機(jī)制同樣存在違約風(fēng)險。區(qū)塊鏈智能合約自動履行需要滿足預(yù)設(shè)的狀態(tài)條件,觸發(fā)自動履行機(jī)制。狀態(tài)條件以“if-then”句式編碼,一個智能合約包含多少此類句式,取決于交易場景及復(fù)雜度。[20]這意味著智能合約的自動履行預(yù)設(shè)條件,對于其履行方式、履行內(nèi)容等條件需要借助代碼語言轉(zhuǎn)化為計算機(jī)可識別的語言才能實(shí)現(xiàn)真正的自動履行。但履行分級當(dāng)然需要復(fù)雜的代碼設(shè)計,而復(fù)雜的代碼意味著錯誤發(fā)生率更高。即使融合人工智能,也頗為不易。[21]對于智能合約的違約救濟(jì)方式雖然已在程序代碼中被預(yù)先設(shè)置,即一方遭受合約項(xiàng)下或者之外的不利事項(xiàng),另一方將承擔(dān)相應(yīng)損害賠償責(zé)任,但這些都是比較簡單的法律關(guān)系。實(shí)踐是復(fù)雜多變的,如果這種不利事項(xiàng)是由代碼漏洞或其他設(shè)定的行為造成另一方財產(chǎn)損失,是否可以將其完整的賠償條款嵌入到智能合約中?在現(xiàn)有技術(shù)下,對于未預(yù)見及不可預(yù)見的不利事項(xiàng),基于該類型的條款中包含的變量和靈活性將很難轉(zhuǎn)化為智能合約代碼,甚至在未來很長時間是行不通的。[22]所以,智能合約的自動救濟(jì)機(jī)制并不完備,仍需借助公力救濟(jì)來規(guī)制違約風(fēng)險。

    (三)既有侵權(quán)規(guī)范體系面臨挑戰(zhàn)

    無人駕駛汽車運(yùn)營過程中,除了運(yùn)營商自擔(dān)的商業(yè)風(fēng)險以外,在侵權(quán)層面也存在法律風(fēng)險。例如,發(fā)生交通事故應(yīng)如何認(rèn)定責(zé)任主體?基于無人駕駛汽車對智能系統(tǒng)的依賴性及由多項(xiàng)產(chǎn)品共同構(gòu)成的特性,在交通出行服務(wù)中,若發(fā)生交通事故,就無法按照現(xiàn)有侵權(quán)責(zé)任法律認(rèn)定誰是民法典第1213 條規(guī)定的“機(jī)動車一方”。此外,在運(yùn)行支配方變成了智能系統(tǒng)后,其“過錯或過失”如何認(rèn)定,或者說該“過錯或過失”究竟應(yīng)歸責(zé)于誰,既有侵權(quán)法律規(guī)范難以抉擇。同樣,以無過錯責(zé)任為核心的產(chǎn)品責(zé)任中,對于重要相關(guān)軟硬件設(shè)施的提供者是否可以成為產(chǎn)品責(zé)任的主體,現(xiàn)行法律也同樣無法直接適用。按照“工具說”的觀點(diǎn),人工智能本質(zhì)上依賴算法,尚不具備人類獨(dú)立思考的意思和能力,不宜視為民事主體。[23]這也就是說,人工智能尚不能獨(dú)立享有權(quán)利、承擔(dān)義務(wù)。一旦發(fā)生損害,應(yīng)依據(jù)相關(guān)法律規(guī)定確定責(zé)任主體,由其制造者或管理者承擔(dān)責(zé)任。然而,無人駕駛汽車依賴算法形成自主決策,并且對周圍環(huán)境具有一定程度的自主判斷能力,所以由此造成的損害,既不是來自管理者,更不是來自制造者。如果按照這一理論,當(dāng)無人駕駛汽車在行駛過程中發(fā)生事故時,根據(jù)侵權(quán)規(guī)范體系的相關(guān)規(guī)定確定責(zé)任主體,由汽車的制造者或管理者來承擔(dān)責(zé)任,顯然有失偏頗,在法理上難以自洽。因?yàn)樗麄儗o人駕駛汽車“擅自”行為造成的損害或侵權(quán)并不存在過錯,行為與損害結(jié)果之間也無法構(gòu)成法律上的因果關(guān)系。進(jìn)而,有學(xué)者主張人工智能產(chǎn)品責(zé)任適用無過錯責(zé)任,由汽車的設(shè)計者(研發(fā)者)或生產(chǎn)者承擔(dān)責(zé)任。[24]但是,當(dāng)無人駕駛汽車發(fā)生事故、造成損害,而事故本身又難以解釋或者不能合理追溯到設(shè)計缺陷或者制造缺陷,或者損害是由設(shè)計者難以預(yù)測到的系統(tǒng)特殊經(jīng)歷(經(jīng)由“訓(xùn)練”后的算法)造成,這時候仍由設(shè)計者承擔(dān)責(zé)任將導(dǎo)致不公。[25]因此,如何處理無人駕駛汽車之類的自主機(jī)器造成的損害,既有侵權(quán)規(guī)范體系面臨挑戰(zhàn)。[26]

    四、無人駕駛汽車電子化運(yùn)營的法律規(guī)制

    (一)設(shè)立三級安全監(jiān)管體系

    智能合約的去中心化機(jī)制,雖然在一定程度上給予了更多自主性,但同樣也帶來了一定的風(fēng)險。缺乏第三方的管理,雖然交易、合規(guī)等成本減少,增加了篡改數(shù)據(jù)難度,但也不能完全避免不同層級主體相互聯(lián)結(jié)的可能性,造成用戶資產(chǎn)損失的風(fēng)險。這也說明智能合約需要加強(qiáng)管理與監(jiān)督。區(qū)塊鏈不是法外之地,也應(yīng)該受到法律規(guī)制。[27]技術(shù)的穩(wěn)定和安全是保障法律關(guān)系清晰的前提。2020年2月中國人民銀行發(fā)布《金融分布式賬本技術(shù)安全規(guī)范》,首次規(guī)定了金融分布式賬本技術(shù)的安全體系標(biāo)準(zhǔn),并提出了智能合約監(jiān)管要求,將按照監(jiān)管要求編碼寫入智能合約強(qiáng)制執(zhí)行,同時提供交易行為統(tǒng)計數(shù)據(jù),以評價智能合約服務(wù)的合規(guī)性。金融行業(yè)的標(biāo)準(zhǔn)同樣適用于提供服務(wù)的交通運(yùn)營行業(yè)。無人駕駛汽車智能合約運(yùn)營要安全運(yùn)行,需要確定智能合約的運(yùn)作結(jié)構(gòu)和每一具體步驟牽涉的主體,厘清適用于智能合約運(yùn)行和服務(wù)的法律標(biāo)準(zhǔn),在技術(shù)水平穩(wěn)定的前提下,確保算法能夠得出正確結(jié)果。也就是說,智能合約的事前部署必須嚴(yán)格把控、事中運(yùn)行必須實(shí)時監(jiān)測、事后救濟(jì)必須得到有效處理。而要實(shí)現(xiàn)這一目的,可以參照《金融分布式賬本技術(shù)安全規(guī)范》的監(jiān)管要求,設(shè)立三級安全監(jiān)管體系。第一級設(shè)監(jiān)管委員會(決策層),由核心開發(fā)組主導(dǎo),聯(lián)合運(yùn)營商、數(shù)據(jù)運(yùn)營平臺及智能系統(tǒng)研發(fā)者等多個機(jī)構(gòu)創(chuàng)建,負(fù)責(zé)審核和批準(zhǔn)無人駕駛汽車智能合約運(yùn)營系統(tǒng)的安全管理策略、風(fēng)險偏好以及其他關(guān)鍵事項(xiàng),實(shí)現(xiàn)平臺內(nèi)部安全治理。第二級設(shè)安全管理機(jī)構(gòu)(管理層),即監(jiān)管委員會下設(shè)的管理機(jī)構(gòu),由其他服務(wù)器的所有者共同參與,統(tǒng)領(lǐng)智能合約整個運(yùn)營系統(tǒng)的安全管理工作,組織協(xié)調(diào)相關(guān)成員的職責(zé)落實(shí),負(fù)責(zé)平臺日常管理工作的統(tǒng)籌和異常情況的應(yīng)急處置統(tǒng)籌。第三級設(shè)平臺日常管理團(tuán)隊和應(yīng)急團(tuán)隊(執(zhí)行層),即安全管理機(jī)構(gòu)下設(shè)的執(zhí)行機(jī)構(gòu),由智能系統(tǒng)研發(fā)員、網(wǎng)絡(luò)管理員、數(shù)據(jù)運(yùn)營管理員等成員組成,負(fù)責(zé)執(zhí)行安全管理機(jī)構(gòu)的指令。具言之,平臺日常管理團(tuán)隊負(fù)責(zé)智能合約整個運(yùn)營系統(tǒng)的安全監(jiān)管工作,監(jiān)測和管理用戶加入、退出、登記與驗(yàn)證等日常事務(wù),確保區(qū)塊鏈交易平臺正常運(yùn)行、用戶信息安全及財產(chǎn)安全,一旦發(fā)現(xiàn)異常,立馬關(guān)停交易,及時止損。同時,監(jiān)督各個層級主體各司其職,嚴(yán)格把控用戶訪問、智能合約的部署行為等內(nèi)容,防止惡意部署。應(yīng)急團(tuán)隊則負(fù)責(zé)緊急事件的應(yīng)急處置,并聯(lián)系相應(yīng)人員進(jìn)行處理,例如黑客入侵時,及時聯(lián)系相關(guān)人員進(jìn)行處理,修復(fù)合約漏洞,追回用戶資產(chǎn),確保消費(fèi)者資產(chǎn)安全。

    (二)明確違約救濟(jì)方式

    無人駕駛汽車在未來大規(guī)模商用過程中借助智能合約可實(shí)現(xiàn)電子化運(yùn)營。智能合約的自動執(zhí)行機(jī)制雖然具有傳統(tǒng)合同運(yùn)營不可比擬的優(yōu)勢,可以有效降低違約風(fēng)險,但并不會永遠(yuǎn)消除當(dāng)事人違約的可能性。例如,一旦智能合約觸發(fā)履行,但履行義務(wù)的產(chǎn)品不符合要求,消費(fèi)者應(yīng)當(dāng)如何救濟(jì)?基于這些不利事項(xiàng),有學(xué)者認(rèn)為智能合約平臺只提供技術(shù),而沒有完備的救濟(jì)體系。[28]因此,明確違約救濟(jì)方式在無人駕駛汽車運(yùn)營場景中仍有必要。智能合約作為民事合同,傳統(tǒng)合同救濟(jì)途徑一致,有私力救濟(jì)與公力救濟(jì)兩種方式。私力救濟(jì)指當(dāng)事人自主行為,即智能合約違約處理機(jī)制,自行在區(qū)塊鏈平臺進(jìn)行磋商解決。私力救濟(jì)方式可以借鑒ODR 解決機(jī)制,當(dāng)一方不履行義務(wù)或履行義務(wù)不符合約定時,消費(fèi)者可以申請在線協(xié)商,先在平臺上聯(lián)系運(yùn)營商解決,運(yùn)營商積極配合以化解糾紛。[29]如果運(yùn)營商與消費(fèi)者在線協(xié)商無法達(dá)成和解。一方可以將爭議提交至監(jiān)管委員會,進(jìn)行平臺內(nèi)部在線裁定,為消費(fèi)者提供爭議解決服務(wù)。如果是消費(fèi)者自身過錯造成的違約由消費(fèi)者自行承擔(dān),如果是運(yùn)營商存在過錯則由運(yùn)營商承擔(dān)違約責(zé)任。當(dāng)然,為了避免公器私用,這一解決機(jī)制的適用僅限于監(jiān)管委員會不屬于糾紛當(dāng)事人之一的情形。有學(xué)者提出還可參考The Dao 事件的硬分叉方案,利用一些技術(shù)手段在合同違約時,對當(dāng)事人提供救濟(jì)。[30]但該學(xué)者對于具體如何處理,并沒有提供可行的解決方案。也有學(xué)者認(rèn)為智能合約可以默認(rèn)包含仲裁機(jī)制或回滾條款,直接在區(qū)塊鏈上執(zhí)行,為私人糾紛解決建立一個常規(guī)的渠道。[31]提前自動部署救濟(jì)機(jī)制確有優(yōu)勢,也能為公力救濟(jì)提供借鑒。但是,智能合約具有去中心化、自動執(zhí)行的特點(diǎn),所以在糾紛解決機(jī)制上,仲裁機(jī)構(gòu)、法院等外部機(jī)制難以介入,進(jìn)而增加了消費(fèi)者尋求救濟(jì)的難度。因而,為確保消費(fèi)者權(quán)利救濟(jì)的可能,當(dāng)平臺方作為糾紛當(dāng)事人之一時,私力救濟(jì)已無法滿足消費(fèi)者的救濟(jì)需求,應(yīng)借助公力救濟(jì)方式進(jìn)行處理,保留法院的最終管轄權(quán),由發(fā)生爭議的當(dāng)事人向法院或仲裁機(jī)構(gòu)尋求救濟(jì),以撤銷智能合約。此時,區(qū)塊鏈平臺方應(yīng)為法院或仲裁機(jī)構(gòu)提供必要的協(xié)助義務(wù),給予技術(shù)支持,配合調(diào)查取證以及判決執(zhí)行等司法工作,共同解決糾紛,保證消費(fèi)者獲得充分救濟(jì)。同時,智能合約漏洞、代碼錯誤等技術(shù)缺陷引發(fā)的糾紛,消費(fèi)者顯然無法承擔(dān)舉證責(zé)任,應(yīng)由平臺方承擔(dān)舉證責(zé)任并承擔(dān)無過錯責(zé)任。

    (三)賦予無人駕駛汽車電子法人地位

    無人駕駛汽車運(yùn)營存在商用、公用、自用等應(yīng)用場景,這里主要探討在商業(yè)運(yùn)營中,侵權(quán)責(zé)任主體的認(rèn)定。不少學(xué)者試圖通過對無人駕駛汽車法律地位的探究來明確無人駕駛汽車責(zé)任主體,出現(xiàn)了“法律人格肯定說”“法律人格否定說”及“有限法律人格說”等學(xué)說。法律人格肯定說主張關(guān)于無人駕駛汽車的法律地位可以借鑒法人、非法人組織的法律主體地位,認(rèn)為可以將無人駕駛汽車擬制為法律上的主體,獨(dú)立地享有民事權(quán)利,履行民事義務(wù)。[32]法律人格否定說認(rèn)為不能也不必賦予無人駕駛汽車獨(dú)立的法律主體資格,無人駕駛汽車始終具備“工具”屬性,其本質(zhì)上仍為客體。[33]也有學(xué)者認(rèn)為人工智能既不是法律主體,也不是法律客體,而是研發(fā)者、制造者和使用者的法律行為。[34]有限法律人格說認(rèn)為鑒于無人駕駛汽車的特殊性,我們不能簡單地將無人駕駛汽車定位為法律主體或物,而應(yīng)在綜合考慮現(xiàn)有技術(shù)與法律規(guī)范體系的基礎(chǔ)上,在特定領(lǐng)域中賦予無人駕駛汽車民事權(quán)利能力和民事行為能力,并在一定條件下承擔(dān)民事責(zé)任。[35]其實(shí),民事主體只是社會需要的法律形式,法律對民事主體的承認(rèn)是基于現(xiàn)實(shí)需要,生命和倫理并非成為民事主體的必然要求,從簡化交易和權(quán)責(zé)分擔(dān)等現(xiàn)實(shí)需要角度出發(fā),可以將人工智能擬制為電子法人。[36]

    要確定無人駕駛汽車電子化運(yùn)營中的責(zé)任主體,首先應(yīng)先明確智能合約的當(dāng)事人是誰。在傳統(tǒng)的商業(yè)運(yùn)營中,共享汽車交通事故中,所涉主體主要為共享汽車運(yùn)營商、共享汽車駕駛?cè)?、租賃合同以外的第三人;在網(wǎng)約車交通事故中,所涉主體主要包含司機(jī)、乘客、網(wǎng)約車平臺、網(wǎng)約車客運(yùn)合同外的第三人。[37]基于無人駕駛汽車運(yùn)行過程中人為因素干預(yù)的可能性趨近于零,司機(jī)這一主體將不復(fù)存在。因而,與傳統(tǒng)的商業(yè)運(yùn)營不同,在無人駕駛汽車商業(yè)運(yùn)營中,不管是共享汽車還是網(wǎng)約車,在交通事故中所涉主體主要為乘客、無人駕駛汽車運(yùn)營商、數(shù)據(jù)運(yùn)營平臺、智能系統(tǒng)研發(fā)者以及合同外的第三人。在區(qū)塊鏈平臺中,乘客與無人駕駛汽車運(yùn)營商之間達(dá)成合意,簽訂智能合約,設(shè)立權(quán)利義務(wù)關(guān)系。此時,如果發(fā)生交通事故,對合同外的第三人(例如行人)致害,按照傳統(tǒng)的歸責(zé)理論,應(yīng)由汽車駕駛員承擔(dān)侵權(quán)責(zé)任。而無人駕駛汽車“擅自”行為切斷了法律上的因果關(guān)系,不存在“駕駛員”這一角色。雖然乘客作為實(shí)際使用者,享受了無人駕駛汽車的運(yùn)行利益,但無人駕駛汽車的使用者并非“手握方向盤”可以自行決定車輛的行進(jìn)方向和行進(jìn)速度的人,在車輛的運(yùn)行過程中并不享有運(yùn)行控制權(quán),而是表現(xiàn)為與運(yùn)營商簽訂智能合約后啟用車輛的權(quán)利、在特定時間段內(nèi)自行決定起始點(diǎn)和目的地等權(quán)利,即“人隨車走”。

    所以,在無人駕駛汽車運(yùn)營模式下,使用者并無過錯,不應(yīng)承擔(dān)侵權(quán)責(zé)任。而智能系統(tǒng)實(shí)際控制著車輛的運(yùn)行,所以似乎是研發(fā)者發(fā)揮了間接操控駕駛行為的作用。根據(jù)運(yùn)行支配和運(yùn)行利益理論,似乎由智能系統(tǒng)的研發(fā)者承擔(dān)責(zé)任更為合適。然而,在具體的運(yùn)營環(huán)境中,無人駕駛汽車致害成因很復(fù)雜,至少關(guān)涉三方主體,即運(yùn)營商、數(shù)據(jù)運(yùn)營平臺及研發(fā)者。具言之,運(yùn)營商作為無人駕駛汽車硬件的所有者,同時也是智能系統(tǒng)的使用者,負(fù)有對無人駕駛汽車進(jìn)行“訓(xùn)練”義務(wù),與無人駕駛汽車的“后天行為”密切相關(guān);數(shù)據(jù)運(yùn)營平臺掌握著無人駕駛汽車運(yùn)行的數(shù)據(jù)來源,負(fù)責(zé)提供道路建設(shè)、實(shí)時路況等數(shù)據(jù)信息,無人駕駛汽車實(shí)時而為的行為離不開其所提供數(shù)據(jù)的支撐;研發(fā)者負(fù)責(zé)部署智能系統(tǒng),進(jìn)而操控汽車運(yùn)行?;谥悄芟到y(tǒng)(軟件)的特性,研發(fā)者一般只許可他人使用,所有權(quán)仍保留在自己手中,所以其作為軟件所有權(quán)人,與無人駕駛汽車的“先天行為”密切相關(guān)。[38]這三方主體的資源整合構(gòu)建了無人駕駛汽車的基本運(yùn)行架構(gòu),即無人駕駛汽車正常上路,必須在運(yùn)營商掌控汽車硬件的基礎(chǔ)上,安裝智能系統(tǒng),由數(shù)據(jù)運(yùn)營平臺提供實(shí)時數(shù)據(jù)信息,以確保智能系統(tǒng)能夠進(jìn)行分析、學(xué)習(xí),形成算法口令,才能實(shí)現(xiàn)自主運(yùn)行。而且,這三方主體分別對應(yīng)為無人駕駛汽車之構(gòu)成要件,即軟件、硬件和數(shù)據(jù)的所有權(quán)人或控制人,其作為共同所有權(quán)人理應(yīng)共同分?jǐn)傆蔁o人駕駛汽車自主行為產(chǎn)生的風(fēng)險和收益。也就是說,無人駕駛汽車“擅自”而為的自主行為,與運(yùn)營商、數(shù)據(jù)運(yùn)營平臺以及智能系統(tǒng)研發(fā)者均無法律上的直接因果關(guān)系,但均有密不可分的間接作用力,不是任何一個單獨(dú)主體能夠完全決定的,而是他們混合意志的結(jié)果。如果發(fā)生致害行為,一味苛求研發(fā)者承擔(dān)全部責(zé)任并不合理。其實(shí),基于運(yùn)營商對其旗下無人駕駛汽車硬件享有所有權(quán)或控制權(quán),意味著運(yùn)營商對于投入市場運(yùn)營的汽車具有選擇權(quán)、知情權(quán),同時對汽車負(fù)有管理義務(wù),相比于研發(fā)者和數(shù)據(jù)運(yùn)營平臺,運(yùn)營商也享受著更多的運(yùn)行利益。根據(jù)運(yùn)行支配和運(yùn)行利益理論,汽車運(yùn)營商更有義務(wù)承擔(dān)責(zé)任。如果致害了,僅追究智能系統(tǒng)研發(fā)者的產(chǎn)品責(zé)任,而產(chǎn)生收益了,卻由運(yùn)營商獨(dú)享,此舉難謂公平公正。[39]因此,相對于“法律人格否定說”“有限法律人格說”等觀點(diǎn),將人工智能擬制為電子法人更具可行性。由運(yùn)營商、數(shù)據(jù)運(yùn)營平臺、智能系統(tǒng)研發(fā)者共同出資成為電子法人的股東,將該多方利益主體的意志糅雜在一起,與乘客簽訂智能合約,由其共享收益、共擔(dān)風(fēng)險,既能實(shí)現(xiàn)責(zé)任有限、權(quán)責(zé)相稱并按比例分?jǐn)偟哪康?,也能簡化交易?/p>

    五、結(jié)語

    無人駕駛汽車發(fā)展至L5 階段,具有自主性,為社會公眾帶來了更加便利的出行方式,在商用領(lǐng)域具有巨大的潛力?!渡钲诮?jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例(征求意見稿)》第11條“高度自動駕駛和完全自動駕駛的智能網(wǎng)聯(lián)汽車……,可以不配備駕駛?cè)恕钡囊?guī)定,預(yù)示著無人駕駛時代的到來。而要實(shí)現(xiàn)電子化運(yùn)營,無人駕駛汽車可借助區(qū)塊鏈技術(shù),以智能合約代替?zhèn)鹘y(tǒng)合同,搭建“人機(jī)互動”平臺,實(shí)現(xiàn)自主運(yùn)行。新事物的發(fā)展,前景是光明的,但道路是曲折的。無人駕駛汽車未來投入商業(yè)運(yùn)營還將面臨諸多新的難題,需要我們從前瞻性的角度提供一些法律思考。

    猜你喜歡
    主體法律汽車
    論自然人破產(chǎn)法的適用主體
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    汽車的“出賣”
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    汽車們的喜怒哀樂
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    論多元主體的生成
    3D 打印汽車等
    決策探索(2014年21期)2014-11-25 12:29:50
    讓法律做主
    浙江人大(2014年5期)2014-03-20 16:20:27
    少妇猛男粗大的猛烈进出视频 | 一进一出抽搐gif免费好疼| 国产色爽女视频免费观看| 性色avwww在线观看| 亚洲精品色激情综合| 国产成人精品久久久久久| 在线播放无遮挡| 精品午夜福利视频在线观看一区| 俺也久久电影网| 亚洲aⅴ乱码一区二区在线播放| 免费电影在线观看免费观看| 久久久久久九九精品二区国产| 日韩精品中文字幕看吧| 可以在线观看毛片的网站| 麻豆精品久久久久久蜜桃| 久久九九热精品免费| 性色avwww在线观看| 一个人免费在线观看电影| 日韩三级伦理在线观看| 男女做爰动态图高潮gif福利片| 亚洲欧美日韩无卡精品| 欧美最新免费一区二区三区| 天天一区二区日本电影三级| 亚洲第一电影网av| 亚洲国产精品久久男人天堂| 国产美女午夜福利| 亚洲精品久久国产高清桃花| av在线天堂中文字幕| 国产精品日韩av在线免费观看| 九色成人免费人妻av| 久久久久久久久久黄片| 九九久久精品国产亚洲av麻豆| 国产黄a三级三级三级人| a级毛片免费高清观看在线播放| 欧美日韩在线观看h| 国产在线精品亚洲第一网站| 最近的中文字幕免费完整| 在线观看午夜福利视频| 天美传媒精品一区二区| 一级毛片电影观看 | 在线观看av片永久免费下载| 少妇高潮的动态图| 精品久久久久久久人妻蜜臀av| 在线播放国产精品三级| 精品人妻一区二区三区麻豆 | 国产精品伦人一区二区| 日本黄色片子视频| 国产人妻一区二区三区在| 麻豆国产av国片精品| 一个人观看的视频www高清免费观看| 国产一区二区亚洲精品在线观看| 不卡一级毛片| 欧美+日韩+精品| 淫妇啪啪啪对白视频| 国产成人影院久久av| 欧美一区二区国产精品久久精品| 少妇丰满av| 国产 一区精品| 色在线成人网| 成人三级黄色视频| 欧美最新免费一区二区三区| 人妻制服诱惑在线中文字幕| 伊人久久精品亚洲午夜| 国产在线男女| 成人美女网站在线观看视频| 色播亚洲综合网| 看非洲黑人一级黄片| 超碰av人人做人人爽久久| 欧美区成人在线视频| 亚洲精品一卡2卡三卡4卡5卡| 看免费成人av毛片| 欧美不卡视频在线免费观看| 波野结衣二区三区在线| 少妇熟女aⅴ在线视频| 在线播放无遮挡| 亚洲性久久影院| 亚洲欧美日韩东京热| 国产亚洲精品综合一区在线观看| 联通29元200g的流量卡| 欧美成人免费av一区二区三区| 非洲黑人性xxxx精品又粗又长| 亚洲精品色激情综合| 亚洲国产精品sss在线观看| 最好的美女福利视频网| av在线观看视频网站免费| 日韩精品青青久久久久久| 91午夜精品亚洲一区二区三区| av.在线天堂| 日本熟妇午夜| 亚洲成av人片在线播放无| 99热这里只有是精品50| 国内精品久久久久精免费| 久久久久精品国产欧美久久久| 午夜精品国产一区二区电影 | 久久精品国产亚洲网站| 伊人久久精品亚洲午夜| 国产大屁股一区二区在线视频| 级片在线观看| 啦啦啦观看免费观看视频高清| 一卡2卡三卡四卡精品乱码亚洲| 狂野欧美白嫩少妇大欣赏| 日本一二三区视频观看| 毛片一级片免费看久久久久| 久久6这里有精品| 91在线精品国自产拍蜜月| 两个人视频免费观看高清| 校园人妻丝袜中文字幕| 久久综合国产亚洲精品| 国产精品,欧美在线| 国产av在哪里看| 日韩欧美 国产精品| av在线观看视频网站免费| 国产真实伦视频高清在线观看| 久久婷婷人人爽人人干人人爱| www.色视频.com| 九九久久精品国产亚洲av麻豆| 久久久久久久久久黄片| 色综合亚洲欧美另类图片| 日本色播在线视频| 美女大奶头视频| 久久精品夜夜夜夜夜久久蜜豆| 男人舔女人下体高潮全视频| 悠悠久久av| 精品不卡国产一区二区三区| av在线观看视频网站免费| 色哟哟哟哟哟哟| 婷婷亚洲欧美| 白带黄色成豆腐渣| 国产精品一区二区三区四区免费观看 | 99久久无色码亚洲精品果冻| а√天堂www在线а√下载| 黄色视频,在线免费观看| 色哟哟·www| 亚洲性夜色夜夜综合| 欧美日韩乱码在线| 亚洲av熟女| 日韩亚洲欧美综合| 欧美色欧美亚洲另类二区| 日韩高清综合在线| 校园人妻丝袜中文字幕| 少妇猛男粗大的猛烈进出视频 | 中文字幕av在线有码专区| 亚洲在线观看片| 日本一本二区三区精品| 99久久成人亚洲精品观看| 免费一级毛片在线播放高清视频| 亚洲人成网站在线观看播放| 欧美潮喷喷水| 久久精品国产99精品国产亚洲性色| 亚洲人成网站高清观看| 色5月婷婷丁香| 麻豆久久精品国产亚洲av| av国产免费在线观看| 十八禁网站免费在线| 男女之事视频高清在线观看| 亚洲欧美日韩高清在线视频| 青春草视频在线免费观看| 欧美不卡视频在线免费观看| 大型黄色视频在线免费观看| 久久99热这里只有精品18| 男女做爰动态图高潮gif福利片| 亚洲自偷自拍三级| АⅤ资源中文在线天堂| 俄罗斯特黄特色一大片| 欧美成人a在线观看| 可以在线观看的亚洲视频| 桃色一区二区三区在线观看| 淫妇啪啪啪对白视频| 免费无遮挡裸体视频| 此物有八面人人有两片| 97人妻精品一区二区三区麻豆| 天堂√8在线中文| 国产精华一区二区三区| 欧美成人精品欧美一级黄| 欧美激情国产日韩精品一区| 日韩欧美精品v在线| 久久精品综合一区二区三区| 最近中文字幕高清免费大全6| 欧美成人一区二区免费高清观看| av女优亚洲男人天堂| 国内久久婷婷六月综合欲色啪| 欧美最黄视频在线播放免费| av福利片在线观看| 18禁黄网站禁片免费观看直播| 长腿黑丝高跟| 亚洲七黄色美女视频| 日本一二三区视频观看| 成人鲁丝片一二三区免费| 久久精品国产99精品国产亚洲性色| 联通29元200g的流量卡| 国产av一区在线观看免费| 成人精品一区二区免费| 亚洲精华国产精华液的使用体验 | 国模一区二区三区四区视频| 露出奶头的视频| 国产精品免费一区二区三区在线| 国产亚洲91精品色在线| 精品午夜福利在线看| 国产一区二区亚洲精品在线观看| 天美传媒精品一区二区| 毛片女人毛片| 午夜福利视频1000在线观看| 99国产精品一区二区蜜桃av| 美女xxoo啪啪120秒动态图| 男女之事视频高清在线观看| 亚洲av一区综合| 亚洲一级一片aⅴ在线观看| 亚洲乱码一区二区免费版| 亚洲精品一区av在线观看| 男人舔奶头视频| 亚洲美女视频黄频| 十八禁网站免费在线| av视频在线观看入口| 美女内射精品一级片tv| 国产人妻一区二区三区在| 狂野欧美白嫩少妇大欣赏| 能在线免费观看的黄片| 精品一区二区三区视频在线| 国产亚洲精品久久久com| 热99re8久久精品国产| 欧美另类亚洲清纯唯美| 亚洲最大成人中文| 亚洲乱码一区二区免费版| 成人特级av手机在线观看| 麻豆成人午夜福利视频| 欧美另类亚洲清纯唯美| 白带黄色成豆腐渣| 日韩制服骚丝袜av| 观看美女的网站| 久久午夜福利片| 免费看日本二区| 99热这里只有是精品50| 三级国产精品欧美在线观看| 黑人高潮一二区| 亚洲精品国产av成人精品 | 国产成人a区在线观看| 99热这里只有是精品50| 午夜精品一区二区三区免费看| 久久人妻av系列| 亚洲av中文字字幕乱码综合| 特级一级黄色大片| 亚洲电影在线观看av| 人妻夜夜爽99麻豆av| 国产免费一级a男人的天堂| 精品一区二区三区人妻视频| 中文字幕av成人在线电影| 在线天堂最新版资源| 久久久久久久久久成人| 日韩大尺度精品在线看网址| 欧美潮喷喷水| 淫妇啪啪啪对白视频| 中文字幕av在线有码专区| 黄色一级大片看看| 婷婷亚洲欧美| 伦理电影大哥的女人| 国内精品一区二区在线观看| 在线播放无遮挡| 欧美一级a爱片免费观看看| 国产v大片淫在线免费观看| 国产精品一二三区在线看| 国产91av在线免费观看| 久久精品夜夜夜夜夜久久蜜豆| 人人妻人人澡欧美一区二区| 村上凉子中文字幕在线| 村上凉子中文字幕在线| 少妇被粗大猛烈的视频| 亚洲乱码一区二区免费版| 国产精品,欧美在线| 久久99热这里只有精品18| 精品国产三级普通话版| 99久久中文字幕三级久久日本| 免费高清视频大片| 综合色丁香网| 国产亚洲av嫩草精品影院| 女的被弄到高潮叫床怎么办| 99精品在免费线老司机午夜| 亚洲欧美日韩东京热| 不卡一级毛片| 久久精品国产清高在天天线| 午夜福利在线观看吧| 欧美3d第一页| 天堂av国产一区二区熟女人妻| 麻豆久久精品国产亚洲av| 亚洲真实伦在线观看| 一进一出好大好爽视频| 综合色av麻豆| 久久久色成人| 尤物成人国产欧美一区二区三区| 国产毛片a区久久久久| 国产男靠女视频免费网站| 国产精品人妻久久久影院| 欧美zozozo另类| 国产日本99.免费观看| 亚洲中文日韩欧美视频| 国产三级中文精品| 久久久久久久午夜电影| 欧美xxxx性猛交bbbb| 免费观看精品视频网站| 亚洲电影在线观看av| 国产精品av视频在线免费观看| 亚洲av一区综合| 狂野欧美白嫩少妇大欣赏| 免费看光身美女| 日本 av在线| 久久久久国内视频| 亚洲第一电影网av| 婷婷亚洲欧美| 3wmmmm亚洲av在线观看| 嫩草影院新地址| 成年免费大片在线观看| 中国美白少妇内射xxxbb| 午夜福利在线在线| 成年女人永久免费观看视频| 亚洲成a人片在线一区二区| 亚洲性久久影院| 亚洲精品成人久久久久久| 性插视频无遮挡在线免费观看| 国产精品伦人一区二区| 人人妻人人澡人人爽人人夜夜 | 可以在线观看毛片的网站| 国产精品1区2区在线观看.| 国产精品久久久久久精品电影| 春色校园在线视频观看| 精品国内亚洲2022精品成人| 91午夜精品亚洲一区二区三区| 丰满乱子伦码专区| 在线免费观看不下载黄p国产| 精品久久久久久久人妻蜜臀av| 亚洲中文字幕日韩| 一级a爱片免费观看的视频| 乱人视频在线观看| 一级黄片播放器| 免费一级毛片在线播放高清视频| 国产一级毛片七仙女欲春2| 国产精品人妻久久久影院| 国模一区二区三区四区视频| 国产91av在线免费观看| 黄色配什么色好看| 国产精品久久久久久亚洲av鲁大| 久久久久久大精品| 少妇熟女欧美另类| 麻豆一二三区av精品| 波多野结衣高清无吗| 天堂√8在线中文| 午夜老司机福利剧场| 欧美极品一区二区三区四区| 小蜜桃在线观看免费完整版高清| 日韩一本色道免费dvd| 欧美日韩乱码在线| 久久精品国产亚洲av天美| 国产亚洲精品久久久久久毛片| 亚洲美女视频黄频| 久久久久国内视频| 国产在线男女| 99热网站在线观看| 久久久久性生活片| 婷婷亚洲欧美| 国产成人福利小说| 亚洲成人久久爱视频| 丝袜喷水一区| 国产精品综合久久久久久久免费| 偷拍熟女少妇极品色| 中文字幕人妻熟人妻熟丝袜美| 国产老妇女一区| 99热只有精品国产| 别揉我奶头~嗯~啊~动态视频| 少妇熟女aⅴ在线视频| 亚洲av美国av| 最近在线观看免费完整版| 精品国内亚洲2022精品成人| 日韩人妻高清精品专区| 一级毛片电影观看 | 色视频www国产| 欧美激情久久久久久爽电影| 一进一出好大好爽视频| 国产淫片久久久久久久久| 国产在视频线在精品| 人人妻人人澡人人爽人人夜夜 | 十八禁国产超污无遮挡网站| 国产精品综合久久久久久久免费| а√天堂www在线а√下载| 91久久精品电影网| АⅤ资源中文在线天堂| 美女高潮的动态| 亚洲,欧美,日韩| 国内精品美女久久久久久| 精品久久久久久久久av| 老司机福利观看| 国产高潮美女av| 亚洲五月天丁香| 日韩一区二区视频免费看| 成人三级黄色视频| 性色avwww在线观看| 赤兔流量卡办理| 少妇被粗大猛烈的视频| 午夜福利在线观看吧| 亚洲天堂国产精品一区在线| 又粗又爽又猛毛片免费看| 日韩高清综合在线| 中文资源天堂在线| 99久久精品热视频| 国产精品久久久久久av不卡| 一级av片app| 赤兔流量卡办理| 亚洲成人久久性| 少妇的逼好多水| 99在线视频只有这里精品首页| 精品久久久久久久人妻蜜臀av| 亚洲成人久久性| 有码 亚洲区| 能在线免费观看的黄片| 亚洲av成人精品一区久久| 大香蕉久久网| 亚洲精品在线观看二区| 欧美性猛交黑人性爽| 韩国av在线不卡| 啦啦啦韩国在线观看视频| 两个人的视频大全免费| 亚洲av成人av| 1024手机看黄色片| 在线国产一区二区在线| 色噜噜av男人的天堂激情| 99久久精品国产国产毛片| 久久人妻av系列| 国产爱豆传媒在线观看| 变态另类丝袜制服| aaaaa片日本免费| 色综合色国产| 久久精品夜夜夜夜夜久久蜜豆| 性色avwww在线观看| 日韩欧美在线乱码| 国产一区二区三区av在线 | 一级毛片电影观看 | 日本一本二区三区精品| 国产极品精品免费视频能看的| 久久久久久久午夜电影| 特大巨黑吊av在线直播| 老熟妇仑乱视频hdxx| videossex国产| 国产精品电影一区二区三区| 91av网一区二区| 简卡轻食公司| 免费av不卡在线播放| 免费看美女性在线毛片视频| 亚洲图色成人| 91午夜精品亚洲一区二区三区| 亚洲aⅴ乱码一区二区在线播放| 午夜日韩欧美国产| 久久久久久久久大av| 国产成人精品久久久久久| 少妇高潮的动态图| 亚洲精品粉嫩美女一区| 精品99又大又爽又粗少妇毛片| 在线观看av片永久免费下载| 岛国在线免费视频观看| 99久久精品一区二区三区| 久久精品国产自在天天线| 在现免费观看毛片| 18+在线观看网站| 国产精品一及| 久久久国产成人精品二区| 插逼视频在线观看| 国产高清有码在线观看视频| 波多野结衣巨乳人妻| 精品一区二区免费观看| 麻豆av噜噜一区二区三区| 日本免费一区二区三区高清不卡| 男人的好看免费观看在线视频| 日韩国内少妇激情av| 波多野结衣高清作品| 秋霞在线观看毛片| 免费av不卡在线播放| 淫秽高清视频在线观看| 亚洲久久久久久中文字幕| 日本黄大片高清| 搡老妇女老女人老熟妇| 乱码一卡2卡4卡精品| 成人毛片a级毛片在线播放| 日本爱情动作片www.在线观看 | 亚洲av二区三区四区| 色综合站精品国产| 欧洲精品卡2卡3卡4卡5卡区| 中文字幕av成人在线电影| 91久久精品国产一区二区成人| 日日摸夜夜添夜夜添小说| 男人舔女人下体高潮全视频| 在线免费十八禁| 日本成人三级电影网站| 欧美性猛交╳xxx乱大交人| 国产在线精品亚洲第一网站| 欧美bdsm另类| 在线免费十八禁| 又黄又爽又免费观看的视频| 麻豆国产97在线/欧美| 精品午夜福利视频在线观看一区| 国产高潮美女av| 美女内射精品一级片tv| 欧美人与善性xxx| 波多野结衣高清作品| 亚洲人成网站在线播| 少妇人妻一区二区三区视频| 久久午夜亚洲精品久久| 精品福利观看| 俄罗斯特黄特色一大片| 精品久久久久久久久久免费视频| 亚洲国产精品sss在线观看| 老司机影院成人| 国内精品一区二区在线观看| 亚洲精品粉嫩美女一区| 成年av动漫网址| 欧美+亚洲+日韩+国产| 亚洲成a人片在线一区二区| 99国产极品粉嫩在线观看| 亚洲四区av| 搞女人的毛片| 免费高清视频大片| 99久国产av精品| 12—13女人毛片做爰片一| 久久6这里有精品| 精品久久久久久久人妻蜜臀av| 久久这里只有精品中国| 韩国av在线不卡| 国产亚洲精品久久久久久毛片| 99九九线精品视频在线观看视频| 国产精品一区二区免费欧美| eeuss影院久久| aaaaa片日本免费| 国产高潮美女av| 国模一区二区三区四区视频| 内射极品少妇av片p| 国产一区二区激情短视频| av在线老鸭窝| 精品一区二区免费观看| 男人狂女人下面高潮的视频| 中文字幕av成人在线电影| 老司机影院成人| 欧美日韩综合久久久久久| 在线观看美女被高潮喷水网站| 日韩一区二区视频免费看| 色吧在线观看| 校园春色视频在线观看| 自拍偷自拍亚洲精品老妇| 国产真实乱freesex| 成人亚洲欧美一区二区av| 岛国在线免费视频观看| 亚洲欧美成人精品一区二区| 长腿黑丝高跟| 国产色爽女视频免费观看| 热99在线观看视频| 成人亚洲精品av一区二区| 午夜福利高清视频| 男人和女人高潮做爰伦理| 欧美日韩综合久久久久久| 亚洲av熟女| 亚洲国产日韩欧美精品在线观看| 哪里可以看免费的av片| 中文在线观看免费www的网站| 97人妻精品一区二区三区麻豆| 三级毛片av免费| 在线观看av片永久免费下载| 日韩亚洲欧美综合| 1000部很黄的大片| 麻豆成人午夜福利视频| 在线观看66精品国产| 日日干狠狠操夜夜爽| 欧美日本视频| 国产一区二区激情短视频| 精品久久久噜噜| 亚洲综合色惰| 别揉我奶头 嗯啊视频| 少妇人妻一区二区三区视频| 国产麻豆成人av免费视频| 色哟哟哟哟哟哟| 俺也久久电影网| 日本成人三级电影网站| 免费人成视频x8x8入口观看| 特级一级黄色大片| 亚洲精品国产成人久久av| 国产探花在线观看一区二区| 91麻豆精品激情在线观看国产| 亚洲人成网站在线播| 少妇人妻一区二区三区视频| 免费在线观看成人毛片| 一区二区三区高清视频在线| 给我免费播放毛片高清在线观看| 免费av不卡在线播放| 亚洲aⅴ乱码一区二区在线播放| 伦精品一区二区三区| or卡值多少钱| 亚洲人成网站在线观看播放| 国产精品日韩av在线免费观看| 亚洲在线观看片| av免费在线看不卡| 国产av一区在线观看免费| 搡女人真爽免费视频火全软件 | 亚洲一区高清亚洲精品| 久久久午夜欧美精品| 韩国av在线不卡| 人人妻,人人澡人人爽秒播| 久久精品国产亚洲网站| 波多野结衣高清无吗| 久久人人爽人人片av| 此物有八面人人有两片| 桃色一区二区三区在线观看| 婷婷色综合大香蕉| 男女那种视频在线观看| 色综合站精品国产| 欧美绝顶高潮抽搐喷水| 日本爱情动作片www.在线观看 | 国产成年人精品一区二区| 乱码一卡2卡4卡精品| 免费电影在线观看免费观看| 亚洲图色成人| 草草在线视频免费看| 欧洲精品卡2卡3卡4卡5卡区|