• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論智能網(wǎng)聯(lián)汽車發(fā)展的法律障礙與應(yīng)對

    2023-06-19 16:20:49楊珊張莎莎
    關(guān)鍵詞:智能網(wǎng)交通事故駕駛員

    楊珊 張莎莎

    摘 要: 智能網(wǎng)聯(lián)汽車市場準入規(guī)則不統(tǒng)一、交通事故侵權(quán)賠償責任主體不明確、對海量運行數(shù)據(jù)的監(jiān)管機制難實施,是目前我國智能網(wǎng)聯(lián)汽車法律環(huán)境建設(shè)中亟需解決的關(guān)鍵問題。發(fā)展智能網(wǎng)聯(lián)汽車需要對接已有法律規(guī)范并結(jié)合智能網(wǎng)聯(lián)汽車的技術(shù)特點,建立智能網(wǎng)聯(lián)汽車行駛運營的統(tǒng)一準入制度,明確智能網(wǎng)聯(lián)汽車高度自動化運行狀態(tài)下交通事故的企業(yè)主體責任,建立智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全風險監(jiān)管的法律規(guī)范和技術(shù)標準雙層治理模式,通過合理的制度設(shè)計為新技術(shù)的快速應(yīng)用提供法治保障。

    關(guān)鍵詞: 智能網(wǎng)聯(lián)汽車;自動駕駛;交通事故;數(shù)據(jù)安全;車聯(lián)網(wǎng);產(chǎn)業(yè)升級;人工智能;交通法

    收稿日期: 2022-05-16

    作者簡介: 楊 珊,西南交通大學公共管理學院副教授,博士,主要從事經(jīng)濟法、勞動法和社會保障法研究,E-mail:yangshan233@126.com;張莎莎,西南交通大學公共管理學院。

    人工智能、大數(shù)據(jù)和物聯(lián)網(wǎng)等技術(shù)同汽車產(chǎn)業(yè)相結(jié)合極大地促進了汽車產(chǎn)業(yè)的智能化、網(wǎng)聯(lián)化。這些顛覆性技術(shù)的應(yīng)用不僅改變了傳統(tǒng)的汽車技術(shù)和產(chǎn)業(yè),對現(xiàn)行的法律規(guī)范也形成了前所未有的沖擊,現(xiàn)有的法律制度在車輛準入標準、交通事故責任主體、數(shù)據(jù)泄露和不當使用的安全風險等關(guān)鍵問題上面臨著挑戰(zhàn)。智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)的快速健康發(fā)展需要修改不適合智能網(wǎng)聯(lián)汽車發(fā)展的法律規(guī)定,建立智能網(wǎng)聯(lián)汽車行駛運營的統(tǒng)一準入和運行規(guī)則,根據(jù)智能網(wǎng)聯(lián)汽車自動化程度制定分級的交通事故責任主體制度,同時根據(jù)智能網(wǎng)聯(lián)汽車數(shù)據(jù)的特點,建立法律規(guī)范和技術(shù)標準雙層治理的模式來監(jiān)管智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全風險,通過合理的制度設(shè)計為新技術(shù)的快速應(yīng)用提供法律保障。

    一、智能網(wǎng)聯(lián)汽車發(fā)展中的法律障礙

    當前智能網(wǎng)聯(lián)汽車技術(shù)的發(fā)展和應(yīng)用前景為我國汽車工業(yè)的升級轉(zhuǎn)型帶來了重大發(fā)展機遇,中央也高度重視智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)的發(fā)展,推出了一系列的規(guī)劃和政策。然而,當前的法律體系中仍然存在著不利于智能網(wǎng)聯(lián)汽車發(fā)展和應(yīng)用的法律障礙,有必要根據(jù)智能網(wǎng)聯(lián)汽車的技術(shù)特征和應(yīng)用前景,前瞻性地分析和探索如何完善智能網(wǎng)聯(lián)汽車的法律規(guī)范,為新技術(shù)在汽車行業(yè)的推廣和應(yīng)用掃清法律障礙。

    智能網(wǎng)聯(lián)汽車,亦稱自動駕駛汽車,是指搭載先進的車載傳感器、控制器、執(zhí)行器等裝置,并融合現(xiàn)代通信與網(wǎng)絡(luò)技術(shù),實現(xiàn)車與X(人、車、路、云端等)智能信息交換、共享,具備復(fù)雜環(huán)境感知、智能決策、協(xié)同控制等功能,可實現(xiàn)安全、高效、舒適、節(jié)能行駛,并最終可實現(xiàn)替代人來操作的新一代汽車〔1〕。2017年,國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃的通知》,前瞻性地提出對自動駕駛等應(yīng)用領(lǐng)域加快安全研究,加強數(shù)據(jù)濫用和侵犯個人隱私的行為管理。工信部制定的《車聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展行動計劃》也提出,建立涵蓋車輛、通信、道路設(shè)施等的標準體系,健全安全管理體系。上述智能網(wǎng)聯(lián)汽車的政策文件以戰(zhàn)略指引、宏觀倡導為主,旨在推動智能網(wǎng)聯(lián)汽車技術(shù)和產(chǎn)業(yè)的發(fā)展。2021年,工業(yè)和信息化部、公安部、交通運輸部三部門聯(lián)合印發(fā)《智能網(wǎng)聯(lián)汽車道路測試與示范應(yīng)用管理規(guī)范(試行)》,對智能網(wǎng)聯(lián)汽車道路測試與示范應(yīng)用的測試主體、測試駕駛?cè)思皽y試車輛、道路測試與示范應(yīng)用的申請、管理、交通違法與事故處理等做出了原則性規(guī)定,并且準許省、市級政府相關(guān)主管部門結(jié)合本地區(qū)實際情況,制定細則開展道路測試和示范活動。這一系列智能網(wǎng)聯(lián)汽車的政策和管理規(guī)范意圖推動智能汽車產(chǎn)業(yè)的發(fā)展,然而,智能網(wǎng)聯(lián)汽車的發(fā)展不僅是技術(shù)和政策的問題,現(xiàn)有法律規(guī)則與智能網(wǎng)聯(lián)汽車的發(fā)展不兼容,主要出現(xiàn)了以下三個方面的具體問題,這些問題已成為制約智能網(wǎng)聯(lián)汽車應(yīng)用的重要因素。

    (一)智能網(wǎng)聯(lián)汽車行駛運營準入規(guī)則亟需統(tǒng)一

    智能網(wǎng)聯(lián)汽車行駛運營準入規(guī)則和標準是保障公共安全和產(chǎn)業(yè)健康發(fā)展的重要規(guī)則,缺少統(tǒng)一的智能網(wǎng)聯(lián)汽車市場準入規(guī)則和標準將導致智能網(wǎng)聯(lián)汽車無法合法登記和上路行駛。我國對機動車進入市場實行準入管理制度,只有符合準入管理制度規(guī)定并滿足相關(guān)法規(guī)、技術(shù)規(guī)范強制性要求的汽車產(chǎn)品才能列入《車輛生產(chǎn)企業(yè)及產(chǎn)品公告》,經(jīng)發(fā)布后才能進行生產(chǎn)和銷售。凡列入《中華人民共和國實施強制性產(chǎn)品認證的產(chǎn)品目錄》的產(chǎn)品,只有經(jīng)國家指定的檢測實驗室檢驗合格,通過國家指定的認證機構(gòu)認證合格、取得認證證書、并加施認證標志后,才能投入市場和在經(jīng)營性活動中使用〔2〕。但是,當前汽車準入管理規(guī)定和相關(guān)的認證標準并不適用于智能網(wǎng)聯(lián)汽車。目前智能網(wǎng)聯(lián)汽車缺少統(tǒng)一技術(shù)標準,也就無法建立相應(yīng)的準入標準,而制定相關(guān)技術(shù)標準和市場準入標準是智能網(wǎng)聯(lián)汽車合法登記和上路行駛的前提。

    盡管工業(yè)和信息化部、公安部、交通運輸部三部門于2021年印發(fā)了《智能網(wǎng)聯(lián)汽車道路測試與示范應(yīng)用管理規(guī)范(試行)》,允許智能網(wǎng)聯(lián)汽車從封閉測試走向開放道路測試,測試主體通過申請測試用車的臨時行駛車號牌解決身份問題,但這是臨時性舉措,臨時行駛車號牌在有效期、行駛范圍等方面存在限制。而且目前各地政策法規(guī)在無人駕駛車輛道路測試、遠程測試和載人載貨示范應(yīng)用等方面制定了不同的規(guī)則,道路測試標準中的測試主體、安全評估標準、測試道路以及如何規(guī)范上路行駛等方面各地規(guī)定有很大差異,這些問題會阻礙智能網(wǎng)聯(lián)汽車統(tǒng)一技術(shù)標準的形成。就測試主體而言,雖然各地均委托第三方認證機構(gòu)對測試過程進行認證,但是對于智能網(wǎng)聯(lián)汽車認證機構(gòu)的資質(zhì)規(guī)定并不明確,例如,北京市的規(guī)定僅提及授權(quán)第三方進行認證,但并未規(guī)定認證機構(gòu)的資質(zhì)和具體職責。就測試車輛而言,各地做出的規(guī)定也各不相同,有的規(guī)定了測試的最低里程,也有省市只確定了具體的測試場所。由此導致的問題是,各地智能網(wǎng)聯(lián)汽車道路測試標準差異大,牌照發(fā)放標準也各不相同,車輛跨省測試時需適用不同測試標準,存在多地測試、重復(fù)測試的問題。

    此外,智能網(wǎng)聯(lián)汽車上路運行高度依賴地圖影像技術(shù),當前的地圖影像公開和使用標準也不能滿足智能網(wǎng)聯(lián)汽車上路運行的技術(shù)要求,導致智能網(wǎng)聯(lián)汽車的研發(fā)和運行都受到影響,例如,智能網(wǎng)聯(lián)汽車上路行駛要受到國家測繪地理信息規(guī)定的制約,智能駕駛等級越高,越需要高精度地圖以理解周邊環(huán)境,歐盟委員會信息協(xié)會支持的Safespot項目提出智能汽車定位需要車輛持續(xù)或者瞬時、靜態(tài)或者動態(tài)數(shù)據(jù)層〔3〕,而根據(jù)我國國家測繪地理信息局制定的《遙感影像公開使用管理規(guī)定(試行)》,公開使用的遙感影像空間位置精度不得高于50米,影像地面分辨率不得優(yōu)于0.5米,不標注涉密信息、不處理建筑物、構(gòu)筑物等固定設(shè)施。我國目前允許的遙感影像公開使用管理規(guī)定尚無法滿足智能汽車行駛要求,因此需在明確影像使用標準的基礎(chǔ)上制定法律法規(guī)。

    綜上所述,缺乏統(tǒng)一的標準認證和市場準入規(guī)范將阻礙智能網(wǎng)聯(lián)汽車正式上路運行,確定智能網(wǎng)聯(lián)汽車的合法身份,成為智能網(wǎng)聯(lián)汽車法律制度建設(shè)亟需解決的問題。

    (二)智能網(wǎng)聯(lián)汽車交通事故責任主體制度亟需改進

    《民法典》第1208條規(guī)定,機動車發(fā)生交通事故造成損害的,依照道路交通安全法律和民法典的有關(guān)規(guī)定承擔賠償責任?!兜缆方煌ò踩ā返?6條則明確規(guī)定“機動車之間發(fā)生交通事故的,由有過錯的一方承擔賠償責任”,“機動車與非機動車駕駛?cè)?、行人之間發(fā)生交通事故,非機動車駕駛?cè)恕⑿腥藳]有過錯的,由機動車一方承擔賠償責任;有證據(jù)證明非機動車駕駛?cè)?、行人有過錯的,根據(jù)過錯程度適當減輕機動車一方的賠償責任”。從上述規(guī)定來看,我國的交通事故責任認定采用過錯責任和推定過錯責任,即基于行為人的過錯,有過錯才有責任。但是智能網(wǎng)聯(lián)汽車的運行使得駕駛主體由人類駕駛員向人工智能混合模式和高度自動或全自動駕駛系統(tǒng)模式轉(zhuǎn)變,過錯原則在確定交通事故的責任中面臨挑戰(zhàn)。我國現(xiàn)行的交通責任法律規(guī)則基于過錯責任構(gòu)建,責任主體是機動車駕駛員,而高級別智能網(wǎng)聯(lián)汽車發(fā)生交通事故,其潛在責任主體可擴展至生產(chǎn)者、設(shè)計者、銷售者等多個主體,當前的交通事故歸責制度將無法適用于人工智能自動駕駛模式導致的交通事故,可以預(yù)見侵權(quán)法中交通事故責任規(guī)則在未來將發(fā)生變革。

    智能網(wǎng)聯(lián)技術(shù)對駕駛過程的深度控制會減輕或者免除駕駛員在交通事故中的責任。在完全自動駕駛即無人駕駛級別下,全自動駕駛系統(tǒng)負責全部的駕駛決策判斷,具有下列突出的特征:(1)技術(shù)融合性,智能網(wǎng)聯(lián)汽車將傳統(tǒng)汽車與人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)等新一代信息技術(shù)融合,從而實現(xiàn)汽車不同程度的自動駕駛,技術(shù)復(fù)雜度遠超出了普通用戶的認識能力;(2)汽車行駛的自主性,這一特征是智能網(wǎng)聯(lián)汽車區(qū)別于普通汽車的一個重要特征,即智能網(wǎng)聯(lián)汽車在行駛過程中不需要人工駕駛員進行實時的車輛操控,其通過傳感系統(tǒng)、控制系統(tǒng)即可實現(xiàn)汽車的行駛;(3)駕駛員的非限制性,傳統(tǒng)的汽車駕駛對于駕駛員具有諸多限制,例如年齡、視力、取得機動車駕駛證等,完全自動駕駛汽車對駕駛員的要求將不同于傳統(tǒng)的汽車駕駛員,基本不要求其掌握特定的技能,甚至不需要駕駛員?;隈{駛自動化系統(tǒng)能夠執(zhí)行動態(tài)駕駛?cè)蝿?wù)的程度,我國工業(yè)和信息化部將駕駛自動化分成0~5級,依據(jù)授權(quán)程度的不同,L0~L2級均屬于駕駛輔助,駕駛主體仍為駕駛員,系統(tǒng)僅僅是輔助人工駕駛員執(zhí)行駕駛?cè)蝿?wù);L3~L5級屬于自動駕駛,其中L3級屬于有條件自動駕駛,L4級屬于高度自動駕駛,L5級屬于完全自動駕駛,當自動駕駛功能激活時,自動系統(tǒng)部分或者全部的掌控車輛的控制和行駛〔4〕。智能網(wǎng)聯(lián)汽車自動駕駛的上述特征和級別分類表明,綜合運用傳感器融合、人工智能、大數(shù)據(jù)、虛擬仿真等技術(shù)實現(xiàn)的自動駕駛必然要求在交通風險控制、事故責任主體認定、責任分擔等方面創(chuàng)新交通事故責任法律規(guī)則以保障交通安全。

    自動駕駛系統(tǒng)對駕駛過程的干預(yù)和控制使得智能網(wǎng)聯(lián)汽車發(fā)生事故時的主體和過錯責任的認定更加復(fù)雜和困難。智能網(wǎng)聯(lián)汽車在L0~L2駕駛級別下,由于駕駛員仍然是機動車行駛的掌控者,因此,發(fā)生交通事故時和傳統(tǒng)機動車并無差異,可以適用《道路交通安全法》的規(guī)定確定賠償責任。賠償責任判斷難點是L3級及以上的自動駕駛,在L3級人機混合駕駛狀態(tài),認定侵權(quán)責任主體困難。根據(jù)《道路交通安全法》第76條的規(guī)定,駕駛系統(tǒng)故障導致機動車發(fā)生碰撞,機動車一方有過錯的,應(yīng)當承擔賠償責任,這就需要明確機動車一方是人類駕駛員,還是自動駕駛系統(tǒng)生產(chǎn)者承擔責任。判斷自動駕駛系統(tǒng)與人類駕駛員的主觀過錯也面臨障礙,由于人機混合駕駛狀態(tài)下,通常要求人類駕駛員在緊急情況下應(yīng)當接管車輛駕駛,工信部制定的《汽車駕駛自動化分級》國家標準中規(guī)定,“當即將不滿足設(shè)計運行條件或系統(tǒng)失效時,及時向用戶發(fā)出接管請求”,那么駕駛系統(tǒng)是否“及時”發(fā)出了接管請求,以及如果接管用戶未響應(yīng),駕駛系統(tǒng)是否“適時”執(zhí)行了風險減緩策略都將成為事故發(fā)生后責任判斷的關(guān)鍵點。由于目前缺少自動駕駛系統(tǒng)明確具體的接管標準,智能網(wǎng)聯(lián)汽車在人機混合駕駛下,一旦發(fā)生交通事故,判斷駕駛員應(yīng)當在何時接管駕駛?cè)蝿?wù),究竟是自動駕駛系統(tǒng)問題導致的交通事故,還是駕駛員操作不當導致的交通事故,以及駕駛員是否履行了安全駕駛義務(wù),都將是明確交通事故責任判斷的難點。

    當汽車處于L4~L5級高度或者完全自動駕駛狀態(tài)時,車輛使用人的身份從駕駛員轉(zhuǎn)變?yōu)槌丝停捎谌祟愸{駛員并未接管機動車,甚至沒有人類駕駛員,此種情形下引發(fā)的新問題是人工智能駕駛系統(tǒng)究竟是人還是物,由人工智能駕駛系統(tǒng)造成的交通事故責任由誰承擔。目前雖然完全自動駕駛還未真正實現(xiàn),但是可以預(yù)見自動駕駛系統(tǒng)對人類駕駛員的替代必將挑戰(zhàn)現(xiàn)有的法律責任主體制度。即使認為完全自動駕駛系統(tǒng)仍然具有物的屬性,并不具有法律人格,在法律上也依然需要確定高級人工智能系統(tǒng)的行為由誰負責。在L4~L5級自動駕駛狀態(tài)下,無人駕駛將駕駛責任從駕駛員轉(zhuǎn)移到車輛控制系統(tǒng)?!渡钲诮?jīng)濟特區(qū)智能網(wǎng)聯(lián)汽車管理條例》規(guī)定完全自動駕駛的智能網(wǎng)聯(lián)汽車可以不具有人工駕駛模式和相應(yīng)裝置,可以不配備駕駛?cè)?。理論上不論是完全自動駕駛機動車,還是處于自動駕駛狀態(tài)的高度自動駕駛機動車,在發(fā)生交通事故造成損害時,都不存在駕駛?cè)说呢熑?,而是自動駕駛機動車的自動系統(tǒng)設(shè)計者、生產(chǎn)者和銷售者應(yīng)當承擔產(chǎn)品責任〔5〕。自動駕駛技術(shù)下,駕駛?cè)瞬僮骺臻g較小,注意義務(wù)的內(nèi)容將發(fā)生變化,駕駛?cè)素熑蔚姆秶絹碓秸瓉頇C動車駕駛?cè)顺袚呢熑沃饾u轉(zhuǎn)移給了生產(chǎn)者,受害人也傾向于直接向生產(chǎn)者請求賠償〔6〕。因此,需要在法律層面根據(jù)智能網(wǎng)聯(lián)汽車的技術(shù)特征解決智能網(wǎng)聯(lián)汽車交通事故損害賠償責任承擔主體認定的問題。

    (三)智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全監(jiān)管措施不足

    智能網(wǎng)聯(lián)汽車的運行需要收集和處理大量的數(shù)據(jù)信息,通過系統(tǒng)的分析處理才能為其正常運行提供指令,為了幫助自動駕駛功能持續(xù)升級,需要感知、收集和分析數(shù)據(jù),這些數(shù)據(jù)包括了個人信息和重要數(shù)據(jù)。個人信息主要包括車主、駕駛?cè)?、乘客和行人等信息;重要?shù)據(jù)則包括重要敏感區(qū)域人流、車流信息,高于國家公開發(fā)布地圖精度的測繪數(shù)據(jù),以及道路上車輛類型和流量數(shù)據(jù)等〔7〕。智能網(wǎng)聯(lián)汽車通過攝像頭、雷達等傳感器從車外環(huán)境采集的道路、建筑、地形、交通參與者,以及車輛位置、軌跡相關(guān)數(shù)據(jù)也涉及大量的個人信息和重要數(shù)據(jù)。自動駕駛系統(tǒng)中記載的個人身份信息,若被泄露或被竊取,不僅會侵害到個人隱私,還可能會威脅到人身安全。重要數(shù)據(jù)如果泄露甚至被傳出境外,則嚴重威脅國家安全。汽車企業(yè)生產(chǎn)商、數(shù)據(jù)采集機構(gòu)能在多大范圍內(nèi)搜集信息、利用信息、如何保存信息、是否可以傳輸信息等都需要明確的規(guī)范才能有效地保障信息安全。如果不能有效實施智能網(wǎng)聯(lián)汽車的數(shù)據(jù)監(jiān)管會給國家和消費者帶來巨大的數(shù)據(jù)安全風險。

    智能網(wǎng)聯(lián)汽車收集、處理、儲存、應(yīng)用和轉(zhuǎn)讓大量數(shù)據(jù)的行為對數(shù)據(jù)安全監(jiān)管構(gòu)成了挑戰(zhàn),目前,《個人信息保護法》《數(shù)據(jù)安全法》等相關(guān)法律,對個人信息收集、獲取、使用、存儲、處理等提出了合法、正當、必要、知情同意、不過度收集等規(guī)定,要求建立數(shù)據(jù)安全制度,明確重要數(shù)據(jù)的安全負責人和管理機構(gòu),落實數(shù)據(jù)安全保護責任等,為智能網(wǎng)聯(lián)汽車個人信息保護和數(shù)據(jù)安全監(jiān)管提供了法律框架。但是上述規(guī)定只是確定了基礎(chǔ)性的規(guī)則,如何應(yīng)用于智能網(wǎng)聯(lián)汽車數(shù)據(jù)的監(jiān)管,實踐中針對智能網(wǎng)聯(lián)汽車運行中產(chǎn)生的海量數(shù)據(jù),無論是監(jiān)管者、生產(chǎn)者和消費者都無法對其合規(guī)性運行做出有效的判斷。例如,在一起汽車消費者維權(quán)事件中,盡管該汽車廠商公布了事故前車輛行駛數(shù)據(jù),但是非專業(yè)人士根本看不懂,而且分析其中一小段數(shù)據(jù)就得花費大量人力和時間,規(guī)?;瘮?shù)據(jù)監(jiān)管面臨操作和實施層面的困難。

    除上述數(shù)據(jù)和信息保護的一般性規(guī)定外,專門規(guī)范智能網(wǎng)聯(lián)汽車數(shù)據(jù)管理的法律法規(guī)尚屬空白,目前各地的智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范只對數(shù)據(jù)保存的時限、方式等做出零散規(guī)定,因此急需創(chuàng)新監(jiān)管方式,并針對智能網(wǎng)聯(lián)汽車數(shù)據(jù)帶來的侵犯個人隱私和數(shù)據(jù)安全問題,制訂可操作的法律規(guī)范和技術(shù)標準,管控數(shù)據(jù)安全風險。

    二、智能網(wǎng)聯(lián)汽車行駛運營準入規(guī)則的統(tǒng)一

    根據(jù)智能網(wǎng)聯(lián)汽車的技術(shù)特性對其實施有效監(jiān)管是智能網(wǎng)聯(lián)汽車行業(yè)健康發(fā)展的根本保證。為了推動智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)的健康快速發(fā)展,加快建設(shè)系統(tǒng)化、標準化的智能網(wǎng)聯(lián)汽車市場準入法律規(guī)范,應(yīng)該從以下三個方面對現(xiàn)有的汽車上路準入制度做出改變。

    第一,實現(xiàn)道路交通管理規(guī)范從以管人為中心向管車為中心轉(zhuǎn)變是智能網(wǎng)聯(lián)汽車法律規(guī)制的必要措施〔8〕。由于現(xiàn)行的《道路交通安全法》規(guī)定,機動車在行駛時必須由駕駛員駕駛,傳統(tǒng)道路交通法律規(guī)范注重駕駛員考核,通過嚴格規(guī)范駕駛員資格并限制駕駛員行為從而營造安全的駕駛環(huán)境,例如對酒駕行為的處罰、規(guī)定發(fā)生人員傷亡后的搶救報警行為等,而自動駕駛的智能網(wǎng)聯(lián)汽車開展道路測試和示范應(yīng)用,可在一定程度上不依賴于駕駛?cè)说呐袛嗪筒僮?。因此,智能網(wǎng)聯(lián)汽車的檢測、登記以及駕駛資格的發(fā)放等都應(yīng)當以汽車本身的技術(shù)指標為中心,構(gòu)建智能網(wǎng)聯(lián)汽車自動駕駛能力的新標準。

    第二,建立智能網(wǎng)聯(lián)汽車行駛運營的標準化體系作為判定準入資格的重要依據(jù)。由于智能網(wǎng)聯(lián)汽車采用新技術(shù)、新材料和新工藝,還涉及多技術(shù)、多領(lǐng)域和多產(chǎn)業(yè)鏈的融合和深度協(xié)調(diào),因此,技術(shù)不成熟或者數(shù)據(jù)泄露會給智能網(wǎng)聯(lián)汽車帶來嚴重的安全隱患,需要分別針對低級別和高級別自動駕駛的輔助系統(tǒng)、自動駕駛、信息安全、功能安全、汽車網(wǎng)聯(lián)等技術(shù)領(lǐng)域進一步制定和完善技術(shù)標準。這些標準包括智能網(wǎng)聯(lián)汽車安全技術(shù)標準、高精度地圖標準、智能網(wǎng)聯(lián)汽車駕駛員資質(zhì)標準、智能駕駛汽車載員載物標準、智能網(wǎng)聯(lián)汽車道路應(yīng)用標準。因為智能網(wǎng)聯(lián)汽車技術(shù)的復(fù)雜性,并不適合在法律中規(guī)定具體的準入條件,因而需要制定相應(yīng)的智能網(wǎng)聯(lián)汽車上路運行的技術(shù)標準和認證規(guī)則,為出臺高等級自動駕駛功能的智能網(wǎng)聯(lián)汽車上路準入規(guī)則提供技術(shù)標準的支持。此外,還需完善適合智能網(wǎng)聯(lián)汽車使用的傳輸遙感影像數(shù)據(jù)的法律依據(jù)和使用準則,建立相應(yīng)的技術(shù)標準和認證規(guī)則后,可以在法律中直接認可該技術(shù)標準和認證,從而將法律規(guī)則和技術(shù)規(guī)則聯(lián)結(jié)起來。

    第三,智能網(wǎng)聯(lián)汽車的上路行駛準入需建立專業(yè)機構(gòu)測試認證和行政機構(gòu)審核的雙重機制。建立智能網(wǎng)聯(lián)汽車的準入技術(shù)標準,需要對智能網(wǎng)聯(lián)汽車是否符合相應(yīng)的標準進行測試和認證。如前所述,各地不統(tǒng)一的測試標準以及在不同地區(qū)重復(fù)測試,增加了生產(chǎn)商的成本,應(yīng)當在全國建立嚴格且統(tǒng)一的道路測試標準,結(jié)合各地的具體實施經(jīng)驗,對測試路段、硬件軟件標準以及與行人的關(guān)系處理模式做出具體的規(guī)定,制定可實施的全國性的統(tǒng)一標準。為解決重復(fù)測試問題,應(yīng)合理認定企業(yè)在外地測試的結(jié)果,推動實現(xiàn)封閉場地測試結(jié)果全國通用互認,避免重復(fù)性的測試,提高測試效率。在測試和示范應(yīng)用過程中,規(guī)范和細化智能網(wǎng)聯(lián)汽車的市場準入與退出機制,對測試和示范應(yīng)用過程中不符合要求的生產(chǎn)商,應(yīng)當敦促其積極改正解決問題,同時引入第三方機構(gòu)進行安全評估,對確實無法解決問題的生產(chǎn)商,應(yīng)當列入安全“黑名單”,強制其退出市場,從源頭降低風險,保障道路行駛安全。

    認證機構(gòu)的權(quán)威性和中立性是認證質(zhì)量的重要保證,需要由國務(wù)院制定行政法規(guī)對智能網(wǎng)聯(lián)汽車技術(shù)的檢測和認證機構(gòu)做出統(tǒng)一的規(guī)定。行業(yè)主管部門對合規(guī)的專業(yè)機構(gòu)做出的專業(yè)性論證和風險評估進行認可,并對認證機構(gòu)的測試與應(yīng)用進行日常監(jiān)管以確保道路測試與示范應(yīng)用安全。智能網(wǎng)聯(lián)汽車只有通過標準測試,經(jīng)地方管理部門核準登記并發(fā)放地方專屬號牌后才能按照規(guī)定上路行駛。地方管理智能網(wǎng)聯(lián)汽車的機構(gòu)負責對智能網(wǎng)聯(lián)汽車的上路測試、發(fā)放執(zhí)照、試運營以及事故處理等各個階段做出規(guī)范指引,劃定道路測試與應(yīng)用的路段和區(qū)域等具體工作。準入規(guī)范是安全的重要保障,建立一套健全的準入法規(guī)和技術(shù)標準是確保智能網(wǎng)聯(lián)汽車運行安全的基本要求。

    三、智能網(wǎng)聯(lián)汽車道路交通事故責任主體規(guī)則的改進

    智能網(wǎng)聯(lián)汽車作為人工智能產(chǎn)物,在弱人工智能階段,只是人能力的擴展,其并非法律關(guān)系主體。將來即使自動駕駛系統(tǒng)已經(jīng)實現(xiàn)強人工智能的完全自動駕駛,也不應(yīng)當賦予自動駕駛系統(tǒng)法律主體的資格和地位,因為無論其以何種方式承擔法律責任,最終的責任承擔者仍然是人。雖然智能網(wǎng)聯(lián)汽車本身不能作為道路交通事故的責任主體,但是由于智能系統(tǒng)在一定程度上甚至完全替代了傳統(tǒng)人類駕駛員,使生產(chǎn)智能網(wǎng)聯(lián)汽車的生產(chǎn)商具備了直接面對事故責任的可能,為了應(yīng)對這種變化,需要對《產(chǎn)品責任法》和《道路交通安全法》進行適當修改調(diào)整,以明確智能網(wǎng)聯(lián)汽車交通事故賠償責任。

    第一,《道路交通安全法》有必要根據(jù)自動駕駛級別分別對交通事故賠償主體做出相應(yīng)規(guī)定。由于自動駕駛級別不同,自動駕駛系統(tǒng)控制風險的能力不同,因此,智能網(wǎng)聯(lián)汽車的應(yīng)用將在區(qū)分部分自動駕駛汽車和完全自動駕駛汽車的基礎(chǔ)上改變傳統(tǒng)的責任確定方式。例如,部分自動駕駛的汽車通過配置警告司機降低速度和避險系統(tǒng),使車輛在接觸到另一輛車或物體之前改變車道,以避免碰撞。盡管由于自動系統(tǒng)的介入和引導,碰撞風險減少了,但主要決策者仍然是人類駕駛員,因此,部分自動駕駛的汽車只有部分責任從司機轉(zhuǎn)移到控制系統(tǒng)。然而,完全自動駕駛的汽車需要對任何碰撞承擔全部責任,因為它負責整個決策過程,完全沒有人類駕駛員的介入〔9〕?;谝陨侠碛桑紫?,L0~L2級駕駛自動化汽車發(fā)生交通事故現(xiàn)行法律規(guī)范能較好地進行調(diào)整,無需特殊調(diào)整。其次,當L3級駕駛自動化汽車處于自動駕駛狀態(tài)時發(fā)生交通事故,事故的發(fā)生可能由自動駕駛系統(tǒng)缺陷導致,因此事故損害賠償既需要交通事故責任規(guī)則進行調(diào)整,也需要產(chǎn)品責任規(guī)則進行調(diào)整,法律責任涉及道路交通事故責任和產(chǎn)品責任。《道路交通安全法》應(yīng)明確L3級自動駕駛汽車的生產(chǎn)商和駕駛員同為汽車一方的責任主體,由于在自動駕駛系統(tǒng)被激活后,L3級的自動駕駛車輛在自動駕駛系統(tǒng)所規(guī)定的運行條件下,本身就能完成轉(zhuǎn)向和加減速,以及路況探測和反應(yīng)的任務(wù),并不要求駕駛員雙手不能脫離方向盤,僅需要駕駛員在系統(tǒng)失效或者超過工作條件時,對故障汽車進行接管,因此L3級別自動駕駛條件下交通事故的責任應(yīng)推定由汽車的生產(chǎn)者承擔,只有能證明由駕駛員的過錯造成的交通事故,才能減輕或免除生產(chǎn)商的責任,同時駕駛員需要承擔賠償責任。與該責任相對應(yīng),《道路交通安全法》應(yīng)當規(guī)定L3級有條件自動駕駛狀態(tài)下,駕駛員仍具有警覺義務(wù)和隨時接管車輛的義務(wù)。再次,針對L4~L5級自動駕駛汽車,《道路交通安全法》應(yīng)增加智能網(wǎng)聯(lián)汽車生產(chǎn)商為責任主體,且在自動駕駛狀態(tài)下,生產(chǎn)商應(yīng)承擔嚴格責任。發(fā)生交通事故后,依據(jù)《道路交通安全法》有關(guān)規(guī)定確定交通事故責任方,如果屬于智能網(wǎng)聯(lián)汽車一方的責任,則需進一步判斷機動車是否處于完全自動駕駛或者高度自動駕駛狀態(tài)。如果責任車輛方處于自動駕駛狀態(tài)下,那么駕駛員身份更接近乘客,汽車生產(chǎn)商替代了人類駕駛員,此時人類駕駛員只需證明交通事故發(fā)生時處于自動駕駛狀態(tài)便可免責;智能汽車生產(chǎn)商如不能證明存在《產(chǎn)品質(zhì)量法》規(guī)定的免責事由,則需要根據(jù)《道路交通安全法》的規(guī)定對受損者承擔賠償責任;如果責任車輛發(fā)生事故時處于駕駛員操控下,則由駕駛員按照《道路交通安全法》承擔事故責任。

    第二,《產(chǎn)品質(zhì)量法》需要拓展產(chǎn)品責任主體范圍以回應(yīng)智能網(wǎng)聯(lián)汽車高度依賴人工智能技術(shù)以及智能網(wǎng)聯(lián)汽車自動駕駛系統(tǒng)設(shè)計者和車輛生產(chǎn)者相分離的現(xiàn)狀。自動駕駛狀態(tài)下發(fā)生交通事故,可能是自動駕駛汽車存在安全缺陷導致的,缺陷包括制造缺陷、設(shè)計缺陷或警示說明缺陷,相比傳統(tǒng)汽車,集成算法、傳感器、控制器和執(zhí)行器為一體的自動駕駛系統(tǒng)存在設(shè)計缺陷的可能性加大,目前我國的《產(chǎn)品質(zhì)量法》中所規(guī)定的產(chǎn)品責任主體是生產(chǎn)者和銷售者,有必要將產(chǎn)品責任主體拓展到自動駕駛系統(tǒng)設(shè)計者,這是應(yīng)對自動駕駛交通事故風險的必然要求。

    第三,《產(chǎn)品質(zhì)量法》應(yīng)當保留智能網(wǎng)聯(lián)汽車生產(chǎn)廠商的免責抗辯權(quán)。對生產(chǎn)或者研發(fā)環(huán)節(jié)苛以過于嚴格的責任,可能會讓生產(chǎn)者更傾向于采用成熟的穩(wěn)定技術(shù),避免可能的技術(shù)風險,因而會阻礙技術(shù)的發(fā)展〔10〕。為應(yīng)對智能網(wǎng)聯(lián)汽車帶來的損害風險,《產(chǎn)品質(zhì)量法》在要求生產(chǎn)者承擔責任仍然應(yīng)當以產(chǎn)品缺陷為基礎(chǔ)的同時,應(yīng)適度放寬產(chǎn)品缺陷判斷標準。在有利于填補受害人損失的同時,為了不對生產(chǎn)者造成過重負擔,保留《產(chǎn)品質(zhì)量法》第41條第2款的發(fā)展風險抗辯,允許生產(chǎn)者以“產(chǎn)品投入流通時的科技水平尚不能發(fā)現(xiàn)缺陷的存在”作為免責事由。

    第四,通過綜合性責任分擔規(guī)則減輕生產(chǎn)商產(chǎn)品責任。綜合責任分配主要涉及車輛所有者、生產(chǎn)商和保險人三方主體。傳統(tǒng)汽車駕駛員可以通過車輛所有者投保機動車強制保險轉(zhuǎn)嫁交通事故損害賠償?shù)娘L險,當交通事故賠償責任由傳統(tǒng)駕駛員向智能網(wǎng)聯(lián)汽車生產(chǎn)商轉(zhuǎn)移或者二者共同承擔責任時,智能網(wǎng)聯(lián)汽車生產(chǎn)商并非強制保險的被保險人,這意味著生產(chǎn)商成為交通事故責任主體需承擔更重的責任。目前德國和日本等國均試圖通過生產(chǎn)商強制保險增加對交通事故受損害者的保護,我國也有必要針對智能網(wǎng)聯(lián)汽車生產(chǎn)商的賠償責任設(shè)計類似于機動車第三者責任險的強制保險,由生產(chǎn)商繳納保險費,發(fā)生交通事故后如需生產(chǎn)商承擔賠償責任,則由保險公司在賠償責任范圍內(nèi)進行賠償,不足的部分再由汽車生產(chǎn)商進行賠償。此外,由于自動駕駛汽車帶來的風險并不能完全預(yù)測,自動駕駛狀態(tài)下,如果智能網(wǎng)聯(lián)汽車采用了現(xiàn)有的安全技術(shù)標準,出現(xiàn)無法清晰解釋原因的交通事故,在無法進行賠償責任歸責的基礎(chǔ)上,為充分保護受害人的利益,還應(yīng)強制要求汽車生產(chǎn)商和自動駕駛系統(tǒng)設(shè)計者設(shè)置統(tǒng)一賠償基金對受害人予以賠償。

    第五,從生產(chǎn)商的數(shù)據(jù)義務(wù)和技術(shù)兩個層面解決智能網(wǎng)聯(lián)汽車駕駛員舉證困難問題。當人類駕駛員有機會控制自動駕駛汽車以避免碰撞,但卻選擇不使用時,責任的分攤就很困難。此外,當人類駕駛員不認真遵守自動駕駛手冊的要求時,例如,違反駕駛手冊在惡劣天氣條件下不得使用自動駕駛的要求,一旦發(fā)生事故將面臨著舉證和厘清責任的困難。為了厘清責任和強化當事人的謹慎注意義務(wù),在技術(shù)層面《道路交通安全法》應(yīng)對智能網(wǎng)聯(lián)汽車搭載“事件數(shù)據(jù)記錄儀”和提供自動駕駛數(shù)據(jù)存儲功能提出強制性要求,以便完整記錄事件數(shù)據(jù)和其他駕駛數(shù)據(jù)。通過在自動駕駛車輛中安裝的數(shù)據(jù)記錄裝置來還原事故發(fā)生前的相關(guān)數(shù)據(jù),該數(shù)據(jù)將作為重要證據(jù)幫助分清責任。但是智能網(wǎng)聯(lián)汽車上如同飛機的“黑匣子”的事件數(shù)據(jù)記錄儀,其記錄的數(shù)據(jù)屬于保密信息,車主自身無法獲取,汽車生產(chǎn)商對數(shù)據(jù)擁有控制權(quán)。為查清交通事故發(fā)生原因,《道路交通安全法》應(yīng)要求生產(chǎn)商在交通事故發(fā)生后及時向監(jiān)管部門上報數(shù)據(jù)記錄和后臺記錄,同時向車主提供汽車碰撞發(fā)生前和發(fā)生時的必要信息,以幫助判斷人類駕駛員和機動車之間的過錯。

    智能網(wǎng)聯(lián)汽車對現(xiàn)行法律認定交通事故責任和汽車安全監(jiān)管的基本理念和基本規(guī)則提出了新的挑戰(zhàn),需要在具體操作層面對《道路交通安全法》和《產(chǎn)品質(zhì)量法》制定補充規(guī)則,以解決人工智能技術(shù)發(fā)展和應(yīng)用中產(chǎn)生的新問題,在智能網(wǎng)聯(lián)汽車應(yīng)用的初期通過制定補充規(guī)則的方式為交通事故受害者提供不低于現(xiàn)有水平的綜合性保護是恰當選擇〔5〕。然而從長遠來看,必然要在新的理念下重塑智能網(wǎng)聯(lián)汽車事故責任和汽車安全監(jiān)管的法律制度。對于具有可預(yù)見危險的經(jīng)營應(yīng)由造成危險的經(jīng)營者承擔風險帶來的損失,企業(yè)責任必然超越傳統(tǒng)的過失責任,由生產(chǎn)經(jīng)營者承擔損失,而不是根據(jù)過錯比例來分配責任〔11〕。

    四、智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全監(jiān)管機制的完善

    智能網(wǎng)聯(lián)汽車的運行高度依賴于數(shù)據(jù)的收集、處理和應(yīng)用,同時智能網(wǎng)聯(lián)汽車系統(tǒng)運行中也會產(chǎn)生大量的數(shù)據(jù),這些數(shù)據(jù)具有重要的商業(yè)價值,智能網(wǎng)聯(lián)汽車系統(tǒng)的數(shù)據(jù)安全與監(jiān)管是制約智能網(wǎng)聯(lián)汽車行業(yè)發(fā)展的一個關(guān)鍵問題。同時由于智能網(wǎng)聯(lián)汽車的成功運行涉及到汽車生產(chǎn)商和軟件公司以及數(shù)據(jù)傳輸者和終端管理者等多個密切合作的利益相關(guān)者,信息的自由流動對保證智能網(wǎng)聯(lián)汽車系統(tǒng)的運行具有重要價值,因而智能網(wǎng)聯(lián)汽車的數(shù)據(jù)安全監(jiān)管需要在數(shù)據(jù)的安全性和信息的流動性之間取得平衡,這一要求為傳統(tǒng)僅聚焦于安全的監(jiān)管模式提出了新的挑戰(zhàn)。當前智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全監(jiān)管問題的核心是《個人信息保護法》和《數(shù)據(jù)安全法》規(guī)定的基本規(guī)則如何適用于智能網(wǎng)聯(lián)汽車的具體環(huán)境和場景,為解決這一問題,有必要從監(jiān)管原則和監(jiān)管方式方面提出新的解決思路。

    第一,在監(jiān)管原則上,數(shù)據(jù)安全監(jiān)管機構(gòu)對智能網(wǎng)聯(lián)汽車的數(shù)據(jù)安全監(jiān)管應(yīng)采取包容審慎監(jiān)管的原則。包容審慎監(jiān)管應(yīng)包含以下三個方面的內(nèi)容:首先,包容性監(jiān)管原則要求創(chuàng)新監(jiān)管模式,對創(chuàng)新中突破傳統(tǒng)的行為給予一定程度的容忍,為新產(chǎn)業(yè)、新業(yè)態(tài)發(fā)展創(chuàng)造寬松的創(chuàng)新環(huán)境;審慎監(jiān)管要求保障新產(chǎn)業(yè)、新業(yè)態(tài)不會突破底線。包容審慎監(jiān)管并非意味著放松監(jiān)管,而是以守住公共安全等公共利益為底線,智能網(wǎng)聯(lián)汽車監(jiān)管應(yīng)高度重視人工智能帶來的安全風險挑戰(zhàn),加強前瞻性預(yù)防與約束引導,確保人工智能安全、可靠、可控。其次,包容審慎監(jiān)管原則的實施目標是同時統(tǒng)籌安全與發(fā)展兩個要素,對智能網(wǎng)聯(lián)汽車數(shù)據(jù)的開發(fā)和利用進行有效監(jiān)管,促進智能網(wǎng)聯(lián)汽車行業(yè)的快速發(fā)展。再次,包容審慎監(jiān)管的原則在智能網(wǎng)聯(lián)汽車數(shù)據(jù)監(jiān)管中發(fā)揮作用的方式是以數(shù)據(jù)安全保障數(shù)據(jù)開發(fā)利用和產(chǎn)業(yè)發(fā)展,以數(shù)據(jù)開發(fā)利用和產(chǎn)業(yè)發(fā)展促進數(shù)據(jù)安全,從而建立起覆蓋智能汽車數(shù)據(jù)全生命周期的安全管理機制。

    第二,需要根據(jù)智能網(wǎng)聯(lián)汽車數(shù)據(jù)運行的技術(shù)特征創(chuàng)新應(yīng)用法律規(guī)范和技術(shù)標準雙層治理的監(jiān)管模式。由于監(jiān)管機構(gòu)和普通消費者通常無法詳細獲知數(shù)據(jù)收集和處理的狀態(tài)和細節(jié),因而依賴于傳統(tǒng)的行政檢查和管理無法確保智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全監(jiān)管的有效性,針對這一新的技術(shù)運行方式,需要通過法律規(guī)范和技術(shù)標準雙層治理的模式來實現(xiàn)監(jiān)管目的。首先,在法律規(guī)范層面,應(yīng)建立智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全審查制度。目前我國的汽車產(chǎn)品安全準入審查多集中于汽車產(chǎn)品性能、零部件質(zhì)量方面,缺少對數(shù)據(jù)采集、存儲和利用的審查,存在發(fā)生信息數(shù)據(jù)安全事故的隱患,應(yīng)當加強涉及數(shù)據(jù)安全信息防護的產(chǎn)品安全準入審查,確保進入市場銷售的智能網(wǎng)聯(lián)汽車符合該領(lǐng)域的數(shù)據(jù)安全技術(shù)標準。其次,在技術(shù)標準層面,應(yīng)當由技術(shù)標準化組織制定智能網(wǎng)聯(lián)汽車的數(shù)據(jù)收集和運行的技術(shù)標準,供行業(yè)內(nèi)的研發(fā)機構(gòu)和廠商共同遵守,并對標準的實施情況進行技術(shù)檢測,同時將檢測結(jié)果向行政機構(gòu)通報,行政機構(gòu)根據(jù)檢測的結(jié)論對智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全的合規(guī)性進行監(jiān)管。應(yīng)鼓勵第三方評估機構(gòu)對智能網(wǎng)聯(lián)汽車的數(shù)據(jù)安全進行評測并公開評測報告。這樣的機制能夠彌補監(jiān)管機構(gòu)和普通消費者對于數(shù)據(jù)處理的灰箱空間無法充分認知的能力不足。再次,通過技術(shù)數(shù)據(jù)分類監(jiān)管為技術(shù)發(fā)展留出空間。為了保護國家利益、社會利益和客戶隱私,需要對智能網(wǎng)聯(lián)汽車數(shù)據(jù)進行風險監(jiān)測。由于智能網(wǎng)聯(lián)汽車產(chǎn)生的數(shù)據(jù)規(guī)模非常大,法律的規(guī)制對象主要是“重要數(shù)據(jù)”,《數(shù)據(jù)安全法》要求“重要數(shù)據(jù)”應(yīng)建立數(shù)據(jù)安全負責人和管理機構(gòu),落實數(shù)據(jù)安全保護責任。因此,應(yīng)針對智能網(wǎng)聯(lián)汽車收集和利用的數(shù)據(jù)進行分類,明確重要數(shù)據(jù)的范圍,同時對智能網(wǎng)聯(lián)汽車數(shù)據(jù)相關(guān)企業(yè)就重要數(shù)據(jù)建立有效的內(nèi)部安全風險管理做出操作指引,通過制定重要數(shù)據(jù)目錄,對不同級別數(shù)據(jù)采取不同方案,使得汽車生產(chǎn)企業(yè)能夠針對國家安全重要信息、個人隱私敏感數(shù)據(jù)做出明確的管理方案,為數(shù)據(jù)開放共享提供標準。這些重要數(shù)據(jù)通常包括軍事管理區(qū)、國防科工等涉及國家秘密的單位、縣級以上黨政機關(guān)等重要敏感區(qū)域的人流車流數(shù)據(jù),高精度地圖的測繪數(shù)據(jù),汽車充電網(wǎng)的運行數(shù)據(jù),道路上車輛類型、車輛流量等數(shù)據(jù),以及人臉、車牌、車內(nèi)外音視頻數(shù)據(jù)等。

    第三,對涉及智能網(wǎng)聯(lián)汽車個人隱私的數(shù)據(jù)收集、保存和使用要求合法、適度,法律規(guī)范需制定強制性的“底線”原則。數(shù)據(jù)收集、處理和利用的基本原則是有利于增強行車安全和具有充分的必要性,才能收集帶有明顯生物特征的信息。根據(jù)駕駛?cè)藢π畔⑹占脑O(shè)定,禁止一次性全部授權(quán)行為,每次駕駛時默認設(shè)定為不收集狀態(tài)。應(yīng)當堅持車輛內(nèi)部采集的視頻、音頻、圖像車內(nèi)進行數(shù)據(jù)處理,未經(jīng)被搜集者單獨同意,不得向車外傳輸個人信息。對車內(nèi)采集的數(shù)據(jù),進行個人身份的人臉、車牌等信息脫敏化、匿名化處理后才能向車外傳輸,通過對駕駛員的指紋、聲紋、人臉等生物識別特征信息和車輛位置軌跡等個人敏感信息脫敏處理,保護駕乘人員的隱私。限制車內(nèi)存儲設(shè)備和遠程信息服務(wù)平臺的數(shù)據(jù)保存時間,車輛位置、軌跡等數(shù)據(jù)的保存時間應(yīng)當最小化,減小數(shù)據(jù)泄露帶來的風險。根據(jù)所提供功能服務(wù)對數(shù)據(jù)精度的要求確定攝像頭、雷達等覆蓋范圍、分辨率,以減少對汽車數(shù)據(jù)的無序收集和違規(guī)濫用。將上述汽車數(shù)據(jù)收集、處理和使用原則制定為具有可實施性的操作標準,以規(guī)范汽車企業(yè)違規(guī)亂序的侵犯個人隱私行為。

    此外,智能網(wǎng)聯(lián)汽車數(shù)據(jù)監(jiān)管還涉及到跨境數(shù)據(jù)傳輸、存儲和處理的監(jiān)管。《網(wǎng)絡(luò)安全法》要求個人信息和重要數(shù)據(jù)境內(nèi)儲存,因業(yè)務(wù)需要,確需向境外提供的,應(yīng)當進行安全評估。可以根據(jù)數(shù)據(jù)的敏感程度和安全相關(guān)性,劃分為禁止出境的數(shù)據(jù)、限制出境的數(shù)據(jù)和允許出境的數(shù)據(jù)三個類別進行監(jiān)管。對于涉及道路、建筑、地形、車輛位置、軌跡等重要數(shù)據(jù)不得出境;駕駛狀態(tài)參數(shù)、異常告警信息等數(shù)據(jù)屬于限制出境數(shù)據(jù),如需出境則需要向有關(guān)部門申報;與國家安全和個人隱私無關(guān)的車輛本身的數(shù)據(jù)則屬于允許出境的數(shù)據(jù),由企業(yè)根據(jù)需要自行處理。監(jiān)管機構(gòu)應(yīng)不定期查驗向境外提供個人信息或重要數(shù)據(jù)的類型、內(nèi)容,核驗車企是否嚴格遵守數(shù)據(jù)安全規(guī)范。無論何種分類的數(shù)據(jù),基于監(jiān)管的需要,數(shù)據(jù)的處理都應(yīng)保留可追溯的記錄。監(jiān)管機構(gòu)應(yīng)嚴格禁止和處罰為了商業(yè)利益而隱藏信息處理記錄的行為,因為隱藏某些關(guān)鍵的信息處理記錄可能導致事故隱患和國家安全風險。

    五、結(jié)語

    智能網(wǎng)聯(lián)汽車這一新技術(shù)的發(fā)展不但顛覆了傳統(tǒng)的汽車技術(shù),也對現(xiàn)行汽車行業(yè)適用的法律規(guī)則形成了沖擊。在發(fā)展與安全的理念下,既要制定一系列適應(yīng)智能網(wǎng)聯(lián)汽車的新的市場準入標準,為智能網(wǎng)聯(lián)汽車上路掃清法律障礙,盡快推動智能網(wǎng)聯(lián)汽車上路行駛與營運,還應(yīng)當守住安全發(fā)展的技術(shù)底線,保障國家安全、公共安全和用戶安全。面對智能網(wǎng)聯(lián)汽車帶來的交通風險,根據(jù)車輛自動控制程度的不同分級確定賠償責任主體。如果智能網(wǎng)聯(lián)汽車發(fā)生交通事故是由自動駕駛系統(tǒng)缺陷造成的,交通事故受損害方也可以依據(jù)《產(chǎn)品責任法》直接追究汽車生產(chǎn)商、銷售商或自動駕駛系統(tǒng)設(shè)計者的產(chǎn)品責任。為了使受損害者得到不低于現(xiàn)有水平的賠償,同時又不加重生產(chǎn)者責任,應(yīng)當建立針對生產(chǎn)者的強制責任保險并設(shè)立統(tǒng)一的賠償基金。智能網(wǎng)聯(lián)汽車高度依賴于海量數(shù)據(jù)的收集和處理,為了防范數(shù)據(jù)安全風險和確保數(shù)據(jù)收集與處理的合規(guī)性,有必要通過法律規(guī)范和技術(shù)標準雙層治理的模式來實現(xiàn)監(jiān)管的目的。

    參考文獻:〔1〕

    陳亞偉,程 前,邵毅明,等.自動駕駛汽車的發(fā)展綜述〔J〕.汽車工業(yè)研究,2018,(4):57-59.

    〔2〕李晨貞,張建華,李月華.國內(nèi)外汽車市場準入現(xiàn)狀分析〔J〕.小型內(nèi)燃機與車輛技術(shù),2015,44(3):84-90.

    〔3〕Maiouak M, Taleb T. Dynamic Maps for Automated Driving and UAV Geofencing〔J〕. IEEE Wireless Communications, 2019, (4): 54-59.

    〔4〕國家市場監(jiān)督管理總局,國家標準化管理委員會.GB/T 40429-2021 汽車駕駛自動化分級〔S〕.北京:國家標準化管理委員會, 2021.

    〔5〕楊立新.用現(xiàn)行民法規(guī)則解決人工智能法律調(diào)整問題的嘗試〔J〕.中州學刊,2018,(7):40-49.

    〔6〕馮潔語.人工智能技術(shù)與責任法的變遷——以自動駕駛技術(shù)為考察〔J〕.比較法研究,2018,(2):143-155.

    〔7〕安麗敏. 怎樣監(jiān)管智能汽車〔J〕. 財新周刊, 2021,(23):4.

    〔8〕胡元聰,李明康.自動駕駛汽車對《道路交通安全法》的挑戰(zhàn)及應(yīng)對〔J〕.上海交通大學學報(哲學社會科學版),2019,(1):44-53+62.

    〔9〕Gurney, Jeffrey K. Imputing Driverhood: Applying a Reasonable Driver Standard to Accidents Caused by Autonomous Vehicles〔C〕 //Patrick Lin, Keith Abney, Ryan Jenkins. Robot Ethics 2.0: From Autonomous Cars to Artificial Intelligence. New York: Oxford Academic,2017: 51-65.

    〔10〕Kyle Graham. Frightened Horses and Autonomous Vehicles: Tort Law and its Assimilation of Innovations〔J〕. Santa Clara Law Review, 2012,(4):1241-1270.

    〔11〕Patti, Francesco Paolo. The European Road to Autonomous Vehicles〔J〕. Fordham International Law Journal, 2019,(1): 125-162.

    Legal Barriers and Countermeasures to the

    Development of Intelligent Connected Vehicles

    YANG Shan, ZHANG Shasha

    Abstract: The lack of uniform rules for market access for intelligent connected vehicles, the lack of clarity on the person of liability for traffic accidents, and the difficulty in implementing a regulatory mechanism for the massive amount of operational data are key issues that need to be addressed in the development of the legal environment for intelligent connected vehicles in China at present. The current development of intelligent connected vehicles needs to dovetail with existing legal norms while taking into account of the technical characteristics of intelligent connected vehicles, establish the unified access rules for the driving and operation of intelligent connected vehicles, clarify the main liability of enterprises for traffic accidents in the highly automated operation of intelligent connected vehicles, establish a two-tier governance model that combines legal norms and technical standards for the supervision of data security risks of intelligent connected vehicles, and provide legal protection for? the rapid application of new technologies.

    Key words: intelligent connected vehicles; autonomous driving; traffic accidents; data security; internet of vehicles; industrial upgrading; artificial intelligence; traffic law

    (責任編輯:葉光雄)

    猜你喜歡
    智能網(wǎng)交通事故駕駛員
    基于高速公路的駕駛員換道意圖識別
    駕駛員安全帶識別方法綜述
    不同尋常的交通事故
    預(yù)防交通事故
    5G賦能智能網(wǎng)聯(lián)汽車
    智能網(wǎng)聯(lián)硬實力趨強
    汽車觀察(2018年12期)2018-12-26 01:05:26
    迎戰(zhàn)智能網(wǎng)聯(lián)大爆發(fā)
    汽車觀察(2018年10期)2018-11-06 07:05:20
    起步前環(huán)顧四周是車輛駕駛員的義務(wù)
    公民與法治(2016年4期)2016-05-17 04:09:26
    一起高速交通事故院前急救工作實踐與探討
    基于SJA1000的CAN總線智能網(wǎng)橋設(shè)計
    欧美成狂野欧美在线观看| 999精品在线视频| 搡老岳熟女国产| www.av在线官网国产| 一区二区三区精品91| 狂野欧美激情性xxxx| 国产成人精品久久二区二区免费| 黄网站色视频无遮挡免费观看| 精品一品国产午夜福利视频| 久久免费观看电影| 久久久精品94久久精品| 久久精品亚洲熟妇少妇任你| 午夜福利视频在线观看免费| 最近最新中文字幕大全免费视频| 国产激情久久老熟女| 国产精品久久久久成人av| www.自偷自拍.com| 国产一区二区三区综合在线观看| 久久精品久久久久久噜噜老黄| 久久久久久久久免费视频了| 美女视频免费永久观看网站| 国产三级黄色录像| 一区在线观看完整版| 日韩大码丰满熟妇| 高清在线国产一区| 国产精品免费视频内射| 久久亚洲精品不卡| 99精国产麻豆久久婷婷| 性少妇av在线| 夜夜骑夜夜射夜夜干| 99国产极品粉嫩在线观看| 大香蕉久久网| 国产熟女午夜一区二区三区| 青青草视频在线视频观看| 久久国产精品影院| 国产又色又爽无遮挡免| 亚洲精品日韩在线中文字幕| 国产精品 欧美亚洲| 国产精品久久久久久精品电影小说| 在线观看一区二区三区激情| 人成视频在线观看免费观看| 正在播放国产对白刺激| 亚洲欧美激情在线| 成年人免费黄色播放视频| 香蕉国产在线看| 久久人人爽av亚洲精品天堂| 中文字幕制服av| 日本黄色日本黄色录像| 欧美日韩福利视频一区二区| 亚洲中文日韩欧美视频| 一个人免费看片子| 日韩人妻精品一区2区三区| 高清av免费在线| 久久久久网色| av欧美777| 男女下面插进去视频免费观看| 各种免费的搞黄视频| 午夜福利影视在线免费观看| 国产成人系列免费观看| 亚洲精华国产精华精| 日本猛色少妇xxxxx猛交久久| 岛国在线观看网站| 两个人免费观看高清视频| 电影成人av| 一级毛片电影观看| 亚洲熟女毛片儿| 午夜福利,免费看| 国产色视频综合| 50天的宝宝边吃奶边哭怎么回事| 国产无遮挡羞羞视频在线观看| 国产精品二区激情视频| 亚洲国产av影院在线观看| 99久久综合免费| 日韩欧美国产一区二区入口| 亚洲精品中文字幕一二三四区 | 人妻人人澡人人爽人人| 青春草视频在线免费观看| 亚洲一码二码三码区别大吗| √禁漫天堂资源中文www| 欧美精品亚洲一区二区| 欧美午夜高清在线| 成年人黄色毛片网站| 看免费av毛片| 国产在线观看jvid| 这个男人来自地球电影免费观看| 久久国产精品人妻蜜桃| 国产精品影院久久| 亚洲国产精品一区二区三区在线| svipshipincom国产片| 少妇 在线观看| 国产不卡av网站在线观看| 欧美亚洲 丝袜 人妻 在线| 国产一区二区 视频在线| 亚洲精品国产区一区二| 午夜福利在线免费观看网站| 婷婷丁香在线五月| 亚洲中文字幕日韩| 美女脱内裤让男人舔精品视频| 首页视频小说图片口味搜索| 一级a爱视频在线免费观看| 亚洲精品一二三| 如日韩欧美国产精品一区二区三区| 久久青草综合色| 伊人久久大香线蕉亚洲五| 免费高清在线观看日韩| 日本撒尿小便嘘嘘汇集6| 一本久久精品| 久久精品熟女亚洲av麻豆精品| 老鸭窝网址在线观看| 国产精品一区二区在线不卡| 久久久久久人人人人人| 亚洲欧美精品自产自拍| 黑人欧美特级aaaaaa片| 亚洲 国产 在线| 99精国产麻豆久久婷婷| 国产男女内射视频| 久久久久久人人人人人| 交换朋友夫妻互换小说| 国产高清国产精品国产三级| www.自偷自拍.com| 亚洲一区二区三区欧美精品| 亚洲精品久久午夜乱码| 国产野战对白在线观看| 天天操日日干夜夜撸| 亚洲精品国产色婷婷电影| 黄网站色视频无遮挡免费观看| 国产欧美亚洲国产| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品一卡2卡三卡4卡5卡 | 国产亚洲欧美精品永久| 麻豆乱淫一区二区| 叶爱在线成人免费视频播放| 久久午夜综合久久蜜桃| 精品人妻一区二区三区麻豆| 黄色视频不卡| 90打野战视频偷拍视频| 日韩 亚洲 欧美在线| 男人爽女人下面视频在线观看| 国产日韩欧美视频二区| 亚洲全国av大片| 人人妻人人爽人人添夜夜欢视频| 最近最新免费中文字幕在线| 久久香蕉激情| 亚洲成国产人片在线观看| 日日夜夜操网爽| 国产视频一区二区在线看| 97在线人人人人妻| 日韩熟女老妇一区二区性免费视频| 免费人妻精品一区二区三区视频| 婷婷丁香在线五月| 亚洲欧美清纯卡通| 自线自在国产av| 中文字幕人妻丝袜一区二区| 亚洲精品中文字幕一二三四区 | 亚洲精品久久成人aⅴ小说| 天天躁狠狠躁夜夜躁狠狠躁| 国产精品久久久久成人av| 国产精品国产三级国产专区5o| 午夜精品国产一区二区电影| 热99久久久久精品小说推荐| 成年美女黄网站色视频大全免费| 青草久久国产| 2018国产大陆天天弄谢| 国产免费一区二区三区四区乱码| 午夜两性在线视频| 免费黄频网站在线观看国产| 十八禁网站免费在线| 亚洲欧美一区二区三区黑人| 一进一出抽搐动态| 精品国产乱码久久久久久小说| 久久久久视频综合| 色播在线永久视频| 男人舔女人的私密视频| 少妇精品久久久久久久| 亚洲av电影在线进入| 黄片大片在线免费观看| 2018国产大陆天天弄谢| 久久99热这里只频精品6学生| 亚洲情色 制服丝袜| 亚洲一区中文字幕在线| 飞空精品影院首页| 午夜福利乱码中文字幕| 亚洲欧美精品自产自拍| 国产精品偷伦视频观看了| 视频区图区小说| 亚洲av电影在线观看一区二区三区| 国产免费一区二区三区四区乱码| 老司机靠b影院| 蜜桃在线观看..| 黄频高清免费视频| 1024视频免费在线观看| 成年人黄色毛片网站| 9色porny在线观看| 亚洲欧美清纯卡通| 999久久久精品免费观看国产| 啦啦啦免费观看视频1| 男女床上黄色一级片免费看| 亚洲黑人精品在线| 亚洲成国产人片在线观看| 日日夜夜操网爽| 国产视频一区二区在线看| 另类亚洲欧美激情| 亚洲人成77777在线视频| 亚洲精品久久久久久婷婷小说| 久久这里只有精品19| 法律面前人人平等表现在哪些方面 | 久久久久视频综合| www.熟女人妻精品国产| 久久久久久久久免费视频了| 国产人伦9x9x在线观看| 黄色视频在线播放观看不卡| 91成人精品电影| 国产在线免费精品| 又大又爽又粗| 少妇人妻久久综合中文| 丰满人妻熟妇乱又伦精品不卡| 99国产精品99久久久久| 三上悠亚av全集在线观看| 久久中文看片网| 免费女性裸体啪啪无遮挡网站| 99精品久久久久人妻精品| 亚洲国产欧美在线一区| 欧美精品啪啪一区二区三区 | 久久精品熟女亚洲av麻豆精品| 免费观看av网站的网址| 亚洲天堂av无毛| 青青草视频在线视频观看| 国产一级毛片在线| 亚洲精品粉嫩美女一区| 国产一区二区三区av在线| 亚洲精品国产色婷婷电影| 欧美日韩亚洲高清精品| 国产不卡av网站在线观看| 香蕉丝袜av| 成人国产av品久久久| 久久香蕉激情| 制服人妻中文乱码| 黄网站色视频无遮挡免费观看| 国产亚洲欧美在线一区二区| 亚洲美女黄色视频免费看| 伦理电影免费视频| 又紧又爽又黄一区二区| 亚洲国产精品999| av网站免费在线观看视频| 久久ye,这里只有精品| 久久国产精品影院| 国产精品二区激情视频| 中文欧美无线码| 国产片内射在线| 淫妇啪啪啪对白视频 | 亚洲国产成人一精品久久久| 91精品三级在线观看| 男人操女人黄网站| 日日夜夜操网爽| 成人国产一区最新在线观看| 国产亚洲欧美在线一区二区| 热99re8久久精品国产| 一级毛片女人18水好多| 91字幕亚洲| 18禁观看日本| 少妇猛男粗大的猛烈进出视频| 亚洲三区欧美一区| av视频免费观看在线观看| 欧美xxⅹ黑人| 亚洲人成电影观看| 欧美日韩亚洲国产一区二区在线观看 | 精品免费久久久久久久清纯 | 亚洲精华国产精华精| 国产国语露脸激情在线看| 精品久久久精品久久久| 老熟女久久久| 亚洲国产精品999| 亚洲精品日韩在线中文字幕| 一级毛片电影观看| 午夜视频精品福利| 午夜福利在线免费观看网站| 99热网站在线观看| 精品久久久精品久久久| 飞空精品影院首页| www.999成人在线观看| 国产欧美日韩一区二区精品| 在线观看舔阴道视频| 欧美变态另类bdsm刘玥| 桃红色精品国产亚洲av| 真人做人爱边吃奶动态| 日本91视频免费播放| 国产精品九九99| 精品久久久久久电影网| 一本大道久久a久久精品| 在线观看一区二区三区激情| 男女之事视频高清在线观看| av片东京热男人的天堂| 超碰成人久久| 久久中文看片网| 永久免费av网站大全| 亚洲情色 制服丝袜| 亚洲av成人不卡在线观看播放网 | av在线播放精品| 亚洲成人免费电影在线观看| 久久精品aⅴ一区二区三区四区| 亚洲美女黄色视频免费看| 免费日韩欧美在线观看| 欧美变态另类bdsm刘玥| 69av精品久久久久久 | 制服人妻中文乱码| 亚洲精品一卡2卡三卡4卡5卡 | 99国产综合亚洲精品| 最新在线观看一区二区三区| 美国免费a级毛片| 搡老岳熟女国产| 在线观看免费午夜福利视频| 欧美性长视频在线观看| 国产一区有黄有色的免费视频| 大香蕉久久成人网| 国精品久久久久久国模美| 国产欧美日韩一区二区三区在线| www.999成人在线观看| 日本一区二区免费在线视频| 黄色怎么调成土黄色| 韩国精品一区二区三区| 亚洲精品自拍成人| 亚洲av片天天在线观看| 国产真人三级小视频在线观看| 一级,二级,三级黄色视频| 日韩中文字幕视频在线看片| 久久热在线av| 午夜精品国产一区二区电影| 久久精品熟女亚洲av麻豆精品| 永久免费av网站大全| 亚洲精品国产色婷婷电影| 飞空精品影院首页| 成年美女黄网站色视频大全免费| 国产高清国产精品国产三级| 亚洲少妇的诱惑av| 日韩人妻精品一区2区三区| 亚洲情色 制服丝袜| 91字幕亚洲| 亚洲欧美精品自产自拍| 男女高潮啪啪啪动态图| 欧美日韩黄片免| 亚洲人成77777在线视频| 可以免费在线观看a视频的电影网站| 手机成人av网站| 一二三四社区在线视频社区8| 日本撒尿小便嘘嘘汇集6| 亚洲午夜精品一区,二区,三区| 他把我摸到了高潮在线观看 | 黄色片一级片一级黄色片| 欧美激情久久久久久爽电影 | 久久久久久久国产电影| 黄频高清免费视频| 成人18禁高潮啪啪吃奶动态图| www.自偷自拍.com| 电影成人av| 国产成人免费无遮挡视频| 亚洲第一av免费看| 黄片大片在线免费观看| 亚洲欧美一区二区三区久久| 国产免费av片在线观看野外av| 视频区图区小说| 久久久久国产精品人妻一区二区| av有码第一页| 久久久久精品国产欧美久久久 | 亚洲一码二码三码区别大吗| 9热在线视频观看99| 狠狠狠狠99中文字幕| 中文字幕精品免费在线观看视频| 久久人妻熟女aⅴ| 中文字幕精品免费在线观看视频| 永久免费av网站大全| 手机成人av网站| 久久久久久久久久久久大奶| 亚洲欧美激情在线| 波多野结衣一区麻豆| 老汉色∧v一级毛片| 超色免费av| 日韩中文字幕欧美一区二区| 日本av免费视频播放| 欧美亚洲日本最大视频资源| 视频区图区小说| 日韩制服丝袜自拍偷拍| 亚洲天堂av无毛| 日韩 亚洲 欧美在线| 国产精品av久久久久免费| 人成视频在线观看免费观看| 国产福利在线免费观看视频| 大片电影免费在线观看免费| 亚洲国产成人一精品久久久| 中文字幕另类日韩欧美亚洲嫩草| 亚洲情色 制服丝袜| 99久久人妻综合| 中亚洲国语对白在线视频| 精品卡一卡二卡四卡免费| 国产欧美日韩一区二区三 | 一区二区三区四区激情视频| 国产精品香港三级国产av潘金莲| 成年人黄色毛片网站| 99国产精品一区二区三区| 精品人妻熟女毛片av久久网站| 大片电影免费在线观看免费| 国产一级毛片在线| 亚洲一码二码三码区别大吗| 日日夜夜操网爽| 久久毛片免费看一区二区三区| 女人精品久久久久毛片| 国产日韩欧美亚洲二区| 91麻豆av在线| 成在线人永久免费视频| 中文字幕精品免费在线观看视频| 伊人亚洲综合成人网| 黑人巨大精品欧美一区二区mp4| 久久精品亚洲av国产电影网| 欧美 日韩 精品 国产| av福利片在线| 十八禁高潮呻吟视频| 成年女人毛片免费观看观看9 | 亚洲精品一卡2卡三卡4卡5卡 | a 毛片基地| 18在线观看网站| 欧美亚洲日本最大视频资源| 老司机午夜十八禁免费视频| 欧美在线黄色| 久久ye,这里只有精品| 99国产精品免费福利视频| 久久青草综合色| 一个人免费在线观看的高清视频 | 亚洲男人天堂网一区| 亚洲色图综合在线观看| 大陆偷拍与自拍| 超碰成人久久| 18在线观看网站| 免费在线观看影片大全网站| 亚洲av男天堂| 欧美黑人精品巨大| 精品少妇久久久久久888优播| 人人妻人人澡人人爽人人夜夜| 亚洲专区字幕在线| 麻豆av在线久日| 国产亚洲一区二区精品| 99热国产这里只有精品6| 午夜免费成人在线视频| 午夜激情久久久久久久| 亚洲av电影在线观看一区二区三区| 欧美黑人欧美精品刺激| 99久久99久久久精品蜜桃| 91av网站免费观看| 亚洲精品第二区| 亚洲天堂av无毛| 99国产极品粉嫩在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 国产欧美日韩一区二区三 | 国产91精品成人一区二区三区 | 久久人人97超碰香蕉20202| 首页视频小说图片口味搜索| 国产精品久久久人人做人人爽| 高潮久久久久久久久久久不卡| 久久久国产精品麻豆| 在线观看舔阴道视频| 国产成人精品久久二区二区91| 99热全是精品| 久久久精品国产亚洲av高清涩受| 亚洲国产看品久久| 人人妻人人添人人爽欧美一区卜| 最近中文字幕2019免费版| 9热在线视频观看99| 欧美精品一区二区免费开放| 极品少妇高潮喷水抽搐| 久久久精品94久久精品| 亚洲精品国产精品久久久不卡| 91九色精品人成在线观看| 美女大奶头黄色视频| 亚洲精品国产区一区二| 久久久久久亚洲精品国产蜜桃av| 两个人免费观看高清视频| 一级毛片女人18水好多| 黄频高清免费视频| 韩国高清视频一区二区三区| 日韩有码中文字幕| 日本欧美视频一区| 中国国产av一级| 国产精品.久久久| 色婷婷久久久亚洲欧美| 欧美日韩视频精品一区| 波多野结衣av一区二区av| 高清在线国产一区| 国产免费现黄频在线看| 国产精品久久久久久精品电影小说| 久久九九热精品免费| 99久久人妻综合| 日本猛色少妇xxxxx猛交久久| www.999成人在线观看| 国产亚洲精品一区二区www | 99国产精品一区二区蜜桃av | 久热爱精品视频在线9| 男人操女人黄网站| 国产日韩欧美在线精品| 丰满迷人的少妇在线观看| 老司机影院毛片| 777久久人妻少妇嫩草av网站| 久久久国产成人免费| 亚洲欧美色中文字幕在线| 欧美精品av麻豆av| 久久国产精品大桥未久av| 国产精品一区二区精品视频观看| 99热国产这里只有精品6| 美女午夜性视频免费| 黑人欧美特级aaaaaa片| 欧美激情高清一区二区三区| 一区二区三区激情视频| 性少妇av在线| 国产一卡二卡三卡精品| 亚洲成人手机| 最近最新免费中文字幕在线| 嫩草影视91久久| 亚洲欧洲日产国产| videosex国产| 久热爱精品视频在线9| 国产成人av教育| 美女中出高潮动态图| 啦啦啦中文免费视频观看日本| 亚洲欧美一区二区三区黑人| 婷婷成人精品国产| 亚洲综合色网址| 日本黄色日本黄色录像| 色老头精品视频在线观看| 亚洲一卡2卡3卡4卡5卡精品中文| 久久国产精品男人的天堂亚洲| 国产成人av激情在线播放| 久久中文字幕一级| 另类精品久久| 精品欧美一区二区三区在线| 亚洲精品美女久久av网站| 在线 av 中文字幕| 精品国产乱码久久久久久小说| 精品视频人人做人人爽| 国产av国产精品国产| 亚洲国产精品一区二区三区在线| 成人av一区二区三区在线看 | 精品人妻熟女毛片av久久网站| 亚洲va日本ⅴa欧美va伊人久久 | 午夜两性在线视频| 欧美黄色淫秽网站| 久久av网站| 亚洲欧美清纯卡通| 香蕉国产在线看| 啦啦啦免费观看视频1| 亚洲 欧美一区二区三区| cao死你这个sao货| 午夜精品国产一区二区电影| 黑人猛操日本美女一级片| 午夜福利在线免费观看网站| 亚洲欧美激情在线| 爱豆传媒免费全集在线观看| 亚洲,欧美精品.| 欧美 亚洲 国产 日韩一| 国产av又大| 亚洲国产看品久久| 精品高清国产在线一区| 又大又爽又粗| 少妇精品久久久久久久| 啦啦啦中文免费视频观看日本| 男女下面插进去视频免费观看| 午夜精品国产一区二区电影| www.熟女人妻精品国产| 国内毛片毛片毛片毛片毛片| 超碰97精品在线观看| 大片电影免费在线观看免费| 视频区欧美日本亚洲| 国产视频一区二区在线看| 国产精品亚洲av一区麻豆| 国产欧美日韩精品亚洲av| 欧美日韩av久久| 极品人妻少妇av视频| 美女高潮喷水抽搐中文字幕| 女性被躁到高潮视频| 最黄视频免费看| 在线永久观看黄色视频| 亚洲专区字幕在线| 99精品久久久久人妻精品| 80岁老熟妇乱子伦牲交| 一区二区三区乱码不卡18| 后天国语完整版免费观看| 久久狼人影院| 国产成人精品久久二区二区免费| 桃红色精品国产亚洲av| 国产真人三级小视频在线观看| 少妇猛男粗大的猛烈进出视频| 最近最新中文字幕大全免费视频| 国产亚洲av高清不卡| 99精品久久久久人妻精品| 涩涩av久久男人的天堂| 2018国产大陆天天弄谢| 久久天堂一区二区三区四区| 高潮久久久久久久久久久不卡| 亚洲中文av在线| 国产亚洲精品一区二区www | 黑人巨大精品欧美一区二区蜜桃| 成人国产av品久久久| 精品亚洲成a人片在线观看| 国产男人的电影天堂91| a级片在线免费高清观看视频| 国精品久久久久久国模美| 欧美激情高清一区二区三区| 欧美精品亚洲一区二区| 国产欧美日韩一区二区精品| videos熟女内射| 久久久精品94久久精品| 亚洲精品美女久久av网站| 中文字幕精品免费在线观看视频| 伊人亚洲综合成人网| 精品亚洲成国产av| 日日爽夜夜爽网站| 欧美亚洲 丝袜 人妻 在线| 日韩 欧美 亚洲 中文字幕| 黑人操中国人逼视频|