• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理研究及啟示

    2021-04-30 02:32:56劉法旺李艷文李國(guó)俊李京泰張微
    汽車文摘 2021年5期
    關(guān)鍵詞:智能網(wǎng)法規(guī)網(wǎng)絡(luò)安全

    劉法旺 李艷文 李國(guó)俊 李京泰 張微

    (工業(yè)和信息化部裝備工業(yè)發(fā)展中心,北京100846)

    主題詞:智能網(wǎng)聯(lián)汽車 準(zhǔn)入管理 軟件升級(jí) 網(wǎng)絡(luò)安全

    縮略語

    ICV Intelligent and Connected Vehicle GRRF Working Party on Braking and Running Gear ITS/AD Intelligent Transportation Systems/Automated Driving GRVA Working Party on Automated/Autonomous and Connected Vehicles ODD Operational Design Domain ODC Operational Design Condition ALKS Automatic Line Keeping System

    DSSAD Data Storage System for Automated Driving SOTIF Safety Of The Intended Functionality OTA Over-The-Air Technology

    1 前言

    汽車產(chǎn)業(yè)是我國(guó)國(guó)民經(jīng)濟(jì)的重要支柱產(chǎn)業(yè),據(jù)國(guó)家統(tǒng)計(jì)局?jǐn)?shù)據(jù),2020年我國(guó)汽車制造業(yè)整體營(yíng)收8.15萬億元,帶來的稅收、就業(yè)、零售額均占全國(guó)相應(yīng)總量的10%以上[1-2]。在以人工智能、5G通信為代表的科技革命與產(chǎn)業(yè)變革的推動(dòng)下,汽車作為新技術(shù)應(yīng)用的優(yōu)質(zhì)載體,正在加速智能化、網(wǎng)聯(lián)化發(fā)展進(jìn)程。各類前沿技術(shù)、新興業(yè)態(tài)“交相輝映、彼此賦能”,進(jìn)一步催生了汽車產(chǎn)業(yè)結(jié)構(gòu)、產(chǎn)業(yè)價(jià)值鏈、產(chǎn)品形態(tài)、消費(fèi)模式、出行方式等方面的系統(tǒng)性變革,智能網(wǎng)聯(lián)汽車已經(jīng)成為全球汽車產(chǎn)業(yè)發(fā)展的戰(zhàn)略方向[3-5]。

    當(dāng)前,智能網(wǎng)聯(lián)汽車處于技術(shù)快速演進(jìn)、產(chǎn)業(yè)加速布局的商業(yè)化前期階段。L2 級(jí)輔助駕駛功能已開始規(guī)模化應(yīng)用,L3、L4 級(jí)自動(dòng)駕駛的產(chǎn)業(yè)化成為各大企業(yè)的瞄準(zhǔn)目標(biāo)。國(guó)際上,Waymo、Uber、Lyft 積極推進(jìn)Robotaxi 測(cè)試驗(yàn)證,正在由道路測(cè)試向商業(yè)化示范運(yùn)營(yíng)推進(jìn),歐洲、美國(guó)干線物流自動(dòng)駕駛已經(jīng)進(jìn)入了商業(yè)試運(yùn)營(yíng)階段。國(guó)內(nèi)的港口、礦區(qū)等限定場(chǎng)景率先開展試點(diǎn)運(yùn)營(yíng),Robotaxi、干線物流等開放道路測(cè)試與示范應(yīng)用蓬勃發(fā)展。

    智能網(wǎng)聯(lián)汽車準(zhǔn)入管理是一項(xiàng)復(fù)雜的系統(tǒng)工程,安全形勢(shì)更加嚴(yán)峻,在法規(guī)、標(biāo)準(zhǔn)等方面面臨著新的挑戰(zhàn)。此外,由于產(chǎn)業(yè)變革和跨界融合,相關(guān)行業(yè)主管部門的職能面臨進(jìn)一步協(xié)調(diào)分工。

    本文聚焦研究歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理政策、法規(guī)和標(biāo)準(zhǔn)進(jìn)展,剖析智能網(wǎng)聯(lián)汽車準(zhǔn)入管理面臨的問題,提出應(yīng)對(duì)的建議。

    2 歐美日智能網(wǎng)聯(lián)汽車法規(guī)標(biāo)準(zhǔn)進(jìn)展

    歐美日等汽車大國(guó)、強(qiáng)國(guó)紛紛加速制定智能網(wǎng)聯(lián)汽車政策法規(guī)及標(biāo)準(zhǔn),加強(qiáng)頂層設(shè)計(jì)。2020年11月,日本在全球第一個(gè)正式批準(zhǔn)了具有L3級(jí)功能的車型本田“里程”。2021年1月,美國(guó)發(fā)布《自動(dòng)駕駛汽車綜合計(jì)劃》,擬構(gòu)建現(xiàn)代化的監(jiān)管環(huán)境,開發(fā)以安全為重點(diǎn)的框架和工具,評(píng)估自動(dòng)駕駛技術(shù)的安全性。2021年2月,德國(guó)通過《“道路交通法”和“強(qiáng)制保險(xiǎn)法”修正案—自動(dòng)駕駛法》,計(jì)劃年中生效,屆時(shí)智能網(wǎng)聯(lián)汽車(L4 級(jí))可在公共道路交通的固定運(yùn)營(yíng)區(qū)域內(nèi)行駛。

    通過分析歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理的進(jìn)展及趨勢(shì),總結(jié)其具有以下4個(gè)主要特點(diǎn)。

    2.1 積極參與聯(lián)合國(guó)法規(guī)研討,明確管理原則

    為協(xié)調(diào)推進(jìn)智能網(wǎng)聯(lián)汽車技術(shù)法規(guī)體系建設(shè),聯(lián)合國(guó)世界車輛法規(guī)協(xié)調(diào)論壇(WP.29)在制動(dòng)與行駛系工作組(GRRF)的基礎(chǔ)上,整合智能交通/自動(dòng)駕駛(ITS/AD)非正式工作組,專門成立了智能網(wǎng)聯(lián)汽車工作組(GRVA)。GRVA工作組負(fù)責(zé)統(tǒng)籌開展聯(lián)合國(guó)有關(guān)智能網(wǎng)聯(lián)汽車法規(guī)的協(xié)調(diào)任務(wù),重點(diǎn)保障自動(dòng)化車輛的安全水平,確保智能網(wǎng)聯(lián)汽車行駛安全,以免遭受任何不可承受的風(fēng)險(xiǎn);確保在其設(shè)計(jì)運(yùn)行范圍(ODD)下,智能網(wǎng)聯(lián)汽車不能導(dǎo)致任何可預(yù)見和可預(yù)防的傷亡交通事故。

    GRVA 首先發(fā)布了框架法規(guī)文件,提出總體要求。2019年6月,在日內(nèi)瓦舉行的聯(lián)合國(guó)WP.29 第178 次全體會(huì)議上,審議通過了中國(guó)、歐盟、日本和美國(guó)共同提出的《自動(dòng)駕駛汽車框架文件》(Framework document on automated/autonomous vehicles(level 3 and higher),旨在確立具備L3及更高級(jí)別功能的智能網(wǎng)聯(lián)汽車的安全性相關(guān)原則,并為WP.29附屬工作組提供工作指導(dǎo)。框架文件中對(duì)系統(tǒng)安全、失效保護(hù)響應(yīng)、人機(jī)交互界面/操作者信息、事件數(shù)據(jù)記錄和自動(dòng)駕駛數(shù)據(jù)存儲(chǔ)、消費(fèi)者教育培訓(xùn)、碰撞后智能網(wǎng)聯(lián)汽車行為等13項(xiàng)內(nèi)容進(jìn)行了明確和闡述[6]。

    歐美日積極參與WP.29研討,并發(fā)布了相應(yīng)的準(zhǔn)入指南。日本發(fā)布了《自動(dòng)駕駛安全技術(shù)指南》[7],歐盟發(fā)布了《自動(dòng)駕駛車輛豁免程序指南》[8],適用范圍均是具備L3和L4級(jí)功能的智能網(wǎng)聯(lián)汽車。針對(duì)搭載L3~L5級(jí)功能的車輛,美國(guó)發(fā)布了《自動(dòng)駕駛系統(tǒng)2.0:安全愿景》[9],提出了12 項(xiàng)安全要素要求。

    2.2 “多支柱”方法獲得廣泛認(rèn)可

    《自動(dòng)駕駛汽車框架文件》將安全作為核心關(guān)注點(diǎn),強(qiáng)調(diào)“自動(dòng)/無人駕駛汽車要確保安全水平達(dá)到‘自動(dòng)/無人駕駛汽車不會(huì)造成任何不可忍受的風(fēng)險(xiǎn)’,這就意味著在其自動(dòng)模式下,自動(dòng)/無人駕駛汽車系統(tǒng)不應(yīng)造成可以合理預(yù)見和預(yù)防的傷害或死亡的交通事故發(fā)生”?;诖嗽瓌t,GRVA提出了基于“多支柱法”的自動(dòng)駕駛安全驗(yàn)證框架,融合審核評(píng)估、模擬仿真測(cè)試、封閉場(chǎng)地測(cè)試、實(shí)際道路測(cè)試、在線監(jiān)測(cè)報(bào)告等措施(圖1)[10-11]?!岸嘀еā本劢怪悄芫W(wǎng)聯(lián)汽車安全,由傳統(tǒng)的產(chǎn)品測(cè)試擴(kuò)展到過程安全評(píng)估、多層級(jí)測(cè)試等驗(yàn)證方式。

    “多支柱法”的核心是構(gòu)建了安全測(cè)評(píng)框架,以安全要求為主線,通過過程審核、多層級(jí)測(cè)試等進(jìn)行綜合評(píng)價(jià)。傳統(tǒng)的手段無法窮盡自動(dòng)駕駛場(chǎng)景驗(yàn)證,通過多支柱法,在封閉場(chǎng)地測(cè)試和實(shí)際道路測(cè)試場(chǎng)景有限的前提下,綜合過程審核和模擬仿真測(cè)試,保障自動(dòng)駕駛安全性。

    2.3 采取小步快跑方式加快制定法規(guī)

    基于框架文件,GRVA發(fā)布了3項(xiàng)法規(guī)。2020年6月24日,WP.29第181 次全體會(huì)議以網(wǎng)絡(luò)會(huì)議形式召開,審議通過了自動(dòng)車道保持系統(tǒng)(ALKS)、網(wǎng)絡(luò)安全(Cybersecurity)和軟件升級(jí)(Software Updates)3 項(xiàng)智能網(wǎng)聯(lián)汽車領(lǐng)域的法規(guī),生效日期是2021年1月[12-14]。3項(xiàng)法規(guī)是該領(lǐng)域首批國(guó)際統(tǒng)一和具有約束力的技術(shù)法規(guī),對(duì)于全球范圍內(nèi)智能網(wǎng)聯(lián)汽車的技術(shù)發(fā)展和產(chǎn)業(yè)規(guī)范具有里程碑式的意義。

    圖1 UNECE“多支柱法”框架[10]

    ALKS 法規(guī)是針對(duì)L3 級(jí)駕駛自動(dòng)化功能的第一個(gè)具有約束力的國(guó)際法規(guī),該法規(guī)規(guī)定ALKS 在具備物理隔離且無行人及兩輪車的道路上行駛,運(yùn)行速度不應(yīng)高于60 km/h。該法規(guī)以聯(lián)合國(guó)《自動(dòng)駕駛框架文件》為指導(dǎo),從系統(tǒng)安全、故障安全響應(yīng)、人機(jī)界面、自動(dòng)駕駛數(shù)據(jù)存儲(chǔ)系統(tǒng)(DSSAD)、網(wǎng)絡(luò)安全及軟件升級(jí)等方面對(duì)ALKS 提出要求。其中,“系統(tǒng)安全”要求系統(tǒng)在激活后可以執(zhí)行全部動(dòng)態(tài)駕駛?cè)蝿?wù);“故障安全響應(yīng)”要求系統(tǒng)具備駕駛權(quán)轉(zhuǎn)換、碰撞應(yīng)急策略和最小風(fēng)險(xiǎn)策略;“人機(jī)界面”規(guī)定系統(tǒng)的激活和退出條件,并明確系統(tǒng)的應(yīng)提示信息及形式;“DSSAD”要求應(yīng)記錄系統(tǒng)的駕駛狀態(tài)。

    ALKS 法規(guī)在“多支柱法”框架下提出限定功能、限定場(chǎng)景的技術(shù)要求,在法規(guī)制定方面邁出了第一小步。其重要意義如下。

    (1)限定場(chǎng)景的功能相對(duì)簡(jiǎn)單,測(cè)試驗(yàn)證覆蓋難度相對(duì)較低,風(fēng)險(xiǎn)更為可控;

    (2)保留了下一步拓展的空間,通過技術(shù)持續(xù)迭代和測(cè)試,促進(jìn)法規(guī)更新和完善。

    2.4 以安全為主線加快推進(jìn)預(yù)期功能安全(SOTIF)、網(wǎng)絡(luò)安全等標(biāo)準(zhǔn)制定

    國(guó)際標(biāo)準(zhǔn)化組織道路車輛技術(shù)委員會(huì)(ISO/TC 22)負(fù)責(zé)道路車輛的標(biāo)準(zhǔn)化工作,主要包括車輛通訊(SC 31)、車輛電氣電子部件及通用系統(tǒng)(SC 32)、車輛動(dòng)力學(xué)及底盤部件(SC 33)等11 個(gè)分委會(huì)。其中,SC 32 分委會(huì)已經(jīng)發(fā)布了ISO 26262:2018 道路車輛功能安全標(biāo)準(zhǔn)[15],并積極推動(dòng)ISO 21448 預(yù)期功能安全標(biāo)準(zhǔn)[16]以及ISO/SAE 21434 網(wǎng)絡(luò)安全標(biāo)準(zhǔn)[17]的制定,SC 33分委會(huì)在推動(dòng)自動(dòng)駕駛測(cè)試場(chǎng)景等相關(guān)標(biāo)準(zhǔn)的制定。此外,國(guó)際標(biāo)準(zhǔn)化組織智能運(yùn)輸系統(tǒng)技術(shù)委員會(huì)(ISO/TC 204)負(fù)責(zé)城郊地面運(yùn)輸信息、通信和控制系統(tǒng)的標(biāo)準(zhǔn)制定。

    ISO 26262:2018《道路車輛功能安全》標(biāo)準(zhǔn)涵蓋功能安全方面的整體開發(fā)過程(包括需求規(guī)劃、設(shè)計(jì)、實(shí)施、集成、驗(yàn)證、確認(rèn)和配置),為智能網(wǎng)聯(lián)汽車功能安全開發(fā)提供了指導(dǎo)方針。ISO/SAE 21434《道路車輛網(wǎng)絡(luò)安全工程》標(biāo)準(zhǔn)參考V 模型開發(fā)流程,主要從風(fēng)險(xiǎn)評(píng)估管理、產(chǎn)品開發(fā)、運(yùn)行/維護(hù)、流程審核等4個(gè)方面來保障汽車網(wǎng)絡(luò)安全工程實(shí)施。ISO 21448預(yù)期功能安全標(biāo)準(zhǔn)是對(duì)ISO 26262 功能安全的補(bǔ)充,旨在避免因智能網(wǎng)聯(lián)汽車整車及系統(tǒng)的預(yù)期功能局限所引起的不合理風(fēng)險(xiǎn)。通過基于對(duì)已知不安全場(chǎng)景和未知不安全場(chǎng)景的預(yù)期功能安全驗(yàn)證和確認(rèn),探測(cè)和發(fā)現(xiàn)整車及系統(tǒng)組件中的功能不足并進(jìn)行改進(jìn),使智能網(wǎng)聯(lián)汽車達(dá)到合理安全水平。

    3 智能網(wǎng)聯(lián)汽車準(zhǔn)入管理面臨的挑戰(zhàn)

    在研究歐美日智能網(wǎng)聯(lián)汽車政策法規(guī)、標(biāo)準(zhǔn)進(jìn)展的基礎(chǔ)上,進(jìn)一步分析智能網(wǎng)聯(lián)汽車準(zhǔn)入管理面臨的難題。

    如圖2所示,智能網(wǎng)聯(lián)汽車面臨2個(gè)主要變化。

    圖2 智能網(wǎng)聯(lián)汽車準(zhǔn)入管理挑戰(zhàn)

    (1)L3 級(jí)及以上功能,駕駛?cè)蝿?wù)部分或全部由駕駛自動(dòng)化系統(tǒng)承擔(dān),用戶(駕駛員)提供必要的協(xié)助和輔助,責(zé)任主體會(huì)發(fā)生變化,汽車產(chǎn)品安全相關(guān)的基本特征、技術(shù)參數(shù)尚不明確。

    (2)軟件升級(jí)則有可能會(huì)影響智能網(wǎng)聯(lián)汽車產(chǎn)品一致性管理。

    自動(dòng)駕駛安全問題更加復(fù)雜,駕駛權(quán)轉(zhuǎn)移引發(fā)責(zé)任主體變化,產(chǎn)生了責(zé)任判定問題;軟件升級(jí)加劇了網(wǎng)絡(luò)安全和產(chǎn)品一致性管理難題;標(biāo)準(zhǔn)支撐則是影響智能網(wǎng)聯(lián)汽車行業(yè)管理的共性難題。從智能網(wǎng)聯(lián)汽車準(zhǔn)入管理的視角,共識(shí)別出自動(dòng)駕駛安全、責(zé)任判定、軟件升級(jí)、網(wǎng)絡(luò)安全和標(biāo)準(zhǔn)支撐等5個(gè)挑戰(zhàn)。

    5 個(gè)挑戰(zhàn)之間又相互關(guān)聯(lián),如軟件升級(jí)也涉及自動(dòng)駕駛安全和網(wǎng)絡(luò)安全問題,網(wǎng)絡(luò)安全也會(huì)引發(fā)自動(dòng)駕駛安全等問題,標(biāo)準(zhǔn)支撐則與其他4個(gè)挑戰(zhàn)難題直接相關(guān)。

    3.1 自動(dòng)駕駛安全的內(nèi)涵和外延在發(fā)生演變

    自動(dòng)駕駛強(qiáng)化了功能安全和網(wǎng)絡(luò)安全的管理需求,并提出了預(yù)期功能安全管理需求[18]。人機(jī)共駕等應(yīng)用場(chǎng)景的復(fù)雜性和功能的多樣性,增加了功能安全設(shè)計(jì)和驗(yàn)證確認(rèn)的工作量,提高了對(duì)自動(dòng)駕駛殘余風(fēng)險(xiǎn)可接受水平的判定難度。網(wǎng)聯(lián)化需要建立具備縱深防御、長(zhǎng)期監(jiān)控的網(wǎng)絡(luò)安全防護(hù)體系,延伸到車邊界網(wǎng)絡(luò)防護(hù)、車內(nèi)處理器全棧防護(hù)、內(nèi)外網(wǎng)傳輸保護(hù)、車輛安全服務(wù)生態(tài)等諸多方面[19]。針對(duì)自動(dòng)駕駛由于預(yù)期功能的設(shè)計(jì)或其實(shí)現(xiàn)過程的不充分而導(dǎo)致危害、產(chǎn)生不合理的風(fēng)險(xiǎn),提出了對(duì)預(yù)期功能安全的要求。

    內(nèi)涵和外延的演變,對(duì)如何評(píng)價(jià)自動(dòng)駕駛達(dá)到完全安全提出了挑戰(zhàn)。德國(guó)倫理委員會(huì)建議,自動(dòng)駕駛應(yīng)實(shí)現(xiàn)“與人類駕駛水平相比的正風(fēng)險(xiǎn)平衡”的目標(biāo)[20];《自動(dòng)駕駛汽車框架文件》則要求自動(dòng)駕駛應(yīng)避免不合理的安全風(fēng)險(xiǎn)。這些都是原則要求,如何測(cè)試、驗(yàn)證并進(jìn)行有效的統(tǒng)計(jì)分析,是面臨的難題。

    對(duì)搭載L3 級(jí)及以上功能的智能網(wǎng)聯(lián)汽車,駕駛權(quán)發(fā)生轉(zhuǎn)移,安全風(fēng)險(xiǎn)更加突出,測(cè)試、驗(yàn)證、評(píng)價(jià)自動(dòng)駕駛的安全性更加困難,主要表現(xiàn)在以下3個(gè)方面。

    (1)駕駛自動(dòng)化系統(tǒng)及應(yīng)用場(chǎng)景復(fù)雜,為確保駕駛自動(dòng)化系統(tǒng)本身具有安全執(zhí)行駕駛功能的能力,需要進(jìn)行大量的應(yīng)用場(chǎng)景測(cè)試,尤其是要考慮未知場(chǎng)景驗(yàn)證。

    (2)自動(dòng)駕駛高度依賴人工智能和深度學(xué)習(xí),存在不可解釋性,面臨“黑箱”難題,需要開展大規(guī)模試驗(yàn)驗(yàn)證。據(jù)美國(guó)蘭德公司(RAND)分析,證明自動(dòng)駕駛安全性,需要安全駕駛110 億英里(176 億km),同時(shí)保證場(chǎng)景的多樣性和覆蓋度[21-21];實(shí)際道路測(cè)試通??梢苑e累到幾百萬公里,但也只能驗(yàn)證部分場(chǎng)景,大量剩余的長(zhǎng)尾場(chǎng)景無法完全通過實(shí)際道路測(cè)試實(shí)現(xiàn)。

    (3)功能、部件安全并不代表整車系統(tǒng)安全,測(cè)試驗(yàn)證評(píng)價(jià)自動(dòng)駕駛的安全性是一項(xiàng)復(fù)雜的系統(tǒng)工程,尚有不少理論和技術(shù)問題有待進(jìn)一步深入研究。

    3.2 駕駛權(quán)轉(zhuǎn)移帶來的責(zé)任判定問題

    具備L3 和L4 級(jí)功能的智能網(wǎng)聯(lián)汽車,涉及到駕駛權(quán)轉(zhuǎn)移,應(yīng)用場(chǎng)景更加復(fù)雜。L3 級(jí)駕駛自動(dòng)化又稱為有條件自動(dòng)駕駛,是指駕駛自動(dòng)化系統(tǒng)在其設(shè)計(jì)運(yùn)行條件(ODC)內(nèi)持續(xù)地執(zhí)行全部動(dòng)態(tài)駕駛?cè)蝿?wù);對(duì)于L3 級(jí)駕駛自動(dòng)化,動(dòng)態(tài)駕駛?cè)蝿?wù)接管用戶應(yīng)以適當(dāng)?shù)姆绞綀?zhí)行動(dòng)態(tài)駕駛?cè)蝿?wù)接管。L4 級(jí)駕駛自動(dòng)化又稱為高度自動(dòng)駕駛,是指駕駛自動(dòng)化系統(tǒng)在其ODC內(nèi)持續(xù)地執(zhí)行全部動(dòng)態(tài)駕駛?cè)蝿?wù)和執(zhí)行動(dòng)態(tài)駕駛?cè)蝿?wù)接管;對(duì)于L4 級(jí)駕駛自動(dòng)化,系統(tǒng)發(fā)出接管請(qǐng)求時(shí),若乘客無響應(yīng),系統(tǒng)應(yīng)具備自動(dòng)達(dá)到最小風(fēng)險(xiǎn)狀態(tài)的能力。

    在涉及駕駛權(quán)轉(zhuǎn)移的應(yīng)用場(chǎng)景下[23],如何進(jìn)行事故責(zé)任判定成為一個(gè)重要課題。國(guó)內(nèi)外自動(dòng)駕駛數(shù)據(jù)存儲(chǔ)系統(tǒng)(DSSAD)法規(guī)和標(biāo)準(zhǔn)還處于研究階段,自動(dòng)駕駛數(shù)據(jù)記錄的觸發(fā)條件、數(shù)據(jù)記錄類型、數(shù)據(jù)傳輸?shù)瘸蔀榻裹c(diǎn)討論問題。數(shù)據(jù)記錄、自動(dòng)駕駛復(fù)雜應(yīng)用場(chǎng)景以及駕駛權(quán)頻繁轉(zhuǎn)移都對(duì)責(zé)任判定提出了挑戰(zhàn)。

    3.3 軟件升級(jí)對(duì)智能網(wǎng)聯(lián)汽車一致性產(chǎn)生影響

    2020年5月,特斯拉針對(duì)Model3 推出付費(fèi)加速升級(jí)服務(wù)。2020年12月,寶馬對(duì)全球75萬輛汽車OTA 升級(jí),涉及底盤、動(dòng)力等模塊。軟件升級(jí)廣泛應(yīng)用且升級(jí)頻次日益頻繁,車輛功能持續(xù)迭代更新,產(chǎn)品一致性管理面臨挑戰(zhàn),亟需完善準(zhǔn)入審查及監(jiān)督管理方式。

    在軟件定義汽車的大趨勢(shì)下,軟件質(zhì)量審核、測(cè)試驗(yàn)證、發(fā)布流程等要求的規(guī)范性將成為影響汽車產(chǎn)品質(zhì)量、安全性、可靠性的重要因素。軟件升級(jí)技術(shù)加速普及和應(yīng)用,對(duì)準(zhǔn)入審查、監(jiān)督管理方式提出新的挑戰(zhàn)。

    (1)軟件升級(jí)可能帶來產(chǎn)品一致性問題。軟件升級(jí)后導(dǎo)致實(shí)際生產(chǎn)銷售的智能網(wǎng)聯(lián)汽車產(chǎn)品有關(guān)技術(shù)參數(shù)、配置和性能指標(biāo),與型式批準(zhǔn)的車輛產(chǎn)品相關(guān)技術(shù)參數(shù)、配置和性能指標(biāo)不一致,對(duì)一致性監(jiān)督管理造成沖擊。

    (2)軟件升級(jí)可能改變產(chǎn)品安全、環(huán)保、節(jié)能、防盜等性能,出現(xiàn)升級(jí)后車輛不符合現(xiàn)有法規(guī)、標(biāo)準(zhǔn)及技術(shù)要求等問題,造成產(chǎn)品重大安全隱患,引發(fā)產(chǎn)品合規(guī)性風(fēng)險(xiǎn)。

    3.4 網(wǎng)絡(luò)安全管理難題

    隨著車載系統(tǒng)的數(shù)量和復(fù)雜性不斷增加,對(duì)網(wǎng)絡(luò)安全的需求正在迅速增長(zhǎng)。汽車與制造商之間的通信(如OTA,監(jiān)測(cè)等),車車通信(V2V),汽車與基礎(chǔ)設(shè)施之間的通信(V2I),以及與第三方供應(yīng)商的智能手機(jī)和設(shè)備進(jìn)行通信,新的業(yè)務(wù)服務(wù)模式將對(duì)智能網(wǎng)聯(lián)汽車的網(wǎng)絡(luò)安全管理提出新要求。

    隨著V2X 技術(shù)的普及應(yīng)用,周邊車輛、基礎(chǔ)設(shè)施等協(xié)同工作,甚至參與感知、決策和控制,網(wǎng)絡(luò)安全風(fēng)險(xiǎn)更加凸顯。周邊終端、云端等可能參與感知、決策、甚至控制,也將面臨責(zé)任劃分問題。

    同時(shí),智能網(wǎng)汽車可以采集車輛數(shù)據(jù)、用戶數(shù)據(jù)、地圖數(shù)據(jù)、位置數(shù)據(jù)、路況數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)等數(shù)據(jù)信息,并能夠?qū)⒑A繑?shù)據(jù)發(fā)送到云端,也會(huì)產(chǎn)生數(shù)據(jù)安全、個(gè)人信息保護(hù)等問題。

    3.5 管理支撐標(biāo)準(zhǔn)相對(duì)滯后

    自動(dòng)駕駛技術(shù)的快速演進(jìn),給標(biāo)準(zhǔn)制定造成了2個(gè)難題。

    (1)制定具體的功能標(biāo)準(zhǔn)變得更加困難,功能邊界更加多變,安全要求更高;

    (2)缺乏足夠的試驗(yàn)數(shù)據(jù),難以量化參數(shù)要求和支撐制定相關(guān)的性能標(biāo)準(zhǔn)。智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)蓬勃發(fā)展,安全隱患也進(jìn)一步增大,行業(yè)管理需求更加迫切,而支撐行業(yè)管理的標(biāo)準(zhǔn)制定相對(duì)滯后,對(duì)智能網(wǎng)聯(lián)汽車準(zhǔn)入管理也會(huì)帶來困擾。

    目前,以功能安全、預(yù)期功能安全、網(wǎng)絡(luò)安全為代表的系統(tǒng)工程標(biāo)準(zhǔn)[24]被廣泛引用到GRVA法規(guī)。

    (1)提出了安全生命周期的概念,涉及到產(chǎn)品過程審核要求,對(duì)傳統(tǒng)準(zhǔn)入管理提出了修訂需求;

    (2)界定了框架安全,對(duì)智能網(wǎng)聯(lián)汽車產(chǎn)品提出了系統(tǒng)安全的評(píng)價(jià)概念,確保了安全的充分性,但缺乏智能網(wǎng)聯(lián)汽車量化技術(shù)參數(shù),對(duì)行業(yè)管理提出了難題。

    4 應(yīng)對(duì)思考

    參照聯(lián)合國(guó)以及歐美日智能網(wǎng)聯(lián)汽車準(zhǔn)入管理的進(jìn)展,結(jié)合我國(guó)國(guó)情,對(duì)智能網(wǎng)聯(lián)汽車準(zhǔn)入面臨的挑戰(zhàn)提出如下應(yīng)對(duì)思考和建議。

    4.1 加強(qiáng)頂層設(shè)計(jì)與工作協(xié)同

    智能網(wǎng)聯(lián)汽車發(fā)展需要國(guó)家頂層政策的指導(dǎo)和規(guī)劃設(shè)計(jì)。

    (1)智能網(wǎng)聯(lián)汽車涉及駕駛權(quán)轉(zhuǎn)移問題,引發(fā)一系列法規(guī)、標(biāo)準(zhǔn)、保險(xiǎn)、商業(yè)模式、倫理道德等領(lǐng)域的挑戰(zhàn),需要國(guó)家層面的整體布局。

    (2)智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)覆蓋面廣、技術(shù)交叉強(qiáng),涉及與能源、環(huán)境、通信、交通等領(lǐng)域的協(xié)同,具備本地屬性和跨領(lǐng)域、跨部門監(jiān)管的特點(diǎn),也需要國(guó)家層面進(jìn)行頂層規(guī)劃和工作協(xié)同。

    建議部門間形成合力,積極推動(dòng)形成跨部門協(xié)同管理機(jī)制,明確包容審慎監(jiān)管原則,堅(jiān)持依法監(jiān)管、底線監(jiān)管、創(chuàng)新監(jiān)管的理念。處理好發(fā)展與安全之間的關(guān)系,盡快推動(dòng)適用于智能網(wǎng)聯(lián)汽車的法律法規(guī)制修訂工作。

    建議延續(xù)企業(yè)準(zhǔn)入、產(chǎn)品準(zhǔn)入、產(chǎn)品生產(chǎn)一致性監(jiān)督管理等管理框架,參考國(guó)際經(jīng)驗(yàn),進(jìn)一步強(qiáng)化企業(yè)主體責(zé)任,針對(duì)智能網(wǎng)聯(lián),尤其是自動(dòng)駕駛,有針對(duì)性地加強(qiáng)企業(yè)安全保障、產(chǎn)品過程保障、產(chǎn)品測(cè)試驗(yàn)證等要求,逐步探索建立適用于我國(guó)的智能網(wǎng)聯(lián)汽車準(zhǔn)入管理辦法。

    4.2 推進(jìn)測(cè)試與試點(diǎn)應(yīng)用

    我國(guó)智能網(wǎng)聯(lián)汽車道路測(cè)試和示范應(yīng)用已具備一定基礎(chǔ),但對(duì)行業(yè)管理和產(chǎn)業(yè)發(fā)展的支撐作用并未充分發(fā)揮出來。對(duì)于高等級(jí)自動(dòng)駕駛功能而言,其主要技術(shù)特征是基于場(chǎng)景和人工智能(AI),需要針對(duì)其設(shè)計(jì)運(yùn)行范圍(ODD)持續(xù)進(jìn)行訓(xùn)練和優(yōu)化;對(duì)于高等級(jí)自動(dòng)駕駛管理而言,其難點(diǎn)在于相關(guān)產(chǎn)品和技術(shù)仍在迭代,管理經(jīng)驗(yàn)和數(shù)據(jù)積累不足,安全責(zé)任邊界難以界定,管理尺度難以拿捏。基于此提出如下3點(diǎn)建議。

    (1)進(jìn)一步擴(kuò)大范圍,開展規(guī)模化智能網(wǎng)聯(lián)汽車測(cè)試驗(yàn)證及示范應(yīng)用,支撐準(zhǔn)入管理政策法規(guī)和標(biāo)準(zhǔn)規(guī)范編制,探索商業(yè)模式。

    (2)推動(dòng)基于數(shù)據(jù)平臺(tái)認(rèn)可的測(cè)試結(jié)果互認(rèn)和數(shù)據(jù)共享,推動(dòng)不同地區(qū)測(cè)試相關(guān)標(biāo)準(zhǔn)和管理辦法統(tǒng)一。

    (3)研究建立符合中國(guó)特色的智能網(wǎng)聯(lián)汽車測(cè)試評(píng)價(jià)體系。

    4.3 基于“多支柱法”的安全證明

    聯(lián)合國(guó)自動(dòng)駕駛法規(guī)、歐美日智能網(wǎng)聯(lián)汽車管理政策均是以L3級(jí)為限界,制定或出臺(tái)相關(guān)法規(guī)、指南或框架要求。其本質(zhì)原因在于L3級(jí)及以上功能的智能網(wǎng)聯(lián)汽車涉及到駕駛權(quán)轉(zhuǎn)移,安全要求更高,應(yīng)用場(chǎng)景更加復(fù)雜。

    參照聯(lián)合國(guó)自動(dòng)駕駛法規(guī)要求,基于“多支柱法”進(jìn)行測(cè)試驗(yàn)證和統(tǒng)計(jì)證明。通過模擬仿真測(cè)試、封閉場(chǎng)地測(cè)試、實(shí)際道路測(cè)試等驗(yàn)證系統(tǒng)安全,對(duì)系統(tǒng)運(yùn)行安全性進(jìn)行全面監(jiān)測(cè),量化并評(píng)估以前未考慮的情景,提高驗(yàn)證的置信度。

    4.4 推進(jìn)研究軟件升級(jí)管理要求

    加快推動(dòng)汽車軟件升級(jí)相關(guān)標(biāo)準(zhǔn)與規(guī)范制定,明確軟件升級(jí)相關(guān)功能要求、安全要求及測(cè)試規(guī)范,保障軟件升級(jí)質(zhì)量。加快軟件升級(jí)分類體系與判定技術(shù)條件研制,完善軟件升級(jí)安全評(píng)估與測(cè)試體系。

    開展軟件升級(jí)安全監(jiān)管技術(shù)研究和安全監(jiān)管平臺(tái)試點(diǎn)。支持企業(yè)穩(wěn)步發(fā)展,保護(hù)消費(fèi)者權(quán)益,引導(dǎo)企業(yè)從框架性、整體性的角度來考慮,包括基礎(chǔ)設(shè)施安全、流程上的規(guī)范等方面,探索建立軟件升級(jí)監(jiān)管數(shù)據(jù)平臺(tái),組織開展監(jiān)管技術(shù)研究,細(xì)化企業(yè)保障能力要求和軟件升級(jí)功能測(cè)試要求,加強(qiáng)軟件升級(jí)監(jiān)督管理工作。

    4.5 推進(jìn)網(wǎng)絡(luò)安全管理政策及標(biāo)準(zhǔn)研究制定

    網(wǎng)絡(luò)安全涉及面寬、相關(guān)管理機(jī)構(gòu)多,建議進(jìn)一步梳理明確政府、行業(yè)、企業(yè)職責(zé)定位和責(zé)任劃分。對(duì)車端的網(wǎng)絡(luò)安全,從企業(yè)網(wǎng)絡(luò)安全保障、產(chǎn)品網(wǎng)絡(luò)安全過程保障、產(chǎn)品網(wǎng)絡(luò)安全測(cè)試驗(yàn)證3個(gè)方面提出要求。

    數(shù)據(jù)安全方面,建議研究制定智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全相關(guān)的管理、技術(shù)、測(cè)評(píng)等標(biāo)準(zhǔn)規(guī)范。開展數(shù)據(jù)安全標(biāo)準(zhǔn)框架研究,加快數(shù)據(jù)分類、數(shù)據(jù)脫敏、數(shù)據(jù)防泄漏等標(biāo)準(zhǔn)研制。持續(xù)推動(dòng)完善智能網(wǎng)聯(lián)汽車數(shù)據(jù)安全和用戶個(gè)人信息保護(hù)標(biāo)準(zhǔn)體系。

    5 結(jié)束語

    在產(chǎn)業(yè)變革的大背景下,智能網(wǎng)聯(lián)汽車的技術(shù)特征、生產(chǎn)組織方式及服務(wù)體系等都在發(fā)生改變,行業(yè)管理更加復(fù)雜。智能化對(duì)車輛行駛安全、責(zé)任判定等提出更高要求,網(wǎng)聯(lián)化對(duì)網(wǎng)絡(luò)安全、數(shù)據(jù)保護(hù)和個(gè)人信息保護(hù)、軟件升級(jí)等提出了新的行業(yè)管理難點(diǎn)。

    本文聚焦智能網(wǎng)聯(lián)汽車準(zhǔn)入管理政策研究,梳理聯(lián)合國(guó)自動(dòng)駕駛法規(guī)進(jìn)展及歐美日的準(zhǔn)入管理經(jīng)驗(yàn),分析智能網(wǎng)聯(lián)汽車駕駛權(quán)發(fā)生轉(zhuǎn)移和網(wǎng)聯(lián)化增強(qiáng)后面臨的各種行業(yè)管理挑戰(zhàn),研究提出加強(qiáng)頂層設(shè)計(jì)與戰(zhàn)略協(xié)同、推進(jìn)試點(diǎn)應(yīng)用與測(cè)試、基于“多支柱法”進(jìn)行安全證明、推進(jìn)軟件升級(jí)管理要求、推進(jìn)數(shù)據(jù)安全管理政策標(biāo)準(zhǔn)制定這5個(gè)方面的應(yīng)對(duì)建議。

    猜你喜歡
    智能網(wǎng)法規(guī)網(wǎng)絡(luò)安全
    5G賦能智能網(wǎng)聯(lián)汽車
    網(wǎng)絡(luò)安全
    網(wǎng)絡(luò)安全人才培養(yǎng)應(yīng)“實(shí)戰(zhàn)化”
    智能網(wǎng)聯(lián)硬實(shí)力趨強(qiáng)
    汽車觀察(2018年12期)2018-12-26 01:05:26
    千奇百怪的法規(guī)
    幽默大師(2018年12期)2018-12-06 08:29:28
    迎戰(zhàn)智能網(wǎng)聯(lián)大爆發(fā)
    汽車觀察(2018年10期)2018-11-06 07:05:20
    千奇百怪的法規(guī)
    幽默大師(2018年11期)2018-10-27 06:03:04
    千奇百怪的法規(guī)
    幽默大師(2018年3期)2018-10-27 05:50:34
    上網(wǎng)時(shí)如何注意網(wǎng)絡(luò)安全?
    基于SJA1000的CAN總線智能網(wǎng)橋設(shè)計(jì)
    久久人妻av系列| 一本精品99久久精品77| 黄色日韩在线| 两个人的视频大全免费| 999久久久国产精品视频| 国产高清激情床上av| 国产午夜福利久久久久久| 日韩精品青青久久久久久| 亚洲成人中文字幕在线播放| 熟女电影av网| 老熟妇仑乱视频hdxx| 很黄的视频免费| 亚洲美女视频黄频| 欧美乱色亚洲激情| 中文亚洲av片在线观看爽| 2021天堂中文幕一二区在线观| 婷婷六月久久综合丁香| 91av网站免费观看| 99国产精品一区二区蜜桃av| 国产99白浆流出| av视频在线观看入口| 欧美日韩精品网址| 中亚洲国语对白在线视频| 一二三四在线观看免费中文在| 中文字幕熟女人妻在线| 国产亚洲av高清不卡| 嫩草影院入口| 手机成人av网站| 国模一区二区三区四区视频 | 成人亚洲精品av一区二区| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲天堂国产精品一区在线| 久久精品国产清高在天天线| 91麻豆av在线| 亚洲欧美日韩东京热| 麻豆av在线久日| 欧美高清成人免费视频www| 琪琪午夜伦伦电影理论片6080| 中文字幕高清在线视频| 好看av亚洲va欧美ⅴa在| 999精品在线视频| 在线观看一区二区三区| 欧美zozozo另类| 黄色片一级片一级黄色片| 久久人妻av系列| h日本视频在线播放| 欧美日本亚洲视频在线播放| 免费观看人在逋| 成人av在线播放网站| 黄色丝袜av网址大全| 免费在线观看视频国产中文字幕亚洲| 国产精品自产拍在线观看55亚洲| 性欧美人与动物交配| 97人妻精品一区二区三区麻豆| 亚洲男人的天堂狠狠| 舔av片在线| 成人一区二区视频在线观看| 久久精品夜夜夜夜夜久久蜜豆| 国产精品美女特级片免费视频播放器 | 成人国产一区最新在线观看| 真人一进一出gif抽搐免费| 草草在线视频免费看| or卡值多少钱| 国产单亲对白刺激| 欧美乱色亚洲激情| 五月伊人婷婷丁香| 国产高清有码在线观看视频| 99热这里只有精品一区 | 国产成年人精品一区二区| 最近最新免费中文字幕在线| 精品久久久久久久久久久久久| 网址你懂的国产日韩在线| 啦啦啦免费观看视频1| 搡老妇女老女人老熟妇| 狂野欧美激情性xxxx| 亚洲国产日韩欧美精品在线观看 | 噜噜噜噜噜久久久久久91| 欧美日韩一级在线毛片| 99久久99久久久精品蜜桃| 男人舔奶头视频| 久久久久久国产a免费观看| 成人性生交大片免费视频hd| 亚洲av成人一区二区三| 亚洲乱码一区二区免费版| 成人特级av手机在线观看| 真人一进一出gif抽搐免费| 人妻丰满熟妇av一区二区三区| 精品国产亚洲在线| 琪琪午夜伦伦电影理论片6080| bbb黄色大片| 一级毛片高清免费大全| 在线视频色国产色| 欧美黑人巨大hd| 精品久久久久久成人av| 成年版毛片免费区| 亚洲熟妇中文字幕五十中出| 午夜精品在线福利| 日韩欧美在线乱码| 国产不卡一卡二| 亚洲av熟女| 欧美日韩亚洲国产一区二区在线观看| 夜夜看夜夜爽夜夜摸| 美女黄网站色视频| 久99久视频精品免费| 国内精品久久久久精免费| av在线蜜桃| 精品电影一区二区在线| 国产精品久久久久久久电影 | 亚洲在线自拍视频| 99精品在免费线老司机午夜| 日日摸夜夜添夜夜添小说| 看片在线看免费视频| 成人亚洲精品av一区二区| 国产亚洲欧美98| 最近最新免费中文字幕在线| 欧美成人性av电影在线观看| 亚洲欧美一区二区三区黑人| 欧美黄色淫秽网站| 黄色日韩在线| 久久久久久国产a免费观看| 精品无人区乱码1区二区| 黑人操中国人逼视频| 午夜影院日韩av| 91在线精品国自产拍蜜月 | 欧美日韩精品网址| 亚洲精品美女久久av网站| 无人区码免费观看不卡| 老熟妇乱子伦视频在线观看| АⅤ资源中文在线天堂| 狂野欧美激情性xxxx| 国产精品98久久久久久宅男小说| 亚洲精品国产精品久久久不卡| 一进一出抽搐动态| 国产精品98久久久久久宅男小说| 亚洲av日韩精品久久久久久密| 又爽又黄无遮挡网站| 成人国产综合亚洲| 哪里可以看免费的av片| 老司机午夜福利在线观看视频| 一个人看的www免费观看视频| 97超视频在线观看视频| 一进一出抽搐动态| av天堂中文字幕网| 听说在线观看完整版免费高清| 欧美一级毛片孕妇| 国内精品美女久久久久久| 久久久久久大精品| 天堂影院成人在线观看| 18禁观看日本| 啪啪无遮挡十八禁网站| 免费一级毛片在线播放高清视频| 一区福利在线观看| 成人av在线播放网站| 又黄又粗又硬又大视频| 亚洲精品美女久久久久99蜜臀| 热99re8久久精品国产| 99国产精品一区二区三区| 99久久精品热视频| 熟女人妻精品中文字幕| 老司机在亚洲福利影院| 视频区欧美日本亚洲| 久久草成人影院| 黑人巨大精品欧美一区二区mp4| 日韩三级视频一区二区三区| 国产激情久久老熟女| 我的老师免费观看完整版| 最近视频中文字幕2019在线8| 色综合欧美亚洲国产小说| 亚洲国产高清在线一区二区三| 成年女人永久免费观看视频| 国产精品永久免费网站| 国产av在哪里看| 色播亚洲综合网| 观看免费一级毛片| 亚洲成人中文字幕在线播放| 操出白浆在线播放| av福利片在线观看| 听说在线观看完整版免费高清| 亚洲精品乱码久久久v下载方式 | 国产精品99久久久久久久久| 日本成人三级电影网站| 久久精品人妻少妇| 免费电影在线观看免费观看| 亚洲精华国产精华精| 欧美成人免费av一区二区三区| 特级一级黄色大片| 精品人妻1区二区| 老鸭窝网址在线观看| 天堂网av新在线| 国产一级毛片七仙女欲春2| 亚洲精品一区av在线观看| 999精品在线视频| 一个人看的www免费观看视频| 久久热在线av| 美女扒开内裤让男人捅视频| 欧美成狂野欧美在线观看| 欧美性猛交黑人性爽| 免费av毛片视频| 999精品在线视频| 亚洲国产精品合色在线| 窝窝影院91人妻| 一进一出抽搐动态| 麻豆成人午夜福利视频| 女人被狂操c到高潮| 搡老熟女国产l中国老女人| 国产三级在线视频| 久久精品国产亚洲av香蕉五月| 久久久水蜜桃国产精品网| 在线观看午夜福利视频| 婷婷丁香在线五月| 岛国在线观看网站| 99re在线观看精品视频| 久久久国产精品麻豆| 别揉我奶头~嗯~啊~动态视频| 一卡2卡三卡四卡精品乱码亚洲| 一级毛片高清免费大全| 亚洲国产高清在线一区二区三| 免费看a级黄色片| 精品国产三级普通话版| 亚洲性夜色夜夜综合| 91av网站免费观看| 午夜激情欧美在线| 美女扒开内裤让男人捅视频| 亚洲专区字幕在线| 国产高潮美女av| 久久精品国产亚洲av香蕉五月| 亚洲自拍偷在线| av国产免费在线观看| 午夜福利欧美成人| 变态另类丝袜制服| 国产精品爽爽va在线观看网站| 叶爱在线成人免费视频播放| 丝袜人妻中文字幕| 黄色片一级片一级黄色片| 美女cb高潮喷水在线观看 | 欧美丝袜亚洲另类 | 国产精品国产高清国产av| 丁香欧美五月| 91在线精品国自产拍蜜月 | 中文字幕最新亚洲高清| 网址你懂的国产日韩在线| 亚洲av美国av| 国产淫片久久久久久久久 | 一区二区三区国产精品乱码| 国产精品永久免费网站| 亚洲无线观看免费| av天堂中文字幕网| 免费电影在线观看免费观看| 国产成人系列免费观看| 国内揄拍国产精品人妻在线| 色在线成人网| 三级国产精品欧美在线观看 | 国产精品,欧美在线| 波多野结衣高清无吗| 小说图片视频综合网站| 超碰成人久久| 麻豆一二三区av精品| 在线十欧美十亚洲十日本专区| 亚洲 国产 在线| 日韩欧美一区二区三区在线观看| 免费大片18禁| 国产麻豆成人av免费视频| 性欧美人与动物交配| 波多野结衣巨乳人妻| 国产亚洲精品av在线| 国产黄片美女视频| 两个人的视频大全免费| 97人妻精品一区二区三区麻豆| 夜夜看夜夜爽夜夜摸| 亚洲熟女毛片儿| 999久久久精品免费观看国产| 老熟妇乱子伦视频在线观看| 日本黄色视频三级网站网址| 亚洲av熟女| 国产精品98久久久久久宅男小说| 精品欧美国产一区二区三| www国产在线视频色| 免费在线观看日本一区| 12—13女人毛片做爰片一| 97超视频在线观看视频| 在线观看日韩欧美| 一级毛片精品| 久久人人精品亚洲av| 午夜亚洲福利在线播放| 欧美另类亚洲清纯唯美| 在线观看66精品国产| 丰满人妻一区二区三区视频av | 日韩免费av在线播放| 偷拍熟女少妇极品色| 色综合欧美亚洲国产小说| 日本黄色视频三级网站网址| 国产成人福利小说| 亚洲一区高清亚洲精品| 国产精品一区二区精品视频观看| 黄片小视频在线播放| 在线观看日韩欧美| 不卡av一区二区三区| 精品乱码久久久久久99久播| 欧美日韩福利视频一区二区| 亚洲专区字幕在线| 男女下面进入的视频免费午夜| 青草久久国产| 91老司机精品| 身体一侧抽搐| 88av欧美| 色播亚洲综合网| 国产视频内射| 国产精品国产高清国产av| 日韩成人在线观看一区二区三区| 亚洲中文av在线| 久久久久久久精品吃奶| 国产成人啪精品午夜网站| 亚洲午夜理论影院| 老熟妇乱子伦视频在线观看| 男女做爰动态图高潮gif福利片| 成人午夜高清在线视频| 毛片女人毛片| 老司机福利观看| 91在线观看av| 99国产极品粉嫩在线观看| 国产精品一区二区三区四区久久| 热99re8久久精品国产| 欧美日韩瑟瑟在线播放| 免费电影在线观看免费观看| 女警被强在线播放| 欧美乱色亚洲激情| 国产91精品成人一区二区三区| 亚洲人与动物交配视频| 又黄又爽又免费观看的视频| 国产成年人精品一区二区| 久久久久性生活片| 黄色成人免费大全| 亚洲精品美女久久av网站| 久久久久国产一级毛片高清牌| 亚洲电影在线观看av| 国产精品爽爽va在线观看网站| 亚洲精品乱码久久久v下载方式 | 噜噜噜噜噜久久久久久91| 国产精品野战在线观看| 琪琪午夜伦伦电影理论片6080| 一级毛片女人18水好多| 免费高清视频大片| 国产成人av激情在线播放| 日韩欧美一区二区三区在线观看| 一本精品99久久精品77| 美女高潮喷水抽搐中文字幕| 高潮久久久久久久久久久不卡| 免费电影在线观看免费观看| 亚洲在线自拍视频| 深夜精品福利| 中文字幕久久专区| 哪里可以看免费的av片| 精品久久久久久久人妻蜜臀av| 亚洲精品美女久久久久99蜜臀| 国产精品一区二区免费欧美| 国产成年人精品一区二区| 久久热在线av| 免费高清视频大片| 麻豆一二三区av精品| 女生性感内裤真人,穿戴方法视频| 精品国内亚洲2022精品成人| 久久久久久久午夜电影| 韩国av一区二区三区四区| 久久久国产精品麻豆| 一级毛片高清免费大全| 国产精品自产拍在线观看55亚洲| 国产伦在线观看视频一区| 久久中文字幕一级| 亚洲一区二区三区不卡视频| 国产高清有码在线观看视频| h日本视频在线播放| 嫩草影院入口| 亚洲 欧美 日韩 在线 免费| 精品一区二区三区视频在线 | 天堂√8在线中文| 国产探花在线观看一区二区| 麻豆国产97在线/欧美| 啦啦啦观看免费观看视频高清| 99热只有精品国产| 国产欧美日韩精品一区二区| 久久久精品欧美日韩精品| 国产熟女xx| 观看美女的网站| 亚洲欧美日韩东京热| 亚洲av熟女| 白带黄色成豆腐渣| 一边摸一边抽搐一进一小说| 亚洲人成网站在线播放欧美日韩| 好男人在线观看高清免费视频| 国内精品美女久久久久久| 国产欧美日韩一区二区精品| ponron亚洲| 非洲黑人性xxxx精品又粗又长| 人人妻,人人澡人人爽秒播| 97超级碰碰碰精品色视频在线观看| 人人妻,人人澡人人爽秒播| 桃色一区二区三区在线观看| 中文字幕人成人乱码亚洲影| 日韩欧美国产在线观看| 亚洲国产欧洲综合997久久,| 精品久久久久久久人妻蜜臀av| 淫秽高清视频在线观看| 超碰成人久久| 最近最新免费中文字幕在线| 国产极品精品免费视频能看的| 给我免费播放毛片高清在线观看| 精品电影一区二区在线| 亚洲一区高清亚洲精品| 一区福利在线观看| 91老司机精品| 一个人免费在线观看的高清视频| 老司机深夜福利视频在线观看| 久久久久久久精品吃奶| 亚洲中文字幕日韩| 久久午夜综合久久蜜桃| 99在线人妻在线中文字幕| 小蜜桃在线观看免费完整版高清| 国产精品女同一区二区软件 | 18禁裸乳无遮挡免费网站照片| 精品一区二区三区视频在线观看免费| 一进一出抽搐动态| 国产成人系列免费观看| 丰满人妻熟妇乱又伦精品不卡| 日韩欧美三级三区| 亚洲av中文字字幕乱码综合| 叶爱在线成人免费视频播放| 老司机在亚洲福利影院| 午夜精品在线福利| 午夜免费成人在线视频| 在线观看免费午夜福利视频| 999久久久国产精品视频| 午夜激情欧美在线| 97人妻精品一区二区三区麻豆| 亚洲男人的天堂狠狠| 国产私拍福利视频在线观看| 国产高清三级在线| 久久精品综合一区二区三区| 国产午夜精品论理片| 久久久久久久精品吃奶| 成年女人看的毛片在线观看| 无人区码免费观看不卡| 中文字幕人成人乱码亚洲影| 两个人看的免费小视频| 国产激情欧美一区二区| 久久中文看片网| 国产精品电影一区二区三区| 黄色视频,在线免费观看| 日韩国内少妇激情av| 中亚洲国语对白在线视频| 999久久久精品免费观看国产| 亚洲人与动物交配视频| 五月伊人婷婷丁香| 亚洲人成网站高清观看| 国产一区二区三区在线臀色熟女| 曰老女人黄片| 后天国语完整版免费观看| av在线蜜桃| 97超级碰碰碰精品色视频在线观看| 99re在线观看精品视频| 亚洲av成人精品一区久久| 午夜福利免费观看在线| 欧美不卡视频在线免费观看| 后天国语完整版免费观看| 亚洲精品在线观看二区| 亚洲精品乱码久久久v下载方式 | 亚洲人与动物交配视频| 99re在线观看精品视频| 久久久久久久久免费视频了| 噜噜噜噜噜久久久久久91| 色老头精品视频在线观看| 男插女下体视频免费在线播放| 男人舔女人的私密视频| 一卡2卡三卡四卡精品乱码亚洲| 美女黄网站色视频| 91在线观看av| 国模一区二区三区四区视频 | 欧美一级毛片孕妇| 精品国产美女av久久久久小说| 看免费av毛片| 日本a在线网址| 中文亚洲av片在线观看爽| 国产精品美女特级片免费视频播放器 | 午夜免费观看网址| 国产成人精品久久二区二区免费| 99久久无色码亚洲精品果冻| 日韩欧美 国产精品| 最新在线观看一区二区三区| 他把我摸到了高潮在线观看| 小蜜桃在线观看免费完整版高清| 国产精品久久久久久人妻精品电影| 不卡一级毛片| www国产在线视频色| 宅男免费午夜| 搡老熟女国产l中国老女人| a级毛片在线看网站| 人妻夜夜爽99麻豆av| 久久久国产成人精品二区| 国产91精品成人一区二区三区| 一区二区三区国产精品乱码| 免费搜索国产男女视频| 久久久久久九九精品二区国产| 亚洲第一欧美日韩一区二区三区| 日韩欧美三级三区| 国产伦在线观看视频一区| 丝袜人妻中文字幕| 日本五十路高清| 精品久久久久久久久久久久久| 色综合站精品国产| 成人高潮视频无遮挡免费网站| 久久九九热精品免费| 99国产极品粉嫩在线观看| 亚洲国产精品久久男人天堂| 久久精品综合一区二区三区| 国产乱人伦免费视频| 1024手机看黄色片| 欧美在线黄色| 成人欧美大片| 啪啪无遮挡十八禁网站| 国产爱豆传媒在线观看| 亚洲国产中文字幕在线视频| 国产精品日韩av在线免费观看| 亚洲va日本ⅴa欧美va伊人久久| 美女cb高潮喷水在线观看 | 一本精品99久久精品77| 极品教师在线免费播放| 亚洲熟女毛片儿| 免费在线观看成人毛片| 在线永久观看黄色视频| 欧美日本视频| 美女cb高潮喷水在线观看 | 国产又黄又爽又无遮挡在线| 亚洲狠狠婷婷综合久久图片| 亚洲人成网站在线播放欧美日韩| 亚洲成a人片在线一区二区| 1024香蕉在线观看| 国产午夜精品论理片| 午夜免费激情av| 人人妻人人澡欧美一区二区| 日本黄色视频三级网站网址| 小蜜桃在线观看免费完整版高清| 天堂动漫精品| 国产久久久一区二区三区| 国产伦精品一区二区三区视频9 | 亚洲av免费在线观看| 国产精品野战在线观看| 国产精品精品国产色婷婷| www日本在线高清视频| 日韩av在线大香蕉| 欧美不卡视频在线免费观看| a级毛片在线看网站| 久久香蕉精品热| 又大又爽又粗| 我的老师免费观看完整版| 色视频www国产| 色在线成人网| 国产激情久久老熟女| 亚洲精品色激情综合| 天堂网av新在线| 国产三级黄色录像| 无限看片的www在线观看| 国产高清有码在线观看视频| 一个人看的www免费观看视频| 欧美xxxx黑人xx丫x性爽| 亚洲成人免费电影在线观看| tocl精华| 神马国产精品三级电影在线观看| 女警被强在线播放| 国产av在哪里看| 校园春色视频在线观看| 97超视频在线观看视频| 亚洲av片天天在线观看| 精品国产乱码久久久久久男人| 国内精品一区二区在线观看| 黄片大片在线免费观看| 999精品在线视频| 99久久国产精品久久久| 久久人人精品亚洲av| 国产69精品久久久久777片 | 亚洲国产中文字幕在线视频| 亚洲 欧美 日韩 在线 免费| 麻豆国产av国片精品| 亚洲av成人不卡在线观看播放网| 最新在线观看一区二区三区| 一区福利在线观看| 国产高清三级在线| 麻豆国产97在线/欧美| 久久精品国产综合久久久| 十八禁网站免费在线| 国产精品99久久久久久久久| 亚洲国产精品成人综合色| 日韩中文字幕欧美一区二区| 麻豆国产av国片精品| 又粗又爽又猛毛片免费看| 国产视频内射| 美女午夜性视频免费| 中文在线观看免费www的网站| 久久亚洲精品不卡| 午夜福利在线在线| 午夜精品久久久久久毛片777| 亚洲精品一区av在线观看| 亚洲国产精品久久男人天堂| 亚洲精品色激情综合| 9191精品国产免费久久| 成人特级av手机在线观看| 欧美高清成人免费视频www| 女生性感内裤真人,穿戴方法视频| 无限看片的www在线观看| 免费看十八禁软件| 久久久久久九九精品二区国产| 午夜激情欧美在线| 国产精品香港三级国产av潘金莲| 天堂网av新在线| 国产成年人精品一区二区| 91九色精品人成在线观看| 欧美黑人巨大hd|