• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    網(wǎng)絡(luò)可信身份服務(wù)行業(yè)發(fā)展分析

    2020-12-15 10:52:32呂堯孟雪
    網(wǎng)絡(luò)空間安全 2020年11期
    關(guān)鍵詞:身份認(rèn)證

    呂堯 孟雪

    摘 ? 要:網(wǎng)絡(luò)可信身份服務(wù)通過密碼、生物識別等技術(shù),為互聯(lián)網(wǎng)主體提供身份認(rèn)證服務(wù),以確保網(wǎng)絡(luò)交互主體身份的真實(shí)性和可靠性。提供可信身份的企業(yè)在互聯(lián)網(wǎng)中具有基礎(chǔ)且重要的作用。文章通過論述我國網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)發(fā)展的現(xiàn)狀,總結(jié)產(chǎn)業(yè)發(fā)展特點(diǎn),預(yù)測了產(chǎn)業(yè)發(fā)展的趨勢,并有針對性地提出了產(chǎn)業(yè)發(fā)展的對策與建議,以期能為產(chǎn)業(yè)發(fā)展和政府決策提供參考和借鑒。

    關(guān)鍵詞:可信身份;身份認(rèn)證;電子認(rèn)證;生物識別;密碼算法

    中圖分類號: TP309 ? ? ? ? ?文獻(xiàn)標(biāo)識碼:A

    Abstract: Network trusted identity service provides identity authentication service for Internet subjects through password, biometric and other technologies, so as to ensure the authenticity and reliability of the identity of network interaction subjects. Enterprises providing trusted identities play a fundamental and important role in the Internet. This paper discusses the current situation of the development of network trusted identity service industry in China, summarizes the characteristics of the industry development, forecasts the trend of the industry development, and puts forward countermeasures and suggestions for the industry development in order to provide reference for the industry development and government management.

    Key words: trusted identity; authentication; electronic authentication; biometric; password algorithm

    1 引言

    網(wǎng)絡(luò)信任體系是以密碼技術(shù)為基礎(chǔ),以法律法規(guī)、技術(shù)標(biāo)準(zhǔn)和基礎(chǔ)設(shè)施為內(nèi)容,以解決網(wǎng)絡(luò)應(yīng)用中身份認(rèn)證、授權(quán)管理和責(zé)任認(rèn)定等為目的的完整體系,其中網(wǎng)絡(luò)可信身份是網(wǎng)絡(luò)信任體系建設(shè)的核心目標(biāo)之一。通過可信身份實(shí)現(xiàn)物理世界與網(wǎng)絡(luò)世界的連接,為各類互聯(lián)網(wǎng)應(yīng)用奠定使用基礎(chǔ),提供網(wǎng)絡(luò)可信身份服務(wù)的企業(yè)在互聯(lián)網(wǎng)中具有極其重要的作用。本文論述了我國網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)發(fā)展現(xiàn)狀,總結(jié)了產(chǎn)業(yè)發(fā)展特點(diǎn),預(yù)測了發(fā)展趨勢,并提出了產(chǎn)業(yè)發(fā)展的對策與建議,以期能為行業(yè)發(fā)展提供參考和借鑒。

    2 網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)發(fā)展現(xiàn)狀

    2.1 產(chǎn)業(yè)規(guī)模

    2019年我國網(wǎng)絡(luò)可信身份服務(wù)相關(guān)產(chǎn)業(yè)保持高速發(fā)展趨勢,規(guī)模持續(xù)增加、結(jié)構(gòu)更趨合理、企業(yè)成長迅速、技術(shù)逐漸成熟。隨著網(wǎng)絡(luò)空間主體身份管理與服務(wù)的不斷深入,我國網(wǎng)絡(luò)可信身份服務(wù)相關(guān)產(chǎn)業(yè)快速成長,規(guī)模不斷擴(kuò)大。截至2019年底,我國網(wǎng)絡(luò)可信身份服務(wù)相關(guān)產(chǎn)業(yè)總規(guī)模1288.05億元,較2018年增長14.1%。我國2014-2019年網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)規(guī)模及增長率如圖1所示。

    2.2 產(chǎn)業(yè)細(xì)分領(lǐng)域

    從產(chǎn)業(yè)鏈角度來看,2019年我國網(wǎng)絡(luò)可信身份第三方中介服務(wù)規(guī)模約為35億元,囊括了提供網(wǎng)絡(luò)可信身份咨詢、培訓(xùn)和測試等場景。網(wǎng)絡(luò)可信身份服務(wù)基礎(chǔ)技術(shù)產(chǎn)品提供商的市場規(guī)模約為1023.9億元,其中基礎(chǔ)硬件制造商規(guī)模為492.7億元,包括安全芯片、USBKey、OTP動態(tài)令牌、指紋識別芯片、讀卡器、SSL/VPN服務(wù)器相關(guān)產(chǎn)品;基礎(chǔ)軟件服務(wù)商規(guī)模約為121.2億元,包括身份服務(wù)運(yùn)營管理系統(tǒng)、身份服務(wù)調(diào)用模塊SDK等;底層身份認(rèn)證技術(shù)提供商規(guī)模約為410億元(不包括相關(guān)硬件,如指紋識別芯片等),包括人臉識別和指紋識別應(yīng)用等。網(wǎng)絡(luò)可信身份服務(wù)商規(guī)模約為96.35億元,其中公安部等權(quán)威身份服務(wù)商并不開展商業(yè)應(yīng)用,第三方互聯(lián)網(wǎng)賬號授權(quán)登錄服務(wù)往往也不直接收費(fèi),電子認(rèn)證機(jī)構(gòu)產(chǎn)業(yè)規(guī)模為78億元(不包括相關(guān)硬件市場規(guī)模),電信運(yùn)營商提供的實(shí)名SIM手機(jī)認(rèn)證功能規(guī)模為18億元。電子商務(wù)相關(guān)網(wǎng)絡(luò)可信服務(wù)身份規(guī)模約為97.8億元。社交媒體等相關(guān)網(wǎng)絡(luò)可信身份服務(wù)規(guī)模約為35億元。

    從產(chǎn)業(yè)結(jié)構(gòu)的角度看,我國網(wǎng)絡(luò)可信身份服務(wù)業(yè)主要包括硬件產(chǎn)品、軟件產(chǎn)品、服務(wù)產(chǎn)品和咨詢中介服務(wù)四大細(xì)分領(lǐng)域,各細(xì)分領(lǐng)域的規(guī)模占比如圖2所示。2019年,我國網(wǎng)絡(luò)可信身份服務(wù)市場中,網(wǎng)絡(luò)可信身份服務(wù)占總產(chǎn)業(yè)規(guī)模的50%,是產(chǎn)業(yè)最主要的組成部分,基礎(chǔ)硬件、基礎(chǔ)軟件和咨詢中介服務(wù)的占比分別是37.9%、9.3%和2.7%。對比2018年,網(wǎng)絡(luò)可信身份服務(wù)在產(chǎn)業(yè)整體規(guī)模的占比有較大提高,這主要是由于人臉識別、指紋識別等底層身份認(rèn)證技術(shù)的應(yīng)用越來越廣泛;基礎(chǔ)軟件和咨詢中介服務(wù)的占比基本保持不變,說明身份服務(wù)運(yùn)營管理系統(tǒng)、身份服務(wù)調(diào)用模塊SDK等基礎(chǔ)軟件以及網(wǎng)絡(luò)可信身份咨詢、培訓(xùn)和測試等服務(wù)保持住了良好的增長勢頭。2018-2019年網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)細(xì)分結(jié)構(gòu)對比詳情如圖3所示,2019年網(wǎng)絡(luò)可信身份服務(wù)細(xì)分產(chǎn)業(yè)規(guī)模見圖4所示。

    2.3 產(chǎn)業(yè)最新進(jìn)展

    當(dāng)前,主管部門、科研機(jī)構(gòu)、企事業(yè)單位繼續(xù)深度推進(jìn)網(wǎng)絡(luò)可信身份服務(wù)業(yè)發(fā)展,不斷創(chuàng)新相關(guān)技術(shù)、推進(jìn)項(xiàng)目落地、宣傳發(fā)展網(wǎng)絡(luò)可信身份服務(wù)的積極意義、打造網(wǎng)絡(luò)可信身份服務(wù)生態(tài)。

    2019年4月30日,國務(wù)院公布《國務(wù)院關(guān)于在線政務(wù)服務(wù)的若干規(guī)定》,明確了五大內(nèi)容:(1)明確一體化在線平臺建設(shè)的目標(biāo)要求和總體架構(gòu),加快建設(shè)一體化在線平臺,推動全流程網(wǎng)上辦理;(2)明確一體化在線平臺建設(shè)管理的推進(jìn)機(jī)制;(3)明確政務(wù)服務(wù)原則上應(yīng)在線辦理;(4)明確政務(wù)服務(wù)事項(xiàng)辦理的基本要求,建設(shè)全國統(tǒng)一身份認(rèn)證系統(tǒng);(5)明確電子簽名、電子印章、電子證照、電子檔案的法律效力。

    2019年8月,在“2019‘草原云谷大數(shù)據(jù)安全高峰論壇”上,烏蘭察布市人民政府與北京得意音通技術(shù)有限責(zé)任公司簽署了戰(zhàn)略合作協(xié)議,共同建設(shè)“草原云谷”“聲紋+”身份認(rèn)證云基地。雙方宣布,將在烏蘭察布市共建“草原云谷”“聲紋+”身份認(rèn)證云,在未來2至3年內(nèi)將之打造成為中國北方“聲紋+”身份認(rèn)證云,從內(nèi)蒙古輻射到寧夏、甘肅、青海、山西等北部省區(qū)。2018年初,“聲紋+”身份認(rèn)證云已在貴州省貴安新區(qū)落地,一年半后,試點(diǎn)工作已覆蓋貴州省金融、社保、公安等領(lǐng)域。未來北京得意音通技術(shù)有限責(zé)任公司將利用已有的服務(wù)經(jīng)驗(yàn)、成熟的商業(yè)模式,為內(nèi)蒙古自治區(qū)提供“聲紋+”身份認(rèn)證云服務(wù),不斷提升草原云谷“聲紋+”身份認(rèn)證云的業(yè)務(wù)體量和行業(yè)地位,為未來網(wǎng)絡(luò)可信身份國家行動戰(zhàn)略推廣和實(shí)施奠定應(yīng)用基礎(chǔ)。

    2019年10月26日,十三屆全國人大常委會第十四次會議通過《中華人民共和國密碼法》(以下簡稱《密碼法》),國家主席簽署第35號主席令予以公布,于2020年1月1日起正式施行。出臺《密碼法》是密碼事業(yè)發(fā)展的現(xiàn)實(shí)需要,是密碼工作歷史上具有里程碑意義的重大事件?!睹艽a法》旨在規(guī)范密碼應(yīng)用和管理,促進(jìn)密碼事業(yè)發(fā)展,充分發(fā)揮密碼在信息加密、安全認(rèn)證等方面的重要作用,有利于國家網(wǎng)絡(luò)可信體系的建設(shè),維護(hù)國家安全和社會公共利益,保護(hù)公民、法人和其他組織的合法權(quán)益,提升密碼管理科學(xué)化、規(guī)范化、法治化水平,是我國密碼領(lǐng)域的綜合性、基礎(chǔ)性法律。

    2019年12月,由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo),中國電子信息產(chǎn)業(yè)發(fā)展研究院主辦,賽迪研究院網(wǎng)絡(luò)安全研究所、賽迪(青島)區(qū)塊鏈研究院承辦的第三屆“網(wǎng)絡(luò)空間可信峰會”,以“創(chuàng)新 融合 發(fā)展”為主題,通過專題研討、技術(shù)應(yīng)用展覽和宣傳普及等系列活動,研究網(wǎng)絡(luò)可信技術(shù)及應(yīng)用發(fā)展最新趨勢,探討網(wǎng)絡(luò)可信身份生態(tài)建設(shè)思路和路徑,是落實(shí)《中華人民共和國網(wǎng)絡(luò)安全法》(以下簡稱《網(wǎng)絡(luò)安全法》),推進(jìn)實(shí)施國家網(wǎng)絡(luò)可信身份戰(zhàn)略的一次重要會議。來自業(yè)務(wù)主管部門、研究機(jī)構(gòu)、網(wǎng)絡(luò)可信服務(wù)和應(yīng)用單位、大型互聯(lián)網(wǎng)科技公司及新聞媒體代表500余人出席了峰會。

    3 網(wǎng)絡(luò)可信身份服務(wù)業(yè)發(fā)展特點(diǎn)

    3.1 法制環(huán)境進(jìn)一步改善

    隨著互聯(lián)網(wǎng)應(yīng)用的不斷深入,網(wǎng)絡(luò)主體身份的真實(shí)性、身份信息的保護(hù),越來越受到重視。我國在網(wǎng)絡(luò)空間身份管理等方面,制定、頒布并施行了多項(xiàng)法律法規(guī)及有關(guān)政策標(biāo)準(zhǔn),為網(wǎng)絡(luò)身份管理以及可信身份服務(wù)發(fā)展奠定了良好的法制環(huán)境。

    2005年4月,我國正式施行的《中華人民共和國電子簽名法》(以下簡稱《電子簽名法》),明確了電子簽名人身份證書的法律效力,為確定網(wǎng)絡(luò)主體身份的“真實(shí)性”提供法律依據(jù)。2012年12月,第十一屆全國人民代表大會常務(wù)委員會第三十次會議通過的《全國人民代表大會常務(wù)委員會關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》提出,“網(wǎng)絡(luò)服務(wù)提供者為用戶辦理網(wǎng)站接入服務(wù),辦理固定電話、移動電話等入網(wǎng)手續(xù),或者為用戶提供信息發(fā)布服務(wù),應(yīng)當(dāng)在與用戶簽訂協(xié)議或者確定提供服務(wù)時,要求用戶提供真實(shí)身份信息”。2014年8月,最高人民法院頒布的《關(guān)于審理利用信息網(wǎng)絡(luò)侵害人身權(quán)益民事糾紛案件適用法律若干問題的規(guī)定》,規(guī)范了利用信息網(wǎng)絡(luò)侵害人身權(quán)益民事糾紛案件適用法律的審理規(guī)定。2015年4月,中共中央辦公廳、國務(wù)院辦公廳聯(lián)合印發(fā)了《關(guān)于加強(qiáng)社會治安防控體系建設(shè)的意見》,明確加強(qiáng)信息網(wǎng)絡(luò)防控網(wǎng)建設(shè),建設(shè)綜合的信息網(wǎng)絡(luò)管理體系,加強(qiáng)網(wǎng)絡(luò)安全保護(hù),落實(shí)相關(guān)主體的法律責(zé)任,落實(shí)手機(jī)和網(wǎng)絡(luò)用戶實(shí)名制,健全信息安全等級保護(hù)制度,加強(qiáng)公民個人信息安全保護(hù),整治利用互聯(lián)網(wǎng)和手機(jī)媒體傳播暴力色情等違法信息及低俗信息。2017年6月我國正式實(shí)施的《中華人民共和國網(wǎng)絡(luò)安全法》,明確提出國家實(shí)施網(wǎng)絡(luò)可信身份戰(zhàn)略,支持研究開發(fā)安全、方便的電子身份認(rèn)證技術(shù),推動不同電子身份認(rèn)證之間的互認(rèn),并要求“電信、互聯(lián)網(wǎng)、金融、住宿、長途客運(yùn)、機(jī)動車租賃等業(yè)務(wù)經(jīng)營者、服務(wù)提供者,應(yīng)當(dāng)對客戶身份進(jìn)行查驗(yàn)。對身份不明或者拒絕身份查驗(yàn)的,不得提供服務(wù)”。此外,相關(guān)部委也相繼出臺一系列規(guī)定和管理辦法。2018年,《關(guān)于加快推進(jìn)全國一體化在線政務(wù)服務(wù)平臺建設(shè)的指導(dǎo)意見》就電子政務(wù)平臺“一網(wǎng)通辦”作了重要部署,其中“統(tǒng)一身份認(rèn)證”“統(tǒng)一電子印章”“統(tǒng)一電子證照”三項(xiàng)任務(wù),試點(diǎn)地區(qū)和部門應(yīng)當(dāng)于2019年底完成,全國范圍2020年完成。2019年4月26日,為加快全國一體化在線政務(wù)服務(wù)平臺建設(shè),解決明確電子簽名、電子印章、電子證照、電子檔案法律效力等問題,國務(wù)院印發(fā)《關(guān)于在線政務(wù)服務(wù)的若干規(guī)定》?!蛾P(guān)于在線政務(wù)服務(wù)的若干規(guī)定》明確了一體化在線平臺建設(shè)的目標(biāo)要求和總體架構(gòu),特別對電子簽名、電子印章、電子證照、電子檔案的法律效力進(jìn)行了明確,政務(wù)服務(wù)中使用的符合電子簽名法規(guī)定條件的可靠電子簽名,與手寫簽名或者蓋章具有同等法律效力。《中華人民共和國網(wǎng)絡(luò)安全法》第二十一條明確規(guī)定:“國家實(shí)行網(wǎng)絡(luò)安全等級保護(hù)制度”,2019年5月,為貫徹落實(shí)《中華人民共和國網(wǎng)絡(luò)安全法》,適應(yīng)云計算、移動互聯(lián)、物聯(lián)網(wǎng)、工業(yè)控制和大數(shù)據(jù)等新技術(shù)、新應(yīng)用情況下網(wǎng)絡(luò)安全等級保護(hù)工作,正式發(fā)布《信息安全技術(shù)網(wǎng)絡(luò)安全等級保護(hù)基本要求》,正式開啟了等保2.0時代。

    3.2 基礎(chǔ)設(shè)施建設(shè)進(jìn)展顯著

    2019年,國內(nèi)網(wǎng)絡(luò)可信身份基礎(chǔ)設(shè)施建設(shè)取得較大進(jìn)展,主要體現(xiàn)在四個方面。一是國務(wù)院全國一體化政務(wù)服務(wù)平臺初步建成,實(shí)現(xiàn)了八個方面創(chuàng)新,包括第一次建立全國權(quán)威身份認(rèn)證體系、第一次實(shí)現(xiàn)全國電子證照目錄匯聚和互信互認(rèn)。2019年11月,國家政務(wù)服務(wù)平臺整體上線試運(yùn)行,平臺聯(lián)通32個地區(qū)和46個國務(wù)院部門,對外提供國務(wù)院部門1,142項(xiàng)和地方政府358萬項(xiàng)在線服務(wù)。截至2019年12月,32個省級網(wǎng)上政務(wù)服務(wù)平臺的個人用戶注冊數(shù)量達(dá)2.39億,較2018年底增加7,300萬,其中實(shí)名注冊個人用戶達(dá)2.21億,占比為92.5%,較2018年底增加7,600萬。二是公安部按照國家的統(tǒng)一規(guī)劃,推進(jìn)部級電子印章信息系統(tǒng)建設(shè),并推動省級電子印章信息系統(tǒng)建設(shè)。目前,已經(jīng)初步建立了電子印章的密鑰管理和基礎(chǔ)設(shè)施,查詢驗(yàn)證服務(wù)等信息的測試系統(tǒng),并在部分身份開展先行先試。三是工業(yè)和信息化部推動建立部級一體化政務(wù)服務(wù)平臺,涉及電子認(rèn)證服務(wù)許可在線審批及管理系統(tǒng)。目前,開發(fā)基本完成,亟待上線。四是市場監(jiān)管總局電子營業(yè)執(zhí)照亮照系統(tǒng)上線,主要面向各類市場主體提供網(wǎng)上亮照服務(wù)。市場主體使用電子營業(yè)執(zhí)照登錄亮照系統(tǒng),按系統(tǒng)提示輸入亮照信息后,系統(tǒng)即生成該市場主體電子營業(yè)執(zhí)照的展示鏈接和標(biāo)識圖標(biāo)。市場主體將電子營業(yè)執(zhí)照展示鏈接及圖標(biāo)嵌入網(wǎng)頁,便可實(shí)現(xiàn)營業(yè)執(zhí)照網(wǎng)上自主公示。社會公眾點(diǎn)擊網(wǎng)站上公示的電子營業(yè)執(zhí)照亮照圖標(biāo)可對該市場主體的營業(yè)執(zhí)照進(jìn)行真?zhèn)尾轵?yàn)。

    3.3 新技術(shù)促進(jìn)身份認(rèn)證方式不斷創(chuàng)新

    2019年,網(wǎng)絡(luò)新技術(shù)新應(yīng)用繼續(xù)在網(wǎng)絡(luò)安全身份認(rèn)證領(lǐng)域大施拳腳,包括人工智能、區(qū)塊鏈、量子信息技術(shù)等。一是人工智能與人臉識別技術(shù)深度融合,進(jìn)一步提高人臉識別技術(shù)的精度以及識別效率,促進(jìn)了人臉識別技術(shù)在手機(jī)、PC等互聯(lián)網(wǎng)接入端的廣泛應(yīng)用。由于效率的提升,人臉識別又被廣泛應(yīng)用于火車站、高鐵站、企業(yè)大樓等人流量密集場所。二是區(qū)塊鏈技術(shù)應(yīng)用于網(wǎng)絡(luò)身份認(rèn)證?;趨^(qū)塊鏈的身份認(rèn)證方案被提出,多個國家開展了區(qū)塊鏈身份驗(yàn)證試點(diǎn)項(xiàng)目,包括在美國的海外投票和澳大利亞學(xué)位證書等,希望通過區(qū)塊鏈無法復(fù)制、去中心化、不可篡改、透明和公開等特性,拓展新的身份認(rèn)證模式,滿足各類互聯(lián)網(wǎng)應(yīng)用的需求。三是量子計算取得進(jìn)展。量子計算與量子通信是量子信息技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用最為廣泛的兩類技術(shù),分別因超強(qiáng)算力威脅破解傳統(tǒng)加密、能實(shí)現(xiàn)無法被破譯的加密通信而與網(wǎng)絡(luò)安全關(guān)系密切。與2018年相比,由美國領(lǐng)跑的量子計算研究工作在2019年取得較大進(jìn)展,2019年10月,美國谷歌公司研究人員在國際頂級期刊《自然》上發(fā)表論文《基于可編程的超導(dǎo)處理器實(shí)現(xiàn)的量子優(yōu)越性》,稱由谷歌量子處理器Sycamore歷時200秒執(zhí)行的計算量,在當(dāng)前世界排名第一的超級計算機(jī)Summit上完成需要大約1萬年時間,認(rèn)為人類已實(shí)現(xiàn)量子優(yōu)越性,即量子計算在某些任務(wù)上擁有超越所有傳統(tǒng)計算機(jī)的計算能力。量子計算取得實(shí)質(zhì)突破后,將對目前基于計算復(fù)雜度的密碼算法造成重大影響,并威脅PKI等基于密碼的身份認(rèn)證技術(shù)的安全性,同時,也將催生基于量子計算的量子密碼技術(shù)和身份認(rèn)證技術(shù)。

    3.4 標(biāo)準(zhǔn)體系進(jìn)一步完善

    為推動網(wǎng)絡(luò)可信身份服務(wù)技術(shù)及產(chǎn)業(yè)健康發(fā)展,標(biāo)準(zhǔn)制定是一項(xiàng)基礎(chǔ)且重要的工作。我國政府和研究機(jī)構(gòu)在網(wǎng)絡(luò)可信身份標(biāo)準(zhǔn)制定方面開展了大量工作,制定了諸多標(biāo)準(zhǔn),基本形成了包含基礎(chǔ)設(shè)施、技術(shù)、管理、應(yīng)用等方面內(nèi)容的網(wǎng)絡(luò)可信身份標(biāo)準(zhǔn)體系。據(jù)賽迪研究院統(tǒng)計,截至2019年12月,共形成295項(xiàng)標(biāo)準(zhǔn),較2018年275項(xiàng),增加20項(xiàng),其中基礎(chǔ)設(shè)施類標(biāo)準(zhǔn)基本成熟,相關(guān)標(biāo)準(zhǔn)有80項(xiàng),較2018年61項(xiàng),增加19項(xiàng);技術(shù)類標(biāo)準(zhǔn)已經(jīng)發(fā)展的較為完備,相關(guān)標(biāo)準(zhǔn)與2018年相比無變化,仍為126項(xiàng);管理類標(biāo)準(zhǔn)也與2018年持平,為41項(xiàng);應(yīng)用支撐類標(biāo)準(zhǔn)取得一定進(jìn)展,有48項(xiàng),較2018年增加1項(xiàng)。

    4 網(wǎng)絡(luò)可信身份服務(wù)業(yè)發(fā)展趨勢

    4.1 網(wǎng)絡(luò)可信身份服務(wù)業(yè)法律法規(guī)體系將逐步完善

    《電子簽名法》于2005年4月1日正式實(shí)施,是我國第一部信息化領(lǐng)域的法律。該法律規(guī)范了電子簽名行為,確立了電子簽名的法律效力,維護(hù)了有關(guān)各方的合法權(quán)益,法律的出臺奠定了電子認(rèn)證服務(wù)行業(yè)的第三方地位,為網(wǎng)絡(luò)可信身份奠定了產(chǎn)業(yè)基礎(chǔ)。2006年國家網(wǎng)絡(luò)與信息安全協(xié)調(diào)小組印發(fā)《關(guān)于網(wǎng)絡(luò)信任體系建設(shè)的若干意見》,提出以電子認(rèn)證為基礎(chǔ)構(gòu)建網(wǎng)絡(luò)信任體系,網(wǎng)絡(luò)信任體系的核心是身份認(rèn)證、授權(quán)管理和責(zé)任認(rèn)定?!蛾P(guān)于網(wǎng)絡(luò)信任體系建設(shè)的若干意見》的出臺,確立了網(wǎng)絡(luò)可信身份的重要地位和基礎(chǔ)作用。2016年11月,《網(wǎng)絡(luò)安全法》正式通過,明確提出國家實(shí)施網(wǎng)絡(luò)可信身份戰(zhàn)略,支持研究開發(fā)安全、方便的電子身份認(rèn)證技術(shù),推動不同電子身份認(rèn)證之間的互認(rèn)?!毒W(wǎng)絡(luò)安全法》的出臺進(jìn)一步明確了身份認(rèn)證在維護(hù)網(wǎng)絡(luò)安全方面的重要作用。2019年《密碼法》出臺,其在《電子簽名法》的基礎(chǔ)上,進(jìn)一步明確了對從事電子政務(wù)電子認(rèn)證服務(wù)的機(jī)構(gòu)進(jìn)行行政許可管理,突顯了電子認(rèn)證服務(wù)行業(yè)及網(wǎng)絡(luò)可信身份的重要性。針對我國網(wǎng)絡(luò)可信身份的法律法規(guī)逐步出臺,預(yù)計未來將推出一系列具體的實(shí)施細(xì)則或配套法規(guī)。如《密碼法》,該法屬于密碼領(lǐng)域的一般法,只列出關(guān)于密碼的一般性規(guī)定及原則性罰則。下一階段,需要結(jié)合我國實(shí)際,制定電子政務(wù)電子認(rèn)證服務(wù)管理相關(guān)規(guī)定,對從事電子政務(wù)電子認(rèn)證服務(wù)設(shè)定許可條件、管理要求、具體罰則等內(nèi)容。具有中國特色的網(wǎng)絡(luò)可信身份法律法規(guī)體系將逐步完善。

    4.2 網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)規(guī)模將呈快速增長之勢

    隨著信息技術(shù)的高速發(fā)展,預(yù)計未來網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)規(guī)模將呈現(xiàn)快速增長之勢,主要有三個方面的原因。一是互聯(lián)網(wǎng)與傳統(tǒng)產(chǎn)業(yè)的深度融合,造就大量市場需求。傳統(tǒng)產(chǎn)業(yè)如果想保持產(chǎn)業(yè)持續(xù)發(fā)展,必將借助互聯(lián)網(wǎng),包括傳統(tǒng)一、二、三產(chǎn)業(yè),工業(yè)與互聯(lián)網(wǎng)結(jié)合形成了工業(yè)互聯(lián)網(wǎng),教育行業(yè)與互聯(lián)網(wǎng)結(jié)合形成了在線教育,傳統(tǒng)行業(yè)與互聯(lián)網(wǎng)結(jié)合,產(chǎn)生了大量互聯(lián)網(wǎng)應(yīng)用,幾乎所有應(yīng)用都對網(wǎng)絡(luò)可信身份有需求,沒可信身份,互聯(lián)網(wǎng)應(yīng)用無法正常使用。所以,隨著互聯(lián)網(wǎng)與傳統(tǒng)產(chǎn)業(yè)的深度融合,將對網(wǎng)絡(luò)可信身份產(chǎn)生巨大的需求。二是移動互聯(lián)網(wǎng)、云計算、區(qū)塊鏈、生物識別等新技術(shù)的出現(xiàn)和應(yīng)用普及,使得網(wǎng)絡(luò)可信身份的應(yīng)用場景得到了拓展,同時產(chǎn)生了新的身份認(rèn)證模式,可以滿足更多互聯(lián)網(wǎng)應(yīng)用的不同身份認(rèn)證需求,進(jìn)一步提升了網(wǎng)絡(luò)可信身份認(rèn)證服務(wù)的價值和市場空間。三是5G、IPv6的大規(guī)模商用,將對身份認(rèn)證帶來海量需求。5G的帶寬,足以實(shí)現(xiàn)萬物互聯(lián),不僅僅是人、企業(yè)可以時時在線、實(shí)時聯(lián)系,互聯(lián)網(wǎng)中的任何一個主體,包括一個設(shè)備、一個傳感器,都可以給一個身份實(shí)現(xiàn)信息交互,智能網(wǎng)聯(lián)汽車等領(lǐng)域?qū)⒌玫礁拘愿淖兒惋w躍式發(fā)展,由此將帶來大量物理硬件設(shè)備的身份認(rèn)證需求,網(wǎng)絡(luò)可信身份認(rèn)證服務(wù),將由人、企業(yè)延伸到設(shè)備、元器件,極大豐富了認(rèn)證市場空間。

    4.3 網(wǎng)絡(luò)可信身份認(rèn)證技術(shù)將與區(qū)塊鏈技術(shù)深度融合

    2019年10月24日,在中央政治局第十八次集體學(xué)習(xí)時,總書記強(qiáng)調(diào),“把區(qū)塊鏈作為核心技術(shù)自主創(chuàng)新的重要突破口”“加快推動區(qū)塊鏈技術(shù)和產(chǎn)業(yè)創(chuàng)新發(fā)展”。“區(qū)塊鏈”已走進(jìn)大眾視野,成為社會的關(guān)注焦點(diǎn)。區(qū)塊鏈與網(wǎng)絡(luò)可信身份重要的電子認(rèn)證技術(shù)在底層有著相同的技術(shù),都是基于密碼技術(shù),采用非對稱加密算法和哈希算法,在解決可信問題方面區(qū)塊鏈和電子簽名都有著各自的特點(diǎn),從實(shí)際上看電子認(rèn)證服務(wù)和區(qū)塊鏈的發(fā)展,未來區(qū)塊鏈技術(shù)與電子認(rèn)證技術(shù)必定會產(chǎn)生融合。CA作為具有電子認(rèn)證資格的第三方可信任的服務(wù)機(jī)構(gòu),本身就具有賬戶托管優(yōu)勢,可以作為智能合約的托管中心,以認(rèn)證單位為礦池展開的工作量證明機(jī)制的分布式記賬權(quán)競爭,在降低工作量證明能耗的同時也實(shí)現(xiàn)了分布式記賬。在聯(lián)盟鏈中,電子認(rèn)證聯(lián)盟鏈可以聯(lián)合國家密碼管理局國產(chǎn)算法的優(yōu)勢,形成一個自主可控具有公信力的聯(lián)盟區(qū)塊鏈。同時,也解決了電子認(rèn)證服務(wù)中的單點(diǎn)依賴問題。預(yù)測區(qū)塊鏈技術(shù)與電子認(rèn)證一定會相互融合,相互補(bǔ)充,電子認(rèn)證服務(wù)在區(qū)塊鏈技術(shù)的推動下將會有更好的發(fā)展?jié)摿桶l(fā)展前景。同時,生物識別技術(shù)也將與區(qū)塊鏈技術(shù)相結(jié)合,解決面臨的深度偽造等問題,有專家已開始利用區(qū)塊鏈技術(shù)對網(wǎng)絡(luò)音視頻進(jìn)行追蹤溯源,解決偽造音頻的問題。

    4.4 人臉識別等基于生物識別的網(wǎng)絡(luò)身份認(rèn)證技術(shù)將面臨規(guī)范

    由于涉及個人隱私泄露、數(shù)據(jù)過度挖掘以及深度偽造技術(shù)的威脅,人臉識別等基于生物識別的網(wǎng)絡(luò)身份認(rèn)證技術(shù)受到了多個國家和社會的廣泛質(zhì)疑。歐美已開始著手限制人臉識別技術(shù)的應(yīng)用。美聯(lián)邦政府層面,已有聲音提出立法建議,限制人臉識別技術(shù)的使用,有參議員提出聯(lián)邦法案,建議禁止在商業(yè)上使用面部識別技術(shù)來跟蹤和收集與消費(fèi)者有關(guān)的數(shù)據(jù)。美國部分州及地方政府走在聯(lián)邦政府之前,已經(jīng)開始規(guī)范人臉識別技術(shù)和軟件的使用。俄勒岡州、新罕布什爾州、猶他州及部分城市已開始限制人臉識別技術(shù)的使用,舊金山、奧克蘭、薩默維爾等市,已將該技術(shù)禁止用于城市政府官員以及執(zhí)法部門。歐盟計劃執(zhí)行更嚴(yán)格的監(jiān)管政策。歐盟希望成為道德AI的領(lǐng)導(dǎo)者,在2019就發(fā)布了人工智能相關(guān)技術(shù)道德準(zhǔn)則,提出可信賴技術(shù)概念及其判定的基本原則,并希望成員國可以任命相關(guān)部門監(jiān)督人工智能政策規(guī)則的執(zhí)行情況。英國脫歐前,其國防部因人臉識別技術(shù)存在的未知風(fēng)險過多,而建議政府在發(fā)展人臉識別技術(shù)時“放慢腳步”。2019年8月,瑞典數(shù)據(jù)保護(hù)局決定禁止在學(xué)校使用人臉識別技術(shù),并對當(dāng)?shù)氐囊凰咧刑幰粤P款。2019年11月,法國發(fā)布《人臉識別指南》,提出了人臉識別技術(shù)存在的風(fēng)險,并對該技術(shù)的使用進(jìn)行了規(guī)范,明確了政府、企業(yè)等各相關(guān)方的責(zé)任。由于生物識別技術(shù)潛在的風(fēng)險,預(yù)計未來將有更多的國家和企業(yè)限制技術(shù)的使用。

    4.5 國產(chǎn)密碼算法將廣泛應(yīng)用于網(wǎng)絡(luò)可信身份領(lǐng)域

    《密碼法》實(shí)施后,密碼實(shí)行分類管理,我國主推的SM系列國產(chǎn)算法將得到廣泛應(yīng)用,尤其是基于國產(chǎn)密碼算法的網(wǎng)絡(luò)可信身份認(rèn)證產(chǎn)品和服務(wù)將大量出現(xiàn)。以國產(chǎn)商用密碼SM2算法為例,SM2與目前主流的RSA國際算法相比,在等同密鑰長度下?lián)碛懈叩陌踩阅芎透斓募用芩俣取SA算法是基于大整數(shù)分解數(shù)學(xué)難題進(jìn)行設(shè)計的,SM2是基于橢圓曲線算法ECC設(shè)計的,SM2采用256位密鑰長度,加密強(qiáng)度等同于3072位RSA密鑰長度。這意味著SM2在實(shí)際中應(yīng)用有更快的速度、更低的延時、更強(qiáng)的抗攻擊性、更少的資源(CPU、內(nèi)存、帶寬)占用率,非常適合應(yīng)用于互聯(lián)網(wǎng)對速度敏感的身份認(rèn)證領(lǐng)域。《密碼法》實(shí)施后,將有利于優(yōu)秀國產(chǎn)密碼的應(yīng)用推廣和身份認(rèn)證技術(shù)國際密碼算法的替換工作,為國產(chǎn)密碼算法在身份認(rèn)證等領(lǐng)域大規(guī)模應(yīng)用奠定了法律基礎(chǔ),有利于構(gòu)建我國的網(wǎng)絡(luò)信任體系。

    5 對策建議

    5.1 提高認(rèn)識及戰(zhàn)略定位,制定頂層戰(zhàn)略規(guī)劃

    一是提升對網(wǎng)絡(luò)可信身份的重視程度,制定包含PKI、人臉識別技術(shù)等身份認(rèn)證技術(shù)的國家戰(zhàn)略及頂層設(shè)計,明確各類技術(shù)的使用基本原則,指導(dǎo)引領(lǐng)技術(shù)及相關(guān)產(chǎn)業(yè)的發(fā)展研究方向,確立技術(shù)應(yīng)用領(lǐng)域的基本思想,統(tǒng)籌考慮技術(shù)使用原則,根據(jù)不同應(yīng)用場景,建立“必須、可選、禁止”等不同身份認(rèn)證管理要求,為開展立法、出臺政策、實(shí)施監(jiān)管、促進(jìn)發(fā)展等工作指明方向。

    二是明確權(quán)威數(shù)字身份信息源頭,進(jìn)一步明確涉及個人的、企業(yè)組織的權(quán)威信息源頭,并明確如何合理、安全的獲得信息源數(shù)據(jù),規(guī)定信息源與信息接收方的權(quán)利與責(zé)任。

    三是理清政府提供身份認(rèn)證服務(wù)與企業(yè)提供身份認(rèn)證服務(wù)的區(qū)別,對兩類身份認(rèn)證服務(wù)的服務(wù)領(lǐng)域進(jìn)行區(qū)隔,給合法運(yùn)營且市場有需求的網(wǎng)絡(luò)可信身份服務(wù)機(jī)構(gòu)提供足夠的市場空間,保障行業(yè)正常、有序、健康發(fā)展。

    5.2 完善法律法規(guī),引導(dǎo)重要技術(shù)發(fā)展方向

    制定關(guān)鍵技術(shù)上位法,通過立法規(guī)范包含人臉識別等網(wǎng)絡(luò)可信身份認(rèn)證技術(shù)的科學(xué)研究、開發(fā)利用、產(chǎn)業(yè)政策以及監(jiān)督管理等內(nèi)容,以保障重大關(guān)鍵技術(shù)應(yīng)用的安全性和健康持續(xù)發(fā)展。圍繞人臉識別技術(shù)反映出的個人隱私保護(hù)問題,盡快研究出臺個人隱私保護(hù)法、數(shù)權(quán)法等相關(guān)法律,統(tǒng)籌考慮隱私保護(hù)、人權(quán)、倫理道德等多方面因素,限定人臉識別技術(shù)的使用范圍,明確數(shù)據(jù)保護(hù)要求及責(zé)任,賦予數(shù)據(jù)采集對象知情權(quán)和追償權(quán),從法律層面保障個人隱私權(quán)、肖像權(quán)、數(shù)據(jù)所有權(quán)等相關(guān)權(quán)利。

    針對人臉識別這類涉及個人隱私的技術(shù)的管理,可考慮在四個方面落實(shí)法律要求、細(xì)化具體規(guī)定:第一,在必要場景中,必須確保用戶的知情權(quán),包括明確告知用戶所使用的技術(shù)、所采集的數(shù)據(jù)類型以及數(shù)據(jù)的使用目的;第二,在非必要場景中,盡量避免使用人臉識別等涉及個人隱私的技術(shù)方案,如若使用則需提供并行方案供用戶選擇;第三,對于采集的涉及個人隱私的數(shù)據(jù),應(yīng)綜合運(yùn)用數(shù)字簽名、區(qū)塊鏈等技術(shù)對數(shù)據(jù)進(jìn)行標(biāo)識,實(shí)現(xiàn)數(shù)據(jù)在流轉(zhuǎn)中的可追溯;第四,對于數(shù)據(jù)存儲超過一定規(guī)模的企業(yè),應(yīng)通過備案等形式納入監(jiān)管。在監(jiān)管方面,應(yīng)當(dāng)提升智能化監(jiān)管手段,提高執(zhí)法監(jiān)管人員基本能力,培養(yǎng)專業(yè)化支撐隊(duì)伍,支持鼓勵第三方檢測、評測機(jī)構(gòu)發(fā)展。對于技術(shù)、數(shù)據(jù)非法濫用行為,嚴(yán)格依法懲處,對于影響國家安全、威脅社會穩(wěn)定等重大違法行為,由公安機(jī)關(guān)從重處理。

    5.3 開展創(chuàng)新應(yīng)用試點(diǎn),促進(jìn)網(wǎng)絡(luò)身份認(rèn)證技術(shù)創(chuàng)新發(fā)展

    通過開展試點(diǎn)等方式,鼓勵網(wǎng)絡(luò)可信身份認(rèn)證機(jī)構(gòu)和技術(shù)研究機(jī)構(gòu)開展網(wǎng)絡(luò)身份認(rèn)證技術(shù)和新應(yīng)用研究。其中,包括研究手機(jī)證書應(yīng)用模式的安全性,探索非面對面形式的身份鑒別手段;研究生物特征、網(wǎng)絡(luò)行為分析、FIDO(線上快速身份驗(yàn)證)、區(qū)塊鏈等新興技術(shù)手段在各類互聯(lián)網(wǎng)中的應(yīng)用,探索新應(yīng)用模式。通過創(chuàng)新技術(shù)和應(yīng)用,推動網(wǎng)絡(luò)可信身份認(rèn)證在工業(yè)互聯(lián)網(wǎng)、云計算等領(lǐng)域的應(yīng)用。支持認(rèn)證機(jī)構(gòu)對工業(yè)互聯(lián)網(wǎng)、云計算有關(guān)人員、設(shè)備等主體身份進(jìn)行認(rèn)證,實(shí)現(xiàn)授權(quán)管理和加密傳輸,保障主體身份可信接入和設(shè)備穩(wěn)定運(yùn)行。鼓勵認(rèn)證機(jī)構(gòu)與芯片、軟件企業(yè)以及科研院所聯(lián)合制定標(biāo)準(zhǔn)和證書策略,在條件成熟的應(yīng)用場景開展試點(diǎn)。

    5.4 發(fā)揮行業(yè)組織作用,凝聚行業(yè)合力

    充分發(fā)揮FIDO聯(lián)盟、電子認(rèn)證服務(wù)產(chǎn)業(yè)聯(lián)盟在政府和企業(yè)間的橋梁作用,積極探索新的網(wǎng)絡(luò)可信身份認(rèn)證技術(shù)和服務(wù)模式,組織開展可信身份認(rèn)證準(zhǔn)制定和共性技術(shù)研究。打造行業(yè)交流平臺,積極為行業(yè)提供政策、資訊、技術(shù)等方面的支撐。開展《電子簽名法》《網(wǎng)絡(luò)安全法》《密碼法》的宣傳活動,為行業(yè)發(fā)展創(chuàng)造良好市場環(huán)境。集合行業(yè)力量,積極探索和推動生物識別技術(shù)、PKI技術(shù)的聯(lián)合應(yīng)用,及認(rèn)證結(jié)果的互聯(lián)互通,進(jìn)一步開拓行業(yè)市場。開展網(wǎng)絡(luò)可信身份領(lǐng)域人員培訓(xùn)工作,組織行業(yè)專家和講師編寫人員培訓(xùn)教材,制定培訓(xùn)課程。開展電子認(rèn)證服務(wù)行業(yè)標(biāo)準(zhǔn)研制工作,依托各類聯(lián)盟,組織制定可信身份認(rèn)證各類團(tuán)體標(biāo)準(zhǔn),并積極推動相關(guān)標(biāo)準(zhǔn)轉(zhuǎn)化為行業(yè)標(biāo)準(zhǔn)或國家標(biāo)準(zhǔn)。

    5.5 強(qiáng)化公眾對網(wǎng)絡(luò)可信身份認(rèn)證服務(wù)個人隱私的保護(hù)意識,維護(hù)網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)健康發(fā)展

    在網(wǎng)絡(luò)可信身份認(rèn)證服務(wù)領(lǐng)域,加大對個人隱私保護(hù)及相關(guān)法律規(guī)范的宣傳,鼓勵企業(yè)在人臉識別、語音識別等涉及敏感個人隱私數(shù)據(jù)的身份認(rèn)證服務(wù)及應(yīng)用中,面向用戶添加對個人隱私安全的風(fēng)險提示。同時,針對不同年齡段人群,制定不同形式的宣傳科普音視頻,通過傳統(tǒng)媒體以及各種自媒體平臺進(jìn)行傳播與教育,提高公眾對各類涉及個人敏感數(shù)據(jù)身份認(rèn)證技術(shù)的應(yīng)用或小程序的警惕性。打造個人隱私保護(hù)公共服務(wù)體系,建立個人隱私保護(hù)維權(quán)援助機(jī)制,在涉及個人隱私或敏感數(shù)據(jù)領(lǐng)域搭建高效、便捷、低成本的投訴維權(quán)渠道,降低個人隱私保護(hù)維權(quán)難度,切實(shí)維護(hù)用戶利益,營造個人隱私保護(hù)維權(quán)社會共治理念。

    6 結(jié)束語

    本文論述了我國網(wǎng)絡(luò)可信身份服務(wù)產(chǎn)業(yè)發(fā)展現(xiàn)狀,分析產(chǎn)業(yè)發(fā)展規(guī)模及產(chǎn)業(yè)細(xì)分領(lǐng)域,介紹了產(chǎn)業(yè)發(fā)展最新進(jìn)展,總結(jié)了基礎(chǔ)設(shè)施建設(shè)進(jìn)展顯著等產(chǎn)業(yè)發(fā)展特點(diǎn),預(yù)測了未來產(chǎn)業(yè)發(fā)展的趨勢及可能性,最后針對產(chǎn)業(yè)發(fā)展提出了相應(yīng)對策與建議,以期能為行業(yè)發(fā)展提供參考和借鑒。

    參考文獻(xiàn)

    [1] 王闖,呂堯.電子認(rèn)證創(chuàng)新發(fā)展必須直面區(qū)塊鏈技術(shù)挑戰(zhàn)[J].高科技與產(chǎn)業(yè)化,2017(7)60-63.

    [2] 王琎.我國電子認(rèn)證服務(wù)業(yè)發(fā)展現(xiàn)狀、趨勢及建議[N].中國計算機(jī)報,2019-04-01(012).

    [3] 陳月華,閆曉麗.電子認(rèn)證服務(wù)業(yè)政策現(xiàn)狀與趨勢[J].信息安全與技術(shù),2012(9)4-6.

    [4] 呂堯,李東格.《密碼法》解讀及影響分析[J].網(wǎng)絡(luò)空間安全,2019(11)74-78.

    [5] 劉耀華.國際網(wǎng)絡(luò)可信身份戰(zhàn)略研究及對我國的啟示[J].網(wǎng)絡(luò)空間安全,2018(2)1-5.

    猜你喜歡
    身份認(rèn)證
    基于標(biāo)識的動態(tài)口令系統(tǒng)
    軟件(2016年6期)2017-02-06 23:54:28
    云電子身份管理與認(rèn)證系統(tǒng)中的關(guān)鍵技術(shù)優(yōu)化改進(jìn)
    校園網(wǎng)云盤系統(tǒng)存在的安全問題及對策
    基于指紋身份認(rèn)證的固定通信臺站干部跟班管理系統(tǒng)設(shè)計
    基于PKI與基于IBC的認(rèn)證技術(shù)比較
    基于PKI技術(shù)的企業(yè)級云存儲出錯數(shù)據(jù)證明的研究
    信息系統(tǒng)身份認(rèn)證的分析與研究
    Kerberos身份認(rèn)證協(xié)議的改進(jìn)
    科技視界(2016年11期)2016-05-23 08:31:38
    基于USB存儲設(shè)備的透明監(jiān)控系統(tǒng)
    科技視界(2016年9期)2016-04-26 12:25:25
    基于鼠標(biāo)行為的電子商務(wù)中用戶異常行為檢測
    91久久精品国产一区二区成人 | 少妇裸体淫交视频免费看高清| 日韩欧美国产一区二区入口| 亚洲va日本ⅴa欧美va伊人久久| 国产aⅴ精品一区二区三区波| 最新在线观看一区二区三区| 欧美在线一区亚洲| 国产精品久久久久久亚洲av鲁大| 在线观看免费视频日本深夜| 搡老熟女国产l中国老女人| 成人无遮挡网站| 国产主播在线观看一区二区| 在线观看免费视频日本深夜| 丁香六月欧美| 亚洲欧美精品综合久久99| 丝袜人妻中文字幕| 一进一出好大好爽视频| 亚洲成人久久性| 成人高潮视频无遮挡免费网站| 国产97色在线日韩免费| 男女之事视频高清在线观看| 91av网一区二区| 在线a可以看的网站| 特大巨黑吊av在线直播| 国产成人福利小说| 999久久久国产精品视频| 中文资源天堂在线| 精品日产1卡2卡| 免费看十八禁软件| 亚洲中文av在线| 少妇人妻一区二区三区视频| 精品不卡国产一区二区三区| 日韩大尺度精品在线看网址| 免费在线观看成人毛片| 欧美zozozo另类| 欧美黄色片欧美黄色片| 人人妻,人人澡人人爽秒播| 又黄又爽又免费观看的视频| 99久久成人亚洲精品观看| 在线观看午夜福利视频| 这个男人来自地球电影免费观看| 免费电影在线观看免费观看| 丁香六月欧美| 成人三级做爰电影| 久久久久久久午夜电影| 1024香蕉在线观看| 日韩欧美国产在线观看| 99久久无色码亚洲精品果冻| 国产一区二区三区在线臀色熟女| 久久天堂一区二区三区四区| 日本 av在线| 久久精品aⅴ一区二区三区四区| 一区二区三区高清视频在线| 免费在线观看视频国产中文字幕亚洲| 国产av麻豆久久久久久久| 一卡2卡三卡四卡精品乱码亚洲| 99热6这里只有精品| 亚洲黑人精品在线| 午夜福利免费观看在线| 九九久久精品国产亚洲av麻豆 | 神马国产精品三级电影在线观看| av福利片在线观看| 91九色精品人成在线观看| 国产成人精品久久二区二区免费| 国产成人av激情在线播放| 久久人妻av系列| 日本黄色片子视频| 香蕉国产在线看| 欧美性猛交黑人性爽| 日韩欧美一区二区三区在线观看| 国产不卡一卡二| 亚洲国产看品久久| 欧美乱色亚洲激情| 伦理电影免费视频| a在线观看视频网站| 国产成年人精品一区二区| 亚洲精品在线观看二区| av中文乱码字幕在线| 波多野结衣高清无吗| 国产精品亚洲一级av第二区| 成人一区二区视频在线观看| 欧美成人免费av一区二区三区| 麻豆成人午夜福利视频| а√天堂www在线а√下载| 长腿黑丝高跟| www日本黄色视频网| 午夜视频精品福利| 欧美精品啪啪一区二区三区| 国产精品一区二区三区四区免费观看 | 黄频高清免费视频| 亚洲av免费在线观看| 在线视频色国产色| 999久久久精品免费观看国产| 国产精品亚洲一级av第二区| 波多野结衣巨乳人妻| 真实男女啪啪啪动态图| av黄色大香蕉| 观看免费一级毛片| 桃色一区二区三区在线观看| 久久精品91无色码中文字幕| 亚洲中文av在线| 长腿黑丝高跟| 国产一区二区激情短视频| 久久中文字幕一级| 免费高清视频大片| av欧美777| 99国产综合亚洲精品| 天天躁狠狠躁夜夜躁狠狠躁| 免费在线观看影片大全网站| 国语自产精品视频在线第100页| 中文字幕av在线有码专区| 国产高清三级在线| 亚洲国产中文字幕在线视频| 午夜激情福利司机影院| 十八禁人妻一区二区| а√天堂www在线а√下载| 久久精品综合一区二区三区| 日韩欧美一区二区三区在线观看| 无遮挡黄片免费观看| 午夜福利高清视频| 又紧又爽又黄一区二区| 一个人看视频在线观看www免费 | 国产97色在线日韩免费| 在线观看日韩欧美| 亚洲五月婷婷丁香| 哪里可以看免费的av片| 男人舔女人的私密视频| 夜夜看夜夜爽夜夜摸| 丰满人妻熟妇乱又伦精品不卡| 女警被强在线播放| 岛国视频午夜一区免费看| 国产午夜精品久久久久久| 久久精品国产清高在天天线| 99热只有精品国产| 黄片小视频在线播放| 色综合亚洲欧美另类图片| 国产蜜桃级精品一区二区三区| 2021天堂中文幕一二区在线观| 熟女电影av网| 国语自产精品视频在线第100页| 99国产精品一区二区三区| 麻豆一二三区av精品| 午夜精品一区二区三区免费看| 久久久久精品国产欧美久久久| 国产又黄又爽又无遮挡在线| 黄色丝袜av网址大全| 日日摸夜夜添夜夜添小说| 国产亚洲精品综合一区在线观看| 国产伦精品一区二区三区四那| 看免费av毛片| 波多野结衣巨乳人妻| 欧美日韩瑟瑟在线播放| 熟女电影av网| 午夜两性在线视频| 国产精品一区二区三区四区免费观看 | 高潮久久久久久久久久久不卡| 亚洲欧洲精品一区二区精品久久久| 观看免费一级毛片| 日韩欧美在线乱码| 精品久久久久久久人妻蜜臀av| 黑人操中国人逼视频| 无限看片的www在线观看| 日本成人三级电影网站| 国产午夜福利久久久久久| 中文亚洲av片在线观看爽| 手机成人av网站| 免费看光身美女| 亚洲自偷自拍图片 自拍| 亚洲成av人片在线播放无| 国产探花在线观看一区二区| 亚洲av成人精品一区久久| 级片在线观看| 日本在线视频免费播放| 美女扒开内裤让男人捅视频| 成年女人毛片免费观看观看9| 最新在线观看一区二区三区| av片东京热男人的天堂| 中文字幕久久专区| 高潮久久久久久久久久久不卡| 亚洲欧洲精品一区二区精品久久久| 日本在线视频免费播放| 亚洲avbb在线观看| 特大巨黑吊av在线直播| 免费看日本二区| 少妇的丰满在线观看| www国产在线视频色| 首页视频小说图片口味搜索| 精品99又大又爽又粗少妇毛片 | 1024手机看黄色片| 无人区码免费观看不卡| aaaaa片日本免费| 亚洲色图 男人天堂 中文字幕| 午夜精品在线福利| 欧美成狂野欧美在线观看| 嫁个100分男人电影在线观看| 成年人黄色毛片网站| 精品人妻1区二区| 在线观看66精品国产| 欧美日韩黄片免| 亚洲专区中文字幕在线| 国产精品久久久av美女十八| 国产精品一区二区三区四区久久| 精品国产乱码久久久久久男人| 在线观看午夜福利视频| 男人的好看免费观看在线视频| 午夜福利视频1000在线观看| 亚洲人成电影免费在线| 夜夜夜夜夜久久久久| 国产成人欧美在线观看| 亚洲avbb在线观看| 国产 一区 欧美 日韩| 性欧美人与动物交配| 欧美成狂野欧美在线观看| 极品教师在线免费播放| 亚洲精品国产精品久久久不卡| 国产精品,欧美在线| 免费电影在线观看免费观看| www.999成人在线观看| 国产黄a三级三级三级人| 成人特级av手机在线观看| 免费大片18禁| 久久久久久久精品吃奶| 99riav亚洲国产免费| 好男人在线观看高清免费视频| 国产淫片久久久久久久久 | 首页视频小说图片口味搜索| 欧美成人免费av一区二区三区| 欧洲精品卡2卡3卡4卡5卡区| 伦理电影免费视频| xxx96com| 窝窝影院91人妻| 久久久久免费精品人妻一区二区| 国产精品乱码一区二三区的特点| 岛国在线观看网站| 精品不卡国产一区二区三区| 人妻夜夜爽99麻豆av| 此物有八面人人有两片| 成人三级黄色视频| 免费av毛片视频| 亚洲熟妇熟女久久| 久久亚洲真实| 色播亚洲综合网| 久久九九热精品免费| 欧美日韩一级在线毛片| 成年女人毛片免费观看观看9| 怎么达到女性高潮| 国产成+人综合+亚洲专区| 香蕉久久夜色| 国产黄片美女视频| 三级国产精品欧美在线观看 | 久久久久国内视频| 国产麻豆成人av免费视频| 特大巨黑吊av在线直播| 淫妇啪啪啪对白视频| 丁香六月欧美| 又黄又爽又免费观看的视频| 国产午夜福利久久久久久| 男人舔奶头视频| 日本 av在线| 成在线人永久免费视频| 国产高清有码在线观看视频| 丝袜人妻中文字幕| 狂野欧美白嫩少妇大欣赏| www国产在线视频色| 最近最新中文字幕大全电影3| 99久久精品一区二区三区| 无限看片的www在线观看| 午夜两性在线视频| 亚洲av成人不卡在线观看播放网| 精华霜和精华液先用哪个| 精品乱码久久久久久99久播| 国产一区二区三区在线臀色熟女| 免费人成视频x8x8入口观看| 国产成人影院久久av| 国内精品久久久久久久电影| 可以在线观看毛片的网站| 一区二区三区激情视频| 亚洲精品一区av在线观看| 午夜a级毛片| 19禁男女啪啪无遮挡网站| 18禁美女被吸乳视频| 欧美乱妇无乱码| 狂野欧美激情性xxxx| 亚洲人成网站高清观看| 亚洲精品一卡2卡三卡4卡5卡| 99视频精品全部免费 在线 | 国产亚洲精品久久久com| 在线看三级毛片| 九色国产91popny在线| 成人国产综合亚洲| 国产高潮美女av| avwww免费| 国产黄a三级三级三级人| 亚洲精品久久国产高清桃花| 夜夜夜夜夜久久久久| 国产1区2区3区精品| 亚洲精品在线美女| 久久精品aⅴ一区二区三区四区| 久久久精品欧美日韩精品| 一本久久中文字幕| 欧美成人免费av一区二区三区| 久久精品91无色码中文字幕| 黄色片一级片一级黄色片| 美女扒开内裤让男人捅视频| 欧美日本视频| 亚洲专区中文字幕在线| 亚洲国产欧美人成| 99riav亚洲国产免费| 在线免费观看不下载黄p国产 | 后天国语完整版免费观看| 国产日本99.免费观看| 熟女少妇亚洲综合色aaa.| 久久久久免费精品人妻一区二区| 欧美+亚洲+日韩+国产| 天堂动漫精品| 香蕉国产在线看| 亚洲欧美精品综合久久99| 亚洲精品色激情综合| 国产精品爽爽va在线观看网站| 十八禁人妻一区二区| 欧美一级毛片孕妇| 国内精品一区二区在线观看| 国产野战对白在线观看| 久久久久久久久久黄片| 18禁美女被吸乳视频| 我要搜黄色片| 操出白浆在线播放| 日本在线视频免费播放| 天堂av国产一区二区熟女人妻| 在线观看免费视频日本深夜| 一区福利在线观看| 国产成人精品久久二区二区91| 日本黄色片子视频| 国产激情欧美一区二区| 久久国产精品影院| 少妇人妻一区二区三区视频| 国产一区二区激情短视频| 俺也久久电影网| 色av中文字幕| 91在线观看av| ponron亚洲| 1024香蕉在线观看| 亚洲黑人精品在线| 国产精品亚洲av一区麻豆| 麻豆一二三区av精品| 欧美日韩黄片免| 精品国产美女av久久久久小说| а√天堂www在线а√下载| 免费在线观看成人毛片| 99久久99久久久精品蜜桃| 亚洲自偷自拍图片 自拍| 全区人妻精品视频| 神马国产精品三级电影在线观看| 亚洲,欧美精品.| 禁无遮挡网站| 高清在线国产一区| 91九色精品人成在线观看| 国产一级毛片七仙女欲春2| 1024香蕉在线观看| 国产成人影院久久av| 亚洲男人的天堂狠狠| av福利片在线观看| 午夜免费观看网址| 啪啪无遮挡十八禁网站| 夜夜夜夜夜久久久久| 一区二区三区国产精品乱码| 日韩欧美 国产精品| 美女高潮喷水抽搐中文字幕| 在线观看午夜福利视频| 国产久久久一区二区三区| www日本在线高清视频| 欧美日本亚洲视频在线播放| 露出奶头的视频| 可以在线观看的亚洲视频| 精品国产乱子伦一区二区三区| 国产视频一区二区在线看| 热99在线观看视频| 亚洲aⅴ乱码一区二区在线播放| 国产单亲对白刺激| 老司机深夜福利视频在线观看| 午夜视频精品福利| 亚洲av电影在线进入| 亚洲成av人片免费观看| 亚洲人成网站高清观看| 亚洲人成网站在线播放欧美日韩| 伊人久久大香线蕉亚洲五| 综合色av麻豆| 精品一区二区三区四区五区乱码| 午夜日韩欧美国产| 人人妻,人人澡人人爽秒播| 嫩草影院精品99| 在线免费观看不下载黄p国产 | 婷婷亚洲欧美| 国产主播在线观看一区二区| 日本免费a在线| 亚洲第一欧美日韩一区二区三区| 99国产精品一区二区三区| 国产真人三级小视频在线观看| 69av精品久久久久久| 久久伊人香网站| 国产亚洲精品久久久久久毛片| 一二三四社区在线视频社区8| 美女 人体艺术 gogo| 熟妇人妻久久中文字幕3abv| 亚洲片人在线观看| 真人一进一出gif抽搐免费| 国产熟女xx| 色综合亚洲欧美另类图片| 久久久国产成人免费| 美女被艹到高潮喷水动态| 国产野战对白在线观看| 欧美在线一区亚洲| 亚洲天堂国产精品一区在线| 免费在线观看影片大全网站| 黄色视频,在线免费观看| 成人亚洲精品av一区二区| 久久香蕉精品热| 深夜精品福利| 午夜精品久久久久久毛片777| 国产成人精品久久二区二区免费| 两个人看的免费小视频| 91在线观看av| 少妇丰满av| 真人一进一出gif抽搐免费| 老司机深夜福利视频在线观看| 91麻豆精品激情在线观看国产| 黄色片一级片一级黄色片| 白带黄色成豆腐渣| 1024香蕉在线观看| 国产美女午夜福利| 亚洲国产精品合色在线| 国产欧美日韩精品亚洲av| 免费看日本二区| 全区人妻精品视频| 嫩草影院精品99| 欧美另类亚洲清纯唯美| 久久香蕉精品热| 亚洲精品美女久久av网站| 三级毛片av免费| 国产免费男女视频| 久久这里只有精品中国| 高清毛片免费观看视频网站| 免费观看精品视频网站| 国产精品影院久久| 成人午夜高清在线视频| 欧美国产日韩亚洲一区| 国产午夜福利久久久久久| 日韩欧美在线乱码| 国产精品99久久99久久久不卡| 成人三级黄色视频| 亚洲av日韩精品久久久久久密| a在线观看视频网站| 美女扒开内裤让男人捅视频| 老司机深夜福利视频在线观看| www.自偷自拍.com| 一进一出好大好爽视频| 黄频高清免费视频| 麻豆成人午夜福利视频| 欧美国产日韩亚洲一区| 欧美日韩国产亚洲二区| 人妻夜夜爽99麻豆av| 国产精品久久久久久精品电影| 99在线视频只有这里精品首页| 国产欧美日韩精品一区二区| 亚洲成人精品中文字幕电影| 午夜福利在线观看吧| 日日夜夜操网爽| 成人三级黄色视频| 男人的好看免费观看在线视频| 中文字幕av在线有码专区| 在线观看一区二区三区| 99精品久久久久人妻精品| 少妇熟女aⅴ在线视频| 国产成人福利小说| 亚洲男人的天堂狠狠| 97碰自拍视频| 一边摸一边抽搐一进一小说| 亚洲成av人片在线播放无| 色吧在线观看| 欧美黄色淫秽网站| 精品福利观看| 久久久久久久午夜电影| svipshipincom国产片| 午夜福利高清视频| 岛国在线免费视频观看| 国产在线精品亚洲第一网站| 亚洲精品一区av在线观看| 禁无遮挡网站| 国产熟女xx| 一二三四社区在线视频社区8| 91麻豆av在线| 亚洲成人久久性| 男女之事视频高清在线观看| 制服人妻中文乱码| 精品电影一区二区在线| cao死你这个sao货| 免费在线观看日本一区| 亚洲国产精品999在线| 久久性视频一级片| 亚洲无线观看免费| 宅男免费午夜| 最新在线观看一区二区三区| 在线观看免费视频日本深夜| 国产一区二区三区在线臀色熟女| 午夜成年电影在线免费观看| 日本免费一区二区三区高清不卡| 国产成人精品无人区| 人妻丰满熟妇av一区二区三区| 欧美日本亚洲视频在线播放| 99riav亚洲国产免费| 欧美日本视频| 国产精品,欧美在线| 国产亚洲欧美98| 亚洲电影在线观看av| 少妇裸体淫交视频免费看高清| 两个人看的免费小视频| 1024香蕉在线观看| 女人被狂操c到高潮| 精品人妻1区二区| 国产精品久久视频播放| 亚洲av成人一区二区三| 久久天堂一区二区三区四区| 色视频www国产| 欧美三级亚洲精品| 搡老妇女老女人老熟妇| 欧美一级a爱片免费观看看| 国产真人三级小视频在线观看| 国产淫片久久久久久久久 | 国产精品1区2区在线观看.| 90打野战视频偷拍视频| 日韩欧美国产在线观看| 久久国产乱子伦精品免费另类| 后天国语完整版免费观看| 久久久久国产精品人妻aⅴ院| 麻豆国产97在线/欧美| 国产精品一区二区免费欧美| 久久婷婷人人爽人人干人人爱| 日本黄色片子视频| 日本免费一区二区三区高清不卡| 高清毛片免费观看视频网站| 免费无遮挡裸体视频| 我要搜黄色片| 亚洲国产欧美网| 色吧在线观看| 成人18禁在线播放| 亚洲成人精品中文字幕电影| 久久久国产成人免费| 亚洲人成网站在线播放欧美日韩| а√天堂www在线а√下载| 免费观看精品视频网站| 他把我摸到了高潮在线观看| 老司机午夜十八禁免费视频| 亚洲一区二区三区色噜噜| a级毛片在线看网站| 免费在线观看视频国产中文字幕亚洲| 久久久久久国产a免费观看| 99热这里只有是精品50| 久久99热这里只有精品18| 美女高潮的动态| 97碰自拍视频| 别揉我奶头~嗯~啊~动态视频| 久久香蕉精品热| 欧美黑人巨大hd| 岛国在线观看网站| 在线观看美女被高潮喷水网站 | 亚洲熟女毛片儿| 欧美成人一区二区免费高清观看 | 色综合站精品国产| 人妻丰满熟妇av一区二区三区| 精品国产美女av久久久久小说| 一卡2卡三卡四卡精品乱码亚洲| av中文乱码字幕在线| 国产美女午夜福利| 精品国产亚洲在线| 免费看十八禁软件| 国产精品国产高清国产av| 偷拍熟女少妇极品色| 波多野结衣巨乳人妻| 亚洲熟妇熟女久久| 亚洲人成网站高清观看| 日韩欧美一区二区三区在线观看| 成熟少妇高潮喷水视频| 久久国产乱子伦精品免费另类| 国产美女午夜福利| 黄色 视频免费看| 午夜福利视频1000在线观看| 国产伦在线观看视频一区| 久久99热这里只有精品18| 国产v大片淫在线免费观看| 国产av在哪里看| 很黄的视频免费| 嫩草影视91久久| 久久久国产成人免费| 老汉色∧v一级毛片| 欧美成狂野欧美在线观看| 亚洲国产高清在线一区二区三| 国模一区二区三区四区视频 | a级毛片a级免费在线| 99国产精品99久久久久| 国产午夜精品久久久久久| 一级毛片女人18水好多| 十八禁网站免费在线| 亚洲 欧美一区二区三区| 免费高清视频大片| 精品国产乱子伦一区二区三区| 欧美黑人欧美精品刺激| 黑人欧美特级aaaaaa片| 精品乱码久久久久久99久播| 制服人妻中文乱码| 久久中文看片网| 国产高清三级在线| 五月玫瑰六月丁香| 一级毛片女人18水好多| 变态另类丝袜制服| 天堂av国产一区二区熟女人妻|