• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    2019 年全球網(wǎng)絡空間態(tài)勢分析*

    2020-02-18 12:45:59
    世界科技研究與發(fā)展 2020年4期
    關鍵詞:網(wǎng)絡空間區(qū)塊網(wǎng)絡安全

    徐 婧 吳 浩 唐 川

    (1.中國科學院成都文獻情報中心,成都610041;2.中國科學院大學經濟與管理學院圖書情報與檔案管理系,北京100864;3.成都空御科技有限公司,成都610200;4.清華大學電子工程系,北京100084)

    隨著信息技術的快速發(fā)展,網(wǎng)絡已經成為國家政治、經濟、文化乃至軍事等幾乎所有社會系統(tǒng)存在與發(fā)展的重要基礎。 網(wǎng)絡空間則成為了繼陸???、太空之后的第五空間,是國家主權延伸的新疆域。 縱觀21 世紀,網(wǎng)絡空間問題日益凸顯,網(wǎng)絡威脅層出不窮,網(wǎng)絡空間安全已上升到了國家安全的高度。 因此,對網(wǎng)絡空間的研究意義深遠。2019 年,隨著世界大調整大變革加速展開,國際環(huán)境更趨復雜多變,網(wǎng)絡空間也不可避免地受到了全球現(xiàn)實政治影響,發(fā)展態(tài)勢更趨復雜。

    在網(wǎng)絡空間態(tài)勢的演變中,戰(zhàn)略政策是趨勢的主導,重大事件往往是趨勢改變或演變的觸發(fā),而技術研發(fā)和進展既是網(wǎng)絡空間背后的支撐也是反推網(wǎng)絡空間演變的動力所在。 本文通過梳理2019 年主要國家網(wǎng)絡空間相關戰(zhàn)略政策、重要事件,挖掘戰(zhàn)略政策和重要事件背后的深意,總結2019 年全球網(wǎng)絡空間的新特點和新形勢。 與此同時,通過分析2019 年信息技術的研發(fā)動向,分析人工智能、5G 和區(qū)塊鏈技術發(fā)展給網(wǎng)絡空間帶來的研發(fā)新趨勢。

    1 全球網(wǎng)絡空間新特點和新形勢

    1.1 網(wǎng)絡空間已經成為新戰(zhàn)場

    隨著網(wǎng)絡空間重要性的不斷攀升,各國網(wǎng)絡空間戰(zhàn)略籌劃已經從密集出臺向后期調整轉變,已有超過30 個國家宣布成立軍事網(wǎng)絡部門,美、日、歐等國家早已進行了網(wǎng)絡空間防御甚至是進攻型的布局。 2019 年6 月,美國官方宣布對伊朗發(fā)動網(wǎng)絡攻擊,這在全球網(wǎng)絡戰(zhàn)歷史上尚屬首次。各國尤其是美國已經在積極加強網(wǎng)絡戰(zhàn)的戰(zhàn)略籌劃、技術研發(fā)和演練積累。 美軍率先打造交付“網(wǎng)絡航空母艦”,帶領美軍網(wǎng)絡空間作戰(zhàn)走向制式化和標準化。 此外,各國都在加大網(wǎng)絡演習的廣度、深度和強度,以應對未來可能的網(wǎng)絡攻擊。不得不說,網(wǎng)絡空間已經成為了新的戰(zhàn)場。

    1.1.1 網(wǎng)絡空間戰(zhàn)略籌劃進入后期階段,應對網(wǎng)絡戰(zhàn)進行布局

    在經過多年的網(wǎng)絡空間戰(zhàn)略制定熱潮之后,各國已經開始進入戰(zhàn)略籌劃的后期階段,這其中包括將網(wǎng)絡空間作為軍事作戰(zhàn)領域的一系列規(guī)劃和部署。

    走在前列的是美國。 事實上,特朗普早已通過《2019 年國防授權法案》《國家網(wǎng)絡戰(zhàn)略》《國防部網(wǎng)絡戰(zhàn)略2018》等一系列戰(zhàn)略和法案實現(xiàn)了美國政府在網(wǎng)絡空間問題上從“繁榮”“安全”“開放”向“安全”與“實力”的目標轉變,實現(xiàn)了網(wǎng)絡空間理念向“先發(fā)制人”“向前威懾”“主動進攻”方向的轉變。 美國國防部已經將網(wǎng)絡攻擊視為一種大規(guī)模殺傷性武器,并在2019 年開始著手研究網(wǎng)絡攻擊與傳統(tǒng)大規(guī)模殺傷性武器的區(qū)別。 美國海軍在2019 年2 月發(fā)布的《海軍密碼學和網(wǎng)絡戰(zhàn)機構愿景》[1]文件中闡述了海軍未來信息網(wǎng)絡戰(zhàn)愿景,明確了未來信息戰(zhàn)及占據(jù)信息戰(zhàn)主導地位的重要性。 4 月,美國和日本達成一致,認定針對日本的網(wǎng)絡攻擊可以被視為武裝攻擊,美國需要對此采取行動[2]。 9 月,美國空軍宣布成立新的信息戰(zhàn)司令部,將網(wǎng)絡、情報、監(jiān)視和偵察、電子戰(zhàn)和信息戰(zhàn)等結合到統(tǒng)一的指揮下[3]。 與此同時,空軍斥資3500 萬美元開發(fā)一系列名為“網(wǎng)絡任務部隊基礎工具”的攻擊性網(wǎng)絡工具,為網(wǎng)絡任務部隊人員提供先進的網(wǎng)絡戰(zhàn)能力[4]。

    目前,已有超過30 個國家宣布其設立了軍事網(wǎng)絡部門[5],積極開展進攻型網(wǎng)絡武器的研發(fā)。美國、日本、歐洲等國家/地區(qū)早已進行了網(wǎng)絡空間防御甚至是網(wǎng)絡空間進攻型布局。 2019 年1月,法國國防部長宣布法國軍方計劃開發(fā)與部署進攻性網(wǎng)絡武器,并強化法國網(wǎng)絡應對安全事件的能力。 法國認為網(wǎng)絡武器是一種成熟的作戰(zhàn)武器,因此法國將為其軍事行動采購更多的網(wǎng)絡武器[6]。 2019 年5 月,歐盟理事會推出了新的框架,允許對網(wǎng)絡攻擊實施針對性的限制措施,一旦被認定行為屬于“對歐盟及其成員國帶來重大影響的外部網(wǎng)絡攻擊”,歐盟將采取資產凍結措施[7]。 8 月,俄羅斯媒體報道俄羅斯軍隊正在組建一支特殊部隊,用以探索和壓制潛在網(wǎng)絡威脅[8]。

    1.1.2 美國公開對主權國家實施網(wǎng)絡戰(zhàn),美軍網(wǎng)絡作戰(zhàn)走向制式化

    2019 年6 月,特朗普宣布授權網(wǎng)絡司令部對伊朗發(fā)動網(wǎng)絡攻擊。 雖然此前美國曾被認為主導了針對伊朗核設施的“震網(wǎng)”病毒攻擊事件,美軍也曾宣布對“伊斯蘭國”實施網(wǎng)絡戰(zhàn)攻擊,但此次是美國政府公開宣布對一個主權國家實施網(wǎng)絡戰(zhàn),這在全球網(wǎng)絡戰(zhàn)歷史上尚屬首次[9]。 隨后,美國于9 月對伊朗無人機發(fā)動了網(wǎng)絡攻擊;10月,微軟稱伊朗黑客組織試圖破壞美國總統(tǒng)大選??梢哉f,網(wǎng)絡戰(zhàn)猶如箭在弦上一般,很可能一觸即發(fā)。

    與此同時,美國正在積極打造“網(wǎng)絡航空母艦”。 2019 年4 月,美國空軍向網(wǎng)絡司令部交付了“統(tǒng)一平臺”網(wǎng)絡武器系統(tǒng)的初步可運行版本——“增量一號”系統(tǒng)[10],帶領美軍網(wǎng)絡作戰(zhàn)走向制式化和標準化。 “統(tǒng)一平臺”是一個跨機構、跨領域的通用平臺,搭載各軍種不同類型網(wǎng)絡平臺,內含攻防工具,具備指揮控制、態(tài)勢感知和規(guī)劃能力。 可以說,“統(tǒng)一平臺”是“網(wǎng)絡航空母艦”,是網(wǎng)絡司令部下一代的大規(guī)模網(wǎng)絡武器系統(tǒng)同時也是聯(lián)合部隊的下一代戰(zhàn)斗平臺。 因此,美軍網(wǎng)絡任務部隊具備了全頻譜網(wǎng)絡空間戰(zhàn)術行動和作戰(zhàn)行動的能力,可發(fā)起網(wǎng)絡攻擊作戰(zhàn)和網(wǎng)絡防御作戰(zhàn),還可為情報、監(jiān)視和偵察等任務提供支援。 “統(tǒng)一平臺”推進了網(wǎng)絡戰(zhàn)系統(tǒng)與傳統(tǒng)武器系統(tǒng)的整合,為聯(lián)合作戰(zhàn)體系奠定堅實基礎。美軍的“網(wǎng)絡航空母艦”必將成為美國制控網(wǎng)絡空間的利器,進而刺激全球網(wǎng)絡武器軍備競賽。

    1.1.3 網(wǎng)絡演習密集舉行,廣度深度強度不斷增加

    2019 年,美歐日等多國密集開展網(wǎng)絡演習,這其中有多年延續(xù)的系列演習,也有首次開展的演習。 演習的重點仍是保護國家關鍵基礎設施。與此同時,演習的參與者規(guī)模也不斷擴大,覆蓋領域和演習環(huán)境也更加廣泛和復雜。

    2019 年,美國除原有的系列演習之外,還不斷聯(lián)絡北約、五眼聯(lián)盟成員國等國家開展聯(lián)合演習。 4 月,美國陸軍組織了“網(wǎng)絡盾2019”網(wǎng)絡演習,旨在培養(yǎng)下一代網(wǎng)絡戰(zhàn)士[11]。 6 月,美國開展了系列演習“Cyber X-Games”[12]和“網(wǎng)絡鍛造”[13]2019 年的演習。 “Cyber X-Games”2019 年的主題是保護國防部關鍵資產,對抗高級持續(xù)性威脅;“網(wǎng)絡鍛造”演習聯(lián)合了軍事計劃領導者、項目經理、網(wǎng)絡部隊和產業(yè)界,旨在進一步提升網(wǎng)絡部隊訓練能力。 美國還聯(lián)合日本于9 月共同舉行了“網(wǎng)絡閃電戰(zhàn)-東方盾”網(wǎng)絡演習,將網(wǎng)絡演習融入到兩國年度的“東方盾”軍事演習中[14];聯(lián)合羅馬尼亞舉行了“軍刀衛(wèi)士19”[15]網(wǎng)絡演習;聯(lián)合北約舉行了“網(wǎng)絡閃電2019”演習[16];聯(lián)合五眼聯(lián)盟國家舉行了“網(wǎng)絡奪旗”[17]演習,旨在加強網(wǎng)絡防御并深化合作。

    此外,也有國家和組織為應對新出現(xiàn)的問題,開展了具有針對性目標的網(wǎng)絡演習。 例如,歐盟在2019 年4 月特地針對大選中的網(wǎng)絡安全問題進行“EU ELEx19”[18]網(wǎng)絡演習,意在測試歐盟各國對影響歐盟選舉的潛在網(wǎng)絡安全事件的響應和危機應對計劃。 日本為確保奧運期間網(wǎng)絡安全,開展了實網(wǎng)測試[19]。

    1.2 網(wǎng)絡空間“巴爾干化”初見端倪

    面對“動蕩不安”的全球網(wǎng)絡安全局勢,越來越多的國家開始獨立制定新監(jiān)管措施甚至是新的網(wǎng)絡邊界,網(wǎng)絡空間“巴爾干化”已初見端倪。

    1.2.1 2019 年斷網(wǎng)頻繁,俄羅斯主動進行“斷網(wǎng)”測試

    根據(jù)Top10 VPN 網(wǎng)站最新于2020 年1 月公布的報告,2019 年全世界共計有122 次重大網(wǎng)絡關閉事件,這還不包括印度90 次區(qū)域性斷網(wǎng)[20]。在種種斷網(wǎng)中,有因某些原因主動斷網(wǎng)的,也有被動斷網(wǎng)和舉行斷網(wǎng)演習的。 例如印度政府于2019 年8 月份實施斷網(wǎng)以封鎖長達150 多天的查謨領土爭議,伊拉克、阿爾及利亞和埃塞俄比亞都在全國性重要考試期間斷網(wǎng)以避免舞弊,2019 年7 月澳大利亞的最大運營商Telstra 突然發(fā)生了故障,造成了全國突然斷網(wǎng)。 2019 年全球各國斷網(wǎng)時長達到18225 小時,造成全球經濟損失達80.5億美元[21]。 這其中,俄羅斯在2019 年舉行的“斷網(wǎng)”演習最為值得關注。 有分析認為,俄羅斯的這一行為可能會進一步助長所謂的網(wǎng)絡空間的“巴爾干化”,即全球網(wǎng)絡空間將進入一個“被主權壁壘分割”的“碎片化”時代[22]。

    2019 年12 月23 日,俄羅斯政府公開對外宣布,已完成首次防范“斷網(wǎng)”風險的全國網(wǎng)絡運行穩(wěn)定保障演習,成功保證了俄羅斯的國家互聯(lián)網(wǎng)基礎設施,在無法訪問全球系統(tǒng)和外部互聯(lián)網(wǎng)的情況下,依然能正常運轉。 此次“斷網(wǎng)”測試覆蓋全面,涵蓋了對通信穩(wěn)定性、蜂窩通信安全性、個人數(shù)據(jù)安全性和攔截流量問題,以及使用物聯(lián)網(wǎng)的安全性等幾大重點維度的綜合考量。

    事實上,俄羅斯早在2014 年就舉行過全國互聯(lián)網(wǎng)斷網(wǎng)演習,測試對互聯(lián)網(wǎng)擁有核心設施控制權的國家是否有能力停止對俄羅斯的互聯(lián)網(wǎng)連接和服務。 通過演習,俄羅斯證明了自己的計算機網(wǎng)絡受控于美國,且面臨網(wǎng)絡戰(zhàn)和斷網(wǎng)威脅。2019 年5 月1 日,俄羅斯總統(tǒng)普京簽署旨在保護俄羅斯互聯(lián)網(wǎng)運行穩(wěn)定性不受境外威脅的法律《 <俄羅斯聯(lián)邦通信法>及<俄羅斯聯(lián)邦關于信息、信息技術和信息保護法>修正案》。 根據(jù)該法案,俄聯(lián)邦通信監(jiān)督局將成立公共通信網(wǎng)絡監(jiān)管中心,用于確保俄境內通信服務能在任何“不尋?!睜顩r下運行。 俄羅斯將建立可接收域名信息的全國系統(tǒng)和自主地址解析系統(tǒng),以在緊急時刻取代現(xiàn)有域名服務系統(tǒng)。 俄羅斯國家機關和國有企業(yè)在互聯(lián)網(wǎng)上的信息將得到額外加密保護[23]。

    1.2.2 數(shù)據(jù)主權爭奪加速網(wǎng)絡空間分裂

    無國界的數(shù)字地球村烏托邦即將結束,各國都在建立自己的區(qū)域網(wǎng)絡護欄,紛紛出臺有關網(wǎng)絡與數(shù)據(jù)保護的相關政策。 2018 年5 月,歐盟《通用數(shù)據(jù)保護條例》 (General Data Protection Regulation,GDPR)正式實施,全球范圍內掀起了數(shù)據(jù)保護改革浪潮。 歐盟境內成員國紛紛更新個人數(shù)據(jù)保護法,美國、巴西、印度、越南、馬來西亞等國家也開始數(shù)據(jù)保護立法。 以美國為例,自2018 下半年到2019 年3 月,美國州層面的個人數(shù)據(jù)相關立法呈現(xiàn)出明顯的增長趨勢,至少百余項隱私保護提案進入了州議會審議程序。 各州立法提案各具特色,然而也普遍存在交叉影響的現(xiàn)象[24]。

    不止美國內部存在這種交叉影響的立法問題,放眼全球,歐洲、美國、中國等國家/地區(qū)間在數(shù)據(jù)保護上也存在著諸多的交叉影響,甚至是數(shù)據(jù)主權間的爭奪。 在歐盟通過了相對平等且極其嚴苛的GDPR 之后,美國以前所未有的速度迅速通過了《澄清域外合法使用數(shù)據(jù)法》(Clarifying Lawful Overseas Use of Data Act,CLOUD),依法進入“管得更寬”的時代。 根據(jù)該法案,數(shù)據(jù)只要到了美國的數(shù)據(jù)控制者手中,美國政府就基本能夠直接從全球各地調取。 也就是說,美國企業(yè)在全球互聯(lián)網(wǎng)行業(yè)有多大的市場份額,擴展到多少國家,美國的數(shù)據(jù)主權就能擴展到哪里。 歐盟對此不甘示弱,也推出了相對應的法案來應對CLOUD法案。 由此可見,對數(shù)據(jù)主權的爭奪正在導致各國之間展開“逐底競爭”,加速了網(wǎng)絡空間的分裂。

    數(shù)據(jù)主權的爭奪不僅體現(xiàn)在法律方面,也發(fā)生在基礎設施建設上。 例如,為了抗衡美國在市場上的領先地位,保障歐盟的數(shù)據(jù)主權,德國于2019 年10 月正式建議歐洲建設自己的網(wǎng)絡云設施Gaia-X,加強歐洲的數(shù)字主權。

    1.3 信息操縱時代已然到來

    伴隨著深度造假、生成對抗網(wǎng)絡等人工智能先進技術的誕生和成熟,信息操縱的新時代到來了。 對于“深度造假”等技術帶來的信息操縱影響,領域專家、產業(yè)界專家、智庫等紛紛發(fā)聲,指出要加強對信息操縱問題的治理。

    1.3.1 “深度造假”等技術將引發(fā)重大信息操縱事件

    深度造假是指看似真實,實則被人工智能操縱的音頻、視頻或圖片。 深度造假相關技術可替代人臉、控制面部表情,甚至合成人臉及語音等。其中,生成對抗性網(wǎng)絡技術可使深度造假得到更加逼真的數(shù)據(jù)和效果,可以創(chuàng)造全新的面孔、身體、角色和可靠的身份。

    這些技術可能會被別有用心地用于發(fā)布包含公眾人物的煽動性言論或不當行為內容的虛假視頻,以破壞公眾信任,對輿論造成消極影響,甚至干擾政治選舉;還有可能被用于脅迫或敲詐掌握機密信息的官員或其他人員。 例如,“深度造假”技術已經開始用于制作各國領導人的視頻圖像,包括美國總統(tǒng)特朗普和俄羅斯總統(tǒng)普京的圖像。領英平臺上的“數(shù)字間諜”Katie Jones 就是使用人工智能技術合成的虛擬形象,收集政府官員信息。

    與此同時,信息操縱門檻變低,檢測難度變大。 隨著人工智能技術的發(fā)展,“深度造假”這一原本門檻較高的技術已經可以被毫無技術專長的人使用。 不少平臺為用戶提供了友好的操作界面,可以實現(xiàn)一鍵操作。 2019 年,ZAO 軟件風靡國內社交媒體,用戶將個人照片錄入系統(tǒng)后,即可將自己的面部與影視劇中的明星替換,“出演”影視片段。 與此同時,“深度造假”由于有了人工智能技術的加持,其檢測難度變得更大,目前深度檢測技術在應對“深度造假”中仍存在局限。 媒體取證專家有時必須依賴難以模仿的細微跡象,包括受試者呼吸、脈搏或眨眼的異常行為等才能得以鑒別。 國際咨詢公司Gartner 曾預測:到2020年,互聯(lián)網(wǎng)虛假信息或產生更大危害,基于人工智能技術的造假能力或將遠超虛假檢測的能力。

    1.3.2 各國強化信息操縱治理成為總體趨勢

    面對“深度造假”等技術帶來的信息操縱影響,各國政府也正采取相關措施以防范深度造假可能造成的損害。 早在2018 年,歐盟委員會就官方發(fā)布《解決網(wǎng)絡虛假信息:歐洲的方式》通報[25],闡述了解決網(wǎng)絡虛假信息的關鍵總體原則和目標。 2018 年9 月,歐盟發(fā)布其歷史上首份《反虛假信息行為準則》,旨在從源頭打擊網(wǎng)絡虛假內容。 2019 年,美國弗吉尼亞州、得克薩斯州將“深度造假”定為刑事犯罪,馬薩諸塞州和加利福尼亞州等地也曾考慮過類似法案,但最終因擔心監(jiān)管過度而未能通過。 美國聯(lián)邦層面,2019 年6 月,意在阻止“選舉干擾”的《深度偽造責任法案》(Deep Fakes Accountability Act)被提出。 2019年5 月,新加坡通過了《防止網(wǎng)絡虛假信息和網(wǎng)絡操縱法案》[26],提高在線政治廣告和相關事項的透明度。 2019 年3 月,俄羅斯國家杜馬通過打擊假新聞和阻止褻瀆國家標志的兩項法案,授權對發(fā)布有關政府虛假信息的公民處以監(jiān)禁或罰款。2019 年11 月,國家互聯(lián)網(wǎng)信息辦公室發(fā)布《網(wǎng)絡音視頻信息服務管理規(guī)定》[27],要求“網(wǎng)絡音視頻信息服務提供者應當加強對網(wǎng)絡音視頻信息服務使用者發(fā)布的音視頻信息的管理,部署應用違法違規(guī)音視頻以及非真實音視頻鑒別技術”。 可見,世界范圍內強化對有組織的虛假信息宣傳操縱活動的治理已成為總體趨勢。

    2 網(wǎng)絡安全研發(fā)新態(tài)勢

    網(wǎng)絡空間是以技術為基礎的空間。 隨著信息技術的升級,網(wǎng)絡空間也在動態(tài)變化[28]。 近年來,信息技術的飛速發(fā)展,特別是一批新興信息技術的發(fā)展給網(wǎng)絡空間帶來了新的安全隱患,也帶來了新的機遇。 人工智能、5G 和區(qū)塊鏈是其中最為值得關注的技術。

    2.1 人工智能雙刃劍效應顯著

    得益于大數(shù)據(jù)技術的發(fā)展和計算機計算能力的提升,人工智能近年來發(fā)展蒸蒸日上,其應用也呈現(xiàn)出“雙刃劍”效應。 一方面,網(wǎng)絡攻擊智能化給網(wǎng)絡安全保護提出了更高的要求;另一方面,人工智能技術也可增強網(wǎng)絡安全人員能力,提升網(wǎng)絡防御效果。

    2.1.1 人工智能對網(wǎng)絡安全威脅引發(fā)關注

    人工智能技術提升網(wǎng)絡攻擊的效率和效果。由此,網(wǎng)絡攻擊將更加難以預警和防范,關鍵信息基礎設施面臨新的風險[29]。 全球多個國家的人工智能戰(zhàn)略已將基于人工智能的網(wǎng)絡攻擊性武器作為關注重點[30]。

    具體來說,人工智能的網(wǎng)絡安全風險存在于兩個方面:一是人工智能自身存在的安全問題;二是人工智能濫用引發(fā)的安全隱患。 在自身安全問題方面,人工智能的學習框架和組件存在安全漏洞風險,研究人員已發(fā)現(xiàn)TensorFlow、Caffe 等軟件框架及其依賴庫存在安全漏洞;人工智能還存在可靠性問題,開發(fā)和訓練造成的錯誤可能會導致人工智能決策失誤或意外故障;人工智能還會加大隱私泄露風險,臭名昭著的劍橋分析公司事件也證明了此點。 2018 年,劍橋分析公司被爆出利用Facebook 上8700 萬用戶隱私數(shù)據(jù),利用人工智能技術分析個人特質,為政客選舉提供幫助。 在人工智能濫用方面,“深度造假”可能擾亂社會秩序,人工智能技術被武器化則會加強和升級網(wǎng)絡攻擊,人工智能技術還能幫助黑客更方便地繞過安全工具、開展網(wǎng)絡犯罪活動。

    2.1.2 人工智能是當前網(wǎng)絡攻防發(fā)展的核心要素

    網(wǎng)絡安全監(jiān)測已經被證明是人工智能在網(wǎng)絡安全領域的最有效應用,利用機器學習算法可以提升網(wǎng)絡威脅檢測能力。 此外,人工智能還促進了自主、智能安全系統(tǒng)的發(fā)展,使得系統(tǒng)能夠通過機器學習,在無人工干預的情況下通過自行學習,不斷自我改進,完善自身安全系統(tǒng)[31]。

    人工智能在網(wǎng)絡安全方面的應用在不斷得到重視,網(wǎng)絡安全防護應用已經成為其中的重點方向。 根據(jù) MarketsandMarkets 公司的人工智能網(wǎng)絡安全預測報告,到2026 年,人工智能網(wǎng)絡安全市場規(guī)模預計將從2019 年的88 億美元增長到382 億美元,年復合增長率高達23.3%[32]。 2019年7 月,美國聯(lián)合人工智能中心招標尋求用于網(wǎng)絡和信息戰(zhàn)的人工智能技術工具,資助自主網(wǎng)絡防御、用戶活動監(jiān)控和歸因、社交媒體和暗網(wǎng)分析、網(wǎng)絡映射、自主軟件開發(fā),以及數(shù)據(jù)工程6 類技術[33]。 美國國防高級研究計劃局也宣布發(fā)展第三代人工智能技術,計劃在2018—2022 年共計投入20 億美元,包括研發(fā)應用于網(wǎng)絡安全的人工智能技術。 例如社會工程主動防御項目利用機器學習技術訓練智能機器人,從而自動識別攻擊者并對其進行主動攻擊。 人機探索軟件安全項目將人類專家的經驗與計算機的高效優(yōu)勢結合起來,開發(fā)人機協(xié)同的推理軟件,從而更加高效地發(fā)現(xiàn)漏洞等[34]。

    2.2 5G 安全備受關注

    5G 有望成為對實現(xiàn)下一次工業(yè)革命起到關鍵作用的革新性技術,因而毋庸置疑成為了大國博弈的重要籌碼。 與此同時,5G 的安全問題得到了越來越多的關注。

    2.2.1 5G 成為大國博弈的重要籌碼

    5G 技術有望為經濟發(fā)展和國家競爭力帶來巨大助力,甚至5G 技術生態(tài)可以對國家安全產生重要影響。 正因為如此,2018 年中美貿易摩擦以來,美國政府一直不遺余力地打擊包括華為在內的中國高科技企業(yè)。 寄希望于對華為公司的制裁,謀求贏得5G 競爭優(yōu)勢。

    2019 年,美國開始了全球的“反華為”大巡游,試圖拉攏和脅迫其盟國和伙伴國禁止中國制造商進入市場。 2019 年4 月,美國國防創(chuàng)新委員會發(fā)布報告《5G 生態(tài)系統(tǒng):對美國國防部的風險與機遇》強調,如果中國在5G 基礎設施和系統(tǒng)領域處于領先地位,中國制造的網(wǎng)絡設備將會嵌入到國防部網(wǎng)絡中,給美國帶來嚴重的潛在風險[35]。 德國、英國等國家紛紛開展聽證、調研等,對5G 與國家安全,尤其是5G 供應鏈安全進行了研究。 由此可見,5G 的競爭已經超出了技術競爭的范疇,而是逐漸演變成了一場大國博弈,是受到地緣政治壓力的博弈。

    2.2.2 5G 面臨嚴峻的安全風險

    截至2019 年6 月,全球已有31 個國家宣布部署了5G 商用網(wǎng)絡。 在5G 計劃搶先實現(xiàn)的欣喜之余,5G 的安全風險也得到了越來越多的關注。 政府機構、安全公司、5G 廠商、學術智庫等紛紛發(fā)表了諸多對5G 安全問題的看法。 2019 年7月,歐盟已有24 個成員國根據(jù)歐盟委員會的建議完成了5G 網(wǎng)絡安全國家風險評估。 11 月,歐盟網(wǎng)絡信息安全局發(fā)布5G 威脅圖景報告,評估了與5G 網(wǎng)絡相關的威脅[36]。

    總體來說,5G 面臨著新的安全挑戰(zhàn),需要新的網(wǎng)絡安全方法。 首先,從自身架構方面來說,5G 采用的是基于分布式的軟件定義網(wǎng)絡,而非傳統(tǒng)的集中式、基于硬件的網(wǎng)絡架構,這就使得網(wǎng)絡漏洞變得更加復雜。 其次,5G 還面臨更龐大、復雜的應用場景,5G 帶寬的急劇擴張為黑客創(chuàng)造了額外的攻擊途徑,連接到5G 網(wǎng)絡中的大量物聯(lián)網(wǎng)設備很可能帶來安全漏洞[37]。 最后,5G 安全標準化尚未完全完成,這也給5G 安全帶來了諸多不確定因素。

    2.3 區(qū)塊鏈潛力與風險并存

    區(qū)塊鏈是分布式數(shù)據(jù)存儲、點對點傳輸、共識機制、加密算法等計算機技術的新型應用模式。區(qū)塊鏈具備高度安全性,在網(wǎng)絡安全保障領域有著廣闊的應用前景。 不過,區(qū)塊鏈研究目前仍處于初期階段,存在著不少機制上的缺陷,在面臨各種新興復雜應用場景時很容易出現(xiàn)安全風險。

    2.3.1 區(qū)塊鏈在網(wǎng)絡安全保障領域應用前景廣闊

    區(qū)塊鏈具有去中心化、匿名性、數(shù)據(jù)不可篡改等特性,使其在網(wǎng)絡安全保障方面有著廣闊的應用前景。 美國早在2017 年就在《2018 年國防授權法案》中專門責令國防部牽頭研究區(qū)塊鏈技術在網(wǎng)絡空間應用上的問題,包括區(qū)塊鏈技術潛在的網(wǎng)絡攻防應用,評估應用此類技術的進展,評估區(qū)塊鏈應用于聯(lián)邦政府和關鍵基礎設施,評估關鍵基礎設施受網(wǎng)絡攻擊的脆弱性及區(qū)塊鏈的作用。

    區(qū)塊鏈可以保障國家關鍵基礎設施的網(wǎng)絡安全。 首先,區(qū)塊鏈的去中心化特點使得數(shù)據(jù)篡改難度變高,即使某個數(shù)據(jù)中心遭到打擊,其余部分也不受影響;其次,區(qū)塊鏈會永久記錄系統(tǒng)/平臺的動態(tài),任何非法更改幾乎可以被系統(tǒng)立即檢測到,因而可以有效防止黑客入侵,也便于對網(wǎng)絡攻擊進行歸因分析。

    區(qū)塊鏈能夠助力社會誠信體系建設。 區(qū)塊鏈的高度安全特性,能夠實現(xiàn)機器代替第三方機構授信,從而助力社會誠信體系的建設。 歐洲委員會一直致力于對區(qū)塊鏈相關的概念證明、試點研究等,并于2019 年8 月宣布投入1.8 億歐元用于支持區(qū)塊鏈的研究和創(chuàng)新,其中不乏將區(qū)塊鏈技術應用于健康醫(yī)療、教育、電子身份認證等領域保障其數(shù)據(jù)安全性的項目。 美國國土安全部也于2019 年9 月宣布投資14.3 萬美元開發(fā)區(qū)塊鏈安全技術,以打擊偽造和假冒產品[38]。

    區(qū)塊鏈能夠保障安全可靠通信。 區(qū)塊鏈的分布式特性可以構建廣域覆蓋、容災性強、安全性高的通信系統(tǒng),實現(xiàn)任意時刻、任意地點的安全通信。 這一技術不僅能夠保障重要政府機構內部通信,還可以應用于戰(zhàn)場。 2019 年5 月,美國陸軍空間與地面通信局發(fā)布招標,尋求利用機器學習和區(qū)塊鏈技術確保地面和衛(wèi)星網(wǎng)絡信息傳輸安全性[39]。

    2.3.2 區(qū)塊鏈安全風險不容忽視

    2019 年,基于區(qū)塊鏈數(shù)字資產引發(fā)的區(qū)塊鏈安全問題總體呈上升趨勢,各種原因導致的安全事件也顯著增加,數(shù)字貨幣犯罪五花八門,洗錢、詐騙、盜竊、販毒、挖礦犯罪等案件頻發(fā)。

    區(qū)塊鏈的安全性包括系統(tǒng)安全和信息安全兩個方面。 區(qū)塊鏈的系統(tǒng)安全與其整體架構密切相關。 區(qū)塊鏈架構由下而上可分為六層:數(shù)據(jù)層、網(wǎng)絡層、共識層、激勵層、合約層和應用層。 對區(qū)塊鏈系統(tǒng)的攻擊往往集中在成本相對較低的合約層和應用層。 智能合約是合約層的核心,由于缺乏統(tǒng)一的編寫規(guī)范,極易成為被攻擊的對象。 應用層為用戶提供各類應用服務,涉及數(shù)字錢包、業(yè)務平臺和管理平臺等方面的安全,容易因私鑰管理不當、邏輯漏洞、病毒植入、權限管理等帶來重大安全威脅。 區(qū)塊鏈的信息安全的核心是確保系統(tǒng)中用戶的各種隱私得到有效保護。 現(xiàn)有的公有鏈系統(tǒng)中,隱私問題是一個重要挑戰(zhàn),以比特幣為例,盡管地址是匿名的,但是在與其他實體的交互過程中容易被反匿名,從而導致用戶交易記錄的隱私泄露[40]。 因此,應加快密碼算法、安全協(xié)議、可信身份協(xié)同管理、數(shù)字隱私保護等關鍵技術的研發(fā),確保區(qū)塊鏈能夠更好更安全的發(fā)展。

    3 總結

    不同于其他技術領域,網(wǎng)絡空間領域的態(tài)勢一方面受到政策和事件的驅動和反饋,另一方面受到技術發(fā)展的促進和牽制。 因此,本文從宏觀政策層面和技術研發(fā)層面兩個層面總結了2019年的網(wǎng)絡空間態(tài)勢。

    從政策和事件層面來看,2019 年網(wǎng)絡空間對抗態(tài)勢持續(xù)升級,具體表現(xiàn)為三點。 一是,網(wǎng)絡空間已經成為了新的戰(zhàn)場:已有超過30 個國家宣布成立軍事網(wǎng)絡部門,并不斷加強網(wǎng)絡空間的進攻型布局和技術演練積累;美國更是宣布對主權國家發(fā)動網(wǎng)絡攻擊,并率先打造交付“網(wǎng)絡航空母艦”。 二是,網(wǎng)絡空間的“巴爾干化”初見端倪:2019 年,俄羅斯主動進行“斷網(wǎng)”測試試圖擺脫美國的網(wǎng)絡霸權,各國也在歐盟GDPR 頒布后紛紛建立數(shù)據(jù)護欄,全球數(shù)據(jù)保護進入“管得更寬”的時代。 三是,深度造假等技術在獲得了人工智能技術的助力后不斷發(fā)酵,信息操縱時代已成必然:信息操縱帶來的影響正在逐步擴大,也受到了各國政府、領域專家等的密切關注。

    從技術研發(fā)層面來看,人工智能、5G 和區(qū)塊鏈技術迅猛發(fā)展,所帶來的網(wǎng)絡安全風險也日益凸顯,網(wǎng)絡安全領域的研發(fā)也呈現(xiàn)出新的趨勢,具體表現(xiàn)為三點。 一是,人工智能成為網(wǎng)信安全新前沿,成為了國家安全戰(zhàn)略的要點;二是,5G 發(fā)展迅速,成為大國博弈的重要籌碼,其網(wǎng)絡安全風險也受到了各方的關注;三是,區(qū)塊鏈發(fā)展還處于初期階段,但已經顯現(xiàn)出在網(wǎng)絡安全保障上的巨大潛力,不過區(qū)塊鏈安全性還面臨諸多挑戰(zhàn),近年來安全事件頻發(fā),亟待解決其中的關鍵技術問題。

    總體來說,網(wǎng)絡空間的烏托邦時代已經結束,未來網(wǎng)絡空間的競爭只會更加激烈,其輻射的范圍、影響的領域也會愈加廣泛和深入,全球正處于大變局之時,而網(wǎng)絡空間崛起是全球大變局的重要驅動力。 因此,中國必須抓住這一歷史機遇,加強網(wǎng)絡強國建設。 為了實現(xiàn)網(wǎng)絡強國的建設目標,首先需要堅定不移地以技術立根本,開展戰(zhàn)略性、新興信息技術的研發(fā),掌握核心技術,匯聚網(wǎng)絡人才;其次,力爭主導和推動關鍵技術的研發(fā)和國際標準制定工作,搶占技術制高點;再次,積極倡導和推動網(wǎng)絡空間國際共識的建立,向世界各國貢獻互聯(lián)網(wǎng)治理的中國理念、中國方案、中國智慧;最后,加強網(wǎng)絡空間文化建設,晴朗網(wǎng)絡空間,以文化自信推動網(wǎng)絡文化生態(tài)建設。

    猜你喜歡
    網(wǎng)絡空間區(qū)塊網(wǎng)絡安全
    區(qū)塊鏈:一個改變未來的幽靈
    科學(2020年5期)2020-11-26 08:19:12
    共建誠實守信網(wǎng)絡空間
    公民與法治(2020年4期)2020-05-30 12:31:20
    區(qū)塊鏈:主要角色和衍生應用
    科學(2020年6期)2020-02-06 08:59:56
    網(wǎng)絡安全
    網(wǎng)絡安全人才培養(yǎng)應“實戰(zhàn)化”
    網(wǎng)絡空間并非“烏托邦”
    傳媒評論(2018年8期)2018-11-10 05:22:26
    上網(wǎng)時如何注意網(wǎng)絡安全?
    區(qū)塊鏈+媒體業(yè)的N種可能
    傳媒評論(2018年4期)2018-06-27 08:20:12
    讀懂區(qū)塊鏈
    網(wǎng)絡空間安全人才培養(yǎng)探討
    国产人伦9x9x在线观看| 少妇粗大呻吟视频| 男人添女人高潮全过程视频| 性高湖久久久久久久久免费观看| 十八禁人妻一区二区| 亚洲国产av影院在线观看| 成人国语在线视频| 丁香六月欧美| 久久久久网色| 精品人妻1区二区| 亚洲av美国av| 在线观看免费日韩欧美大片| 中文精品一卡2卡3卡4更新| 91精品国产国语对白视频| 一二三四在线观看免费中文在| 午夜免费成人在线视频| 国产av精品麻豆| 亚洲精品日韩在线中文字幕| 精品国产一区二区久久| 真人做人爱边吃奶动态| 国产成人欧美| 美女高潮喷水抽搐中文字幕| 色精品久久人妻99蜜桃| 国产精品欧美亚洲77777| netflix在线观看网站| 丰满饥渴人妻一区二区三| 精品一区二区三卡| 岛国毛片在线播放| 欧美成狂野欧美在线观看| 大码成人一级视频| 无限看片的www在线观看| 午夜视频精品福利| 欧美激情极品国产一区二区三区| 午夜精品久久久久久毛片777| 国产片内射在线| 亚洲va日本ⅴa欧美va伊人久久 | 少妇精品久久久久久久| 啦啦啦免费观看视频1| 亚洲性夜色夜夜综合| 国产精品一区二区在线观看99| 欧美精品一区二区免费开放| 精品第一国产精品| 9热在线视频观看99| 巨乳人妻的诱惑在线观看| 90打野战视频偷拍视频| 三级毛片av免费| 精品少妇久久久久久888优播| 国产在视频线精品| 亚洲三区欧美一区| 国产精品国产av在线观看| 大陆偷拍与自拍| 免费观看a级毛片全部| 久久午夜综合久久蜜桃| 国产日韩欧美视频二区| 免费少妇av软件| 国产一区二区激情短视频 | 欧美 日韩 精品 国产| 蜜桃在线观看..| 亚洲国产欧美一区二区综合| 久久久国产一区二区| 精品久久久精品久久久| 99国产极品粉嫩在线观看| 国产精品九九99| 99精品久久久久人妻精品| 人人澡人人妻人| 亚洲成人免费电影在线观看| 欧美黑人欧美精品刺激| 热99re8久久精品国产| 中文字幕高清在线视频| 搡老岳熟女国产| 国产精品九九99| 最黄视频免费看| 久久人人97超碰香蕉20202| a级片在线免费高清观看视频| 亚洲av欧美aⅴ国产| 777米奇影视久久| 女人爽到高潮嗷嗷叫在线视频| 日韩制服丝袜自拍偷拍| 男女之事视频高清在线观看| 国产成人啪精品午夜网站| 亚洲伊人色综图| 人人妻人人爽人人添夜夜欢视频| 中文欧美无线码| 免费av中文字幕在线| 老熟妇乱子伦视频在线观看 | 色精品久久人妻99蜜桃| 人人妻人人添人人爽欧美一区卜| 999久久久国产精品视频| 大香蕉久久网| 免费在线观看黄色视频的| 亚洲色图综合在线观看| 99国产极品粉嫩在线观看| 国产男女超爽视频在线观看| 久久久久视频综合| 日韩 亚洲 欧美在线| 精品人妻在线不人妻| 美女大奶头黄色视频| 国产激情久久老熟女| 老司机亚洲免费影院| videos熟女内射| 亚洲精品美女久久久久99蜜臀| 伊人亚洲综合成人网| 日本一区二区免费在线视频| 热re99久久国产66热| 妹子高潮喷水视频| 在线精品无人区一区二区三| 后天国语完整版免费观看| tocl精华| 中文字幕色久视频| 欧美黑人精品巨大| 国产亚洲欧美在线一区二区| 天天操日日干夜夜撸| 欧美人与性动交α欧美精品济南到| 777米奇影视久久| 黑人操中国人逼视频| 建设人人有责人人尽责人人享有的| www日本在线高清视频| 女性被躁到高潮视频| 热99国产精品久久久久久7| 日韩中文字幕欧美一区二区| 两个人免费观看高清视频| 91精品三级在线观看| 免费看十八禁软件| 国产成人啪精品午夜网站| 一本大道久久a久久精品| 乱人伦中国视频| 国产欧美亚洲国产| 一进一出抽搐动态| 国产99久久九九免费精品| 国产精品一二三区在线看| 12—13女人毛片做爰片一| 亚洲精品久久成人aⅴ小说| 欧美xxⅹ黑人| 两人在一起打扑克的视频| 国产免费视频播放在线视频| 曰老女人黄片| 美女国产高潮福利片在线看| 精品第一国产精品| 免费一级毛片在线播放高清视频 | 91精品伊人久久大香线蕉| netflix在线观看网站| 免费日韩欧美在线观看| 久热爱精品视频在线9| 老熟妇仑乱视频hdxx| 啦啦啦免费观看视频1| 天天影视国产精品| 他把我摸到了高潮在线观看 | 日本91视频免费播放| 啦啦啦免费观看视频1| 国产三级黄色录像| 亚洲av日韩在线播放| 成人黄色视频免费在线看| 免费av中文字幕在线| 亚洲欧美一区二区三区久久| 巨乳人妻的诱惑在线观看| 亚洲精华国产精华精| 高清av免费在线| 中国国产av一级| 热re99久久精品国产66热6| 蜜桃在线观看..| 啪啪无遮挡十八禁网站| 成人18禁高潮啪啪吃奶动态图| 女人被躁到高潮嗷嗷叫费观| 午夜免费观看性视频| 日韩欧美免费精品| 亚洲精品国产一区二区精华液| 欧美精品啪啪一区二区三区 | 欧美精品人与动牲交sv欧美| 一本—道久久a久久精品蜜桃钙片| 啦啦啦在线免费观看视频4| 国产一级毛片在线| 天堂中文最新版在线下载| 少妇的丰满在线观看| 99久久99久久久精品蜜桃| 悠悠久久av| 人妻一区二区av| 亚洲色图 男人天堂 中文字幕| 国产高清国产精品国产三级| 国产深夜福利视频在线观看| 香蕉丝袜av| 久久久久国产一级毛片高清牌| 一本大道久久a久久精品| 国产亚洲av片在线观看秒播厂| 国产在线视频一区二区| 成年女人毛片免费观看观看9 | 久久国产精品大桥未久av| 中文字幕人妻熟女乱码| 99九九在线精品视频| 99久久人妻综合| 成人亚洲精品一区在线观看| 男人操女人黄网站| 高潮久久久久久久久久久不卡| 国产精品一二三区在线看| 另类亚洲欧美激情| 免费观看a级毛片全部| 国产亚洲午夜精品一区二区久久| 超碰97精品在线观看| 日本撒尿小便嘘嘘汇集6| 国产精品欧美亚洲77777| 亚洲欧美精品综合一区二区三区| 亚洲国产精品成人久久小说| 伊人久久大香线蕉亚洲五| 久久精品国产亚洲av香蕉五月 | 黄色视频不卡| 黑丝袜美女国产一区| 丝袜美腿诱惑在线| 嫁个100分男人电影在线观看| 18禁裸乳无遮挡动漫免费视频| 丝袜美足系列| 不卡一级毛片| 久久毛片免费看一区二区三区| 久久中文字幕一级| 免费观看a级毛片全部| 国产高清国产精品国产三级| 国产成+人综合+亚洲专区| 青春草亚洲视频在线观看| 亚洲国产欧美网| 国产视频一区二区在线看| 午夜免费成人在线视频| 亚洲国产精品999| 国产一区二区激情短视频 | 黑人猛操日本美女一级片| av在线播放精品| www日本在线高清视频| 老司机靠b影院| 80岁老熟妇乱子伦牲交| 91精品三级在线观看| 久久人妻福利社区极品人妻图片| 天天操日日干夜夜撸| 亚洲国产av新网站| 精品久久蜜臀av无| 色视频在线一区二区三区| 精品久久久精品久久久| 老司机在亚洲福利影院| 999久久久精品免费观看国产| 国产精品影院久久| 精品亚洲成国产av| 亚洲国产看品久久| 啦啦啦 在线观看视频| 99国产综合亚洲精品| 欧美在线一区亚洲| 国产极品粉嫩免费观看在线| 精品久久蜜臀av无| 亚洲欧美清纯卡通| 老司机靠b影院| 女人久久www免费人成看片| 久久人人97超碰香蕉20202| 一区福利在线观看| 精品人妻熟女毛片av久久网站| 久久久水蜜桃国产精品网| 午夜福利在线观看吧| 欧美中文综合在线视频| 99国产精品99久久久久| 热re99久久精品国产66热6| 考比视频在线观看| 亚洲九九香蕉| 十分钟在线观看高清视频www| 日日摸夜夜添夜夜添小说| 免费在线观看视频国产中文字幕亚洲 | 国产淫语在线视频| 黄片小视频在线播放| cao死你这个sao货| 精品国产乱码久久久久久小说| 婷婷丁香在线五月| 亚洲欧美一区二区三区久久| 激情视频va一区二区三区| 国产精品久久久av美女十八| 国产精品久久久久久人妻精品电影 | 亚洲天堂av无毛| 少妇猛男粗大的猛烈进出视频| 国产精品久久久人人做人人爽| 日韩有码中文字幕| 五月天丁香电影| 亚洲精品国产精品久久久不卡| 两人在一起打扑克的视频| 亚洲精品一卡2卡三卡4卡5卡 | 亚洲天堂av无毛| 亚洲国产精品成人久久小说| 亚洲av日韩精品久久久久久密| 欧美黄色淫秽网站| 九色亚洲精品在线播放| 欧美日韩亚洲综合一区二区三区_| 99热国产这里只有精品6| 中文字幕精品免费在线观看视频| 午夜福利一区二区在线看| 女人精品久久久久毛片| 不卡一级毛片| 在线天堂中文资源库| 亚洲伊人久久精品综合| 亚洲一区中文字幕在线| av欧美777| 这个男人来自地球电影免费观看| 欧美日韩国产mv在线观看视频| 99精品欧美一区二区三区四区| 日本撒尿小便嘘嘘汇集6| 亚洲精品国产区一区二| 在线看a的网站| 91大片在线观看| 精品一区二区三卡| 久久久精品国产亚洲av高清涩受| 侵犯人妻中文字幕一二三四区| 中文字幕另类日韩欧美亚洲嫩草| 黄片播放在线免费| av欧美777| 亚洲av男天堂| 飞空精品影院首页| 纵有疾风起免费观看全集完整版| 人妻人人澡人人爽人人| 亚洲精品美女久久av网站| 黄色片一级片一级黄色片| 久久国产精品影院| 男女之事视频高清在线观看| 亚洲欧洲精品一区二区精品久久久| 一个人免费看片子| 99热国产这里只有精品6| 99久久99久久久精品蜜桃| 人妻 亚洲 视频| 亚洲人成电影免费在线| 精品高清国产在线一区| 在线精品无人区一区二区三| 国产亚洲午夜精品一区二区久久| 嫩草影视91久久| 欧美日韩成人在线一区二区| 国产精品熟女久久久久浪| 人人妻人人澡人人爽人人夜夜| 熟女少妇亚洲综合色aaa.| 欧美日韩亚洲高清精品| 中文欧美无线码| 欧美性长视频在线观看| 精品国产乱码久久久久久男人| 久久热在线av| 国产成人系列免费观看| 老司机午夜十八禁免费视频| 老汉色∧v一级毛片| 久久久久久久久久久久大奶| 午夜91福利影院| 亚洲国产精品999| 国产精品欧美亚洲77777| 黑人巨大精品欧美一区二区蜜桃| 久久精品亚洲av国产电影网| 欧美成人午夜精品| 男女下面插进去视频免费观看| av国产精品久久久久影院| 国产日韩欧美亚洲二区| 操出白浆在线播放| 99热全是精品| 国产成人精品无人区| 亚洲欧美清纯卡通| 性高湖久久久久久久久免费观看| 啦啦啦视频在线资源免费观看| 精品人妻在线不人妻| 熟女少妇亚洲综合色aaa.| 欧美av亚洲av综合av国产av| 桃花免费在线播放| 老熟妇乱子伦视频在线观看 | 熟女少妇亚洲综合色aaa.| av在线老鸭窝| av福利片在线| 亚洲欧美激情在线| 久久久久国内视频| 老司机影院成人| 免费观看人在逋| 日本av手机在线免费观看| 欧美激情 高清一区二区三区| 久久久久国产一级毛片高清牌| 三上悠亚av全集在线观看| 成人手机av| a级毛片黄视频| 一个人免费在线观看的高清视频 | 免费黄频网站在线观看国产| 俄罗斯特黄特色一大片| 99久久综合免费| 一本一本久久a久久精品综合妖精| 少妇的丰满在线观看| 精品亚洲成a人片在线观看| 亚洲色图 男人天堂 中文字幕| 国产精品99久久99久久久不卡| 51午夜福利影视在线观看| 日日摸夜夜添夜夜添小说| 宅男免费午夜| 9色porny在线观看| 国产av一区二区精品久久| 桃花免费在线播放| av在线app专区| 男人操女人黄网站| 少妇粗大呻吟视频| 亚洲美女黄色视频免费看| 大片免费播放器 马上看| 亚洲中文av在线| 亚洲国产精品一区三区| 在线精品无人区一区二区三| 久久午夜综合久久蜜桃| 91麻豆精品激情在线观看国产 | 精品卡一卡二卡四卡免费| 亚洲精品粉嫩美女一区| 久久人人爽av亚洲精品天堂| 国产不卡av网站在线观看| 正在播放国产对白刺激| av欧美777| 99香蕉大伊视频| 国产一级毛片在线| 欧美日韩成人在线一区二区| av不卡在线播放| 久久国产精品大桥未久av| 脱女人内裤的视频| 99国产精品免费福利视频| 伦理电影免费视频| 成年动漫av网址| 18禁裸乳无遮挡动漫免费视频| 嫩草影视91久久| 国产熟女午夜一区二区三区| 午夜视频精品福利| 成人黄色视频免费在线看| 国产成人欧美| 欧美精品一区二区免费开放| 飞空精品影院首页| 欧美精品一区二区免费开放| 久久久久久久大尺度免费视频| 国产成人影院久久av| 欧美人与性动交α欧美软件| 99re6热这里在线精品视频| 欧美日韩福利视频一区二区| 韩国高清视频一区二区三区| 99精国产麻豆久久婷婷| av不卡在线播放| 99国产精品一区二区蜜桃av | 中文精品一卡2卡3卡4更新| 亚洲伊人色综图| 国产97色在线日韩免费| 国产精品影院久久| 久久久久久亚洲精品国产蜜桃av| 乱人伦中国视频| 亚洲av男天堂| 99国产极品粉嫩在线观看| 欧美人与性动交α欧美精品济南到| 精品国产超薄肉色丝袜足j| 男女边摸边吃奶| 亚洲五月色婷婷综合| 国产精品久久久久久人妻精品电影 | 国产成人免费无遮挡视频| 国产伦理片在线播放av一区| 午夜久久久在线观看| 精品一区二区三卡| 少妇的丰满在线观看| 精品亚洲乱码少妇综合久久| av又黄又爽大尺度在线免费看| 精品亚洲成国产av| 久久久国产一区二区| 国产在线观看jvid| 国产成人啪精品午夜网站| 999精品在线视频| 亚洲欧美一区二区三区黑人| 国产精品久久久久成人av| 男女免费视频国产| 不卡av一区二区三区| 69av精品久久久久久 | 亚洲五月色婷婷综合| 一级片免费观看大全| 国产精品久久久久成人av| 精品福利永久在线观看| 午夜激情av网站| 久久精品成人免费网站| 少妇 在线观看| 91av网站免费观看| av电影中文网址| 久久国产精品大桥未久av| 欧美性长视频在线观看| 肉色欧美久久久久久久蜜桃| 亚洲精品一卡2卡三卡4卡5卡 | 一本色道久久久久久精品综合| 午夜精品国产一区二区电影| 18禁裸乳无遮挡动漫免费视频| 国产亚洲av片在线观看秒播厂| 一级片'在线观看视频| 在线观看一区二区三区激情| √禁漫天堂资源中文www| 男人舔女人的私密视频| 欧美日韩视频精品一区| 韩国精品一区二区三区| 99香蕉大伊视频| 久久精品国产a三级三级三级| 欧美日韩一级在线毛片| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲国产欧美在线一区| 在线永久观看黄色视频| av片东京热男人的天堂| 动漫黄色视频在线观看| 国产极品粉嫩免费观看在线| 97精品久久久久久久久久精品| 日韩人妻精品一区2区三区| 一级黄色大片毛片| 美女大奶头黄色视频| 国产亚洲精品一区二区www | 人妻 亚洲 视频| 国产成人av激情在线播放| 在线永久观看黄色视频| 一级毛片女人18水好多| 国产一区二区三区综合在线观看| 日本av手机在线免费观看| 成在线人永久免费视频| 在线观看舔阴道视频| 欧美精品一区二区大全| 国产精品久久久久久精品电影小说| 亚洲精品久久久久久婷婷小说| 亚洲专区国产一区二区| 91av网站免费观看| 高清欧美精品videossex| 精品福利永久在线观看| 亚洲精品一卡2卡三卡4卡5卡 | 大片免费播放器 马上看| 免费在线观看黄色视频的| 在线亚洲精品国产二区图片欧美| 亚洲国产欧美在线一区| 亚洲成av片中文字幕在线观看| 啦啦啦视频在线资源免费观看| 美女脱内裤让男人舔精品视频| 中文字幕精品免费在线观看视频| 亚洲精品中文字幕一二三四区 | 免费在线观看黄色视频的| 久久久国产欧美日韩av| 亚洲精品日韩在线中文字幕| 久久久久久人人人人人| 视频区图区小说| 免费少妇av软件| 亚洲免费av在线视频| 久久精品亚洲熟妇少妇任你| 青春草视频在线免费观看| 国产高清videossex| 精品少妇一区二区三区视频日本电影| 一进一出抽搐动态| 极品少妇高潮喷水抽搐| 久久影院123| 欧美午夜高清在线| 国产精品一区二区免费欧美 | 国产成人影院久久av| 欧美+亚洲+日韩+国产| 久久九九热精品免费| 亚洲精品中文字幕在线视频| 国产极品粉嫩免费观看在线| 丝袜喷水一区| 丰满迷人的少妇在线观看| www.999成人在线观看| 国产免费一区二区三区四区乱码| 亚洲成av片中文字幕在线观看| 18禁裸乳无遮挡动漫免费视频| 国产一区有黄有色的免费视频| 黑人猛操日本美女一级片| 欧美97在线视频| 窝窝影院91人妻| 亚洲人成77777在线视频| 亚洲精品一卡2卡三卡4卡5卡 | 黄片播放在线免费| 一个人免费在线观看的高清视频 | 欧美激情 高清一区二区三区| 热re99久久国产66热| 精品国产一区二区三区久久久樱花| 国产亚洲av高清不卡| 99香蕉大伊视频| 在线观看免费视频网站a站| 成人18禁高潮啪啪吃奶动态图| 香蕉丝袜av| 国产老妇伦熟女老妇高清| 别揉我奶头~嗯~啊~动态视频 | 最黄视频免费看| tube8黄色片| 久久久久精品国产欧美久久久 | 三上悠亚av全集在线观看| 欧美日韩亚洲国产一区二区在线观看 | 国产成人系列免费观看| 亚洲国产中文字幕在线视频| 欧美激情极品国产一区二区三区| 一本久久精品| 麻豆国产av国片精品| 欧美日韩亚洲高清精品| 夫妻午夜视频| 免费少妇av软件| 老司机午夜福利在线观看视频 | 中国国产av一级| 汤姆久久久久久久影院中文字幕| 视频区欧美日本亚洲| 19禁男女啪啪无遮挡网站| 久9热在线精品视频| 黄色怎么调成土黄色| 波多野结衣av一区二区av| 欧美在线一区亚洲| 久久ye,这里只有精品| av线在线观看网站| 国产一区二区三区在线臀色熟女 | 久久中文看片网| 亚洲精品久久久久久婷婷小说| 亚洲欧美日韩高清在线视频 | e午夜精品久久久久久久| 一二三四在线观看免费中文在| 亚洲精品美女久久av网站| 国产不卡av网站在线观看| 中文欧美无线码| 一本综合久久免费| 99re6热这里在线精品视频| 老司机午夜十八禁免费视频| 一区二区三区四区激情视频| 天天躁狠狠躁夜夜躁狠狠躁| 男人操女人黄网站| 国产视频一区二区在线看| 亚洲精品一二三| 欧美黄色淫秽网站| 啦啦啦啦在线视频资源| 精品人妻1区二区| 国产日韩欧美视频二区| 久久精品国产a三级三级三级| av超薄肉色丝袜交足视频| 中文字幕精品免费在线观看视频| 国产91精品成人一区二区三区 | 侵犯人妻中文字幕一二三四区| 国产欧美亚洲国产| 国产男女内射视频|