• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    網(wǎng)絡(luò)空間安全困境及治理機制構(gòu)建*

    2018-11-17 17:14:39魯傳穎
    現(xiàn)代國際關(guān)系 2018年11期
    關(guān)鍵詞:網(wǎng)絡(luò)空間網(wǎng)絡(luò)安全國家

    魯傳穎

    [內(nèi)容提要] “斯諾登事件”對網(wǎng)絡(luò)空間發(fā)展進程的最大影響就是加速了各國在網(wǎng)絡(luò)安全領(lǐng)域的博弈,引發(fā)了網(wǎng)絡(luò)軍備競賽,促使現(xiàn)階段網(wǎng)絡(luò)空間發(fā)展在一定程度上陷入安全困境。但客觀來看,該事件雖然起到“催化劑”的作用,但網(wǎng)絡(luò)空間安全困境背后更加深層次的原因在于網(wǎng)絡(luò)技術(shù)的歸因難、防御難等特點,網(wǎng)絡(luò)產(chǎn)品與服務(wù)的軍民兩用性,以及國家與社會應(yīng)用的廣泛性和重要性。對于網(wǎng)絡(luò)安全困境的研究不應(yīng)只限于國際政治博弈層面,需要從技術(shù)、商業(yè)和政治等多個層次的邏輯進行分析,并在不同層次的議題中構(gòu)建有針對性的治理機制。

    2013年6月發(fā)生的“斯諾登事件”是國際網(wǎng)絡(luò)安全發(fā)展史上的一個重要里程碑,它拉開了網(wǎng)絡(luò)空間情報化和軍事化的大幕,改變了網(wǎng)絡(luò)安全發(fā)展進程,同時也引發(fā)了全球性的網(wǎng)絡(luò)安全危機。①魯傳穎:“試析當前網(wǎng)絡(luò)空間全球治理困境”,《現(xiàn)代國際關(guān)系》,2013年第9期,第44~47頁。此后,各國政府加強了在網(wǎng)絡(luò)空間的能力建設(shè)與戰(zhàn)略博弈,對自身安全的關(guān)切遠超以合作謀求共同安全的訴求,致使網(wǎng)絡(luò)空間國際治理機制面臨失靈,導(dǎo)致國際網(wǎng)絡(luò)安全陷入困境。②Ben Buchanan, The Cybersecurity Dilemma: Hacking, Trust and Fear Between Nations, London: Oxford University Press, 2017, pp. 10-15.這背后更深層次的原因是網(wǎng)絡(luò)安全技術(shù)、商業(yè)和政治安全邏輯在共同起作用,只有通過對這些不同層面影響因素的深入分析,并有針對性地構(gòu)建治理機制,才能探索擺脫困境的解決之道。

    一、國際網(wǎng)絡(luò)安全困境加劇

    “斯諾登事件”加劇了國際網(wǎng)絡(luò)安全形勢的惡化,網(wǎng)絡(luò)領(lǐng)域中國家間的沖突此起彼伏,網(wǎng)絡(luò)軍備競賽一觸即發(fā)。與此同時,相應(yīng)的網(wǎng)絡(luò)空間治理機制陷入困境,現(xiàn)有的國際安全架構(gòu)難以應(yīng)對網(wǎng)絡(luò)安全挑戰(zhàn),陷入了一種安全困境。從現(xiàn)象上來看,這種安全困境主要由三重困境疊加組成:一是國際網(wǎng)絡(luò)安全內(nèi)涵演變引發(fā)的大國在網(wǎng)絡(luò)安全領(lǐng)域的博弈;二是失靈的網(wǎng)絡(luò)空間國際治理機制無法應(yīng)對危機管控和沖突升級;三是國際網(wǎng)絡(luò)安全特性引發(fā)大國在網(wǎng)絡(luò)空間開展的低烈度對抗。戰(zhàn)略博弈、制度困境和沖突對抗這三重困境之間相互作用,最終導(dǎo)致了網(wǎng)絡(luò)安全陷入安全困境。

    第一,大國戰(zhàn)略博弈態(tài)勢加劇。網(wǎng)絡(luò)安全的定義在“斯諾登事件”之后發(fā)生了根本性變化,從原本的網(wǎng)絡(luò)安全(network security)、信息安全(information security)等拓展為網(wǎng)絡(luò)空間安全(cyber security),各國政府普遍將網(wǎng)絡(luò)安全上升到綜合安全(comprehensive security)層面。在此之前,國際社會對于網(wǎng)絡(luò)安全的認知更多停留在網(wǎng)絡(luò)犯罪、計算機網(wǎng)絡(luò)安全和信息安全層面?!八怪Z登事件”引發(fā)了國際社會對網(wǎng)絡(luò)安全的大討論, 逐漸改變了國際社會對網(wǎng)絡(luò)安全的認知。[注]Joseph Nye Jr.,“Deterrence and Dissuasion in Cyberspace,” International Security, Vol.41, No.3, 2017, pp. 44-71.網(wǎng)絡(luò)安全的內(nèi)涵不斷被擴充,大數(shù)據(jù)與國家安全、網(wǎng)絡(luò)意識形態(tài)安全、網(wǎng)絡(luò)戰(zhàn)爭、個人信息安全等新型的安全問題不斷涌現(xiàn)在國際網(wǎng)絡(luò)安全議程中。網(wǎng)絡(luò)安全概念內(nèi)涵和外延的拓展充分表明網(wǎng)絡(luò)安全與政治、經(jīng)濟、文化、社會、軍事等領(lǐng)域的安全交融度不斷深化。中國政府發(fā)布的《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》從網(wǎng)絡(luò)滲透危害政治安全、網(wǎng)絡(luò)攻擊威脅經(jīng)濟安全、網(wǎng)絡(luò)有害信息侵蝕文化安全、網(wǎng)絡(luò)恐怖和違法犯罪破壞社會安全、網(wǎng)絡(luò)空間的國際競爭方興未艾等五個大的方面,對幾十種網(wǎng)絡(luò)安全威脅做了定義和描述。[注]國家互聯(lián)網(wǎng)信息辦公室:《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》,2016年12月27日,http://www.cac.gov.cn/2016-12/27/c_1120195926.htm.(上網(wǎng)時間:2018年10月15日)從某種意義上講,網(wǎng)絡(luò)安全不僅僅是總體國家安全觀的一個組成部分,它更進一步豐富了總體國家安全觀的內(nèi)涵,使其變得更加立體化。[注]總體國家安全觀是由中國國家領(lǐng)導(dǎo)人在2014年4月15日在“中央國家安全委員會第一次全體會議上”提出,包括11個安全領(lǐng)域。網(wǎng)絡(luò)安全的發(fā)展使得信息安全內(nèi)涵更加豐富,與其他十個安全領(lǐng)域的關(guān)系密切相關(guān),形成一種總體安全觀處于頂層,其他十個安全領(lǐng)域處于中間,底層是分別與十個安全領(lǐng)域相連接的網(wǎng)絡(luò)安全這樣一個立體的安全觀。

    另一方面,隨著全球信息化和智能化程度的不斷增加,國家經(jīng)濟、金融、能源、交通運營所依賴的關(guān)鍵基礎(chǔ)設(shè)施數(shù)量和重要性不斷上升。在這一大的趨勢下,網(wǎng)絡(luò)安全成為事關(guān)政治、經(jīng)濟、文化、社會、軍事等領(lǐng)域新的風險點,面對日益復(fù)雜的網(wǎng)絡(luò)安全環(huán)境,國家傾向于提升網(wǎng)絡(luò)能力來應(yīng)對新任務(wù)、新挑戰(zhàn),包括軍事、情報、執(zhí)法和行政等領(lǐng)域的網(wǎng)絡(luò)力量發(fā)展成為支撐國家戰(zhàn)略和應(yīng)對網(wǎng)絡(luò)危機的重要手段。同時,網(wǎng)絡(luò)安全成為大國戰(zhàn)略競爭的重點領(lǐng)域。各主要大國紛紛將網(wǎng)絡(luò)安全提升到戰(zhàn)略層面。包括美國、中國、俄羅斯等在內(nèi)的主要大國紛紛出臺網(wǎng)絡(luò)空間安全戰(zhàn)略,重組網(wǎng)絡(luò)安全治理架構(gòu),提升網(wǎng)絡(luò)安全在國家議程中的重要性。美國政府早在2009年就制定了《網(wǎng)絡(luò)安全政策評估》戰(zhàn)略,將網(wǎng)絡(luò)空間定義為繼陸地、海洋、太空、外太空之外的第五戰(zhàn)略空間。[注]The White House, “Cyberspace Policy Review: Assuring A Trusted and Resilient Information and Communications Infrastructure,” http://www.whitehouse.gov/assets/documents/Cyberspace_Policy_Review_final.pdf. (上網(wǎng)時間:2018年7月7日)中國政府在《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》中指出,“網(wǎng)絡(luò)空間安全事關(guān)人類共同利益,事關(guān)世界和平與發(fā)展,事關(guān)各國國家安全”。[注]國家互聯(lián)網(wǎng)信息辦公室:《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》,2016年12月27日。俄羅斯明確提出要加強網(wǎng)絡(luò)空間的軍事力量。2016年版本的《信息安全學(xué)說》指出,信息領(lǐng)域在保障實現(xiàn)俄羅斯聯(lián)邦的國家優(yōu)先發(fā)展戰(zhàn)略中起到重要的作用。[注]班婕、魯傳穎:“從‘聯(lián)邦政府信息安全學(xué)說’看俄羅斯網(wǎng)絡(luò)空間戰(zhàn)略的調(diào)整”,《信息安全與通信保密》,2017年第2期,第81頁。

    大國在網(wǎng)絡(luò)空間之中的競爭導(dǎo)致了兩種不同的戰(zhàn)略選擇,一種是以美國及其部分盟友為代表,超越“防御”,積極發(fā)展進攻性網(wǎng)絡(luò)力量,并開展網(wǎng)絡(luò)威懾戰(zhàn)略的行動,追求網(wǎng)絡(luò)領(lǐng)域的絕對安全?!八怪Z登事件”后,美國不僅沒有放緩網(wǎng)絡(luò)情報能力的構(gòu)建,相反還進一步推動進攻性網(wǎng)絡(luò)作戰(zhàn)力量的建設(shè)。特朗普政府從機制上將網(wǎng)絡(luò)司令部提升為戰(zhàn)略作戰(zhàn)司令部,在制度上廢除了奧巴馬政府制定的旨在約束網(wǎng)絡(luò)行動的“第20號總統(tǒng)行政指令”,并高調(diào)宣布在阿富汗和伊拉克戰(zhàn)場中開展進攻性網(wǎng)絡(luò)行動,這些舉動進一步加速了網(wǎng)絡(luò)安全向軍備競賽方向的發(fā)展。[注]Joseph Nye Jr., “Deterrence and Dissuasion in Cyberspace,” pp. 44-71.另一種是以中國和俄羅斯為代表的,以積極防御來維護網(wǎng)絡(luò)空間安全的戰(zhàn)略。中國政府在《網(wǎng)絡(luò)空間國際合作戰(zhàn)略》中指出,“網(wǎng)絡(luò)空間國防力量建設(shè)是中國國防和軍隊現(xiàn)代化建設(shè)的重要內(nèi)容,遵循一貫的積極防御軍事戰(zhàn)略方針。中國將發(fā)揮軍隊在維護國家網(wǎng)絡(luò)空間主權(quán)、安全和發(fā)展利益中的重要作用,加快網(wǎng)絡(luò)空間力量建設(shè),提高網(wǎng)絡(luò)空間態(tài)勢感知、網(wǎng)絡(luò)防御、支援國家網(wǎng)絡(luò)空間行動和參與國際合作的能力,遏控網(wǎng)絡(luò)空間重大危機,保障國家網(wǎng)絡(luò)安全,維護國家安全和社會穩(wěn)定?!盵注]中華人民共和國外交部、國家互聯(lián)網(wǎng)信息辦公室:《網(wǎng)絡(luò)空間國際合作戰(zhàn)略》,2017年3月1日,http://news.xinhuanet.com/politics/2017-03/01/c_1120552767.htm.(上網(wǎng)時間:2018年7月7日)俄羅斯在《信息安全學(xué)說》中指出,要在“戰(zhàn)略上抑制和防止那些由于使用信息技術(shù)而產(chǎn)生的軍事沖突。同時,完善俄羅斯聯(lián)邦武裝力量、其他軍隊、軍隊單位、機構(gòu)的信息安全保障體系,其中包括信息斗爭力量和手段”。[注]班婕、魯傳穎:“從‘聯(lián)邦政府信息安全學(xué)說’看俄羅斯網(wǎng)絡(luò)空間戰(zhàn)略的調(diào)整”,第81頁。據(jù)統(tǒng)計已經(jīng)有100多個國家開始建立網(wǎng)絡(luò)作戰(zhàn)力量,軍事安全已經(jīng)成為網(wǎng)絡(luò)空間治理中的重要議題。

    第二,國際機制構(gòu)建對抗性突出。網(wǎng)絡(luò)安全概念的演進和國家戰(zhàn)略博弈的加劇對國際網(wǎng)絡(luò)安全治理機制構(gòu)建帶來了新的挑戰(zhàn)?!八怪Z登事件”后,國際社會曾短暫地試圖在網(wǎng)絡(luò)空間國際規(guī)則領(lǐng)域達成共識。2014年巴西召開了多利益攸關(guān)方大會(NetMundial),共同商討應(yīng)對大規(guī)模網(wǎng)絡(luò)監(jiān)聽、進攻性網(wǎng)絡(luò)空間行動等國際治理機制。2014~2015年聯(lián)合國信息安全政府專家組(UNGGE)就負責任國家行為準則、國際法在網(wǎng)絡(luò)空間的適用和建立信任措施等網(wǎng)絡(luò)規(guī)范達成共識。[注]United Nations, Group of Governmental Experts on Developments in the Field of Information and Telecommunications in the Context of International Security, UN General Assembly Document A/70/174, July 22, 2015.然而,不久后多利益相關(guān)方大會就銷聲匿跡,2016~2017年的專家組由于各方在國家責任、反措施等方面的分歧最終未能發(fā)表共識報告,國際社會在構(gòu)建網(wǎng)絡(luò)安全國際治理機制上的努力陷入停滯。[注]美、俄兩國專家組代表在會后發(fā)布的官方聲明指出阻礙專家組達成共識的主要原因。參見Michele G. Markoff, “Explanation of Position at the Conclusion of the 2016-2017 UN Group of Governmental Experts (GGE) on Developments in the Field of Information and Telecommunications in the Context of International Security,” https://www.state.gov/s/cyberissues/releasesandremarks/272175.htm;“Response of the Special Representative of the President of the Russian Federation for International Cooperation on Information Security Andrey Krutskikh to TASS’ Question Concerning the State of International Dialogue in This Sphere,” http://www.mid.ru/en/foreign_policy/news/-/asset_publisher/cKNonkJE02Bw/content/id/2804288.(上網(wǎng)時間:2018年10月15日)

    此外,治理機制構(gòu)建的困境還體現(xiàn)在現(xiàn)有的規(guī)范未被認真落實。例如,在2015年信息安全政府專家組報告中提出,“各國就不攻擊他國的關(guān)鍵基礎(chǔ)設(shè)施達成共識。”但是類似于烏克蘭電廠遭受攻擊的事件卻一再發(fā)生。報告還提到,“國家在使用信息技術(shù)時應(yīng)遵守國家主權(quán)平等,以和平手段解決爭端和不干涉內(nèi)政的原則?!痹趯嶋H中,很多國家的網(wǎng)絡(luò)主權(quán)屢屢被破壞,干涉他國內(nèi)政的情況屢有發(fā)生。特別是在處理網(wǎng)絡(luò)沖突時,經(jīng)常采取單邊制裁的方式而非通過和平手段。[注]United Nations, Group of Governmental Experts on Developments in the Field of Information and Telecommunications in the Context of International Security, UN General Assembly Document A/70/174, July 22, 2015.

    國家之間的博弈是國際治理機制失靈的主要因素之一。這種博弈體現(xiàn)在不同陣營所支持的治理理念和政策上的分歧。發(fā)展中國家強調(diào)網(wǎng)絡(luò)主權(quán),堅持政府在網(wǎng)絡(luò)空間治理的主要作用,以及聯(lián)合國在國際規(guī)則制定中的主要地位。發(fā)達國家則強調(diào)網(wǎng)絡(luò)自由,主張多利益攸關(guān)方治理模式,質(zhì)疑聯(lián)合國平臺在網(wǎng)絡(luò)安全治理領(lǐng)域的有效性。隨著網(wǎng)絡(luò)空間國際規(guī)則制定進程不斷深入,發(fā)展中國家與發(fā)達國家之間的分歧也越來越難以在短期內(nèi)彌合。這種陣營化的趨勢又反過來加劇了發(fā)達國家和發(fā)展中國家在國際治理機制上的對抗。如美國與西方國家通過七國集團平臺推廣所謂“理念一致”國家同盟(Like-Minded States),“金磚國家”和上合組織則成為發(fā)展中國家推廣治理理念和政策的主要平臺。

    治理機制失靈不僅使得國際層面的網(wǎng)絡(luò)危機管控和爭端解決等相關(guān)機制處于空白狀態(tài),也對一些重要的雙邊對話合作產(chǎn)生很大影響。如美俄網(wǎng)絡(luò)工作組在“斯諾登事件”后中斷工作,并且短期內(nèi)難以恢復(fù)。中美網(wǎng)絡(luò)安全工作組一度因為起訴中國軍人事件而中斷,雖然在中美兩國領(lǐng)導(dǎo)人共同推動下,建立了中美打擊網(wǎng)絡(luò)犯罪及相關(guān)事項高級別聯(lián)合對話機制,后升級為中美執(zhí)法與網(wǎng)絡(luò)安全對話,但對話機制主要聚焦在打擊網(wǎng)絡(luò)犯罪領(lǐng)域,不涉及到網(wǎng)絡(luò)軍事與規(guī)則制定等議題。[注]The White House, “Fact Sheet: President Xi Jinping’s State Visit to the United States,” https://www.whitehouse.gov/the-press-office/2015/09/25/fact-sheet-president-xi-jinpings-state-visit-united-states.(上網(wǎng)時間:2018年10月15日)因此,在缺乏危機管控和爭端解決機制情況下,各國在網(wǎng)絡(luò)領(lǐng)域的沖突易于升級,并且容易鼓勵采取單邊行動來進行反制,從而加劇了網(wǎng)絡(luò)安全困境。

    第三,低烈度沖突呈現(xiàn)常態(tài)化。在現(xiàn)有技術(shù)條件下,網(wǎng)絡(luò)攻擊相較于現(xiàn)實世界戰(zhàn)爭行為,具有暴力程度低、致命程度弱等特點。在軍事學(xué)當中,暴力是指對人體的生理和心理所帶來的傷害,人體是暴力的第一目標。網(wǎng)絡(luò)武器和網(wǎng)絡(luò)攻擊的特性決定了其暴力程度遠遠低于傳統(tǒng)武器和戰(zhàn)爭。其一,網(wǎng)絡(luò)武器不像傳統(tǒng)武器那樣以直接殺傷人體為目標;其二,網(wǎng)絡(luò)武器由于不直接攻擊人體,因此很難對個人精神產(chǎn)生物理性傷害;其三,網(wǎng)絡(luò)武器缺乏實體武器的象征屬性,其隱蔽性和非展示性對抗使其與實戰(zhàn)中的戰(zhàn)機、炮彈等武器大有不同。[注][英]托馬斯·里德著、徐龍第譯:《網(wǎng)絡(luò)戰(zhàn)爭:不會發(fā)生》,人民出版社,2017年,第58頁。因此,多數(shù)的網(wǎng)絡(luò)行動被認為低于戰(zhàn)爭門檻,是一種低烈度的沖突。因此,國家開展網(wǎng)絡(luò)行動也許會危害其他國家的國家安全,但由于沒有達到觸發(fā)戰(zhàn)爭的狀態(tài),現(xiàn)有國際法難以對此做出有效約束和規(guī)范。因此,雖然各方對網(wǎng)絡(luò)戰(zhàn)的定義、內(nèi)涵和影響還缺乏明確的共識,但在實踐中網(wǎng)絡(luò)戰(zhàn)被認為是一種新型的特殊的作戰(zhàn)方式。

    網(wǎng)絡(luò)攻擊低暴力性和行動隱蔽性的特點使得各種形式的網(wǎng)絡(luò)行動更加頻繁,也引發(fā)了越來越多的網(wǎng)絡(luò)沖突。無論是“棱鏡計劃”,還是“震網(wǎng)病毒”“索尼影業(yè)”“黑客干預(yù)大選”等事件都表明,國家在網(wǎng)絡(luò)空間中的行動越來越頻繁,手段、目標和動機也越來越多元,引發(fā)的沖突也愈發(fā)激烈。這一類網(wǎng)絡(luò)行動并沒有達到引發(fā)戰(zhàn)爭的程度,低于國際法所規(guī)定的戰(zhàn)爭門檻,但是沖突的形式又比純粹的信號情報收集(signal intelligence)要激烈很多。因此,一些學(xué)者將這些網(wǎng)絡(luò)行動界定為低烈度的網(wǎng)絡(luò)沖突。[注]Trey Herr and Drew Herrick, “Understanding Military Cyber Operation” in Richard Harrison and Trey Herr eds.,Cyber Insecurity, Maryland: Rowman & Littlefield, 2016, p.216.表面上看,低烈度的網(wǎng)絡(luò)沖突并不會對各國國家安全以及國際安全造成嚴重后果,但是高頻度的低烈度沖突會產(chǎn)生從量變到質(zhì)變的結(jié)果,最終在某一個觸發(fā)點突破紅線,從而引發(fā)激烈沖突危害國際安全。[注]Brandon Valeriano and Ryan C. Maness, Cyber War Versus Cyber Realities: Cyber Conflict in the International System, London: Oxford University Press, 2015, pp.20-23.如美國對于“黑客干預(yù)大選”所采取的激烈制裁手段表明,美國正在改變原先對于網(wǎng)絡(luò)行動的認知,采取所謂的跨域制裁方式,對俄羅斯的實體和個人進行制裁,并且從外交上向俄羅斯施加壓力,驅(qū)逐俄羅斯駐美外交官員,關(guān)閉其領(lǐng)事場所。這樣低烈度的網(wǎng)絡(luò)沖突應(yīng)當是網(wǎng)絡(luò)空間國際治理規(guī)則重點關(guān)注的領(lǐng)域。

    二、安全困境加劇的原因

    大國博弈、國際治理機制失靈和低烈度網(wǎng)絡(luò)沖突不斷等現(xiàn)象與國際網(wǎng)絡(luò)安全困境之間互為因果,相互作用,形成了一個看似難以解決的系統(tǒng)性安全困境。要解開困局,就需要對現(xiàn)象背后的原因作進一步的深入分析。對網(wǎng)絡(luò)安全的技術(shù)特點,網(wǎng)絡(luò)產(chǎn)品和服務(wù)的屬性展開研究,并在此基礎(chǔ)上之上進一步分析國際網(wǎng)絡(luò)安全的政治邏輯。

    第一,網(wǎng)絡(luò)的技術(shù)安全邏輯。技術(shù)一直是國際關(guān)系研究中的重要變量,科學(xué)技術(shù)的進步曾多次直接或間接地推動了國際關(guān)系的變革。從技術(shù)層面看,網(wǎng)絡(luò)天然具有匿名性、開放性、不安全性等特點。匿名性、開放性與互聯(lián)網(wǎng)架構(gòu)有關(guān),匿名性主要是指互聯(lián)網(wǎng)用戶的身份保持匿名,并且可以通過加密和代理等手段規(guī)避溯源;開放性是指全球的互聯(lián)網(wǎng)通過統(tǒng)一的標準協(xié)議體系進行連接,接入互聯(lián)網(wǎng)的設(shè)備互聯(lián)互通;不安全性是指任何設(shè)備和系統(tǒng)都是由人設(shè)計,理論上說任何設(shè)備和系統(tǒng)中都存在著不同程度的錯誤,這些錯誤有可能被開發(fā)為漏洞從而被攻擊。網(wǎng)絡(luò)安全原本是指對計算機系統(tǒng)和設(shè)備的機密性(confidentiality)、完整性(integrity)和可獲得性(availability)的破壞與防護。因此,各國的網(wǎng)絡(luò)安全戰(zhàn)略的兩個重要目標是對網(wǎng)絡(luò)數(shù)據(jù)和關(guān)鍵基礎(chǔ)設(shè)施的保護。網(wǎng)絡(luò)的技術(shù)特點導(dǎo)致了網(wǎng)絡(luò)整體溯源難和防御難,由此形成的邏輯是網(wǎng)絡(luò)安全有利于進攻方,理性的決策者會傾向于采取加強能力建設(shè)和資源投入的方式來保衛(wèi)自身安全和獲取戰(zhàn)略競爭優(yōu)勢。這一技術(shù)邏輯對相關(guān)國家網(wǎng)絡(luò)安全的戰(zhàn)略選擇和國際治理均產(chǎn)生直接影響。

    網(wǎng)絡(luò)技術(shù)的開放性和匿名性增加了溯源的難度?,F(xiàn)有的網(wǎng)絡(luò)安全調(diào)查取證技術(shù)難以查出高級持續(xù)性威脅(APT)真實的攻擊者,難以對攻擊者進行懲罰。溯源既是國際網(wǎng)絡(luò)安全領(lǐng)域的核心技術(shù),也是最具爭議的領(lǐng)域。溯源旨在鎖定攻擊源頭,從而為判定國際網(wǎng)絡(luò)安全事件的性質(zhì)、采取法律應(yīng)對措施提供基本判斷條件。[注]Martin Libicki,Cyberdeterrence and Cyberwar, Santa Monica: RAND Corporation, 2009.由于網(wǎng)絡(luò)的匿名性和開放性,加上各種隱藏身份的技術(shù),攻擊者往往會對自己的行為和身份進行偽裝,增加溯源的難度。在已發(fā)生的眾多網(wǎng)絡(luò)安全事件中,幾乎都無法提供有力的證據(jù)來證明攻擊源頭。因此,國際社會難以在攻擊者與被攻擊者之間表明立場,并采取行動來懲罰攻擊者。以“震網(wǎng)”事件為例,事件發(fā)生多年后才由于媒體的曝光為世人所知。開發(fā)病毒的美國與以色列情報機構(gòu)對此未置可否?!罢鹁W(wǎng)”病毒及其變體后來也先后感染了全球多家發(fā)電廠,成為危害國家關(guān)鍵基礎(chǔ)設(shè)施的重要威脅。盡管如此,沒有任何機制能夠促使國際社會對媒體曝光的始作俑者進行譴責或者制裁。[注]“Obama Ordered Wave of Cyber-attacks against Iran,” The New York Times, June 1, 2012, http://www.nytimes.com/2012/06/01/world/middleeast/obama-ordered-wave-of-cyberattacks-against-iran.html. (上網(wǎng)時間:2018年6月9日)烏克蘭電廠被攻擊,愛沙尼亞銀行系統(tǒng)被攻擊等類似事件仍然頻發(fā)于國際性的網(wǎng)絡(luò)安全事件中,進一步降低了國際社會對網(wǎng)絡(luò)安全的信心。

    從理論上而言網(wǎng)絡(luò)安全漏洞是廣泛存在。無論是連網(wǎng)的設(shè)備還是組成系統(tǒng)的代碼主要都是通過人來編寫。因此,錯誤是無法避免的,缺陷與生俱來,任何一種設(shè)備都無法做到絕對的安全,所有的連網(wǎng)設(shè)備都可能成為網(wǎng)絡(luò)攻擊的目標。特別是在信息化滲透度不斷增加的情況下,國家面臨著保護越來越多的關(guān)鍵基礎(chǔ)設(shè)施這一重任。實際情況是,漏洞廣泛存在于關(guān)鍵基礎(chǔ)設(shè)施的系統(tǒng)當中,并且這些關(guān)鍵基礎(chǔ)設(shè)施分散在不同的行業(yè)和企業(yè)中,政府對其進行保護的成本和壓力極為巨大。例如,美國將關(guān)鍵基礎(chǔ)設(shè)施分為17類,但其數(shù)量從未對外公布。若對其關(guān)鍵基礎(chǔ)設(shè)施進行全面保護,所需耗費的人力、物力、財力之大可想而知,特別是很多關(guān)鍵基礎(chǔ)設(shè)施的運營者是企業(yè),企業(yè)擁有的資源有限,安全投入亦相對有限,在很多情況下也不愿意向外透露自己被網(wǎng)絡(luò)攻擊的信息。這種情況下,對于攻擊者而言,這種攻擊目標的廣泛性和保護的非全面性給予其大量的攻擊機會。同時,網(wǎng)絡(luò)的匿名性導(dǎo)致的“敵明我暗”的網(wǎng)絡(luò)空間存在方式增加了主動防御的難度。

    第二,商業(yè)安全邏輯。商業(yè)是推動國際體系演變的重要動力。從國際安全的角度來看,商業(yè)和貿(mào)易是重要影響因素之一,如瓦森納協(xié)議對于高科技出口的管制就是通過商貿(mào)來影響國際安全的重要機制。從國際網(wǎng)絡(luò)安全角度來看,由于網(wǎng)絡(luò)技術(shù)、產(chǎn)品和服務(wù)為軍民兩用程度越來越高,國家安全和政治正在逐步改變商業(yè)安全的邏輯,引起了關(guān)于“技術(shù)民族主義”的討論。因此商業(yè)安全邏輯是導(dǎo)致國際網(wǎng)絡(luò)安全困境的重要因素,只有認清其問題本質(zhì),并從供應(yīng)鏈安全角度開展相應(yīng)的國際治理工作才能有效緩解網(wǎng)絡(luò)空間的困境。

    從國際網(wǎng)絡(luò)安全視角來看,網(wǎng)絡(luò)產(chǎn)品的軍民兩用性開始逐步改變傳統(tǒng)的商業(yè)邏輯基于競爭、開放和合作等理念。在網(wǎng)絡(luò)領(lǐng)域,技術(shù)、產(chǎn)品和服務(wù)的軍民兩用性表現(xiàn)的更加明顯,對傳統(tǒng)商業(yè)邏輯的影響也更大?!八怪Z登事件”就揭露出包括微軟、谷歌、推特、臉譜、亞馬遜等互聯(lián)網(wǎng)企業(yè)與美國國家全局合作,在消費者和他國不知情的情況下向美國政府情報機構(gòu)提供海量用戶信息。[注]“NSA Prism Program Taps in to User Data of Apple, Google and others,” The Guardian, June 7, 2013, http://www.theguardian.com/world/2013/jun/06/us-tech-giants-nsa-data.(上網(wǎng)時間:2018年7月2日)不僅如此,包括美國國家安全局、網(wǎng)絡(luò)戰(zhàn)司令部在內(nèi)的網(wǎng)絡(luò)軍事、情報機構(gòu)都試圖通過發(fā)現(xiàn)大型互聯(lián)網(wǎng)企業(yè)服務(wù)與產(chǎn)品中存在的漏洞將其開發(fā)為網(wǎng)絡(luò)行動的武器。因此,網(wǎng)絡(luò)攻擊的對象不再是軍事網(wǎng)絡(luò)和政府網(wǎng)絡(luò),民用關(guān)鍵基礎(chǔ)設(shè)施也不可避免地成為攻擊對象。

    從網(wǎng)絡(luò)產(chǎn)品和服務(wù)的軍民兩用性來看,大型互聯(lián)網(wǎng)企業(yè)的商業(yè)活動難以保持商業(yè)中立。軍事和安全部門也需要使用先進的互聯(lián)網(wǎng)產(chǎn)品和服務(wù)來提升能力,如美國亞馬遜公司就向美國多個軍事和情報機構(gòu)提供的云服務(wù)平臺,增加美軍的信息化水平。[注]“Amazon Collects Another US Intelligence Contract: Top Secret Military Computing,” The Sputnik News, June 1, 2018,https://sputniknews.com/military/201806011065023768-amazon-collects-another-us-intelligence-contract/.(上網(wǎng)時間:2018年7月2日)這種情況下,各國政府對于境外互聯(lián)網(wǎng)企業(yè)提供的產(chǎn)品與服務(wù)缺乏信任。這會促使各國政府更加傾向于使用來自本國的企業(yè)所提供的設(shè)備和服務(wù),以確保這些外國互聯(lián)網(wǎng)企業(yè)不會與他國政府共謀危害本國網(wǎng)絡(luò)安全。各國政府開始重新審視以美國企業(yè)為代表的跨國企業(yè)在境內(nèi)商業(yè)活動的目的,普遍加強了對其他國家互聯(lián)網(wǎng)企業(yè)的產(chǎn)品和服務(wù)的安全審查工作。另一方面,網(wǎng)絡(luò)產(chǎn)品和服務(wù)的軍民兩用性也容易引起國家尋求對技術(shù)的壟斷,從而破壞全球創(chuàng)新生態(tài)。美國政府近來通過擴大外國投資審查委員會(CFIUS)的權(quán)力,在芯片、人工智能等領(lǐng)域?qū)εc中國相關(guān)的投資、人員交流、科技合作等方面作出進一步限制。[注]The White House, “Remarks by President Trump at A Roundtable on The Foreign Investment Risk Review Modernization Act,” https://www.whitehouse.gov/briefings-statements/remarks-president-trump-roundtable-foreign-investment-risk-review-modernization-act-firrma/.(上網(wǎng)時間:2018年10月5日)這種做法無疑會提高創(chuàng)新成本,阻礙技術(shù)的發(fā)展,破壞全球創(chuàng)新體系。

    第三,國際政治安全邏輯。冷戰(zhàn)之后,國際政治安全主要是在權(quán)力政治與相互依賴兩種理念之間博弈,在大國關(guān)系領(lǐng)域既有權(quán)力政治的博弈也有經(jīng)濟相互依賴的合作。[注]羅伯特·基歐、漢約瑟夫·奈著,門洪華譯:《權(quán)力與相互依賴》,北京大學(xué)出版社,2012年。網(wǎng)絡(luò)空間作為新疆域,規(guī)則體系尚未建立,維護安全主要取決于國家能力,這導(dǎo)致政治安全邏輯的天平更加偏向了權(quán)力政治的一端。[注]楊劍:《數(shù)字邊疆的權(quán)力與財富》,上海人民出版社,2012年,第67~88頁。國際網(wǎng)絡(luò)安全具有進攻和防御的兩面性,從進攻角度而言,網(wǎng)絡(luò)安全為國家謀取安全優(yōu)勢打下基礎(chǔ),國家實力既是維護網(wǎng)絡(luò)安全的必要條件,也是謀取更為廣泛的安全優(yōu)勢的支柱。由此衍生出了霸權(quán)思想、絕對安全、單邊主義、先發(fā)制人等權(quán)力政治的政治安全邏輯在網(wǎng)絡(luò)空間逐漸流行。從防御角度講,網(wǎng)絡(luò)安全的威脅具有普遍性、跨國界等特點,客觀上需要各國之間加強合作,共同應(yīng)對威脅挑戰(zhàn)。自由主義的相互依賴、集體安全、多邊合作等理念是解決網(wǎng)絡(luò)安全困境的重要方面。而“斯諾登事件”后,國家將關(guān)注的焦點聚焦在安全威脅上,由此導(dǎo)致現(xiàn)實主義的政治安全邏輯相較于自由主義更加受歡迎,推動了國際網(wǎng)絡(luò)安全走向戰(zhàn)略博弈、軍備競賽的方向。

    國家還面臨著網(wǎng)絡(luò)安全作為一種非傳統(tǒng)安全所帶來的挑戰(zhàn)。從傳統(tǒng)安全角度看,安全主要是國家層面的事,實力是決定安全的最重要因素。由此可見,在軍事戰(zhàn)略、作戰(zhàn)、科技等領(lǐng)域領(lǐng)先其他國家,就一定會比其他國家更加安全。但是網(wǎng)絡(luò)安全作為一種非傳統(tǒng)安全,網(wǎng)絡(luò)安全與信息化程度之間呈現(xiàn)負相關(guān),信息化程度越高,往往意味著依賴度更高,隨之產(chǎn)生更大的“脆弱性”,面臨的威脅也越多。盡管先進國家投入了大量的資源來維護網(wǎng)絡(luò)安全,但由于連接到互聯(lián)網(wǎng)中的設(shè)備多、關(guān)鍵基礎(chǔ)設(shè)施多,其所面臨的網(wǎng)絡(luò)安全風險并未下降,甚至還在不斷上升。這使得政府難以對自身的網(wǎng)絡(luò)安全防御擁有足夠信心,安全的威脅會持續(xù)存在。這些網(wǎng)絡(luò)安全特點演變出的國際政治安全邏輯導(dǎo)致了各國在網(wǎng)絡(luò)安全政策上的不透明,缺乏必要的接觸,難以開展合作。

    三、構(gòu)建國際網(wǎng)絡(luò)安全的治理機制

    國際網(wǎng)絡(luò)安全困境是由不同層次因素共同影響的結(jié)果,當前國際治理工作主要集中在國際政治博弈領(lǐng)域,未能觸及導(dǎo)致困境的根本原因。今后國際網(wǎng)絡(luò)安全的治理工作應(yīng)重點針對技術(shù)、商業(yè)和政治安全等領(lǐng)域存在的問題加強治理機制的構(gòu)建,從多邊和雙邊等多種渠道加強合作,從而系統(tǒng)解決網(wǎng)絡(luò)空間國際治理中的安全困境。

    第一,溯源與防御的治理。從網(wǎng)絡(luò)安全技術(shù)邏輯看,需解決溯源難和防御難的問題。溯源問題之所以關(guān)鍵,是因為它涉及到責任歸屬問題。由于缺乏客觀中立的國際組織來對相應(yīng)的網(wǎng)絡(luò)安全事件進行調(diào)查,絕大多數(shù)涉及到國家的網(wǎng)絡(luò)攻擊最后都不了了之,這種現(xiàn)象會鼓勵更多的網(wǎng)絡(luò)攻擊發(fā)生,擾亂國際網(wǎng)絡(luò)安全秩序。有學(xué)者認為,應(yīng)當在聯(lián)合國層面建立相應(yīng)的機構(gòu),專門就網(wǎng)絡(luò)攻擊的溯源問題開展工作,在網(wǎng)絡(luò)攻擊發(fā)生后開展相應(yīng)的調(diào)查,一旦這樣的國際機構(gòu)成立,必將對攻擊者產(chǎn)生極大的震懾作用,從而遏制網(wǎng)絡(luò)攻擊高發(fā)的態(tài)勢。當前要做到這一點還存在一定的難度,主要原因是少數(shù)大國壟斷了溯源技術(shù),既不愿意與其他國家進行分享,也不愿意協(xié)助聯(lián)合國層面開展溯源的能力建設(shè)。[注]Scott Warren and Martin Libicki, Getting to Yes with China in Cyberspace, California: RAND Corporation, 2016, p. 30.對此,國際社會應(yīng)當有明確的態(tài)度,克服少數(shù)國家的阻礙,支持聯(lián)合國在溯源方面開展相應(yīng)的工作。

    防御難的問題需要從建立完善的防御體系和更加安全的標準來提供解決方案。國際網(wǎng)絡(luò)安全的發(fā)展也適用于“木桶效應(yīng)”。[注]指在水桶中最短的那一塊板決定了整個水桶的能夠承載的水位,網(wǎng)絡(luò)安全中薄弱的環(huán)節(jié)和國家決定了國際網(wǎng)絡(luò)安全的整體水平。從產(chǎn)品層面來看,任何一個部件的短板都會影響整個產(chǎn)品的安全水平。因此,國際社會應(yīng)當提高網(wǎng)絡(luò)產(chǎn)品和服務(wù)的標準。從國家層面來看,防御性較弱的國家決定了整體的國際網(wǎng)絡(luò)安全水平。這是由于網(wǎng)絡(luò)安全具有跨國界性,防御性較弱的國家會成為網(wǎng)絡(luò)攻擊者。因此,解決網(wǎng)絡(luò)安全防御難的問題不僅僅取決于單個國家保護能力的提升,更加依賴于全球總體網(wǎng)絡(luò)安全防御能力的提升。應(yīng)該鼓勵各國建立更加完善的網(wǎng)絡(luò)安全保護體系,并且在關(guān)鍵基礎(chǔ)設(shè)施保護等方面開展合作。還需要將提升網(wǎng)絡(luò)安全的能力建設(shè)作為治理的重要工作,提升發(fā)展中國家網(wǎng)絡(luò)安全的保護水平。

    第二,供應(yīng)鏈安全的保障。網(wǎng)絡(luò)安全軍民兩用性對傳統(tǒng)商業(yè)邏輯的改變,正在引發(fā)對技術(shù)民族主義的擔憂,需要從源頭上解決國家安全的關(guān)切與正常商業(yè)邏輯的關(guān)系。這需要避免受到民族主義的影響,從更加專業(yè)的角度來探討對網(wǎng)絡(luò)技術(shù)軍民兩用性的國際治理,其中一個有益的視角就是從供應(yīng)鏈安全角度來切入。技術(shù)民族主義主要表現(xiàn)為:只信任本國生產(chǎn)的產(chǎn)品,以國家安全名義排除使用其他國家的產(chǎn)品;通過保護國家安全為由阻礙來自其他國家正常的投資活動;利用壟斷核心技術(shù)和產(chǎn)品的優(yōu)勢拒絕向他國出售相應(yīng)的技術(shù)和產(chǎn)品,以此來產(chǎn)生威懾效應(yīng)。目前,主要大國在網(wǎng)絡(luò)安全政策上都有一定的技術(shù)民族主義趨勢,美國特朗普政府尤為明顯。先是禁止聯(lián)邦政府使用俄羅斯卡巴斯基網(wǎng)絡(luò)安全軟件,后是針對中國加大了投資安全審查。

    技術(shù)民族主義會對國際貿(mào)易造成扭曲,有損貿(mào)易的公平原則。同時,技術(shù)民族主義認為本國的產(chǎn)品和服務(wù)一定會比國外的產(chǎn)品和服務(wù)安全,這也是一種經(jīng)不起推敲的安全觀。正常情況下,安全取決于產(chǎn)品的質(zhì)量和保障,而非生產(chǎn)者的國籍。只有在某些特定的情況下,才會出現(xiàn)危害國家安全的情況,如與一國的安全部門合作,刻意設(shè)置漏洞和后門來破壞其他國家的網(wǎng)絡(luò)安全。加強供應(yīng)鏈安全的國際治理工作是應(yīng)對軍民兩用問題的有效解決方案。一是國際社會應(yīng)當為網(wǎng)絡(luò)設(shè)備和產(chǎn)品提供更加安全的標準體系。二是各國政府應(yīng)該達成共識,不在民用網(wǎng)絡(luò)安全產(chǎn)品中植入后門與漏洞。美國微軟公司在“數(shù)字日內(nèi)瓦公約”中就倡議政府“不以科技公司、私營部門或關(guān)鍵基礎(chǔ)設(shè)施為攻擊目標”。[注]Kate Conger, “Microsoft Calls for Establishment of a Digital Geneva Convention,” Tech Crunch, February 14, 2017.三是國家應(yīng)當將重心放在網(wǎng)絡(luò)安全和服務(wù)的審查上,而非以破壞貿(mào)易規(guī)則的形式來拒絕國外的產(chǎn)品和投資。國家應(yīng)建立對網(wǎng)絡(luò)安全設(shè)備和服務(wù)進行安全審查的能力,這樣才能建立對產(chǎn)品和服務(wù)的信心,恢復(fù)對于企業(yè)信任的同時,對這些企業(yè)產(chǎn)生一定的震懾能力。如中國政府建立了《網(wǎng)絡(luò)產(chǎn)品和服務(wù)安全審查辦法》,以提高網(wǎng)絡(luò)產(chǎn)品和服務(wù)安全可控水平,防范網(wǎng)絡(luò)安全風險,維護國家安全。[注]國家互聯(lián)網(wǎng)信息辦公室:《網(wǎng)絡(luò)產(chǎn)品和服務(wù)安全審查辦法》,2017年5月2日,http://www.cac.gov.cn/2017-05/02/c_1120904567.htm.(上網(wǎng)時間:2018年7月2日)

    第三,信任措施的建立。要通過建立信任措施,改變政治安全邏輯發(fā)展方向。技術(shù)邏輯與商業(yè)邏輯層面的治理會降低國家對威脅的感知,有助于推動政治安全邏輯的天平從權(quán)力政治向相互依賴轉(zhuǎn)變。建立信任措施最初形成于冷戰(zhàn)時期的軍事聯(lián)盟之間,目前該措施已擴大至包括軍事和非軍事的其他領(lǐng)域。聯(lián)合國信息安全專家組一直將建立信任措施視為建立網(wǎng)絡(luò)規(guī)范的重要任務(wù)。國際網(wǎng)絡(luò)安全領(lǐng)域的建立信任措施包括穩(wěn)定、合作和透明度三個層面的措施。穩(wěn)定類的措施包括加強危機管控、沖突預(yù)防,建立熱線等機制;合作類的措施包括應(yīng)急響應(yīng)層面的數(shù)據(jù)和信息共享、網(wǎng)絡(luò)反恐、打擊網(wǎng)絡(luò)犯罪;透明度領(lǐng)域的措施包括網(wǎng)絡(luò)戰(zhàn)略、國防戰(zhàn)略、組織架構(gòu)、人員角色等信息。建立信任措施是各國分歧比較小的領(lǐng)域,難點在于如何落實。第四屆專家組(2014~2015年)在前期成果的基礎(chǔ)之上,提出了更高水平的建立信任措施,包括建立政策聯(lián)絡(luò)點、建立危機管控機制,分享有害信息和最佳實踐,并且在雙邊、區(qū)域和多邊層面建立技術(shù)、法律和外交合作機制,加強執(zhí)法合作,加強計算機應(yīng)急響應(yīng)機構(gòu)開展實質(zhì)性的協(xié)調(diào)、演習(xí)、最佳實踐等。[注]United Nations, Group of Governmental Experts on Developments in the Field of Information and Telecommunications in the Context of International Security, UN General Assembly Document A/70/174, July22, 2015.

    從當前網(wǎng)絡(luò)空間的安全現(xiàn)狀和面臨的風險挑戰(zhàn)來看,專家組提出的建立信任措施非常有針對性,有助于各國加強網(wǎng)絡(luò)安全合作,避免危機升級,共同維護網(wǎng)絡(luò)空間安全。但是各國是否能夠采納專家組的建議,還受到傳統(tǒng)的國家間關(guān)系影響。從大國之間建立信任措施的實際效果來看,美歐在建立信任措施領(lǐng)域取得的成果最為豐碩;中俄之間也建立了一定程度的信任措施;中美之間建立了執(zhí)法與網(wǎng)絡(luò)安全對話,也在個別領(lǐng)域建立起信任措施。美俄之間由于俄羅斯接納了斯諾登的避難請求而中斷了網(wǎng)絡(luò)安全工作組聯(lián)絡(luò),并且隨著“黑客干預(yù)大選”事件,雙方之間的已有信任措施已完全中斷,短期內(nèi)美俄網(wǎng)絡(luò)對話很難恢復(fù)。由此可見網(wǎng)絡(luò)空間信任措施建立難,消失卻很快。因此,從雙邊關(guān)系來看,如何建立較為長期、穩(wěn)定的信任措施應(yīng)是解決網(wǎng)絡(luò)安全困境的重點工作,各方需要在此問題上取得共識,克服困難共同推進。○

    猜你喜歡
    網(wǎng)絡(luò)空間網(wǎng)絡(luò)安全國家
    共建誠實守信網(wǎng)絡(luò)空間
    公民與法治(2020年4期)2020-05-30 12:31:20
    網(wǎng)絡(luò)安全
    網(wǎng)絡(luò)安全人才培養(yǎng)應(yīng)“實戰(zhàn)化”
    網(wǎng)絡(luò)空間并非“烏托邦”
    傳媒評論(2018年8期)2018-11-10 05:22:26
    上網(wǎng)時如何注意網(wǎng)絡(luò)安全?
    能過兩次新年的國家
    把國家“租”出去
    華人時刊(2017年23期)2017-04-18 11:56:38
    奧運會起源于哪個國家?
    網(wǎng)絡(luò)空間安全人才培養(yǎng)探討
    我國擬制定網(wǎng)絡(luò)安全法
    聲屏世界(2015年7期)2015-02-28 15:20:13
    亚洲色图 男人天堂 中文字幕| √禁漫天堂资源中文www| 人人妻人人添人人爽欧美一区卜| 中文亚洲av片在线观看爽 | 视频区欧美日本亚洲| 久久99一区二区三区| 国产麻豆69| 50天的宝宝边吃奶边哭怎么回事| 麻豆成人av在线观看| h视频一区二区三区| 天堂中文最新版在线下载| 精品国产一区二区久久| 咕卡用的链子| 国产成人系列免费观看| 久久精品国产亚洲av高清一级| 老司机午夜十八禁免费视频| 日韩免费高清中文字幕av| 老熟妇仑乱视频hdxx| 亚洲精品一二三| 久久亚洲真实| 久久ye,这里只有精品| 手机成人av网站| 波多野结衣av一区二区av| 女人久久www免费人成看片| 亚洲熟女精品中文字幕| 国产人伦9x9x在线观看| 动漫黄色视频在线观看| 老汉色av国产亚洲站长工具| 日韩有码中文字幕| 99国产精品99久久久久| 国产男靠女视频免费网站| 视频区欧美日本亚洲| 欧美日韩福利视频一区二区| 亚洲av片天天在线观看| 亚洲成人免费av在线播放| 国产精品自产拍在线观看55亚洲 | 免费一级毛片在线播放高清视频 | 极品人妻少妇av视频| av国产精品久久久久影院| 动漫黄色视频在线观看| 黄色视频不卡| 老司机午夜十八禁免费视频| 一区二区三区乱码不卡18| 黑人巨大精品欧美一区二区蜜桃| 成在线人永久免费视频| 国产成人免费观看mmmm| 美女国产高潮福利片在线看| avwww免费| 69av精品久久久久久 | 免费在线观看完整版高清| 午夜福利在线观看吧| 一级毛片电影观看| 久久久精品区二区三区| 天堂动漫精品| 午夜老司机福利片| 国产1区2区3区精品| 在线亚洲精品国产二区图片欧美| 十八禁网站网址无遮挡| 一区二区三区精品91| 国产精品一区二区在线不卡| 亚洲国产欧美日韩在线播放| 国产男女超爽视频在线观看| 在线av久久热| 亚洲精品一卡2卡三卡4卡5卡| av在线播放免费不卡| 久久人妻福利社区极品人妻图片| 中文字幕色久视频| 亚洲色图av天堂| 国产av一区二区精品久久| 久久久久久久久久久久大奶| 50天的宝宝边吃奶边哭怎么回事| 国产精品99久久99久久久不卡| 99久久人妻综合| 伊人久久大香线蕉亚洲五| 妹子高潮喷水视频| 午夜视频精品福利| 涩涩av久久男人的天堂| 午夜免费成人在线视频| 国产主播在线观看一区二区| 亚洲精品一二三| 精品少妇黑人巨大在线播放| 人妻一区二区av| 99国产综合亚洲精品| 交换朋友夫妻互换小说| 亚洲色图 男人天堂 中文字幕| 极品人妻少妇av视频| 免费不卡黄色视频| 黑人猛操日本美女一级片| 一区二区三区国产精品乱码| 麻豆成人av在线观看| 亚洲第一青青草原| 操出白浆在线播放| 热re99久久国产66热| 97在线人人人人妻| 男女下面插进去视频免费观看| 多毛熟女@视频| 国产亚洲av高清不卡| 亚洲第一青青草原| 精品一区二区三区四区五区乱码| 曰老女人黄片| 亚洲成人免费av在线播放| 久久久水蜜桃国产精品网| 母亲3免费完整高清在线观看| 精品久久久久久电影网| 精品欧美一区二区三区在线| xxxhd国产人妻xxx| 国产精品一区二区精品视频观看| 丝瓜视频免费看黄片| 亚洲第一青青草原| 欧美在线一区亚洲| 精品一区二区三区四区五区乱码| 亚洲情色 制服丝袜| 久久久久网色| 欧美激情 高清一区二区三区| 在线看a的网站| 操出白浆在线播放| 国产日韩一区二区三区精品不卡| 欧美人与性动交α欧美软件| 纯流量卡能插随身wifi吗| 国产精品久久久人人做人人爽| 免费观看av网站的网址| 无人区码免费观看不卡 | 久久久精品区二区三区| 欧美 日韩 精品 国产| 亚洲精品在线观看二区| 乱人伦中国视频| 国产一卡二卡三卡精品| 国产精品一区二区在线观看99| 人人妻人人澡人人爽人人夜夜| 一级,二级,三级黄色视频| 国产熟女午夜一区二区三区| 一级片'在线观看视频| 我的亚洲天堂| 久久精品国产综合久久久| 高清欧美精品videossex| 欧美 亚洲 国产 日韩一| 精品一区二区三区视频在线观看免费 | 日韩欧美免费精品| 国产亚洲欧美精品永久| 国产成人欧美| 99国产综合亚洲精品| 2018国产大陆天天弄谢| 久久久久久久大尺度免费视频| 成在线人永久免费视频| 亚洲情色 制服丝袜| 成人国产一区最新在线观看| 亚洲av第一区精品v没综合| 黑人猛操日本美女一级片| 亚洲精品中文字幕在线视频| 香蕉丝袜av| 熟女少妇亚洲综合色aaa.| 亚洲成人免费电影在线观看| 国产亚洲精品久久久久5区| 高清在线国产一区| 12—13女人毛片做爰片一| 国产精品免费一区二区三区在线 | 国产高清视频在线播放一区| 国产一区有黄有色的免费视频| 久久久国产欧美日韩av| 99精品欧美一区二区三区四区| 亚洲成av片中文字幕在线观看| 91成年电影在线观看| 亚洲国产欧美一区二区综合| 三级毛片av免费| www.精华液| 91国产中文字幕| 欧美精品人与动牲交sv欧美| 国产欧美日韩一区二区精品| 夫妻午夜视频| 亚洲专区字幕在线| 乱人伦中国视频| 久久毛片免费看一区二区三区| 日韩人妻精品一区2区三区| 美女主播在线视频| 亚洲欧洲精品一区二区精品久久久| 国产精品电影一区二区三区 | 一区二区三区乱码不卡18| 下体分泌物呈黄色| 亚洲国产成人一精品久久久| 波多野结衣av一区二区av| av在线播放免费不卡| 黄色视频,在线免费观看| 又大又爽又粗| 免费在线观看黄色视频的| 国产一区二区 视频在线| 一二三四在线观看免费中文在| 纯流量卡能插随身wifi吗| 波多野结衣av一区二区av| 亚洲一区中文字幕在线| 国产激情久久老熟女| 男女高潮啪啪啪动态图| 日日摸夜夜添夜夜添小说| 九色亚洲精品在线播放| 亚洲成人免费av在线播放| 亚洲精品美女久久av网站| 在线看a的网站| 国产欧美日韩综合在线一区二区| 自拍欧美九色日韩亚洲蝌蚪91| 久久青草综合色| 一本久久精品| 悠悠久久av| 久久精品熟女亚洲av麻豆精品| 国产精品自产拍在线观看55亚洲 | 国产成人一区二区三区免费视频网站| 欧美久久黑人一区二区| av不卡在线播放| 亚洲欧美激情在线| 他把我摸到了高潮在线观看 | 亚洲专区国产一区二区| 亚洲国产毛片av蜜桃av| 亚洲七黄色美女视频| 亚洲第一欧美日韩一区二区三区 | 一区二区日韩欧美中文字幕| 19禁男女啪啪无遮挡网站| 亚洲人成电影免费在线| 精品国产乱子伦一区二区三区| 久久国产精品影院| 日日夜夜操网爽| 亚洲第一欧美日韩一区二区三区 | 99久久99久久久精品蜜桃| 搡老熟女国产l中国老女人| 桃红色精品国产亚洲av| 成年女人毛片免费观看观看9 | 自拍欧美九色日韩亚洲蝌蚪91| 久久精品亚洲精品国产色婷小说| 男人舔女人的私密视频| 高清视频免费观看一区二区| 视频在线观看一区二区三区| 亚洲第一欧美日韩一区二区三区 | 亚洲男人天堂网一区| 操美女的视频在线观看| 麻豆乱淫一区二区| 男女下面插进去视频免费观看| 日日爽夜夜爽网站| 国产一卡二卡三卡精品| 午夜久久久在线观看| 少妇粗大呻吟视频| 青草久久国产| 亚洲五月色婷婷综合| 俄罗斯特黄特色一大片| 美女福利国产在线| 日韩精品免费视频一区二区三区| 国产97色在线日韩免费| 国产欧美日韩一区二区三区在线| 欧美精品一区二区免费开放| 在线观看免费视频日本深夜| 狠狠婷婷综合久久久久久88av| 午夜免费鲁丝| 欧美午夜高清在线| 欧美日韩亚洲国产一区二区在线观看 | 欧美成人午夜精品| 三上悠亚av全集在线观看| a级片在线免费高清观看视频| 欧美日韩中文字幕国产精品一区二区三区 | 又黄又粗又硬又大视频| 飞空精品影院首页| 久久av网站| 色精品久久人妻99蜜桃| 国产片内射在线| 欧美精品亚洲一区二区| 国产日韩欧美在线精品| 一个人免费在线观看的高清视频| 亚洲人成伊人成综合网2020| 色综合婷婷激情| 精品亚洲乱码少妇综合久久| 免费女性裸体啪啪无遮挡网站| 亚洲色图综合在线观看| 日本精品一区二区三区蜜桃| 午夜激情久久久久久久| 色在线成人网| 99热网站在线观看| av线在线观看网站| 国产av又大| 欧美精品亚洲一区二区| 中文字幕人妻丝袜制服| 国产亚洲精品一区二区www | 精品国产乱码久久久久久小说| 国产精品免费视频内射| 男女之事视频高清在线观看| 一区二区三区乱码不卡18| 成年人免费黄色播放视频| 久久久久精品国产欧美久久久| 波多野结衣av一区二区av| 国产极品粉嫩免费观看在线| 午夜视频精品福利| 后天国语完整版免费观看| 在线观看66精品国产| 日本a在线网址| 午夜福利视频精品| 日韩三级视频一区二区三区| 我的亚洲天堂| 中文字幕人妻丝袜一区二区| 青青草视频在线视频观看| 久热这里只有精品99| 精品久久蜜臀av无| 国产日韩欧美在线精品| 夜夜夜夜夜久久久久| 在线亚洲精品国产二区图片欧美| 桃红色精品国产亚洲av| 亚洲熟女毛片儿| 男女下面插进去视频免费观看| 欧美乱码精品一区二区三区| 大陆偷拍与自拍| 一级毛片精品| 欧美黄色片欧美黄色片| 中文字幕最新亚洲高清| 国产精品久久久人人做人人爽| 久久久久国产一级毛片高清牌| 99久久人妻综合| 最黄视频免费看| 丰满饥渴人妻一区二区三| 男女边摸边吃奶| a级毛片黄视频| 免费女性裸体啪啪无遮挡网站| 成人影院久久| 亚洲三区欧美一区| 亚洲精品一二三| 午夜激情av网站| 亚洲少妇的诱惑av| 精品福利观看| 免费在线观看影片大全网站| 两个人免费观看高清视频| 亚洲,欧美精品.| 久久性视频一级片| 国产高清国产精品国产三级| 伊人久久大香线蕉亚洲五| 亚洲中文av在线| 日韩中文字幕视频在线看片| 午夜激情av网站| 99re6热这里在线精品视频| 99热国产这里只有精品6| 一级毛片女人18水好多| 久久久久久久国产电影| 亚洲av电影在线进入| 久久精品国产99精品国产亚洲性色 | 大香蕉久久成人网| 亚洲熟女毛片儿| 视频在线观看一区二区三区| 欧美成人午夜精品| 国产色视频综合| 亚洲成人免费电影在线观看| 两性夫妻黄色片| 一区二区三区激情视频| 久久精品亚洲av国产电影网| 欧美亚洲日本最大视频资源| 欧美日韩福利视频一区二区| 丝瓜视频免费看黄片| 18禁黄网站禁片午夜丰满| 999精品在线视频| 如日韩欧美国产精品一区二区三区| 日韩中文字幕欧美一区二区| 最近最新免费中文字幕在线| 一级a爱视频在线免费观看| 国产成人精品久久二区二区91| 老司机亚洲免费影院| 中文字幕人妻丝袜制服| 久久久久网色| 最近最新免费中文字幕在线| 日韩中文字幕欧美一区二区| 免费观看a级毛片全部| 999精品在线视频| 后天国语完整版免费观看| 超碰97精品在线观看| 大香蕉久久成人网| 飞空精品影院首页| 精品国产一区二区久久| 亚洲成人免费av在线播放| 亚洲免费av在线视频| 性色av乱码一区二区三区2| 中文字幕精品免费在线观看视频| 狠狠狠狠99中文字幕| 欧美国产精品va在线观看不卡| 日本a在线网址| 在线十欧美十亚洲十日本专区| 亚洲国产精品一区二区三区在线| 国产精品99久久99久久久不卡| 国产精品 国内视频| 水蜜桃什么品种好| 18在线观看网站| 日韩中文字幕欧美一区二区| 美女主播在线视频| 人人妻,人人澡人人爽秒播| 无人区码免费观看不卡 | 国产成人啪精品午夜网站| 久久精品aⅴ一区二区三区四区| svipshipincom国产片| 午夜福利一区二区在线看| 欧美国产精品一级二级三级| 亚洲第一青青草原| 国产精品电影一区二区三区 | 国产麻豆69| 女人高潮潮喷娇喘18禁视频| 国产单亲对白刺激| 成年动漫av网址| 多毛熟女@视频| 国产不卡av网站在线观看| 久久影院123| 天堂动漫精品| 午夜日韩欧美国产| 国产免费福利视频在线观看| 国产精品免费视频内射| 欧美乱妇无乱码| 欧美亚洲日本最大视频资源| 国产麻豆69| 在线观看人妻少妇| 法律面前人人平等表现在哪些方面| av欧美777| 成人影院久久| 欧美激情极品国产一区二区三区| 女人爽到高潮嗷嗷叫在线视频| 18禁美女被吸乳视频| 下体分泌物呈黄色| 国产精品成人在线| 老熟妇仑乱视频hdxx| 国产精品秋霞免费鲁丝片| 丁香六月天网| 欧美日韩亚洲国产一区二区在线观看 | 国产在线一区二区三区精| 色婷婷av一区二区三区视频| av在线播放免费不卡| av一本久久久久| 国产不卡av网站在线观看| 黄色a级毛片大全视频| 岛国毛片在线播放| 美国免费a级毛片| 中文字幕另类日韩欧美亚洲嫩草| 精品福利观看| 欧美日韩视频精品一区| 亚洲精品在线观看二区| 高清av免费在线| 他把我摸到了高潮在线观看 | 少妇裸体淫交视频免费看高清 | 在线播放国产精品三级| 中文字幕人妻丝袜一区二区| 国产成人精品久久二区二区免费| 亚洲国产精品一区二区三区在线| 日韩一区二区三区影片| 女警被强在线播放| 国产日韩欧美在线精品| 91大片在线观看| 老司机影院毛片| 黑人操中国人逼视频| 91av网站免费观看| 一级a爱视频在线免费观看| 中文欧美无线码| 91字幕亚洲| 亚洲精品乱久久久久久| av视频免费观看在线观看| 淫妇啪啪啪对白视频| 久久久国产精品麻豆| 超碰成人久久| a在线观看视频网站| 少妇粗大呻吟视频| 久久精品国产99精品国产亚洲性色 | 亚洲av欧美aⅴ国产| 建设人人有责人人尽责人人享有的| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲少妇的诱惑av| 欧美国产精品一级二级三级| 久久久水蜜桃国产精品网| 天天躁日日躁夜夜躁夜夜| 满18在线观看网站| 建设人人有责人人尽责人人享有的| av福利片在线| 久久国产精品男人的天堂亚洲| 中文字幕最新亚洲高清| videosex国产| 老熟妇乱子伦视频在线观看| 香蕉国产在线看| 自线自在国产av| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲成人国产一区在线观看| 亚洲国产欧美网| 满18在线观看网站| 亚洲精品国产区一区二| 色婷婷av一区二区三区视频| 午夜福利一区二区在线看| 精品国内亚洲2022精品成人 | 高清毛片免费观看视频网站 | 亚洲国产欧美网| 69av精品久久久久久 | 十分钟在线观看高清视频www| 人妻 亚洲 视频| 伦理电影免费视频| 亚洲国产看品久久| 亚洲综合色网址| 精品国产超薄肉色丝袜足j| 巨乳人妻的诱惑在线观看| 亚洲国产av新网站| 999久久久精品免费观看国产| 色精品久久人妻99蜜桃| 亚洲一区中文字幕在线| 国产有黄有色有爽视频| 香蕉久久夜色| 免费观看人在逋| 美国免费a级毛片| 欧美日韩亚洲综合一区二区三区_| 亚洲中文日韩欧美视频| 国产一区二区激情短视频| 日日摸夜夜添夜夜添小说| 亚洲精品国产精品久久久不卡| 啦啦啦在线免费观看视频4| 成年人免费黄色播放视频| 亚洲色图综合在线观看| 黄色视频不卡| 啦啦啦视频在线资源免费观看| 在线天堂中文资源库| 久久 成人 亚洲| 成人亚洲精品一区在线观看| 一区二区三区国产精品乱码| 国产男女超爽视频在线观看| 咕卡用的链子| 欧美激情高清一区二区三区| 一本大道久久a久久精品| 狠狠婷婷综合久久久久久88av| 女性被躁到高潮视频| 久久午夜亚洲精品久久| 丁香欧美五月| xxxhd国产人妻xxx| 满18在线观看网站| 亚洲国产成人一精品久久久| 国产男女内射视频| 亚洲熟妇熟女久久| 国产老妇伦熟女老妇高清| 中文欧美无线码| tube8黄色片| 91老司机精品| 久久精品国产亚洲av高清一级| 国产精品久久久久久精品古装| 可以免费在线观看a视频的电影网站| 人妻一区二区av| 中文字幕精品免费在线观看视频| 欧美成狂野欧美在线观看| 国产一区有黄有色的免费视频| 黄色a级毛片大全视频| 一夜夜www| 午夜两性在线视频| 国产97色在线日韩免费| 99精品欧美一区二区三区四区| 欧美人与性动交α欧美软件| 后天国语完整版免费观看| 啦啦啦免费观看视频1| 人人妻人人添人人爽欧美一区卜| 亚洲七黄色美女视频| 亚洲国产欧美日韩在线播放| 高清av免费在线| 国产亚洲欧美在线一区二区| 一二三四在线观看免费中文在| 菩萨蛮人人尽说江南好唐韦庄| 91麻豆精品激情在线观看国产 | 人妻久久中文字幕网| 亚洲精品粉嫩美女一区| 曰老女人黄片| 午夜老司机福利片| 91麻豆精品激情在线观看国产 | 在线观看免费高清a一片| a级毛片在线看网站| 亚洲伊人色综图| 国产高清videossex| 天天添夜夜摸| 久久久国产一区二区| 国产三级黄色录像| 国产精品99久久99久久久不卡| 精品一区二区三区四区五区乱码| a级片在线免费高清观看视频| 高清欧美精品videossex| 国产欧美日韩一区二区精品| av欧美777| 大片免费播放器 马上看| 超色免费av| 欧美av亚洲av综合av国产av| 国产精品电影一区二区三区 | 搡老乐熟女国产| 中文字幕另类日韩欧美亚洲嫩草| 丝袜在线中文字幕| 午夜成年电影在线免费观看| 99精国产麻豆久久婷婷| 蜜桃国产av成人99| 亚洲欧洲日产国产| 俄罗斯特黄特色一大片| 久久婷婷成人综合色麻豆| 午夜久久久在线观看| 日韩视频一区二区在线观看| 另类精品久久| 亚洲avbb在线观看| 91成年电影在线观看| 丰满饥渴人妻一区二区三| 老司机福利观看| 90打野战视频偷拍视频| 国产亚洲一区二区精品| 老司机福利观看| 亚洲av电影在线进入| 另类精品久久| 欧美中文综合在线视频| 亚洲九九香蕉| 老司机靠b影院| www.精华液| 丝袜美腿诱惑在线| 少妇粗大呻吟视频| 伦理电影免费视频| 国产免费福利视频在线观看| 成人国产一区最新在线观看| 精品第一国产精品| 欧美在线一区亚洲| 精品亚洲成a人片在线观看| av国产精品久久久久影院| 一边摸一边抽搐一进一小说 | 天天操日日干夜夜撸| 亚洲少妇的诱惑av| 精品国内亚洲2022精品成人 | 老司机午夜十八禁免费视频| 中文字幕人妻丝袜一区二区| 亚洲欧美精品综合一区二区三区| 国产成人免费观看mmmm| 国产欧美亚洲国产|