• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系及安全策略研究

    2022-01-18 08:21:52邱潔韓瑞魏志豐王志洋
    關(guān)鍵詞:管理

    邱潔,韓瑞,魏志豐,王志洋

    (1. 中國互聯(lián)網(wǎng)絡(luò)信息中心,北京 100190;2. 中國五洲工程設(shè)計集團(tuán)有限公司,北京 100053)

    1 引言

    根據(jù)2021年2月中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第47次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》顯示,截至2020年12月,我國網(wǎng)民規(guī)模已達(dá)9.89億人,約占世界互聯(lián)網(wǎng)用戶總量的20%,互聯(lián)網(wǎng)普及率達(dá)70.4%,超出全球平均水平6.2%[1]。

    網(wǎng)絡(luò)技術(shù)發(fā)展方面,基于IPv6的下一代互聯(lián)網(wǎng)極大提高了網(wǎng)絡(luò)的容量、效率、速度,推動了許多相關(guān)的技術(shù)創(chuàng)新,給各行業(yè)帶來了顛覆性影響[2-3]。國際發(fā)展環(huán)境方面,美國于2018年發(fā)布了《國家網(wǎng)絡(luò)戰(zhàn)略》,明確將投資5G網(wǎng)絡(luò)等下一代基礎(chǔ)設(shè)施[4]。日本于2019年發(fā)布《信息通信白皮書》,重點強調(diào)了將基于ICT的改革作為其建設(shè)數(shù)字經(jīng)濟(jì)社會的核心內(nèi)容,包括移動IP、5G等基礎(chǔ)設(shè)施建設(shè)內(nèi)容[5]。歐盟于2019年正式啟動了新一輪“數(shù)字歐洲計劃”,以促進(jìn)歐洲關(guān)鍵領(lǐng)域的數(shù)字基礎(chǔ)設(shè)施建設(shè)和發(fā)展[6],并陸續(xù)發(fā)布了《歐洲新產(chǎn)業(yè)戰(zhàn)略》等強調(diào)網(wǎng)絡(luò)信息技術(shù)重要性的文件[7-8]。

    面對網(wǎng)絡(luò)技術(shù)和國際環(huán)境的快速發(fā)展和變化,網(wǎng)絡(luò)空間面臨著諸多挑戰(zhàn)。一方面是網(wǎng)絡(luò)空間連接規(guī)模的挑戰(zhàn)[9]。根據(jù)2018年Gartner的預(yù)測,到2023年,全球物聯(lián)網(wǎng)連接設(shè)備的數(shù)量預(yù)計將增加至430億,各類物聯(lián)網(wǎng)設(shè)備將成為網(wǎng)絡(luò)空間的重要參與對象。另一方面是網(wǎng)絡(luò)空間治理相關(guān)的挑戰(zhàn)。隨著全球物聯(lián)網(wǎng)的建設(shè)和發(fā)展,從物理層、網(wǎng)絡(luò)層到應(yīng)用層均需要在傳統(tǒng)互聯(lián)網(wǎng)的基礎(chǔ)上進(jìn)行創(chuàng)新和提升,涉及物聯(lián)網(wǎng)設(shè)備、對象標(biāo)識及網(wǎng)絡(luò)協(xié)議等領(lǐng)域。如何高效地構(gòu)建兼容多種用戶類型、異構(gòu)網(wǎng)絡(luò)協(xié)議、多樣化管理要求的智慧應(yīng)用場景,以及如何開展支撐智慧應(yīng)用場景的各類基礎(chǔ)設(shè)施管理更成為物聯(lián)網(wǎng)未來發(fā)展亟須解決的關(guān)鍵問題[10]。

    與此同時,網(wǎng)絡(luò)安全的重要性日益突出。網(wǎng)絡(luò)安全不僅關(guān)系著網(wǎng)絡(luò)的日常運轉(zhuǎn),更是國家安全的重要組成部分。各國雖然互聯(lián)網(wǎng)發(fā)展階段不同、面臨的現(xiàn)實挑戰(zhàn)不同,但應(yīng)對網(wǎng)絡(luò)安全挑戰(zhàn)的述求是一致的,加強網(wǎng)絡(luò)空間治理的需求也是一致的。

    傳統(tǒng)的網(wǎng)絡(luò)安全管理通常是指網(wǎng)絡(luò)空間中設(shè)備、系統(tǒng)、數(shù)據(jù)、應(yīng)用等存在的安全問題。面向未來的網(wǎng)絡(luò)空間安全管理不僅需要包含上述的管理內(nèi)容,更需要面對物聯(lián)網(wǎng)中新出現(xiàn)及未來可能出現(xiàn)的新要素和活動進(jìn)行開放性的安全規(guī)劃和設(shè)計。以對象要素為切入點,綜合考慮網(wǎng)絡(luò)空間不同資源的本體安全、系統(tǒng)安全、數(shù)據(jù)安全、行為安全等方面需求,可以更好地支撐網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系的設(shè)計。

    本文從網(wǎng)絡(luò)空間載體、資源、主體和操作等網(wǎng)絡(luò)空間基本組成要素出發(fā),充分借鑒城市公共基礎(chǔ)設(shè)施體系設(shè)計和管理的方法,重點針對網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的定義和體系構(gòu)建進(jìn)行研究,提出了一種與社會發(fā)展相適應(yīng)的網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系,并結(jié)合網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的安全發(fā)展需求,給出了相應(yīng)的網(wǎng)絡(luò)對象管理和身份認(rèn)證安全策略和方法建議。

    2 網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施及安全相關(guān)研究

    以城市數(shù)字治理為背景,隨著網(wǎng)絡(luò)技術(shù)的快速發(fā)展和各類對象在網(wǎng)絡(luò)交往實踐中的積極參與,網(wǎng)絡(luò)空間已經(jīng)作為一種新的社會空間形態(tài),引起人們的廣泛關(guān)注??傮w來看,網(wǎng)絡(luò)空間是一種社會空間的體現(xiàn)形式,網(wǎng)絡(luò)空間的構(gòu)成是由各種社會力量相互作用而形成的,是現(xiàn)實社會的一種數(shù)字表現(xiàn),其本質(zhì)是一種社會物理空間的體現(xiàn)形式[11]。

    研究人員針對網(wǎng)絡(luò)空間及公共基礎(chǔ)設(shè)施的概念展開了深入的研究工作,目前已形成較為普遍性的認(rèn)可,但對于網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的概念及體系性研究尚不多見。同時,隨著物聯(lián)網(wǎng)的快速發(fā)展,傳統(tǒng)互聯(lián)網(wǎng)的信息安全體系同樣面臨著較大的安全風(fēng)險挑戰(zhàn),各國圍繞物聯(lián)網(wǎng)環(huán)境的發(fā)展相關(guān)的安全策略均在有序推進(jìn),尤其是圍繞網(wǎng)絡(luò)對象和身份管理的研究,網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施作為重要的網(wǎng)絡(luò)對象也需要開展相應(yīng)的研究工作。

    2.1 圍繞網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的概念研究

    2.1.1公共基礎(chǔ)設(shè)施的概念性研究

    為了更好地分析公共基礎(chǔ)設(shè)施的概念,本文選取較為成熟的城市公共基礎(chǔ)設(shè)施進(jìn)行參考性分析。在相關(guān)研究領(lǐng)域,被行業(yè)研究普遍認(rèn)可的城市公共基礎(chǔ)設(shè)施釋義是基于世界銀行的城市基礎(chǔ)設(shè)施理論[12-13]:城市公共基礎(chǔ)設(shè)施應(yīng)具有準(zhǔn)公共物品特性。以公共基礎(chǔ)設(shè)施作為準(zhǔn)公共物品的屬性特點為基礎(chǔ),學(xué)術(shù)界從社會空間和組織的維度對公共基礎(chǔ)設(shè)施進(jìn)行了定義,通常包含能源、給排水、道路交通、通信、生態(tài)環(huán)境和抗災(zāi)6個方面。

    在城市公共基礎(chǔ)設(shè)施的準(zhǔn)公共產(chǎn)品定位的基礎(chǔ)上,文獻(xiàn)[14]提出,公共基礎(chǔ)設(shè)施是指出于公共目的而建立的,為生產(chǎn)、生活提供公共服務(wù)的,能夠起到促進(jìn)社會經(jīng)濟(jì)活動、改善生存環(huán)境、實現(xiàn)資源共享等作用的各種物質(zhì)技術(shù)條件的總和。

    因此,公共基礎(chǔ)設(shè)施作為所有社會活動和服務(wù)的生產(chǎn)所必不可少的要素可按照資源共享、對象的經(jīng)濟(jì)活動和生存環(huán)境3個維度進(jìn)行分類。

    2.1.2網(wǎng)絡(luò)空間的概念性研究

    文獻(xiàn)[15]較為全面地對網(wǎng)絡(luò)空間概念進(jìn)行了定義,認(rèn)為網(wǎng)絡(luò)空間是創(chuàng)造、存儲、調(diào)整、交換、共享、提取、使用和消除信息與分散的物質(zhì)資源的全球動態(tài)領(lǐng)域。我國國家重點研發(fā)計劃“網(wǎng)絡(luò)空間測繪”中提出,網(wǎng)絡(luò)空間可被定義為是構(gòu)建在信息通信技術(shù)基礎(chǔ)設(shè)施之上的一種人造空間,用以支撐人們在該空間中開展各類信息通信技術(shù)相關(guān)的真實活動[16]。

    針對網(wǎng)絡(luò)空間的關(guān)鍵資源,國內(nèi)有學(xué)者提出,網(wǎng)絡(luò)空間是“載體”“信息”“主體”等各類要素的總和,因此網(wǎng)絡(luò)空間資源不僅包括通信基礎(chǔ)設(shè)施、應(yīng)用支撐系統(tǒng)等互聯(lián)網(wǎng)基礎(chǔ)設(shè)施實體資源,還包括承載在實體設(shè)施之上的內(nèi)容信息、用戶信息等虛擬資源[17-18]。方濱興[19]進(jìn)一步將網(wǎng)絡(luò)空間的組成要素分為4種類型:載體、信息、主體和操作。綜上所述,網(wǎng)絡(luò)空間的資源和組成要素主要包含載體、信息、主體、操作(創(chuàng)造、存儲、調(diào)整、交換、共享、提取、使用和消除等)等方面,其對于社會物理空間有促進(jìn)作用。網(wǎng)絡(luò)空間的構(gòu)成如圖1所示。

    圖1 網(wǎng)絡(luò)空間的構(gòu)成Figure 1 The composition of cyberspace

    在明確了網(wǎng)絡(luò)空間的基礎(chǔ)構(gòu)成后,進(jìn)一步結(jié)合公共基礎(chǔ)設(shè)施的特征,可以有助于網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的概念分析和定義。本文通過社會物理空間?網(wǎng)絡(luò)空間的映射關(guān)系,從網(wǎng)絡(luò)空間的基礎(chǔ)資源、活動工具和生存環(huán)境3個方面進(jìn)行類比分析。

    2.2 圍繞網(wǎng)絡(luò)空間安全的關(guān)鍵技術(shù)研究

    全球物聯(lián)網(wǎng)的快速發(fā)展對網(wǎng)絡(luò)安全的許多領(lǐng)域提出了挑戰(zhàn)。

    一方面,物聯(lián)網(wǎng)設(shè)備和應(yīng)用安全問題尤為突出。物聯(lián)網(wǎng)中的海量設(shè)備需要合理的安全管控機制,其運行和應(yīng)用活動中會產(chǎn)生大量安全隱私數(shù)據(jù),對異構(gòu)網(wǎng)絡(luò)的攻擊防御問題更加重要。具體到物聯(lián)網(wǎng)安全接入和控制方面。指出了從互聯(lián)網(wǎng)到物聯(lián)網(wǎng)的轉(zhuǎn)變過程中可能會面臨的一系列安全問題,并重點強調(diào)了普遍存在的資源訪問控制問題,針對這些問題相關(guān)的安全對策包括:加密機制和密鑰管理、感知層鑒別機制、安全路由機制、訪問控制機制等[20]。有研究人員針對物聯(lián)網(wǎng)感知節(jié)點易遭受攻擊等物聯(lián)網(wǎng)安全問題展開了認(rèn)證和評估方面的研究。目前針對物聯(lián)網(wǎng)安全認(rèn)證和訪問控制方面的研究包含網(wǎng)絡(luò)對象的分級管理及基于網(wǎng)絡(luò)身份的層次化認(rèn)證等方向[21]。

    另一方面,關(guān)鍵信息基礎(chǔ)設(shè)施作為國家重要的網(wǎng)絡(luò)基礎(chǔ)設(shè)施,其安全受到各國的廣泛關(guān)注。各國紛紛提出相應(yīng)的發(fā)展戰(zhàn)略,將其納入最高等級的安全保護(hù)范圍。但在此基礎(chǔ)上針對更通用范圍的公共基礎(chǔ)設(shè)施的安全管理機制和規(guī)范化研究尚未深入。

    2.2.1網(wǎng)絡(luò)對象及身份管理相關(guān)技術(shù)

    將分級分類的方法應(yīng)用到網(wǎng)絡(luò)用戶管理中,對網(wǎng)絡(luò)身份的可信度及網(wǎng)絡(luò)身份服務(wù)提供商實行等級化管理,已逐漸成為網(wǎng)絡(luò)對象管理重要的實施方法。鄒凱等[22]提出的智慧城市信息安全風(fēng)險影響因素體系框架(如圖2所示)中,將城市信息安全按照環(huán)境維度、邏輯維度和組織維度進(jìn)行了分析。其中組織維度主要是針對網(wǎng)絡(luò)對象和訪問活動進(jìn)行的分類分析,提出了組織對象的分類等級示例,明確不同的等級應(yīng)進(jìn)行不同的權(quán)限和活動管理。

    圖2 智慧城市信息安全風(fēng)險影響因素體系框架Figure 2 The framework of information security influencing factors system in smart city

    國際標(biāo)準(zhǔn)化組織 ISO/IEC等較早開始了關(guān)于網(wǎng)絡(luò)身份管理相關(guān)的研究工作,并嘗試從風(fēng)險角度對身份管理的可信等級進(jìn)行規(guī)范,陸續(xù)發(fā)布了《實體鑒別保障框架》(ISO/IEC 29115-2013)[23]、《身份核驗規(guī)范》(ISO/IEC TS 29003:2018)[24]等標(biāo)準(zhǔn)。該系列標(biāo)準(zhǔn)面向電子商務(wù)等活動中的身份管理需求,重點針對身份鑒別過程中與實體身份相關(guān)的處理程序、管理活動和技術(shù)的可信度進(jìn)行管理,將身份的可信程度分為3個等級(高、中、低),并規(guī)定了4個實體認(rèn)證保障等別(一級、二級、三級、四級)。ISO/IEC網(wǎng)絡(luò)身份管理方案的突出特點是其面向的網(wǎng)絡(luò)管理對象不限于人、組織等傳統(tǒng)網(wǎng)絡(luò)用戶,還包含設(shè)備、軟件及應(yīng)用等新的物聯(lián)網(wǎng)要素。此外,美國、英國等重點針對電子政務(wù)管理活動中的身份管理和認(rèn)證需求相繼發(fā)布了相關(guān)的國家戰(zhàn)略[16],亞洲各國以電子簽名應(yīng)用技術(shù)為基礎(chǔ),圍繞電子商務(wù)及政府活動中的認(rèn)證服務(wù)陸續(xù)開展了相關(guān)標(biāo)準(zhǔn)規(guī)范的研究工作。相關(guān)執(zhí)行情況如表1所示。

    表1 網(wǎng)絡(luò)用戶分級管理情況Table 1 The level management of network users

    基于網(wǎng)絡(luò)身份的層次化認(rèn)證方面,在對無線傳感器網(wǎng)中基于身份的密碼體制(IBC,identitybased cryptography)的網(wǎng)絡(luò)身份認(rèn)證方案優(yōu)化的研究中,董發(fā)志等[25]結(jié)合無線傳感器網(wǎng)的特性,針對IBC中存在的密鑰托管、算法安全性等問題,提出了基于身份的分簇認(rèn)證算法(IDC,

    identity-based dynamic clustering authentication algorithm),這是一種分層分級處理,一次完成(解)簽密的網(wǎng)絡(luò)身份認(rèn)證方法,能夠降低管理節(jié)點的計算量和存儲量。危蓉等[26]提出了采用層簇式密鑰管理方式進(jìn)行無線傳感網(wǎng)絡(luò)會話密鑰的管理,該方法采用分層結(jié)構(gòu)將各群體分為不同(區(qū)或?qū)樱┑拇厝?,如將系統(tǒng)分為簇首層和內(nèi)部層,由所在基站為每一個簇首統(tǒng)一編發(fā)ID號,再由簇首層管理下層節(jié)點的身份信息矩陣編號。在分層結(jié)構(gòu)的基礎(chǔ)上,有針對性地采用了分級處理,針對簇首、普通節(jié)點的功能差異,采用兩種不同的公鑰生成算法。

    在移動物聯(lián)網(wǎng)場景中,移動IPv6方案也可通過移動錨點來實現(xiàn)對移動節(jié)點(MN,mobile node)的分級認(rèn)證管理。MN認(rèn)證信息通常存放在家鄉(xiāng)網(wǎng)絡(luò)中,為優(yōu)化MN的接入認(rèn)證過程中與家鄉(xiāng)網(wǎng)絡(luò)認(rèn)證服務(wù)器的頻繁交互過程,田野等[27]根據(jù) IBC密碼方案的實現(xiàn)原理,提出了一種基于身份簽名的層次化認(rèn)證機制,使用HIBS(hierarchical identity-based signature)機制替代傳統(tǒng)的基于公鑰證書的方式,采用分級的身份標(biāo)識作為每個節(jié)點的公鑰。系統(tǒng)由一個根PKG(public key generator)、若干第1層PKG(mobility anchor points和home agent)和若干第2層用戶(access routers和MN等)組成。標(biāo)識作為每個節(jié)點的公鑰進(jìn)行使用,公鑰采用多級NAI(network accessidentifier)標(biāo)識,第1層是PKG身份ID,第2層是用戶身份ID。通過采用分級的身份,該方法可以擴(kuò)展到更多層的認(rèn)證結(jié)構(gòu)設(shè)計中。

    此外,在區(qū)塊鏈技術(shù)結(jié)合網(wǎng)絡(luò)空間安全研究方面,張彬等[28]提出了基于智能合約的無線Mesh網(wǎng)絡(luò)安全架構(gòu),無線網(wǎng)絡(luò)架構(gòu)被分為若干區(qū)域(如一個園區(qū)由多個企業(yè)或者一個企業(yè)由多個部門共同建立無線網(wǎng)絡(luò)),劃分區(qū)域的目的是便于分級管理,在每個區(qū)域內(nèi)選擇較可靠的路由節(jié)點作為管理節(jié)點,它可以是一個管理節(jié)點或多個管理節(jié)點構(gòu)成的管理鏈,在該管理節(jié)點上部署智能合約,管理所在區(qū)域內(nèi)所有路由節(jié)點的公鑰,并實現(xiàn)公鑰更新和公鑰撤銷功能。所有節(jié)點共同建立一個聯(lián)盟合約,用于記錄所有管理節(jié)點地址及其上的智能合約地址。該無線網(wǎng)絡(luò)架構(gòu)能夠較為靈活地實現(xiàn)特定區(qū)域內(nèi)網(wǎng)絡(luò)服務(wù)安全性管理的拓展。

    2.2.2 國家關(guān)鍵信息基礎(chǔ)設(shè)施安全機制

    各國面向本國關(guān)鍵信息基礎(chǔ)設(shè)施的安全管理,提出了相關(guān)的安全管理戰(zhàn)略[29]。美國形成了相對完整的關(guān)鍵信息基礎(chǔ)設(shè)施安全政策和戰(zhàn)略,并隨著形勢的變化不斷進(jìn)行優(yōu)化調(diào)整[30]。歐盟制定了一系列政策,強調(diào)協(xié)調(diào)成員國加強關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)安全保護(hù)方面的重要性[31-32]。我國國家互聯(lián)網(wǎng)信息辦公室于2017發(fā)布《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》,明確了關(guān)鍵信息基礎(chǔ)設(shè)施的范圍和相關(guān)保護(hù)要求,并陸續(xù)展開了各類安全保護(hù)研究工作[33],但針對更大范圍的公共基礎(chǔ)設(shè)施的安全管理機制和規(guī)范化研究尚未深入[34]。此外,關(guān)于網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的定義和安全管理方面,尚未有較成熟和統(tǒng)一的研究成果。

    綜上所述,從國家關(guān)鍵信息技術(shù)設(shè)施到其他網(wǎng)絡(luò)基礎(chǔ)設(shè)施,均已開展系統(tǒng)的安全防護(hù)體系研究工作,本文重點從網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的管理視角出發(fā),研究其系統(tǒng)定義和安全管理。圍繞關(guān)鍵的資源、結(jié)構(gòu)和要素,對網(wǎng)絡(luò)空間的相關(guān)內(nèi)容和定義進(jìn)行類比分析,進(jìn)而提出網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系的架構(gòu)和內(nèi)容。同時,針對物聯(lián)網(wǎng)復(fù)雜異構(gòu)環(huán)境帶來的網(wǎng)絡(luò)空間的安全問題,本文將公共基礎(chǔ)設(shè)施作為網(wǎng)絡(luò)空間內(nèi)的典型和關(guān)鍵要素,重點從設(shè)施本身及服務(wù)對象的身份管理和認(rèn)證等方面提出一些相應(yīng)的策略和建議。

    3 網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系設(shè)計

    3.1 基本構(gòu)成

    結(jié)合相關(guān)研究情況,通過社會物理空間?網(wǎng)絡(luò)空間的映射,可以從網(wǎng)絡(luò)空間的基礎(chǔ)資源、活動工具和生存環(huán)境3個方面進(jìn)行類比分析,得出網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的基本構(gòu)成,如圖3所示。

    圖3 網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施類比分析Figure 3 The analogical analysis of public infrastructure in cyberspace

    其中,網(wǎng)絡(luò)空間的基礎(chǔ)資源主要指網(wǎng)絡(luò)空間中“載體”“信息”“主體”等各類要素的總和,因此可以將網(wǎng)絡(luò)資源進(jìn)一步細(xì)分為標(biāo)識資源、存儲資源、傳輸資源和計算資源。其中傳輸資源同時屬于網(wǎng)絡(luò)空間的活動工具。標(biāo)識資源對應(yīng)“主體”要素,相關(guān)基礎(chǔ)設(shè)施包含域名系統(tǒng)、IP系統(tǒng)、全聯(lián)網(wǎng)統(tǒng)一標(biāo)識系統(tǒng)、工業(yè)互聯(lián)網(wǎng)標(biāo)識系統(tǒng)等公共標(biāo)識服務(wù)系統(tǒng);存儲資源對應(yīng)“信息”要素,相關(guān)基礎(chǔ)設(shè)施包含各級的數(shù)據(jù)中心、數(shù)據(jù)庫和數(shù)據(jù)平臺等;計算資源則可以類比為網(wǎng)絡(luò)空間的基礎(chǔ)能力資源,主要支撐對象的相關(guān)活動,相關(guān)基礎(chǔ)設(shè)施包含公共計算中心、各級計算節(jié)點、云計算中心、邊緣計算節(jié)點、智能終端等。

    針對網(wǎng)絡(luò)空間的活動工具,主要是支撐信息在網(wǎng)絡(luò)空間中的“交換”“共享”和“使用”活動所需要的工具,對應(yīng)的相關(guān)基礎(chǔ)設(shè)施主要是網(wǎng)絡(luò)通道和資源接口。其中網(wǎng)絡(luò)通道為傳統(tǒng)的互聯(lián)網(wǎng)通道,主要包含無線網(wǎng)絡(luò)和有線網(wǎng)絡(luò)通道兩方面。資源接口則主要包含數(shù)據(jù)接口和設(shè)備接口兩個部分,數(shù)據(jù)接口是通過統(tǒng)一平臺和相關(guān)的應(yīng)用系統(tǒng)來實現(xiàn)采集接入,設(shè)備接口是通過相對統(tǒng)一的網(wǎng)關(guān)或網(wǎng)絡(luò)交換設(shè)備來實現(xiàn)。

    針對網(wǎng)絡(luò)空間的環(huán)境要素,基于物理空間的公共基礎(chǔ)設(shè)施屬性分析方法,網(wǎng)絡(luò)空間的環(huán)境可以分為生態(tài)環(huán)境和安全環(huán)境兩方面,網(wǎng)絡(luò)空間的生態(tài)環(huán)境主要包含網(wǎng)絡(luò)輿論環(huán)境、數(shù)據(jù)環(huán)境、用戶環(huán)境等方面,安全環(huán)境方面結(jié)合能源互聯(lián)網(wǎng)的安全架構(gòu)研究[35],綜合參考GB/T 25070-2019《信息安全技術(shù) 網(wǎng)絡(luò)安全等級保護(hù)安全設(shè)計技術(shù)要求》及GB/T 22239-2019《信息安全技術(shù) 網(wǎng)絡(luò)安全等級保護(hù)基本要求》中對網(wǎng)絡(luò)安全架構(gòu)及安全保護(hù)對象的定義,主要包含資源層安全和服務(wù)層安全兩方面。其中,資源層安全主要對應(yīng)網(wǎng)絡(luò)空間資源中的載體、信息和主體,保護(hù)對象為基礎(chǔ)信息網(wǎng)絡(luò)、物聯(lián)網(wǎng)、大數(shù)據(jù)資源、用戶身份/標(biāo)識等;服務(wù)層安全主要對應(yīng)網(wǎng)絡(luò)空間中的存儲、交換、共享、使用等操作活動,保護(hù)對象為操作系統(tǒng)、區(qū)塊鏈交易系統(tǒng)、云計算平臺/系統(tǒng)、大數(shù)據(jù)平臺/系統(tǒng)、工業(yè)控制系統(tǒng)、移動應(yīng)用系統(tǒng)等網(wǎng)絡(luò)活動的支撐系統(tǒng)。為構(gòu)建更高效的網(wǎng)絡(luò)空間運行環(huán)境,對于網(wǎng)絡(luò)空間內(nèi)安全保護(hù)對象的具體保護(hù)要求還需要兼顧GB/T 22239-2019《信息安全技術(shù) 網(wǎng)絡(luò)安全等級保護(hù)基本要求》中的等級保護(hù)要求(五級)進(jìn)行設(shè)計。

    3.2 概念定義

    在網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的基本構(gòu)成分析的基礎(chǔ)上,根據(jù)網(wǎng)絡(luò)空間的服務(wù)內(nèi)容和屬性要求,可以將網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施定義為:出于公共目的而建立的,為網(wǎng)絡(luò)空間內(nèi)生產(chǎn)、生活提供公共服務(wù)的,能夠起到促進(jìn)網(wǎng)絡(luò)空間數(shù)字經(jīng)濟(jì)活動、改善網(wǎng)絡(luò)運行環(huán)境、實現(xiàn)網(wǎng)絡(luò)資源共享等作用的各種軟硬件設(shè)施及技術(shù)條件的總和,是維持網(wǎng)絡(luò)空間高效穩(wěn)定運行的基礎(chǔ)。根據(jù)以上定義,可以對網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的內(nèi)容進(jìn)行識別,明確網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的范圍邊界。

    3.3 關(guān)鍵特點

    (1)準(zhǔn)公共物品性

    大部分網(wǎng)絡(luò)空間的公共基礎(chǔ)設(shè)施具有準(zhǔn)公共物品性。一部分人對網(wǎng)絡(luò)空間內(nèi)基礎(chǔ)設(shè)施資源的消費或使用不影響他人的消費或使用。

    (2)服務(wù)社會的公共性

    為網(wǎng)絡(luò)空間全范圍提供公共的、無處不在的基礎(chǔ)服務(wù),供應(yīng)對象全方位開放,供應(yīng)能力按需配置。

    (3)經(jīng)營管理的準(zhǔn)集中性

    對于關(guān)鍵性的公共基礎(chǔ)設(shè)施進(jìn)行高度集中化的管理,對于常規(guī)的公共基礎(chǔ)設(shè)施可以進(jìn)行分層級分類型的準(zhǔn)集中化管理。

    (4)整體架構(gòu)的系統(tǒng)性

    所有網(wǎng)絡(luò)空間的公共基礎(chǔ)設(shè)施是一個完整的運行系統(tǒng),資源、工具和環(huán)境要素相互之間通過數(shù)據(jù)或操作活動相互影響,并不斷循環(huán)優(yōu)化和調(diào)整形成動態(tài)的網(wǎng)絡(luò)空間。

    (5)配套建設(shè)的先行性和基礎(chǔ)性

    網(wǎng)絡(luò)空間的公共基礎(chǔ)設(shè)施是國家網(wǎng)絡(luò)體系建設(shè)的先行和基礎(chǔ)工程,應(yīng)充分考慮與5G、區(qū)塊鏈、人工智能等新一代網(wǎng)絡(luò)技術(shù)、前沿信息技術(shù)的兼容性和應(yīng)用拓展性。

    3.4 架構(gòu)設(shè)計

    網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施服務(wù)和面向的空間為公共基礎(chǔ)空間,是維持網(wǎng)絡(luò)空間高效穩(wěn)定運行的基礎(chǔ),因此在建設(shè)模式和管理方式上具有一定的集中性。

    在集中性管理基礎(chǔ)上,為提高設(shè)施運行及綜合管理效率,可參考關(guān)鍵信息基礎(chǔ)設(shè)施[36]及針對網(wǎng)絡(luò)用戶的分級管理方法,如從高到低的分區(qū)設(shè)計[37],即管理要求等級最高的公共基礎(chǔ)設(shè)施為核心區(qū)(如關(guān)鍵基礎(chǔ)設(shè)施),服務(wù)于網(wǎng)絡(luò)空間公共服務(wù)、基礎(chǔ)經(jīng)濟(jì)運行活動(如公共數(shù)據(jù)中心、數(shù)據(jù)庫、城市大腦等)的設(shè)施為公共區(qū),面向其他網(wǎng)絡(luò)空間公共服務(wù)的基礎(chǔ)設(shè)施為更具靈活性的開放區(qū)。網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系結(jié)構(gòu)如圖4所示。

    圖4 網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系結(jié)構(gòu)Figure 4 The architecture of public infrastructure system in cyberspace

    (1)核心區(qū)

    公共基礎(chǔ)設(shè)施中與國家安全密切相關(guān)的基礎(chǔ)設(shè)施可以納入國家關(guān)鍵信息基礎(chǔ)設(shè)施體系進(jìn)行統(tǒng)籌考慮,在網(wǎng)絡(luò)空間管理角度該區(qū)域為網(wǎng)絡(luò)空間核心區(qū),如國防、能源、交通、電信等行業(yè)的關(guān)鍵信息基礎(chǔ)設(shè)施。具體內(nèi)容可以圍繞資源、環(huán)境和工具進(jìn)行識別,目前已基本納入國家關(guān)鍵信息基礎(chǔ)設(shè)施的管理范疇,在具體執(zhí)行方面需重點針對注冊和認(rèn)證進(jìn)行管控,因此在本文的體系架構(gòu)中其注冊管理和認(rèn)證權(quán)限也應(yīng)為最高級。

    (2)公共區(qū)

    面向城市公共行業(yè)或網(wǎng)絡(luò)空間內(nèi)基礎(chǔ)經(jīng)濟(jì)運行活動而提供的基礎(chǔ)設(shè)施納入公共區(qū)管理范圍,其通常在特定區(qū)域內(nèi)具有較強的公共服務(wù)屬性,在管理上通常由地方政府、行業(yè)主管部門或授權(quán)機構(gòu)執(zhí)行,因此注冊管理和認(rèn)證須由相應(yīng)級別的管理方授權(quán)進(jìn)行,劃分為網(wǎng)絡(luò)空間公共區(qū)。

    (3)開放區(qū)

    公共基礎(chǔ)設(shè)施中具有部分公共基礎(chǔ)設(shè)施屬性或為網(wǎng)絡(luò)空間內(nèi)部分對象提供其他各類基礎(chǔ)服務(wù)的基礎(chǔ)設(shè)施構(gòu)成了網(wǎng)絡(luò)空間的開放區(qū)環(huán)境,該區(qū)域內(nèi)的公共基礎(chǔ)設(shè)施通常呈現(xiàn)體量大、品類多的特點,因此考慮到實施效率等因素,該區(qū)域在建設(shè)模式和管理方式上可以更為靈活,注冊管理和認(rèn)證也可以更為自主可控,如可以在分布式的終端管理節(jié)點進(jìn)行。

    為保障公共基礎(chǔ)設(shè)施穩(wěn)定高效運營,底層需要由5G、全聯(lián)網(wǎng)(物聯(lián)網(wǎng)/工業(yè)互聯(lián)網(wǎng))、下一代互聯(lián)網(wǎng)等新一代網(wǎng)絡(luò)技術(shù),及區(qū)塊鏈、云計算、邊緣計算、人工智能等前沿信息技術(shù)提供全面的技術(shù)支撐。

    3.5 發(fā)展目標(biāo)

    基于網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的分區(qū)規(guī)劃設(shè)計,能夠?qū)崿F(xiàn)我國網(wǎng)絡(luò)建設(shè)和服務(wù)方面的提升。

    (1)網(wǎng)絡(luò)建設(shè)方面

    更開放:通過開放區(qū)為服務(wù)對象、服務(wù)范圍及未來技術(shù)發(fā)展提供更開放的接入環(huán)境和發(fā)展空間。

    更經(jīng)濟(jì):通過對網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的統(tǒng)一規(guī)劃、統(tǒng)籌設(shè)計,提高設(shè)施在公共服務(wù)層面的使用效率,提高設(shè)施管理和維護(hù)的綜合效率。

    更穩(wěn)定:通過分區(qū)的公共基礎(chǔ)設(shè)施空間設(shè)計,保障核心區(qū)的關(guān)鍵網(wǎng)絡(luò)空間需求,有利于納入國家網(wǎng)絡(luò)空間發(fā)展的重要內(nèi)容。

    (2)網(wǎng)絡(luò)服務(wù)方面

    更靈活:網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施可以從對象的環(huán)境、工具和資源需求等方面進(jìn)行效益評估和使用配置,提供更靈活的面向?qū)ο蠓?wù)。

    更高效:將網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施進(jìn)行集中式+分布式的網(wǎng)絡(luò)服務(wù)構(gòu)架設(shè)計,能夠高效利用網(wǎng)絡(luò)空間內(nèi)的各類已有基礎(chǔ)資源,實現(xiàn)兼容且不斷演進(jìn)。

    更安全:將網(wǎng)絡(luò)空間內(nèi)具有公共屬性的工具和資源進(jìn)行統(tǒng)一管理,并重點對對象的認(rèn)證和訪問控制進(jìn)行優(yōu)化,有助于構(gòu)建更加安全的網(wǎng)絡(luò)空間,實現(xiàn)健康的發(fā)展和利用。

    4 網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施安全策略研究

    在網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系安全環(huán)境建設(shè)中,既要注重管理政策的規(guī)劃引導(dǎo),關(guān)注網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施資源的安全共享機制建設(shè),也要在技術(shù)上支撐資源共享活動/設(shè)備中的各類用戶管理、訪問控制等安全保障需求[38]。

    目前針對我國信息化建設(shè)的信息系統(tǒng)安全等級保護(hù)相關(guān)標(biāo)準(zhǔn)規(guī)范是實施較為廣泛的網(wǎng)絡(luò)安全規(guī)范體系之一?!缎畔⑾到y(tǒng)安全等級保護(hù)基本要求》(GB/T 22239-2008)、《計算機信息系統(tǒng)安全保護(hù)等級劃分準(zhǔn)則》(GB 17859-1999)明確的5個等級安全保護(hù)設(shè)計對不同等級的安全管理要求,主要從訪問控制、身份鑒別、標(biāo)記、數(shù)據(jù)防篡改、系統(tǒng)可重置、審計、可信路徑/恢復(fù)等方面進(jìn)行詳細(xì)的配置要求,如表2所示。其中,訪問控制、身份鑒別、標(biāo)記等方面是重點圍繞主體用戶控制管理進(jìn)行的內(nèi)容設(shè)計。

    表2 計算機信息系統(tǒng)安全保護(hù)等級劃分準(zhǔn)則Table 2 The criteria for security protection level of computer information system

    本文充分借鑒網(wǎng)絡(luò)空間安全相關(guān)研究工作基礎(chǔ),以分級的對象管理和認(rèn)證方法為切入點,提出了與網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系相適應(yīng)的用戶認(rèn)證和訪問控制管理機制建議。

    4.1 支持區(qū)塊鏈應(yīng)用的層次化認(rèn)證管理思路

    《計算機信息系統(tǒng)安全保護(hù)等級劃分準(zhǔn)則》將訪問控制分為自主訪問控制和強制訪問控制兩個層級。自主訪問控制是根據(jù)用戶指定方式進(jìn)行授權(quán)用戶的訪問控制。強制訪問控制是為用戶主體和客體指定統(tǒng)一的敏感標(biāo)記,該敏感標(biāo)記是按等級進(jìn)行的分類,任何訪問操作均需要與用戶和客體的等級匹配后方可進(jìn)行訪問。

    因此,針對現(xiàn)有的訪問控制架構(gòu)進(jìn)行優(yōu)化時,可以利用區(qū)塊鏈技術(shù)在安全性、不可逆、不易篡改性和透明性等方面的優(yōu)勢,在不同的訪問控制層采用區(qū)塊鏈的形式對認(rèn)證控制(含身份認(rèn)證和功能認(rèn)證)服務(wù)系統(tǒng)進(jìn)行組織。例如,頂級訪問控制層可以由各行業(yè)控制節(jié)點按照聯(lián)盟鏈結(jié)構(gòu)進(jìn)行組織,通過智能合約等方式保障信息的準(zhǔn)確性,提高身份認(rèn)證和訪問控制的權(quán)威性和安全性。

    此外,根據(jù)實際應(yīng)用需求還可以在對應(yīng)層級進(jìn)行管理節(jié)點和普通節(jié)點的綜合設(shè)計,選取某一個或多個服務(wù)節(jié)點作為管理節(jié)點,不同節(jié)點按照特定的共識機制和不同的公鑰生成/加密方法進(jìn)行差異化管理。管理節(jié)點可以承擔(dān)用戶注冊和與上一層級進(jìn)行認(rèn)證的交互,以及在本區(qū)域內(nèi)智能合約的管理。其他服務(wù)節(jié)點為普通節(jié)點,僅提供向下的用戶注冊認(rèn)證管理服務(wù)。

    因此,通過去中心化的服務(wù)模式可以提高層次化認(rèn)證架構(gòu)中身份管理和認(rèn)證的效率。

    4.2 基于區(qū)塊鏈架構(gòu)的管理+功能雙重認(rèn)證機制

    以認(rèn)證管理架構(gòu)設(shè)計為基礎(chǔ),可以將網(wǎng)絡(luò)空間用戶主體和客體的概念拓展到公共基礎(chǔ)設(shè)施對象上。本文建議公共基礎(chǔ)設(shè)施以全面的訪問控制作為基本要求進(jìn)行執(zhí)行,將身份屬性驗證納入訪問控制消息范圍,并進(jìn)一步將敏感標(biāo)記的設(shè)計根據(jù)公共基礎(chǔ)設(shè)施的管理分配機制納入應(yīng)用控制的認(rèn)證機制中。例如,在接入認(rèn)證方面,可以對核心區(qū)、公共區(qū)的公共基礎(chǔ)設(shè)施按照頂級、行業(yè)級和區(qū)域級進(jìn)行設(shè)計;在訪問控制方面,考慮與區(qū)塊鏈及邊緣計算技術(shù)的結(jié)合,通過敏感標(biāo)記的優(yōu)化設(shè)計綜合考慮分級管理的訪問權(quán)限與城市規(guī)劃單元中的功能區(qū)?街區(qū)?地塊相結(jié)合的組合應(yīng)用,設(shè)置3+3的管理控制和功能控制雙重認(rèn)證機制。

    在訪問控制管理方面,建議核心區(qū)設(shè)施由國家指定的業(yè)務(wù)部門或授權(quán)機構(gòu)執(zhí)行審核,稱為國家網(wǎng)絡(luò)安全的中心管理節(jié)點;公共區(qū)由相應(yīng)的行業(yè)主管部門或授權(quán)機構(gòu)執(zhí)行審核,稱為對應(yīng)的行業(yè)管理節(jié)點(如電力、電信管理部門等),管理節(jié)點可以進(jìn)一步采用聯(lián)盟鏈的形式進(jìn)行建設(shè)。在訪問應(yīng)用服務(wù)時則通過識別敏感標(biāo)記中的權(quán)限定義信息,將對應(yīng)區(qū)內(nèi)設(shè)施納入到區(qū)域級的功能節(jié)點進(jìn)行管理,提高管理效率。網(wǎng)絡(luò)空間訪問控制管理架構(gòu)如圖5所示。

    進(jìn)一步,可以將網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的訪問用戶按照相應(yīng)的控制等級及標(biāo)記要求進(jìn)行分類對應(yīng)。例如,核心區(qū)關(guān)鍵基礎(chǔ)設(shè)施的認(rèn)證對應(yīng)頂級訪問控制節(jié)點,其服務(wù)對應(yīng)用戶敏感標(biāo)記中相適應(yīng)的功能節(jié)點。公共區(qū)基礎(chǔ)設(shè)施的管理對應(yīng)行業(yè)控制節(jié)點及相應(yīng)的功能節(jié)點,開放區(qū)對應(yīng)區(qū)域自主訪問控制節(jié)點,用戶的高、中、低級也可分別與之對應(yīng),或者根據(jù)實際需求進(jìn)行更細(xì)化的分類。

    4.3 雙重認(rèn)證訪問控制流程的相關(guān)說明

    在層次化訪問控制設(shè)計框架下,對應(yīng)級別的設(shè)施在進(jìn)行注冊和維護(hù)管理時,需要向其所對應(yīng)級別的管理節(jié)點進(jìn)行申請和認(rèn)證,在進(jìn)行功能應(yīng)用時需要向其對應(yīng)的功能節(jié)點進(jìn)行認(rèn)證,層次化管理和去中心化服務(wù)模式能夠較好地滿足在服務(wù)效率和安全性方面的多重要求。

    處于公共區(qū)的公共基礎(chǔ)設(shè)施在注冊時,需要依次向區(qū)域?qū)蛹靶袠I(yè)層提出申請,其交互流程如圖6所示。

    圖6 用戶交互流程Figure 6 The process of user interaction

    終端設(shè)施提出注冊申請后,區(qū)域控制功能節(jié)點向行業(yè)訪問控制管理節(jié)點申請核驗身份信息,核驗通過后,統(tǒng)一認(rèn)證服務(wù)系統(tǒng)將為其生成唯一的網(wǎng)絡(luò)身份ID和敏感標(biāo)記,并根據(jù)節(jié)點的類型和等級,采用矩陣運算或哈希函數(shù)運算等方法生成基于身份的公鑰信息,返回給終端及對應(yīng)的功能控制節(jié)點。

    用戶申請公共基礎(chǔ)設(shè)施的網(wǎng)絡(luò)連接和應(yīng)用服務(wù)前,需獲得自身的網(wǎng)絡(luò)身份ID,其訪問某對象的申請流程為:獲得對應(yīng)級別管理節(jié)點的身份認(rèn)證和敏感標(biāo)記信息,管理節(jié)點將其申請轉(zhuǎn)接對應(yīng)功能節(jié)點的應(yīng)用認(rèn)證。例如,某電力公司管理員申請訪問城市大數(shù)據(jù)中心的某項環(huán)境監(jiān)測系統(tǒng)信息,需要通過與城市大數(shù)據(jù)中心對應(yīng)行業(yè)訪問控制節(jié)點的認(rèn)證,并與區(qū)域節(jié)點進(jìn)行功能認(rèn)證后,方可進(jìn)行網(wǎng)絡(luò)連接,用戶認(rèn)證流程如圖7所示。

    圖7 用戶認(rèn)證流程Figure 7 The process of user authentication

    用戶首先通過認(rèn)證服務(wù)系統(tǒng)客戶端驗證和查詢對應(yīng)的區(qū)域節(jié)點地址,根據(jù)反饋情況向區(qū)域功能節(jié)點發(fā)起認(rèn)證申請,可以陸續(xù)基于其公鑰信息在區(qū)域自主控制功能節(jié)點及行業(yè)控制管理節(jié)點進(jìn)行客戶端合約認(rèn)證和認(rèn)證服務(wù)系統(tǒng)側(cè)訪問認(rèn)證等安全控制操作,并通過其敏感標(biāo)記信息完成與訪問對象的區(qū)域功能節(jié)點的功能認(rèn)證后,實現(xiàn)目標(biāo)設(shè)備的訪問。

    在上述管理模式的基礎(chǔ)上,公共基礎(chǔ)設(shè)施及用戶還可以通過統(tǒng)一的網(wǎng)絡(luò)空間身份編碼進(jìn)行標(biāo)識,將敏感標(biāo)記中其對應(yīng)的用戶身份級別和類型信息納入其中,也可以將該標(biāo)識作為公鑰在身份認(rèn)證過程中進(jìn)行使用,以提高密鑰管理和身份認(rèn)證過程的效率。

    5 結(jié)束語

    本文充分借鑒了城市公共基礎(chǔ)設(shè)施體系的相關(guān)理論和設(shè)計方法,分析了公共基礎(chǔ)設(shè)施作為準(zhǔn)公共物品屬性,在網(wǎng)絡(luò)空間內(nèi)的基礎(chǔ)資源、活動工具、運行環(huán)境等方面應(yīng)該覆蓋的內(nèi)容和邊界;明確了網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施的內(nèi)涵,并基于此提出了網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施體系分區(qū)化管理的概念,在總體架構(gòu)中按照核心區(qū)、公共區(qū)和開放區(qū)進(jìn)行分區(qū)分層的設(shè)計。此外,本文從網(wǎng)絡(luò)空間安全管理的角度出發(fā),重點針對網(wǎng)絡(luò)空間安全中的組織安全管理需求,在網(wǎng)絡(luò)空間公共基礎(chǔ)設(shè)施層次化管理架構(gòu)和認(rèn)證流程設(shè)計等方面提出了一些具體的組織方法和建議,具有較強的可實施性和應(yīng)用拓展性。

    猜你喜歡
    管理
    棗前期管理再好,后期管不好,前功盡棄
    《水利建設(shè)與管理》征訂啟事
    聆聽兩會
    ——關(guān)注自然資源管理
    2020年《水利建設(shè)與管理》征稿函
    運行管理
    管理就是溝通
    中國制筆(2019年1期)2019-08-28 10:07:26
    加強土木工程造價的控制與管理
    如何加強土木工程造價的控制與管理
    解秘眼健康管理
    “這下管理創(chuàng)新了!等7則
    雜文月刊(2016年1期)2016-02-11 10:35:51
    26uuu在线亚洲综合色| 1024香蕉在线观看| 91精品伊人久久大香线蕉| 9191精品国产免费久久| 亚洲精品中文字幕在线视频| 亚洲男人天堂网一区| 天天躁夜夜躁狠狠久久av| 性少妇av在线| 91精品伊人久久大香线蕉| 如何舔出高潮| 亚洲欧美成人精品一区二区| 亚洲av欧美aⅴ国产| 中文字幕色久视频| 日本欧美国产在线视频| 亚洲第一av免费看| 精品国产一区二区三区久久久樱花| 欧美人与性动交α欧美精品济南到 | 欧美日韩一级在线毛片| 天美传媒精品一区二区| 纯流量卡能插随身wifi吗| 国产伦理片在线播放av一区| 日韩av在线免费看完整版不卡| 中文精品一卡2卡3卡4更新| 亚洲成人手机| 亚洲国产成人一精品久久久| 久久国产精品大桥未久av| 少妇被粗大猛烈的视频| 精品少妇内射三级| 久久久国产欧美日韩av| 熟女电影av网| 啦啦啦在线观看免费高清www| 性色avwww在线观看| 熟妇人妻不卡中文字幕| 伦理电影大哥的女人| 哪个播放器可以免费观看大片| 搡老乐熟女国产| 欧美精品亚洲一区二区| 久久狼人影院| 黄色一级大片看看| 黑丝袜美女国产一区| 如何舔出高潮| 免费黄频网站在线观看国产| 免费黄频网站在线观看国产| 久久精品aⅴ一区二区三区四区 | 久久久久精品人妻al黑| 亚洲成人av在线免费| 久久久久久久久久久久大奶| 国产熟女午夜一区二区三区| 成人国产av品久久久| 久久久久国产网址| 黄频高清免费视频| 91aial.com中文字幕在线观看| 最近最新中文字幕免费大全7| 亚洲国产精品一区三区| 大片免费播放器 马上看| 久久久久久久大尺度免费视频| 亚洲精品美女久久av网站| 如日韩欧美国产精品一区二区三区| 亚洲国产精品一区三区| 亚洲国产成人一精品久久久| 国产av码专区亚洲av| 国产成人免费观看mmmm| 在现免费观看毛片| 国产日韩欧美在线精品| 国产在线视频一区二区| 天天躁夜夜躁狠狠久久av| 中国三级夫妇交换| av国产精品久久久久影院| 国产精品久久久久久精品电影小说| 极品少妇高潮喷水抽搐| 亚洲精品一二三| 永久免费av网站大全| 超色免费av| 日本午夜av视频| 日韩中文字幕视频在线看片| av天堂久久9| 精品卡一卡二卡四卡免费| 国产成人aa在线观看| 黄色 视频免费看| 国产日韩欧美在线精品| 亚洲精品美女久久久久99蜜臀 | 韩国高清视频一区二区三区| 极品少妇高潮喷水抽搐| 亚洲在久久综合| 亚洲天堂av无毛| 最近中文字幕高清免费大全6| 丝袜在线中文字幕| 十八禁网站网址无遮挡| 色吧在线观看| 97精品久久久久久久久久精品| 80岁老熟妇乱子伦牲交| 91国产中文字幕| 黄片播放在线免费| 黑人巨大精品欧美一区二区蜜桃| 你懂的网址亚洲精品在线观看| 十分钟在线观看高清视频www| 又黄又粗又硬又大视频| 久久国产精品男人的天堂亚洲| 亚洲一码二码三码区别大吗| 久久ye,这里只有精品| 日韩一区二区三区影片| 90打野战视频偷拍视频| 在线观看三级黄色| 亚洲五月色婷婷综合| 日韩在线高清观看一区二区三区| 欧美日韩精品成人综合77777| 91精品国产国语对白视频| 99久久人妻综合| 99国产综合亚洲精品| 一级毛片 在线播放| 欧美国产精品va在线观看不卡| 成年动漫av网址| 91午夜精品亚洲一区二区三区| 亚洲欧洲精品一区二区精品久久久 | 国产成人a∨麻豆精品| 欧美成人午夜免费资源| 大话2 男鬼变身卡| 青春草亚洲视频在线观看| 国产无遮挡羞羞视频在线观看| 不卡视频在线观看欧美| 中文字幕色久视频| 一级黄片播放器| 亚洲在久久综合| 成人国产麻豆网| 亚洲国产最新在线播放| 国产av一区二区精品久久| 只有这里有精品99| 日韩欧美精品免费久久| 欧美在线黄色| 国产精品偷伦视频观看了| 久久97久久精品| 精品人妻一区二区三区麻豆| 一级片免费观看大全| 成人漫画全彩无遮挡| 国产一级毛片在线| 中文字幕人妻丝袜制服| 中国国产av一级| 国产精品蜜桃在线观看| 久久精品国产亚洲av高清一级| 欧美中文综合在线视频| 天天躁夜夜躁狠狠躁躁| 国产福利在线免费观看视频| 国产综合精华液| 在线亚洲精品国产二区图片欧美| 久久精品国产亚洲av高清一级| 亚洲精品国产色婷婷电影| 啦啦啦啦在线视频资源| 免费女性裸体啪啪无遮挡网站| 午夜久久久在线观看| 国产无遮挡羞羞视频在线观看| 日韩熟女老妇一区二区性免费视频| 一本色道久久久久久精品综合| 亚洲欧美中文字幕日韩二区| av有码第一页| 国产精品三级大全| 妹子高潮喷水视频| 性高湖久久久久久久久免费观看| 97在线视频观看| 蜜桃国产av成人99| 欧美激情高清一区二区三区 | 亚洲欧美中文字幕日韩二区| 亚洲中文av在线| 中国三级夫妇交换| 老汉色∧v一级毛片| 亚洲精品乱久久久久久| 男人爽女人下面视频在线观看| 久久狼人影院| 亚洲天堂av无毛| 一本久久精品| 亚洲欧美成人精品一区二区| 五月伊人婷婷丁香| 777久久人妻少妇嫩草av网站| 欧美黄色片欧美黄色片| av又黄又爽大尺度在线免费看| 九色亚洲精品在线播放| 国产在线视频一区二区| 成人国产av品久久久| 欧美成人午夜免费资源| 欧美精品一区二区大全| 在线观看免费高清a一片| 日本欧美视频一区| 美女主播在线视频| 春色校园在线视频观看| 亚洲久久久国产精品| 极品人妻少妇av视频| 亚洲一区中文字幕在线| 国产精品一区二区在线观看99| 啦啦啦在线观看免费高清www| 亚洲精品在线美女| 亚洲精品aⅴ在线观看| 久久热在线av| 亚洲av综合色区一区| 蜜桃在线观看..| 99香蕉大伊视频| 制服人妻中文乱码| 女人被躁到高潮嗷嗷叫费观| a级毛片在线看网站| 精品少妇久久久久久888优播| 国产日韩欧美亚洲二区| 中文欧美无线码| 性色avwww在线观看| 热99久久久久精品小说推荐| 少妇被粗大猛烈的视频| 亚洲国产色片| 成人亚洲精品一区在线观看| 搡老乐熟女国产| 亚洲国产精品国产精品| 男女啪啪激烈高潮av片| 精品久久久精品久久久| 精品少妇黑人巨大在线播放| 亚洲精品国产一区二区精华液| 亚洲av综合色区一区| 免费观看在线日韩| 国产1区2区3区精品| 欧美97在线视频| 日本午夜av视频| 五月天丁香电影| 成年人免费黄色播放视频| 亚洲国产欧美在线一区| 欧美亚洲日本最大视频资源| 边亲边吃奶的免费视频| 久久97久久精品| 久久婷婷青草| 免费观看a级毛片全部| av不卡在线播放| 精品少妇黑人巨大在线播放| 久久久精品94久久精品| 美女大奶头黄色视频| 91在线精品国自产拍蜜月| 亚洲三级黄色毛片| 亚洲av.av天堂| 麻豆乱淫一区二区| 成人毛片60女人毛片免费| 午夜免费鲁丝| 秋霞伦理黄片| 最近最新中文字幕免费大全7| 韩国高清视频一区二区三区| 国产精品 国内视频| 好男人视频免费观看在线| 国产成人午夜福利电影在线观看| 99久久中文字幕三级久久日本| 丰满饥渴人妻一区二区三| 国产av码专区亚洲av| 国产综合精华液| 国产xxxxx性猛交| av福利片在线| 狂野欧美激情性bbbbbb| 免费观看在线日韩| 国精品久久久久久国模美| 午夜免费观看性视频| 免费播放大片免费观看视频在线观看| 国产无遮挡羞羞视频在线观看| 久久99一区二区三区| av在线播放精品| 久久精品熟女亚洲av麻豆精品| 少妇被粗大猛烈的视频| 超碰97精品在线观看| 成人毛片60女人毛片免费| 精品少妇内射三级| 看免费成人av毛片| 丰满迷人的少妇在线观看| 在线观看人妻少妇| 精品久久久久久电影网| 久热久热在线精品观看| 国产精品国产三级专区第一集| 日韩欧美精品免费久久| 国产免费现黄频在线看| 国产人伦9x9x在线观看 | 丰满乱子伦码专区| 一级爰片在线观看| 精品一区二区免费观看| 午夜精品国产一区二区电影| 日产精品乱码卡一卡2卡三| 日韩免费高清中文字幕av| 亚洲成av片中文字幕在线观看 | 99久久人妻综合| 国产精品偷伦视频观看了| 亚洲精品日本国产第一区| 久久女婷五月综合色啪小说| 精品少妇久久久久久888优播| 人妻 亚洲 视频| 亚洲一级一片aⅴ在线观看| 亚洲国产欧美日韩在线播放| 欧美日韩成人在线一区二区| 少妇人妻精品综合一区二区| 国产女主播在线喷水免费视频网站| 大片免费播放器 马上看| 伦精品一区二区三区| av网站在线播放免费| 伊人久久大香线蕉亚洲五| 只有这里有精品99| 欧美成人午夜精品| freevideosex欧美| 日韩 亚洲 欧美在线| 大陆偷拍与自拍| 久久青草综合色| 国产av一区二区精品久久| 亚洲成国产人片在线观看| 精品99又大又爽又粗少妇毛片| 久久99精品国语久久久| 777久久人妻少妇嫩草av网站| 一级毛片黄色毛片免费观看视频| 丝袜美足系列| 黄色一级大片看看| 亚洲,一卡二卡三卡| 另类亚洲欧美激情| 欧美国产精品一级二级三级| 日韩精品免费视频一区二区三区| 爱豆传媒免费全集在线观看| 一个人免费看片子| 国产成人免费观看mmmm| 十八禁高潮呻吟视频| 日本av免费视频播放| 午夜激情av网站| 久久人妻熟女aⅴ| 99久久综合免费| 亚洲精品美女久久久久99蜜臀 | 可以免费在线观看a视频的电影网站 | 少妇精品久久久久久久| 国产成人免费观看mmmm| 新久久久久国产一级毛片| 又大又黄又爽视频免费| 欧美成人精品欧美一级黄| 18在线观看网站| 三级国产精品片| 国产福利在线免费观看视频| 国产老妇伦熟女老妇高清| 黑丝袜美女国产一区| 国产成人免费无遮挡视频| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 女的被弄到高潮叫床怎么办| 日韩中字成人| 中文字幕制服av| 亚洲精品久久久久久婷婷小说| 亚洲一区中文字幕在线| 欧美精品一区二区大全| 欧美精品亚洲一区二区| 亚洲激情五月婷婷啪啪| 亚洲欧美精品综合一区二区三区 | 少妇猛男粗大的猛烈进出视频| 欧美老熟妇乱子伦牲交| 国产视频首页在线观看| a级片在线免费高清观看视频| 男女边吃奶边做爰视频| 午夜福利一区二区在线看| 国产男人的电影天堂91| 精品视频人人做人人爽| 亚洲内射少妇av| 欧美97在线视频| 日韩中文字幕视频在线看片| 国产xxxxx性猛交| 免费不卡的大黄色大毛片视频在线观看| 日日啪夜夜爽| 亚洲综合色惰| 国产野战对白在线观看| 中文字幕色久视频| 日韩电影二区| 男女高潮啪啪啪动态图| 成人午夜精彩视频在线观看| 国产片内射在线| 秋霞伦理黄片| 国产视频首页在线观看| 欧美黄色片欧美黄色片| 观看美女的网站| 黄片小视频在线播放| 国产人伦9x9x在线观看 | 一二三四中文在线观看免费高清| 黄色一级大片看看| 亚洲婷婷狠狠爱综合网| 国产有黄有色有爽视频| 国产精品久久久久成人av| 丝袜美腿诱惑在线| 不卡av一区二区三区| 寂寞人妻少妇视频99o| 午夜福利影视在线免费观看| 国产免费福利视频在线观看| 免费观看无遮挡的男女| 在线观看免费视频网站a站| kizo精华| 亚洲av电影在线进入| 国产精品人妻久久久影院| 免费黄网站久久成人精品| freevideosex欧美| 精品久久久精品久久久| 国产又色又爽无遮挡免| 亚洲国产av新网站| 亚洲国产色片| 女性生殖器流出的白浆| 男女国产视频网站| 国产在线一区二区三区精| av在线观看视频网站免费| 日韩免费高清中文字幕av| 亚洲成av片中文字幕在线观看 | 久久99热这里只频精品6学生| 欧美精品高潮呻吟av久久| 如日韩欧美国产精品一区二区三区| av不卡在线播放| 国产欧美亚洲国产| 午夜久久久在线观看| 精品亚洲乱码少妇综合久久| 亚洲美女黄色视频免费看| 亚洲av免费高清在线观看| 国产成人精品久久久久久| 国产老妇伦熟女老妇高清| 中文天堂在线官网| 人妻系列 视频| 黄片无遮挡物在线观看| 亚洲国产成人一精品久久久| 少妇人妻久久综合中文| 国产又爽黄色视频| 久久久精品94久久精品| 中文字幕人妻丝袜一区二区 | 一区二区三区乱码不卡18| 亚洲精品一二三| 精品国产乱码久久久久久小说| 亚洲精品久久午夜乱码| 熟妇人妻不卡中文字幕| 男女免费视频国产| 亚洲成人手机| 国产成人午夜福利电影在线观看| a级毛片在线看网站| 亚洲 欧美一区二区三区| 99久久人妻综合| 日韩av不卡免费在线播放| 又黄又粗又硬又大视频| 五月开心婷婷网| 国产精品 欧美亚洲| 午夜福利视频在线观看免费| 中文字幕人妻熟女乱码| 久久精品夜色国产| 中文字幕另类日韩欧美亚洲嫩草| 啦啦啦中文免费视频观看日本| 久久毛片免费看一区二区三区| 18禁裸乳无遮挡动漫免费视频| 18禁观看日本| 只有这里有精品99| 国产 精品1| 在线天堂最新版资源| 久久 成人 亚洲| 亚洲国产精品999| 免费av中文字幕在线| 高清在线视频一区二区三区| 人成视频在线观看免费观看| 日本爱情动作片www.在线观看| 少妇的逼水好多| 亚洲美女视频黄频| 久久人人爽人人片av| 欧美最新免费一区二区三区| 一级毛片电影观看| 亚洲国产毛片av蜜桃av| 男女边吃奶边做爰视频| 亚洲在久久综合| 嫩草影院入口| 纵有疾风起免费观看全集完整版| 一区二区三区激情视频| 国产欧美日韩综合在线一区二区| 制服诱惑二区| 如何舔出高潮| 亚洲一级一片aⅴ在线观看| 亚洲精品久久成人aⅴ小说| 亚洲欧洲精品一区二区精品久久久 | 女的被弄到高潮叫床怎么办| 日韩大片免费观看网站| 成年女人在线观看亚洲视频| 综合色丁香网| 人人妻人人澡人人爽人人夜夜| av不卡在线播放| 亚洲av中文av极速乱| 黄色 视频免费看| 色婷婷av一区二区三区视频| 久久这里有精品视频免费| 国产日韩一区二区三区精品不卡| 国产在线免费精品| 99久国产av精品国产电影| 亚洲av中文av极速乱| 欧美日韩亚洲高清精品| 可以免费在线观看a视频的电影网站 | 高清视频免费观看一区二区| 久久午夜福利片| 国产免费福利视频在线观看| 天堂俺去俺来也www色官网| 国产国语露脸激情在线看| 老女人水多毛片| 男女高潮啪啪啪动态图| 精品酒店卫生间| 2021少妇久久久久久久久久久| 亚洲av中文av极速乱| 国产欧美日韩一区二区三区在线| 亚洲成国产人片在线观看| 热99久久久久精品小说推荐| 男男h啪啪无遮挡| 久久99一区二区三区| 天堂俺去俺来也www色官网| 日本wwww免费看| 男人添女人高潮全过程视频| 国产精品女同一区二区软件| 人体艺术视频欧美日本| 精品少妇一区二区三区视频日本电影 | 日韩制服丝袜自拍偷拍| 一级片'在线观看视频| 欧美老熟妇乱子伦牲交| 9191精品国产免费久久| 男女啪啪激烈高潮av片| 久久人人97超碰香蕉20202| 啦啦啦在线观看免费高清www| 欧美黄色片欧美黄色片| 一区二区三区乱码不卡18| 亚洲精品自拍成人| 日韩制服丝袜自拍偷拍| 97在线视频观看| 国产成人精品福利久久| 亚洲国产精品成人久久小说| 观看av在线不卡| 国产又爽黄色视频| 精品少妇久久久久久888优播| 一级毛片黄色毛片免费观看视频| 人妻系列 视频| 精品一区二区免费观看| 国产午夜精品一二区理论片| 国产成人a∨麻豆精品| 欧美精品一区二区大全| 18禁动态无遮挡网站| 日韩中文字幕视频在线看片| 亚洲成av片中文字幕在线观看 | 大香蕉久久网| 免费日韩欧美在线观看| 国产 一区精品| tube8黄色片| 亚洲情色 制服丝袜| 国产av码专区亚洲av| 三级国产精品片| 亚洲av男天堂| 亚洲,欧美精品.| 性色avwww在线观看| 最新的欧美精品一区二区| 国产在线一区二区三区精| 黑人猛操日本美女一级片| 日韩熟女老妇一区二区性免费视频| 国产精品久久久久久精品电影小说| 婷婷色综合大香蕉| 久久精品熟女亚洲av麻豆精品| 亚洲色图综合在线观看| 纵有疾风起免费观看全集完整版| 18禁动态无遮挡网站| 2018国产大陆天天弄谢| www.av在线官网国产| 国产精品嫩草影院av在线观看| 91aial.com中文字幕在线观看| 亚洲国产毛片av蜜桃av| 黄色怎么调成土黄色| 大话2 男鬼变身卡| 久久久久久久大尺度免费视频| 高清av免费在线| 看免费成人av毛片| 久久久久精品性色| 成人国产麻豆网| 少妇被粗大的猛进出69影院| av国产久精品久网站免费入址| 这个男人来自地球电影免费观看 | 国产高清不卡午夜福利| 在线免费观看不下载黄p国产| 国产精品无大码| 黄色 视频免费看| 一区二区av电影网| 亚洲精品一区蜜桃| 一区二区av电影网| 国产乱人偷精品视频| 十分钟在线观看高清视频www| av在线老鸭窝| 国产一区亚洲一区在线观看| 久久精品aⅴ一区二区三区四区 | 国产乱来视频区| 男人操女人黄网站| av线在线观看网站| 亚洲成国产人片在线观看| 欧美97在线视频| 国产亚洲最大av| 国产成人一区二区在线| 国产免费视频播放在线视频| 国产熟女欧美一区二区| 老司机影院成人| 最新的欧美精品一区二区| 国产精品蜜桃在线观看| 桃花免费在线播放| 国产淫语在线视频| www.熟女人妻精品国产| 国产探花极品一区二区| 99九九在线精品视频| 男女下面插进去视频免费观看| 啦啦啦啦在线视频资源| 大片电影免费在线观看免费| 久久精品人人爽人人爽视色| 麻豆精品久久久久久蜜桃| 亚洲一级一片aⅴ在线观看| 国产在线视频一区二区| 国产成人aa在线观看| 国产成人免费观看mmmm| 十八禁网站网址无遮挡| 午夜激情av网站| 日日撸夜夜添| 人人妻人人爽人人添夜夜欢视频| 国产片特级美女逼逼视频| 国产极品粉嫩免费观看在线| 日韩在线高清观看一区二区三区| 久久国内精品自在自线图片| 美女主播在线视频| 国产精品国产av在线观看| 我要看黄色一级片免费的| 免费观看a级毛片全部| 赤兔流量卡办理| 99久久精品国产国产毛片| 69精品国产乱码久久久| 另类亚洲欧美激情| 欧美 亚洲 国产 日韩一| 国产国语露脸激情在线看|