• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    三峽梯級(jí)水庫(kù)調(diào)度自動(dòng)化系統(tǒng)云平臺(tái)設(shè)計(jì)

    2022-11-23 03:27:10周保紅張玉松
    水利水電快報(bào) 2022年10期
    關(guān)鍵詞:備份虛擬化集群

    周保紅,劉 帥,張玉松

    (1.三峽水利樞紐梯級(jí)調(diào)度通信中心,湖北 宜昌 443002; 2.智慧長(zhǎng)江與水電科學(xué)湖北省重點(diǎn)實(shí)驗(yàn)室,湖北 宜昌 443002)

    0 引 言

    云計(jì)算是一種采用大量低成本的標(biāo)準(zhǔn)計(jì)算單元,通過(guò)網(wǎng)絡(luò)連接構(gòu)建基礎(chǔ)設(shè)施平臺(tái),以實(shí)現(xiàn)各種IT基礎(chǔ)設(shè)施資源共享和按需分配的信息技術(shù)[1]。云技術(shù)已在各個(gè)行業(yè)得到廣泛應(yīng)用,如國(guó)家電網(wǎng)已通過(guò)云技術(shù)建設(shè)了調(diào)控云,采用物理分布與邏輯統(tǒng)一相結(jié)合的分級(jí)部署設(shè)計(jì)方式,形成了國(guó)調(diào)中心主節(jié)點(diǎn)與各省級(jí)調(diào)度機(jī)構(gòu)協(xié)同節(jié)點(diǎn)共同組成的基礎(chǔ)云資源集合[2]。同時(shí),云基礎(chǔ)架構(gòu)的引入有效解決了傳統(tǒng)基礎(chǔ)架構(gòu)的問(wèn)題。云基礎(chǔ)架構(gòu)在傳統(tǒng)基礎(chǔ)架構(gòu)計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)硬件層的基礎(chǔ)上,增加了虛擬化層、云層。相對(duì)于傳統(tǒng)IT基礎(chǔ)架構(gòu),云基礎(chǔ)架構(gòu)通過(guò)虛擬化整合與自動(dòng)化,應(yīng)用系統(tǒng)共享基礎(chǔ)架構(gòu)資源池,實(shí)現(xiàn)高利用率、高可用性、低成本、低能耗;并通過(guò)云平臺(tái)層的自動(dòng)化管理,實(shí)現(xiàn)快速部署、易于擴(kuò)展、智能管理。新一代水庫(kù)調(diào)度自動(dòng)化系統(tǒng)在數(shù)據(jù)存儲(chǔ)方面引入了基于CRAID的虛擬存儲(chǔ)技術(shù)、存儲(chǔ)雙活技術(shù)、集群技術(shù)等。

    三峽梯級(jí)水庫(kù)調(diào)度自動(dòng)化系統(tǒng)原本為集中式數(shù)據(jù)中心模式,可為系統(tǒng)提供物理設(shè)備集中存放、運(yùn)行和管理服務(wù)[3]。該構(gòu)架方式為傳統(tǒng) “專機(jī)專用”方式,易于部署,在系統(tǒng)建設(shè)初期發(fā)揮較大作用。隨著業(yè)務(wù)的擴(kuò)張以及應(yīng)用需求的不斷豐富,該方式的不足逐漸顯現(xiàn)。受能源、空間、成本和管理等方面的制約,系統(tǒng)管理、運(yùn)行、維護(hù)成本的顯著增加,集中建設(shè)的優(yōu)勢(shì)不能進(jìn)一步體現(xiàn)。因此,本文提出了三峽梯級(jí)水庫(kù)調(diào)度自動(dòng)化系統(tǒng)云平臺(tái)的總體方案,闡述了云平臺(tái)計(jì)算資源池、網(wǎng)絡(luò)方案、存儲(chǔ)資源池、云計(jì)算管理平臺(tái)的具體實(shí)現(xiàn)方法。

    1 云平臺(tái)實(shí)施關(guān)鍵支撐技術(shù)

    構(gòu)建云平臺(tái)的關(guān)鍵在于較好地解決云基礎(chǔ)設(shè)施數(shù)據(jù)存儲(chǔ)的穩(wěn)定性、高效性、安全性問(wèn)題,設(shè)計(jì)主要應(yīng)用CRAID虛擬存儲(chǔ)技術(shù)、存儲(chǔ)雙活技術(shù)、集群技術(shù)來(lái)解決上述問(wèn)題。

    1.1 虛擬存儲(chǔ)技術(shù)

    高性能的存儲(chǔ)是構(gòu)建云平臺(tái)的基礎(chǔ)。劉艷等[4]借鑒集群文件系統(tǒng)“分布式虛擬磁盤”的概念,針對(duì)大規(guī)模 RAID提出了一種新的CSRAID存儲(chǔ)結(jié)構(gòu),其由若干結(jié)構(gòu)不同SubRAID組成,并能為各用戶提供一個(gè)由SubRAID物理存儲(chǔ)空間構(gòu)成的、始終適應(yīng)用戶I/0需求的虛擬磁盤。通過(guò)仿真實(shí)驗(yàn)結(jié)果表明:與傳統(tǒng)結(jié)構(gòu)大規(guī)模 RAID 系統(tǒng)相比,同樣大小存儲(chǔ)空間的CSRAID系統(tǒng)的I/0性能具有顯著優(yōu)勢(shì)?;贑SRAID的商用技術(shù)已得到應(yīng)用,并且從CRAID 1.0發(fā)展到CRAID 2.0。CRAID 1.0原理主要是通過(guò)將磁盤細(xì)分為數(shù)千甚至數(shù)萬(wàn)個(gè)小單元進(jìn)行單獨(dú)管理(引入了Cell層),在單元內(nèi)發(fā)生的故障和問(wèn)題采用其他單元替換與屏蔽故障單元方式進(jìn)行處理,避免對(duì)整個(gè)磁盤進(jìn)行數(shù)據(jù)重建。在進(jìn)行全盤數(shù)據(jù)重建時(shí)該技術(shù)也會(huì)將健康單元數(shù)據(jù)提前克隆到新磁盤中,只對(duì)個(gè)別故障單元數(shù)據(jù)進(jìn)行校驗(yàn)計(jì)算重建。CRAID 2.0在CRAID 1.0基礎(chǔ)上采用全新算法和三重?cái)?shù)據(jù)校驗(yàn)機(jī)制,在保證數(shù)據(jù)安全、磁盤空間使用率和性能的前提下,在保護(hù)力度上更優(yōu)異,其較傳統(tǒng)RAID技術(shù)優(yōu)勢(shì)見表1。本文選取具有CRAID 2.0技術(shù)的產(chǎn)品來(lái)構(gòu)建存儲(chǔ)體系以提升存儲(chǔ)性能與數(shù)據(jù)穩(wěn)定性。

    表1 RAID技術(shù)比較Tab.1 RAID technology comparison

    1.2 存儲(chǔ)雙活技術(shù)

    為避免傳統(tǒng)數(shù)據(jù)中心故障導(dǎo)致丟失數(shù)據(jù)的情況,數(shù)據(jù)中心普遍采用了存儲(chǔ)雙活技術(shù)。主要做法為運(yùn)用2套存儲(chǔ)系統(tǒng),兩者互為鏡像,當(dāng)一個(gè)存儲(chǔ)系統(tǒng)發(fā)生故障時(shí),業(yè)務(wù)自動(dòng)切換到另一個(gè)存儲(chǔ)系統(tǒng)中[5]。存儲(chǔ)雙活技術(shù)對(duì)存儲(chǔ)網(wǎng)絡(luò)要求極高,一般用于1 km范圍內(nèi)容的保護(hù)設(shè)計(jì),在配合遠(yuǎn)距離集群軟件下使用其雙活功能也只能擴(kuò)展到數(shù)十千米范圍內(nèi),該技術(shù)一般用于進(jìn)行同城災(zāi)備保護(hù)。

    傳統(tǒng)的雙活存儲(chǔ)方案無(wú)法由存儲(chǔ)陣列自身直接實(shí)現(xiàn),更多的是通過(guò)在服務(wù)器上增加卷鏡像軟件,或者通過(guò)增加額外的存儲(chǔ)虛擬化引擎實(shí)現(xiàn),這兩種方式存在的弊端如下:① 卷鏡像軟件實(shí)施復(fù)雜,對(duì)應(yīng)用業(yè)務(wù)影響大;② 存儲(chǔ)虛擬化引擎存在性能、可靠性的瓶頸以及兼容性問(wèn)題;③ 相關(guān)軟件購(gòu)買成本較高,維護(hù)開銷大。

    本文選取內(nèi)置存儲(chǔ)引擎的國(guó)產(chǎn)化雙活存儲(chǔ)產(chǎn)品保護(hù)云平臺(tái)的數(shù)據(jù),在復(fù)原時(shí)間目標(biāo)(Recovery Time Objective,RTO)、復(fù)原點(diǎn)目標(biāo)(Recovery Point Objective,RPO)的目標(biāo)實(shí)現(xiàn)上具備優(yōu)勢(shì),其主要優(yōu)點(diǎn)如下:① 讀寫并發(fā),雙活;② 自動(dòng)化秒級(jí)完成故障存儲(chǔ)陣列切換;③ 采用虛擬卷技術(shù),無(wú)需操作系統(tǒng)額外安裝軟件支持;④ 內(nèi)部專用萬(wàn)兆網(wǎng),數(shù)據(jù)同步高速;⑤ 雙陣列控制器冗余,形成高可靠的雙活四控結(jié)構(gòu)。

    1.3 集群技術(shù)

    構(gòu)建系統(tǒng)云平臺(tái)涉及的關(guān)鍵集群技術(shù)主要包括核心數(shù)據(jù)庫(kù)集群與虛擬化集群技術(shù)。

    1.3.1 核心數(shù)據(jù)庫(kù)集群技術(shù)

    集群數(shù)據(jù)庫(kù)的數(shù)據(jù)分配技術(shù)可提升數(shù)據(jù)庫(kù)均衡性,提高數(shù)據(jù)庫(kù)性能、提高數(shù)據(jù)使用率[6]。作為整個(gè)系統(tǒng)最重要的部分,從安全性能角度考慮,核心數(shù)據(jù)庫(kù)采用高性能物理機(jī)方式進(jìn)行部署。每個(gè)核心數(shù)據(jù)庫(kù)采用集群的方式構(gòu)建。數(shù)據(jù)庫(kù)集群包含數(shù)臺(tái)高性能服務(wù)器作為組成節(jié)點(diǎn),節(jié)點(diǎn)間通信通過(guò)高速內(nèi)部通信網(wǎng)絡(luò)進(jìn)行,節(jié)點(diǎn)間高速通信網(wǎng)絡(luò)可以采用萬(wàn)兆網(wǎng)絡(luò)的方式,每個(gè)集群數(shù)據(jù)庫(kù)系統(tǒng)中通過(guò)建設(shè)不同的數(shù)據(jù)庫(kù)實(shí)現(xiàn)對(duì)各個(gè)業(yè)務(wù)數(shù)據(jù)的存儲(chǔ)和管理。核心數(shù)據(jù)庫(kù)區(qū)物理機(jī)部署集群,主要優(yōu)勢(shì)如下:① 高性能物理機(jī)可以解決數(shù)據(jù)庫(kù)對(duì)于高并發(fā)I/O帶來(lái)的資源競(jìng)爭(zhēng),為其提供獨(dú)立足夠的資源空間;② 集群負(fù)載均衡能解決業(yè)務(wù)突發(fā)增長(zhǎng)情況下帶來(lái)的訪問(wèn)量和數(shù)據(jù)處理能力不足問(wèn)題;③ 集群布置能方便性能持續(xù)擴(kuò)張,能通過(guò)動(dòng)態(tài)增設(shè)服務(wù)器解決資源擴(kuò)張;④ 集群布置能實(shí)現(xiàn)故障自動(dòng)切除、業(yè)務(wù)自動(dòng)轉(zhuǎn)移,避免單點(diǎn)故障帶來(lái)的數(shù)據(jù)庫(kù)崩潰,帶來(lái)嚴(yán)重生產(chǎn)事故,具有極高的可靠性;⑤ 物理機(jī)部署數(shù)據(jù)庫(kù)可以確保數(shù)據(jù)的絕對(duì)信息安全,防止信息泄露。

    1.3.2 虛擬化集群技術(shù)

    三峽梯級(jí)水庫(kù)調(diào)度自動(dòng)化系統(tǒng)云平臺(tái)主要使用服務(wù)器虛擬化技術(shù)來(lái)實(shí)現(xiàn),其技術(shù)本質(zhì)就是通過(guò)虛擬化操作系統(tǒng)將服務(wù)器物理資源抽象成邏輯資源,讓1臺(tái)服務(wù)器變成幾臺(tái)甚至幾十臺(tái)相互隔離的虛擬服務(wù)器,不再受限于物理上的界限,讓CPU、內(nèi)存、磁盤、I/O等硬件變成可以動(dòng)態(tài)管理的“資源池”,從而提高資源的利用率,簡(jiǎn)化系統(tǒng)管理,實(shí)現(xiàn)服務(wù)器資源池化的整合,讓計(jì)算資源對(duì)業(yè)務(wù)的變化更具適應(yīng)力。虛擬化集群的幾個(gè)關(guān)鍵點(diǎn):① 虛擬化操作系統(tǒng),該操作系統(tǒng)能將所有物理機(jī)的CPU、內(nèi)存、硬盤存儲(chǔ)、網(wǎng)絡(luò)等硬件通過(guò)軟件進(jìn)行抽象,資源打散重組成為資源池,并可任意劃分資源池作為虛擬機(jī);② 虛擬主機(jī)是數(shù)據(jù)中心的基本計(jì)算基礎(chǔ),可以聚合這些主機(jī)資源以構(gòu)建高度可用的動(dòng)態(tài)資源池環(huán)境,作為數(shù)據(jù)中心中每個(gè)應(yīng)用程序的整體計(jì)算資源。

    2 云平臺(tái)總體架構(gòu)

    云平臺(tái)主要由服務(wù)器虛擬化、云存儲(chǔ)和云桌面組成,提供了彈性可擴(kuò)展、負(fù)載均衡、按需自動(dòng)服務(wù)基礎(chǔ)支撐環(huán)境。在滿足業(yè)務(wù)應(yīng)用高性能、高可靠性、高安全性和高可適應(yīng)性的基礎(chǔ)上,云平臺(tái)可實(shí)現(xiàn)系統(tǒng)資源的集中管理、動(dòng)態(tài)調(diào)整、快速分配并進(jìn)一步減少IT整體投入目標(biāo)。

    三峽梯級(jí)水庫(kù)調(diào)度自動(dòng)化系統(tǒng)采用云技術(shù)構(gòu)建,在宜昌區(qū)域?yàn)橹饔霉δ堋⒊啥紖^(qū)域?yàn)閭溆霉δ?、昆明區(qū)域具備有應(yīng)急調(diào)度功能。實(shí)現(xiàn)了宜昌、成都及昆明3地的業(yè)務(wù)功能整合。具體做法是通過(guò)在宜昌建立三峽水庫(kù)調(diào)度自動(dòng)化系統(tǒng)私有云環(huán)境并建立數(shù)據(jù)中心,將所有應(yīng)用、功能、數(shù)據(jù)均部署在數(shù)據(jù)中心;成都和昆明的業(yè)務(wù)人員通過(guò)網(wǎng)絡(luò)訪問(wèn)私有云數(shù)據(jù)中心,從而實(shí)現(xiàn)數(shù)據(jù)、應(yīng)用、功能的一致性與平臺(tái)的統(tǒng)一性。私有云數(shù)據(jù)中心在業(yè)務(wù)邏輯上總體呈現(xiàn)為安全Ⅱ區(qū)“水庫(kù)調(diào)度自動(dòng)化系統(tǒng)主平臺(tái)”和安全Ⅲ區(qū)“綜合數(shù)據(jù)云平臺(tái)”架構(gòu)。水庫(kù)調(diào)度主系統(tǒng)云平臺(tái)承載的業(yè)務(wù)主要是面向水庫(kù)實(shí)時(shí)調(diào)度,“綜合數(shù)據(jù)云平臺(tái)”承載的業(yè)務(wù)主要是面向水庫(kù)調(diào)度決策技術(shù)支持。

    云計(jì)算平臺(tái)建設(shè)首先是IaaS層的建設(shè),即在水庫(kù)調(diào)度自動(dòng)化系統(tǒng)安全Ⅱ區(qū)和安全Ⅲ區(qū),通過(guò)將基礎(chǔ)硬件資源虛擬化的方式,將存儲(chǔ)硬件抽象為軟件,包括卷管理、RAID、數(shù)據(jù)保護(hù)、快照和復(fù)制等。通過(guò)對(duì)異構(gòu)的存儲(chǔ)資源抽象成邏輯存儲(chǔ)池,滿足應(yīng)用場(chǎng)景的需求。使用網(wǎng)絡(luò)虛擬化技術(shù)對(duì)底層各種網(wǎng)絡(luò)資源虛擬化,實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)的集中控制和管理,滿足統(tǒng)一快速靈活部署需求。采用分布式數(shù)據(jù)處理,通過(guò)冗余配置和數(shù)據(jù)庫(kù)互備等措施,將傳統(tǒng)數(shù)據(jù)庫(kù)服務(wù)器、應(yīng)用服務(wù)器、通信服務(wù)器、數(shù)據(jù)處理服務(wù)器等專用設(shè)備由云計(jì)算虛擬服務(wù)器代替,減少設(shè)備數(shù)量,提高管理效率。

    在基礎(chǔ)硬件虛擬化的基礎(chǔ)上實(shí)現(xiàn)PaaS層和SaaS層功能。在IaaS 基礎(chǔ)上提供統(tǒng)一的平臺(tái)化系統(tǒng)軟件支撐服務(wù),包括將數(shù)據(jù)采集、數(shù)據(jù)通信、數(shù)據(jù)處理、信息查詢與展示、報(bào)表、數(shù)據(jù)監(jiān)視和報(bào)警、后臺(tái)權(quán)限管理、版本管理等功能提供給用戶。通過(guò)對(duì)水庫(kù)調(diào)度專業(yè)應(yīng)用軟件模塊的進(jìn)一步封裝,將系統(tǒng)中水庫(kù)調(diào)度、洪水預(yù)報(bào)、調(diào)度方案制作、節(jié)水增發(fā)、典型洪水分析、整編資料管理、水位優(yōu)化控制計(jì)算等具體應(yīng)用作為服務(wù)提供給用戶,滿足不同用戶的個(gè)性化定制需求。SaaS,PaaS,IaaS 3層模式架構(gòu)以及各層在系統(tǒng)中承擔(dān)的作用見圖1。

    圖1 水庫(kù)調(diào)度自動(dòng)化系統(tǒng)云平臺(tái)架構(gòu)Fig.1 Cloud platform architecture of reservoir dispatching automation system

    3 云平臺(tái)總體方案

    云平臺(tái)總體方案以軟件定義數(shù)據(jù)中心的模式,建設(shè)全新的云數(shù)據(jù)中心。同時(shí),在設(shè)計(jì)方案時(shí),充分考慮整個(gè)大系統(tǒng)的安全性,實(shí)現(xiàn)核心數(shù)據(jù)庫(kù)、虛擬機(jī)鏡像等關(guān)鍵數(shù)據(jù)的本地容災(zāi)備份,保證業(yè)務(wù)數(shù)據(jù)的安全性。方案設(shè)計(jì)范圍為水庫(kù)調(diào)度自動(dòng)化主系統(tǒng)、信息采集和交換平臺(tái)、內(nèi)/外網(wǎng)調(diào)度綜合數(shù)據(jù)平臺(tái)業(yè)務(wù)模塊,在遵照安全分區(qū)的信息安全防護(hù)要求的前提下構(gòu)建兩套云平臺(tái):① 安全Ⅱ區(qū)云平臺(tái),用于運(yùn)行水庫(kù)調(diào)度自動(dòng)化主系統(tǒng)和內(nèi)網(wǎng)綜合數(shù)據(jù)平臺(tái);② 安全Ⅲ區(qū)云平臺(tái),用于運(yùn)行外網(wǎng)調(diào)度綜合數(shù)據(jù)平臺(tái)和信息采集及交換平臺(tái)。安全Ⅱ/Ⅲ區(qū)云平臺(tái)的架構(gòu)見圖2。

    圖2 系統(tǒng)云平臺(tái)架構(gòu)Fig.2 System cloud platform architecture

    云計(jì)算平臺(tái)的建設(shè)內(nèi)容包括云操作系統(tǒng)(虛擬化操作系統(tǒng)、云計(jì)算管理平臺(tái))、硬件平臺(tái)建設(shè)(計(jì)算資源池、網(wǎng)絡(luò)資源池、存儲(chǔ)資源池)及業(yè)務(wù)前端的工作站,設(shè)計(jì)如下:① 云操作系統(tǒng)由虛擬化操作系統(tǒng)和云計(jì)算管理平臺(tái)等內(nèi)容構(gòu)成,并提供統(tǒng)一運(yùn)維、監(jiān)控報(bào)警、故障預(yù)警等管理手段。② 計(jì)算資源池的建設(shè)包括數(shù)據(jù)庫(kù)服務(wù)器和虛擬化資源池兩部分。數(shù)據(jù)庫(kù)服務(wù)器采用四路服務(wù)器;對(duì)于虛擬化資源池的建設(shè),安全Ⅱ區(qū)虛擬化資源池采用4臺(tái)四路服務(wù)器構(gòu)建,安全Ⅲ區(qū)虛擬化資源池采用8臺(tái)四路服務(wù)器和1臺(tái)雙路桌面服務(wù)器構(gòu)建。③ 存儲(chǔ)資源池的建設(shè)包括生產(chǎn)區(qū)域和本地備份區(qū)域兩個(gè)部分的存儲(chǔ)系統(tǒng)建設(shè)。生產(chǎn)存儲(chǔ)包括核心數(shù)據(jù)庫(kù)全閃存共享存儲(chǔ)(一級(jí)存儲(chǔ))、GIS及虛擬化高性能共享存儲(chǔ)(二級(jí)存儲(chǔ));備份存儲(chǔ)系統(tǒng)包括在備份磁盤陣列(二級(jí)存儲(chǔ))和備份一體機(jī),為核心數(shù)據(jù)庫(kù)、操作系統(tǒng)、虛擬化等提供兩份數(shù)據(jù)備份,提供多種備份措施,最大程度地保護(hù)客戶業(yè)務(wù)系統(tǒng)中關(guān)鍵數(shù)據(jù)的安全。④ 網(wǎng)絡(luò)資源池的建設(shè)主要是包括業(yè)務(wù)網(wǎng)絡(luò)、存儲(chǔ)網(wǎng)絡(luò)及管理網(wǎng)絡(luò)。業(yè)務(wù)網(wǎng)絡(luò)采用萬(wàn)兆光纖網(wǎng)絡(luò),存儲(chǔ)網(wǎng)絡(luò)采用16 Gb FC網(wǎng)絡(luò),管理網(wǎng)絡(luò)采用千兆以太網(wǎng)。

    4 云平臺(tái)設(shè)計(jì)

    4.1 計(jì)算資源池設(shè)計(jì)

    云計(jì)算資源池主要由基于X86架構(gòu)的服務(wù)器設(shè)備組成。根據(jù)基礎(chǔ)平臺(tái)總體架構(gòu)以及網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)中對(duì)功能區(qū)的劃分原則,將計(jì)算資源池設(shè)備按照需要實(shí)現(xiàn)的功能劃分為多個(gè)功能分區(qū),支撐不同的上層業(yè)務(wù)應(yīng)用,主要是水庫(kù)調(diào)度自動(dòng)化主系統(tǒng)、內(nèi)網(wǎng)綜合數(shù)據(jù)平臺(tái)、外網(wǎng)綜合數(shù)據(jù)平臺(tái)及信息采集與交換平臺(tái)的應(yīng)用,根據(jù)基礎(chǔ)平臺(tái)所承擔(dān)的應(yīng)用系統(tǒng)的特點(diǎn)和未來(lái)3~5 a的業(yè)務(wù)規(guī)劃,可把計(jì)算資源池分為核心數(shù)據(jù)庫(kù)集群和虛擬化集群。

    4.2 網(wǎng)絡(luò)方案設(shè)計(jì)

    云平臺(tái)建設(shè)方案應(yīng)綜合考慮業(yè)務(wù)高效運(yùn)行和便捷管理的需要,又要避免業(yè)務(wù)需要與管理需要之間的矛盾,因此將云平臺(tái)網(wǎng)絡(luò)分為業(yè)務(wù)網(wǎng)、存儲(chǔ)網(wǎng)、管理網(wǎng),3套網(wǎng)絡(luò)相互獨(dú)立,互不干涉,便于根據(jù)不同方面的需要規(guī)劃和調(diào)整網(wǎng)絡(luò)。各網(wǎng)絡(luò)特點(diǎn)如下:① 業(yè)務(wù)網(wǎng)用于訪問(wèn)客戶業(yè)務(wù)系統(tǒng)、業(yè)務(wù)系統(tǒng)內(nèi)部互聯(lián)、虛擬機(jī)遷移、以及LAN備份與備份數(shù)據(jù)復(fù)制,每個(gè)安全區(qū)的數(shù)據(jù)中心內(nèi)均采用10 Gb以太網(wǎng)絡(luò)高速互聯(lián)。② 存儲(chǔ)網(wǎng)提供本地存儲(chǔ)訪問(wèn)、存儲(chǔ)卷拷貝等網(wǎng)絡(luò)通訊能力,每個(gè)安全區(qū)的云計(jì)算中心內(nèi)均采用16 Gb FC網(wǎng)絡(luò)實(shí)現(xiàn)服務(wù)器與存儲(chǔ)之間的互聯(lián)。③ 管理網(wǎng)用于管理信息傳輸、集群心跳、集群仲裁等,每個(gè)數(shù)據(jù)中心內(nèi)均采用千兆網(wǎng)絡(luò)互聯(lián),以保證管理信息的及時(shí)有效傳遞,確保集群正常工作。④ 為保證系統(tǒng)高可用及業(yè)務(wù)連續(xù)性,業(yè)務(wù)網(wǎng)、存儲(chǔ)網(wǎng)及管理網(wǎng)均采用冗余鏈路部署,提高系統(tǒng)整體可用性和可靠性。

    4.3 存儲(chǔ)資源池設(shè)計(jì)

    4.3.1 數(shù)據(jù)類型分析與存儲(chǔ)規(guī)劃

    為滿足新建的云平臺(tái)的數(shù)據(jù)庫(kù)存儲(chǔ)、虛擬機(jī)、GIS等文件系統(tǒng)存儲(chǔ),需新增集中存儲(chǔ)設(shè)備。根據(jù)業(yè)務(wù)對(duì)存儲(chǔ)設(shè)備的不同要求,采用不同的存儲(chǔ)方式,并根據(jù)存儲(chǔ)設(shè)備性能建立分區(qū)存儲(chǔ)策略,采用CRAID技術(shù)為納入云平臺(tái)的應(yīng)用系統(tǒng)、數(shù)據(jù)提供統(tǒng)一的高可用性數(shù)據(jù)存儲(chǔ)服務(wù)和存儲(chǔ)管理服務(wù)。從采用的數(shù)據(jù)結(jié)構(gòu)角度來(lái)看,業(yè)務(wù)數(shù)據(jù)包括結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù),特點(diǎn)如下:① 結(jié)構(gòu)化數(shù)據(jù)主要是關(guān)系數(shù)據(jù)庫(kù)存儲(chǔ)的流域水文、水庫(kù)運(yùn)行、電站運(yùn)行、電力等數(shù)據(jù),對(duì)存儲(chǔ)的性能、穩(wěn)定性及可靠性要求很高,采用閃存磁盤陣列,保證數(shù)據(jù)庫(kù)業(yè)務(wù)的高效運(yùn)行,用于一級(jí)存儲(chǔ);② 非結(jié)構(gòu)化數(shù)據(jù)主要包括專生成業(yè)務(wù)產(chǎn)生的圖片、視頻、工作檔案等數(shù)據(jù),例如GIS業(yè)務(wù)、氣象衛(wèi)片、專題文檔等數(shù)據(jù),此外還包括采用虛擬化技術(shù)產(chǎn)生的虛擬機(jī)文件。非結(jié)構(gòu)化數(shù)據(jù)量較大,對(duì)底層存儲(chǔ)性能和帶寬要求較高,配置為高速SAS盤與SATA盤混合存儲(chǔ),用于二級(jí)存儲(chǔ),并配置SSD緩存加速功能以提升數(shù)據(jù)讀寫效率,高速SAS盤為虛擬化提供存儲(chǔ)空間,SATA盤為GIS等業(yè)務(wù)系統(tǒng)提供存儲(chǔ)空間。

    4.3.2 數(shù)據(jù)備份方案

    為防止數(shù)據(jù)邏輯錯(cuò)誤、提高數(shù)據(jù)安全性,完善的數(shù)據(jù)容災(zāi)備份方案可為業(yè)務(wù)數(shù)據(jù)的安全性提供安全保障,數(shù)據(jù)備份方案將從備份方式、備份架構(gòu)、備份方案策略角度來(lái)設(shè)計(jì)。

    (1) 數(shù)據(jù)備份方式。對(duì)核心數(shù)據(jù)庫(kù)數(shù)據(jù)、虛擬機(jī)鏡像等關(guān)鍵數(shù)據(jù)進(jìn)行備份,備份方式分為以下兩種:① 采用磁盤陣列備份方式,即額外再配置1套二級(jí)存儲(chǔ),通過(guò)數(shù)據(jù)庫(kù)復(fù)制技術(shù)將數(shù)據(jù)庫(kù)數(shù)據(jù)復(fù)制到第二套二級(jí)存儲(chǔ)中,通過(guò)卷拷貝將虛擬機(jī)鏡像等核心數(shù)據(jù)復(fù)制到第二套二級(jí)存儲(chǔ)中;② 采用備份一體機(jī)備份方式,通過(guò)LAN備份方式,對(duì)核心數(shù)據(jù)庫(kù)、操作系統(tǒng)等關(guān)鍵數(shù)據(jù)進(jìn)行備份。

    (2) 數(shù)據(jù)備份架構(gòu)。結(jié)合備份技術(shù),采用本地備份,將備份數(shù)據(jù)分別傳輸至備份磁盤陣列及備份一體機(jī),做到1份數(shù)據(jù)3份保護(hù)。備份架構(gòu)如圖3所示。

    圖3 備份架構(gòu)Fig.3 Backup architecture diagram

    (3) 備份策略。備份系統(tǒng)的設(shè)計(jì)需要考慮配置的軟硬件產(chǎn)品之外,更需要精心設(shè)計(jì)。備份策略是整個(gè)備份系統(tǒng)中的重要策略,其作用為保證系統(tǒng)在故障情況下能實(shí)現(xiàn)數(shù)據(jù)的快速恢復(fù)。良好的備份策略和管理規(guī)劃是實(shí)現(xiàn)數(shù)據(jù)恢復(fù)的基礎(chǔ)。備份策略的選擇需要統(tǒng)籌考慮需備份的總數(shù)據(jù)量、線路帶寬、數(shù)據(jù)吞吐量、時(shí)間窗口以及對(duì)恢復(fù)時(shí)間的要求等因素,且還需要一并考慮通用的備份方式,如全量備份、增量備份和差分備份。結(jié)合系統(tǒng)特點(diǎn),綜合分析系統(tǒng)數(shù)據(jù)情況,數(shù)據(jù)備份策略規(guī)劃見表2。

    表2 數(shù)據(jù)備份策略規(guī)劃Tab.2 Data backup strategy planning

    4.4 云計(jì)算管理平臺(tái)方案設(shè)計(jì)

    借助云計(jì)算管理平臺(tái),可將基礎(chǔ)架構(gòu)資源集成到具有計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)集合的資源池中,也可將數(shù)據(jù)中心的計(jì)算資源、存儲(chǔ)資源、網(wǎng)絡(luò)資源(和相關(guān)策略可以集成到虛擬數(shù)據(jù)中心資源池中。

    管理平臺(tái)能簡(jiǎn)化對(duì)基礎(chǔ)架構(gòu)的訪問(wèn),其主要作用如下:① 基于開放的應(yīng)用模板,發(fā)布相關(guān)的虛擬機(jī)和Web目錄,實(shí)現(xiàn)用戶的快速管理和部署;② 在配額范圍內(nèi)提供彈性服務(wù),為用戶的應(yīng)用程序提供調(diào)度和業(yè)務(wù)擴(kuò)展功能,并支持資源池資源的擴(kuò)展以滿足用戶的更大規(guī)模的需求。

    綜合運(yùn)維管理平臺(tái)包含運(yùn)維和運(yùn)營(yíng)兩個(gè)模塊。運(yùn)維模塊對(duì)資源層進(jìn)行智能運(yùn)維,包括對(duì)操作系統(tǒng)和應(yīng)用程序的監(jiān)控,以及操作系統(tǒng)級(jí)別的更改和配置。運(yùn)維模塊能支持第三方操作系統(tǒng)和應(yīng)用監(jiān)控工具的可延展性,同時(shí)能夠監(jiān)控、規(guī)劃和優(yōu)化系統(tǒng)資源,對(duì)數(shù)據(jù)中心資源進(jìn)行容量化管理,還提供告警和日志功能。該模塊還使用戶能夠及時(shí)發(fā)現(xiàn)并解決環(huán)境中的問(wèn)題,從而避免問(wèn)題擴(kuò)大化。

    操作模塊給用戶帶來(lái)便捷服務(wù)交付體驗(yàn),通過(guò)基本配額的部署和計(jì)劃,可實(shí)現(xiàn)用戶定義的項(xiàng)目和工作流管理。同時(shí),操作模塊可對(duì)資產(chǎn)進(jìn)行審核下放和資產(chǎn)回收,通過(guò)計(jì)量透明地管理成本,還支持應(yīng)用程序部署、更改和數(shù)據(jù)監(jiān)視。

    為了保障云平臺(tái)的安全,云計(jì)算管理平臺(tái)還設(shè)計(jì)了完整的安全架構(gòu),分別從主機(jī)/虛擬化、網(wǎng)絡(luò)、數(shù)據(jù)、管理等多個(gè)層次來(lái)考慮,其總體架構(gòu)如圖4所示。

    圖4 云計(jì)算管理平臺(tái)總體架構(gòu)Fig.4 Overall architecture of cloud computing management platform

    5 結(jié) 語(yǔ)

    三峽梯級(jí)水庫(kù)調(diào)度自動(dòng)化系統(tǒng)依托虛擬存儲(chǔ)、存儲(chǔ)雙活、 集群等關(guān)鍵技術(shù)構(gòu)建了云計(jì)算平臺(tái),并以此為基礎(chǔ),設(shè)計(jì)了以宜昌主調(diào)、成都備調(diào)、昆明應(yīng)急調(diào)度的三地互備系統(tǒng)結(jié)構(gòu),實(shí)現(xiàn)了宜昌、成都及昆明三地的業(yè)務(wù)功能整合。該云平臺(tái)已完成設(shè)計(jì)和建設(shè),從實(shí)效效果來(lái)看,具備較好的穩(wěn)定性、可靠性、安全性,能實(shí)現(xiàn)系統(tǒng)資源的集中管理、動(dòng)態(tài)調(diào)整、快速分配的目標(biāo)。

    猜你喜歡
    備份虛擬化集群
    “備份”25年:鄧清明圓夢(mèng)
    海上小型無(wú)人機(jī)集群的反制裝備需求與應(yīng)對(duì)之策研究
    基于OpenStack虛擬化網(wǎng)絡(luò)管理平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)
    電子制作(2019年10期)2019-06-17 11:45:10
    對(duì)基于Docker的虛擬化技術(shù)的幾點(diǎn)探討
    電子制作(2018年14期)2018-08-21 01:38:20
    一種無(wú)人機(jī)集群發(fā)射回收裝置的控制系統(tǒng)設(shè)計(jì)
    電子制作(2018年11期)2018-08-04 03:25:40
    虛擬化技術(shù)在計(jì)算機(jī)技術(shù)創(chuàng)造中的應(yīng)用
    Python與Spark集群在收費(fèi)數(shù)據(jù)分析中的應(yīng)用
    勤快又呆萌的集群機(jī)器人
    存儲(chǔ)虛擬化還有優(yōu)勢(shì)嗎?
    淺析數(shù)據(jù)的備份策略
    科技視界(2015年6期)2015-08-15 00:54:11
    国产精品一区二区三区四区免费观看 | 久久久久久久午夜电影| 中文字幕精品亚洲无线码一区| 国产精品久久久久久久电影 | √禁漫天堂资源中文www| 精华霜和精华液先用哪个| 精品无人区乱码1区二区| 欧美一区二区精品小视频在线| 国产熟女午夜一区二区三区| 日本黄大片高清| 高清毛片免费观看视频网站| 搡老熟女国产l中国老女人| 亚洲人成77777在线视频| 久久热在线av| 日韩欧美三级三区| 男女那种视频在线观看| 国产野战对白在线观看| 夜夜夜夜夜久久久久| 久久精品人妻少妇| av福利片在线| 又粗又爽又猛毛片免费看| 国产麻豆成人av免费视频| 久久婷婷成人综合色麻豆| 麻豆成人午夜福利视频| 欧美+亚洲+日韩+国产| 很黄的视频免费| 亚洲乱码一区二区免费版| 狂野欧美激情性xxxx| 午夜福利欧美成人| 日韩欧美在线二视频| 人人妻,人人澡人人爽秒播| 1024香蕉在线观看| xxx96com| 亚洲熟妇熟女久久| 99国产精品99久久久久| 国产精品自产拍在线观看55亚洲| 在线观看舔阴道视频| 我要搜黄色片| 亚洲精品一卡2卡三卡4卡5卡| 久久天躁狠狠躁夜夜2o2o| 国产亚洲精品久久久久久毛片| 毛片女人毛片| 天天躁夜夜躁狠狠躁躁| 免费在线观看成人毛片| 丁香欧美五月| 亚洲第一电影网av| 免费在线观看完整版高清| 免费一级毛片在线播放高清视频| 香蕉丝袜av| 亚洲av五月六月丁香网| 高清毛片免费观看视频网站| 一区二区三区高清视频在线| 很黄的视频免费| av欧美777| 亚洲天堂国产精品一区在线| 老汉色av国产亚洲站长工具| 一级毛片高清免费大全| 精品免费久久久久久久清纯| 精品不卡国产一区二区三区| 蜜桃久久精品国产亚洲av| 精品无人区乱码1区二区| 免费看十八禁软件| 90打野战视频偷拍视频| 国产精品久久久久久精品电影| 最好的美女福利视频网| 国内久久婷婷六月综合欲色啪| 色综合站精品国产| 亚洲色图av天堂| 18禁黄网站禁片午夜丰满| 男人舔女人下体高潮全视频| 怎么达到女性高潮| 欧美日韩乱码在线| 亚洲人成网站在线播放欧美日韩| 热99re8久久精品国产| 五月玫瑰六月丁香| 国产精品久久久人人做人人爽| 欧美一区二区精品小视频在线| 成人国产综合亚洲| 国产av麻豆久久久久久久| 熟女少妇亚洲综合色aaa.| 国产精品亚洲av一区麻豆| 99精品欧美一区二区三区四区| 欧美乱色亚洲激情| 后天国语完整版免费观看| 美女免费视频网站| 免费观看精品视频网站| 欧美成人性av电影在线观看| 麻豆久久精品国产亚洲av| 国产单亲对白刺激| 五月玫瑰六月丁香| 亚洲午夜精品一区,二区,三区| 久久香蕉激情| 18禁黄网站禁片免费观看直播| 久久久精品大字幕| 免费搜索国产男女视频| 午夜福利高清视频| 正在播放国产对白刺激| 成在线人永久免费视频| 国产aⅴ精品一区二区三区波| 欧美日韩亚洲综合一区二区三区_| 国产亚洲精品久久久久久毛片| 欧美中文日本在线观看视频| 国产成年人精品一区二区| 熟妇人妻久久中文字幕3abv| 毛片女人毛片| 国产主播在线观看一区二区| 免费一级毛片在线播放高清视频| 久久精品91无色码中文字幕| 日本五十路高清| 国产99久久九九免费精品| av视频在线观看入口| 波多野结衣高清无吗| 成人18禁高潮啪啪吃奶动态图| 我要搜黄色片| 欧美+亚洲+日韩+国产| 久久热在线av| 老鸭窝网址在线观看| 人人妻,人人澡人人爽秒播| 精品久久久久久久久久免费视频| 亚洲欧美一区二区三区黑人| 国内少妇人妻偷人精品xxx网站 | 亚洲色图 男人天堂 中文字幕| 日本 av在线| 国产熟女xx| 1024手机看黄色片| 婷婷六月久久综合丁香| 一本综合久久免费| 日韩有码中文字幕| 中文字幕人妻丝袜一区二区| 午夜激情av网站| 99热6这里只有精品| 国产精品,欧美在线| 国产精品综合久久久久久久免费| 中文字幕人成人乱码亚洲影| 亚洲精品色激情综合| 757午夜福利合集在线观看| 精品一区二区三区四区五区乱码| 99精品欧美一区二区三区四区| 国产精品免费视频内射| 日韩欧美国产一区二区入口| 亚洲av成人不卡在线观看播放网| 成人18禁高潮啪啪吃奶动态图| 免费人成视频x8x8入口观看| av中文乱码字幕在线| 人妻丰满熟妇av一区二区三区| a级毛片在线看网站| 亚洲真实伦在线观看| 一级毛片精品| 亚洲色图 男人天堂 中文字幕| 国产精品免费一区二区三区在线| 白带黄色成豆腐渣| 91麻豆av在线| 国产伦人伦偷精品视频| 日本五十路高清| 欧美日本视频| 久久久精品国产亚洲av高清涩受| 亚洲国产欧美人成| 男人舔女人的私密视频| 日韩欧美精品v在线| 好看av亚洲va欧美ⅴa在| 午夜精品在线福利| 99热只有精品国产| 亚洲电影在线观看av| 亚洲天堂国产精品一区在线| 久久久久国内视频| 久久99热这里只有精品18| 欧美激情久久久久久爽电影| 亚洲avbb在线观看| 啪啪无遮挡十八禁网站| 日本 av在线| 在线a可以看的网站| 亚洲第一电影网av| 99riav亚洲国产免费| 深夜精品福利| 亚洲电影在线观看av| 欧美成人一区二区免费高清观看 | 欧美乱色亚洲激情| 色综合欧美亚洲国产小说| 狠狠狠狠99中文字幕| 国产一区二区在线观看日韩 | 一区二区三区国产精品乱码| 别揉我奶头~嗯~啊~动态视频| 床上黄色一级片| 亚洲 国产 在线| 丁香六月欧美| 亚洲成人久久爱视频| 国产69精品久久久久777片 | 日韩有码中文字幕| 中文字幕精品亚洲无线码一区| 夜夜夜夜夜久久久久| 午夜成年电影在线免费观看| 又大又爽又粗| 老汉色av国产亚洲站长工具| 精品人妻1区二区| 熟妇人妻久久中文字幕3abv| 日本在线视频免费播放| 午夜福利视频1000在线观看| 亚洲精品美女久久av网站| 日韩欧美国产一区二区入口| 久久精品亚洲精品国产色婷小说| 蜜桃久久精品国产亚洲av| 久久性视频一级片| 精品久久蜜臀av无| 午夜久久久久精精品| 亚洲av成人精品一区久久| 国产99久久九九免费精品| 午夜日韩欧美国产| 国产成+人综合+亚洲专区| 欧美日韩瑟瑟在线播放| www日本在线高清视频| 99热这里只有是精品50| 亚洲人成伊人成综合网2020| а√天堂www在线а√下载| 久久久久久久久久黄片| 欧美又色又爽又黄视频| 国产精品1区2区在线观看.| 成人欧美大片| 成年女人毛片免费观看观看9| 亚洲精品久久国产高清桃花| 国产一区二区在线av高清观看| 色在线成人网| 动漫黄色视频在线观看| 国产成人精品久久二区二区免费| 可以免费在线观看a视频的电影网站| 亚洲精品久久国产高清桃花| 欧美性猛交黑人性爽| 国产av在哪里看| 老司机在亚洲福利影院| 精品国产乱子伦一区二区三区| 国产日本99.免费观看| 18美女黄网站色大片免费观看| 亚洲中文av在线| 99re在线观看精品视频| 一边摸一边做爽爽视频免费| 亚洲av中文字字幕乱码综合| 亚洲男人的天堂狠狠| 日本一区二区免费在线视频| 搡老妇女老女人老熟妇| 黄片小视频在线播放| 99国产极品粉嫩在线观看| 欧美日韩精品网址| 淫妇啪啪啪对白视频| 午夜激情福利司机影院| 亚洲五月天丁香| 国产欧美日韩精品亚洲av| 欧美av亚洲av综合av国产av| 三级男女做爰猛烈吃奶摸视频| 91老司机精品| 亚洲av电影不卡..在线观看| 国产av又大| 日日干狠狠操夜夜爽| 亚洲精品美女久久久久99蜜臀| 成人三级黄色视频| 999精品在线视频| 国产精品国产高清国产av| 精品一区二区三区av网在线观看| 老司机福利观看| 黄色片一级片一级黄色片| 丝袜人妻中文字幕| 黄色视频,在线免费观看| 国产精品,欧美在线| 老司机靠b影院| 亚洲va日本ⅴa欧美va伊人久久| 可以在线观看毛片的网站| 国产激情久久老熟女| 国产成人av教育| 成人手机av| 男女视频在线观看网站免费 | 午夜成年电影在线免费观看| 国产视频内射| 亚洲欧美日韩高清专用| 精品久久久久久久末码| 日本免费a在线| 久久久久久国产a免费观看| 日韩欧美三级三区| 国产精品av视频在线免费观看| 欧美日本亚洲视频在线播放| ponron亚洲| 亚洲精品中文字幕在线视频| 国产精品1区2区在线观看.| 欧美绝顶高潮抽搐喷水| netflix在线观看网站| 日韩大尺度精品在线看网址| 久久久久精品国产欧美久久久| 可以免费在线观看a视频的电影网站| 18禁黄网站禁片午夜丰满| 亚洲成av人片免费观看| 麻豆av在线久日| 搡老妇女老女人老熟妇| 久久久精品欧美日韩精品| 亚洲精品粉嫩美女一区| 久久99热这里只有精品18| 中文字幕人成人乱码亚洲影| 欧美日本亚洲视频在线播放| 97碰自拍视频| 亚洲专区中文字幕在线| 久久久久久免费高清国产稀缺| 不卡av一区二区三区| 一本大道久久a久久精品| 黑人操中国人逼视频| 久久 成人 亚洲| 欧美一级a爱片免费观看看 | 午夜福利18| av天堂在线播放| 欧美+亚洲+日韩+国产| 我的老师免费观看完整版| 欧美日韩黄片免| 久久香蕉精品热| 一二三四在线观看免费中文在| 曰老女人黄片| 亚洲色图av天堂| 免费无遮挡裸体视频| 激情在线观看视频在线高清| 757午夜福利合集在线观看| 不卡av一区二区三区| 无限看片的www在线观看| 国产伦一二天堂av在线观看| 久久精品国产综合久久久| 韩国av一区二区三区四区| 中文资源天堂在线| 一本综合久久免费| 无限看片的www在线观看| 国产免费男女视频| 99国产精品一区二区三区| 亚洲va日本ⅴa欧美va伊人久久| 国产免费男女视频| 日韩精品中文字幕看吧| 欧美日韩国产亚洲二区| 久久久久免费精品人妻一区二区| 欧美日本视频| 两性午夜刺激爽爽歪歪视频在线观看 | 无限看片的www在线观看| 午夜激情av网站| 国产精品一及| 国产精品久久久久久人妻精品电影| 免费在线观看成人毛片| 成人一区二区视频在线观看| 成人特级黄色片久久久久久久| 国产av一区二区精品久久| 欧美zozozo另类| 日本一二三区视频观看| 亚洲人与动物交配视频| 在线看三级毛片| 亚洲av电影不卡..在线观看| 一本精品99久久精品77| 欧美最黄视频在线播放免费| 亚洲av片天天在线观看| 国产亚洲精品一区二区www| 在线十欧美十亚洲十日本专区| 婷婷亚洲欧美| 日韩中文字幕欧美一区二区| 身体一侧抽搐| 好男人电影高清在线观看| 亚洲真实伦在线观看| 国产伦人伦偷精品视频| 久久精品国产99精品国产亚洲性色| 99国产精品99久久久久| 国产爱豆传媒在线观看 | 丰满人妻熟妇乱又伦精品不卡| 天天一区二区日本电影三级| 亚洲国产中文字幕在线视频| 99热这里只有精品一区 | 国产黄a三级三级三级人| 在线观看美女被高潮喷水网站 | 777久久人妻少妇嫩草av网站| 午夜两性在线视频| 97碰自拍视频| avwww免费| 亚洲18禁久久av| 免费看美女性在线毛片视频| 麻豆av在线久日| 一进一出抽搐动态| 精品午夜福利视频在线观看一区| 欧美大码av| 欧美高清成人免费视频www| 曰老女人黄片| 午夜视频精品福利| 巨乳人妻的诱惑在线观看| 丰满人妻一区二区三区视频av | 日本免费a在线| 男插女下体视频免费在线播放| 久久久精品国产亚洲av高清涩受| 午夜福利成人在线免费观看| 50天的宝宝边吃奶边哭怎么回事| 国产精品亚洲美女久久久| 又紧又爽又黄一区二区| 日韩欧美国产一区二区入口| 亚洲精品久久成人aⅴ小说| 天堂√8在线中文| 制服丝袜大香蕉在线| 在线观看午夜福利视频| 老司机午夜十八禁免费视频| 蜜桃久久精品国产亚洲av| 日日摸夜夜添夜夜添小说| 免费在线观看视频国产中文字幕亚洲| 午夜两性在线视频| 午夜影院日韩av| 欧美黑人欧美精品刺激| 精品国产乱码久久久久久男人| 成人手机av| 老司机福利观看| 丁香六月欧美| 亚洲专区国产一区二区| 午夜福利在线在线| 免费在线观看完整版高清| 制服丝袜大香蕉在线| 麻豆国产av国片精品| 欧美另类亚洲清纯唯美| 男男h啪啪无遮挡| 国产视频一区二区在线看| 精品人妻1区二区| 深夜精品福利| cao死你这个sao货| 久久久精品国产亚洲av高清涩受| 久久久久精品国产欧美久久久| 搡老熟女国产l中国老女人| 国产99白浆流出| 国产高清激情床上av| 91成年电影在线观看| 国模一区二区三区四区视频 | 中亚洲国语对白在线视频| 日本撒尿小便嘘嘘汇集6| 久久国产精品人妻蜜桃| 熟妇人妻久久中文字幕3abv| 国产精品综合久久久久久久免费| 国产av一区二区精品久久| 久久人妻福利社区极品人妻图片| 成人手机av| 法律面前人人平等表现在哪些方面| 国产激情偷乱视频一区二区| 中文亚洲av片在线观看爽| 啦啦啦免费观看视频1| 国产精品九九99| 久久性视频一级片| 日韩欧美在线二视频| 国产免费av片在线观看野外av| 免费电影在线观看免费观看| 国产成人精品久久二区二区91| 很黄的视频免费| 黄色毛片三级朝国网站| 一边摸一边做爽爽视频免费| 欧美在线黄色| 日韩欧美免费精品| 午夜老司机福利片| 国产探花在线观看一区二区| 国语自产精品视频在线第100页| 三级毛片av免费| 最新美女视频免费是黄的| 国产精品一区二区三区四区免费观看 | 叶爱在线成人免费视频播放| 两性夫妻黄色片| 天堂影院成人在线观看| 婷婷亚洲欧美| www日本黄色视频网| 一个人免费在线观看电影 | 男女视频在线观看网站免费 | 999精品在线视频| 亚洲,欧美精品.| 这个男人来自地球电影免费观看| 欧美日韩亚洲国产一区二区在线观看| 亚洲一区二区三区不卡视频| 天天躁夜夜躁狠狠躁躁| 老汉色av国产亚洲站长工具| 男人的好看免费观看在线视频 | 亚洲 国产 在线| 亚洲中文av在线| 操出白浆在线播放| 成人欧美大片| ponron亚洲| 亚洲中文av在线| 亚洲人与动物交配视频| 久久 成人 亚洲| 精品电影一区二区在线| 久久久久久国产a免费观看| 精品熟女少妇八av免费久了| 国产探花在线观看一区二区| 人妻夜夜爽99麻豆av| 天堂√8在线中文| 在线观看免费午夜福利视频| 黄色毛片三级朝国网站| 亚洲 国产 在线| 露出奶头的视频| e午夜精品久久久久久久| 99久久99久久久精品蜜桃| 波多野结衣高清无吗| 国产成人精品无人区| 99久久99久久久精品蜜桃| 国产精品,欧美在线| 精品无人区乱码1区二区| 日本成人三级电影网站| 极品教师在线免费播放| 观看免费一级毛片| 亚洲国产精品999在线| 麻豆成人午夜福利视频| 国产亚洲精品av在线| 巨乳人妻的诱惑在线观看| av超薄肉色丝袜交足视频| 欧美大码av| 国产精品综合久久久久久久免费| 淫秽高清视频在线观看| 性欧美人与动物交配| 亚洲国产精品合色在线| 日韩欧美一区二区三区在线观看| 18禁裸乳无遮挡免费网站照片| 久久热在线av| 精品电影一区二区在线| 我要搜黄色片| 日本在线视频免费播放| 亚洲精品在线美女| 国产黄a三级三级三级人| 欧美色欧美亚洲另类二区| 亚洲专区字幕在线| 一a级毛片在线观看| 一级作爱视频免费观看| 欧美日韩黄片免| 精品欧美国产一区二区三| 国产精品亚洲一级av第二区| 中国美女看黄片| 熟女电影av网| 91国产中文字幕| 免费在线观看影片大全网站| 日韩有码中文字幕| 欧美+亚洲+日韩+国产| 国产成人aa在线观看| 91字幕亚洲| 亚洲欧美激情综合另类| 欧美又色又爽又黄视频| 老司机午夜十八禁免费视频| 97人妻精品一区二区三区麻豆| 色综合欧美亚洲国产小说| 18禁黄网站禁片免费观看直播| 欧美丝袜亚洲另类 | 在线播放国产精品三级| 男女做爰动态图高潮gif福利片| 国产成人av教育| 国产精品影院久久| 97超级碰碰碰精品色视频在线观看| 国产精品影院久久| xxxwww97欧美| 亚洲自拍偷在线| svipshipincom国产片| 亚洲av美国av| 一级毛片精品| 久久中文字幕一级| 又黄又爽又免费观看的视频| 九九热线精品视视频播放| 久久精品亚洲精品国产色婷小说| 听说在线观看完整版免费高清| 亚洲最大成人中文| 两个人视频免费观看高清| 婷婷精品国产亚洲av| 两性夫妻黄色片| 久久久久久免费高清国产稀缺| av福利片在线| 国产亚洲精品第一综合不卡| 欧美另类亚洲清纯唯美| 美女黄网站色视频| 国内精品久久久久精免费| 精品久久久久久久毛片微露脸| 欧美性长视频在线观看| 最近最新免费中文字幕在线| 亚洲精品在线美女| 午夜激情福利司机影院| 日韩欧美精品v在线| 伦理电影免费视频| 国产一区二区在线av高清观看| 久久久久久久久免费视频了| 欧美性猛交黑人性爽| 好看av亚洲va欧美ⅴa在| 免费搜索国产男女视频| 不卡一级毛片| 无人区码免费观看不卡| 日韩欧美精品v在线| 国产精品 欧美亚洲| www.999成人在线观看| 波多野结衣巨乳人妻| 亚洲av第一区精品v没综合| 精品少妇一区二区三区视频日本电影| 真人一进一出gif抽搐免费| 人人妻人人澡欧美一区二区| 美女扒开内裤让男人捅视频| 波多野结衣高清作品| 成人精品一区二区免费| 岛国在线免费视频观看| 国产亚洲av高清不卡| 一级作爱视频免费观看| 老司机靠b影院| 欧美色欧美亚洲另类二区| 国产在线观看jvid| 欧美丝袜亚洲另类 | 欧美大码av| 国产三级黄色录像| 亚洲国产欧美网| 亚洲七黄色美女视频| 又紧又爽又黄一区二区| 在线观看日韩欧美| 亚洲 国产 在线| 欧美色欧美亚洲另类二区| 五月伊人婷婷丁香| 欧美久久黑人一区二区| 国产精品一区二区三区四区久久| 欧美高清成人免费视频www| 天天添夜夜摸| 黄片大片在线免费观看| 成人永久免费在线观看视频| 亚洲精品中文字幕一二三四区| 又紧又爽又黄一区二区| 亚洲色图 男人天堂 中文字幕| 久久久久亚洲av毛片大全| 99热这里只有精品一区 | av天堂在线播放| 99热这里只有精品一区 | 2021天堂中文幕一二区在线观| 国产精品亚洲av一区麻豆| 一进一出好大好爽视频|