• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    IT云服務(wù)能力平臺業(yè)務(wù)連續(xù)性策略研究

    2017-12-01 07:43:00王海霞黃植勤
    移動通信 2017年20期
    關(guān)鍵詞:故障服務(wù)能力

    王海霞,黃植勤

    (中國電信股份有限公司廣東研究院,廣東 廣州 510630)

    IT云服務(wù)能力平臺業(yè)務(wù)連續(xù)性策略研究

    王海霞,黃植勤

    (中國電信股份有限公司廣東研究院,廣東 廣州 510630)

    IT云服務(wù)能力平臺承載全網(wǎng)集中系統(tǒng)業(yè)務(wù),存在著系統(tǒng)故障點(diǎn)集中、風(fēng)險(xiǎn)集中的風(fēng)險(xiǎn),一旦出現(xiàn)故障容易導(dǎo)致服務(wù)中斷,影響電信業(yè)務(wù)的受理。為了規(guī)避業(yè)務(wù)中斷的風(fēng)險(xiǎn),通過分析IT云服務(wù)能力平臺的三層服務(wù)框架,從基礎(chǔ)設(shè)施的高可用、服務(wù)器的高可用、應(yīng)用層的高可用三個方面探討了本地高可用的主要技術(shù),并提出了IT云服務(wù)能力平臺兩地三中心的容災(zāi)部署方案以及IT云服務(wù)能力平臺通過LVS+keepalived實(shí)現(xiàn)負(fù)載均衡的詳細(xì)方法。

    IT云服務(wù)能力平臺 業(yè)務(wù)連續(xù)性 高可用 負(fù)載均衡

    1 引言

    日益激烈的市場競爭和不斷提高的客戶服務(wù)質(zhì)量要求需要中國電信提供不間斷的服務(wù),尤其是發(fā)生災(zāi)難時也要提供一些關(guān)鍵業(yè)務(wù)的客戶服務(wù),避免企業(yè)的財(cái)務(wù)損失,保障企業(yè)信譽(yù)不受影響,增強(qiáng)企業(yè)核心競爭力,這對業(yè)務(wù)支撐系統(tǒng)提出了更高的數(shù)據(jù)保護(hù)和穩(wěn)定運(yùn)行要求。

    自2004年以來,中國電信各省的業(yè)務(wù)支撐系統(tǒng)逐步從省集中建設(shè)轉(zhuǎn)變?yōu)榧瘓F(tuán)集中的模式,在市場拓展、客戶服務(wù)等工作中發(fā)揮著越來越重要的作用;與此同時,集團(tuán)級業(yè)務(wù)支撐系統(tǒng)集中化帶來了業(yè)務(wù)快速響應(yīng)等優(yōu)勢,但同時也存在系統(tǒng)故障點(diǎn)集中、風(fēng)險(xiǎn)集中的危險(xiǎn),如人為誤操作、系統(tǒng)故障等一般風(fēng)險(xiǎn)以及大面積停電、水災(zāi)、地震等重大災(zāi)難。

    IT云服務(wù)能力平臺作為新一代IT架構(gòu)核心,需具備基礎(chǔ)能力,以平臺為核心逐步實(shí)施BSS(Business Support System,業(yè)務(wù)支撐系統(tǒng))全國集中系統(tǒng)部署上線,提升IT對4G等新業(yè)務(wù)的集約化運(yùn)營支撐能力。全網(wǎng)集中對云平臺的處理能力、穩(wěn)定性、彈性部署、業(yè)務(wù)連續(xù)性等提出了更高的要求。鑒于此,本文將對IT云服務(wù)能力平臺的業(yè)務(wù)連續(xù)性策略和關(guān)鍵技術(shù)進(jìn)行分析研究。

    2 IT云服務(wù)能力平臺框架

    IT云服務(wù)能力平臺總體框架圖如圖1所示。IT云服務(wù)能力平臺采用分布式框架,分別由Web層、服務(wù)層和數(shù)據(jù)層組成,每層都是由一組主機(jī)組成,采用集群部署模式,分別為Web服務(wù)器集群、應(yīng)用服務(wù)器集群和數(shù)據(jù)庫集群。集群可以看作是一個整體,集群的節(jié)點(diǎn)可以單獨(dú)提供服務(wù),各節(jié)點(diǎn)之間通過負(fù)載均衡實(shí)現(xiàn)高可用和故障隔離。

    圖1 IT云服務(wù)能力平臺總體框架圖

    圖2 IT云服務(wù)能力平臺公共框架概要圖

    IT云服務(wù)能力平臺公共框架概要圖如圖2所示。

    平臺公共框架是直接提供給BSS應(yīng)用系統(tǒng)調(diào)用的開發(fā)框架,是BSS應(yīng)用系統(tǒng)和各專題模塊、第三方包之間的一個中心樞帶。平臺公共框架構(gòu)建于Ketty和aLogic中間件之上。

    Web層框架主要封裝Web的相關(guān)框架,包括Session會話共享模塊、Struts2相關(guān)基礎(chǔ)模塊、Filter、Servlet、分頁工具以及調(diào)用服務(wù)層的接口封裝等。該Web層應(yīng)盡量依賴較少的第三方j(luò)ar包,為Web層提供相關(guān)BaseAction基類和基礎(chǔ)框架。

    由于在分布式應(yīng)用中,服務(wù)層和Web層是分開部署,Web層調(diào)用服務(wù)層的方法是通過遠(yuǎn)程restful服務(wù)。因此,框架對restful服務(wù)的調(diào)用進(jìn)行了封裝,使對Web層的調(diào)用是透明的。

    服務(wù)層框架包主要封裝后臺服務(wù)的相關(guān)框架,包括業(yè)務(wù)邏輯基礎(chǔ)類、全局序列、相關(guān)服務(wù)組裝、restful開發(fā)封裝等,處于Web層和數(shù)據(jù)層的中間。

    服務(wù)層框架包為應(yīng)用系統(tǒng)的后臺服務(wù)層提供相關(guān)基類和基礎(chǔ)框架。

    數(shù)據(jù)層框架主要封裝底層數(shù)據(jù)訪問相關(guān)框架,包括抽象數(shù)據(jù)增刪改查訪問、mybatis封裝、dao封裝、全局序列生成等,并提供BaseDao和BaseEntity等基礎(chǔ)類。

    3 IT云服務(wù)能力平臺業(yè)務(wù)連續(xù)性策略

    3.1 本地高可用策略

    從技術(shù)角度而言,可用性是指IT系統(tǒng)持續(xù)正常運(yùn)行時間的百分比。它由兩方面來確定:一方面是系統(tǒng)的可靠性,通常用MTTF(Mean Time To Failure,平均無故障時間)來衡量;另一方面是系統(tǒng)的可維護(hù)性,通常用MTTR(Mean Time To Restoration,故障平均維修時間)來衡量。那么,MTTF/(MTTF+MTTR)×100%表示為系統(tǒng)的可用性。因此,為提高系統(tǒng)的高可用,往往使用相關(guān)的高可用技術(shù)來提供保障,還可以從迅速地發(fā)現(xiàn)和解決故障,恢復(fù)系統(tǒng)正常運(yùn)行這方面著手。

    IT云服務(wù)能力平臺主要采用以下高可用技術(shù):

    (1)服務(wù)器的高可用技術(shù)

    服務(wù)器的高可用性有兩個層次,通常情況下,開放平臺應(yīng)用服務(wù)器的高可用是通過結(jié)構(gòu)冗余來實(shí)現(xiàn),另外還可以提高服務(wù)器硬件的可靠性。結(jié)構(gòu)冗余的方式主要包括雙機(jī)熱備、服務(wù)器N+1備份和負(fù)載均衡等模式,具體如下:

    ◆雙機(jī)熱備模式通常對生產(chǎn)系統(tǒng)采用1+1的冗余配置,硬件和軟件完全一致,一旦生產(chǎn)服務(wù)器發(fā)生故障,系統(tǒng)軟件也可發(fā)現(xiàn)故障,然后將應(yīng)用自動切換到備用服務(wù)器,實(shí)現(xiàn)應(yīng)用的快速恢復(fù)。

    ◆服務(wù)器N+1備份一般是采用1臺備機(jī)對N臺服務(wù)器進(jìn)行備份,當(dāng)任何一臺生產(chǎn)服務(wù)器發(fā)生故障時,備用服務(wù)器則接管這臺生產(chǎn)服務(wù)器繼續(xù)服務(wù)。

    ◆負(fù)載均衡模式通常在群組中配置一些冗余服務(wù)器,當(dāng)其中任何一臺服務(wù)器出現(xiàn)異常時,路由將服務(wù)請求轉(zhuǎn)到集群中的其他服務(wù)器,這樣就能實(shí)現(xiàn)群組整體對外能力的可靠性。

    總體來說,服務(wù)器N+1備份可維護(hù)性好,資源利用率較高,但恢復(fù)時效性稍差;而雙機(jī)熱備和負(fù)載均衡的恢復(fù)時間目標(biāo)的性能較好,但維護(hù)起來相對復(fù)雜,并且存在資源冗余度大的問題。

    在服務(wù)器硬件層面,目前服務(wù)器廠商采用了多項(xiàng)高可用技術(shù)如群集管理、提供遠(yuǎn)程鏡像支持、軟硬件監(jiān)控等方式提供高可用的平臺,還可以采用部件冗余等來保障服務(wù)器硬件的正常運(yùn)行。

    此外,隨著虛擬化技術(shù)的快速發(fā)展,有效屏蔽了硬件之間的差異,服務(wù)器的可用性得到有效提升,從而實(shí)現(xiàn)了硬件資源的按需分配、服務(wù)器的在線遷移,即使發(fā)生服務(wù)器故障,系統(tǒng)也可以做到自動隔離故障部件,并且完成快速切換。

    (2)基礎(chǔ)設(shè)施的高可用技術(shù)

    基礎(chǔ)設(shè)施主要是指存儲、網(wǎng)絡(luò)和電源設(shè)備等,這些設(shè)備的可用性目前主要是采用冗余技術(shù)來實(shí)現(xiàn)。存儲設(shè)施的高可用技術(shù)有以下兩種方式:

    ◆存儲設(shè)備內(nèi)部的磁盤冗余:主要依靠RAID(Redundant Arrays of Independent Disks,磁盤陣列)技術(shù)實(shí)現(xiàn),可以分為鏡像冗余和校驗(yàn)冗余。

    ◆存儲設(shè)備之間復(fù)制技術(shù):具體是通過磁盤陣列自身的數(shù)據(jù)塊復(fù)制技術(shù)手段來實(shí)現(xiàn)。

    復(fù)制方式既可以采用同步方式,也可以采用異步方式。目前,同步方式主要應(yīng)用于服務(wù)器I/O性能好、網(wǎng)絡(luò)帶寬充足和對J恢復(fù)點(diǎn)目標(biāo)(RPO)要求高的應(yīng)用環(huán)境,主要包括EMC SRDF/S(Symmetrix Remote Data Facility/Syncronous,同步遠(yuǎn)程數(shù)據(jù)復(fù)制拓?fù)洌DS TrueCopy等;異步方式主要適用于對磁盤性能和網(wǎng)絡(luò)帶寬要求低的應(yīng)用環(huán)境,主要包括EMC SRDF/A(Symmetrix Remote Data Facility/Asyncronous,異步遠(yuǎn)程數(shù)據(jù)復(fù)制拓?fù)洌?、HDS HUR(遠(yuǎn)程異步容災(zāi)軟件)等技術(shù)。

    網(wǎng)絡(luò)高可用技術(shù)通常包括網(wǎng)絡(luò)接口冗余、網(wǎng)絡(luò)負(fù)載均衡技術(shù)、多個備用的交換機(jī)和路由器、多網(wǎng)卡聚合等。電源的高可用性既可以通過UPS(Uninterruptible Power System,不間斷電源)來保障,也可以配置冗余的電源來提供保障。

    (3)應(yīng)用層的高可用技術(shù)

    該層使用的技術(shù)主要包括以下兩方面:

    一方面是提高應(yīng)用的可靠性,如在業(yè)務(wù)處理的時候采用負(fù)載均衡模式,在應(yīng)用接入方面采用多點(diǎn)接入架構(gòu),在應(yīng)用數(shù)據(jù)庫方面采用高可用技術(shù);

    另一方面是提高應(yīng)用可維護(hù)性,如故障監(jiān)控、故障報(bào)警和系統(tǒng)恢復(fù)等工具。

    負(fù)載均衡模式具體實(shí)現(xiàn)方式是將多個節(jié)點(diǎn)部署在應(yīng)用層,這些節(jié)點(diǎn)承擔(dān)同樣的業(yè)務(wù),如果一個節(jié)點(diǎn)發(fā)生故障,服務(wù)訪問請求能夠被系統(tǒng)自動轉(zhuǎn)到其他節(jié)點(diǎn)處理,并且其他節(jié)點(diǎn)均不受影響。

    多點(diǎn)接入架構(gòu)主要采用的方式是同時部署多個訪問接入點(diǎn),并且在不同地點(diǎn)提供多套彼此獨(dú)立的冗余應(yīng)用系統(tǒng),如果任何一地或者多地的應(yīng)用系統(tǒng)出現(xiàn)故障,其他地點(diǎn)的應(yīng)用系統(tǒng)能自動接管。多點(diǎn)接入架構(gòu)大多適用于網(wǎng)上銀行、電話銀行等渠道交易處理類型的應(yīng)用系統(tǒng)。

    數(shù)據(jù)庫的高可用往往通過冗余的方式實(shí)現(xiàn),包括結(jié)構(gòu)和數(shù)據(jù)的冗余,具體如下:

    ◆實(shí)現(xiàn)結(jié)構(gòu)冗余的有Standby技術(shù)和集群技術(shù),Standby技術(shù)適用于故障時的主、備用數(shù)據(jù)庫快速切換,一般是采用事務(wù)日志同步方式來實(shí)現(xiàn),如Oracle的DataGuard等,數(shù)據(jù)庫的集群架構(gòu)技術(shù)可通過多節(jié)點(diǎn)負(fù)載均衡提供故障容錯和無縫切換,如Oracle的Real Application Cluster。

    ◆數(shù)據(jù)冗余一般通過數(shù)據(jù)備份和磁盤復(fù)制來完成,如為了將生產(chǎn)系統(tǒng)的數(shù)據(jù)備份到磁帶介質(zhì)離線保存,可使用集中備份軟件(如NetBackup),還可以通過Oracle軟件工具EXP、RMAN進(jìn)行數(shù)據(jù)庫的數(shù)據(jù)導(dǎo)出備份。

    此外,在信息系統(tǒng)的運(yùn)行維護(hù)中還廣泛使用了一些應(yīng)用工具,如監(jiān)控報(bào)警、系統(tǒng)恢復(fù)和故障診斷等,使用這些應(yīng)用工具可以盡快發(fā)現(xiàn)服務(wù)器、網(wǎng)絡(luò)、電源和應(yīng)用等的故障,并能在短時間內(nèi)完成診斷和修復(fù)應(yīng)用組件,大大減少了應(yīng)用系統(tǒng)的平均維修時間,從而有效提高可用性。

    3.2 容災(zāi)策略

    IT云服務(wù)能力平臺兩地三中心部署示意圖如圖3所示。

    圖3 IT云服務(wù)能力平臺兩地三中心部署示意圖

    “兩地三中心”中的兩地是指同城和異地;三中心是指除了生產(chǎn)中心外,還包括兩個容災(zāi)中心,分別是同城容災(zāi)中心和異地容災(zāi)中心。由于近幾年國內(nèi)外曾發(fā)生過大范圍的自然災(zāi)害,“兩地三中心”即同城雙中心加異地災(zāi)備中心的災(zāi)備模式應(yīng)運(yùn)而生,這種災(zāi)備模式的優(yōu)勢是既有高可用性,又具備災(zāi)難備份的處理能力。

    同城雙中心的具體實(shí)現(xiàn)方式是建立兩個數(shù)據(jù)中心,分別位于同城或鄰近城市,這兩個數(shù)據(jù)中心相互獨(dú)立,并具備基本等同的業(yè)務(wù)處理能力來承擔(dān)關(guān)鍵業(yè)務(wù)運(yùn)營,兩個數(shù)據(jù)中心之間是通過高速鏈路實(shí)現(xiàn)數(shù)據(jù)的實(shí)時同步。正常情況下,雙中心是同時運(yùn)行的,互相之間可切換運(yùn)行,并同時分擔(dān)業(yè)務(wù);災(zāi)難情況下,雙中心可進(jìn)行災(zāi)備應(yīng)急切換,保障業(yè)務(wù)連續(xù)性,并且可做到基本不丟失數(shù)據(jù)。與異地災(zāi)備方式比較而言,同城雙中心建設(shè)快、投資低,并且可靠性高、運(yùn)維管理比較簡單等。

    異地災(zāi)備中心通常遠(yuǎn)離生產(chǎn)中心的所在城市,在其他城市建立一個災(zāi)備中心,對生產(chǎn)數(shù)據(jù)進(jìn)行備份,當(dāng)生產(chǎn)中心出現(xiàn)故障時,就可以啟用異地災(zāi)備中心的備份數(shù)據(jù),實(shí)現(xiàn)業(yè)務(wù)的恢復(fù)。

    總體而言,兩地三中心的災(zāi)難恢復(fù)方案可以保障不同災(zāi)難場景下的業(yè)務(wù)連續(xù)性要求。

    由于本地機(jī)房與生產(chǎn)中心位于同一個機(jī)房,它們之間是通過局域網(wǎng)進(jìn)行連接的,因此比較容易實(shí)現(xiàn)生產(chǎn)與災(zāi)備服務(wù)器之間應(yīng)用切換和數(shù)據(jù)的實(shí)時復(fù)制,本地機(jī)房的容災(zāi)主要是用于防范生產(chǎn)服務(wù)器的故障。

    由于異地災(zāi)備中心與生產(chǎn)中心不在同一個機(jī)房,受限于生產(chǎn)端與災(zāi)備端連接的網(wǎng)絡(luò)線路帶寬和質(zhì)量,因此應(yīng)用系統(tǒng)的切換需要一些時間,異地災(zāi)備中心完全可以在業(yè)務(wù)限定的時間內(nèi)進(jìn)行恢復(fù)和實(shí)現(xiàn)在可容忍丟失范圍內(nèi)的數(shù)據(jù)恢復(fù)。異地災(zāi)備中心主要用于防范大規(guī)模區(qū)域性災(zāi)難。

    IT云服務(wù)能力平臺上的承載業(yè)務(wù)按照重要性分為三級:一級業(yè)務(wù)是支撐生產(chǎn)的關(guān)鍵業(yè)務(wù);二級業(yè)務(wù)是實(shí)時性不高的查詢;三級業(yè)務(wù)是指統(tǒng)計(jì)業(yè)務(wù)等。為了保障業(yè)務(wù)的連續(xù)性,具體實(shí)現(xiàn)方案如下:

    (1)三中心同時在線

    同城兩IDC(Internet Data Center,互聯(lián)網(wǎng)數(shù)據(jù)中心)各承接49.5%的一級、二級業(yè)務(wù)訪問流量。異地備IDC承接1%的一級、二級業(yè)務(wù)隨機(jī)熱度流量,確保所有應(yīng)用版本和數(shù)據(jù)的正確性。異地備IDC同時承接三級業(yè)務(wù)流量,如實(shí)時性不高的統(tǒng)計(jì)報(bào)表業(yè)務(wù)、各省數(shù)據(jù)準(zhǔn)實(shí)時同步以及一些臨時取數(shù)操作等。同一中心內(nèi)的應(yīng)用和數(shù)據(jù)原則上部署在同一個機(jī)房內(nèi)。

    (2)三中心應(yīng)用軟件版本一致

    各IDC中心部署全套應(yīng)用軟件,各IDC中心應(yīng)用軟件版本統(tǒng)一一致(除灰度發(fā)布狀態(tài))。應(yīng)用依據(jù)請求類型,動態(tài)加載租戶個性化插件。

    (3)三中心業(yè)務(wù)部署

    各IDC中心分別都存儲一套全量業(yè)務(wù)數(shù)據(jù),主數(shù)據(jù)庫集群和備數(shù)據(jù)庫集群結(jié)構(gòu)一致。二級業(yè)務(wù)訪問同城備數(shù)據(jù)庫,三級業(yè)務(wù)數(shù)據(jù)僅僅在異地備數(shù)據(jù)集群存儲(三級業(yè)務(wù)數(shù)據(jù)可通過一級業(yè)務(wù)數(shù)據(jù)重新計(jì)算生成)。各IDC數(shù)據(jù)集群,數(shù)據(jù)庫采用一主一從。

    (4)訪問分類

    一級業(yè)務(wù)數(shù)據(jù)操作:所有IDC應(yīng)用都連到主IDC數(shù)據(jù)集群;

    二級業(yè)務(wù)數(shù)據(jù)訪問:所有IDC應(yīng)用都連到同城備IDC數(shù)據(jù)集群;

    三級業(yè)務(wù)數(shù)據(jù)操作:連到異地備IDC數(shù)據(jù)集群。

    (5)IDC間數(shù)據(jù)同步

    主備IDC中心通過異步方式進(jìn)行數(shù)據(jù)備份。主IDC到同城備IDC 99.9%的數(shù)據(jù)同步時延5分鐘內(nèi),同城備IDC向異地備IDC 99.9%的數(shù)據(jù)同步時延30分鐘內(nèi)。外系統(tǒng)數(shù)據(jù)同步給主IDC數(shù)據(jù)集群,單次數(shù)據(jù)量不大于5千條,可通過實(shí)時接口發(fā)送;單次數(shù)據(jù)量大于5千條,可通過數(shù)據(jù)同步,10萬條最大時延在10分鐘。異地備IDC同步到各省99.9%的數(shù)據(jù)同步時延30分鐘內(nèi)。

    (6)數(shù)據(jù)準(zhǔn)確性保障

    記錄全部數(shù)據(jù)的變更日志,對日志及主數(shù)據(jù)進(jìn)行核對,確保數(shù)據(jù)準(zhǔn)確。記錄關(guān)鍵數(shù)據(jù)變更日志,對日志和備份數(shù)據(jù)進(jìn)行核對,保障備份數(shù)據(jù)準(zhǔn)確一致。

    4 業(yè)務(wù)連續(xù)性關(guān)鍵技術(shù)

    4.1 集群

    集群一般是由一組計(jì)算機(jī)構(gòu)成,每個節(jié)點(diǎn)可以是不同硬件構(gòu)成的計(jì)算機(jī),也可以是部署不同操作系統(tǒng)的計(jì)算機(jī),從外部看起來又是一個整體。如提供Web服務(wù)的集群,集群的每個節(jié)點(diǎn)可以單獨(dú)提供服務(wù),對外界而言可看作是一個大Web服務(wù)器。

    常見的應(yīng)用服務(wù)器集群、Web服務(wù)器集群和數(shù)據(jù)庫集群屬于負(fù)載均衡系統(tǒng)。負(fù)載均衡系統(tǒng)是指集群內(nèi)所有的節(jié)點(diǎn)同時分擔(dān)系統(tǒng)的工作負(fù)載,它們都處于活動狀態(tài)。負(fù)載均衡集群一般適用于相應(yīng)網(wǎng)絡(luò)請求的網(wǎng)頁服務(wù)器和數(shù)據(jù)庫服務(wù)器。負(fù)載均衡集群可以在接到請求時檢查到接受請求較少、不繁忙的服務(wù)器,并把請求轉(zhuǎn)移到這些服務(wù)器上。從檢查服務(wù)器狀態(tài)這一點(diǎn)來看,負(fù)載均衡和容錯集群比較接近,不同之處在于負(fù)載均衡集群的數(shù)量更多。

    集群系統(tǒng)主要解決以下問題:

    (1)負(fù)載均衡:集群中的計(jì)算機(jī)共同承擔(dān)負(fù)載壓力,這樣主服務(wù)器的負(fù)載得到緩解,主服務(wù)器的硬件和軟件要求也隨之降低。

    (2)高可靠性(HA):通過集群管理軟件提供不間斷服務(wù)。

    (3)高性能計(jì)算(HPC):通常適用于科學(xué)計(jì)算領(lǐng)域,并行處理復(fù)雜運(yùn)算。

    4.2 負(fù)載均衡

    負(fù)載均衡比較常用DNS(Domain Name System,域名系統(tǒng))負(fù)載均衡,還包括反向代理負(fù)載均衡和IP負(fù)載均衡等,即在集群中有服務(wù)器A、B、C,它們之間互不相干,當(dāng)其中任何一臺的機(jī)器宕機(jī)了,都不會影響其他機(jī)器的運(yùn)行。用戶發(fā)來一個請求時,通過負(fù)載均衡器的算法來決定由哪臺機(jī)器處理,如使用round算法,分別有用戶a、b、c,則分別由服務(wù)器A、B、C來處理。

    (1)基于DNS的負(fù)載均衡

    在DNS服務(wù)器中,不同IP地址的服務(wù)器可以配置相同的名稱,查詢服務(wù)器根據(jù)名稱解析得到一個IP地址。因此,不同的查詢服務(wù)器可以訪問不同IP地址上的Web服務(wù)器,實(shí)現(xiàn)負(fù)載均衡的目標(biāo)。

    (2)基于NAT(Network Address Translation,網(wǎng)絡(luò)地址轉(zhuǎn)換)的負(fù)載均衡

    負(fù)載均衡的方式具體是通過地址轉(zhuǎn)換網(wǎng)關(guān)實(shí)現(xiàn),配置內(nèi)部IP地址的計(jì)算機(jī)通過轉(zhuǎn)換網(wǎng)關(guān)可以訪問外網(wǎng)。而且地址轉(zhuǎn)換網(wǎng)關(guān)能將每個外部訪問連接均勻轉(zhuǎn)換為不同的內(nèi)部IP地址,則外網(wǎng)中的服務(wù)器就能各自與自己轉(zhuǎn)換得到的地址上的計(jì)算機(jī)進(jìn)行通信。

    (3)反向代理負(fù)載均衡

    通過代理服務(wù)器實(shí)現(xiàn)負(fù)載均衡,客戶通過代理訪問內(nèi)部Web服務(wù)器,代理服務(wù)器可以將請求均勻地轉(zhuǎn)發(fā)給多臺內(nèi)部Web服務(wù)器上。

    4.3 IT云服務(wù)能力平臺采用LVS+keepalived

    IT云服務(wù)能力平臺整體采用分布式架構(gòu),Web層和服務(wù)層都采用集群部署模式,通過負(fù)載均衡實(shí)現(xiàn)訪問調(diào)度,實(shí)現(xiàn)服務(wù)器集群高可用和故障隔離,具體采用LVS+keepalived的方式,其中LVS(Linux Virtual Server,Linux虛擬服務(wù)器)實(shí)現(xiàn)負(fù)載均衡,keepalived承擔(dān)健康檢查和故障轉(zhuǎn)移,提升系統(tǒng)的可用性。采用這種架構(gòu)對現(xiàn)有系統(tǒng)的擴(kuò)展非常容易實(shí)現(xiàn),只需更改LVS的配置文件,并在后端添加或者減少realserver,就能實(shí)現(xiàn)無縫配置變更。

    LVS是一個開源的軟件,可以實(shí)現(xiàn)Linux平臺下的簡單負(fù)載均衡;keepalived是運(yùn)行在LVS之上,其主要功能是實(shí)現(xiàn)真實(shí)機(jī)的故障隔離及負(fù)載均衡器間的失敗切換,提高系統(tǒng)的可用性。

    keepalived的主要作用是檢測服務(wù)器的狀態(tài),并能將有故障的服務(wù)器從集群中去除,當(dāng)服務(wù)器修復(fù)后,keepalived可以把恢復(fù)正常的服務(wù)器重新加入到服務(wù)器集群中。

    LVS+keepalived切換過程如下:

    (1)主從機(jī)完成keepalived的安裝,并且把vip指定到一臺機(jī)器上。

    (2)把主機(jī)斷網(wǎng)或者是數(shù)據(jù)庫stop,vip飄走。

    (3)查看從機(jī)的ip,得到vip。

    5 結(jié)束語

    本文結(jié)合IT云服務(wù)能力平臺的框架,分別從本地高可用策略和容災(zāi)策略兩個方面探討了業(yè)務(wù)連續(xù)性的主要策略,并提出了IT云服務(wù)能力平臺兩地三中心的具體實(shí)現(xiàn)方案。同時,重點(diǎn)分析業(yè)務(wù)連續(xù)性主要實(shí)現(xiàn)的技術(shù),包括集群和負(fù)載均衡技術(shù),以及IT云服務(wù)能力平臺通過LVS+keepalived實(shí)現(xiàn)負(fù)載均衡的具體方法。目前,虛擬化技術(shù)成為重要的發(fā)展方向,運(yùn)用該技術(shù)能夠顯著提高計(jì)算機(jī)的工作效率。按應(yīng)用領(lǐng)域的維度,虛擬化技術(shù)可以劃分為服務(wù)器虛擬化、存儲虛擬化、網(wǎng)絡(luò)虛擬化等;按實(shí)現(xiàn)層次的維度,虛擬化技術(shù)又可以劃分為硬件虛擬化、操作系統(tǒng)虛擬化、應(yīng)用程序虛擬化等。下一步,虛擬化技術(shù)將成為IT云服務(wù)能力平臺重點(diǎn)研究領(lǐng)域。

    [1]劉振棟,羅群. 基于云平臺的業(yè)務(wù)與數(shù)據(jù)遷移技術(shù)分析與研究[J]. 信息與電腦: 理論版, 2015(17): 32-33.

    [2]高勇. 業(yè)務(wù)連續(xù)性管理與災(zāi)難管理——從IT連續(xù)到業(yè)務(wù)連續(xù)[J]. 中國信息安全, 2014(12): 114.

    [3]楊鈞,黃傳俊. 云架構(gòu)下支撐系統(tǒng)業(yè)務(wù)連續(xù)性提升方案研究[J]. 江蘇通信, 2016(6): 43-45.

    [4]梁曉歡. 數(shù)據(jù)庫安全、虛擬化和云計(jì)算——現(xiàn)代IT領(lǐng)域數(shù)據(jù)保護(hù)所面臨的三大關(guān)鍵技術(shù)挑戰(zhàn)[J]. 電腦與電信,2011(4): 5-8.

    [5]王霜,修保新,肖衛(wèi)東. Web服務(wù)器集群的負(fù)載均衡算法研究[J]. 計(jì)算機(jī)工程與應(yīng)用,2004,40(25): 78-80.

    [6]李雙慶,古平,程代杰. Web集群系統(tǒng)負(fù)載均衡策略分析與研究[J]. 計(jì)算機(jī)工程與應(yīng)用,2002,38(19): 40-42.

    [7]李坤,王百杰. 服務(wù)器集群負(fù)載均衡技術(shù)研究及算法比較[J]. 計(jì)算機(jī)與現(xiàn)代化, 2009(8): 7-10.

    [8]蓋九宇,張忠能,肖鶴. 分布式數(shù)據(jù)庫數(shù)據(jù)復(fù)制技術(shù)的分析與應(yīng)用[J]. 計(jì)算機(jī)應(yīng)用與軟件,2005,22(7): 36-38.

    [9]孫海燕,王曉東,肖儂,等. 數(shù)據(jù)網(wǎng)格中的數(shù)據(jù)復(fù)制技術(shù)研究[J]. 計(jì)算機(jī)科學(xué), 2005,32(7): 13-16.

    [10]張秋余,王璐. 分布式系統(tǒng)中數(shù)據(jù)復(fù)制的研究與應(yīng)用[J]. 計(jì)算機(jī)工程與設(shè)計(jì), 2005,26(5): 1185-1186.

    [11]劉威. 信息系統(tǒng)的高可用性建設(shè)探討[J]. 中國金融電腦, 2012(6): 44-48.

    [12]劉威. 商業(yè)銀行的業(yè)務(wù)連續(xù)性管理探討[J]. 中國金融電腦, 2012(10): 58-61.

    Research on Service Continuity Strategy of IT Cloud Service Capability Platform

    WANG Haixia, HUANG Zhiqin
    (Guangdong Research Institute of China Telecom Co., Ltd., Guangzhou 510630, China)

    As IT cloud service capacity platform bears the centralized system services of the entire network, there are disadvantages of intensive system fault point and centralized risk. Once fault happens, the service would be interrupted and the telecommunication service reception would be affected. In order to avoid the risk of service interruption, three-level service architecture of IT cloud service capacity platform was addressed. From three aspects including the high availability of infrastructure, server and application layer, main techniques of local high availability were discussed. In addition, the deployment scheme of remote disaster recovery in three centers of two places for IT cloud service capacity platform was put forward. Finally, the detailed method to implement load balancing by means of LVS+keepalived for IT cloud service capacity platform was elaborated.

    IT cloud service capability platform service continuity high availability load balancing

    10.3969/j.issn.1006-1010.2017.20.005

    TP393.0

    A

    1006-1010(2017)20-0027-06

    王海霞,黃植勤. IT云服務(wù)能力平臺業(yè)務(wù)連續(xù)性策略研究[J]. 移動通信, 2017,41(20): 27-32.

    2017-05-19

    責(zé)任編輯:袁婷 yuanting@mbcom.cn

    王海霞:高級工程師,碩士畢業(yè)于武漢大學(xué),現(xiàn)任職于中國電信股份有限公司廣東研究院,主要研究方向?yàn)镮T系統(tǒng)架構(gòu)設(shè)計(jì)、需求分析等。

    黃植勤:高級工程師,學(xué)士畢業(yè)于大連理工大學(xué),現(xiàn)任職于中國電信股份有限公司廣東研究院,主要研究方向?yàn)镮T系統(tǒng)架構(gòu)設(shè)計(jì)、需求分析、應(yīng)用性能管理、IT系統(tǒng)軟硬件評測等。

    猜你喜歡
    故障服務(wù)能力
    消防安全四個能力
    故障一點(diǎn)通
    服務(wù)在身邊 健康每一天
    服務(wù)在身邊 健康每一天
    服務(wù)在身邊 健康每一天
    大興學(xué)習(xí)之風(fēng) 提升履職能力
    你的換位思考能力如何
    招行30年:從“滿意服務(wù)”到“感動服務(wù)”
    商周刊(2017年9期)2017-08-22 02:57:56
    奔馳R320車ABS、ESP故障燈異常點(diǎn)亮
    抄能力
    日韩欧美精品v在线| 真人做人爱边吃奶动态| 日本一二三区视频观看| 欧美性猛交黑人性爽| 最好的美女福利视频网| 黄色配什么色好看| 精品久久久久久久久久免费视频| 日本撒尿小便嘘嘘汇集6| 少妇猛男粗大的猛烈进出视频 | 一区二区三区高清视频在线| 国产精品不卡视频一区二区| 中文字幕免费在线视频6| 精品久久久久久久末码| 久久中文看片网| 国产精品一区二区性色av| 天堂av国产一区二区熟女人妻| 久久草成人影院| 美女cb高潮喷水在线观看| 久久久精品欧美日韩精品| 黄片wwwwww| 色精品久久人妻99蜜桃| 久久久成人免费电影| 又粗又爽又猛毛片免费看| 在线a可以看的网站| 色尼玛亚洲综合影院| 99精品久久久久人妻精品| 欧美zozozo另类| 国产一区二区在线av高清观看| 午夜福利18| 中文亚洲av片在线观看爽| 天堂影院成人在线观看| 国产69精品久久久久777片| 国产淫片久久久久久久久| 俄罗斯特黄特色一大片| 他把我摸到了高潮在线观看| 日韩一本色道免费dvd| 色综合婷婷激情| 九色国产91popny在线| 国产精品永久免费网站| 中文字幕免费在线视频6| 免费看av在线观看网站| xxxwww97欧美| 在线免费观看不下载黄p国产 | 欧美最新免费一区二区三区| .国产精品久久| 变态另类成人亚洲欧美熟女| 伦理电影大哥的女人| 人妻制服诱惑在线中文字幕| 国产精品99久久久久久久久| 91在线观看av| 免费一级毛片在线播放高清视频| 亚洲av成人精品一区久久| 精品99又大又爽又粗少妇毛片 | 日韩精品青青久久久久久| 国产精品亚洲一级av第二区| 免费无遮挡裸体视频| 最近最新中文字幕大全电影3| 欧美高清性xxxxhd video| 亚洲欧美精品综合久久99| 国产视频内射| 国产69精品久久久久777片| 麻豆av噜噜一区二区三区| 能在线免费观看的黄片| 熟女人妻精品中文字幕| 午夜激情欧美在线| 狂野欧美白嫩少妇大欣赏| 亚洲人与动物交配视频| 国产成人aa在线观看| 九九热线精品视视频播放| 亚洲av免费在线观看| 男人舔女人下体高潮全视频| 一级黄色大片毛片| 赤兔流量卡办理| 精品久久久久久久久久久久久| 亚洲美女搞黄在线观看 | 夜夜夜夜夜久久久久| 国产中年淑女户外野战色| 无人区码免费观看不卡| 婷婷丁香在线五月| 国产探花在线观看一区二区| 91狼人影院| 国语自产精品视频在线第100页| 欧美日韩黄片免| 亚洲美女黄片视频| 久久99热这里只有精品18| 美女高潮喷水抽搐中文字幕| 有码 亚洲区| 欧美成人性av电影在线观看| 在线观看午夜福利视频| 99久久无色码亚洲精品果冻| 亚洲精品久久国产高清桃花| 日本 欧美在线| 国产成人影院久久av| 成人av在线播放网站| 99热这里只有是精品在线观看| 韩国av在线不卡| 91麻豆av在线| 国产aⅴ精品一区二区三区波| 午夜精品一区二区三区免费看| 99精品在免费线老司机午夜| 日韩,欧美,国产一区二区三区 | 国产一级毛片七仙女欲春2| 国产免费一级a男人的天堂| 男人舔奶头视频| 亚洲综合色惰| 国产精品自产拍在线观看55亚洲| 高清毛片免费观看视频网站| xxxwww97欧美| 久久久久久久亚洲中文字幕| 中国美白少妇内射xxxbb| 亚洲av二区三区四区| 亚洲 国产 在线| 午夜a级毛片| 亚洲av免费在线观看| 欧美一区二区亚洲| 久9热在线精品视频| 欧美bdsm另类| 国产爱豆传媒在线观看| 国产熟女欧美一区二区| 精品福利观看| 亚洲成av人片在线播放无| 精品人妻一区二区三区麻豆 | 欧美一区二区精品小视频在线| 国产精品1区2区在线观看.| 亚洲精华国产精华液的使用体验 | 亚洲精品一卡2卡三卡4卡5卡| 日日摸夜夜添夜夜添av毛片 | 日韩一本色道免费dvd| 亚洲专区国产一区二区| 亚洲中文日韩欧美视频| 日本一本二区三区精品| 欧洲精品卡2卡3卡4卡5卡区| 国产亚洲欧美98| 亚洲av免费高清在线观看| 最近最新免费中文字幕在线| 国产单亲对白刺激| 精品一区二区三区av网在线观看| 国产探花极品一区二区| 国产女主播在线喷水免费视频网站 | 我的老师免费观看完整版| 色在线成人网| 国产一区二区在线av高清观看| 国模一区二区三区四区视频| 啦啦啦啦在线视频资源| 99精品在免费线老司机午夜| 欧美日韩综合久久久久久 | 亚洲av一区综合| 国内精品宾馆在线| 成人二区视频| 国产久久久一区二区三区| 韩国av一区二区三区四区| 亚洲国产高清在线一区二区三| 搡老岳熟女国产| 嫩草影院精品99| 亚洲四区av| 99久国产av精品| 99热精品在线国产| 三级男女做爰猛烈吃奶摸视频| 精品久久久久久,| 哪里可以看免费的av片| 免费搜索国产男女视频| av女优亚洲男人天堂| 亚洲av电影不卡..在线观看| 亚洲精华国产精华液的使用体验 | 久久久久国内视频| 在线看三级毛片| 精品一区二区三区av网在线观看| 99久久九九国产精品国产免费| 国产精品久久久久久久电影| 国产一区二区在线观看日韩| 制服丝袜大香蕉在线| 无人区码免费观看不卡| 精品久久久噜噜| 亚洲经典国产精华液单| 久久人人精品亚洲av| 亚洲精品色激情综合| 嫩草影院入口| 欧美极品一区二区三区四区| 99热这里只有是精品50| 国产精品1区2区在线观看.| 亚洲精品日韩av片在线观看| 成人特级av手机在线观看| 给我免费播放毛片高清在线观看| 色尼玛亚洲综合影院| 看免费成人av毛片| 最好的美女福利视频网| 精品久久久久久久久av| 好男人在线观看高清免费视频| 午夜久久久久精精品| 老熟妇乱子伦视频在线观看| 国产精品福利在线免费观看| 床上黄色一级片| 色精品久久人妻99蜜桃| 久久精品国产99精品国产亚洲性色| 啦啦啦观看免费观看视频高清| 人人妻人人看人人澡| 亚洲无线观看免费| 搡老熟女国产l中国老女人| 韩国av一区二区三区四区| 在线观看舔阴道视频| 欧美绝顶高潮抽搐喷水| 两性午夜刺激爽爽歪歪视频在线观看| 日日摸夜夜添夜夜添av毛片 | 久久久久久久久大av| 99久久精品热视频| 久久婷婷人人爽人人干人人爱| 在线观看一区二区三区| 国内揄拍国产精品人妻在线| 亚洲综合色惰| 色吧在线观看| 国产一区二区激情短视频| 亚洲国产色片| 精品久久久久久久久久免费视频| 日本-黄色视频高清免费观看| 他把我摸到了高潮在线观看| 一边摸一边抽搐一进一小说| 日本三级黄在线观看| 国产精品人妻久久久影院| 一本久久中文字幕| 又黄又爽又刺激的免费视频.| h日本视频在线播放| 一a级毛片在线观看| 亚洲av第一区精品v没综合| 日本撒尿小便嘘嘘汇集6| 国产精品亚洲美女久久久| 97碰自拍视频| 色综合站精品国产| 美女 人体艺术 gogo| 国产色婷婷99| 国产高潮美女av| 欧美一区二区国产精品久久精品| 免费在线观看成人毛片| 亚洲中文日韩欧美视频| 日本与韩国留学比较| 我要看日韩黄色一级片| 啦啦啦啦在线视频资源| 伊人久久精品亚洲午夜| 自拍偷自拍亚洲精品老妇| 国产伦人伦偷精品视频| 91精品国产九色| 国产毛片a区久久久久| 国产主播在线观看一区二区| 最近最新免费中文字幕在线| 天堂影院成人在线观看| 变态另类成人亚洲欧美熟女| 久久久久久伊人网av| 给我免费播放毛片高清在线观看| 亚洲在线自拍视频| 两个人的视频大全免费| 免费高清视频大片| 别揉我奶头~嗯~啊~动态视频| 国产欧美日韩精品一区二区| 91午夜精品亚洲一区二区三区 | a级一级毛片免费在线观看| 两个人的视频大全免费| 色哟哟·www| 午夜激情欧美在线| 日日摸夜夜添夜夜添av毛片 | 欧美丝袜亚洲另类 | 免费高清视频大片| 亚洲人与动物交配视频| 中国美白少妇内射xxxbb| 无遮挡黄片免费观看| 狂野欧美激情性xxxx在线观看| 国产中年淑女户外野战色| 熟妇人妻久久中文字幕3abv| 精品国产三级普通话版| 简卡轻食公司| 国产精品亚洲美女久久久| 日韩精品有码人妻一区| 午夜精品在线福利| 中文字幕高清在线视频| 久久人人精品亚洲av| 亚洲aⅴ乱码一区二区在线播放| 亚洲第一电影网av| 国产高清不卡午夜福利| 久久久成人免费电影| 久久国内精品自在自线图片| 啦啦啦韩国在线观看视频| 又粗又爽又猛毛片免费看| 日本a在线网址| 精品人妻一区二区三区麻豆 | 欧美三级亚洲精品| 丝袜美腿在线中文| 久久久久久久久久成人| 91久久精品国产一区二区三区| 精品久久久久久久久久免费视频| 美女黄网站色视频| 老师上课跳d突然被开到最大视频| av国产免费在线观看| 乱系列少妇在线播放| 麻豆成人av在线观看| 亚洲无线在线观看| 国产欧美日韩精品一区二区| 亚洲国产欧洲综合997久久,| 欧美另类亚洲清纯唯美| 午夜福利18| 性色avwww在线观看| 一个人看视频在线观看www免费| 有码 亚洲区| 久久国产精品人妻蜜桃| 99热网站在线观看| 黄色丝袜av网址大全| 欧美日本亚洲视频在线播放| 久久99热6这里只有精品| 久久热精品热| 日韩 亚洲 欧美在线| 999久久久精品免费观看国产| 久久天躁狠狠躁夜夜2o2o| 日本熟妇午夜| 天美传媒精品一区二区| 国产探花极品一区二区| 搡老妇女老女人老熟妇| 伦精品一区二区三区| 欧美精品国产亚洲| 精品久久久久久久久久免费视频| 亚洲精品色激情综合| av黄色大香蕉| 韩国av一区二区三区四区| 日日撸夜夜添| 免费看日本二区| 日韩一本色道免费dvd| 国产精品嫩草影院av在线观看 | 69人妻影院| 国产伦在线观看视频一区| 五月玫瑰六月丁香| 啦啦啦观看免费观看视频高清| 亚洲一级一片aⅴ在线观看| 99热这里只有精品一区| 精华霜和精华液先用哪个| 精品无人区乱码1区二区| 久久久久久九九精品二区国产| 男人的好看免费观看在线视频| 成人国产综合亚洲| 男女视频在线观看网站免费| 亚洲精品一卡2卡三卡4卡5卡| 69av精品久久久久久| 伊人久久精品亚洲午夜| 成人午夜高清在线视频| 免费无遮挡裸体视频| 久久6这里有精品| 亚洲,欧美,日韩| av在线天堂中文字幕| 色综合婷婷激情| 国产一区二区亚洲精品在线观看| 中文字幕av在线有码专区| 亚洲熟妇中文字幕五十中出| 真实男女啪啪啪动态图| 国产男人的电影天堂91| 成人欧美大片| a级毛片a级免费在线| 可以在线观看毛片的网站| АⅤ资源中文在线天堂| 麻豆一二三区av精品| 国产精品三级大全| 人人妻人人看人人澡| 国产精品日韩av在线免费观看| 成人欧美大片| or卡值多少钱| 国产精品99久久久久久久久| 少妇裸体淫交视频免费看高清| 国产午夜精品论理片| 中文字幕熟女人妻在线| 中文资源天堂在线| 国产精品精品国产色婷婷| 亚洲中文日韩欧美视频| 18禁在线播放成人免费| 久久久久久久久久成人| 亚洲av第一区精品v没综合| 伦精品一区二区三区| 偷拍熟女少妇极品色| 欧美日韩国产亚洲二区| 亚洲性夜色夜夜综合| 日日摸夜夜添夜夜添av毛片 | 少妇熟女aⅴ在线视频| 日韩欧美免费精品| 国产精品一区二区三区四区免费观看 | 91久久精品国产一区二区成人| 又黄又爽又免费观看的视频| 亚洲五月天丁香| 麻豆成人av在线观看| 亚洲va在线va天堂va国产| 夜夜看夜夜爽夜夜摸| 久久久久九九精品影院| 亚洲最大成人中文| 国产精品三级大全| 免费观看人在逋| 1024手机看黄色片| 亚洲av中文字字幕乱码综合| 国产不卡一卡二| av女优亚洲男人天堂| 欧美日韩瑟瑟在线播放| 成年女人永久免费观看视频| av线在线观看网站| 男女边摸边吃奶| 我要看黄色一级片免费的| 成人高潮视频无遮挡免费网站| 国产亚洲91精品色在线| 特大巨黑吊av在线直播| 亚洲美女视频黄频| 久久精品国产鲁丝片午夜精品| 精品一区二区免费观看| 又黄又爽又刺激的免费视频.| 国产男人的电影天堂91| 欧美高清成人免费视频www| 美女xxoo啪啪120秒动态图| 十八禁网站网址无遮挡 | 18禁裸乳无遮挡免费网站照片| 插逼视频在线观看| 丝袜脚勾引网站| 久久久久久九九精品二区国产| 免费黄色在线免费观看| 免费观看a级毛片全部| 国产精品久久久久久久久免| 日韩不卡一区二区三区视频在线| 国产高清三级在线| 国产男女内射视频| 人妻一区二区av| 午夜免费鲁丝| 成人亚洲精品一区在线观看 | 麻豆成人av视频| 校园人妻丝袜中文字幕| 国产高清不卡午夜福利| 国产片特级美女逼逼视频| 男的添女的下面高潮视频| 久久精品国产亚洲网站| 少妇丰满av| 直男gayav资源| 国产一区亚洲一区在线观看| 青春草视频在线免费观看| 男女国产视频网站| 亚洲在久久综合| 欧美成人a在线观看| 人人妻人人澡人人爽人人夜夜| 最近手机中文字幕大全| 中文天堂在线官网| 久久精品国产亚洲网站| 视频区图区小说| 少妇精品久久久久久久| 精品久久国产蜜桃| 国产精品成人在线| 在线观看三级黄色| 熟女av电影| 女人十人毛片免费观看3o分钟| .国产精品久久| 国内精品宾馆在线| 蜜臀久久99精品久久宅男| 免费看av在线观看网站| 久久久成人免费电影| 精品久久久噜噜| 91久久精品国产一区二区三区| 亚洲在久久综合| 18禁在线无遮挡免费观看视频| 国产男女超爽视频在线观看| 国产精品一区www在线观看| 国产极品天堂在线| 中文字幕亚洲精品专区| 国产一区亚洲一区在线观看| 欧美老熟妇乱子伦牲交| av卡一久久| 在线看a的网站| 97精品久久久久久久久久精品| 少妇人妻一区二区三区视频| 老师上课跳d突然被开到最大视频| 亚洲内射少妇av| 亚洲精品一二三| 免费观看性生交大片5| 久久久久久久久久久免费av| 久久久久网色| 国产精品福利在线免费观看| 国产乱人偷精品视频| 2018国产大陆天天弄谢| 色5月婷婷丁香| 国产成人免费无遮挡视频| 久久人妻熟女aⅴ| 亚洲欧美一区二区三区国产| 国产一区二区在线观看日韩| 免费少妇av软件| 成人漫画全彩无遮挡| 成人亚洲精品一区在线观看 | 女人久久www免费人成看片| 免费观看的影片在线观看| 婷婷色麻豆天堂久久| 国产欧美日韩一区二区三区在线 | 亚洲精品久久久久久婷婷小说| 国产在视频线精品| 两个人的视频大全免费| 亚洲av综合色区一区| 一区二区av电影网| 一级毛片aaaaaa免费看小| 成人18禁高潮啪啪吃奶动态图 | 久久97久久精品| 国产一区二区三区综合在线观看 | 五月开心婷婷网| 男人和女人高潮做爰伦理| 免费人妻精品一区二区三区视频| 国产乱人偷精品视频| 国产精品欧美亚洲77777| 成人高潮视频无遮挡免费网站| 春色校园在线视频观看| 亚洲精品,欧美精品| 久久久久久久久久久丰满| 麻豆国产97在线/欧美| 色5月婷婷丁香| 能在线免费看毛片的网站| 日韩制服骚丝袜av| 99热这里只有是精品50| 超碰av人人做人人爽久久| 国产av精品麻豆| 乱系列少妇在线播放| 3wmmmm亚洲av在线观看| 青春草视频在线免费观看| 校园人妻丝袜中文字幕| 欧美xxⅹ黑人| 成年免费大片在线观看| 亚洲伊人久久精品综合| 久久久欧美国产精品| 毛片一级片免费看久久久久| 我的老师免费观看完整版| 久久人人爽人人片av| 22中文网久久字幕| 99热6这里只有精品| 22中文网久久字幕| 99久国产av精品国产电影| av福利片在线观看| 91久久精品国产一区二区成人| 国产探花极品一区二区| 国产av国产精品国产| 欧美人与善性xxx| 国产黄片视频在线免费观看| 成人高潮视频无遮挡免费网站| 亚洲色图综合在线观看| 色5月婷婷丁香| 嫩草影院新地址| 色综合色国产| 精品久久久久久久末码| 精品国产一区二区三区久久久樱花 | 久久青草综合色| 看十八女毛片水多多多| av国产久精品久网站免费入址| 全区人妻精品视频| 色婷婷久久久亚洲欧美| 久久热精品热| 国产视频内射| 免费观看a级毛片全部| 久久久久久久国产电影| 中国三级夫妇交换| 内射极品少妇av片p| 久久久色成人| 看非洲黑人一级黄片| 秋霞伦理黄片| 好男人视频免费观看在线| 久久久午夜欧美精品| 乱码一卡2卡4卡精品| 久久综合国产亚洲精品| 亚洲欧美一区二区三区黑人 | 中国美白少妇内射xxxbb| 一区二区三区乱码不卡18| 日日啪夜夜撸| 国产色爽女视频免费观看| 美女xxoo啪啪120秒动态图| 久久人妻熟女aⅴ| 国产精品久久久久久久久免| 日本猛色少妇xxxxx猛交久久| 性高湖久久久久久久久免费观看| a 毛片基地| 99久久精品热视频| 中文资源天堂在线| 亚洲av免费高清在线观看| 欧美日韩精品成人综合77777| h视频一区二区三区| 啦啦啦视频在线资源免费观看| 天天躁夜夜躁狠狠久久av| 久久久久久久久久久丰满| 丰满迷人的少妇在线观看| 亚洲电影在线观看av| 如何舔出高潮| 免费av中文字幕在线| 国产av精品麻豆| 干丝袜人妻中文字幕| 高清av免费在线| 亚洲成色77777| 亚洲精品第二区| 18禁裸乳无遮挡动漫免费视频| 伊人久久精品亚洲午夜| 熟女人妻精品中文字幕| 日日撸夜夜添| 不卡视频在线观看欧美| 亚洲av免费高清在线观看| 观看av在线不卡| 欧美变态另类bdsm刘玥| av国产久精品久网站免费入址| 亚洲美女黄色视频免费看| 免费人成在线观看视频色| 亚洲色图综合在线观看| 亚洲精品乱码久久久久久按摩| 尤物成人国产欧美一区二区三区| 成人漫画全彩无遮挡| 亚洲第一区二区三区不卡| 狠狠精品人妻久久久久久综合| 国产高清国产精品国产三级 | 免费在线观看成人毛片| 国产一区亚洲一区在线观看| 国产精品.久久久| 午夜激情福利司机影院| 亚洲精品色激情综合| 在线精品无人区一区二区三 | 亚洲精品久久久久久婷婷小说| 亚洲人成网站高清观看| 亚洲色图综合在线观看| 婷婷色麻豆天堂久久| 久久久a久久爽久久v久久| 女人十人毛片免费观看3o分钟| 这个男人来自地球电影免费观看 | 美女视频免费永久观看网站|