• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于虛擬化技術(shù)構(gòu)建的系統(tǒng)存儲架構(gòu)研究

    2014-07-24 19:34:56魯瑛
    中國水運(yùn) 2014年5期
    關(guān)鍵詞:存儲云存儲云計(jì)算

    魯瑛

    摘 要:存儲虛擬化是指抽象化或虛擬化存儲設(shè)備或存儲子系統(tǒng),建立一個統(tǒng)一的存儲資源池,對存儲子系統(tǒng)的容量和性能,及存儲服務(wù)進(jìn)行靈活的管理,以提供更精確地控制。基于設(shè)備側(cè)進(jìn)行存儲虛擬化,能夠隱藏各種異構(gòu)存儲的復(fù)雜性,提高存儲利用率,降低管理和基礎(chǔ)架構(gòu)成本,并聚合存儲設(shè)備的功能。

    關(guān)鍵詞:存儲 虛擬化 云計(jì)算 云存儲

    研究背景

    長江海事局信息中心在建設(shè)信息系統(tǒng)的過程中,逐年分批采購了多種品牌、不同檔次的服務(wù)器及存儲設(shè)備,因此當(dāng)前各應(yīng)用系統(tǒng)部署在不同的存儲設(shè)備上,導(dǎo)致信息資源局限于單個的存儲設(shè)備中,系統(tǒng)之間無法進(jìn)行有效的數(shù)據(jù)整合和共享。隨著企業(yè)的信息化建設(shè)的不斷深入, 企業(yè)存儲環(huán)境的復(fù)雜度也在日益加劇,給IT信息系統(tǒng)建設(shè)帶來日益嚴(yán)重的影響,具體表現(xiàn)在:①存儲孤島:異構(gòu)的存儲彼此采用不同的技術(shù)架構(gòu),不同品牌陣列之間數(shù)據(jù)無法自由復(fù)制和遷移;②管理復(fù)雜:異構(gòu)的存儲各自使用不同的管理工具,無法使用簡單界面統(tǒng)一管理;③低利用率:異構(gòu)存儲各自存在的零散空間無法整合,無法充分利用存儲有效空間;④數(shù)據(jù)復(fù)制: 異構(gòu)存儲間難以進(jìn)行數(shù)據(jù)復(fù)制,給系統(tǒng)割接、升級、遷移造成重大困擾;⑤數(shù)據(jù)分層:以往受到技術(shù)限制,難以實(shí)現(xiàn)存儲分層,導(dǎo)致高價值存儲長期被低價值數(shù)據(jù)占用;⑥設(shè)備利舊:網(wǎng)管系統(tǒng)統(tǒng)一存儲后,退網(wǎng)下來的低端存儲由于容量、性能的問題難以用于部署新的系統(tǒng),無法得到合理的使用;⑦容災(zāi)壁壘:異構(gòu)存儲難以實(shí)現(xiàn)異地容災(zāi),選用同構(gòu)存儲常常導(dǎo)致過高的商務(wù)代價;⑧能耗問題: 異構(gòu)存儲的低利用率及難以實(shí)現(xiàn)存儲分層,導(dǎo)致耗電 散熱、空間的過度使用;

    探索基于設(shè)備側(cè)來實(shí)現(xiàn)存儲虛擬化,能夠?qū)⒍喾N不同廠商的存儲設(shè)備集成在一起,統(tǒng)一進(jìn)行管理、分配,形成一個單一的、大型的存儲池,能夠通過一個單一的界面和管理模式來進(jìn)行管理,并實(shí)現(xiàn)異構(gòu)存儲間的數(shù)據(jù)復(fù)制及分層存儲,進(jìn)而打破容災(zāi)壁壘,實(shí)現(xiàn)設(shè)備利舊,提高存儲利用率,降低能源及空間消耗以實(shí)現(xiàn)綠色環(huán)保,節(jié)能減排的目的,從而解決目前面臨的諸多難題,提供更靈活、更高效的存儲系統(tǒng)解決方案。

    研究目標(biāo)

    目標(biāo)是研究適合長江海事局信息中心的存儲虛擬化技術(shù)。研究基于設(shè)備側(cè)的存儲虛擬化,評估被虛擬化存儲在虛擬化前后性能的變化,并進(jìn)而研究由虛擬化技術(shù)衍生的分層存儲技術(shù)、以及在異構(gòu)存儲之間進(jìn)行基于底層的容災(zāi)技術(shù)等,不僅能夠解決長江海事局信息中心現(xiàn)有存儲環(huán)境存在的諸多問題,也為尋找向云存儲演進(jìn)的最佳路線做出了有益的嘗試。

    研究成果

    此次存儲虛擬化的研究成果分為三個方面:

    1、發(fā)現(xiàn)最適合數(shù)據(jù)中心發(fā)展需要的存儲虛擬化的技術(shù)手段

    存儲的虛擬化可以在三個不同的層面上實(shí)現(xiàn),包括基于專用卷管理軟件在主機(jī)服務(wù)器上實(shí)現(xiàn),或者利用陣列控制器的固件在磁盤陣列上實(shí)現(xiàn),再或者是利用專用的虛擬化引擎在存儲網(wǎng)絡(luò)上實(shí)現(xiàn)。本文通過基于設(shè)備側(cè)的存儲虛擬化創(chuàng)新研究,找到了最適合數(shù)據(jù)中心現(xiàn)狀及發(fā)展方向的虛擬化方式,從而實(shí)現(xiàn)數(shù)據(jù)中心存儲虛擬化的技術(shù)手段。

    2、實(shí)現(xiàn)數(shù)據(jù)中心現(xiàn)有分散存儲架構(gòu)向虛擬存儲平臺及統(tǒng)一管理模式轉(zhuǎn)型

    通過在服務(wù)器端虛擬化項(xiàng)目的部署和桌面虛擬化的試用評估過程中的研究,我們實(shí)現(xiàn)了將目前分隔在數(shù)據(jù)中心兩個機(jī)房的三臺異構(gòu)存儲整合成一個統(tǒng)一的虛擬存儲池,屏蔽了存儲型號、功能軟件及物理距離的差異,把它們作為一個單一資源,從單一邏輯視圖中進(jìn)行統(tǒng)一管理,解決了現(xiàn)網(wǎng)諸多難題。

    3、制定由現(xiàn)有傳統(tǒng)存儲環(huán)境向云存儲演進(jìn)的規(guī)劃

    通過研究基于設(shè)備側(cè)的存儲虛擬化技術(shù),能夠幫助我們充分評估虛擬化前后存儲環(huán)境性能、功能、管理模式等多方面的變化,更加充分的了解虛擬化存儲環(huán)境對業(yè)務(wù)系統(tǒng)的支撐能力,從而有利于我們制定一套規(guī)則,即如何根據(jù)數(shù)據(jù)中心的業(yè)務(wù)模型及各種服務(wù)的參數(shù)來定制將來所需要的虛擬化存儲平臺,從而逐步實(shí)現(xiàn)向云存儲架構(gòu)演進(jìn)的行動規(guī)劃。

    存儲虛擬化試驗(yàn)

    1、基于設(shè)備側(cè)實(shí)施存儲虛擬化的原理

    基于設(shè)備側(cè)實(shí)施存儲虛擬化的原理如圖1所示,外部存儲可以通過以下三種方式與高端存儲進(jìn)行連接,光纖直連方式、光纖交換機(jī)方式、通道延展器(距離較遠(yuǎn))。H3C將存儲虛擬化功能固化在磁盤存儲系統(tǒng)的控制器上。這樣,USPV的自帶磁盤可以直接被虛擬化引擎所管理。USPV同時可以把連接在同一個SAN上的其他存儲系統(tǒng)映射成內(nèi)置盤,然后對其進(jìn)行虛擬化管理,虛擬化以后的設(shè)備對主機(jī)透明。由于虛擬化引擎集成在磁盤陣列內(nèi)部,所以可以比較容易的繼承磁盤陣列一些固有的高級功能,如快照、克隆、復(fù)制、分區(qū)等等。

    2、測試設(shè)備及測試拓?fù)鋱D

    此次測試在長江海事局信息中心進(jìn)行,實(shí)際測試時間大約4周,測試所用主要存儲設(shè)備及拓?fù)淙鐖D2 所示。數(shù)據(jù)中心近40個在線業(yè)務(wù)系統(tǒng)的IT設(shè)備主要分布在海事局的兩個獨(dú)立機(jī)房中,本次測試使用海事局機(jī)房1臺H3C存儲系統(tǒng)、1臺H3C陣列(2個控制器)和容災(zāi)機(jī)房1臺IBM存儲構(gòu)建SAN架構(gòu)測試環(huán)境,主機(jī)采用1臺SUN Solaris系列服務(wù)器(Solaris操作系統(tǒng)10版本,配置二塊HBA卡)。

    3、測試用例

    根據(jù)業(yè)務(wù)系統(tǒng)評估對存儲虛擬化技術(shù)的相關(guān)要求和規(guī)范,此次測試主要對如下關(guān)鍵技術(shù)指標(biāo)進(jìn)行了驗(yàn)證:異構(gòu)環(huán)境支持;跨異構(gòu)存儲快照功能;異構(gòu)存儲容災(zāi)測試;分級存儲;在線數(shù)據(jù)遷移;在線存儲分配和回收;集中存儲管理;遷入(由非虛擬化環(huán)境遷入到虛擬化環(huán)境);遷出(由虛擬化環(huán)境遷出到非虛擬化環(huán)境);高可用測試;性能測試;管理測試。

    特別的,由于擔(dān)心虛擬化前后存儲性能的差異,我們對被虛擬化的兩臺存儲在虛擬化前后的性能在各種應(yīng)用模型下進(jìn)行了測試。圖3和圖4分別是H3C和IBM在虛擬化前后的性能對比。

    測試結(jié)果表明,不管是低端的H3C,還是高端的IBM,在絕大多數(shù)應(yīng)用模型下(不同的讀寫比例,不同的IO塊大?。?,目標(biāo)存儲在實(shí)施虛擬化以后性能都會得到一定的提高,這是由于H3C USPV是專門針對存儲虛擬化應(yīng)用而設(shè)計(jì),其自身強(qiáng)大的數(shù)據(jù)處理能力和虛擬化能力,能對通過其上的數(shù)據(jù)進(jìn)行優(yōu)化處理的緣故。

    4、虛擬化試驗(yàn)結(jié)果

    根據(jù)評估結(jié)果分析,基于設(shè)備側(cè)的存儲虛擬化,能夠解決數(shù)據(jù)中心現(xiàn)有存儲環(huán)境存在的諸多問題,能夠簡化管理復(fù)雜度、降低成本,還可以同時解決容量的快速膨脹和集中帶來的設(shè)備的異構(gòu)性、互操作性、性能下降、災(zāi)難防備等一系列問題。具體試驗(yàn)結(jié)果可以總結(jié)為:①虛擬化后的異構(gòu)存儲個指標(biāo)不低于虛擬化前的性能,在某些情況下還略有提高。②整合的存儲資源,實(shí)現(xiàn)了數(shù)據(jù)分層,設(shè)備利舊,降低能耗。整合后的存儲資源便于管理,使用方便。 ③USPV的虛擬化能夠很好的整合異構(gòu)存儲,并且由于不更改異構(gòu)存儲的原有卷配置,容易實(shí)現(xiàn)回退。④統(tǒng)一資源管理(HDP)測試能夠?qū)崿F(xiàn)存儲空間的預(yù)分配和自動分配功能,并且能夠?qū)崿F(xiàn)卷容量的在線修改調(diào)整。⑤存儲虛擬化后本地跨異構(gòu)存儲的數(shù)據(jù)復(fù)制(TrueCopy)實(shí)現(xiàn)了被虛擬化外部磁盤與其它H3C USP V內(nèi)部磁盤可以完成數(shù)據(jù)復(fù)制。⑥存儲虛擬化后本地跨異構(gòu)存儲的數(shù)據(jù)復(fù)制(ShadowImage)實(shí)現(xiàn)了USP V內(nèi)部磁盤和被虛擬化外部磁盤可以完成數(shù)據(jù)復(fù)制。⑦整合后的存儲資源可以實(shí)現(xiàn)簡單界面統(tǒng)一管理,因此更加便于管理,使用方便。

    創(chuàng)新性與推廣應(yīng)用價值

    1、創(chuàng)新性

    通過基于設(shè)備側(cè)的存儲虛擬化,實(shí)現(xiàn)集中并共享傳統(tǒng)分散的存儲資源,可以使存儲利用率提高20%~40%,降低機(jī)房空間、電源和空調(diào)費(fèi)用,減少數(shù)據(jù)遷移費(fèi)用,減少軟硬件的維保費(fèi)用,減少存儲維護(hù)人員并降低培訓(xùn)費(fèi)用,減少存儲初期購置成本,避免長期不使用的數(shù)據(jù)對高價值存儲空間的占用,并優(yōu)化系統(tǒng)性能,降低宕機(jī)風(fēng)險,從而具有極高的經(jīng)濟(jì)效益。同時可以解決當(dāng)前分散、異構(gòu)存儲平臺下的諸多問題,突破異構(gòu)存儲管理、使用中的諸多瓶頸,釋放分散異構(gòu)存儲的空間和性能,促進(jìn)了存儲整體架構(gòu)上的變革,使以往孤立、單獨(dú)建設(shè)的存儲向統(tǒng)一的虛擬存儲平臺過度,并為逐步的向云存儲演進(jìn)做好了充分的準(zhǔn)備。

    2、推廣應(yīng)用價值

    基于設(shè)備側(cè)實(shí)現(xiàn)存儲虛擬化的主要價值在于提高存儲利用效率,簡化管理,解決現(xiàn)網(wǎng)的諸多難題,具備經(jīng)濟(jì)上和技術(shù)上的雙重價值。主要適合如下場景:①存在多個異構(gòu)存儲的環(huán)境;②實(shí)現(xiàn)數(shù)據(jù)的分層存儲;③ 存儲統(tǒng)一管理;④異構(gòu)存儲容災(zāi)整合;⑤存在多個需要利舊的陣列。

    (作者單位:武漢海事局通信信息中心)

    摘 要:存儲虛擬化是指抽象化或虛擬化存儲設(shè)備或存儲子系統(tǒng),建立一個統(tǒng)一的存儲資源池,對存儲子系統(tǒng)的容量和性能,及存儲服務(wù)進(jìn)行靈活的管理,以提供更精確地控制?;谠O(shè)備側(cè)進(jìn)行存儲虛擬化,能夠隱藏各種異構(gòu)存儲的復(fù)雜性,提高存儲利用率,降低管理和基礎(chǔ)架構(gòu)成本,并聚合存儲設(shè)備的功能。

    關(guān)鍵詞:存儲 虛擬化 云計(jì)算 云存儲

    研究背景

    長江海事局信息中心在建設(shè)信息系統(tǒng)的過程中,逐年分批采購了多種品牌、不同檔次的服務(wù)器及存儲設(shè)備,因此當(dāng)前各應(yīng)用系統(tǒng)部署在不同的存儲設(shè)備上,導(dǎo)致信息資源局限于單個的存儲設(shè)備中,系統(tǒng)之間無法進(jìn)行有效的數(shù)據(jù)整合和共享。隨著企業(yè)的信息化建設(shè)的不斷深入, 企業(yè)存儲環(huán)境的復(fù)雜度也在日益加劇,給IT信息系統(tǒng)建設(shè)帶來日益嚴(yán)重的影響,具體表現(xiàn)在:①存儲孤島:異構(gòu)的存儲彼此采用不同的技術(shù)架構(gòu),不同品牌陣列之間數(shù)據(jù)無法自由復(fù)制和遷移;②管理復(fù)雜:異構(gòu)的存儲各自使用不同的管理工具,無法使用簡單界面統(tǒng)一管理;③低利用率:異構(gòu)存儲各自存在的零散空間無法整合,無法充分利用存儲有效空間;④數(shù)據(jù)復(fù)制: 異構(gòu)存儲間難以進(jìn)行數(shù)據(jù)復(fù)制,給系統(tǒng)割接、升級、遷移造成重大困擾;⑤數(shù)據(jù)分層:以往受到技術(shù)限制,難以實(shí)現(xiàn)存儲分層,導(dǎo)致高價值存儲長期被低價值數(shù)據(jù)占用;⑥設(shè)備利舊:網(wǎng)管系統(tǒng)統(tǒng)一存儲后,退網(wǎng)下來的低端存儲由于容量、性能的問題難以用于部署新的系統(tǒng),無法得到合理的使用;⑦容災(zāi)壁壘:異構(gòu)存儲難以實(shí)現(xiàn)異地容災(zāi),選用同構(gòu)存儲常常導(dǎo)致過高的商務(wù)代價;⑧能耗問題: 異構(gòu)存儲的低利用率及難以實(shí)現(xiàn)存儲分層,導(dǎo)致耗電 散熱、空間的過度使用;

    探索基于設(shè)備側(cè)來實(shí)現(xiàn)存儲虛擬化,能夠?qū)⒍喾N不同廠商的存儲設(shè)備集成在一起,統(tǒng)一進(jìn)行管理、分配,形成一個單一的、大型的存儲池,能夠通過一個單一的界面和管理模式來進(jìn)行管理,并實(shí)現(xiàn)異構(gòu)存儲間的數(shù)據(jù)復(fù)制及分層存儲,進(jìn)而打破容災(zāi)壁壘,實(shí)現(xiàn)設(shè)備利舊,提高存儲利用率,降低能源及空間消耗以實(shí)現(xiàn)綠色環(huán)保,節(jié)能減排的目的,從而解決目前面臨的諸多難題,提供更靈活、更高效的存儲系統(tǒng)解決方案。

    研究目標(biāo)

    目標(biāo)是研究適合長江海事局信息中心的存儲虛擬化技術(shù)。研究基于設(shè)備側(cè)的存儲虛擬化,評估被虛擬化存儲在虛擬化前后性能的變化,并進(jìn)而研究由虛擬化技術(shù)衍生的分層存儲技術(shù)、以及在異構(gòu)存儲之間進(jìn)行基于底層的容災(zāi)技術(shù)等,不僅能夠解決長江海事局信息中心現(xiàn)有存儲環(huán)境存在的諸多問題,也為尋找向云存儲演進(jìn)的最佳路線做出了有益的嘗試。

    研究成果

    此次存儲虛擬化的研究成果分為三個方面:

    1、發(fā)現(xiàn)最適合數(shù)據(jù)中心發(fā)展需要的存儲虛擬化的技術(shù)手段

    存儲的虛擬化可以在三個不同的層面上實(shí)現(xiàn),包括基于專用卷管理軟件在主機(jī)服務(wù)器上實(shí)現(xiàn),或者利用陣列控制器的固件在磁盤陣列上實(shí)現(xiàn),再或者是利用專用的虛擬化引擎在存儲網(wǎng)絡(luò)上實(shí)現(xiàn)。本文通過基于設(shè)備側(cè)的存儲虛擬化創(chuàng)新研究,找到了最適合數(shù)據(jù)中心現(xiàn)狀及發(fā)展方向的虛擬化方式,從而實(shí)現(xiàn)數(shù)據(jù)中心存儲虛擬化的技術(shù)手段。

    2、實(shí)現(xiàn)數(shù)據(jù)中心現(xiàn)有分散存儲架構(gòu)向虛擬存儲平臺及統(tǒng)一管理模式轉(zhuǎn)型

    通過在服務(wù)器端虛擬化項(xiàng)目的部署和桌面虛擬化的試用評估過程中的研究,我們實(shí)現(xiàn)了將目前分隔在數(shù)據(jù)中心兩個機(jī)房的三臺異構(gòu)存儲整合成一個統(tǒng)一的虛擬存儲池,屏蔽了存儲型號、功能軟件及物理距離的差異,把它們作為一個單一資源,從單一邏輯視圖中進(jìn)行統(tǒng)一管理,解決了現(xiàn)網(wǎng)諸多難題。

    3、制定由現(xiàn)有傳統(tǒng)存儲環(huán)境向云存儲演進(jìn)的規(guī)劃

    通過研究基于設(shè)備側(cè)的存儲虛擬化技術(shù),能夠幫助我們充分評估虛擬化前后存儲環(huán)境性能、功能、管理模式等多方面的變化,更加充分的了解虛擬化存儲環(huán)境對業(yè)務(wù)系統(tǒng)的支撐能力,從而有利于我們制定一套規(guī)則,即如何根據(jù)數(shù)據(jù)中心的業(yè)務(wù)模型及各種服務(wù)的參數(shù)來定制將來所需要的虛擬化存儲平臺,從而逐步實(shí)現(xiàn)向云存儲架構(gòu)演進(jìn)的行動規(guī)劃。

    存儲虛擬化試驗(yàn)

    1、基于設(shè)備側(cè)實(shí)施存儲虛擬化的原理

    基于設(shè)備側(cè)實(shí)施存儲虛擬化的原理如圖1所示,外部存儲可以通過以下三種方式與高端存儲進(jìn)行連接,光纖直連方式、光纖交換機(jī)方式、通道延展器(距離較遠(yuǎn))。H3C將存儲虛擬化功能固化在磁盤存儲系統(tǒng)的控制器上。這樣,USPV的自帶磁盤可以直接被虛擬化引擎所管理。USPV同時可以把連接在同一個SAN上的其他存儲系統(tǒng)映射成內(nèi)置盤,然后對其進(jìn)行虛擬化管理,虛擬化以后的設(shè)備對主機(jī)透明。由于虛擬化引擎集成在磁盤陣列內(nèi)部,所以可以比較容易的繼承磁盤陣列一些固有的高級功能,如快照、克隆、復(fù)制、分區(qū)等等。

    2、測試設(shè)備及測試拓?fù)鋱D

    此次測試在長江海事局信息中心進(jìn)行,實(shí)際測試時間大約4周,測試所用主要存儲設(shè)備及拓?fù)淙鐖D2 所示。數(shù)據(jù)中心近40個在線業(yè)務(wù)系統(tǒng)的IT設(shè)備主要分布在海事局的兩個獨(dú)立機(jī)房中,本次測試使用海事局機(jī)房1臺H3C存儲系統(tǒng)、1臺H3C陣列(2個控制器)和容災(zāi)機(jī)房1臺IBM存儲構(gòu)建SAN架構(gòu)測試環(huán)境,主機(jī)采用1臺SUN Solaris系列服務(wù)器(Solaris操作系統(tǒng)10版本,配置二塊HBA卡)。

    3、測試用例

    根據(jù)業(yè)務(wù)系統(tǒng)評估對存儲虛擬化技術(shù)的相關(guān)要求和規(guī)范,此次測試主要對如下關(guān)鍵技術(shù)指標(biāo)進(jìn)行了驗(yàn)證:異構(gòu)環(huán)境支持;跨異構(gòu)存儲快照功能;異構(gòu)存儲容災(zāi)測試;分級存儲;在線數(shù)據(jù)遷移;在線存儲分配和回收;集中存儲管理;遷入(由非虛擬化環(huán)境遷入到虛擬化環(huán)境);遷出(由虛擬化環(huán)境遷出到非虛擬化環(huán)境);高可用測試;性能測試;管理測試。

    特別的,由于擔(dān)心虛擬化前后存儲性能的差異,我們對被虛擬化的兩臺存儲在虛擬化前后的性能在各種應(yīng)用模型下進(jìn)行了測試。圖3和圖4分別是H3C和IBM在虛擬化前后的性能對比。

    測試結(jié)果表明,不管是低端的H3C,還是高端的IBM,在絕大多數(shù)應(yīng)用模型下(不同的讀寫比例,不同的IO塊大小),目標(biāo)存儲在實(shí)施虛擬化以后性能都會得到一定的提高,這是由于H3C USPV是專門針對存儲虛擬化應(yīng)用而設(shè)計(jì),其自身強(qiáng)大的數(shù)據(jù)處理能力和虛擬化能力,能對通過其上的數(shù)據(jù)進(jìn)行優(yōu)化處理的緣故。

    4、虛擬化試驗(yàn)結(jié)果

    根據(jù)評估結(jié)果分析,基于設(shè)備側(cè)的存儲虛擬化,能夠解決數(shù)據(jù)中心現(xiàn)有存儲環(huán)境存在的諸多問題,能夠簡化管理復(fù)雜度、降低成本,還可以同時解決容量的快速膨脹和集中帶來的設(shè)備的異構(gòu)性、互操作性、性能下降、災(zāi)難防備等一系列問題。具體試驗(yàn)結(jié)果可以總結(jié)為:①虛擬化后的異構(gòu)存儲個指標(biāo)不低于虛擬化前的性能,在某些情況下還略有提高。②整合的存儲資源,實(shí)現(xiàn)了數(shù)據(jù)分層,設(shè)備利舊,降低能耗。整合后的存儲資源便于管理,使用方便。 ③USPV的虛擬化能夠很好的整合異構(gòu)存儲,并且由于不更改異構(gòu)存儲的原有卷配置,容易實(shí)現(xiàn)回退。④統(tǒng)一資源管理(HDP)測試能夠?qū)崿F(xiàn)存儲空間的預(yù)分配和自動分配功能,并且能夠?qū)崿F(xiàn)卷容量的在線修改調(diào)整。⑤存儲虛擬化后本地跨異構(gòu)存儲的數(shù)據(jù)復(fù)制(TrueCopy)實(shí)現(xiàn)了被虛擬化外部磁盤與其它H3C USP V內(nèi)部磁盤可以完成數(shù)據(jù)復(fù)制。⑥存儲虛擬化后本地跨異構(gòu)存儲的數(shù)據(jù)復(fù)制(ShadowImage)實(shí)現(xiàn)了USP V內(nèi)部磁盤和被虛擬化外部磁盤可以完成數(shù)據(jù)復(fù)制。⑦整合后的存儲資源可以實(shí)現(xiàn)簡單界面統(tǒng)一管理,因此更加便于管理,使用方便。

    創(chuàng)新性與推廣應(yīng)用價值

    1、創(chuàng)新性

    通過基于設(shè)備側(cè)的存儲虛擬化,實(shí)現(xiàn)集中并共享傳統(tǒng)分散的存儲資源,可以使存儲利用率提高20%~40%,降低機(jī)房空間、電源和空調(diào)費(fèi)用,減少數(shù)據(jù)遷移費(fèi)用,減少軟硬件的維保費(fèi)用,減少存儲維護(hù)人員并降低培訓(xùn)費(fèi)用,減少存儲初期購置成本,避免長期不使用的數(shù)據(jù)對高價值存儲空間的占用,并優(yōu)化系統(tǒng)性能,降低宕機(jī)風(fēng)險,從而具有極高的經(jīng)濟(jì)效益。同時可以解決當(dāng)前分散、異構(gòu)存儲平臺下的諸多問題,突破異構(gòu)存儲管理、使用中的諸多瓶頸,釋放分散異構(gòu)存儲的空間和性能,促進(jìn)了存儲整體架構(gòu)上的變革,使以往孤立、單獨(dú)建設(shè)的存儲向統(tǒng)一的虛擬存儲平臺過度,并為逐步的向云存儲演進(jìn)做好了充分的準(zhǔn)備。

    2、推廣應(yīng)用價值

    基于設(shè)備側(cè)實(shí)現(xiàn)存儲虛擬化的主要價值在于提高存儲利用效率,簡化管理,解決現(xiàn)網(wǎng)的諸多難題,具備經(jīng)濟(jì)上和技術(shù)上的雙重價值。主要適合如下場景:①存在多個異構(gòu)存儲的環(huán)境;②實(shí)現(xiàn)數(shù)據(jù)的分層存儲;③ 存儲統(tǒng)一管理;④異構(gòu)存儲容災(zāi)整合;⑤存在多個需要利舊的陣列。

    (作者單位:武漢海事局通信信息中心)

    摘 要:存儲虛擬化是指抽象化或虛擬化存儲設(shè)備或存儲子系統(tǒng),建立一個統(tǒng)一的存儲資源池,對存儲子系統(tǒng)的容量和性能,及存儲服務(wù)進(jìn)行靈活的管理,以提供更精確地控制?;谠O(shè)備側(cè)進(jìn)行存儲虛擬化,能夠隱藏各種異構(gòu)存儲的復(fù)雜性,提高存儲利用率,降低管理和基礎(chǔ)架構(gòu)成本,并聚合存儲設(shè)備的功能。

    關(guān)鍵詞:存儲 虛擬化 云計(jì)算 云存儲

    研究背景

    長江海事局信息中心在建設(shè)信息系統(tǒng)的過程中,逐年分批采購了多種品牌、不同檔次的服務(wù)器及存儲設(shè)備,因此當(dāng)前各應(yīng)用系統(tǒng)部署在不同的存儲設(shè)備上,導(dǎo)致信息資源局限于單個的存儲設(shè)備中,系統(tǒng)之間無法進(jìn)行有效的數(shù)據(jù)整合和共享。隨著企業(yè)的信息化建設(shè)的不斷深入, 企業(yè)存儲環(huán)境的復(fù)雜度也在日益加劇,給IT信息系統(tǒng)建設(shè)帶來日益嚴(yán)重的影響,具體表現(xiàn)在:①存儲孤島:異構(gòu)的存儲彼此采用不同的技術(shù)架構(gòu),不同品牌陣列之間數(shù)據(jù)無法自由復(fù)制和遷移;②管理復(fù)雜:異構(gòu)的存儲各自使用不同的管理工具,無法使用簡單界面統(tǒng)一管理;③低利用率:異構(gòu)存儲各自存在的零散空間無法整合,無法充分利用存儲有效空間;④數(shù)據(jù)復(fù)制: 異構(gòu)存儲間難以進(jìn)行數(shù)據(jù)復(fù)制,給系統(tǒng)割接、升級、遷移造成重大困擾;⑤數(shù)據(jù)分層:以往受到技術(shù)限制,難以實(shí)現(xiàn)存儲分層,導(dǎo)致高價值存儲長期被低價值數(shù)據(jù)占用;⑥設(shè)備利舊:網(wǎng)管系統(tǒng)統(tǒng)一存儲后,退網(wǎng)下來的低端存儲由于容量、性能的問題難以用于部署新的系統(tǒng),無法得到合理的使用;⑦容災(zāi)壁壘:異構(gòu)存儲難以實(shí)現(xiàn)異地容災(zāi),選用同構(gòu)存儲常常導(dǎo)致過高的商務(wù)代價;⑧能耗問題: 異構(gòu)存儲的低利用率及難以實(shí)現(xiàn)存儲分層,導(dǎo)致耗電 散熱、空間的過度使用;

    探索基于設(shè)備側(cè)來實(shí)現(xiàn)存儲虛擬化,能夠?qū)⒍喾N不同廠商的存儲設(shè)備集成在一起,統(tǒng)一進(jìn)行管理、分配,形成一個單一的、大型的存儲池,能夠通過一個單一的界面和管理模式來進(jìn)行管理,并實(shí)現(xiàn)異構(gòu)存儲間的數(shù)據(jù)復(fù)制及分層存儲,進(jìn)而打破容災(zāi)壁壘,實(shí)現(xiàn)設(shè)備利舊,提高存儲利用率,降低能源及空間消耗以實(shí)現(xiàn)綠色環(huán)保,節(jié)能減排的目的,從而解決目前面臨的諸多難題,提供更靈活、更高效的存儲系統(tǒng)解決方案。

    研究目標(biāo)

    目標(biāo)是研究適合長江海事局信息中心的存儲虛擬化技術(shù)。研究基于設(shè)備側(cè)的存儲虛擬化,評估被虛擬化存儲在虛擬化前后性能的變化,并進(jìn)而研究由虛擬化技術(shù)衍生的分層存儲技術(shù)、以及在異構(gòu)存儲之間進(jìn)行基于底層的容災(zāi)技術(shù)等,不僅能夠解決長江海事局信息中心現(xiàn)有存儲環(huán)境存在的諸多問題,也為尋找向云存儲演進(jìn)的最佳路線做出了有益的嘗試。

    研究成果

    此次存儲虛擬化的研究成果分為三個方面:

    1、發(fā)現(xiàn)最適合數(shù)據(jù)中心發(fā)展需要的存儲虛擬化的技術(shù)手段

    存儲的虛擬化可以在三個不同的層面上實(shí)現(xiàn),包括基于專用卷管理軟件在主機(jī)服務(wù)器上實(shí)現(xiàn),或者利用陣列控制器的固件在磁盤陣列上實(shí)現(xiàn),再或者是利用專用的虛擬化引擎在存儲網(wǎng)絡(luò)上實(shí)現(xiàn)。本文通過基于設(shè)備側(cè)的存儲虛擬化創(chuàng)新研究,找到了最適合數(shù)據(jù)中心現(xiàn)狀及發(fā)展方向的虛擬化方式,從而實(shí)現(xiàn)數(shù)據(jù)中心存儲虛擬化的技術(shù)手段。

    2、實(shí)現(xiàn)數(shù)據(jù)中心現(xiàn)有分散存儲架構(gòu)向虛擬存儲平臺及統(tǒng)一管理模式轉(zhuǎn)型

    通過在服務(wù)器端虛擬化項(xiàng)目的部署和桌面虛擬化的試用評估過程中的研究,我們實(shí)現(xiàn)了將目前分隔在數(shù)據(jù)中心兩個機(jī)房的三臺異構(gòu)存儲整合成一個統(tǒng)一的虛擬存儲池,屏蔽了存儲型號、功能軟件及物理距離的差異,把它們作為一個單一資源,從單一邏輯視圖中進(jìn)行統(tǒng)一管理,解決了現(xiàn)網(wǎng)諸多難題。

    3、制定由現(xiàn)有傳統(tǒng)存儲環(huán)境向云存儲演進(jìn)的規(guī)劃

    通過研究基于設(shè)備側(cè)的存儲虛擬化技術(shù),能夠幫助我們充分評估虛擬化前后存儲環(huán)境性能、功能、管理模式等多方面的變化,更加充分的了解虛擬化存儲環(huán)境對業(yè)務(wù)系統(tǒng)的支撐能力,從而有利于我們制定一套規(guī)則,即如何根據(jù)數(shù)據(jù)中心的業(yè)務(wù)模型及各種服務(wù)的參數(shù)來定制將來所需要的虛擬化存儲平臺,從而逐步實(shí)現(xiàn)向云存儲架構(gòu)演進(jìn)的行動規(guī)劃。

    存儲虛擬化試驗(yàn)

    1、基于設(shè)備側(cè)實(shí)施存儲虛擬化的原理

    基于設(shè)備側(cè)實(shí)施存儲虛擬化的原理如圖1所示,外部存儲可以通過以下三種方式與高端存儲進(jìn)行連接,光纖直連方式、光纖交換機(jī)方式、通道延展器(距離較遠(yuǎn))。H3C將存儲虛擬化功能固化在磁盤存儲系統(tǒng)的控制器上。這樣,USPV的自帶磁盤可以直接被虛擬化引擎所管理。USPV同時可以把連接在同一個SAN上的其他存儲系統(tǒng)映射成內(nèi)置盤,然后對其進(jìn)行虛擬化管理,虛擬化以后的設(shè)備對主機(jī)透明。由于虛擬化引擎集成在磁盤陣列內(nèi)部,所以可以比較容易的繼承磁盤陣列一些固有的高級功能,如快照、克隆、復(fù)制、分區(qū)等等。

    2、測試設(shè)備及測試拓?fù)鋱D

    此次測試在長江海事局信息中心進(jìn)行,實(shí)際測試時間大約4周,測試所用主要存儲設(shè)備及拓?fù)淙鐖D2 所示。數(shù)據(jù)中心近40個在線業(yè)務(wù)系統(tǒng)的IT設(shè)備主要分布在海事局的兩個獨(dú)立機(jī)房中,本次測試使用海事局機(jī)房1臺H3C存儲系統(tǒng)、1臺H3C陣列(2個控制器)和容災(zāi)機(jī)房1臺IBM存儲構(gòu)建SAN架構(gòu)測試環(huán)境,主機(jī)采用1臺SUN Solaris系列服務(wù)器(Solaris操作系統(tǒng)10版本,配置二塊HBA卡)。

    3、測試用例

    根據(jù)業(yè)務(wù)系統(tǒng)評估對存儲虛擬化技術(shù)的相關(guān)要求和規(guī)范,此次測試主要對如下關(guān)鍵技術(shù)指標(biāo)進(jìn)行了驗(yàn)證:異構(gòu)環(huán)境支持;跨異構(gòu)存儲快照功能;異構(gòu)存儲容災(zāi)測試;分級存儲;在線數(shù)據(jù)遷移;在線存儲分配和回收;集中存儲管理;遷入(由非虛擬化環(huán)境遷入到虛擬化環(huán)境);遷出(由虛擬化環(huán)境遷出到非虛擬化環(huán)境);高可用測試;性能測試;管理測試。

    特別的,由于擔(dān)心虛擬化前后存儲性能的差異,我們對被虛擬化的兩臺存儲在虛擬化前后的性能在各種應(yīng)用模型下進(jìn)行了測試。圖3和圖4分別是H3C和IBM在虛擬化前后的性能對比。

    測試結(jié)果表明,不管是低端的H3C,還是高端的IBM,在絕大多數(shù)應(yīng)用模型下(不同的讀寫比例,不同的IO塊大小),目標(biāo)存儲在實(shí)施虛擬化以后性能都會得到一定的提高,這是由于H3C USPV是專門針對存儲虛擬化應(yīng)用而設(shè)計(jì),其自身強(qiáng)大的數(shù)據(jù)處理能力和虛擬化能力,能對通過其上的數(shù)據(jù)進(jìn)行優(yōu)化處理的緣故。

    4、虛擬化試驗(yàn)結(jié)果

    根據(jù)評估結(jié)果分析,基于設(shè)備側(cè)的存儲虛擬化,能夠解決數(shù)據(jù)中心現(xiàn)有存儲環(huán)境存在的諸多問題,能夠簡化管理復(fù)雜度、降低成本,還可以同時解決容量的快速膨脹和集中帶來的設(shè)備的異構(gòu)性、互操作性、性能下降、災(zāi)難防備等一系列問題。具體試驗(yàn)結(jié)果可以總結(jié)為:①虛擬化后的異構(gòu)存儲個指標(biāo)不低于虛擬化前的性能,在某些情況下還略有提高。②整合的存儲資源,實(shí)現(xiàn)了數(shù)據(jù)分層,設(shè)備利舊,降低能耗。整合后的存儲資源便于管理,使用方便。 ③USPV的虛擬化能夠很好的整合異構(gòu)存儲,并且由于不更改異構(gòu)存儲的原有卷配置,容易實(shí)現(xiàn)回退。④統(tǒng)一資源管理(HDP)測試能夠?qū)崿F(xiàn)存儲空間的預(yù)分配和自動分配功能,并且能夠?qū)崿F(xiàn)卷容量的在線修改調(diào)整。⑤存儲虛擬化后本地跨異構(gòu)存儲的數(shù)據(jù)復(fù)制(TrueCopy)實(shí)現(xiàn)了被虛擬化外部磁盤與其它H3C USP V內(nèi)部磁盤可以完成數(shù)據(jù)復(fù)制。⑥存儲虛擬化后本地跨異構(gòu)存儲的數(shù)據(jù)復(fù)制(ShadowImage)實(shí)現(xiàn)了USP V內(nèi)部磁盤和被虛擬化外部磁盤可以完成數(shù)據(jù)復(fù)制。⑦整合后的存儲資源可以實(shí)現(xiàn)簡單界面統(tǒng)一管理,因此更加便于管理,使用方便。

    創(chuàng)新性與推廣應(yīng)用價值

    1、創(chuàng)新性

    通過基于設(shè)備側(cè)的存儲虛擬化,實(shí)現(xiàn)集中并共享傳統(tǒng)分散的存儲資源,可以使存儲利用率提高20%~40%,降低機(jī)房空間、電源和空調(diào)費(fèi)用,減少數(shù)據(jù)遷移費(fèi)用,減少軟硬件的維保費(fèi)用,減少存儲維護(hù)人員并降低培訓(xùn)費(fèi)用,減少存儲初期購置成本,避免長期不使用的數(shù)據(jù)對高價值存儲空間的占用,并優(yōu)化系統(tǒng)性能,降低宕機(jī)風(fēng)險,從而具有極高的經(jīng)濟(jì)效益。同時可以解決當(dāng)前分散、異構(gòu)存儲平臺下的諸多問題,突破異構(gòu)存儲管理、使用中的諸多瓶頸,釋放分散異構(gòu)存儲的空間和性能,促進(jìn)了存儲整體架構(gòu)上的變革,使以往孤立、單獨(dú)建設(shè)的存儲向統(tǒng)一的虛擬存儲平臺過度,并為逐步的向云存儲演進(jìn)做好了充分的準(zhǔn)備。

    2、推廣應(yīng)用價值

    基于設(shè)備側(cè)實(shí)現(xiàn)存儲虛擬化的主要價值在于提高存儲利用效率,簡化管理,解決現(xiàn)網(wǎng)的諸多難題,具備經(jīng)濟(jì)上和技術(shù)上的雙重價值。主要適合如下場景:①存在多個異構(gòu)存儲的環(huán)境;②實(shí)現(xiàn)數(shù)據(jù)的分層存儲;③ 存儲統(tǒng)一管理;④異構(gòu)存儲容災(zāi)整合;⑤存在多個需要利舊的陣列。

    (作者單位:武漢海事局通信信息中心)

    猜你喜歡
    存儲云存儲云計(jì)算
    基于云存儲的氣象數(shù)字化圖像檔案存儲研究
    檔案管理中電子文件的存儲探究
    云存儲技術(shù)的起源與發(fā)展
    條形碼技術(shù)在涂裝生產(chǎn)中的應(yīng)用
    基于云存儲的數(shù)據(jù)庫密文檢索研究
    云計(jì)算與虛擬化
    基于云計(jì)算的移動學(xué)習(xí)平臺的設(shè)計(jì)
    淺析龍巖煙草業(yè)務(wù)數(shù)據(jù)與監(jiān)控?cái)?shù)據(jù)中的云存儲與大數(shù)據(jù)
    實(shí)驗(yàn)云:理論教學(xué)與實(shí)驗(yàn)教學(xué)深度融合的助推器
    云計(jì)算中的存儲虛擬化技術(shù)應(yīng)用
    科技視界(2016年20期)2016-09-29 13:34:06
    赤兔流量卡办理| 自拍欧美九色日韩亚洲蝌蚪91| 欧美人与性动交α欧美精品济南到| 亚洲av综合色区一区| 国产精品免费大片| 在线观看免费午夜福利视频| 精品久久久久久电影网| 国产精品 国内视频| 纵有疾风起免费观看全集完整版| 国产一区二区激情短视频 | 久久天躁狠狠躁夜夜2o2o | 如日韩欧美国产精品一区二区三区| 观看av在线不卡| 国产精品秋霞免费鲁丝片| 成人国语在线视频| 国产麻豆69| 七月丁香在线播放| 免费不卡黄色视频| 成人三级做爰电影| 日韩av免费高清视频| 在线观看三级黄色| 爱豆传媒免费全集在线观看| 中文精品一卡2卡3卡4更新| 大片电影免费在线观看免费| 久久久久人妻精品一区果冻| 国产成人av激情在线播放| www.精华液| 免费观看性生交大片5| 一区二区三区乱码不卡18| 亚洲欧美一区二区三区国产| 妹子高潮喷水视频| 亚洲精品一区蜜桃| 少妇被粗大的猛进出69影院| 亚洲,欧美精品.| 久久久久精品人妻al黑| 亚洲,欧美,日韩| 欧美人与善性xxx| 黄色一级大片看看| 亚洲欧美一区二区三区黑人| 日韩一本色道免费dvd| 一区二区三区精品91| 久久精品久久久久久噜噜老黄| 亚洲精品国产一区二区精华液| 熟女少妇亚洲综合色aaa.| 一边亲一边摸免费视频| 18禁裸乳无遮挡动漫免费视频| 国产一区亚洲一区在线观看| av网站在线播放免费| 天堂8中文在线网| 99久久99久久久精品蜜桃| 老司机在亚洲福利影院| 中文字幕亚洲精品专区| 亚洲精品中文字幕在线视频| 欧美成人午夜精品| 青春草国产在线视频| 国产乱来视频区| 日韩 亚洲 欧美在线| 一区二区三区激情视频| 老熟女久久久| 国产精品久久久人人做人人爽| 尾随美女入室| 欧美日韩综合久久久久久| 欧美精品人与动牲交sv欧美| 国产 一区精品| 日本av免费视频播放| 欧美激情极品国产一区二区三区| 在线天堂最新版资源| 国产精品久久久人人做人人爽| 亚洲国产精品999| 一级毛片黄色毛片免费观看视频| 国产精品成人在线| 伊人久久大香线蕉亚洲五| 亚洲av欧美aⅴ国产| 亚洲欧美日韩另类电影网站| 亚洲精品久久久久久婷婷小说| xxxhd国产人妻xxx| 国产97色在线日韩免费| 伊人亚洲综合成人网| 精品一品国产午夜福利视频| 最近的中文字幕免费完整| 美女福利国产在线| 亚洲国产中文字幕在线视频| 麻豆av在线久日| 精品国产乱码久久久久久男人| 免费黄频网站在线观看国产| 少妇 在线观看| 热99国产精品久久久久久7| svipshipincom国产片| 日韩大码丰满熟妇| 亚洲av日韩在线播放| 国产精品二区激情视频| 伊人久久大香线蕉亚洲五| 国产精品一二三区在线看| 色播在线永久视频| 69精品国产乱码久久久| 亚洲av国产av综合av卡| 你懂的网址亚洲精品在线观看| 国产精品二区激情视频| 美女中出高潮动态图| 国产精品蜜桃在线观看| 国产亚洲av高清不卡| 老司机影院成人| 中文字幕高清在线视频| 欧美精品亚洲一区二区| 亚洲av成人不卡在线观看播放网 | 女人精品久久久久毛片| 日韩精品有码人妻一区| 亚洲一卡2卡3卡4卡5卡精品中文| 久久精品人人爽人人爽视色| 亚洲精品美女久久av网站| 日本爱情动作片www.在线观看| 视频区图区小说| 中文字幕人妻丝袜一区二区 | 只有这里有精品99| 免费高清在线观看视频在线观看| 亚洲国产欧美一区二区综合| 欧美日韩亚洲综合一区二区三区_| 精品少妇黑人巨大在线播放| a级片在线免费高清观看视频| 中文字幕亚洲精品专区| 一级黄片播放器| 在线 av 中文字幕| 亚洲国产精品一区二区三区在线| 一级爰片在线观看| 日本av免费视频播放| 少妇被粗大猛烈的视频| 国产 一区精品| 亚洲欧美一区二区三区黑人| 国产成人精品久久久久久| 欧美激情极品国产一区二区三区| 在线天堂中文资源库| 美女高潮到喷水免费观看| 看免费成人av毛片| 老汉色av国产亚洲站长工具| 久久精品熟女亚洲av麻豆精品| 日韩一区二区视频免费看| 午夜福利乱码中文字幕| 伊人久久大香线蕉亚洲五| 国产精品久久久久久精品古装| 9热在线视频观看99| 99久国产av精品国产电影| 色婷婷久久久亚洲欧美| av国产精品久久久久影院| 丁香六月欧美| 日本欧美国产在线视频| 丝袜脚勾引网站| 国产免费一区二区三区四区乱码| 男女国产视频网站| 国产成人免费观看mmmm| 成人国产av品久久久| 国产精品麻豆人妻色哟哟久久| 热re99久久精品国产66热6| 蜜桃在线观看..| 国产精品无大码| 黄色视频不卡| 黄色视频不卡| 99久久人妻综合| 亚洲国产成人一精品久久久| 久久精品久久久久久久性| 精品国产超薄肉色丝袜足j| 晚上一个人看的免费电影| 九九爱精品视频在线观看| 女人高潮潮喷娇喘18禁视频| 麻豆精品久久久久久蜜桃| 中文字幕精品免费在线观看视频| 欧美 亚洲 国产 日韩一| 好男人视频免费观看在线| 日日爽夜夜爽网站| netflix在线观看网站| 老司机深夜福利视频在线观看 | 秋霞伦理黄片| 国产免费又黄又爽又色| 国产精品香港三级国产av潘金莲 | 欧美精品亚洲一区二区| 国产深夜福利视频在线观看| 久久久久久久国产电影| 国产精品久久久久久精品古装| 亚洲精品国产av蜜桃| 晚上一个人看的免费电影| 精品亚洲成a人片在线观看| 如何舔出高潮| 亚洲精品中文字幕在线视频| 青春草国产在线视频| 青春草国产在线视频| av不卡在线播放| 777久久人妻少妇嫩草av网站| 国产一区有黄有色的免费视频| 国产一区二区三区综合在线观看| 亚洲人成77777在线视频| 午夜福利网站1000一区二区三区| 国产男人的电影天堂91| 一二三四中文在线观看免费高清| www日本在线高清视频| 涩涩av久久男人的天堂| kizo精华| 交换朋友夫妻互换小说| 七月丁香在线播放| 亚洲综合精品二区| 久久人人97超碰香蕉20202| 久久精品久久久久久久性| www.av在线官网国产| 午夜老司机福利片| 亚洲精品乱久久久久久| 亚洲精品国产一区二区精华液| 9191精品国产免费久久| 国产深夜福利视频在线观看| 午夜福利乱码中文字幕| 久久久久久久久久久久大奶| 亚洲精品aⅴ在线观看| 成人黄色视频免费在线看| 日韩一卡2卡3卡4卡2021年| 欧美少妇被猛烈插入视频| 好男人视频免费观看在线| 亚洲精品在线美女| 国产精品国产av在线观看| 久久人妻熟女aⅴ| 大香蕉久久成人网| 国产97色在线日韩免费| 一区二区三区四区激情视频| 国产av一区二区精品久久| 51午夜福利影视在线观看| 别揉我奶头~嗯~啊~动态视频 | 亚洲国产精品999| 一级毛片黄色毛片免费观看视频| 成年女人毛片免费观看观看9 | 国产成人精品无人区| 自拍欧美九色日韩亚洲蝌蚪91| 国产人伦9x9x在线观看| 人人妻人人爽人人添夜夜欢视频| 欧美激情高清一区二区三区 | 韩国高清视频一区二区三区| 国产毛片在线视频| 亚洲精品日韩在线中文字幕| 国产亚洲最大av| 超碰成人久久| 久久精品久久久久久久性| 日韩视频在线欧美| 久久免费观看电影| www.av在线官网国产| 国产精品久久久人人做人人爽| 精品酒店卫生间| e午夜精品久久久久久久| 午夜福利视频精品| 日日啪夜夜爽| 亚洲av电影在线进入| 只有这里有精品99| 亚洲av福利一区| 丁香六月欧美| 女人被躁到高潮嗷嗷叫费观| 欧美黄色片欧美黄色片| 亚洲七黄色美女视频| 久久久久久久久久久久大奶| 成人国产av品久久久| 午夜福利免费观看在线| 国产免费现黄频在线看| 久久久久精品久久久久真实原创| 丰满乱子伦码专区| 高清欧美精品videossex| 久久精品久久久久久久性| 免费在线观看完整版高清| 亚洲激情五月婷婷啪啪| 国产精品欧美亚洲77777| 亚洲精品第二区| 激情五月婷婷亚洲| 亚洲av国产av综合av卡| 欧美另类一区| 国产精品一区二区精品视频观看| 亚洲国产毛片av蜜桃av| 一级毛片黄色毛片免费观看视频| 日韩一卡2卡3卡4卡2021年| 少妇被粗大猛烈的视频| av在线播放精品| 午夜激情av网站| 在线精品无人区一区二区三| 操出白浆在线播放| 一区二区三区四区激情视频| 亚洲精品成人av观看孕妇| 国产成人系列免费观看| 丝袜美腿诱惑在线| 亚洲av福利一区| 少妇 在线观看| 五月开心婷婷网| 国产激情久久老熟女| 老司机在亚洲福利影院| 久久精品久久久久久久性| 人人妻人人澡人人爽人人夜夜| 精品久久蜜臀av无| 一区二区三区激情视频| 看免费成人av毛片| 亚洲av成人精品一二三区| 午夜福利影视在线免费观看| 日韩一区二区视频免费看| 视频区图区小说| 一级毛片我不卡| 巨乳人妻的诱惑在线观看| 成人手机av| 一二三四中文在线观看免费高清| tube8黄色片| 免费在线观看完整版高清| 热99久久久久精品小说推荐| 午夜av观看不卡| 国产一区二区三区综合在线观看| 纵有疾风起免费观看全集完整版| 国产亚洲最大av| 韩国精品一区二区三区| 老司机影院成人| 在线观看免费午夜福利视频| 亚洲欧美一区二区三区久久| 日本91视频免费播放| 国产黄色免费在线视频| 99精品久久久久人妻精品| 久热爱精品视频在线9| 人人妻人人爽人人添夜夜欢视频| 久久久久国产一级毛片高清牌| 97人妻天天添夜夜摸| 国产一区二区激情短视频 | 国产成人欧美| 久久久久久久久久久免费av| 欧美日韩视频精品一区| 91精品伊人久久大香线蕉| 久久久久久久国产电影| 欧美黑人欧美精品刺激| 中文字幕另类日韩欧美亚洲嫩草| 亚洲天堂av无毛| 国产成人免费无遮挡视频| 国产精品蜜桃在线观看| 亚洲,欧美精品.| 亚洲国产精品一区二区三区在线| 国产成人欧美在线观看 | 久热这里只有精品99| 国产精品一国产av| 久久97久久精品| 天天操日日干夜夜撸| 国产av国产精品国产| 亚洲精品国产区一区二| 国产伦理片在线播放av一区| 九草在线视频观看| 精品久久久久久电影网| 曰老女人黄片| 亚洲国产日韩一区二区| 男女边吃奶边做爰视频| 欧美精品高潮呻吟av久久| 视频区图区小说| 一区二区三区激情视频| 黑丝袜美女国产一区| 精品一区在线观看国产| 亚洲精品一区蜜桃| 国产精品成人在线| 亚洲欧美中文字幕日韩二区| 国产一区二区三区综合在线观看| 别揉我奶头~嗯~啊~动态视频 | 好男人视频免费观看在线| 成人午夜精彩视频在线观看| 中文欧美无线码| 日韩精品有码人妻一区| 大话2 男鬼变身卡| 成人18禁高潮啪啪吃奶动态图| bbb黄色大片| √禁漫天堂资源中文www| 国产日韩欧美视频二区| 欧美av亚洲av综合av国产av | 亚洲av日韩精品久久久久久密 | 老鸭窝网址在线观看| 9191精品国产免费久久| 精品一品国产午夜福利视频| 成人黄色视频免费在线看| 无限看片的www在线观看| 国产精品国产三级国产专区5o| 伦理电影大哥的女人| 成人国语在线视频| 黄网站色视频无遮挡免费观看| 亚洲精品美女久久久久99蜜臀 | 高清视频免费观看一区二区| 日韩不卡一区二区三区视频在线| 97人妻天天添夜夜摸| 国产精品.久久久| 国产97色在线日韩免费| 又黄又粗又硬又大视频| 久久久久国产一级毛片高清牌| 亚洲美女黄色视频免费看| 校园人妻丝袜中文字幕| 亚洲av综合色区一区| 人体艺术视频欧美日本| www.精华液| 亚洲成人免费av在线播放| 国产成人精品久久二区二区91 | 欧美国产精品一级二级三级| 国产欧美日韩一区二区三区在线| 亚洲第一区二区三区不卡| 久久国产亚洲av麻豆专区| 国产在线一区二区三区精| 19禁男女啪啪无遮挡网站| 少妇人妻 视频| 亚洲精品国产一区二区精华液| 丝袜在线中文字幕| 亚洲人成77777在线视频| 9色porny在线观看| 亚洲av成人不卡在线观看播放网 | 下体分泌物呈黄色| 五月开心婷婷网| 伦理电影免费视频| 久久人人97超碰香蕉20202| av在线观看视频网站免费| 亚洲国产精品成人久久小说| 久久国产精品大桥未久av| 久久久国产一区二区| 嫩草影视91久久| 女人久久www免费人成看片| 久久久国产精品麻豆| 免费观看a级毛片全部| 亚洲自偷自拍图片 自拍| 久久毛片免费看一区二区三区| 亚洲激情五月婷婷啪啪| 99九九在线精品视频| 亚洲人成网站在线观看播放| 美女脱内裤让男人舔精品视频| 又大又黄又爽视频免费| netflix在线观看网站| 国产成人午夜福利电影在线观看| 亚洲国产av影院在线观看| 国产成人啪精品午夜网站| 老司机深夜福利视频在线观看 | videosex国产| 桃花免费在线播放| 超碰97精品在线观看| 日韩av在线免费看完整版不卡| 婷婷色综合www| 日韩欧美一区视频在线观看| av福利片在线| 日韩中文字幕欧美一区二区 | 1024视频免费在线观看| 婷婷色综合www| 一本一本久久a久久精品综合妖精| 亚洲精品一二三| 日韩 亚洲 欧美在线| 国产伦人伦偷精品视频| 国产免费一区二区三区四区乱码| 九草在线视频观看| 看免费av毛片| 成年人免费黄色播放视频| 国产精品女同一区二区软件| 久久毛片免费看一区二区三区| 国产成人欧美在线观看 | 一本色道久久久久久精品综合| 悠悠久久av| 免费观看a级毛片全部| 超碰97精品在线观看| 午夜日本视频在线| 人妻人人澡人人爽人人| 性高湖久久久久久久久免费观看| 高清av免费在线| 亚洲三区欧美一区| 成人免费观看视频高清| 日韩伦理黄色片| xxxhd国产人妻xxx| 日本欧美视频一区| 国产一区二区三区av在线| 欧美 亚洲 国产 日韩一| 免费黄频网站在线观看国产| av有码第一页| 国产亚洲午夜精品一区二区久久| 搡老岳熟女国产| 国产精品国产三级专区第一集| 国产在视频线精品| 精品一区二区三卡| 亚洲av男天堂| 伊人久久大香线蕉亚洲五| 波多野结衣一区麻豆| 另类精品久久| 十八禁人妻一区二区| 国产精品熟女久久久久浪| 久久久久久久久久久免费av| 男女高潮啪啪啪动态图| 亚洲欧美色中文字幕在线| 菩萨蛮人人尽说江南好唐韦庄| 欧美 日韩 精品 国产| 国产黄频视频在线观看| 欧美日韩精品网址| 天堂中文最新版在线下载| 美女福利国产在线| 亚洲欧美色中文字幕在线| 亚洲国产av新网站| 午夜激情av网站| 日韩av不卡免费在线播放| 一边摸一边抽搐一进一出视频| 亚洲七黄色美女视频| 亚洲精品国产av成人精品| 美女高潮到喷水免费观看| 亚洲情色 制服丝袜| 午夜影院在线不卡| 亚洲一卡2卡3卡4卡5卡精品中文| 丰满少妇做爰视频| 亚洲欧美成人精品一区二区| 久久久久视频综合| 亚洲欧美精品综合一区二区三区| 欧美黄色片欧美黄色片| 国产成人啪精品午夜网站| 久久婷婷青草| 啦啦啦在线观看免费高清www| 国产精品99久久99久久久不卡 | 欧美日韩亚洲国产一区二区在线观看 | 精品久久蜜臀av无| 国产一区有黄有色的免费视频| 少妇被粗大猛烈的视频| 亚洲av综合色区一区| 制服诱惑二区| 亚洲精品中文字幕在线视频| 一级片免费观看大全| 一本大道久久a久久精品| 啦啦啦 在线观看视频| av一本久久久久| h视频一区二区三区| 中国三级夫妇交换| 国产乱人偷精品视频| 精品一区二区三区四区五区乱码 | 亚洲一区中文字幕在线| 高清视频免费观看一区二区| 欧美日韩视频高清一区二区三区二| 国产成人午夜福利电影在线观看| 精品第一国产精品| 熟女av电影| 在线观看国产h片| 自线自在国产av| 国产极品粉嫩免费观看在线| 国产爽快片一区二区三区| 欧美日韩一级在线毛片| 亚洲少妇的诱惑av| 黄片无遮挡物在线观看| 韩国av在线不卡| 日韩伦理黄色片| tube8黄色片| 欧美精品av麻豆av| 人体艺术视频欧美日本| 韩国高清视频一区二区三区| 一本色道久久久久久精品综合| 免费在线观看完整版高清| 日韩免费高清中文字幕av| 老鸭窝网址在线观看| 国产欧美日韩一区二区三区在线| 亚洲国产中文字幕在线视频| 久久精品人人爽人人爽视色| 侵犯人妻中文字幕一二三四区| 亚洲天堂av无毛| 美女午夜性视频免费| 久久久精品94久久精品| 老司机影院毛片| 国产精品国产三级国产专区5o| 日本vs欧美在线观看视频| 亚洲成人国产一区在线观看 | 欧美精品高潮呻吟av久久| 色视频在线一区二区三区| 亚洲av日韩在线播放| 久久久久久人人人人人| 一级片'在线观看视频| 国产一区二区激情短视频 | 亚洲欧美清纯卡通| 如日韩欧美国产精品一区二区三区| 精品人妻一区二区三区麻豆| 国产精品女同一区二区软件| 亚洲欧美一区二区三区黑人| 欧美日韩亚洲高清精品| 国产精品欧美亚洲77777| 亚洲人成77777在线视频| 日韩一区二区三区影片| 亚洲精品乱久久久久久| 老汉色av国产亚洲站长工具| 老司机亚洲免费影院| 日本av免费视频播放| 精品国产一区二区三区四区第35| 久久国产亚洲av麻豆专区| 男女边摸边吃奶| 女的被弄到高潮叫床怎么办| 精品一区二区免费观看| 丝袜喷水一区| 亚洲,一卡二卡三卡| 国产高清不卡午夜福利| 9热在线视频观看99| 亚洲精品日韩在线中文字幕| 一区二区三区激情视频| 国产一区二区在线观看av| 美女午夜性视频免费| 男女高潮啪啪啪动态图| 国产毛片在线视频| 毛片一级片免费看久久久久| 成人亚洲欧美一区二区av| 中文乱码字字幕精品一区二区三区| 亚洲精品一二三| 丝袜美腿诱惑在线| 成人国产av品久久久| 在线亚洲精品国产二区图片欧美| 欧美日韩福利视频一区二区| 免费黄网站久久成人精品| 操美女的视频在线观看| 久久精品熟女亚洲av麻豆精品| 日本av手机在线免费观看| 黄色视频不卡| 久久精品国产综合久久久| 香蕉丝袜av| 天天影视国产精品| xxx大片免费视频| 人妻 亚洲 视频| 啦啦啦在线免费观看视频4| 国产成人精品久久久久久| 激情视频va一区二区三区| 最黄视频免费看| www.自偷自拍.com| 自拍欧美九色日韩亚洲蝌蚪91| 另类亚洲欧美激情| 色视频在线一区二区三区| 丝袜美腿诱惑在线| 麻豆精品久久久久久蜜桃| 日韩制服骚丝袜av| 成年动漫av网址| 丁香六月欧美| 久久精品国产亚洲av高清一级|