• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于一致性哈希的負(fù)載均衡算法研究

    2021-09-06 05:40:18潘子浩
    現(xiàn)代計(jì)算機(jī) 2021年22期
    關(guān)鍵詞:均衡性副本哈希

    潘子浩

    (廣東輕工職業(yè)技術(shù)學(xué)院,廣州510300)

    0 引言

    隨著互聯(lián)網(wǎng)在世界范圍的應(yīng)用與發(fā)展,海量的數(shù)據(jù)不斷被創(chuàng)造處理,人類處理的數(shù)據(jù)從PB到TB到ZB發(fā)展。面對眾多數(shù)據(jù),分布式存儲應(yīng)運(yùn)而生,將存儲設(shè)備以特定的技術(shù)連接起來,跨越設(shè)備的差異,地理的限制,向外提供統(tǒng)一快速安全的服務(wù)接口。但分布式存儲也面臨著多種技術(shù)上的挑戰(zhàn),其一是在同構(gòu)設(shè)備構(gòu)成的系統(tǒng),設(shè)備間如何保持?jǐn)?shù)據(jù)分布以及訪問方面均衡,而對異構(gòu)系統(tǒng),如何保證設(shè)備匹配到與其性能相當(dāng)?shù)呢?fù)載,這個(gè)是負(fù)載均衡算法需要考慮的問題;另外隨著應(yīng)用的發(fā)展,設(shè)備的添加和刪除是常見的操作,在設(shè)備變動后如何繼續(xù)保持負(fù)載均衡也是算法需要研究的問題;此外由于設(shè)備眾多,設(shè)備出現(xiàn)故障是常見的,所以副本的放置算法關(guān)系到存儲集群的可用性。

    本論文針對一致性哈希算法進(jìn)行負(fù)載均衡算法研究,并探討以組的概念設(shè)計(jì)副本算法,在此基礎(chǔ)上以Redis搭建分布式存儲系統(tǒng)進(jìn)行驗(yàn)證。

    1 負(fù)載均衡算法對比

    1.1 常見的均衡算法

    在分布式存儲中,數(shù)據(jù)如何分布放置是及其重要的算法,關(guān)系著集群的負(fù)載均衡。相比于有中心節(jié)點(diǎn)的分布式存儲如HDFS,去中心化的算法因?yàn)橄鄬唵?,且無中心節(jié)點(diǎn)瓶頸問題,應(yīng)用也非常廣泛。去中心的數(shù)據(jù)分布算法常見的有節(jié)點(diǎn)空間法,針對數(shù)據(jù)Key的范圍,劃分為多個(gè)分區(qū),每個(gè)分區(qū)由一個(gè)或者一組服務(wù)器節(jié)點(diǎn)負(fù)責(zé),這個(gè)算法實(shí)現(xiàn)簡單,但是也存在一些問題:空間劃分是依據(jù)人的經(jīng)驗(yàn),隨著數(shù)據(jù)的不斷寫入,數(shù)據(jù)會逐漸傾斜造成節(jié)點(diǎn)間負(fù)載不均衡;此外集群需要擴(kuò)容縮容時(shí),重新劃分節(jié)點(diǎn)一般采用分裂或者合并相鄰節(jié)點(diǎn)的方式,并不是基于全局考慮,在集群變動后,負(fù)載均衡問題依然突出。

    另一種常見的分布算法是對數(shù)據(jù)Key進(jìn)行哈希,根據(jù)哈希值對節(jié)點(diǎn)數(shù)M取模定位到服務(wù)器節(jié)點(diǎn),此算法在均衡性方面有比較好的表現(xiàn),但是集群擴(kuò)容或者縮容時(shí),節(jié)點(diǎn)數(shù)M的變化,會造成集群內(nèi)大量數(shù)據(jù)的遷移,并不適合于持續(xù)寫入數(shù)據(jù)的分布式系統(tǒng)。在這種情況下,一致性哈希算法因?yàn)榱己玫木庑院蛦握{(diào)性,在分布式存儲中得到了廣泛的應(yīng)用。

    1.2 帶虛擬節(jié)點(diǎn)的一致性哈希算法

    基本的一致性哈希存在數(shù)據(jù)傾斜的問題,一般使用復(fù)制虛擬節(jié)點(diǎn)的方法進(jìn)行改進(jìn)[1],其原理如圖1所示,算法過程如下:

    (1)設(shè)置一個(gè)地址空間范圍為0~(232-1)的哈希環(huán);

    (2)使用存儲節(jié)點(diǎn)對應(yīng)虛擬節(jié)點(diǎn)的特征值(一般使用節(jié)點(diǎn)IP加虛擬節(jié)點(diǎn)編號組成字符串)計(jì)算哈希值,映射到哈希環(huán)上的一點(diǎn)。如圖1所示存儲節(jié)點(diǎn)Node2編號為3的虛擬節(jié)點(diǎn)Node2#3,經(jīng)過哈希后落入哈希環(huán)上一點(diǎn);

    (3)對每個(gè)節(jié)點(diǎn)都設(shè)置一定數(shù)量的虛擬節(jié)點(diǎn)放置于哈希環(huán)上,圖1每個(gè)節(jié)點(diǎn)設(shè)置了3個(gè)虛擬節(jié)點(diǎn);

    (4)對存取數(shù)據(jù)的鍵Key使用相同的哈希函數(shù)計(jì)算哈希值映射到哈希環(huán)上,并以此位置順時(shí)針查找第一個(gè)落入到哈希環(huán)的虛擬節(jié)點(diǎn),再進(jìn)而找到實(shí)際存儲節(jié)點(diǎn)。如圖1的Key2哈希后順時(shí)針找到虛擬節(jié)點(diǎn)為Node2#3,從而找到實(shí)際存儲節(jié)點(diǎn)為Node2。

    圖1 帶虛擬節(jié)點(diǎn)的一致性哈希環(huán)

    1.3 一致性哈希算法的均衡性

    根據(jù)聶曉文等人的研究,一致性哈希并非完全均衡,即使增加虛擬節(jié)點(diǎn)也不能完全消除非均衡性[2]。一致性哈希算法負(fù)載傾斜的情況可以通過實(shí)驗(yàn)進(jìn)行探討。從圖1可見,落入每個(gè)節(jié)點(diǎn)數(shù)據(jù)Key的數(shù)量,與節(jié)點(diǎn)在哈希環(huán)中負(fù)責(zé)的地址空間(zone)成正比例關(guān)系,不考慮熱點(diǎn)數(shù)據(jù)情況下,節(jié)點(diǎn)的負(fù)載與其對應(yīng)的地址空間密切相關(guān),因而節(jié)點(diǎn)間負(fù)載的均衡度可以由節(jié)點(diǎn)在哈希環(huán)負(fù)責(zé)的地址空間的差異來度量。定義每個(gè)節(jié)點(diǎn)所負(fù)責(zé)的地址空間作為節(jié)點(diǎn)的理論負(fù)載,節(jié)點(diǎn)間負(fù)載的均衡性,用兩個(gè)指標(biāo)來衡量,集群中節(jié)點(diǎn)最大負(fù)載與最小負(fù)載的比值,以及節(jié)點(diǎn)間負(fù)載的離散程度,這兩個(gè)指標(biāo)也是實(shí)際工程應(yīng)用中比較關(guān)注的指標(biāo)。表1展示了不同虛擬節(jié)點(diǎn)配置,集群節(jié)點(diǎn)間最大負(fù)載與最小負(fù)載的比值。

    表1 不同虛節(jié)點(diǎn)數(shù)下,集群節(jié)點(diǎn)理論最大負(fù)載與最小負(fù)載的比值

    在集群節(jié)點(diǎn)數(shù)確定時(shí),虛擬節(jié)點(diǎn)數(shù)的增加可以降低最大負(fù)載與最小負(fù)載的比值,提高節(jié)點(diǎn)間的負(fù)載均衡度;而在虛擬節(jié)點(diǎn)數(shù)確定時(shí),集群增加實(shí)節(jié)點(diǎn)會造成均衡度會下降。一般而言考慮系統(tǒng)的復(fù)雜性,虛擬節(jié)點(diǎn)數(shù)并不能無限制的提高,實(shí)際應(yīng)用中,每個(gè)節(jié)點(diǎn)使用100個(gè)虛擬節(jié)點(diǎn)是一個(gè)常用的配置。

    圖2展示了10000個(gè)實(shí)節(jié)點(diǎn)每個(gè)節(jié)點(diǎn)100個(gè)虛擬節(jié)點(diǎn)的集群系統(tǒng),對負(fù)載進(jìn)行歸一化后,集群節(jié)點(diǎn)負(fù)載的離散情況。其中超過30%的節(jié)點(diǎn)理論負(fù)載偏離了平均負(fù)載10%以上(負(fù)載小于0.9或者大于1.1),結(jié)合表1,此集群系統(tǒng)最大最小負(fù)載的比值達(dá)到了2.23。根據(jù)木桶原理,當(dāng)理論負(fù)載最大的節(jié)點(diǎn)達(dá)到其機(jī)器滿載時(shí),集群即達(dá)到了最大處理能力,繼續(xù)增大流量將造成集群的故障,在此臨界狀態(tài)下理論最低負(fù)載的節(jié)點(diǎn)只有滿載的45%(即100%/2.23),存在較大的資源浪費(fèi),如再考慮系統(tǒng)安全需要對負(fù)載做一定的冗余,集群整理利用率更低。

    圖2 10000節(jié)點(diǎn)每節(jié)點(diǎn)100虛擬節(jié)點(diǎn)歸一化負(fù)載分布

    1.4 改進(jìn)的一致性哈希算法

    傳統(tǒng)帶虛節(jié)點(diǎn)一致性哈希算法并非完全均衡,非完全均衡造成了系統(tǒng)資源的浪費(fèi)。為解決均衡性問題,文獻(xiàn)[3]提出了動態(tài)調(diào)整虛擬節(jié)點(diǎn)的生成和分配的方法,文獻(xiàn)[4]則介紹了一種調(diào)整映射關(guān)系的一致性哈希算法,在保持單調(diào)性的同時(shí)實(shí)現(xiàn)了接近完美的負(fù)載均衡。算法的核心在于調(diào)整虛擬節(jié)點(diǎn)和實(shí)際節(jié)點(diǎn)的映射關(guān)系。具體如下:

    (1)實(shí)節(jié)點(diǎn)數(shù)為M,設(shè)定一個(gè)初始的分區(qū)總數(shù)N,將哈希環(huán)空間均分為N個(gè)虛擬節(jié)點(diǎn)管理,N應(yīng)數(shù)倍大于實(shí)際節(jié)點(diǎn)數(shù)M。對M個(gè)實(shí)節(jié)點(diǎn)進(jìn)行編號,分別為S1,S2,S3...SM;對虛擬節(jié)點(diǎn)進(jìn)行編號,分別為V1,V2,V3...VN;

    (2)按順序?qū)⑻摂M節(jié)點(diǎn)分組,逐組映射到實(shí)際節(jié)點(diǎn):每M個(gè)虛擬節(jié)點(diǎn)為一組,組內(nèi)每個(gè)虛擬節(jié)點(diǎn)按順序映射到實(shí)際節(jié)點(diǎn)上,直到所有的虛擬節(jié)點(diǎn)映射完畢。最后一組虛擬節(jié)點(diǎn)數(shù)可能會小于M而無法映射所有的實(shí)節(jié)點(diǎn)。

    表2展示了設(shè)置了N=18下,M=3和M=4兩種情況下的映射關(guān)系,例如M=3時(shí)S1映射到了V1/V4/V7/V10/V13/V16。

    表2 實(shí)節(jié)點(diǎn)和虛擬節(jié)點(diǎn)映射關(guān)系示例

    先探討算法的均衡性。在表2中,M=3時(shí)每個(gè)實(shí)節(jié)點(diǎn)都映射了6個(gè)虛擬節(jié)點(diǎn),由于每個(gè)虛擬節(jié)點(diǎn)在哈希環(huán)中負(fù)責(zé)的地址空間相同,3個(gè)實(shí)節(jié)點(diǎn)理論上處于完全均衡狀態(tài)。當(dāng)M=4時(shí),最后一個(gè)虛擬節(jié)點(diǎn)組(包含了V17/V18)只映射到了2個(gè)實(shí)節(jié)點(diǎn),其中S1、S2實(shí)節(jié)點(diǎn)映射了5個(gè)虛擬節(jié)點(diǎn),另外S3、S4實(shí)節(jié)點(diǎn)對應(yīng)4個(gè)虛擬節(jié)點(diǎn),集群并未處于完全均衡狀態(tài),此時(shí)最大最小負(fù)載的比值為1.25(即5/4=1.25)??梢钥闯鰶]有達(dá)到完全均衡的原因與最后一組虛擬節(jié)點(diǎn)的分配有關(guān),如果將初始的虛擬節(jié)點(diǎn)總數(shù)N設(shè)置為百倍于M甚至更大,那么最大最小負(fù)載之間的差值即可以控制在1%以內(nèi),接近于完美負(fù)載均衡。

    接下來探討算法的單調(diào)性。集群擴(kuò)容增加單個(gè)實(shí)節(jié)點(diǎn)Sx的虛擬節(jié)點(diǎn)再分配算法,如下所示:

    (1)對每一個(gè)包含完整映射到所有舊實(shí)節(jié)點(diǎn)的虛擬節(jié)點(diǎn)組,在組內(nèi)按其映射的實(shí)節(jié)點(diǎn)編號從小到大重新排列;將虛擬節(jié)點(diǎn)組依次排列;

    (2)順序進(jìn)行如下處理,從虛擬節(jié)點(diǎn)組的起始位置依次向后查找,直到出現(xiàn)第一個(gè)重復(fù)映射實(shí)節(jié)點(diǎn)的虛擬節(jié)點(diǎn)為止,將重復(fù)映射的虛擬節(jié)點(diǎn)(假設(shè)為Vi)重新映射到新節(jié)點(diǎn)Sx,此時(shí)形成新的虛擬節(jié)點(diǎn)組包含完整的實(shí)節(jié)點(diǎn)映射。下一虛擬節(jié)點(diǎn)組將從下一個(gè)虛擬節(jié)點(diǎn)Vi+1開始;

    (3)重復(fù)執(zhí)行步驟(2)直到最后一組無法再分配為止。

    表3展示了添加一個(gè)實(shí)節(jié)點(diǎn)時(shí)虛擬節(jié)點(diǎn)的再分配過程。

    表3 初始M=3添加節(jié)點(diǎn)S4時(shí)虛擬節(jié)點(diǎn)的再分配

    表3中深色區(qū)域的虛擬節(jié)點(diǎn)被重分配到新實(shí)節(jié)點(diǎn)S4,對應(yīng)的數(shù)據(jù)需要遷移,除此以外其他部分不需要遷移,對應(yīng)遷移的比例為4/18約等于1/4,容易證明新加一個(gè)實(shí)節(jié)點(diǎn)需要進(jìn)行的遷移量接近于1/M′,M′為變動后實(shí)節(jié)點(diǎn)總數(shù),滿足了單調(diào)性的要求。均衡性的問題如前述討論,當(dāng)N為數(shù)百倍于M′時(shí),節(jié)點(diǎn)間的負(fù)載差異可以控制在1%以內(nèi)。同樣,對于單次添加K(K>1)個(gè)實(shí)節(jié)點(diǎn)的虛擬節(jié)點(diǎn)再分配算法與此類似,再分配完之后遷移的量接近于K/M′,滿足單調(diào)性和均衡性要求。

    節(jié)點(diǎn)的刪除操作,與添加的操作相似,按組進(jìn)行再分配映射,將映射到刪除節(jié)點(diǎn)的虛擬節(jié)點(diǎn)平均分配給剩余實(shí)節(jié)點(diǎn),再分配映射時(shí)需要保證每組映射到虛擬節(jié)點(diǎn)的實(shí)節(jié)點(diǎn)不會重復(fù)。表4展示了刪除一個(gè)實(shí)節(jié)點(diǎn)時(shí)虛擬節(jié)點(diǎn)的再分配過程。

    表4 初始M=4時(shí)刪除S2實(shí)節(jié)點(diǎn)虛擬節(jié)點(diǎn)的再分配

    表4展示刪除時(shí)再分配算法對應(yīng)的數(shù)據(jù)遷移比例為5/18約等于1/4,再分配之后遷移量接近于1/M,M為刪除節(jié)點(diǎn)前的實(shí)節(jié)點(diǎn)數(shù)。對于單次刪除K(K>0)個(gè)實(shí)節(jié)點(diǎn)的操作,遷移比例為K/M,滿足單調(diào)性和均衡性要求。

    綜上所述,改進(jìn)的一致性哈希算法接近于完美解決了均衡性和單調(diào)性的問題。

    2 副本算法

    分布式存儲中常用副本技術(shù)提高系統(tǒng)的可靠性、容錯(cuò)性和運(yùn)行性能[5]。一致性哈希算法下的副本策略,文獻(xiàn)[4]使用的副本策略是將副本放置于哈希環(huán)中,而文獻(xiàn)[6]采用了另外一種方法,將實(shí)節(jié)點(diǎn)邏輯上劃分為不同的組,以組替換哈希環(huán)中的節(jié)點(diǎn),在邏輯組內(nèi)采用主備的方式提高分布式系統(tǒng)的可靠性,訪問一個(gè)數(shù)據(jù)Key是先經(jīng)過哈希在哈希環(huán)中找到對應(yīng)的邏輯組,在組內(nèi)再查找數(shù)據(jù)Key對應(yīng)的主機(jī)實(shí)現(xiàn)數(shù)據(jù)的讀寫操作。此方案提高了系統(tǒng)的可靠性與安全性,但也還存在一個(gè)問題,組內(nèi)不管是采用一主一備,還是一主多備的方式,備份與主節(jié)點(diǎn)之間負(fù)載的均衡,并沒有得到很好的解決。在大部分讀多寫少的應(yīng)用場景,以一主一備或者一主多備的架構(gòu)模式,主節(jié)點(diǎn)承擔(dān)了大部分來自訪問端的讀寫請求,備節(jié)點(diǎn)只做數(shù)據(jù)同步寫入,主備之間負(fù)載并不均衡,備機(jī)基本處于空閑的狀態(tài),集群的性能沒有得到最大的利用。

    基于改進(jìn)一致性哈希架構(gòu)下的分布式集群系統(tǒng),論文對組內(nèi)數(shù)據(jù)分布設(shè)計(jì)了兩種新的副本算法,以進(jìn)一步提高集群服務(wù)器節(jié)點(diǎn)的性能和利用率,實(shí)現(xiàn)組內(nèi)機(jī)器的負(fù)載均衡。

    方案一:在組內(nèi)設(shè)置兩臺服務(wù)器節(jié)點(diǎn),但將兩個(gè)節(jié)點(diǎn)同時(shí)利用起來作為主機(jī)使用(雙主方案),兩主機(jī)互備。組內(nèi)兩節(jié)點(diǎn)分別記為SA、SB。對落入到這組的數(shù)據(jù)Key進(jìn)行分組,哈希值為奇數(shù)的數(shù)據(jù)Key以SA作為主機(jī),SB為備機(jī);哈希值為偶數(shù)的Key以SB作為主機(jī),SA為備機(jī)。此設(shè)置下,兩臺服務(wù)器都將被利用起來,共同承擔(dān)進(jìn)入本邏輯組的請求,組內(nèi)節(jié)點(diǎn)達(dá)到了負(fù)載均衡的效果??紤]到節(jié)點(diǎn)內(nèi)的緩存,網(wǎng)絡(luò)帶寬,進(jìn)程切換等因素,整體性能將比主備方案更加高效。不過考慮到機(jī)器可能會出現(xiàn)故障,一般會限制組內(nèi)SA、SB節(jié)點(diǎn)的負(fù)載低于機(jī)器滿載的50%,否則任意一個(gè)節(jié)點(diǎn)出現(xiàn)故障時(shí),故障節(jié)點(diǎn)的請求轉(zhuǎn)向剩余的節(jié)點(diǎn)將造成過載最終壓垮整組服務(wù)器。

    方案二:將組內(nèi)節(jié)點(diǎn)數(shù)從兩臺提高到多臺。這里以組內(nèi)三節(jié)點(diǎn)情況進(jìn)行說明(三主方案),更多節(jié)點(diǎn)的情況與此相似。三個(gè)實(shí)節(jié)點(diǎn)分別記為SA、SB、SC,調(diào)整備份邏輯,對落入此邏輯組的數(shù)據(jù)Key,按照哈希值模6,對余數(shù)不同的6份數(shù)據(jù)執(zhí)行不同的主備邏輯,如表5所示。

    表5 SA/SB/SC 三機(jī)主備關(guān)系

    哈希值模6等于0和1的數(shù)據(jù)以SA為主機(jī),其中一半的Key備份到SB(哈希值模6等于0),另外一半的Key備份到SC(哈希值模6等于1);對以SB和SC為主機(jī)的Key也采用同樣的備份邏輯,即本主機(jī)數(shù)據(jù)的備份由另外兩臺承擔(dān)。對進(jìn)入此組的所有數(shù)據(jù)Key,每個(gè)節(jié)點(diǎn)都只處理其中的2/6,三個(gè)節(jié)點(diǎn)的負(fù)載處于均衡的狀態(tài)??紤]單機(jī)故障的情況,當(dāng)組內(nèi)任何一個(gè)節(jié)點(diǎn)出現(xiàn)故障時(shí),其請求平攤到備機(jī)。如當(dāng)SA節(jié)點(diǎn)故障時(shí),哈希值模6為0和1的數(shù)據(jù)Key將分別由SB和SC節(jié)點(diǎn)提供服務(wù);此刻對于SB和SC兩節(jié)點(diǎn)來說,請求量將增加50%,負(fù)載也將提高50%。為了不讓節(jié)點(diǎn)因升高50%的負(fù)載造成過載而壓垮服務(wù)器,設(shè)計(jì)時(shí)一般會限定單個(gè)節(jié)點(diǎn)的負(fù)載低于其滿載的2/3。與雙主方案相比,單機(jī)負(fù)載的上限被提高,可以進(jìn)一步提高系統(tǒng)利用率。兩機(jī)和三機(jī)同時(shí)故障的情況,會造成部分甚至全部數(shù)據(jù)Key不可讀寫,不在此方案探討范圍。

    接下來從概率角度分析兩種副本方案的優(yōu)劣和系統(tǒng)風(fēng)險(xiǎn)。假設(shè)節(jié)點(diǎn)故障概率為p=0.01,節(jié)點(diǎn)發(fā)生故障是獨(dú)立事件:

    (1)組內(nèi)節(jié)點(diǎn)負(fù)載都低于滿載的1/2時(shí),兩種方案,單個(gè)節(jié)點(diǎn)故障時(shí)都可以將流量切到正常節(jié)點(diǎn),整組還可以繼續(xù)提供服務(wù)。

    (2)組內(nèi)節(jié)點(diǎn)負(fù)載超過滿載1/2但低于2/3時(shí),對方案一,如果發(fā)生單個(gè)節(jié)點(diǎn)的故障,將流量轉(zhuǎn)到正常節(jié)點(diǎn)會造成節(jié)點(diǎn)的過載,進(jìn)而造成整組的故障,因而組可用的概率等于(1-p)*(1-p)=0.9801。對方案二,單個(gè)節(jié)點(diǎn)故障,流量切到另外兩個(gè)正常節(jié)點(diǎn)并不會造成節(jié)點(diǎn)的過載。只有兩個(gè)及以上節(jié)點(diǎn)發(fā)生故障時(shí),整組才不可用,組可用的概率為(1-p)^3+p*(1-p)*(1-p)*3=0.999702,抗風(fēng)險(xiǎn)能力高于方案一。同時(shí)方案二有更積極的意義,節(jié)點(diǎn)負(fù)載可提高到滿載的2/3,系統(tǒng)利用率更高,集群可以承載更多的流量。

    3 實(shí)驗(yàn)

    3.1 一致性哈希算法均衡性驗(yàn)證

    對改進(jìn)前的算法,每個(gè)實(shí)節(jié)點(diǎn)配置100個(gè)虛擬節(jié)點(diǎn);對改進(jìn)后的一致性哈希算法,設(shè)置N為100000。隨機(jī)創(chuàng)建1000萬條由8位隨機(jī)字符組成的Key,統(tǒng)計(jì)每個(gè)節(jié)點(diǎn)的訪問次數(shù)作為節(jié)點(diǎn)負(fù)載,計(jì)算最大最小負(fù)載比值作為算法的均衡度。表6展示了兩種算法均衡度對比。

    表6 改進(jìn)前后一致性哈希算法最大最小負(fù)載比值

    從表6可以看到,改進(jìn)后的一致性哈希算法接近于完美均衡,節(jié)點(diǎn)間的負(fù)載差異非常低;對改進(jìn)前的算法,表6的實(shí)驗(yàn)結(jié)果也與表1高度吻合,改進(jìn)前算法存在節(jié)點(diǎn)負(fù)載不均衡的現(xiàn)象,此外也驗(yàn)證了使用節(jié)點(diǎn)負(fù)責(zé)哈希環(huán)地址空間作為節(jié)點(diǎn)負(fù)載是合理的。

    3.2 副本算法驗(yàn)證

    使用Redis搭建了主備、雙主兩組服務(wù)器,以相同的QPS請求下考察兩組服務(wù)器的CPU消耗、負(fù)載以及請求平均響應(yīng)時(shí)間。

    從表7-表8看到,兩組服務(wù)器內(nèi)的總消耗基本相同,負(fù)載總和也接近。但雙主算法平均響應(yīng)時(shí)間上有明顯的優(yōu)勢,對用戶體驗(yàn)會更好。

    表7 主備副本算法

    表8 雙主副本算法

    相比雙主方案,三主副本方案的優(yōu)勢是可以將單機(jī)負(fù)載從滿載的1/2提高到滿載的2/3。進(jìn)行如下的實(shí)驗(yàn)對比:三主機(jī)正常服務(wù)并且每個(gè)節(jié)點(diǎn)CPU消耗在50%~66%時(shí),統(tǒng)計(jì)整組服務(wù)器的負(fù)載、平均響應(yīng)時(shí)間;然后停掉一臺機(jī)器,在整組流量不變的條件下,將流量切到剩余的兩臺主機(jī),觀察整組服務(wù)器CPU消耗、負(fù)載、平均響應(yīng)時(shí)間的變化。

    從表9-表10可以看到,正常服務(wù)時(shí),三節(jié)點(diǎn)的CPU占用和負(fù)載基本一致,符合預(yù)期。在單機(jī)故障下請求轉(zhuǎn)發(fā)到正常主機(jī)時(shí),雖然正常節(jié)點(diǎn)的單機(jī)流量的增加造成了CPU和負(fù)載的上升,以及平均響應(yīng)時(shí)間升高,但節(jié)點(diǎn)尚未處于過載,整組服務(wù)器仍保持正常服務(wù)狀態(tài)。從而驗(yàn)證了三主副本策略與雙主策略相比,可以在不降低系統(tǒng)可靠性下提高系統(tǒng)的利用率。

    表9 三主機(jī)正常服務(wù)

    表10 主機(jī)SC 故障

    4 結(jié)語

    本文對比了常見的靜態(tài)負(fù)載均衡算法,對帶虛擬節(jié)點(diǎn)的一致性哈希算法,通過實(shí)驗(yàn)分析得出算法并非完全均衡;引入了改進(jìn)的一致性哈希算法,在理論和實(shí)驗(yàn)驗(yàn)證中,此算法在保持單調(diào)性的同時(shí)達(dá)到了近乎完美的均衡。基于改進(jìn)的一致性哈希算法,使用組的概念替代傳統(tǒng)的節(jié)點(diǎn),在解決副本的問題的同時(shí)實(shí)現(xiàn)組內(nèi)機(jī)器的負(fù)載均衡,并提出雙主副本和三主副本算法;經(jīng)過實(shí)驗(yàn)驗(yàn)證,雙主副本/三主副本方案對比主備方案,有著更好的性能和可靠性。

    猜你喜歡
    均衡性副本哈希
    京津冀全域旅游供需系統(tǒng)構(gòu)建及均衡性研究
    面向流媒體基于蟻群的副本選擇算法①
    副本放置中的更新策略及算法*
    均衡性原則司法適用解讀及適用路徑的精致化構(gòu)造——以四個(gè)案例為出發(fā)點(diǎn)
    行政法論叢(2016年0期)2016-07-21 14:52:23
    著力破解基層民主“非均衡性”的困境
    基于OpenCV與均值哈希算法的人臉相似識別系統(tǒng)
    政府間均衡性轉(zhuǎn)移支付績效評價(jià)體系構(gòu)建
    基于維度分解的哈希多維快速流分類算法
    樹形網(wǎng)絡(luò)中的副本更新策略及算法*
    基于同態(tài)哈希函數(shù)的云數(shù)據(jù)完整性驗(yàn)證算法
    日本精品一区二区三区蜜桃| 亚洲国产精品sss在线观看| 久久亚洲精品不卡| 搡老妇女老女人老熟妇| 狂野欧美激情性xxxx| 亚洲av片天天在线观看| 91字幕亚洲| 精品乱码久久久久久99久播| 高清毛片免费观看视频网站| 成人18禁高潮啪啪吃奶动态图| 婷婷亚洲欧美| 日韩精品免费视频一区二区三区| 国产精品 国内视频| 欧美黄色淫秽网站| 99国产精品一区二区三区| 老司机靠b影院| 欧美黄色片欧美黄色片| 欧美色视频一区免费| 精品久久久久久久久久久久久 | 久久精品国产清高在天天线| 老鸭窝网址在线观看| 欧美日韩亚洲国产一区二区在线观看| 亚洲av五月六月丁香网| 日韩欧美一区视频在线观看| 国产精品 国内视频| 成人亚洲精品av一区二区| 国产伦在线观看视频一区| 精品电影一区二区在线| 淫秽高清视频在线观看| 亚洲专区字幕在线| 天天躁狠狠躁夜夜躁狠狠躁| 国产精品自产拍在线观看55亚洲| 免费在线观看亚洲国产| 人人妻人人看人人澡| 老司机靠b影院| 午夜免费观看网址| 久久九九热精品免费| 观看免费一级毛片| 中文亚洲av片在线观看爽| 久久99热这里只有精品18| 国产成人精品久久二区二区91| 免费看日本二区| 亚洲午夜理论影院| 国产精品影院久久| 精品国产乱码久久久久久男人| 老司机午夜十八禁免费视频| 看黄色毛片网站| 久久精品人妻少妇| 极品教师在线免费播放| 国产v大片淫在线免费观看| 欧美乱码精品一区二区三区| 亚洲国产毛片av蜜桃av| 一夜夜www| 国产成人欧美在线观看| 久久久久国产精品人妻aⅴ院| 久久久国产欧美日韩av| 欧美激情高清一区二区三区| 国产v大片淫在线免费观看| 又黄又粗又硬又大视频| 日韩成人在线观看一区二区三区| 51午夜福利影视在线观看| 国产国语露脸激情在线看| 脱女人内裤的视频| 不卡一级毛片| 久久久久久大精品| 欧美黄色淫秽网站| 国语自产精品视频在线第100页| 美女免费视频网站| 久久久久国内视频| 99精品在免费线老司机午夜| 久久欧美精品欧美久久欧美| 欧美激情高清一区二区三区| 精品日产1卡2卡| 婷婷亚洲欧美| 在线免费观看的www视频| 大香蕉久久成人网| 真人做人爱边吃奶动态| 午夜福利18| 男女之事视频高清在线观看| 日本在线视频免费播放| 色哟哟哟哟哟哟| 亚洲久久久国产精品| 久久精品91无色码中文字幕| 成人18禁高潮啪啪吃奶动态图| 动漫黄色视频在线观看| 日韩三级视频一区二区三区| 99久久国产精品久久久| 精品久久久久久久人妻蜜臀av| 自线自在国产av| 90打野战视频偷拍视频| 可以免费在线观看a视频的电影网站| 亚洲一区二区三区不卡视频| 男女下面进入的视频免费午夜 | 久久久久久久久中文| 人人妻,人人澡人人爽秒播| 国产一区二区三区在线臀色熟女| xxxwww97欧美| 国产精品98久久久久久宅男小说| 一二三四社区在线视频社区8| 欧美日韩福利视频一区二区| 又黄又粗又硬又大视频| 国内揄拍国产精品人妻在线 | 国产伦一二天堂av在线观看| 波多野结衣av一区二区av| 搡老妇女老女人老熟妇| 正在播放国产对白刺激| 久久久久久九九精品二区国产 | 非洲黑人性xxxx精品又粗又长| 欧美乱码精品一区二区三区| 午夜福利一区二区在线看| 久久久久国内视频| 热re99久久国产66热| 亚洲自拍偷在线| 狠狠狠狠99中文字幕| 午夜成年电影在线免费观看| 欧美成人午夜精品| 女性生殖器流出的白浆| 午夜福利成人在线免费观看| 不卡一级毛片| 欧美日韩乱码在线| 国产高清videossex| 亚洲中文字幕一区二区三区有码在线看 | 日本在线视频免费播放| 成人特级黄色片久久久久久久| 老汉色av国产亚洲站长工具| 成年女人毛片免费观看观看9| 欧美激情久久久久久爽电影| 亚洲成av片中文字幕在线观看| 久久香蕉激情| www日本在线高清视频| 亚洲精品久久成人aⅴ小说| 国产成人影院久久av| 午夜免费鲁丝| 欧美日本亚洲视频在线播放| 99久久无色码亚洲精品果冻| 久久久久久久久免费视频了| 精品电影一区二区在线| 日韩欧美免费精品| 中文在线观看免费www的网站 | 丰满的人妻完整版| 99热6这里只有精品| netflix在线观看网站| 国产又爽黄色视频| 成人手机av| 中文字幕av电影在线播放| 国产男靠女视频免费网站| 久久精品国产亚洲av高清一级| www.精华液| 精品国产亚洲在线| 黄色视频,在线免费观看| 亚洲avbb在线观看| 亚洲专区中文字幕在线| 黄频高清免费视频| 一级毛片女人18水好多| 无遮挡黄片免费观看| 母亲3免费完整高清在线观看| 级片在线观看| 大型黄色视频在线免费观看| 亚洲aⅴ乱码一区二区在线播放 | 亚洲 国产 在线| 久久人妻福利社区极品人妻图片| 精品久久久久久久久久免费视频| 日本免费一区二区三区高清不卡| 18禁美女被吸乳视频| 黄色丝袜av网址大全| 国产精品久久久人人做人人爽| 1024手机看黄色片| 国产精品亚洲美女久久久| 国产av一区二区精品久久| 国产熟女午夜一区二区三区| 搡老熟女国产l中国老女人| 国内揄拍国产精品人妻在线 | 欧美日韩瑟瑟在线播放| 88av欧美| 亚洲成国产人片在线观看| 精品不卡国产一区二区三区| 国产精品日韩av在线免费观看| xxxwww97欧美| 女同久久另类99精品国产91| 亚洲av日韩精品久久久久久密| 成年女人毛片免费观看观看9| 精品少妇一区二区三区视频日本电影| 亚洲九九香蕉| 国产aⅴ精品一区二区三区波| 日韩精品青青久久久久久| 国产成人精品久久二区二区91| 国产aⅴ精品一区二区三区波| 免费在线观看影片大全网站| 欧美在线一区亚洲| 精品国内亚洲2022精品成人| 国产一区在线观看成人免费| 欧美成狂野欧美在线观看| 在线国产一区二区在线| 99热只有精品国产| 日韩一卡2卡3卡4卡2021年| 国产乱人伦免费视频| 国产成年人精品一区二区| 免费看十八禁软件| 免费在线观看黄色视频的| 精品免费久久久久久久清纯| av福利片在线| 国产精品野战在线观看| 色在线成人网| 亚洲五月天丁香| 看免费av毛片| 久久国产乱子伦精品免费另类| a级毛片在线看网站| 欧美国产日韩亚洲一区| 999精品在线视频| 19禁男女啪啪无遮挡网站| 亚洲欧美激情综合另类| 老司机深夜福利视频在线观看| 国产不卡一卡二| 久久天躁狠狠躁夜夜2o2o| 精品久久久久久久久久免费视频| 亚洲中文字幕日韩| 亚洲精品美女久久久久99蜜臀| 日本一区二区免费在线视频| 一区二区三区国产精品乱码| 天天躁夜夜躁狠狠躁躁| 国产精品精品国产色婷婷| 亚洲精品国产一区二区精华液| 少妇熟女aⅴ在线视频| 国产视频一区二区在线看| 国产精品综合久久久久久久免费| 日韩欧美国产一区二区入口| 哪里可以看免费的av片| 一个人免费在线观看的高清视频| 搡老妇女老女人老熟妇| 亚洲一码二码三码区别大吗| 国产成人影院久久av| 国产精品 欧美亚洲| 怎么达到女性高潮| 午夜福利高清视频| 欧美日韩中文字幕国产精品一区二区三区| 国产亚洲欧美98| 色播在线永久视频| 天天躁狠狠躁夜夜躁狠狠躁| 日日干狠狠操夜夜爽| 亚洲国产精品久久男人天堂| 亚洲中文字幕一区二区三区有码在线看 | 久久久久久大精品| 精品欧美一区二区三区在线| 国产精品99久久99久久久不卡| 欧美三级亚洲精品| АⅤ资源中文在线天堂| 很黄的视频免费| 色老头精品视频在线观看| 日韩欧美一区视频在线观看| 亚洲精华国产精华精| √禁漫天堂资源中文www| 国语自产精品视频在线第100页| 午夜福利一区二区在线看| 18禁美女被吸乳视频| 久久午夜综合久久蜜桃| 亚洲精品国产区一区二| 国产一区二区激情短视频| 女人被狂操c到高潮| 国语自产精品视频在线第100页| 1024香蕉在线观看| 最近在线观看免费完整版| 久久 成人 亚洲| 大型黄色视频在线免费观看| 久久久水蜜桃国产精品网| 很黄的视频免费| 亚洲专区字幕在线| 日韩欧美一区视频在线观看| 国产成人影院久久av| 黄色a级毛片大全视频| 亚洲全国av大片| 18禁国产床啪视频网站| 香蕉国产在线看| 亚洲中文日韩欧美视频| 婷婷精品国产亚洲av在线| 黄频高清免费视频| 天堂影院成人在线观看| 999精品在线视频| 岛国视频午夜一区免费看| 国产精品自产拍在线观看55亚洲| 一进一出抽搐动态| 成人永久免费在线观看视频| 精品国产美女av久久久久小说| 国产成人影院久久av| 亚洲在线自拍视频| 一区二区三区高清视频在线| 国产精品av久久久久免费| 精品欧美一区二区三区在线| 曰老女人黄片| 在线观看一区二区三区| 国产亚洲av嫩草精品影院| 国产成人精品久久二区二区免费| 久久精品夜夜夜夜夜久久蜜豆 | 欧美性猛交黑人性爽| 熟女少妇亚洲综合色aaa.| 精品国产超薄肉色丝袜足j| 国产亚洲欧美在线一区二区| 婷婷丁香在线五月| 一进一出抽搐gif免费好疼| 男女视频在线观看网站免费 | 99精品欧美一区二区三区四区| 给我免费播放毛片高清在线观看| 看黄色毛片网站| 久久亚洲精品不卡| 国产精品美女特级片免费视频播放器 | 欧美性猛交黑人性爽| 精品日产1卡2卡| 一本大道久久a久久精品| 精品国产美女av久久久久小说| 18禁黄网站禁片午夜丰满| 日本熟妇午夜| 久久婷婷人人爽人人干人人爱| 在线观看免费午夜福利视频| 少妇熟女aⅴ在线视频| 亚洲熟妇中文字幕五十中出| 国产精品亚洲av一区麻豆| 老司机在亚洲福利影院| 欧美激情极品国产一区二区三区| 老司机福利观看| 国产高清视频在线播放一区| 亚洲精品中文字幕一二三四区| 最新美女视频免费是黄的| 村上凉子中文字幕在线| 视频在线观看一区二区三区| 看免费av毛片| 国内少妇人妻偷人精品xxx网站 | 亚洲一区中文字幕在线| 欧美黑人欧美精品刺激| 欧美日韩福利视频一区二区| 无限看片的www在线观看| 日本 av在线| 欧美色视频一区免费| 久久精品国产综合久久久| 国产不卡一卡二| tocl精华| 国产亚洲精品av在线| 搡老岳熟女国产| 一本一本综合久久| 国产亚洲精品综合一区在线观看 | 18禁国产床啪视频网站| 99久久国产精品久久久| 手机成人av网站| 亚洲精品美女久久久久99蜜臀| 日本撒尿小便嘘嘘汇集6| 午夜两性在线视频| 叶爱在线成人免费视频播放| 精品国内亚洲2022精品成人| 美女高潮到喷水免费观看| 亚洲 欧美一区二区三区| 欧美黄色片欧美黄色片| 中文字幕久久专区| 国产午夜精品久久久久久| 啦啦啦韩国在线观看视频| 一二三四社区在线视频社区8| 九色国产91popny在线| 18禁国产床啪视频网站| 精品久久久久久久久久免费视频| 长腿黑丝高跟| 亚洲av中文字字幕乱码综合 | 欧美日韩瑟瑟在线播放| 免费搜索国产男女视频| 精品少妇一区二区三区视频日本电影| 俺也久久电影网| 国产视频一区二区在线看| 欧美成人一区二区免费高清观看 | 亚洲va日本ⅴa欧美va伊人久久| 制服丝袜大香蕉在线| 又黄又粗又硬又大视频| 国产成人精品无人区| 日韩精品中文字幕看吧| 最近最新免费中文字幕在线| 亚洲熟女毛片儿| 高清毛片免费观看视频网站| 色哟哟哟哟哟哟| 麻豆国产av国片精品| 亚洲成人久久性| av福利片在线| 亚洲真实伦在线观看| e午夜精品久久久久久久| 国产野战对白在线观看| 成熟少妇高潮喷水视频| 日韩欧美一区二区三区在线观看| 精品第一国产精品| 国产黄a三级三级三级人| 成人欧美大片| 亚洲性夜色夜夜综合| 国产伦在线观看视频一区| 制服丝袜大香蕉在线| 欧美国产精品va在线观看不卡| 两个人视频免费观看高清| 美女国产高潮福利片在线看| 丝袜人妻中文字幕| 丝袜在线中文字幕| x7x7x7水蜜桃| 美女免费视频网站| www.熟女人妻精品国产| 亚洲国产欧洲综合997久久, | 性色av乱码一区二区三区2| 在线十欧美十亚洲十日本专区| 亚洲国产精品成人综合色| 国产精品1区2区在线观看.| 国产精品久久视频播放| 不卡一级毛片| 国内精品久久久久久久电影| 精华霜和精华液先用哪个| 成人亚洲精品av一区二区| 男女做爰动态图高潮gif福利片| 亚洲欧洲精品一区二区精品久久久| 黄片小视频在线播放| 夜夜躁狠狠躁天天躁| 欧美激情极品国产一区二区三区| 搡老熟女国产l中国老女人| 搡老妇女老女人老熟妇| 少妇 在线观看| 黄片大片在线免费观看| 日本免费一区二区三区高清不卡| 欧美丝袜亚洲另类 | 久久久久亚洲av毛片大全| 亚洲免费av在线视频| 啦啦啦免费观看视频1| √禁漫天堂资源中文www| 不卡av一区二区三区| 少妇裸体淫交视频免费看高清 | 999精品在线视频| 国产精品美女特级片免费视频播放器 | 精品久久久久久久久久免费视频| 变态另类丝袜制服| 美国免费a级毛片| 18禁美女被吸乳视频| 欧美精品亚洲一区二区| 精品欧美国产一区二区三| 老熟妇仑乱视频hdxx| 精品一区二区三区四区五区乱码| 成人三级黄色视频| 中文字幕最新亚洲高清| 国产亚洲欧美在线一区二区| 成人永久免费在线观看视频| 久久天躁狠狠躁夜夜2o2o| 精品一区二区三区视频在线观看免费| 久99久视频精品免费| 国产三级在线视频| 亚洲国产精品久久男人天堂| 久久精品夜夜夜夜夜久久蜜豆 | 色综合婷婷激情| 免费女性裸体啪啪无遮挡网站| 午夜激情av网站| 成人手机av| 动漫黄色视频在线观看| 国内精品久久久久久久电影| 国产精品香港三级国产av潘金莲| 精品一区二区三区av网在线观看| 免费高清在线观看日韩| 欧美日韩精品网址| 最近在线观看免费完整版| 婷婷精品国产亚洲av在线| 亚洲av电影不卡..在线观看| 亚洲精品色激情综合| 男男h啪啪无遮挡| 18禁美女被吸乳视频| 麻豆成人av在线观看| 久久香蕉激情| 亚洲国产毛片av蜜桃av| 女人高潮潮喷娇喘18禁视频| 亚洲国产精品久久男人天堂| 久久久水蜜桃国产精品网| 搡老熟女国产l中国老女人| 免费搜索国产男女视频| 丝袜在线中文字幕| 首页视频小说图片口味搜索| 国产欧美日韩一区二区三| 窝窝影院91人妻| 精品国产乱码久久久久久男人| 国产精品99久久99久久久不卡| 欧美成狂野欧美在线观看| 午夜福利在线在线| 国产精品 欧美亚洲| 天堂√8在线中文| 亚洲一区二区三区不卡视频| 这个男人来自地球电影免费观看| 久久精品人妻少妇| 亚洲avbb在线观看| 亚洲熟妇熟女久久| 国产精品乱码一区二三区的特点| 91国产中文字幕| 欧美又色又爽又黄视频| 国产精品 欧美亚洲| АⅤ资源中文在线天堂| 超碰成人久久| 欧美乱妇无乱码| 国产三级在线视频| 午夜久久久久精精品| 色综合站精品国产| 老司机在亚洲福利影院| 午夜精品久久久久久毛片777| 午夜免费成人在线视频| 国产久久久一区二区三区| 久久久水蜜桃国产精品网| 熟妇人妻久久中文字幕3abv| 国产精华一区二区三区| 91成人精品电影| 天堂影院成人在线观看| 女生性感内裤真人,穿戴方法视频| 日韩国内少妇激情av| 午夜福利视频1000在线观看| 2021天堂中文幕一二区在线观 | 国产精品日韩av在线免费观看| 欧美精品啪啪一区二区三区| 后天国语完整版免费观看| 无遮挡黄片免费观看| 一本精品99久久精品77| 亚洲性夜色夜夜综合| 一级黄色大片毛片| av福利片在线| avwww免费| 成人一区二区视频在线观看| 大型av网站在线播放| 老汉色∧v一级毛片| 国产成人欧美在线观看| 99精品欧美一区二区三区四区| 美国免费a级毛片| 高清毛片免费观看视频网站| 午夜影院日韩av| 国产又黄又爽又无遮挡在线| 国产精品av久久久久免费| 一边摸一边做爽爽视频免费| 夜夜夜夜夜久久久久| 欧美激情 高清一区二区三区| 国产亚洲精品av在线| 久久久久国内视频| 男女午夜视频在线观看| 男女那种视频在线观看| 免费女性裸体啪啪无遮挡网站| 一区二区三区激情视频| 亚洲成国产人片在线观看| 国产成年人精品一区二区| 搞女人的毛片| 欧美色视频一区免费| 久久国产精品男人的天堂亚洲| 怎么达到女性高潮| 亚洲一码二码三码区别大吗| 午夜福利高清视频| 久久伊人香网站| 午夜福利免费观看在线| 国产亚洲av高清不卡| 两人在一起打扑克的视频| 亚洲第一青青草原| 老司机深夜福利视频在线观看| 制服诱惑二区| av在线播放免费不卡| 黄色毛片三级朝国网站| 亚洲精华国产精华精| 亚洲精品在线观看二区| 久久人妻av系列| 国产亚洲精品久久久久5区| 亚洲精品国产区一区二| 亚洲av电影不卡..在线观看| 女性生殖器流出的白浆| 麻豆成人av在线观看| 亚洲免费av在线视频| 中文字幕人妻丝袜一区二区| 欧美激情久久久久久爽电影| bbb黄色大片| 他把我摸到了高潮在线观看| 亚洲一区二区三区不卡视频| 久久午夜亚洲精品久久| 在线观看一区二区三区| 久久久久久久久中文| www.www免费av| 波多野结衣av一区二区av| 高潮久久久久久久久久久不卡| 欧美zozozo另类| 97碰自拍视频| 观看免费一级毛片| 久久精品国产亚洲av高清一级| 久久久久久人人人人人| 欧洲精品卡2卡3卡4卡5卡区| 天天添夜夜摸| 亚洲精品国产区一区二| 精品久久久久久成人av| 精品久久久久久久毛片微露脸| 一区二区三区激情视频| 成熟少妇高潮喷水视频| 女生性感内裤真人,穿戴方法视频| 一二三四在线观看免费中文在| 桃色一区二区三区在线观看| 天堂动漫精品| 国产黄片美女视频| 夜夜夜夜夜久久久久| 免费高清视频大片| 国产精品1区2区在线观看.| 桃色一区二区三区在线观看| 亚洲av成人av| 亚洲专区国产一区二区| 女人被狂操c到高潮| 19禁男女啪啪无遮挡网站| 侵犯人妻中文字幕一二三四区| 女人被狂操c到高潮| 国产午夜精品久久久久久| 精品少妇一区二区三区视频日本电影| 国产单亲对白刺激| 久久久久久国产a免费观看| 熟女电影av网| 国产亚洲欧美精品永久| 黑丝袜美女国产一区| 麻豆久久精品国产亚洲av| 国产成人啪精品午夜网站| 亚洲九九香蕉| 一进一出抽搐gif免费好疼| 正在播放国产对白刺激| 亚洲精品中文字幕一二三四区| 嫩草影视91久久| 91老司机精品| 最近最新免费中文字幕在线| 天天躁狠狠躁夜夜躁狠狠躁| 真人做人爱边吃奶动态| 久久精品成人免费网站|