• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種國(guó)產(chǎn)化航天測(cè)控集中監(jiān)控軟件架構(gòu)設(shè)計(jì)

    2022-07-05 14:16:03孟景濤王松鶴武鵬郭濤孫婧
    關(guān)鍵詞:微服務(wù)國(guó)產(chǎn)化分布式

    孟景濤 王松鶴 武鵬 郭濤 孫婧

    摘要:隨著國(guó)產(chǎn)化新研航天測(cè)控軟件的規(guī)模越來(lái)越龐大,快速定制、代碼復(fù)用的需求越來(lái)越迫切。許多應(yīng)用場(chǎng)景用戶都提出集中監(jiān)控的需求,且系統(tǒng)監(jiān)控軟件要采用微服務(wù)或多進(jìn)程的思路進(jìn)行設(shè)計(jì)。提出了一套以微服務(wù)平臺(tái)為基礎(chǔ)進(jìn)行開發(fā)的集中監(jiān)控軟件的架構(gòu)設(shè)計(jì)方案,服務(wù)的進(jìn)程之間相互隔離,獨(dú)立開發(fā)、部署和發(fā)布,支持多種客戶端訪問(wèn)和跨平臺(tái)的國(guó)產(chǎn)化操作系統(tǒng)。通過(guò)這種微服務(wù)形態(tài)的軟件架構(gòu),可以實(shí)現(xiàn)測(cè)控領(lǐng)域各類軟件的快速定制,形成復(fù)用性高的產(chǎn)品或者功能,從而快速穩(wěn)定地完成軟件開發(fā)過(guò)程。

    關(guān)鍵詞:分布式;微服務(wù);集中監(jiān)控;國(guó)產(chǎn)化

    中圖分類號(hào):TP319文獻(xiàn)標(biāo)志碼:A文章編號(hào):1008-1739(2022)08-54-6

    以往集中監(jiān)控都以單體架構(gòu)為設(shè)計(jì),復(fù)雜性高,項(xiàng)目模塊也會(huì)隨著需求的變動(dòng)不斷調(diào)整構(gòu)建,因此對(duì)新增和修改的代碼都會(huì)重復(fù)做很多測(cè)試,擴(kuò)展性、可靠性也較差。集中監(jiān)控作為一個(gè)龐大復(fù)雜的應(yīng)用服務(wù),隨時(shí)都存在對(duì)新業(yè)務(wù)需求的依賴,應(yīng)用程序各模塊之間耦合關(guān)系密切,對(duì)新業(yè)務(wù)的擴(kuò)展帶來(lái)極大的不便。

    對(duì)于集中監(jiān)控這種包含大量業(yè)務(wù)的應(yīng)用程序來(lái)說(shuō),單體架構(gòu)面臨越來(lái)越多的挑戰(zhàn),其改造與重構(gòu)勢(shì)在必行。而微服務(wù)架構(gòu)的誕生,是互聯(lián)網(wǎng)高速發(fā)展、虛擬化技術(shù)應(yīng)用以及持續(xù)交付、DevOps深入人心的綜合產(chǎn)物。隨著用戶需求個(gè)性化、產(chǎn)品生命周期變短,微服務(wù)架構(gòu)是未來(lái)軟件架構(gòu)朝著靈活性、擴(kuò)展性、伸縮性以及高可用性發(fā)展的必然方向。

    微服務(wù)形態(tài)下,集中監(jiān)控設(shè)計(jì)的基本思想在于圍繞監(jiān)控業(yè)務(wù)組件來(lái)創(chuàng)建應(yīng)用,這些應(yīng)用可獨(dú)立地進(jìn)行開發(fā)和運(yùn)行[1]。一個(gè)微服務(wù)僅完成某些簡(jiǎn)單的特定功能,降低了集中監(jiān)控的開發(fā)難度。微服務(wù)之間可通過(guò)一些輕量級(jí)的通信機(jī)制進(jìn)行通信,對(duì)于技術(shù)實(shí)現(xiàn)來(lái)說(shuō),可基于不限一種編程語(yǔ)言(C++,Java,C#,Python,Go等)來(lái)進(jìn)行開發(fā)[2]。

    微服務(wù)架構(gòu)提供服務(wù)容器并制定服務(wù)接口描述規(guī)范,遵循該規(guī)范的服務(wù)可注冊(cè)到微服務(wù)框架中,同時(shí)提供給這些服務(wù)全生命周期管理與狀態(tài)監(jiān)控,并且支持跨語(yǔ)言服務(wù)共存,提供服務(wù)間安全可靠通信機(jī)制,在部署方面支持分布式跨平臺(tái)[3],從而能使業(yè)務(wù)服務(wù)具有高可靠性、高復(fù)用性部署及管理一體化的便利性[4]。

    本項(xiàng)目微服務(wù)架構(gòu)設(shè)計(jì)將單一應(yīng)用程序劃分成一組小的服務(wù)[5],服務(wù)之間互相協(xié)調(diào)、互相配合,為用戶提供應(yīng)用價(jià)值。各個(gè)服務(wù)可運(yùn)行在其獨(dú)立的進(jìn)程中,服務(wù)與服務(wù)間可采用多種網(wǎng)絡(luò)通信機(jī)制互相溝通,也可通過(guò)消息總線進(jìn)行信息的發(fā)布與訂閱。每個(gè)服務(wù)都圍繞具體業(yè)務(wù)進(jìn)行構(gòu)建,并且能夠被獨(dú)立部署到生產(chǎn)環(huán)境。

    微服務(wù)架構(gòu)平臺(tái)將具體業(yè)務(wù)細(xì)分成多個(gè)獨(dú)立的服務(wù),獨(dú)立開發(fā),獨(dú)立運(yùn)行,獨(dú)立配置發(fā)布[6]。所有服務(wù)通過(guò)注冊(cè)中心進(jìn)行動(dòng)態(tài)注冊(cè),自動(dòng)發(fā)現(xiàn)服務(wù)并檢查狀態(tài);用戶通過(guò)客戶端或?yàn)g覽器遠(yuǎn)程發(fā)起服務(wù)訪問(wèn)請(qǐng)求,通過(guò)服務(wù)網(wǎng)關(guān)進(jìn)行反向代理,負(fù)載均衡找到正確的服務(wù),并將結(jié)果返回給用戶[7]。

    微服務(wù)平臺(tái)采用“平臺(tái)+服務(wù)+網(wǎng)關(guān)+應(yīng)用”的邏輯架構(gòu)設(shè)計(jì)[8],微服務(wù)平臺(tái)架構(gòu)如圖1所示。

    2.1服務(wù)注冊(cè)及配置管理器(Zookeeper)

    使用Zookeeper中間件實(shí)現(xiàn)注冊(cè)中心,Zookeeper在遠(yuǎn)程監(jiān)控中心啟動(dòng)服務(wù)時(shí),服務(wù)會(huì)向指定注冊(cè)中心集群注冊(cè)相關(guān)服務(wù)信息及端口,服務(wù)調(diào)用可從服務(wù)注冊(cè)中心查看服務(wù)的信息,根據(jù)自身需求跟服務(wù)進(jìn)行通信等功能。服務(wù)注冊(cè)中心采用Zookeeper管理各種服務(wù)功能,包括服務(wù)的注冊(cè)、發(fā)現(xiàn)和負(fù)載等。

    使用Zookeeper中間件實(shí)現(xiàn)微服務(wù)架構(gòu)的配置管理(服務(wù)啟停的腳本化管理、服務(wù)相關(guān)運(yùn)行配置屬性、配置文件管理)能力。該技術(shù)解決了分布式集群中應(yīng)用系統(tǒng)的一致性問(wèn)題,提供類似于文件系統(tǒng)的目錄節(jié)點(diǎn)樹方式的數(shù)據(jù)存儲(chǔ),Zookeeper作用主要是用來(lái)維護(hù)和監(jiān)控存儲(chǔ)數(shù)據(jù)的狀態(tài)變化,通過(guò)監(jiān)控這些數(shù)據(jù)狀態(tài)的變化,達(dá)到基于數(shù)據(jù)的集群管理。Zookeeper同時(shí)提供分布式鎖功能,為跨機(jī)器跨進(jìn)程提供并發(fā)調(diào)用的支持。

    Zookeeper集群配置管理配合Git完成配置的歸檔與更新,Zookeeper推送到所有觀察訂閱這個(gè)節(jié)點(diǎn)的服務(wù)器,服務(wù)器更新配置,所有服務(wù)器完成一次更新操作[9]。

    2.2消息總線(RabbitMQ)

    使用RabbitMQ消息中間件實(shí)現(xiàn)微服務(wù)架構(gòu)的總線消息管理(消息傳輸管理、消息監(jiān)視、消息治理)的能力[10],主要解決應(yīng)用耦合、異步消息和流量削峰等問(wèn)題,以實(shí)現(xiàn)高性能、高可用、可伸縮和最終一致性架構(gòu),是大型分布式系統(tǒng)中不可缺少的消息中間件,為整個(gè)系統(tǒng)提供異步數(shù)據(jù)交換通道。

    RabbitMQ提供如點(diǎn)對(duì)點(diǎn)、RPC、訂閱發(fā)布和文件傳輸4種工作模式,包含了主動(dòng)獲取消息、被動(dòng)接收消息、執(zhí)行錯(cuò)誤代號(hào)和執(zhí)行錯(cuò)誤描述等多項(xiàng)定制接口特性。RabbitMQ運(yùn)行如圖2所示。

    2.3服務(wù)網(wǎng)關(guān)

    使用服務(wù)網(wǎng)關(guān)實(shí)現(xiàn)微服務(wù)架構(gòu)的部分分布式服務(wù)的路由轉(zhuǎn)發(fā)[11]。通過(guò)服務(wù)網(wǎng)關(guān)統(tǒng)一向外系統(tǒng)提供Rest API、RPC API或者自定義網(wǎng)絡(luò)協(xié)議接口。服務(wù)網(wǎng)關(guān)包含了對(duì)請(qǐng)求的路由和過(guò)濾2個(gè)最主要的功能。其中,路由功能負(fù)責(zé)將外部請(qǐng)求轉(zhuǎn)發(fā)到具體的微服務(wù)實(shí)例上,是實(shí)現(xiàn)外部訪問(wèn)統(tǒng)一入口的基礎(chǔ)[12]。而過(guò)濾器功能則負(fù)責(zé)對(duì)請(qǐng)求的處理過(guò)程進(jìn)行干預(yù),是實(shí)現(xiàn)請(qǐng)求校驗(yàn)、服務(wù)聚合等功能的基礎(chǔ)。

    服務(wù)網(wǎng)關(guān)和Zookeeper進(jìn)行整合,將服務(wù)網(wǎng)關(guān)自身注冊(cè)為Zookeeper服務(wù)治理下的應(yīng)用,同時(shí)從Zookeeper中獲得其他微服務(wù)的消息,即以后的訪問(wèn)微服務(wù)都是通過(guò)服務(wù)網(wǎng)關(guān)跳轉(zhuǎn)后獲得,服務(wù)網(wǎng)關(guān)代理設(shè)計(jì)如圖3所示。

    2.4虛擬IP與服務(wù)容災(zāi)

    使用開源路由軟件Keepalived實(shí)現(xiàn)微服務(wù)架構(gòu)的虛擬IP管理(服務(wù)高可用)能力。Keepalived是一種高性能的服務(wù)器高可用或熱備解決方案,用來(lái)防止服務(wù)器單點(diǎn)故障的發(fā)生,可以實(shí)現(xiàn)子設(shè)備監(jiān)控服務(wù)的高可用。

    Keepalived以VRRP協(xié)議為實(shí)現(xiàn)基礎(chǔ),用VRRP協(xié)議來(lái)實(shí)現(xiàn)高可用性。VRRP協(xié)議是用于實(shí)現(xiàn)節(jié)點(diǎn)冗余的協(xié)議,將2個(gè)或多個(gè)節(jié)點(diǎn)虛擬成一個(gè)節(jié)點(diǎn),對(duì)外提供虛擬節(jié)點(diǎn)IP(一個(gè)或多個(gè)),而在節(jié)點(diǎn)組內(nèi)部,如果實(shí)際擁有這個(gè)對(duì)外IP的節(jié)點(diǎn)且工作正常的話就是Master,或者通過(guò)算法選舉產(chǎn)生,Master實(shí)現(xiàn)針對(duì)虛擬節(jié)點(diǎn)IP的各種功能,如設(shè)備監(jiān)控、監(jiān)控?cái)?shù)據(jù)的轉(zhuǎn)發(fā)等;其他節(jié)點(diǎn)不擁有該虛擬IP,狀態(tài)是Backup,除了接收Master的VRRP狀態(tài)通告信息外,不執(zhí)行對(duì)外的功能。當(dāng)主機(jī)失效時(shí),Backup將接管原先Master的功能。VRRP協(xié)議使用多播數(shù)據(jù)來(lái)傳輸VRRP數(shù)據(jù),VRRP數(shù)據(jù)使用特殊的虛擬源MAC地址而不是自身網(wǎng)卡的MAC地址發(fā)送數(shù)據(jù),VRRP運(yùn)行時(shí)只有Master節(jié)點(diǎn)定時(shí)發(fā)送VRRP通告信息,表示Master工作正常以及虛擬節(jié)點(diǎn)IP(組);Backup只接收VRRP數(shù)據(jù),不發(fā)送數(shù)據(jù)。如果一定時(shí)間內(nèi)沒(méi)有接收到Master的通告信息,各Backup將宣告自己成為Master,發(fā)送通告信息,重新進(jìn)行Master選舉狀態(tài)。Keepalived架構(gòu)如圖4所示。

    2.5 RPC通信中間件

    使用開源消息通信中間件框架ICE實(shí)現(xiàn)微服務(wù)架構(gòu)算法服務(wù)之間的RPC調(diào)用與服務(wù)指令控制管理,以及統(tǒng)一算法接口標(biāo)準(zhǔn)能力。

    2.6服務(wù)代理守護(hù)進(jìn)程

    服務(wù)代理守護(hù)進(jìn)程實(shí)現(xiàn)微服務(wù)架構(gòu)的服務(wù)啟停、服務(wù)監(jiān)控、服務(wù)腳本維護(hù)、服務(wù)部署和卸載等能力,對(duì)整個(gè)微服務(wù)架構(gòu)中的支撐服務(wù)和業(yè)務(wù)服務(wù)進(jìn)行管控。

    服務(wù)代理守護(hù)進(jìn)程以獨(dú)立的進(jìn)程運(yùn)行在各個(gè)物理機(jī)節(jié)點(diǎn)或虛擬機(jī)節(jié)點(diǎn)上,守護(hù)進(jìn)程與平臺(tái)管理中心服務(wù)端以TCP的方式進(jìn)行通信,作為框架的基礎(chǔ)功能部分,通過(guò)接口暴露及消息訂閱方式對(duì)指定微服務(wù)進(jìn)行啟??刂?。代理守護(hù)進(jìn)程如圖5所示。

    2.7微服務(wù)管理中心

    微服務(wù)管理中心實(shí)現(xiàn)微服務(wù)架構(gòu)的服務(wù)治理、服務(wù)監(jiān)控、服務(wù)配置、日志管理和用戶權(quán)限能力,服務(wù)管理中心提供可視化的Web頁(yè)面對(duì)服務(wù)器軟硬件進(jìn)行管理。

    服務(wù)管理中心集成了服務(wù)注冊(cè)、服務(wù)部署、服務(wù)卸載、服務(wù)啟停和服務(wù)主備切換等功能,為已存在或正在開發(fā)的應(yīng)用或服務(wù),以及復(fù)雜網(wǎng)絡(luò)環(huán)境的組件化和服務(wù)化軟件系統(tǒng)提供部署、運(yùn)行和管理的支撐和基礎(chǔ)環(huán)境。服務(wù)管理中心可動(dòng)態(tài)地在微服務(wù)架構(gòu)平臺(tái)中注冊(cè)(新增)和注銷(卸載)業(yè)務(wù)服務(wù),服務(wù)管理中心能最大限度地?cái)U(kuò)展服務(wù)數(shù)量(僅僅受限于服務(wù)器硬件資源環(huán)境)。

    管理中心軟件本身帶有失效重啟功能,負(fù)責(zé)跟所有服務(wù)節(jié)點(diǎn)機(jī)器的守護(hù)進(jìn)程進(jìn)行通信,實(shí)現(xiàn)遠(yuǎn)程監(jiān)控微服務(wù)進(jìn)程的功能。

    基于微服務(wù)架構(gòu)形態(tài)下的集中監(jiān)控采用B/S與C/S兼容的架構(gòu)模式,服務(wù)器端開發(fā)語(yǔ)言使用Java,C++及少量Python,客戶端使用瀏覽器或者基于Qt開發(fā)的桌面程序進(jìn)行展示。

    為了可靈活構(gòu)建集中監(jiān)控中的業(yè)務(wù)應(yīng)用,微服務(wù)架構(gòu)的服務(wù)器端在數(shù)據(jù)持久化時(shí),使用數(shù)據(jù)去中心化的思想,將微服務(wù)所對(duì)應(yīng)的服務(wù)模塊持久數(shù)據(jù)進(jìn)行分庫(kù)設(shè)計(jì),多個(gè)服務(wù)之間的設(shè)計(jì)保持相互獨(dú)立,數(shù)據(jù)也保持獨(dú)立性。每個(gè)微服務(wù)都有自己對(duì)應(yīng)的私有數(shù)據(jù)庫(kù),其他微服務(wù)不能直接訪問(wèn),而基于多個(gè)微服務(wù)形成的上層業(yè)務(wù)數(shù)據(jù)通過(guò)對(duì)應(yīng)的業(yè)務(wù)形態(tài)去任意組合數(shù)據(jù)。微服務(wù)架構(gòu)主要包含以下關(guān)鍵技術(shù)設(shè)計(jì)。

    3.1服務(wù)與設(shè)備監(jiān)控設(shè)計(jì)

    服務(wù)與設(shè)備監(jiān)控實(shí)現(xiàn)對(duì)服務(wù)節(jié)點(diǎn)運(yùn)行資源和服務(wù)健康狀態(tài)的監(jiān)視,包括軟件和硬件環(huán)境、虛擬機(jī)資源及其運(yùn)行狀態(tài)等[14]。3.1.1功能設(shè)計(jì)

    通過(guò)實(shí)現(xiàn)SNMP代理(AGENT)和自陷(TRAP)的方式,支持配置相關(guān)監(jiān)視參數(shù),對(duì)故障進(jìn)行告警等功能,服務(wù)監(jiān)視流程如圖6所示。

    監(jiān)控服務(wù)通過(guò)SNMP協(xié)議獲取服務(wù)節(jié)點(diǎn)信息和服務(wù)運(yùn)行狀態(tài),同時(shí)可以向SNMP代理發(fā)送配置參數(shù),配置服務(wù)故障告警門限、TRAP地址等。SNMP TRAP通過(guò)監(jiān)聽162端口,接收 SNMP AGENT發(fā)送的TRAP事件。

    3.1.2監(jiān)控內(nèi)容設(shè)計(jì)

    服務(wù)節(jié)點(diǎn)資源監(jiān)控主要針對(duì)物理機(jī)資源進(jìn)行監(jiān)視,包含服務(wù)監(jiān)控、服務(wù)信息上報(bào)、服務(wù)監(jiān)控信息收集、服務(wù)調(diào)用信息獲取和服務(wù)調(diào)用信息緩存等模塊。服務(wù)監(jiān)控模塊主要提供服務(wù)信息上報(bào)和服務(wù)監(jiān)控信息緩存的功能;服務(wù)信息上報(bào)模塊可對(duì)調(diào)用服務(wù)的信息做記錄,框架會(huì)自動(dòng)收集這些信息,并集中緩存;服務(wù)監(jiān)控信息收集模塊從服務(wù)域的角度收集服務(wù)域內(nèi)所有服務(wù)的監(jiān)控信息并緩存;服務(wù)調(diào)用信息獲取模塊從框架的角度收集所有服務(wù)的監(jiān)控信息,并主動(dòng)上報(bào)監(jiān)控異常信息。

    設(shè)備監(jiān)控主要針對(duì)虛擬機(jī)設(shè)備進(jìn)行啟動(dòng)、停止、狀態(tài)上報(bào)和資源信息監(jiān)視等功能。

    交換機(jī)監(jiān)視采用SNMP網(wǎng)絡(luò)和資源管理技術(shù)監(jiān)視網(wǎng)絡(luò)交換機(jī),因此交換機(jī)需要支持SNMP協(xié)議。通過(guò)交換機(jī)提供的MIB信息來(lái)獲取需要監(jiān)視的信息,主要包括交換機(jī)的CPU使用率、內(nèi)存使用率、接口狀態(tài)和接口流量等信息。

    3.2負(fù)載均衡設(shè)計(jì)

    負(fù)載管理模塊用于統(tǒng)計(jì)和分析集群中各服務(wù)節(jié)點(diǎn)的服務(wù)負(fù)載信息,利用平臺(tái)的分布式協(xié)調(diào)功能監(jiān)控服務(wù)并獲取服務(wù)的調(diào)用信息,計(jì)算出每個(gè)服務(wù)節(jié)點(diǎn)的每個(gè)服務(wù)在一定時(shí)間內(nèi)的觸發(fā)次數(shù)、平均執(zhí)行時(shí)間等負(fù)載信息,并且將這些信息緩存在平臺(tái)監(jiān)控模塊中,供負(fù)載均衡算法使用。

    集群負(fù)載管理是集群管理的重要功能,其負(fù)載管理效果直接影響負(fù)載均衡算法的準(zhǔn)確性和整個(gè)集群的處理能力,集群負(fù)載管理能夠真實(shí)反映集群中各服務(wù)的運(yùn)行負(fù)載情況。

    3.2.1功能設(shè)計(jì)

    負(fù)載均衡協(xié)調(diào)模塊用于為微服務(wù)平臺(tái)集群提供負(fù)載均衡算法和協(xié)調(diào)集群中服務(wù)調(diào)用的功能。微服務(wù)平臺(tái)的負(fù)載均衡協(xié)調(diào)的目標(biāo)是使服務(wù)集群中各服務(wù)節(jié)點(diǎn)盡可能均衡地處理服務(wù)請(qǐng)求,發(fā)揮集群的綜合處理能力,提高服務(wù)效率并且減少等待時(shí)間,避免協(xié)調(diào)不當(dāng)導(dǎo)致部分服務(wù)節(jié)點(diǎn)忙碌、部分服務(wù)節(jié)點(diǎn)閑置的情況。

    負(fù)載均衡協(xié)調(diào)模塊負(fù)責(zé)將集群負(fù)載管理模塊緩存的服務(wù)負(fù)載信息收集,并生成可供負(fù)載均衡算法使用的數(shù)據(jù)對(duì)象。負(fù)載均衡算法運(yùn)行時(shí),直接從已生成的數(shù)據(jù)對(duì)象中計(jì)算,提高計(jì)算效率。

    負(fù)載均衡協(xié)調(diào)模塊為服務(wù)集群提供3種負(fù)載均衡算法,供服務(wù)調(diào)用配置模塊選擇。3種算法如下:

    ①輪詢算法:假設(shè)所有服務(wù)器的處理性能都相同,不關(guān)心每臺(tái)服務(wù)器的當(dāng)前連接數(shù)和響應(yīng)速度,把請(qǐng)求輪流分配給內(nèi)部的服務(wù)器。

    ②時(shí)間最小算法:服務(wù)調(diào)用時(shí),考慮各節(jié)點(diǎn)的負(fù)載情況和服務(wù)的平均處理時(shí)間,按照處理比例和概率的優(yōu)化算法對(duì)已生成的數(shù)據(jù)對(duì)象進(jìn)行計(jì)算,為服務(wù)調(diào)用分配一個(gè)適當(dāng)?shù)姆?wù)節(jié)點(diǎn)進(jìn)行調(diào)用。

    ③通信頻次算法:服務(wù)調(diào)用時(shí),根據(jù)服務(wù)通信的次數(shù)來(lái)進(jìn)行均勻分配調(diào)用請(qǐng)求。

    3.2.2流程設(shè)計(jì)

    在負(fù)載均衡協(xié)調(diào)模塊收到負(fù)載協(xié)調(diào)請(qǐng)求時(shí),負(fù)載均衡協(xié)調(diào)流程開始。首先將集群負(fù)載管理在注冊(cè)表的服務(wù)負(fù)載信息進(jìn)行收集,生成需要調(diào)用的服務(wù)的負(fù)載計(jì)算對(duì)象,再調(diào)用負(fù)載均衡算法,對(duì)對(duì)象進(jìn)行計(jì)算,根據(jù)計(jì)算結(jié)果選擇服務(wù)節(jié)點(diǎn)。服務(wù)端調(diào)用算法服務(wù)的負(fù)載管理流程設(shè)計(jì)如圖7所示。

    服務(wù)端服務(wù)組合流程調(diào)用分成2類服務(wù)調(diào)用:分布式服務(wù)和主從服務(wù)調(diào)用。分布式服務(wù)將自身注冊(cè)到服務(wù)注冊(cè)中心,在組合服務(wù)調(diào)用時(shí),分布式服務(wù)代理通過(guò)注冊(cè)中心獲取當(dāng)前的服務(wù)信息,并按照負(fù)載策略獲取一個(gè)滿足要求的服務(wù)節(jié)點(diǎn)發(fā)起RPC請(qǐng)求并獲取結(jié)果;主從服務(wù)將虛擬IP配置信息持久化在數(shù)據(jù)庫(kù)中,主從服務(wù)代理通過(guò)數(shù)據(jù)庫(kù)獲取當(dāng)前服務(wù)對(duì)應(yīng)的虛擬IP,并通過(guò)虛擬IP發(fā)起RPC請(qǐng)求獲取結(jié)果;組合服務(wù)執(zhí)行引擎匯總分布式服務(wù)B代理和主從服務(wù)C代理的結(jié)果數(shù)據(jù),最后將數(shù)據(jù)作為算法服務(wù)D代理的輸入?yún)?shù)發(fā)起RPC調(diào)用并得到最終結(jié)果。

    3.3消息總線設(shè)計(jì)

    本設(shè)計(jì)中,消息總線以微服務(wù)的方式提供消息隊(duì)列功能,包括提供隊(duì)列以及訂閱/發(fā)布2種方式。其中普通的日志以及數(shù)據(jù)信息將以隊(duì)列方式傳輸消息,故障消息以及異常通知都以訂閱/發(fā)布方式推送數(shù)據(jù)。

    3.3.1管理流程設(shè)計(jì)

    消息總線管理流程設(shè)計(jì)如圖8所示。

    客戶端調(diào)用消息總線客戶端SDK庫(kù),初始化發(fā)布端和訂閱端程序(創(chuàng)建交換器和隊(duì)列,并將二者進(jìn)行邏輯綁定),創(chuàng)建TCP連接,消息發(fā)布者和消息訂閱者都是通過(guò)TCP連接到消息總線的服務(wù)端。

    TCP連接建立之后需要建立虛擬連接(Channel),Channel建立在上述TCP連接中,數(shù)據(jù)流動(dòng)都是在Channel中進(jìn)行的。對(duì)于操作系統(tǒng)來(lái)說(shuō),建立和關(guān)閉TCP連接是有代價(jià)的,頻繁地建立關(guān)閉TCP連接對(duì)于系統(tǒng)的性能有很大的影響,而且TCP的連接數(shù)也有限制,這也限制了系統(tǒng)處理高并發(fā)的能力。但是,在TCP連接中建立Channel是沒(méi)有上述代價(jià)的。對(duì)于發(fā)布端或者訂閱端來(lái)說(shuō),可以并發(fā)地使用多個(gè)Channel進(jìn)行消息的發(fā)布或者訂閱。

    3.3.2性能設(shè)計(jì)

    在RabbitMQ的訂閱/發(fā)布主題且數(shù)據(jù)持久化的測(cè)試過(guò)程中,隨著單節(jié)點(diǎn)訂閱用戶數(shù)的增多,網(wǎng)絡(luò)帶寬使用率也會(huì)隨之增加,直至壓滿(現(xiàn)有環(huán)境為千兆網(wǎng)絡(luò)和千兆網(wǎng)卡,在速度達(dá)到110 Mbps及以上之后網(wǎng)絡(luò)使用率達(dá)到最大值,即已壓滿),同時(shí)同等訂閱數(shù)條件下,網(wǎng)絡(luò)帶寬的使用率會(huì)隨著訂閱主題數(shù)據(jù)量的增加而增加,直至壓滿。故在現(xiàn)有場(chǎng)景下的性能場(chǎng)景測(cè)試瓶頸來(lái)自于網(wǎng)絡(luò),通過(guò)節(jié)點(diǎn)擴(kuò)展(增加RabbitMQ節(jié)點(diǎn)數(shù))可以得到更大的數(shù)據(jù)承擔(dān)流量。

    為了使網(wǎng)絡(luò)帶寬的利用率達(dá)到最大,對(duì)消息隊(duì)列的傳輸情況進(jìn)行了測(cè)試(發(fā)布者100,訂閱者100的情況下),測(cè)試結(jié)果如表1所示。

    根據(jù)該性能測(cè)試數(shù)據(jù)分析,在用戶所攜消息數(shù)據(jù)包大小為24 KB時(shí)網(wǎng)絡(luò)帶寬使用率已經(jīng)達(dá)到峰值,為保持服務(wù)器的穩(wěn)定性和可靠性,服務(wù)框架內(nèi)各服務(wù)間傳輸?shù)膯蝹€(gè)數(shù)據(jù)包攜帶數(shù)據(jù)不應(yīng)超過(guò)24 KB。

    本文研究并實(shí)現(xiàn)了一種國(guó)產(chǎn)化航天測(cè)控集中監(jiān)控軟件架構(gòu),其基于微服務(wù)架構(gòu)進(jìn)行設(shè)計(jì),將緊耦合的系統(tǒng)劃分為面向業(yè)務(wù)的、粗粒度、松耦合、無(wú)狀態(tài)的服務(wù),并提供了一種屏蔽了復(fù)雜技術(shù)細(xì)節(jié)的標(biāo)準(zhǔn)開發(fā)框架,使得研發(fā)人員只需要關(guān)注業(yè)務(wù)代碼的編寫和微服務(wù)的配置即可。同時(shí)采用統(tǒng)一化的平臺(tái)標(biāo)準(zhǔn)及規(guī)范,制定服務(wù)接口規(guī)范與交互規(guī)范標(biāo)準(zhǔn),從而監(jiān)控和約束軟件的質(zhì)量,確保軟件的通用性、伸縮性、魯棒性以及穩(wěn)定性。依賴該微服務(wù)框架,可以快速建立起一個(gè)高內(nèi)聚、低耦合的基于微服務(wù)架構(gòu)的集中監(jiān)控軟件,從而可以快速實(shí)現(xiàn)軟件定制,提高產(chǎn)品序列、豐富服務(wù)倉(cāng)庫(kù),形成復(fù)用性高的產(chǎn)品或者功能,從而快速滿足和響應(yīng)客戶的需求。

    參考文獻(xiàn)

    [1]王文龍.分布式軟件開發(fā)平臺(tái)的設(shè)計(jì)與實(shí)施[D].北京:北京郵電大學(xué),2011.

    [2]李春霞.微服務(wù)架構(gòu)研究概述[J].軟件導(dǎo)刊,2019,18(8):1-3.

    [3]崔方園.支持分布式協(xié)同開發(fā)的軟件配置管理系統(tǒng)研究[D].大連:大連海事大學(xué),2009.

    [4]林旭新,陳文吉,鄭大鵬.一種面向服務(wù)的跨平臺(tái)實(shí)時(shí)信息發(fā)布及交流軟件架構(gòu)[J].現(xiàn)代計(jì)算機(jī)(專業(yè)版),2014(8): 77-80.

    [5]史俊.分布式軟件技術(shù)及其應(yīng)用研究[J].無(wú)線互聯(lián)科技, 2012,12:68.

    [6]王義.微服務(wù)架構(gòu)特點(diǎn)、技術(shù)趨勢(shì)及在行業(yè)應(yīng)用中關(guān)鍵問(wèn)題研究[J].軟件,2020,41(6):132-136.

    [7]周家昊.微服務(wù)架構(gòu)關(guān)鍵技術(shù)研究與通用框架實(shí)現(xiàn)[D].廣州:廣東工業(yè)大學(xué),2019.

    [8]徐西岳.分布式系統(tǒng)中微服務(wù)架構(gòu)的研究及應(yīng)用[D].青島:山東科技大學(xué),2019.

    [9]苗凡,閻志遠(yuǎn),戴琳琳.基于Zookeeper的配置管理中心設(shè)計(jì)與實(shí)現(xiàn)[J].鐵路計(jì)算機(jī)應(yīng)用,2018,27(10):26-29.

    [10]胡雪婧.基于ZooKeeper的分布式系統(tǒng)的消息發(fā)送機(jī)制的設(shè)計(jì)與實(shí)現(xiàn)[D].長(zhǎng)春:吉林大學(xué),2016.

    [11]周國(guó)興.基于ZooKeeper的服務(wù)集成框架研究[D].南京:東南大學(xué),2019.

    [12]董龍成.基于ZooKeeper的配置中心系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D].西安:西安電子科技大學(xué),2018.

    [13]黃毅斐.基于ZooKeeper的分布式同步框架設(shè)計(jì)與實(shí)現(xiàn)[D].杭州:浙江大學(xué),2012.

    [14]孫婧,劉瑩,孟景濤,等.基于XML的軟件通用程序框架[J].無(wú)線電工程,2015,45(6):25-27.

    猜你喜歡
    微服務(wù)國(guó)產(chǎn)化分布式
    特大型橋梁供電系統(tǒng)國(guó)產(chǎn)化改造探討
    元器件國(guó)產(chǎn)化推進(jìn)工作實(shí)踐探索
    ASM-600油站換熱器的國(guó)產(chǎn)化改進(jìn)
    能源工程(2021年3期)2021-08-05 07:26:14
    基于國(guó)產(chǎn)化ITCS的衛(wèi)星導(dǎo)航仿真研究
    分布式光伏熱錢洶涌
    能源(2017年10期)2017-12-20 05:54:07
    分布式光伏:爆發(fā)還是徘徊
    能源(2017年5期)2017-07-06 09:25:54
    微信公眾平臺(tái)在醫(yī)院圖書館的應(yīng)用現(xiàn)狀調(diào)查
    基于微信企業(yè)號(hào)的校園移動(dòng)服務(wù)
    微服務(wù)視角下高職圖書館數(shù)字資源使用分析
    中文信息(2016年10期)2016-12-12 10:09:57
    從單一模式系統(tǒng)架構(gòu)往微服務(wù)架構(gòu)遷移轉(zhuǎn)化技術(shù)研究
    免费看日本二区| 少妇人妻久久综合中文| 青青草视频在线视频观看| 五月天丁香电影| 国产日韩欧美亚洲二区| 蜜臀久久99精品久久宅男| 亚洲色图av天堂| 秋霞伦理黄片| 91精品一卡2卡3卡4卡| 直男gayav资源| 高清在线视频一区二区三区| 如何舔出高潮| 新久久久久国产一级毛片| 老女人水多毛片| 国产一级毛片在线| 国产欧美日韩一区二区三区在线 | 在线观看免费日韩欧美大片 | 免费少妇av软件| 国产色婷婷99| 青春草视频在线免费观看| 乱码一卡2卡4卡精品| 日本欧美视频一区| 亚洲av中文字字幕乱码综合| 国产探花极品一区二区| 欧美精品一区二区免费开放| 国精品久久久久久国模美| 日本黄色片子视频| 亚洲,欧美,日韩| 男女边摸边吃奶| 日韩av免费高清视频| av不卡在线播放| 国产大屁股一区二区在线视频| 岛国毛片在线播放| 99久久精品热视频| 国内精品宾馆在线| 小蜜桃在线观看免费完整版高清| 一区二区三区精品91| 久久久精品94久久精品| 婷婷色av中文字幕| 亚洲欧美日韩东京热| 亚洲美女黄色视频免费看| 激情 狠狠 欧美| 国产美女午夜福利| 国产精品不卡视频一区二区| av播播在线观看一区| 噜噜噜噜噜久久久久久91| 狂野欧美白嫩少妇大欣赏| 久久精品熟女亚洲av麻豆精品| 天堂中文最新版在线下载| av免费在线看不卡| 国产淫片久久久久久久久| 亚洲人成网站高清观看| 精品人妻偷拍中文字幕| 久久人人爽av亚洲精品天堂 | 亚洲怡红院男人天堂| 九色成人免费人妻av| 日本欧美国产在线视频| 少妇的逼水好多| 国产永久视频网站| 一级毛片久久久久久久久女| 欧美 日韩 精品 国产| 日韩国内少妇激情av| 亚洲欧美日韩无卡精品| av卡一久久| 在线亚洲精品国产二区图片欧美 | 亚洲av成人精品一区久久| 国产熟女欧美一区二区| 色吧在线观看| 毛片女人毛片| 亚洲av中文字字幕乱码综合| 亚洲熟女精品中文字幕| 97热精品久久久久久| 日日啪夜夜爽| 身体一侧抽搐| 精品久久久久久久久av| 午夜激情福利司机影院| 国产探花极品一区二区| 国产精品av视频在线免费观看| 久久 成人 亚洲| 国产91av在线免费观看| 夜夜看夜夜爽夜夜摸| 日本vs欧美在线观看视频 | 免费黄频网站在线观看国产| 久久久亚洲精品成人影院| 国产精品三级大全| 亚洲成人一二三区av| 久久精品国产亚洲av涩爱| 久久国产乱子免费精品| av国产久精品久网站免费入址| 又爽又黄a免费视频| 久久久久久久久久人人人人人人| 又粗又硬又长又爽又黄的视频| 亚洲精品日本国产第一区| av专区在线播放| 男女边摸边吃奶| 99九九线精品视频在线观看视频| 亚洲美女搞黄在线观看| 身体一侧抽搐| 中国国产av一级| 欧美3d第一页| 色网站视频免费| 国产精品一及| 日本欧美国产在线视频| 亚洲性久久影院| 美女主播在线视频| 亚洲欧美清纯卡通| 精品一品国产午夜福利视频| 日本av免费视频播放| 日日摸夜夜添夜夜爱| 老熟女久久久| 边亲边吃奶的免费视频| 亚洲精品国产成人久久av| 干丝袜人妻中文字幕| 黄色一级大片看看| 自拍欧美九色日韩亚洲蝌蚪91 | 赤兔流量卡办理| 国产精品偷伦视频观看了| 黄色怎么调成土黄色| 亚洲国产成人一精品久久久| 人体艺术视频欧美日本| 伦理电影免费视频| 亚洲美女搞黄在线观看| 国产永久视频网站| 卡戴珊不雅视频在线播放| 亚洲国产精品国产精品| 成人毛片60女人毛片免费| 成人特级av手机在线观看| 韩国高清视频一区二区三区| 国产欧美亚洲国产| 菩萨蛮人人尽说江南好唐韦庄| 夜夜骑夜夜射夜夜干| 男人添女人高潮全过程视频| 日本色播在线视频| 2021少妇久久久久久久久久久| 联通29元200g的流量卡| 国产 一区精品| 卡戴珊不雅视频在线播放| 国产高清三级在线| 日本与韩国留学比较| 啦啦啦中文免费视频观看日本| 亚洲精品乱码久久久v下载方式| 亚洲第一区二区三区不卡| 欧美少妇被猛烈插入视频| 国产精品伦人一区二区| 天堂中文最新版在线下载| 亚洲国产欧美人成| 亚洲精品中文字幕在线视频 | 天天躁夜夜躁狠狠久久av| 丰满迷人的少妇在线观看| 在线亚洲精品国产二区图片欧美 | 看十八女毛片水多多多| 国产精品人妻久久久影院| 一级黄片播放器| 亚洲国产日韩一区二区| 国产精品一及| 亚洲成人一二三区av| 大陆偷拍与自拍| 高清av免费在线| 99热这里只有是精品在线观看| 日韩,欧美,国产一区二区三区| 精品久久久久久电影网| 国产中年淑女户外野战色| 久久精品国产亚洲av涩爱| 日日撸夜夜添| 性色av一级| 亚洲av二区三区四区| 五月玫瑰六月丁香| 欧美 日韩 精品 国产| 国产av码专区亚洲av| 色哟哟·www| 亚洲精品中文字幕在线视频 | 国产极品天堂在线| 插阴视频在线观看视频| 免费看不卡的av| 在线观看一区二区三区| 久久久久精品性色| 国产在线视频一区二区| 国国产精品蜜臀av免费| 国产爽快片一区二区三区| 免费观看在线日韩| 我要看日韩黄色一级片| 涩涩av久久男人的天堂| 免费观看a级毛片全部| 亚洲va在线va天堂va国产| av视频免费观看在线观看| 五月伊人婷婷丁香| 欧美精品亚洲一区二区| 最近中文字幕2019免费版| 久久久精品94久久精品| 欧美高清性xxxxhd video| 91久久精品电影网| 国精品久久久久久国模美| 中文字幕久久专区| 少妇人妻 视频| 国产人妻一区二区三区在| 久久精品国产亚洲av涩爱| 97超视频在线观看视频| 久热久热在线精品观看| 精品人妻偷拍中文字幕| 春色校园在线视频观看| 黄色配什么色好看| 我要看日韩黄色一级片| 精品视频人人做人人爽| 国产成人免费观看mmmm| 男人狂女人下面高潮的视频| 日本黄大片高清| 下体分泌物呈黄色| 色网站视频免费| 舔av片在线| 伊人久久国产一区二区| 一区在线观看完整版| 欧美日韩国产mv在线观看视频 | 91久久精品国产一区二区成人| 成人美女网站在线观看视频| 男女下面进入的视频免费午夜| 老司机影院成人| 久久av网站| 日韩三级伦理在线观看| 亚洲不卡免费看| 大话2 男鬼变身卡| 最后的刺客免费高清国语| 在线播放无遮挡| 亚洲一级一片aⅴ在线观看| 色视频www国产| 全区人妻精品视频| 啦啦啦视频在线资源免费观看| 青春草视频在线免费观看| 少妇丰满av| 久久精品夜色国产| 欧美xxⅹ黑人| 能在线免费看毛片的网站| 人人妻人人看人人澡| 99久久精品热视频| 欧美丝袜亚洲另类| 国产熟女欧美一区二区| 午夜福利视频精品| 精品少妇黑人巨大在线播放| 国国产精品蜜臀av免费| 亚洲第一av免费看| 精品一区二区免费观看| 香蕉精品网在线| 亚洲精品aⅴ在线观看| 卡戴珊不雅视频在线播放| 午夜免费男女啪啪视频观看| 2018国产大陆天天弄谢| 久久久久久久久久久丰满| 日产精品乱码卡一卡2卡三| 我要看黄色一级片免费的| 精品少妇黑人巨大在线播放| 久久影院123| 国产高清三级在线| 美女国产视频在线观看| 18禁动态无遮挡网站| 久久精品人妻少妇| 老司机影院成人| 三级经典国产精品| 久久97久久精品| 成人午夜精彩视频在线观看| 大片电影免费在线观看免费| 久久久久久久亚洲中文字幕| 亚洲国产av新网站| 亚洲精品国产av蜜桃| 纵有疾风起免费观看全集完整版| 91精品伊人久久大香线蕉| 熟女av电影| 五月玫瑰六月丁香| 国产色爽女视频免费观看| 黄片wwwwww| 狂野欧美白嫩少妇大欣赏| 国产有黄有色有爽视频| 日日摸夜夜添夜夜爱| 国产精品人妻久久久久久| 精品一区二区免费观看| 超碰97精品在线观看| 国内少妇人妻偷人精品xxx网站| 午夜老司机福利剧场| 国产精品99久久久久久久久| 国产精品爽爽va在线观看网站| 精品亚洲成a人片在线观看 | 欧美97在线视频| 最黄视频免费看| 午夜激情福利司机影院| 中文字幕av成人在线电影| 亚洲国产最新在线播放| 国产黄片美女视频| 在线观看免费高清a一片| 中国美白少妇内射xxxbb| 日韩av免费高清视频| 中文字幕人妻熟人妻熟丝袜美| 日本av免费视频播放| 久久精品夜色国产| 男女边摸边吃奶| 亚洲av免费高清在线观看| 网址你懂的国产日韩在线| 国产精品女同一区二区软件| 亚洲精华国产精华液的使用体验| av一本久久久久| 欧美97在线视频| 99久久中文字幕三级久久日本| 香蕉精品网在线| 亚洲真实伦在线观看| 乱系列少妇在线播放| 午夜福利在线观看免费完整高清在| 毛片一级片免费看久久久久| 五月开心婷婷网| 久久人人爽av亚洲精品天堂 | 午夜福利视频精品| 久久久久久久久久久免费av| 国产成人免费无遮挡视频| 伦精品一区二区三区| 精品一区在线观看国产| 欧美97在线视频| 中国三级夫妇交换| tube8黄色片| 亚洲综合色惰| 久久精品国产鲁丝片午夜精品| 最黄视频免费看| 亚洲成人一二三区av| freevideosex欧美| a级毛色黄片| 男女边摸边吃奶| 亚洲国产精品成人久久小说| 我的老师免费观看完整版| 午夜老司机福利剧场| 三级经典国产精品| 王馨瑶露胸无遮挡在线观看| av天堂中文字幕网| 久久6这里有精品| 99国产精品免费福利视频| 国产精品爽爽va在线观看网站| 成年女人在线观看亚洲视频| 亚洲内射少妇av| 少妇精品久久久久久久| 菩萨蛮人人尽说江南好唐韦庄| 欧美极品一区二区三区四区| 最黄视频免费看| 极品教师在线视频| 亚洲成人中文字幕在线播放| 久热久热在线精品观看| 欧美bdsm另类| 老熟女久久久| 七月丁香在线播放| 尤物成人国产欧美一区二区三区| 国产成人免费观看mmmm| 99热这里只有是精品50| 一级片'在线观看视频| 成人美女网站在线观看视频| 久久久国产一区二区| 夜夜爽夜夜爽视频| 啦啦啦在线观看免费高清www| 亚洲人成网站高清观看| 大片电影免费在线观看免费| a级一级毛片免费在线观看| 精品久久久久久久久av| 日韩一区二区视频免费看| 亚洲av福利一区| 国产亚洲av片在线观看秒播厂| 亚洲国产精品专区欧美| 国产色爽女视频免费观看| 十分钟在线观看高清视频www | 久久这里有精品视频免费| 一边亲一边摸免费视频| av专区在线播放| 一级a做视频免费观看| 日韩视频在线欧美| 亚洲自偷自拍三级| 国产欧美日韩精品一区二区| 多毛熟女@视频| 在线观看免费视频网站a站| 成人国产av品久久久| 99热6这里只有精品| 亚洲精品亚洲一区二区| 麻豆乱淫一区二区| 街头女战士在线观看网站| 热re99久久精品国产66热6| 国产精品偷伦视频观看了| 美女高潮的动态| 国产精品无大码| 国产精品伦人一区二区| 国内揄拍国产精品人妻在线| 亚洲国产精品国产精品| 日韩中文字幕视频在线看片 | 亚洲高清免费不卡视频| 亚洲成色77777| videossex国产| 老司机影院毛片| 亚洲综合精品二区| 大话2 男鬼变身卡| 久久精品夜色国产| 国产精品无大码| 如何舔出高潮| www.色视频.com| 精品亚洲乱码少妇综合久久| 一级毛片 在线播放| av在线app专区| 七月丁香在线播放| 美女中出高潮动态图| 亚洲内射少妇av| 国产在线男女| 在线观看美女被高潮喷水网站| 免费看光身美女| 免费观看无遮挡的男女| 精品国产一区二区三区久久久樱花 | 日韩欧美精品免费久久| 亚洲成色77777| 18禁裸乳无遮挡免费网站照片| 夜夜看夜夜爽夜夜摸| 日韩亚洲欧美综合| 久久久午夜欧美精品| 啦啦啦啦在线视频资源| 亚洲欧洲国产日韩| 老女人水多毛片| 欧美精品国产亚洲| 欧美变态另类bdsm刘玥| 黄色怎么调成土黄色| 女人久久www免费人成看片| 男男h啪啪无遮挡| 国产男女超爽视频在线观看| 一区二区三区乱码不卡18| 亚洲欧美一区二区三区黑人 | 蜜桃在线观看..| 一级二级三级毛片免费看| 国产一区二区三区综合在线观看 | 中文天堂在线官网| 色视频www国产| 看非洲黑人一级黄片| 老熟女久久久| 大片电影免费在线观看免费| 欧美日本视频| 久久6这里有精品| 成人亚洲欧美一区二区av| 亚洲av免费高清在线观看| 天天躁夜夜躁狠狠久久av| 国产亚洲一区二区精品| 日韩伦理黄色片| 精品亚洲成a人片在线观看 | 九草在线视频观看| 欧美日韩国产mv在线观看视频 | 婷婷色av中文字幕| 久久久成人免费电影| 国产日韩欧美在线精品| 久久久久人妻精品一区果冻| 人妻制服诱惑在线中文字幕| 婷婷色综合www| 亚洲精品aⅴ在线观看| 久久精品国产亚洲网站| 又大又黄又爽视频免费| 亚洲人成网站高清观看| 久久ye,这里只有精品| 亚洲久久久国产精品| 嫩草影院入口| 边亲边吃奶的免费视频| 婷婷色av中文字幕| 亚洲av.av天堂| 亚洲三级黄色毛片| 欧美日韩视频高清一区二区三区二| 十八禁网站网址无遮挡 | 免费黄频网站在线观看国产| a级毛片免费高清观看在线播放| 欧美人与善性xxx| 精品久久久久久久末码| 成人毛片a级毛片在线播放| 午夜激情福利司机影院| 久久精品久久久久久噜噜老黄| 中文在线观看免费www的网站| 国产精品免费大片| 日本黄色日本黄色录像| 高清欧美精品videossex| 男女啪啪激烈高潮av片| 国产午夜精品一二区理论片| 免费大片18禁| 人人妻人人澡人人爽人人夜夜| 毛片女人毛片| 日本与韩国留学比较| 99久久人妻综合| 777米奇影视久久| 熟女av电影| 美女福利国产在线 | 美女内射精品一级片tv| 三级国产精品欧美在线观看| 久久99热6这里只有精品| 搡女人真爽免费视频火全软件| 国产精品麻豆人妻色哟哟久久| 最近最新中文字幕免费大全7| 涩涩av久久男人的天堂| 国产成人91sexporn| 国产亚洲av片在线观看秒播厂| 十分钟在线观看高清视频www | av线在线观看网站| 日本wwww免费看| 精品99又大又爽又粗少妇毛片| 少妇丰满av| 又爽又黄a免费视频| 成人国产麻豆网| 国产精品国产三级国产专区5o| 国产成人精品久久久久久| 国产人妻一区二区三区在| 在线天堂最新版资源| 国产高清有码在线观看视频| 欧美+日韩+精品| 一级二级三级毛片免费看| 日日摸夜夜添夜夜添av毛片| 777米奇影视久久| 精品一品国产午夜福利视频| 日本猛色少妇xxxxx猛交久久| 成人美女网站在线观看视频| 一级毛片电影观看| 国产黄片美女视频| 狂野欧美白嫩少妇大欣赏| 久久精品久久久久久噜噜老黄| 亚洲三级黄色毛片| 丰满迷人的少妇在线观看| 伦精品一区二区三区| 一区二区三区四区激情视频| 久久久久国产网址| 日韩成人av中文字幕在线观看| 欧美+日韩+精品| 青青草视频在线视频观看| 成人午夜精彩视频在线观看| 精品久久国产蜜桃| 国产欧美日韩精品一区二区| 夫妻午夜视频| 国产伦精品一区二区三区四那| 免费av中文字幕在线| 午夜免费观看性视频| a级毛片免费高清观看在线播放| 午夜免费观看性视频| 激情五月婷婷亚洲| 国产精品不卡视频一区二区| 搡老乐熟女国产| 91狼人影院| 日本爱情动作片www.在线观看| 国产精品一区二区三区四区免费观看| 国产高清有码在线观看视频| 精品酒店卫生间| 91精品国产国语对白视频| 国产精品一区二区在线观看99| 插阴视频在线观看视频| 亚洲国产高清在线一区二区三| 2021少妇久久久久久久久久久| 在线看a的网站| 亚洲精品第二区| 亚洲怡红院男人天堂| 国产精品国产av在线观看| 好男人视频免费观看在线| 亚洲一区二区三区欧美精品| av黄色大香蕉| 成人18禁高潮啪啪吃奶动态图 | 99热这里只有是精品50| 欧美另类一区| 国产精品99久久久久久久久| 国产午夜精品久久久久久一区二区三区| 欧美一区二区亚洲| 18+在线观看网站| 成人18禁高潮啪啪吃奶动态图 | 亚洲av中文av极速乱| 欧美xxxx性猛交bbbb| 久久国产乱子免费精品| 97在线人人人人妻| 99久久中文字幕三级久久日本| 在线观看一区二区三区激情| 日韩三级伦理在线观看| 黄色欧美视频在线观看| 夫妻午夜视频| 久久av网站| 免费观看无遮挡的男女| 插逼视频在线观看| 国产精品爽爽va在线观看网站| 赤兔流量卡办理| 欧美性感艳星| 女人久久www免费人成看片| 亚洲综合精品二区| 国产高潮美女av| 三级国产精品片| 五月伊人婷婷丁香| 新久久久久国产一级毛片| 欧美精品国产亚洲| 欧美高清成人免费视频www| 久久青草综合色| 精品国产露脸久久av麻豆| 日韩 亚洲 欧美在线| 国产精品无大码| 纯流量卡能插随身wifi吗| 99热网站在线观看| 亚洲三级黄色毛片| 天堂8中文在线网| 最近中文字幕2019免费版| 成人二区视频| 国国产精品蜜臀av免费| 九九在线视频观看精品| 国产一级毛片在线| 麻豆国产97在线/欧美| 国产精品一区二区在线观看99| 日本黄色片子视频| 亚洲内射少妇av| 欧美日韩综合久久久久久| 免费看日本二区| 欧美国产精品一级二级三级 | 亚州av有码| 少妇高潮的动态图| 在线免费观看不下载黄p国产| 97超视频在线观看视频| 精品酒店卫生间| 99热这里只有是精品在线观看| 啦啦啦在线观看免费高清www| 亚洲成色77777| 男人狂女人下面高潮的视频| 97在线视频观看| 天堂中文最新版在线下载| 亚洲美女搞黄在线观看| 免费大片18禁| 久久热精品热| 国产亚洲av片在线观看秒播厂| 免费观看无遮挡的男女| 免费人妻精品一区二区三区视频|