• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于云計算的電力系統(tǒng)計算分析平臺構(gòu)建

    2022-09-02 09:09:58蘇寅生周挺輝鄭外生趙利剛甄鴻越黃冠標
    南方電網(wǎng)技術(shù) 2022年7期
    關(guān)鍵詞:集群用戶分析

    蘇寅生,周挺輝,鄭外生,趙利剛,甄鴻越,黃冠標

    (1. 中國南方電網(wǎng)電力調(diào)度控制中心,廣州510663;2. 直流輸電技術(shù)國家重點實驗室(南方電網(wǎng)科學研究院),廣州510663;3. 中國南方電網(wǎng)有限責任公司,廣州510663)

    0 引言

    電力系統(tǒng)建模與仿真分析是支持大電網(wǎng)安全穩(wěn)定運行的重要技術(shù)基礎(chǔ),南方電網(wǎng)在多年的規(guī)劃運行中應(yīng)用多種計算分析工具,開展了穩(wěn)態(tài)分析、動態(tài)分析、暫態(tài)分析等多類型的仿真計算。但隨著大量分布式新能源的接入以及系統(tǒng)建模的精細化[1]、控制系統(tǒng)的復(fù)雜化[2]、系統(tǒng)規(guī)模的不斷擴大[3],仿真效率將急劇降低,當前單人單機的仿真模式已經(jīng)無法滿足日益增長的仿真需求。

    在國內(nèi),國家電網(wǎng)公司首先于2015年構(gòu)建新一代特高壓交直流電網(wǎng)仿真平臺,核心仿真分析平臺為部署于中國電科院的超算平臺。超算平臺承載著超級并行計算和仿真計算核心程序,并以網(wǎng)絡(luò)方式對外提供計算服務(wù),另外通過協(xié)同計算平臺提供異地計算能力,滿足大批量故障任務(wù)并行批處理[4 - 5]。

    相對而言,南方電網(wǎng)公司在基于云計算共享的電力系統(tǒng)計算分析平臺方面起步較晚,仍主要采用傳統(tǒng)的工作模式,未能充分利用先進的高性能計算和智能化處理技術(shù)。另一方面,南方電網(wǎng)總調(diào)為解決傳統(tǒng)集中式架構(gòu)中的諸多問題,因地制宜地提出了兼顧性能與安全性的分布式解決方案,實現(xiàn)了從集中式架構(gòu)轉(zhuǎn)變?yōu)榉植际郊軜?gòu)的轉(zhuǎn)變,以數(shù)字化、智能化代替了傳統(tǒng)的“煙囪”設(shè)計。依托阿里私有云構(gòu)建了電力行業(yè)第一個完全基于互聯(lián)網(wǎng)新技術(shù)的調(diào)度自動化系統(tǒng)基礎(chǔ)平臺[6]。

    基于上述挑戰(zhàn)和機遇,本文以南方電網(wǎng)總調(diào)分布式底層平臺為依托,提出了基于現(xiàn)代互聯(lián)網(wǎng)新技術(shù)的電力系統(tǒng)計算分析平臺。異于傳統(tǒng)超算平臺自研管理及調(diào)度系統(tǒng)管理刀片機的做法,本文以當前互聯(lián)網(wǎng)領(lǐng)先的Kubernetes集群管理系統(tǒng)及Docker容器化部署技術(shù)為基礎(chǔ),對基于云計算共享的電力系統(tǒng)計算分析平臺進行探索,提出了可實時動態(tài)擴展的集群系統(tǒng)架構(gòu),構(gòu)建了高效、可靠、綠色的共享計算平臺和協(xié)同工作平臺,并與傳統(tǒng)的計算結(jié)果進行比對,驗證該平臺的準確性、可靠性及效率。

    1 計算分析平臺的需求分析

    在電力系統(tǒng)計算分析方面,南方電網(wǎng)各級調(diào)度、規(guī)劃部門傳統(tǒng)的計算模式在數(shù)據(jù)準備、執(zhí)行仿真、結(jié)果處理等各階段均需大量人工操作,而且耗時較長,電網(wǎng)仿真分析的并行化和自動化程度較低,與現(xiàn)代計算機發(fā)展脫節(jié)。此外,在大電網(wǎng)的大量計算分析中涉及的電網(wǎng)運行方式眾多,但目前僅主要關(guān)注電網(wǎng)的穩(wěn)定性結(jié)論,對于大量的有價值的計算過程信息并沒有進行有效地存儲和分析,可能對后續(xù)分析工作造成不利影響。此外,隨著新型電力系統(tǒng)的發(fā)展,未來將有較多的新能源進行接入,新能源的隨機性、波動性、間歇性使得發(fā)電計劃的不確定性大幅增加,傳統(tǒng)的典型工況(豐大、豐小、枯大、枯小)難以覆蓋新能源電力系統(tǒng)的運行狀態(tài)。未來將會構(gòu)建海量的運行方式進行仿真計算,即便進行了典型運行方式的辯識,動輒還需要數(shù)十上百個運行方式的計算。在未來找到合理的安全邊界解析方法大量縮減運行方式數(shù)量前,為保障系統(tǒng)的安全穩(wěn)定性,對大量運行方式的計算是較為可靠的方法之一。面對比當前增加十多倍工作量的計算,傳統(tǒng)的單機或單機多核計算在效率上已經(jīng)捉襟見肘。另一方面,國家電網(wǎng)的超算中心仿真平臺的研發(fā)已經(jīng)證明了,開發(fā)一套集中管理式的電力系統(tǒng)計算分析平臺經(jīng)濟社會價值意義重大,可為提升電網(wǎng)分析水平提供強有力支撐。

    為支撐電網(wǎng)的安全穩(wěn)定運行,實行數(shù)字電網(wǎng)推動構(gòu)建新型電力系統(tǒng)[7],本文所開發(fā)的平臺應(yīng)具備如下功能。

    1)承載電力系統(tǒng)主要分析功能的核心程序,包括但不限于潮流、機電暫態(tài)、短路計算、交直流相互影響分析等[8]。上述程序以網(wǎng)絡(luò)的形式對外提供服務(wù),可滿足用戶大批量故障任務(wù)的并行批處理。另一方面可實現(xiàn)復(fù)雜單一故障的并行計算,例如電力系統(tǒng)安全穩(wěn)定導(dǎo)則(2019年版)[9]新增的機電-電磁暫態(tài)混合仿真需求,為電網(wǎng)運行分析提供高效、精確的仿真能力。

    2)具備滿足各級規(guī)劃、調(diào)度人員開展異地聯(lián)合計算分析的功能,包括但不限于計算編輯、計算設(shè)置、單任務(wù)計算、批處理任務(wù)提交、結(jié)果分析等。實現(xiàn)不同層級用戶的并發(fā)、協(xié)同使用需求,最終實現(xiàn)網(wǎng)、省、地計算業(yè)務(wù)的底層資源共享和一體化管理。

    3)具備價值信息的存儲與回溯能力。對于大量有價值的計算過程與結(jié)果信息,一方面通過友好界面為初始用戶提供決策信息,另一方面通過集中式的儲存,為日后發(fā)展人工智能學習、大數(shù)據(jù)挖掘提供充分的歷史信息。

    2 關(guān)鍵技術(shù)與技術(shù)難點

    計算分析平臺構(gòu)建關(guān)鍵點有3個:高效、可靠以及綠色。高效即計算速度要快,能在盡量短的時間內(nèi)完成用戶的計算;可靠即系統(tǒng)的安全性高,在平臺部分故障的情況下依然不中斷服務(wù);綠色即節(jié)能,盡量減少資源的占用和閑置浪費。

    基于現(xiàn)代計算機的發(fā)展,高效以及可靠完全可以依靠堆砌硬件予以實現(xiàn),通過聯(lián)合部署眾多的多核計算機、服務(wù)器等,近年來涌現(xiàn)了多種技術(shù)方案[10 - 13],提供數(shù)百核乃至數(shù)萬核進行并行計算。然而電力系統(tǒng)的仿真計算閑時忙時特征尤其明顯,在年度方式、迎峰度夏期間,計算需求將明顯倍增,平時十倍、數(shù)十倍的計算需求將沖擊計算平臺。為了應(yīng)付在這期間的高并發(fā)需求,需要底層硬件平臺需提供足夠的算力,不得不部署大量的底層計算機。但峰值過后,大量的閑置計算機又造成了資源的浪費,不符合綠色的特點。同時,如何對眾多的計算節(jié)點進行有效地管理,提供不間斷的運行服務(wù),也是重點之一。

    為實現(xiàn)上述的關(guān)鍵點,既能夠高可靠性地滿足用戶的使用需求,同時又不造成資源的浪費,是計算分析平臺的技術(shù)難點。為此,本文從技術(shù)選型、系統(tǒng)設(shè)計等方法進行了綜合考慮。通過對現(xiàn)代的計算機技術(shù)的綜合比較,結(jié)合互聯(lián)網(wǎng)開發(fā)的前沿技術(shù),提出了基于云平臺的可實時動態(tài)擴展的集群系統(tǒng)架構(gòu)。該架構(gòu)實現(xiàn)了從傳統(tǒng)單體應(yīng)用向微服務(wù)化的轉(zhuǎn)變,將數(shù)據(jù)管理、計算服務(wù)、統(tǒng)計服務(wù)、歸檔服務(wù)進行了解耦與隔離。去中心化的設(shè)計帶來了更高的可用性和彈性、松耦合也便于各個服務(wù)的獨立升級維護,并阻止了可能的系統(tǒng)故障蔓延。該部分在第3節(jié)進行了探索。通過彈性擴展的系統(tǒng)設(shè)計共享調(diào)度云數(shù)萬核心的資源池,從硬件、軟件等多層次實現(xiàn)了資源的共享,為用戶提供了高性能計算服務(wù)的同時,最大限度地減少了資源的占用,實現(xiàn)對硬件的綠色使用。

    3 計算分析平臺技術(shù)路線

    3.1 基礎(chǔ)硬件平臺選型

    自1983年中國首臺超算銀河一號研制成功后,國內(nèi)超算已有近40年的發(fā)展歷史,并成為了國家科技發(fā)展水平和綜合國力的標志之一。而在2006年亞馬遜云服務(wù)Amazon Web Services (AWS)對外公開使用,2010年阿里云正式對外運營,云服務(wù)不過才10余年的歷史;但云服務(wù)的飛速發(fā)展,甚至讓傳統(tǒng)超算也形成了“云超算”的發(fā)展趨勢,表1展示了二者的對比情況[14]。

    表1 傳統(tǒng)超算與現(xiàn)代云服務(wù)的對比Tab.1 Comparison between traditional supercomputing and modern cloud services

    基于上述的特點對比,為滿足電力系統(tǒng)計算分析平臺的共享性、爆發(fā)性需求,本文采用了云服務(wù)的技術(shù)路線,以南方電網(wǎng)總調(diào)的調(diào)度云平臺為依托而建設(shè)。該平臺是南方電網(wǎng)總調(diào)聯(lián)合阿里企業(yè)云建設(shè)的分布式解決方案。截至目前為止,SCADA 系統(tǒng)、電力現(xiàn)貨交易系統(tǒng)、電網(wǎng)負荷預(yù)測等一系列核心應(yīng)用系統(tǒng)均已完成了云平臺的改造和部署,解決了傳統(tǒng)系統(tǒng)負載集中、應(yīng)用受單個服務(wù)器性能限制的問題,大大降低了原有應(yīng)用的響應(yīng)時間、提升了應(yīng)用的運行效率。

    3.2 Kubernetes集群管理系統(tǒng)

    為保障本文所述平臺的高效及可靠性,核心系統(tǒng)采用了工業(yè)級的Kubernetes(簡稱K8s)集群管理系統(tǒng)及Docker容器化部署技術(shù),提高平臺的可用性及靈活擴展特性[15 - 17]。Docker是一個應(yīng)用容器引擎,讓開發(fā)者可以應(yīng)用以及依賴包到一個可移植的容器中,在一臺機器上瞬間創(chuàng)建幾十個相同的或不同的應(yīng)用,且相互之間使用沙箱機制進行隔離,不會出現(xiàn)相互干擾。而K8s是開源的容器集群管理系統(tǒng),可以實現(xiàn)docker容器集群的自動化部署、自動擴縮容、維護等功能[18]。如圖1所示,通過一系列的組件提供了容器編排、調(diào)度的服務(wù),為容器化的應(yīng)用提供部署運行、資源調(diào)度、服務(wù)發(fā)現(xiàn)和動態(tài)伸縮等功能,提高了大規(guī)模容器集群管理的便捷性,為當前基于容器技術(shù)的分布式架構(gòu)領(lǐng)先方案。

    圖1 K8s集群組件示意圖Fig.1 Component diagram of K8s cluster

    Kubernetes在當前互聯(lián)網(wǎng)領(lǐng)域得到了廣泛的應(yīng)用。京東早在2016年年底上線了京東新一代容器引擎平臺JDOS2.0,成功從Openstack切換到JDOS2.0的Kubernetes技術(shù)棧[19]。2018年,阿里巴巴將核心控制系統(tǒng)Sigma 重新設(shè)計并遷移成兼容 K8s API,至2019年多數(shù)應(yīng)用都在K8s上運行,并成功應(yīng)對了2019年的“雙11”購物節(jié)[20]。該管理系統(tǒng)已在事實上成為了現(xiàn)代互聯(lián)網(wǎng)系統(tǒng)管理大規(guī)模并發(fā)的主流解決方案。

    3.3 平臺架構(gòu)說明

    確定了以上的核心技術(shù)選型后,本文計算分析平臺服務(wù)器端調(diào)用了總調(diào)調(diào)度云(阿里私有企業(yè)云)的對象存儲(object storage service,OSS)組件、鍵值數(shù)據(jù)庫組件(remote dictionary server, Redis)、消息中間件(rocket message queue, RocketMQ)、企業(yè)級分布式應(yīng)用服務(wù)(enterprise distributed application service,EDAS)、K8s集群管理系統(tǒng);用戶采用客戶端或瀏覽器進行訪問,客戶端沿用南網(wǎng)科研院自主研發(fā)的計算分析軟件(dynamic simulation program,DSP)戶端并進行了適當?shù)母脑?,瀏覽器版本則與客戶端系統(tǒng)架構(gòu)采用共同的后臺服務(wù)。本文以客戶端為例,整體方案如圖2所示。

    平臺架構(gòu)以K8s集群為核心,運行主要的調(diào)配及處理、計算服務(wù);阿里云RocketMQ作為消息中間件,作為各個服務(wù)間的傳遞觸發(fā)載體與緩沖;對象存儲OSS作為數(shù)據(jù)的存儲空間;數(shù)據(jù)庫Redis作為高速緩存以及任務(wù)隊列。企業(yè)級分布式應(yīng)用服務(wù)EDAS與負載均衡(server load balancer,SLB)相互配合,為用戶提供高可靠性的網(wǎng)絡(luò)服務(wù)。

    圖2 系統(tǒng)架構(gòu)示意圖Fig.2 System architecture diagram

    以電力系統(tǒng)最常規(guī)的機電暫態(tài)仿真批處理為例,說明上述平臺的運作流程。用戶提交數(shù)據(jù)后(可為用戶主動提交的任務(wù),或由其他系統(tǒng)推送),產(chǎn)生了以下的動作。

    1)網(wǎng)絡(luò)請求通過SLB負載均衡及EDAS后,通過反向代理獲得其中可用的其中一個Tomcat服務(wù)器;服務(wù)器收到請求后,將數(shù)據(jù)存入OSS存儲區(qū),并向消息中間件RocketMQ的“待計算”隊列生成消息,向高速緩存Redis標記該任務(wù)為“未完成”。

    2)運行于K8s的“調(diào)配服務(wù)”訂閱了RocketMQ的“待計算”隊列,一旦隊列非空,則消費收到的消息:一方面分析計算任務(wù)請求,將具體的計算任務(wù)(例如100個機電暫態(tài)仿真子任務(wù))形成隊列存入Redis高速緩存;隨后啟動“計算服務(wù)”,下達指令給集群中的各個Worker計算節(jié)點,讓其啟動服務(wù);同時對計算服務(wù)進行監(jiān)控,根據(jù)不同的狀態(tài)執(zhí)行不同的操作。

    (1)待計算隊列已空、且無任務(wù)計算失敗,則認為計算已成功完成,停止“調(diào)配服務(wù)”,并向RocketMQ的“待處理”隊列生產(chǎn)消息;

    (2)待計算隊列已空、但有任務(wù)計算失敗,則認為任務(wù)計算已不正常完成;重新計算失敗的任務(wù),若重試N次(例如2次)仍無法成功,則停止“調(diào)配服務(wù)”,并向RocketMQ的“待處理”隊列生成消息。

    3)運行于K8s的“計算服務(wù)”,受到“調(diào)配服務(wù)”控制。啟動時將在各個計算節(jié)點同時啟動多個計算應(yīng)用(Pod),根據(jù)“調(diào)配服務(wù)”的指令從本地(若有)或服務(wù)器下載計算核心引擎鏡像,從OSS下載計算數(shù)據(jù),每個Pod從Redis高速緩存中取當前任務(wù)的子任務(wù)(例如,其中一個故障的機電暫態(tài)仿真)進行計算,成功執(zhí)行后數(shù)據(jù)存回OSS。

    4)運行于K8s的“處理服務(wù)”訂閱了RocketMQ的“待處理”隊列,觸發(fā)后從OSS下載數(shù)據(jù),對各個獨立的子任務(wù)結(jié)果進行統(tǒng)計,形成匯總表;隨后向高速緩存Redis修改該任務(wù)為“已完成”。

    5)用戶定時或手動詢問某個任務(wù)是否完成,若已完成則通過Tomcat返回匯總表和/或結(jié)果數(shù)據(jù)。用戶通過客戶端或者瀏覽器對結(jié)果進行查看。

    4 可靠性設(shè)計

    計算分析平臺的核心思想是云共享,將支撐總調(diào)、中調(diào)及地調(diào)各層面的計算分析需求等,滿足各級調(diào)度人員異地聯(lián)合高效開展各類日常運行方式計算工作,對可靠性提出了極高的要求。雖然當前計算機技術(shù)已經(jīng)對可靠性進行了極大的保障,但實際中仍存在節(jié)點失效不可用的情況。比如,由于安全漏洞、硬件故障或者設(shè)備斷電、計劃維護等問題,導(dǎo)致某些承載機重啟或下線。平臺需保證在上述意外情況下,降低不良影響,保證高可靠性。為此,平臺設(shè)計了多層防護措施。

    4.1 高可靠組件

    平臺全部采用阿里云成熟的工業(yè)級產(chǎn)品,包括但不限于儲存、集群、數(shù)據(jù)庫、消息中間件等。上述組件由阿里云、云原生計算基金(cloud native computing foundation, CNCF)、Apache軟件基金會等廠家和開源基金會進行維護和升級,從底層上確保平臺組件的高可靠性。

    4.2 冗余設(shè)計

    平臺的核心程序均運行于K8s集群上,K8s集群是本平臺的核心部分。為保障其可用性,K8s集群采用了3.Master+N.Worker(3主機N從機)設(shè)計,如圖3所示[21]。

    主服務(wù)器Master采用了3臺服務(wù)器集群的形式,只要有任意一臺服務(wù)器正常使用,平臺即可正常地提供控制服務(wù)。計算節(jié)點采用N個Worker的形式,即使其中部分的服務(wù)器不可用,僅造成算力的下降,僅在平臺極高負載率的情況下對計算效率有輕微的影響,不會影響平臺的正常使用,且隨時可以通過增加Worker的形式以恢復(fù)甚至增強平臺的算力。

    圖3 K8s高可用性集群Fig.3 K8s high availability cluster

    對用戶的接口服務(wù)器采用了SLB負載均衡和EADS企業(yè)級分布式應(yīng)用服務(wù),多層負載均衡服務(wù)可以保障平臺應(yīng)對高用戶并發(fā)時的處理能力。從架構(gòu)上支持多個集群的冗余和Tomcat應(yīng)用的多實例,只要在整個平臺中有其中任意一個Tomcat服務(wù)正常,即可提供有效的網(wǎng)絡(luò)服務(wù)。同時,多個Tomcat實例也有效地降低了多用戶高并發(fā)時的壓力。

    Redis數(shù)據(jù)庫采用了主從設(shè)計,主服務(wù)器不可用時,從服務(wù)器自動切換為主服務(wù)器,不間斷地提供服務(wù)。

    通過上述的保證措施,實現(xiàn)了任意組件的其中一個節(jié)點(“N-1”)乃至更多節(jié)點(“N-2”)情況下,平臺仍能在用戶無感知的情況下平穩(wěn)運行。

    4.3 容錯及自愈特性

    通過冗余設(shè)計,本平臺可以有效應(yīng)對某個組件部分崩潰的問題。但為以防萬一組件發(fā)生全面崩潰,或設(shè)計中引入了未知的BUG,在設(shè)計中采取了多種措施以避免任務(wù)計算失敗、故障持續(xù)。

    1)看門狗策略:調(diào)配服務(wù)設(shè)立超時機制,單個計算任務(wù)設(shè)置了超時時間,提供重啟策略及限制重啟次數(shù)。在努力對用戶的任務(wù)進行計算的同時,也考慮了用戶數(shù)據(jù)有誤造成計算失敗的問題,對各個任務(wù)實現(xiàn)了隔離,避免了故障的蔓延。

    2)自動驅(qū)逐及恢復(fù)策略:基于K8s集群策略,限制了單一應(yīng)用的CPU、內(nèi)存等占用的上限。一旦應(yīng)用發(fā)生異常造成資源消耗過大,管理系統(tǒng)將驅(qū)逐異常應(yīng)用并進行重構(gòu),以恢復(fù)應(yīng)用的正常運行。

    3)組件崩潰的備份重構(gòu)策略:各個組件間提供備份重構(gòu)的方案。例如,若K8s集群整體發(fā)生了崩潰,在集群重新上線或存在備用集群時,調(diào)配服務(wù)可從高速緩存Redis和消息中間件RocketMQ重啟未計算的任務(wù)、部分計算任務(wù)中未完成的子任務(wù);若RocketMQ或Redis不可用,待平臺組件恢復(fù)正常后或存在備用集群時,可從OSS存儲中恢復(fù)RocketMQ和Redis緩存。

    平臺的最終保障為OSS存儲,即相當于計算機的硬盤。當OSS存儲損壞時,本系統(tǒng)才發(fā)生不可逆轉(zhuǎn)的數(shù)據(jù)損失。根據(jù)平臺設(shè)計,OSS存儲可以開啟本地的冗余以及異地備份,基本難以發(fā)生全面崩潰的情況。根據(jù)阿里云的官方數(shù)據(jù),數(shù)據(jù)安全可靠性為99.999 999 999%(11個9)。

    用戶成功提交了計算任務(wù)后,平臺將通過上述多項措施保證任務(wù)的正常執(zhí)行。

    5 高效、協(xié)同設(shè)計

    計算分析平臺的最終目標是供網(wǎng)、省、地三級調(diào)度系統(tǒng)人員進行使用,平時狀態(tài)下一般用于日常的方式計算安排等,同時在線用戶數(shù)較少;但在迎峰度夏、年度方式等場景下,將在短時間內(nèi)產(chǎn)生爆發(fā)性的計算需求。為應(yīng)對大規(guī)模使用時的高并發(fā)高負載,同時避免堆疊硬件資源造成的閑時資源浪費,平臺設(shè)計了多種效率提升和共享方案。

    5.1 可彈性擴展的硬件資源

    核心計算K8s集群采用了圖3的3.Master+ N.Worker設(shè)計,其中每個Worker均由南網(wǎng)調(diào)度云平臺的硬件資源池模擬,可以提供8~64核甚至更多的虛擬CPU核資源。集群的硬件資源并不獨享,而是共享調(diào)度云數(shù)萬節(jié)點的海量計算資源。在有需要的情況下,可將單個Worker的資源擴展至64核以上;或是將Worker的數(shù)目擴展至二三十臺及以上,最終實現(xiàn)超過數(shù)千核心的計算平臺。在平臺負載壓力不大的情況下,可及時釋放硬件資源。該設(shè)計可充分利用資源池的優(yōu)勢,既保證了忙時的效率,又減少了閑時資源的浪費。

    5.2 共享的軟件資源池

    核心計算K8s集群可實現(xiàn)與其他應(yīng)用系統(tǒng)的共享。多個應(yīng)用間通過命名空間實現(xiàn)資源隔離,具體的資源使用可由管理員進行單獨控制或者由集群自行管控,實現(xiàn)基于云計算的共享特性。

    5.3 用戶間的負載均衡

    平臺設(shè)計了平衡用戶間任務(wù)的調(diào)配服務(wù),避免單個用戶不合理地搶占資源、由于計算任務(wù)的堆積對其他用戶的請求產(chǎn)生延遲響應(yīng)。例如,僅有1個用戶使用時,其將可以動用所有的計算核心;但當在線用戶數(shù)M大于1時,其可動用的核心將調(diào)減為所有核心的1/M個,同時將每個用戶的同時運行任務(wù)數(shù)調(diào)整為1。

    該調(diào)整是動態(tài)實現(xiàn)的,執(zhí)行中若出現(xiàn)超過占用超過1/M的核心時,平臺提供多種策略予以調(diào)整:1)立刻終止超過1/M的計算子任務(wù),資源調(diào)配給其他用戶。被終止的子任務(wù)將在該用戶的其他子任務(wù)執(zhí)行完成后重啟。2)不立刻終止,等待計算中的子任務(wù)執(zhí)行完成后釋放。

    上述的策略可以保障用戶間較為“均勻”地使用了集群的計算核心,但為了避免過多用戶同時運行時,所有人的等待時間過長,又設(shè)計了單用戶的最低占用核心數(shù),限制同時運行的任務(wù)數(shù),實行任務(wù)強行排隊,以避免單個用戶等待時間過長。

    上述的效率提升方案在本平臺中綜合利用,在可預(yù)見的計算任務(wù)爆發(fā)前,由管理人員手動地增加硬件資源,調(diào)整Woker的核心及數(shù)量,以實現(xiàn)平臺的擴容,該調(diào)整在幾分鐘內(nèi)即可實現(xiàn);在資源池有熱備用機器的情況下,甚至在10 s以內(nèi)即可實現(xiàn)調(diào)整。對于用戶間的負載調(diào)整,將由平臺自動實時地實現(xiàn),無需管理人員的介入。

    6 案例測試

    本平臺已于2021年5月份在測試環(huán)境中上線部署,并采用了南方電網(wǎng)月度數(shù)據(jù)對平臺進行了測試。在測試階段,采用了3.Master+10.Worker的硬件資源,單個Worker提供16核心的計算能力,總計160核心。

    6.1 正確性測試

    本文所指的正確性是指采用本平臺計算與常規(guī)單機計算的差別,而非核心計算引擎本身計算正確與否。經(jīng)過潮流、機電暫態(tài)仿真、短路電流計算等場景的測試,基于平臺計算及常規(guī)的單機計算完全一致,曲線完全重合,如圖4所示。

    圖4 常規(guī)計算與集群計算結(jié)果對比Fig.4 Comparison between conventional calculation and cluster calculation

    6.2 可靠性測試

    1)集群崩潰測試

    在仿真過程中,手動關(guān)閉所有K8s集群Master服務(wù)器,再重新啟動。測試中,包括“容錯服務(wù)”、“調(diào)配服務(wù)”等正常地重新啟動,并將未執(zhí)行或未執(zhí)行完成的任務(wù)重新進行計算。

    2)RocketMQ消息丟失測試

    在仿真過程中,通過偽造的客戶端直接消費了“待計算”隊列中的消息,以造成正常的調(diào)配服務(wù)無法正常獲取消息。測試結(jié)果為,定時掃描的“容錯服務(wù)”發(fā)現(xiàn)在OSS中該任務(wù)超時未完成,且不在“待計算”、“待處理”隊伍中,即對該任務(wù)生產(chǎn)“待計算”消息;后續(xù)按照正常的流程執(zhí)行完畢。

    6.3 效率測試

    采用南方電網(wǎng)2021年6月份的月度方式數(shù)據(jù),對其主網(wǎng)層的320個N-1故障進行仿真。常規(guī)的單核計算下,需要耗時超過145 min;在本平臺中,通過配置更改并行數(shù)為1~160個,其計算耗時及加速比如圖5及表2所示。其中加速比定義為串行執(zhí)行時間除以并行執(zhí)行時間。

    圖5 集群并行效果測試Fig.5 Cluster parallel effect test

    表2 并行效率測試Tab.2 Parallel efficiency test

    加速比隨著核心數(shù)及并行度的提升,基本呈現(xiàn)出線性的提升。在提供160核心的情況下,僅需要68 s左右就完成了傳統(tǒng)情況下2.5 h的計算任務(wù),加速比高達128??紤]到任務(wù)調(diào)度的延時,該數(shù)值已接近理論最優(yōu)值。

    上述結(jié)果說明了計算平臺具有極其優(yōu)越的仿真效率,可以有效地提升新型電力系統(tǒng)大規(guī)模新能源接入后的仿真速度,將某個方式多個故障的仿真耗時縮短至單個故障的仿真耗時,實現(xiàn)傳統(tǒng)離線仿真工具的在線部署,實現(xiàn)從科研工具向生產(chǎn)工具的轉(zhuǎn)變。

    6.4 結(jié)果展示

    計算結(jié)果在OSS存儲中進行了歸檔,可長期存放用于未來的大數(shù)據(jù)挖掘、人工智能學習素材等。其可以通過豐富的形式予以展示,例如微軟PowerBI或者阿里云QuickBI等,以及在線查看的報表、地理接線圖等。為對接傳統(tǒng)業(yè)務(wù),針對當前大批量使用的機電暫態(tài)批量掃描,提供了客戶端形式、瀏覽器形式的展示界面,如圖6所示。二者共用后端服務(wù),可適應(yīng)不同的場合。

    圖6 展示界面示意圖Fig.6 User interface diagram

    7 結(jié)語

    為了解決新型電力系統(tǒng)大量新能源接入后的仿真效率問題,本文提出了基于云計算共享的電力系統(tǒng)計算分析平臺建設(shè)方案,并對該方案的技術(shù)選型、架構(gòu)設(shè)計進行了詳細的闡述。平臺以當前互聯(lián)網(wǎng)領(lǐng)先的Kubernetes集群管理系統(tǒng)及Docker容器化部署技術(shù)為基礎(chǔ),計算分析平臺進行探索,提出了可實時動態(tài)擴展的集群系統(tǒng)架構(gòu),構(gòu)建了高效、可靠、綠色的共享計算平臺。測試效果表明,在底層硬件資源足夠的前提下,效率提升已接近理論最優(yōu)值上限,可將單個甚至多個方式多個故障的仿真耗時縮短至單個故障的仿真耗時,為新型電力系統(tǒng)海量運行方式的計算仿真提供了強力的工具支撐。

    基于本文所建設(shè)的平臺,可為大電網(wǎng)仿真提供海量任務(wù)的快速并行計算分析和遠程云計算服務(wù),滿足總調(diào)、中調(diào)及地調(diào)各層面以及其他應(yīng)用系統(tǒng)的計算分析需求。同時,在線計算為閉環(huán)的數(shù)據(jù)管控、共享的數(shù)據(jù)管理提供了基礎(chǔ)分析工具,為其他應(yīng)用系統(tǒng)提供了可靠、高效的計算服務(wù)?;谠朴嬎愎蚕淼碾娏ο到y(tǒng)計算分析平臺與另行建設(shè)的共享數(shù)據(jù)管理平臺,將在互聯(lián)網(wǎng)新技術(shù)的協(xié)助下,全面提升對電網(wǎng)的把握能力,保障新型電力系統(tǒng)的安全可靠運行。

    猜你喜歡
    集群用戶分析
    隱蔽失效適航要求符合性驗證分析
    海上小型無人機集群的反制裝備需求與應(yīng)對之策研究
    電力系統(tǒng)不平衡分析
    電子制作(2018年18期)2018-11-14 01:48:24
    一種無人機集群發(fā)射回收裝置的控制系統(tǒng)設(shè)計
    電子制作(2018年11期)2018-08-04 03:25:40
    Python與Spark集群在收費數(shù)據(jù)分析中的應(yīng)用
    勤快又呆萌的集群機器人
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    電力系統(tǒng)及其自動化發(fā)展趨勢分析
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    亚洲熟女精品中文字幕| 久久久久视频综合| 免费不卡的大黄色大毛片视频在线观看| 丰满迷人的少妇在线观看| 日韩欧美精品免费久久| 永久免费av网站大全| 国产精品无大码| 男女边吃奶边做爰视频| 老司机亚洲免费影院| 999精品在线视频| 精品一品国产午夜福利视频| 免费av不卡在线播放| 国产精品一国产av| 日韩成人av中文字幕在线观看| 国产黄色视频一区二区在线观看| 日韩一区二区视频免费看| 国产熟女欧美一区二区| 女人精品久久久久毛片| 国产成人a∨麻豆精品| 欧美丝袜亚洲另类| 熟女av电影| 美女大奶头黄色视频| 国产一区亚洲一区在线观看| 一本一本综合久久| 夜夜爽夜夜爽视频| 成人毛片a级毛片在线播放| av福利片在线| 校园人妻丝袜中文字幕| 日本黄色片子视频| 十八禁网站网址无遮挡| 久久精品久久久久久噜噜老黄| 天堂8中文在线网| 亚洲精品第二区| 亚洲三级黄色毛片| 男女啪啪激烈高潮av片| 亚洲av电影在线观看一区二区三区| 欧美日韩av久久| 亚洲少妇的诱惑av| 成年美女黄网站色视频大全免费 | 丝袜脚勾引网站| 99热这里只有精品一区| 欧美97在线视频| 欧美最新免费一区二区三区| 日韩av不卡免费在线播放| 日韩精品有码人妻一区| 午夜91福利影院| 亚洲图色成人| 国产熟女欧美一区二区| √禁漫天堂资源中文www| 国产老妇伦熟女老妇高清| 免费黄频网站在线观看国产| 插逼视频在线观看| 欧美精品国产亚洲| 久久精品夜色国产| 国产精品99久久久久久久久| 国产一区二区在线观看日韩| 性色avwww在线观看| 极品少妇高潮喷水抽搐| 99国产综合亚洲精品| 精品国产一区二区久久| 精品卡一卡二卡四卡免费| 免费黄网站久久成人精品| 看十八女毛片水多多多| 一本色道久久久久久精品综合| 人妻人人澡人人爽人人| 在线观看人妻少妇| 中文字幕人妻丝袜制服| 免费av中文字幕在线| 在线 av 中文字幕| 91精品一卡2卡3卡4卡| 午夜日本视频在线| 欧美日韩视频高清一区二区三区二| 麻豆乱淫一区二区| 91精品三级在线观看| 免费高清在线观看视频在线观看| 91在线精品国自产拍蜜月| 特大巨黑吊av在线直播| 久久国产精品大桥未久av| 菩萨蛮人人尽说江南好唐韦庄| 91精品国产国语对白视频| 国产欧美日韩一区二区三区在线 | 亚洲精品国产av成人精品| av在线app专区| 99精国产麻豆久久婷婷| 午夜激情久久久久久久| 简卡轻食公司| 尾随美女入室| 亚洲美女视频黄频| 好男人视频免费观看在线| 久久精品国产a三级三级三级| 亚洲经典国产精华液单| 看非洲黑人一级黄片| 一二三四中文在线观看免费高清| 久久久久久久国产电影| 日本免费在线观看一区| 黑人高潮一二区| 99久国产av精品国产电影| 免费少妇av软件| 国产女主播在线喷水免费视频网站| 大片电影免费在线观看免费| 欧美日韩av久久| 天堂俺去俺来也www色官网| 高清视频免费观看一区二区| 最新中文字幕久久久久| 少妇猛男粗大的猛烈进出视频| av在线app专区| 欧美日韩综合久久久久久| 久久99蜜桃精品久久| 极品少妇高潮喷水抽搐| 久久人人爽人人片av| 欧美成人午夜免费资源| 久久久欧美国产精品| 天堂中文最新版在线下载| 只有这里有精品99| 久久99蜜桃精品久久| av在线观看视频网站免费| 日本与韩国留学比较| 哪个播放器可以免费观看大片| 在线观看三级黄色| 国产高清有码在线观看视频| 久久久久网色| 国产日韩欧美亚洲二区| 久久亚洲国产成人精品v| 中文字幕人妻丝袜制服| 美女主播在线视频| 丰满乱子伦码专区| 嫩草影院入口| 国产精品国产三级国产专区5o| 精品亚洲成国产av| 亚洲精品一二三| www.av在线官网国产| 免费看av在线观看网站| 欧美日韩亚洲高清精品| 国产午夜精品一二区理论片| 午夜福利网站1000一区二区三区| 亚洲国产av影院在线观看| 男女高潮啪啪啪动态图| 在线观看免费高清a一片| 亚洲人与动物交配视频| 欧美日韩亚洲高清精品| 精品亚洲成国产av| 国产白丝娇喘喷水9色精品| 国产极品天堂在线| 亚洲av福利一区| 91精品伊人久久大香线蕉| 少妇 在线观看| 少妇精品久久久久久久| www.av在线官网国产| 在线观看免费日韩欧美大片 | 欧美精品亚洲一区二区| 精品亚洲乱码少妇综合久久| 国产成人精品久久久久久| 国产精品欧美亚洲77777| 51国产日韩欧美| 国产精品99久久久久久久久| 爱豆传媒免费全集在线观看| 少妇 在线观看| 久久久久国产网址| 美女国产视频在线观看| 老司机亚洲免费影院| 精品99又大又爽又粗少妇毛片| 不卡视频在线观看欧美| 最新的欧美精品一区二区| 国产男人的电影天堂91| 国产精品蜜桃在线观看| a级毛片在线看网站| 亚洲精品久久午夜乱码| 日本欧美视频一区| 欧美人与性动交α欧美精品济南到 | 久久av网站| 免费播放大片免费观看视频在线观看| 女性被躁到高潮视频| 国产又色又爽无遮挡免| 国产成人91sexporn| 美女国产高潮福利片在线看| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 国产不卡av网站在线观看| 欧美人与性动交α欧美精品济南到 | 国产亚洲欧美精品永久| 蜜桃国产av成人99| 高清黄色对白视频在线免费看| av天堂久久9| 蜜桃久久精品国产亚洲av| 国产成人精品久久久久久| 美女xxoo啪啪120秒动态图| 三上悠亚av全集在线观看| 制服丝袜香蕉在线| 久久国产亚洲av麻豆专区| 国产一区有黄有色的免费视频| 亚洲精品乱码久久久久久按摩| av国产精品久久久久影院| 日本91视频免费播放| 亚洲激情五月婷婷啪啪| 精品久久久精品久久久| 亚洲国产日韩一区二区| 激情五月婷婷亚洲| 又黄又爽又刺激的免费视频.| 婷婷色麻豆天堂久久| 国精品久久久久久国模美| 日本欧美视频一区| 久久久久精品久久久久真实原创| 九色亚洲精品在线播放| 久久国产精品大桥未久av| 国产精品欧美亚洲77777| 中文字幕制服av| 欧美日韩一区二区视频在线观看视频在线| 在线观看美女被高潮喷水网站| 国产亚洲av片在线观看秒播厂| 男女啪啪激烈高潮av片| 婷婷色综合www| 91精品一卡2卡3卡4卡| 日本vs欧美在线观看视频| 九色亚洲精品在线播放| 91精品三级在线观看| 91aial.com中文字幕在线观看| 伦理电影免费视频| 一本一本综合久久| 久久婷婷青草| 最新的欧美精品一区二区| 国产亚洲午夜精品一区二区久久| 亚洲欧美日韩卡通动漫| 亚洲精品第二区| 日韩视频在线欧美| 国产免费福利视频在线观看| 日韩三级伦理在线观看| 亚洲精品av麻豆狂野| 在线免费观看不下载黄p国产| 黄色欧美视频在线观看| 久久99精品国语久久久| 日韩亚洲欧美综合| 一个人看视频在线观看www免费| 97超视频在线观看视频| 老熟女久久久| 国产一区二区在线观看日韩| 韩国高清视频一区二区三区| 交换朋友夫妻互换小说| 丝袜美足系列| 99re6热这里在线精品视频| 777米奇影视久久| 亚洲精品456在线播放app| 中文字幕人妻丝袜制服| 18禁在线无遮挡免费观看视频| 考比视频在线观看| 黑人高潮一二区| 一级黄片播放器| 天天影视国产精品| 国产精品久久久久成人av| 国产乱来视频区| h视频一区二区三区| 狠狠婷婷综合久久久久久88av| 国产精品国产三级专区第一集| 成人国产麻豆网| 久久99热这里只频精品6学生| 亚洲精品中文字幕在线视频| 欧美+日韩+精品| av播播在线观看一区| 亚洲精品久久午夜乱码| 如何舔出高潮| 成年人免费黄色播放视频| 亚洲精品日韩av片在线观看| 久久青草综合色| 晚上一个人看的免费电影| 精品酒店卫生间| 亚洲熟女精品中文字幕| 久久99热这里只频精品6学生| 亚洲精品国产av蜜桃| 人成视频在线观看免费观看| 能在线免费看毛片的网站| 久久亚洲国产成人精品v| 大码成人一级视频| 亚洲不卡免费看| 久久久午夜欧美精品| 一级毛片我不卡| 国产成人freesex在线| 国产一区亚洲一区在线观看| 久久精品国产鲁丝片午夜精品| 这个男人来自地球电影免费观看 | 亚洲中文av在线| 狂野欧美激情性xxxx在线观看| 精品亚洲成a人片在线观看| 日本与韩国留学比较| 国产精品久久久久久精品电影小说| 久久精品人人爽人人爽视色| 亚洲欧美日韩卡通动漫| 蜜桃在线观看..| 日韩中文字幕视频在线看片| 精品亚洲成国产av| 亚洲av.av天堂| 国产欧美日韩一区二区三区在线 | av线在线观看网站| 日韩中字成人| 亚洲精品456在线播放app| 亚洲精品日韩在线中文字幕| 最近2019中文字幕mv第一页| 国产免费福利视频在线观看| 国产免费一区二区三区四区乱码| 欧美激情国产日韩精品一区| 色哟哟·www| 国产亚洲精品第一综合不卡 | 丝袜美足系列| 看十八女毛片水多多多| 一级毛片 在线播放| 久久97久久精品| 亚洲综合色惰| 久久 成人 亚洲| 精品视频人人做人人爽| av播播在线观看一区| 91精品国产国语对白视频| 三上悠亚av全集在线观看| 天天操日日干夜夜撸| av卡一久久| 国产又色又爽无遮挡免| 99热网站在线观看| 51国产日韩欧美| 美女脱内裤让男人舔精品视频| 亚洲精品国产色婷婷电影| 三上悠亚av全集在线观看| 欧美人与性动交α欧美精品济南到 | 2018国产大陆天天弄谢| 少妇 在线观看| 大陆偷拍与自拍| 夫妻午夜视频| 久久久久久久国产电影| 亚洲精品aⅴ在线观看| 人人妻人人添人人爽欧美一区卜| 老女人水多毛片| 亚洲精品亚洲一区二区| 久久午夜福利片| 免费黄频网站在线观看国产| 亚洲av中文av极速乱| 国产高清有码在线观看视频| 国产一区有黄有色的免费视频| 国产一区二区三区av在线| 99久国产av精品国产电影| 一个人看视频在线观看www免费| 亚洲国产欧美在线一区| 日韩一区二区三区影片| 免费av不卡在线播放| av又黄又爽大尺度在线免费看| 久久人人爽人人片av| 久久国产精品大桥未久av| 欧美精品国产亚洲| 热re99久久精品国产66热6| 久久久久久久久久人人人人人人| 有码 亚洲区| 18禁观看日本| 永久免费av网站大全| 日韩成人av中文字幕在线观看| 丁香六月天网| 国产一区二区三区av在线| 一本久久精品| 99久久精品一区二区三区| 精品熟女少妇av免费看| 日韩av免费高清视频| 久热久热在线精品观看| 成人亚洲精品一区在线观看| 又粗又硬又长又爽又黄的视频| 丰满饥渴人妻一区二区三| 精品人妻熟女毛片av久久网站| 成人国语在线视频| 建设人人有责人人尽责人人享有的| 国产高清不卡午夜福利| 丰满乱子伦码专区| 黑人巨大精品欧美一区二区蜜桃 | 成人毛片a级毛片在线播放| 日日爽夜夜爽网站| 一级毛片aaaaaa免费看小| 看非洲黑人一级黄片| 亚洲av不卡在线观看| 美女主播在线视频| av线在线观看网站| 97超视频在线观看视频| 亚洲三级黄色毛片| 男女国产视频网站| 亚洲久久久国产精品| 黄片播放在线免费| 亚洲精品美女久久av网站| 亚洲色图综合在线观看| 女性生殖器流出的白浆| av电影中文网址| 国产av码专区亚洲av| 一级毛片我不卡| 你懂的网址亚洲精品在线观看| 午夜老司机福利剧场| 美女脱内裤让男人舔精品视频| 日韩免费高清中文字幕av| 美女脱内裤让男人舔精品视频| 亚洲综合精品二区| 欧美精品一区二区大全| 久久精品夜色国产| 国产一区二区三区av在线| 飞空精品影院首页| 亚洲国产精品专区欧美| 国产高清三级在线| 高清av免费在线| 成人午夜精彩视频在线观看| 中文字幕最新亚洲高清| 高清视频免费观看一区二区| 91久久精品国产一区二区成人| 国产精品一区二区三区四区免费观看| 亚洲国产最新在线播放| 国产成人精品无人区| 九色亚洲精品在线播放| 亚洲av日韩在线播放| 精品少妇内射三级| 久久久久视频综合| 日韩一区二区三区影片| 欧美日韩综合久久久久久| 人人澡人人妻人| 成年女人在线观看亚洲视频| 制服诱惑二区| 男人爽女人下面视频在线观看| 99国产精品免费福利视频| 日韩av免费高清视频| 日本91视频免费播放| 欧美三级亚洲精品| 啦啦啦视频在线资源免费观看| 中文字幕人妻熟人妻熟丝袜美| 精品人妻偷拍中文字幕| 久久 成人 亚洲| 日日啪夜夜爽| freevideosex欧美| 一区二区三区乱码不卡18| 亚洲无线观看免费| 在线观看三级黄色| 亚洲精品乱码久久久v下载方式| 18在线观看网站| 亚洲精品av麻豆狂野| 午夜视频国产福利| 亚洲欧美成人综合另类久久久| 2021少妇久久久久久久久久久| 久久亚洲国产成人精品v| 国产男人的电影天堂91| 成人二区视频| 成年美女黄网站色视频大全免费 | 欧美 日韩 精品 国产| 汤姆久久久久久久影院中文字幕| 韩国av在线不卡| 成人黄色视频免费在线看| 九九爱精品视频在线观看| 欧美日韩在线观看h| 亚洲av不卡在线观看| 亚洲精品日韩av片在线观看| 久久精品国产鲁丝片午夜精品| 日韩制服骚丝袜av| 亚洲国产精品国产精品| av免费在线看不卡| 男女无遮挡免费网站观看| 亚洲av福利一区| 国产又色又爽无遮挡免| 在线观看国产h片| 免费看不卡的av| 中文精品一卡2卡3卡4更新| 一级毛片aaaaaa免费看小| 日韩av免费高清视频| 午夜福利,免费看| 青青草视频在线视频观看| 伊人久久国产一区二区| 国产一区亚洲一区在线观看| 国产高清三级在线| 欧美国产精品一级二级三级| 国产av一区二区精品久久| 久久久久久久精品精品| 性高湖久久久久久久久免费观看| 国产精品嫩草影院av在线观看| 国产熟女欧美一区二区| 国产精品99久久99久久久不卡 | 欧美少妇被猛烈插入视频| 免费人成在线观看视频色| 9色porny在线观看| 精品人妻熟女毛片av久久网站| 欧美日韩国产mv在线观看视频| 精品国产露脸久久av麻豆| 好男人视频免费观看在线| 成年美女黄网站色视频大全免费 | 久久久亚洲精品成人影院| 国产精品久久久久久精品电影小说| 汤姆久久久久久久影院中文字幕| 超碰97精品在线观看| 亚洲综合色惰| 亚洲三级黄色毛片| 七月丁香在线播放| 久久毛片免费看一区二区三区| 久久ye,这里只有精品| 欧美一级a爱片免费观看看| 国产亚洲午夜精品一区二区久久| 乱码一卡2卡4卡精品| 97超视频在线观看视频| 中文字幕人妻熟人妻熟丝袜美| 97在线视频观看| 国产又色又爽无遮挡免| 日本av手机在线免费观看| 久热这里只有精品99| 中文精品一卡2卡3卡4更新| 午夜精品国产一区二区电影| 天天躁夜夜躁狠狠久久av| 男女国产视频网站| 在线观看免费视频网站a站| 99久久中文字幕三级久久日本| 亚洲精品456在线播放app| 成人黄色视频免费在线看| 国产乱来视频区| 亚洲精品乱码久久久久久按摩| 精品国产国语对白av| 精品人妻熟女毛片av久久网站| 男女国产视频网站| 国产午夜精品一二区理论片| www.色视频.com| 久久99热6这里只有精品| 欧美日韩在线观看h| 涩涩av久久男人的天堂| 国产精品三级大全| 岛国毛片在线播放| 免费日韩欧美在线观看| 国产黄色免费在线视频| 97在线人人人人妻| 成人18禁高潮啪啪吃奶动态图 | 2018国产大陆天天弄谢| 欧美激情 高清一区二区三区| 成人无遮挡网站| 99国产综合亚洲精品| 久久人人爽人人片av| 亚洲国产精品专区欧美| 国产淫语在线视频| 久久国产亚洲av麻豆专区| 人成视频在线观看免费观看| 蜜桃国产av成人99| 亚洲国产欧美在线一区| a级片在线免费高清观看视频| 亚洲高清免费不卡视频| 肉色欧美久久久久久久蜜桃| 国产亚洲一区二区精品| 18禁裸乳无遮挡动漫免费视频| 久久这里有精品视频免费| 久久韩国三级中文字幕| 免费观看av网站的网址| 丝袜在线中文字幕| 黑人高潮一二区| 亚洲精品一二三| 性色avwww在线观看| 成年美女黄网站色视频大全免费 | 美女主播在线视频| 性色av一级| 99热国产这里只有精品6| 欧美丝袜亚洲另类| 亚洲熟女精品中文字幕| a级毛色黄片| 免费高清在线观看视频在线观看| 性色av一级| 最新的欧美精品一区二区| 热re99久久国产66热| 国产成人精品福利久久| 日韩成人av中文字幕在线观看| 久久久欧美国产精品| 狂野欧美激情性xxxx在线观看| 免费少妇av软件| 97超视频在线观看视频| 亚洲欧美清纯卡通| 精品人妻熟女毛片av久久网站| 黄片播放在线免费| 男人添女人高潮全过程视频| 亚洲一级一片aⅴ在线观看| 亚洲国产精品国产精品| 日韩不卡一区二区三区视频在线| 国产爽快片一区二区三区| 欧美日韩精品成人综合77777| 欧美日韩亚洲高清精品| 午夜av观看不卡| 91精品国产九色| 国产极品天堂在线| 国产一级毛片在线| 国产av精品麻豆| 一本久久精品| 久久鲁丝午夜福利片| 啦啦啦中文免费视频观看日本| 亚洲成色77777| 丝袜美足系列| 99精国产麻豆久久婷婷| 男男h啪啪无遮挡| 国产白丝娇喘喷水9色精品| 一级毛片我不卡| 永久免费av网站大全| 国产精品99久久99久久久不卡 | 国产无遮挡羞羞视频在线观看| 在线观看三级黄色| 99国产精品免费福利视频| 欧美日韩av久久| 少妇被粗大猛烈的视频| 一区二区日韩欧美中文字幕 | 久久ye,这里只有精品| 亚洲中文av在线| 日韩一区二区三区影片| 亚洲国产av新网站| 午夜福利网站1000一区二区三区| 久久久精品区二区三区| 九色成人免费人妻av| 亚洲无线观看免费| 黑人欧美特级aaaaaa片| 97超碰精品成人国产| 久久99热这里只频精品6学生| 亚洲国产欧美日韩在线播放| 你懂的网址亚洲精品在线观看| 国产极品天堂在线| 国产精品久久久久久久久免| 精品一区二区免费观看| 久久精品熟女亚洲av麻豆精品| 国产片内射在线| 伦精品一区二区三区| 丰满少妇做爰视频| 日本黄大片高清| 国产一级毛片在线| 街头女战士在线观看网站| 中文字幕制服av| 观看av在线不卡| 国产爽快片一区二区三区|