• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于用戶行為的超級(jí)計(jì)算機(jī)作業(yè)失敗預(yù)測(cè)方法*

    2022-10-28 01:52:38唐陽坤楊文祥張曉蓉王耀彬
    關(guān)鍵詞:特征作業(yè)用戶

    唐陽坤,鮮 港,楊文祥,喻 杰,張曉蓉,王耀彬

    (1.西南科技大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,四川 綿陽 621010;2.中國空氣動(dòng)力研究與發(fā)展中心計(jì)算空氣動(dòng)力研究所,四川 綿陽 621050;3.國防科技大學(xué)計(jì)算機(jī)學(xué)院,湖南 長沙 410073)

    1 引言

    隨著數(shù)據(jù)科學(xué)的發(fā)展與進(jìn)步,科學(xué)研究和工程項(xiàng)目越來越依賴超級(jí)計(jì)算機(jī)。同時(shí),隨著高性能計(jì)算性能從P級(jí)向E級(jí)發(fā)展,計(jì)算結(jié)點(diǎn)不斷增加,多核執(zhí)行應(yīng)用程序的并行規(guī)模不斷擴(kuò)大,作業(yè)發(fā)生故障和錯(cuò)誤的可能性也隨著軟件和硬件上復(fù)雜性的增加而增加[1],作業(yè)失敗事件會(huì)影響高性能計(jì)算系統(tǒng)的執(zhí)行效率。

    每天都會(huì)有大量的作業(yè)提交到超級(jí)計(jì)算機(jī),然而,其中有相當(dāng)一部分作業(yè)不能夠正常完成。最近的一些研究分析了Google公司的集群作業(yè)負(fù)載日志,其中大約有40%的作業(yè)不能夠正常完成[2,3]。這些作業(yè)還占據(jù)了大部分集群工作時(shí)間(失敗或者被殺死)[4-7]。此外,本文分析了一臺(tái)用于科研的超級(jí)計(jì)算機(jī)的作業(yè)日志,在調(diào)研的正常終止(完成與失敗)的作業(yè)中,大約有31%的失敗作業(yè)。這些不能正常完成的作業(yè)會(huì)導(dǎo)致系統(tǒng)的計(jì)算資源不能夠有效利用,同時(shí)也會(huì)延長正在排隊(duì)的作業(yè)等待時(shí)間。如果提前預(yù)測(cè)出失敗作業(yè),并采取一定的應(yīng)對(duì)措施,能夠提高系統(tǒng)資源利用率,同時(shí)對(duì)提升系統(tǒng)的執(zhí)行效率也至關(guān)重要。

    機(jī)器學(xué)習(xí)是目前廣泛用于預(yù)測(cè)研究的技術(shù),尋找有利于預(yù)測(cè)目標(biāo)和有價(jià)值的特征對(duì)提升預(yù)測(cè)效果至關(guān)重要。超級(jí)計(jì)算機(jī)的作業(yè)調(diào)度系統(tǒng)記錄了每一個(gè)運(yùn)行作業(yè)的歷史日志信息。本文對(duì)大量歷史作業(yè)日志進(jìn)行綜合分析,發(fā)現(xiàn)了一些新的可用于預(yù)測(cè)作業(yè)失敗的特征。除了時(shí)間、資源等用于預(yù)測(cè)作業(yè)狀態(tài)的傳統(tǒng)特征外,還可以利用作業(yè)名的命名規(guī)律及提交行為作為預(yù)測(cè)模型的輸入。

    在作業(yè)日志中,存在大量語義組成相似的作業(yè)名,一般是通過改變尾綴及組成間隔方式標(biāo)記作業(yè)的工作內(nèi)容,這些組成相似的作業(yè)名通常具有相似的工作模式及內(nèi)容,反映用戶的一種工作行為模式。本文根據(jù)作業(yè)名語義組成提出了一種作業(yè)名聚類方法。

    最后,農(nóng)業(yè)污染問題突出。近年來,廣西很多農(nóng)產(chǎn)品數(shù)量在全國位居前列,但隨之而來的是農(nóng)業(yè)投入品如化肥、農(nóng)藥及農(nóng)膜增加,農(nóng)業(yè)面源污染問題加劇。從表4可知,近年來,廣西農(nóng)業(yè)投入品的使用量都出現(xiàn)不同程度的增加(除柴油下降外),且化肥、農(nóng)藥等利用率低、流失率高,加劇了農(nóng)業(yè)面源的污染程度,導(dǎo)致農(nóng)業(yè)農(nóng)村綠色發(fā)展受制約。

    表3報(bào)告了我們最為關(guān)注的三個(gè)變量 ——金融發(fā)展指標(biāo)FD、經(jīng)濟(jì)增長率Growth與金融開放指標(biāo)kaopen指數(shù)間的相關(guān)關(guān)系。可見同一樣本間的經(jīng)濟(jì)增長率與金融發(fā)展呈現(xiàn)出顯著的負(fù)相關(guān)關(guān)系,這暗示金融發(fā)展與經(jīng)濟(jì)增長之間可能存在一個(gè)反向影響的關(guān)系;金融發(fā)展與金融開放的相關(guān)關(guān)系顯著為正,這在一定程度上符合先前的文獻(xiàn)研究結(jié)論:金融開放會(huì)極大促進(jìn)金融資源的跨地配置,并通過金融機(jī)構(gòu)間的競(jìng)爭促進(jìn)金融發(fā)展。kaopen與經(jīng)濟(jì)增長的相關(guān)關(guān)系沒有通過顯著性檢驗(yàn)。這意味著我們需要通過回歸模型來進(jìn)一步確定兩者間的相關(guān)關(guān)系。

    基于作業(yè)名,發(fā)現(xiàn)同一用戶下同一作業(yè)名的作業(yè)重復(fù)提交次數(shù)與失敗作業(yè)的分布存在潛在關(guān)系,這種作業(yè)的重復(fù)提交次數(shù)反映了用戶的提交行為模式,該特征和潛在模式將在3.1節(jié)詳細(xì)闡述。聚類后的作業(yè)名及提交次數(shù)被用作預(yù)測(cè)作業(yè)失敗的新輸入特征。

    本文首先分析了作業(yè)日志中作業(yè)相關(guān)屬性的作業(yè)失敗分布狀況,同時(shí)結(jié)合作業(yè)特征相關(guān)性分析,提出基于樹結(jié)構(gòu)模型的綜合方法預(yù)測(cè)作業(yè)失敗,提升了預(yù)測(cè)效果。最后,對(duì)預(yù)測(cè)為失敗的作業(yè)提出可供選擇的建議。

    2 相關(guān)工作

    應(yīng)用程序的有效執(zhí)行對(duì)科學(xué)研究和工程項(xiàng)目至關(guān)重要。然而,超級(jí)計(jì)算機(jī)的規(guī)模和復(fù)雜性不斷增加導(dǎo)致故障的可能性增加,已有大量的相關(guān)研究分析了軟件和硬件故障,并提出了故障預(yù)測(cè)方法。

    在軟件故障預(yù)測(cè)方面,Jayanthi等人[8,9]使用神經(jīng)網(wǎng)絡(luò)分類器方法對(duì)軟件可靠性進(jìn)行預(yù)測(cè)和對(duì)軟件缺陷預(yù)測(cè)進(jìn)行建模;Padhy等人[10]提出了一種基于遺傳算法的具有成本效益和故障彈性的可重用性預(yù)測(cè)模型;Manjula等人[11]提出了一種基于混合方法的深度神經(jīng)網(wǎng)絡(luò),并使用軟件度量標(biāo)準(zhǔn)進(jìn)行軟件缺陷預(yù)測(cè)。

    在硬件故障預(yù)測(cè)方面,Hamerly等人[12]提出使用樸素貝葉斯分類來預(yù)測(cè)硬盤故障;Nie等人[13]選用系統(tǒng)特性(如溫度、功耗和應(yīng)用狀態(tài))作為預(yù)測(cè)GPU錯(cuò)誤的特征;Das等人[14]通過使用系統(tǒng)日志訓(xùn)練遞歸神經(jīng)網(wǎng)絡(luò)模型來預(yù)測(cè)節(jié)點(diǎn)故障。

    大多數(shù)故障預(yù)測(cè)方法都是基于事件設(shè)計(jì)的。Schroeder等人[15]對(duì)HPC系統(tǒng)故障進(jìn)行研究,該研究表明HPC集群和云集群的故障率正在增加。Snir等人[16]給出的調(diào)查結(jié)果表明,故障預(yù)測(cè)器的召回率低于50%。劉春紅等人[17]基于支持向量機(jī)算法使用動(dòng)態(tài)和靜態(tài)工作特征預(yù)測(cè)工作狀態(tài)。Yoo等人[1]基于隨機(jī)森林算法使用資源相關(guān)特征預(yù)測(cè)工作狀態(tài)。Nakka等人[18]使用決策樹算法來預(yù)測(cè)HPC系統(tǒng)中的節(jié)點(diǎn)故障。

    3 數(shù)據(jù)預(yù)處理及分析

    3.1 數(shù)據(jù)來源及介紹

    中國空氣動(dòng)力研究與發(fā)展中心CARDC(China Aerodynamics Research and Development Center)致力于計(jì)算流體力學(xué)CFD(Computational Fluid Dynamics)研究工作。本文分析了該中心一臺(tái)超級(jí)計(jì)算機(jī)一年的歷史作業(yè)日志。

    本文研究的超級(jí)計(jì)算機(jī)中的作業(yè)調(diào)度系統(tǒng)是SLURM[19]。每一條作業(yè)的執(zhí)行記錄都單獨(dú)保存在日志的一行中,其中包含了很多字段,如作業(yè)ID(JobID)、執(zhí)行狀態(tài)(State)、用戶ID(UID)、請(qǐng)求CPU數(shù)量(ReqCPUS)、作業(yè)名(JobName)、分配CPU數(shù)量(AllocCPUS)、使用節(jié)點(diǎn)數(shù)量(NNodes)、使用節(jié)點(diǎn)列表(NodeList)、作業(yè)名(JobName)、提交時(shí)間(Submit)、開始時(shí)間(Start)、結(jié)束時(shí)間(End)和退出碼(ExitCode)等。

    為了保護(hù)用戶的隱私,本文中所展示的所有數(shù)據(jù)信息均已脫敏。

    3-吲哚基環(huán)氧丙烷和3-咔唑基環(huán)氧丙烷單體的合成不同于前三種聚醚的對(duì)應(yīng)單體的合成,其合成方法要簡單很多,通過四丁基溴化銨(TBAB)作為催化劑,使反應(yīng)在常溫下進(jìn)行[24,31].這類單體通過陰離子聚合得到的聚醚同樣是單手性螺旋結(jié)構(gòu)并能穩(wěn)定存在于溶液中(見圖6).該類聚醚一樣具有光學(xué)活性,通過比旋旋光,圓二色譜和紫外可見光譜數(shù)據(jù)顯示聚醚能在溶液中保持螺旋構(gòu)像.

    3.2 定義與說明

    作業(yè)失敗通常定義為當(dāng)系統(tǒng)中的錯(cuò)誤行為導(dǎo)致錯(cuò)誤輸出時(shí)發(fā)生的事件。在本文中,作業(yè)失敗由作業(yè)調(diào)度器定義,適用范圍更加廣泛,定義和說明如下:

    根據(jù)每個(gè)用戶提交的作業(yè),統(tǒng)計(jì)出同一作業(yè)名的重復(fù)提交次數(shù),本文研究的日志數(shù)據(jù)集中同一作業(yè)名提交的最高次數(shù)為12 824。失敗作業(yè)的分布也呈現(xiàn)出一種潛在的模式。如圖1所示,在大約6 000次以內(nèi),失敗作業(yè)的數(shù)量占比大部分不高于50%;在大約7 500次后,失敗作業(yè)的數(shù)量占比開始出現(xiàn)100%的情況??梢园l(fā)現(xiàn),失敗作業(yè)的占比隨著提交次數(shù)的增加表現(xiàn)出了增加的趨勢(shì)。在本文中,提交次數(shù)將作為一個(gè)新的學(xué)習(xí)特征,并命名為NSubmission。

    定義1成功作業(yè):在SLURM作業(yè)日志中執(zhí)行狀態(tài)為COMPLETED,即正常完成的作業(yè)。

    定義2失敗作業(yè):在SLURM作業(yè)日志中執(zhí)行狀態(tài)為FAILED,即失敗的作業(yè)。

    定義3提交次數(shù):同一用戶下同一作業(yè)名的作業(yè)重復(fù)提交的次數(shù)。

    定義4作業(yè)類型:具有相似作業(yè)名的作業(yè)屬于同一作業(yè)類型。

    在作業(yè)日志中,作業(yè)名可能由用戶命名,或者由軟件命名,代表著某一應(yīng)用,作業(yè)名相同并不意味著這些作業(yè)內(nèi)部結(jié)構(gòu)完全一致,也許更改了參數(shù),或者調(diào)整了數(shù)據(jù)規(guī)模等。同一用戶下存在對(duì)相同作業(yè)名重復(fù)提交的情況,這反映了用戶對(duì)作業(yè)的一種行為模式。此外,作業(yè)日志中有大量相似的作業(yè)名,它們之間只存在細(xì)微的差別,這些作業(yè)可能存在相似的特性,為了降低其自身冗余性,將對(duì)作業(yè)名進(jìn)行聚類處理,一類作業(yè)名屬于同一種作業(yè)類型。

    從作業(yè)日志中篩選出只包含成功作業(yè)和失敗作業(yè)的記錄。在預(yù)測(cè)實(shí)驗(yàn)中,需要將數(shù)據(jù)切分為測(cè)試集和訓(xùn)練集,然而這2種狀態(tài)的作業(yè)比例不均衡,失敗作業(yè)大約占比為31%,采用隨機(jī)切割法可能會(huì)導(dǎo)致模型學(xué)習(xí)更傾向于預(yù)測(cè)為成功作業(yè),非常不利于機(jī)器學(xué)習(xí)預(yù)測(cè)。因此,本文對(duì)作業(yè)日志采用分層切割的方法,保留訓(xùn)練集和測(cè)試集的失敗作業(yè)占比與原始失敗作業(yè)占比一致,同時(shí)需要過濾一些無意義的、樣本數(shù)據(jù)異常的和不利于切分的用戶作業(yè)記錄,以保證實(shí)驗(yàn)結(jié)果的有效性。

    3.3 數(shù)據(jù)預(yù)處理

    同時(shí),作業(yè)日志中存在很多狀態(tài)的作業(yè)記錄,除了成功作業(yè)和失敗作業(yè),還有已取消的、正在排隊(duì)的和正在運(yùn)行的作業(yè)。本文主要針對(duì)作業(yè)的失敗進(jìn)行預(yù)測(cè),因此只關(guān)注作業(yè)日志中的成功作業(yè)和失敗作業(yè),即State字段為COMPLETED和FAILED的作業(yè)為預(yù)測(cè)對(duì)象。

    3.4 作業(yè)失敗影響因素分析

    SLURM作業(yè)日志中所記錄的所有字段(特征)中,有一部分只有在作業(yè)終止時(shí)才可以獲得,比如結(jié)束時(shí)間、退出碼等。本文研究的目的是提前預(yù)測(cè)作業(yè)的失敗,因此這些作業(yè)終止后才能獲得的特征不能作為作業(yè)失敗預(yù)測(cè)模型的輸入特征。

    在余下的可選特征中,關(guān)注了一些與作業(yè)屬性相關(guān)的傳統(tǒng)特征,如表1所示。

    Table 1 Traditional features related to job attributes

    ReqCPUS和AllocCPUS均與作業(yè)的資源需求有關(guān),作業(yè)失敗通常是由于軟硬件因素所導(dǎo)致的,這2個(gè)特征可能會(huì)是作業(yè)失敗的影響因素。

    網(wǎng)絡(luò)口碑是在社交網(wǎng)絡(luò)興起的背景下出現(xiàn)的,其滿足了消費(fèi)者之間互動(dòng)的需要。消費(fèi)者之間的互動(dòng)不僅可以提升消費(fèi)者價(jià)值,而且可以滿足其自我表達(dá)的需要。另外,消費(fèi)者之間的互動(dòng)能夠讓消費(fèi)者產(chǎn)生內(nèi)在的愉悅感。根據(jù)Baloglu等[27]研究,與專業(yè)建議、廣告和書籍(電影、新聞)等媒體相比,網(wǎng)絡(luò)口碑對(duì)顧客感知特定品牌形象的影響最大,高達(dá)76%的消費(fèi)者在購買決策時(shí)會(huì)受到網(wǎng)絡(luò)口碑的影響。這意味著,無論消費(fèi)者在哪里交流,他們?cè)谏缃痪W(wǎng)站上傳遞可靠的信息可能會(huì)改變其他消費(fèi)者的行為和態(tài)度。

    NNodes代表了作業(yè)所使用的計(jì)算結(jié)點(diǎn)數(shù)量,與作業(yè)的規(guī)模相關(guān)。通常作業(yè)使用的結(jié)點(diǎn)數(shù)量越多,并行規(guī)模越大,程序交互行為就越復(fù)雜,可能受到環(huán)境噪聲的影響程度就越大。

    如表2所示,單結(jié)點(diǎn)作業(yè)中成功作業(yè)數(shù)量占82.71%,失敗作業(yè)數(shù)量占17.29%;多結(jié)點(diǎn)作業(yè)中成功作業(yè)數(shù)量占66.69%,失敗作業(yè)數(shù)量占33.31%。

    多結(jié)點(diǎn)作業(yè)的失敗率相對(duì)于單結(jié)點(diǎn)作業(yè)的明顯更高,這說明,作業(yè)在多個(gè)結(jié)點(diǎn)上并行執(zhí)行,由于結(jié)點(diǎn)之間需要相互通信,它們的交互性和復(fù)雜性更強(qiáng),相對(duì)于單結(jié)點(diǎn)作業(yè)也越容易失敗。因此,NNodes這個(gè)特征可以用于預(yù)測(cè)作業(yè)失敗。

    試驗(yàn)雞來自北京市華都峪口禽業(yè)有限責(zé)任公司,挑選體重相近、體況健康的9周齡“京紅1號(hào)”蛋種雞1 260只,飼養(yǎng)試驗(yàn)在華都峪口禽業(yè)有限責(zé)任公司鮑官莊養(yǎng)殖基地進(jìn)行。

    Table 2 Distribution of single-node and multi-node job state

    Submit為當(dāng)前作業(yè)的提交時(shí)間,在作業(yè)日志中的記錄樣式為:2020-01-01T10:24:36。日志分析中發(fā)現(xiàn),同類型作業(yè)在提交時(shí)間上比較接近。如大量相似的作業(yè)同時(shí)提交,說明這些作業(yè)很可能來自于用戶的同一工程項(xiàng)目或研究;在非常接近的時(shí)間里提交的相似作業(yè),其工作應(yīng)用模式也具有相似性,在一定程度上反映了作業(yè)的工作特點(diǎn)。

    作業(yè)日志中JobName是當(dāng)前作業(yè)的一種標(biāo)識(shí),與作業(yè)內(nèi)容意義相關(guān)。如表3所示,存在大量的相似作業(yè)名,比如,字符串中只有數(shù)字符號(hào)不一樣,其他內(nèi)容都非常接近,這些作業(yè)的工作特性可能比較相似。如果能夠有效地對(duì)作業(yè)名進(jìn)行聚類處理,將會(huì)大大減少冗余信息,提升預(yù)測(cè)效率。

    Table 3 Two types of similar job names

    4 作業(yè)失敗狀態(tài)預(yù)測(cè)方法

    4.1 特征向量

    (1)作業(yè)名聚類。

    在作業(yè)日志中,有1 564條不同的作業(yè)名,這些作業(yè)名主要是由字母、數(shù)字及下劃線等特殊字符組成。其中,數(shù)字代表版本或者編號(hào)等,下劃線等特殊字符起間隔作用,對(duì)作業(yè)的應(yīng)用意義不大。因此,為了降低計(jì)算開銷,只保留字母并將其小寫化。通過使用最長公共子序列LCS(Longest Common Subsequence)算法[20]來計(jì)算不同作業(yè)名之間的相似長度,其計(jì)算公式如式(1)所示:

    (1)

    其中,i和j分別代表x和y字符串的長度,c[i,j]表示x和y這2個(gè)字符串的最長公共子序列的長度。為了防止因不同作業(yè)名之間的相似長度的量綱不一致而對(duì)聚類結(jié)果產(chǎn)生影響,采用將相似度數(shù)據(jù)量綱控制在0~1,其相似度計(jì)算公式如式(2)所示:

    (2)

    通過式(2)可以計(jì)算得到2個(gè)作業(yè)名之間的相似度。對(duì)兩兩作業(yè)名計(jì)算相似度可以得到相似度矩陣。相似度矩陣的樣例如下所示:

    然后,以相似度矩陣作為輸入,采用k-Means聚類算法[21]對(duì)作業(yè)名進(jìn)行聚類,其中k-Means聚類算法的k值表示最終聚類的類別數(shù),由聚類的目的確定。本文當(dāng)同一類作業(yè)名之間的相似度均大于0.8時(shí)為最佳k值。最終得到了507類作業(yè)名(作業(yè)類型),在本文中,將聚類后的作業(yè)類型命名為JobType。

    (2)構(gòu)建特征。

    除了作業(yè)日志中的原始特征外,本文還探索出一種新的特征,即同一用戶下同一作業(yè)名的重復(fù)提交次數(shù),反映了用戶的一種作業(yè)提交行為模式。

    在作業(yè)日志中,并沒有對(duì)用戶的提交行為進(jìn)行定義,本文是基于作業(yè)名和用戶ID來確定用戶的作業(yè)提交行為。用戶多次提交相同作業(yè)存在多種原因,如有的用戶需要逐步改變作業(yè)內(nèi)部參數(shù),或者是在用同一作業(yè)測(cè)試某一項(xiàng)工作等。

    從圖2剝落斷口宏觀形貌可以看出,斷面出現(xiàn)呈彎曲并相互平行的溝槽狀花樣,與裂紋擴(kuò)展方向垂直,是裂紋擴(kuò)展時(shí)留下的微觀痕跡,屬于明顯弧形疲勞輝紋,其反向指向裂紋源(A區(qū)域),疲勞裂紋從A區(qū)域向B方向擴(kuò)展,形成一個(gè)疲勞擴(kuò)展帶(AB),與此同時(shí)AB裂紋兩側(cè)向C方向擴(kuò)展,最終導(dǎo)致大面積剝落,疲勞擴(kuò)展帶見圖2中光滑的氧化區(qū)域所示。從剝落斷口宏觀形貌進(jìn)行分析得出,剝落裂紋的起始位置處于支承輥淬硬層厚度位置,然后沿著剪切應(yīng)力方向擴(kuò)展,直至剝落。因此,該支承輥失效形式屬典型的疲勞剝落失效。剝落是從支承輥次表層開始,由疲勞裂紋順著剪切面擴(kuò)展而形成。

    Figure 1 Proportion of failed jobs under different submission times

    在ET和RF中,NSubmission和JobType的特征重要性排名前三。在2種方法中,UID和JobType的重要性占比非常接近,說明JobType和UID對(duì)模型預(yù)測(cè)作用起到了良好的效果,同時(shí)NSubmission和JobType的綜合重要性均超過了40%,即2個(gè)特征在決策子樹產(chǎn)生分支過程中起到了重要作用。

    通過前文的分析和探索,得到如表4所示的特征作為本文預(yù)測(cè)模型的輸入特征。

    Table 4 Attribute and name of each feature

    在這些特征中,可能會(huì)存在一些冗余特征,影響預(yù)測(cè)效果。由于本文的預(yù)測(cè)屬于分類問題,因此需要過濾離散程度相近且呈線性相關(guān)的特征。離散度計(jì)算公式如式(3)所示:

    項(xiàng)目來源有多種,如教師的科研項(xiàng)目、某些領(lǐng)域的研究熱點(diǎn)、發(fā)明專利,等等。就目前我們開展的項(xiàng)目來看,基本是軟件和硬件結(jié)合的項(xiàng)目。項(xiàng)目開發(fā)的目標(biāo)是參加各種競(jìng)賽及形成科研成果,如發(fā)表學(xué)術(shù)論文、申請(qǐng)專利。

    (3)

    Figure 2 Degree of dispersion of each feature(logarithmic display)

    Figure 3 Correlation matrix

    使用Pearson系數(shù)[22]計(jì)算特征之間的相關(guān)性,其計(jì)算公式如式(4)所示:

    (4)

    其中,x,y分別代表n維特征向量。

    相關(guān)系數(shù)矩陣如圖3所示。相關(guān)系數(shù)的范圍在0~1,系數(shù)的絕對(duì)值越接近于1,說明2個(gè)特征的相關(guān)性越強(qiáng)。

    正確識(shí)別出大多數(shù)成功作業(yè)能夠大幅提升準(zhǔn)確率,但在實(shí)際應(yīng)用中,希望能夠發(fā)現(xiàn)更多可能失敗的作業(yè),以及時(shí)做出有效應(yīng)對(duì)措施。因此,基于2種評(píng)估指標(biāo)和實(shí)際應(yīng)用情況,本文又提出了加權(quán)平均S分?jǐn)?shù)(S_score)。在S分?jǐn)?shù)中敏感度的權(quán)重大于特異性,其計(jì)算公式如式(9)所示:

    (2)設(shè)置檢查點(diǎn):預(yù)測(cè)為失敗的作業(yè)將得到用戶更多的關(guān)注,建議用戶在作業(yè)中設(shè)置檢查點(diǎn),這樣可以在失敗的作業(yè)重啟時(shí)從最近的檢查點(diǎn)開始執(zhí)行,不用從頭開始執(zhí)行,這樣可以節(jié)約系統(tǒng)資源。

    4.2 機(jī)器學(xué)習(xí)算法

    集成學(xué)習(xí)是目前應(yīng)用非常廣泛的機(jī)器學(xué)習(xí)算法,通過構(gòu)建多個(gè)學(xué)習(xí)模型,然后集成所有學(xué)習(xí)模型的建模結(jié)果作為輸出結(jié)果。

    第二個(gè)驅(qū)動(dòng)是終端用能結(jié)構(gòu)優(yōu)化。電能替代是終端用能結(jié)構(gòu)優(yōu)化的重要途徑。前三季度,全國累計(jì)完成電能替代量1 216億千瓦時(shí),對(duì)用電增長的貢獻(xiàn)率達(dá)29.1%。工農(nóng)業(yè)生產(chǎn)、居民生活、交通運(yùn)輸領(lǐng)域電能替代量分別占77%、11%、8%。

    隨機(jī)森林RF(Random Forest)[23]是一種裝袋式(Bagging)集成學(xué)習(xí)算法,通過構(gòu)建多個(gè)獨(dú)立的決策樹,每棵決策樹有放回地隨機(jī)從訓(xùn)練數(shù)據(jù)集中抽取數(shù)據(jù)訓(xùn)練決策樹。對(duì)于分類決策樹,選擇決策樹結(jié)果為多數(shù)的類別作為隨機(jī)森林的決策結(jié)果。

    在隨機(jī)森林算法中,每棵樹通過計(jì)算不純度產(chǎn)生分裂節(jié)點(diǎn),即子節(jié)點(diǎn)不純度應(yīng)低于父節(jié)點(diǎn)。在本文中,隨機(jī)森林使用基尼系數(shù)(Gini Impurity)作為不純度計(jì)算方法,計(jì)算公式如式(5)所示:

    (5)

    其中,t表示指定的節(jié)點(diǎn),c表示樣本類別數(shù),p(b|t)表示分類標(biāo)簽b在節(jié)點(diǎn)t上的占比。

    極端隨機(jī)樹ET(ExtraTrees)[24]也是多個(gè)決策樹集成學(xué)習(xí)算法。與隨機(jī)森林不同的是每棵樹都使用整個(gè)學(xué)習(xí)樣本進(jìn)行訓(xùn)練,且自上而下的節(jié)點(diǎn)劃分是隨機(jī)的,不計(jì)算每個(gè)特征的最優(yōu)劃分點(diǎn),而是從特征經(jīng)驗(yàn)范圍內(nèi)均勻隨機(jī)選取。在所有隨機(jī)的劃分點(diǎn)中,選擇其中分叉值最高的作為節(jié)點(diǎn)的劃分點(diǎn)。

    二是在建設(shè)農(nóng)渠時(shí)優(yōu)先選址在林地內(nèi)以節(jié)約耕地資源。目前累計(jì)節(jié)約耕地2500畝。渠道建好后及時(shí)在兩邊植樹造林,做到渠成林成,形成“渠內(nèi)碧水流,渠邊綠樹幽;樹木站兩邊,樹影映悠悠”的景象,實(shí)現(xiàn)“渠在林中”。

    5 實(shí)驗(yàn)與結(jié)果分析

    5.1 預(yù)測(cè)方法

    在預(yù)測(cè)實(shí)驗(yàn)中,傾向于發(fā)現(xiàn)更多可能失敗的作業(yè)。本文設(shè)計(jì)了綜合預(yù)測(cè)框架E-R(Extra-Random),如圖4所示,分別使用ET和RF訓(xùn)練預(yù)測(cè)模型,將2個(gè)模型的子結(jié)果相結(jié)合得出最終的預(yù)測(cè)結(jié)果。2個(gè)模型的作業(yè)失敗預(yù)測(cè)結(jié)果以邏輯“或”方式組合,如表5所示,如果2個(gè)模型對(duì)作業(yè)預(yù)測(cè)都為成功,則該作業(yè)被預(yù)測(cè)為成功作業(yè),在其他情況下都被預(yù)測(cè)為失敗作業(yè)。

    Figure 4 E-R prediction framework

    Table 5 “OR” rule of E-R prediction framework

    5.2 實(shí)驗(yàn)設(shè)置與評(píng)估指標(biāo)

    將預(yù)處理后的數(shù)據(jù)集按照7∶3的比例劃分為訓(xùn)練集和測(cè)試集。由于分類樣本的不均衡性,為了保證數(shù)據(jù)樣本類別的平衡性及數(shù)據(jù)信息的完整性,對(duì)失敗作業(yè)采用上采樣的方式對(duì)訓(xùn)練集進(jìn)行處理,其中所有輸入特征均在維持原始時(shí)間序列下進(jìn)行計(jì)算。

    在預(yù)測(cè)實(shí)驗(yàn)中,失敗作業(yè)為正樣本(Positive),成功作業(yè)為負(fù)樣本(Negative)。同時(shí)采用3折交叉驗(yàn)證的方式來增強(qiáng)預(yù)測(cè)模型的魯棒性。將實(shí)驗(yàn)數(shù)據(jù)中的作業(yè)狀態(tài)及預(yù)測(cè)的結(jié)果進(jìn)行比較,預(yù)測(cè)結(jié)果共分為4類,如表6所示。其中,TP、FP、TN和FN分別表示真正例、假正例、真負(fù)例和假負(fù)例。假正例為將負(fù)樣本錯(cuò)誤地預(yù)測(cè)為正樣本,假負(fù)例為將正樣本錯(cuò)誤地預(yù)測(cè)為負(fù)樣本。

    根據(jù)NETMAKETSHARE的統(tǒng)計(jì)數(shù)據(jù)[3],Android和iOS已占據(jù)手機(jī)操作系統(tǒng)98%以上的市場(chǎng)。由于Android和iOS的開發(fā)技術(shù)完全不同,早期很多企業(yè)必須針對(duì)這2個(gè)平臺(tái)開發(fā)具有相同功能的APP,會(huì)耗費(fèi)大量的人力和財(cái)力資源,增加開發(fā)和維護(hù)成本。

    Table 6 Four kinds of prediction results

    通常在作業(yè)失敗預(yù)測(cè)研究中,除了關(guān)注準(zhǔn)確率(accuracy)外,還會(huì)關(guān)注成功作業(yè)和失敗作業(yè)的預(yù)測(cè)效果,因此在實(shí)驗(yàn)中還通過特異性(specificity)和敏感度(sensitivity)2個(gè)指標(biāo)對(duì)成功作業(yè)和失敗作業(yè)的預(yù)測(cè)效果分別進(jìn)行評(píng)估。特異性反映了模型能夠正確識(shí)別成功作業(yè)的效果,敏感度反映了模型能夠正確識(shí)別失敗作業(yè)的效果,評(píng)估指標(biāo)的計(jì)算分別如式(6)~式(8)所示:

    (6)

    (7)

    (8)

    通過圖2和圖3可以發(fā)現(xiàn),UID和User的離散程度一致且極度相關(guān),因此只保留了UID。此外,AllocCPUS和ReqCPUS的離散程度相近。分析發(fā)現(xiàn),AllocCPUS始終大于或等于ReqCPUS,不存在CPU數(shù)量分配不足的情況。ReqCPUS和NNodes的相關(guān)性弱于AllocCPUS與NNodes的相關(guān)性,且ReqCPUS與NNodes的離散程度不一致,因此保留了ReqCPUS和NNodes。

    (9)

    5.3 實(shí)驗(yàn)結(jié)果與分析

    使用本文探索出的特征向量分別在RF、ET和E-R綜合框架中進(jìn)行預(yù)測(cè)實(shí)驗(yàn),其結(jié)果如表7所示。

    Table 7 Effect of each prediction method

    ET在每種指標(biāo)上都表現(xiàn)平穩(wěn)。RF在準(zhǔn)確率、特異性和敏感度上均優(yōu)于ET。在E-R綜合框架中,敏感度相較于其他2種方法預(yù)測(cè)效果有一定提升,準(zhǔn)確率和特異性在可接受范圍內(nèi)有所下降。

    所有輸入特征在ET、RF的決策子樹產(chǎn)生分支的過程中起到了一定的作用,并且每一次產(chǎn)生分支都會(huì)選擇更為重要的特征。輸入特征在ET和RF中的重要性分別如圖5和圖6所示。

    Figure 5 Proportion of importance of each feature in ET

    Figure 6 Proportion of importance of each feature in RF

    (3)去除冗余特征。

    環(huán)境要素中的基準(zhǔn)指代與傳統(tǒng)意義上的指代有所不同,存在指代關(guān)系的兩個(gè)要素并不是指向同一實(shí)體,而是一種關(guān)聯(lián)關(guān)系,即通過先行環(huán)境要素來確定照應(yīng)環(huán)境要素的具體位置.從表2中可看出,這種類型的指代占整個(gè)環(huán)境要素指代的16%,所以其識(shí)別與否對(duì)于指代消解系統(tǒng)的性能有顯著的影響.在已標(biāo)注的語料中,對(duì)這種指代關(guān)系進(jìn)行統(tǒng)計(jì)得出,照應(yīng)環(huán)境要素基本上都是以“周圍”“附近”“外面”這種抽象的地理位置詞開頭,可以通過構(gòu)建一個(gè)抽象環(huán)境要素的詞典進(jìn)行識(shí)別,然后再找出其對(duì)應(yīng)的先行要素.這僅僅是初步的構(gòu)想,具體實(shí)現(xiàn)還要綜合各種因素進(jìn)行考慮.

    本文使用S分?jǐn)?shù)對(duì)3種方法的最終預(yù)測(cè)結(jié)果進(jìn)行比較,如圖7所示,E-R的S分?jǐn)?shù)達(dá)到了87.78%,相較于RF和ET的,分別提高了0.67%和1.98%。

    Figure 7 Prediction results under S_score

    E-R能夠發(fā)現(xiàn)更多的作業(yè)失敗情況,預(yù)測(cè)出了88.9%的失敗作業(yè),準(zhǔn)確率達(dá)到了85.22%,在最終的評(píng)估指標(biāo)S分?jǐn)?shù)中表現(xiàn)最好。

    5.4 對(duì)比實(shí)驗(yàn)

    在高性能計(jì)算系統(tǒng)的故障預(yù)測(cè)研究方面,一些研究使用邏輯回歸LR(Logistic Regression)[25]和樸素貝葉斯NB(Naive Bayes)算法[26]預(yù)測(cè)軟硬件故障,使用支持向量機(jī)SVM(Support Vector Machine)算法[17]預(yù)測(cè)作業(yè)失敗,然而,這些預(yù)測(cè)方法并未對(duì)作業(yè)名進(jìn)行聚類操作,也沒有通過作業(yè)名確定用戶的作業(yè)重復(fù)提交行為。

    由“讀若”線索可得出“介”通過音同借了“丯”草的意義,并由此引申出“微小”的意義。但是解釋假借單憑聲音關(guān)系是不夠的,還要結(jié)合字形來分析。

    在去掉輸入特征NSubmission和JobType的情況下,使用上述預(yù)測(cè)方法與前文E-R結(jié)果進(jìn)行比較,實(shí)驗(yàn)結(jié)果如表8所示,RF的預(yù)測(cè)效果優(yōu)于LR、NB和SVM的。其中,LR和NB預(yù)測(cè)效果非常差,顯然不適合該實(shí)驗(yàn)數(shù)據(jù)。SVM通過提高特征維度的方式,在高維空間擬合核函數(shù)(徑向基)尋找決策平面,計(jì)算開銷大,雖然準(zhǔn)確度可以達(dá)到73.48%,但對(duì)作業(yè)失敗的預(yù)測(cè)效果較差。

    該項(xiàng)目規(guī)劃占地面積69畝,總投資8850萬元。救災(zāi)物資儲(chǔ)備庫、救助管理站、未成年人救助保護(hù)中心、社會(huì)福利院、大平山農(nóng)村養(yǎng)老服務(wù)中心、兒童福利院、社會(huì)福利院老年養(yǎng)護(hù)樓、老年人活動(dòng)中心等已建成投入使用;二期項(xiàng)目將建設(shè)老年公寓。

    Table 8 Prediction effect of different methods

    5.5 建議

    通常對(duì)于預(yù)測(cè)失敗的作業(yè)會(huì)采取提前終止的方式,讓更多的成功作業(yè)能夠被執(zhí)行,然而這對(duì)用于科研生產(chǎn)的超級(jí)計(jì)算機(jī)是不友好的,因?yàn)檫@樣會(huì)損失大量失敗作業(yè)產(chǎn)生的錯(cuò)誤和中間輸出信息。這些信息對(duì)于用戶而言非常重要,用戶可以根據(jù)這些信息更好地調(diào)試,直到作業(yè)成功完成。因此,本文提供一些可選的建議和措施,在保證生產(chǎn)的同時(shí),也能夠提高系統(tǒng)的資源利用率:

    (1)調(diào)整調(diào)度優(yōu)先級(jí):在超級(jí)計(jì)算機(jī)中,采用先來先服務(wù)和回填調(diào)度的策略調(diào)度作業(yè)執(zhí)行順序。超級(jí)計(jì)算機(jī)上可能存在空閑資源。如果這些空閑資源不能滿足等待隊(duì)列中的頭作業(yè),那么系統(tǒng)將始終保留空閑資源。然而,所保留的空閑資源可能滿足后續(xù)隊(duì)列中其他短而小的作業(yè)需求。一般情況下,失敗作業(yè)的運(yùn)行時(shí)間會(huì)比正常完成的運(yùn)行時(shí)間短,因此可以有選擇地將一些適合回填插空的失敗作業(yè)優(yōu)先執(zhí)行,這樣可以讓用戶更快地知道結(jié)果,方便用戶調(diào)試作業(yè)。

    最終,本文保留了UID、ReqCPUS、NNodes、JobType、NSubmission和Submit這6個(gè)特征。

    6 結(jié)束語

    確保作業(yè)的有效執(zhí)行能夠盡可能地提高超級(jí)計(jì)算機(jī)的資源利用率,因此,對(duì)作業(yè)失敗做出有效的預(yù)測(cè)并采取有效的措施是至關(guān)重要的。本文通過對(duì)作業(yè)日志的探索和分析,挖掘出了與用戶行為相關(guān)的特性,即作業(yè)名聚類及作業(yè)提交次數(shù),這2種特性分別反映了用戶的工作行為模式和提交行為模式?;谕诰虺龅男袨槟J?,提出了E-R綜合預(yù)測(cè)方法。該方法的預(yù)測(cè)準(zhǔn)確率達(dá)到了85.22%,敏感度達(dá)到了88.9%,優(yōu)于其他相關(guān)研究方法。

    猜你喜歡
    特征作業(yè)用戶
    快來寫作業(yè)
    如何表達(dá)“特征”
    不忠誠的四個(gè)特征
    抓住特征巧觀察
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    作業(yè)
    故事大王(2016年7期)2016-09-22 17:30:08
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    如何獲取一億海外用戶
    線性代數(shù)的應(yīng)用特征
    河南科技(2014年23期)2014-02-27 14:19:15
    丝袜美腿在线中文| 国产精品一区www在线观看| 最近中文字幕2019免费版| 久久久久久久国产电影| 久久国内精品自在自线图片| 日日撸夜夜添| av播播在线观看一区| 国产爱豆传媒在线观看| h日本视频在线播放| 成人欧美大片| 三级毛片av免费| 亚洲精品第二区| 美女黄网站色视频| 小蜜桃在线观看免费完整版高清| 在现免费观看毛片| 日本午夜av视频| 特级一级黄色大片| 熟妇人妻久久中文字幕3abv| 最近最新中文字幕大全电影3| 亚洲国产精品成人久久小说| 中国国产av一级| 久久久久久久久大av| 亚洲真实伦在线观看| 亚洲电影在线观看av| 在线a可以看的网站| 成年女人看的毛片在线观看| 免费观看在线日韩| 身体一侧抽搐| 亚洲经典国产精华液单| 亚洲av二区三区四区| 色网站视频免费| 国产精品久久久久久久电影| 亚洲av二区三区四区| 成年女人看的毛片在线观看| 肉色欧美久久久久久久蜜桃 | 国产v大片淫在线免费观看| 欧美成人精品欧美一级黄| 亚洲精品456在线播放app| 超碰97精品在线观看| 国产69精品久久久久777片| 蜜桃亚洲精品一区二区三区| 中文字幕制服av| 极品教师在线视频| 久久久久久久大尺度免费视频| 欧美日韩亚洲高清精品| 国产大屁股一区二区在线视频| 国产免费又黄又爽又色| 国产伦在线观看视频一区| 免费看光身美女| 看黄色毛片网站| 免费大片黄手机在线观看| 日韩成人伦理影院| 日韩欧美国产在线观看| 99热全是精品| 午夜爱爱视频在线播放| 好男人视频免费观看在线| 久久精品综合一区二区三区| 天天躁夜夜躁狠狠久久av| h日本视频在线播放| kizo精华| 亚洲在线观看片| 久久精品夜色国产| 亚洲aⅴ乱码一区二区在线播放| 日本wwww免费看| 亚洲精品,欧美精品| 欧美日韩综合久久久久久| 亚洲欧美成人精品一区二区| 亚洲精品一二三| 久久久久免费精品人妻一区二区| 国产探花在线观看一区二区| 91精品国产九色| 久久草成人影院| 国产美女午夜福利| 一本久久精品| 少妇的逼好多水| 精品一区二区免费观看| 午夜福利在线在线| 国内少妇人妻偷人精品xxx网站| 蜜臀久久99精品久久宅男| 亚洲性久久影院| 亚洲精华国产精华液的使用体验| 国产91av在线免费观看| 亚洲va在线va天堂va国产| 国产一区二区亚洲精品在线观看| 日韩av在线免费看完整版不卡| 精品一区二区三区人妻视频| 国产男女超爽视频在线观看| 大香蕉久久网| 国产乱人偷精品视频| 性色avwww在线观看| 久久99热这里只频精品6学生| 国产精品久久久久久av不卡| videossex国产| 国产中年淑女户外野战色| 午夜激情福利司机影院| 亚洲精品中文字幕在线视频 | 亚洲av电影在线观看一区二区三区 | 十八禁国产超污无遮挡网站| 国产精品99久久久久久久久| 日本熟妇午夜| 亚洲欧美精品自产自拍| 日本与韩国留学比较| 中文天堂在线官网| 国产精品一区二区三区四区免费观看| 免费少妇av软件| 特大巨黑吊av在线直播| 最后的刺客免费高清国语| 丰满乱子伦码专区| av免费在线看不卡| 日韩伦理黄色片| 91av网一区二区| freevideosex欧美| 亚洲精品自拍成人| ponron亚洲| 欧美最新免费一区二区三区| 欧美+日韩+精品| 国产一区有黄有色的免费视频 | 日韩成人伦理影院| 亚洲三级黄色毛片| 亚洲图色成人| 如何舔出高潮| 久久人人爽人人片av| 三级毛片av免费| 毛片女人毛片| 成人无遮挡网站| 久久6这里有精品| av在线天堂中文字幕| 成人特级av手机在线观看| 国产亚洲91精品色在线| 欧美bdsm另类| 亚洲国产精品sss在线观看| 免费观看a级毛片全部| 国产精品一区二区性色av| 网址你懂的国产日韩在线| 国产伦理片在线播放av一区| 国产成人一区二区在线| 日韩在线高清观看一区二区三区| 久久久精品免费免费高清| 亚洲三级黄色毛片| 99热这里只有是精品50| 亚洲精品一区蜜桃| 国产久久久一区二区三区| 晚上一个人看的免费电影| 久久人人爽人人片av| 久久人人爽人人片av| 人妻夜夜爽99麻豆av| 高清视频免费观看一区二区 | 国产成年人精品一区二区| 我的女老师完整版在线观看| 七月丁香在线播放| 日韩制服骚丝袜av| 久久精品夜夜夜夜夜久久蜜豆| 免费播放大片免费观看视频在线观看| 色综合亚洲欧美另类图片| 热99在线观看视频| 精华霜和精华液先用哪个| 欧美bdsm另类| 亚洲欧美成人综合另类久久久| 在线免费观看的www视频| 色吧在线观看| 日日撸夜夜添| 亚洲综合色惰| 最近最新中文字幕免费大全7| 国内揄拍国产精品人妻在线| 在线观看一区二区三区| av免费观看日本| 国产精品无大码| 国产一区二区三区av在线| 男女啪啪激烈高潮av片| 精品一区二区三区人妻视频| 国产免费福利视频在线观看| 三级经典国产精品| www.av在线官网国产| 黄色配什么色好看| 国产熟女欧美一区二区| 欧美97在线视频| 国产探花在线观看一区二区| 亚洲av成人精品一区久久| 国产免费又黄又爽又色| 午夜免费观看性视频| 国产欧美日韩精品一区二区| 国产综合懂色| 成人欧美大片| 日韩在线高清观看一区二区三区| 看十八女毛片水多多多| 天天躁夜夜躁狠狠久久av| 精品国产一区二区三区久久久樱花 | 大又大粗又爽又黄少妇毛片口| 最近最新中文字幕大全电影3| 国产精品麻豆人妻色哟哟久久 | 日日撸夜夜添| 久久久国产一区二区| 欧美性猛交╳xxx乱大交人| 搡老妇女老女人老熟妇| 一夜夜www| 婷婷色综合www| 午夜精品在线福利| 午夜激情福利司机影院| 久热久热在线精品观看| 国产v大片淫在线免费观看| 国产成人aa在线观看| 国产视频内射| 欧美3d第一页| 精品人妻一区二区三区麻豆| 欧美成人午夜免费资源| 九九爱精品视频在线观看| 老师上课跳d突然被开到最大视频| 精品一区二区三卡| 亚洲人成网站在线观看播放| 欧美+日韩+精品| h日本视频在线播放| 国产精品.久久久| 欧美日韩一区二区视频在线观看视频在线 | av又黄又爽大尺度在线免费看| 国产av不卡久久| 国产精品爽爽va在线观看网站| 69人妻影院| 亚洲va在线va天堂va国产| 成人性生交大片免费视频hd| 亚洲精品中文字幕在线视频 | 国产精品精品国产色婷婷| 搡老乐熟女国产| 国精品久久久久久国模美| 好男人在线观看高清免费视频| 少妇熟女欧美另类| 久久精品国产鲁丝片午夜精品| av专区在线播放| 久久久久久久久久成人| 久久久久久久久久久免费av| 国产有黄有色有爽视频| 一区二区三区高清视频在线| 91av网一区二区| 国产精品三级大全| 日本免费a在线| 嫩草影院入口| 久久久久精品性色| 建设人人有责人人尽责人人享有的 | 国产精品美女特级片免费视频播放器| 亚洲av电影在线观看一区二区三区 | 欧美+日韩+精品| 黄色日韩在线| 国产乱人视频| 国产精品一及| 听说在线观看完整版免费高清| 午夜福利视频1000在线观看| 麻豆av噜噜一区二区三区| 午夜久久久久精精品| 欧美一级a爱片免费观看看| 亚洲无线观看免费| 欧美日韩综合久久久久久| ponron亚洲| 久久久久精品久久久久真实原创| 欧美另类一区| 一级毛片久久久久久久久女| 亚洲va在线va天堂va国产| 久久精品夜色国产| 蜜桃久久精品国产亚洲av| 精品国内亚洲2022精品成人| 亚洲精华国产精华液的使用体验| 国产精品1区2区在线观看.| av在线蜜桃| 亚洲精品日韩av片在线观看| 亚洲av成人精品一二三区| 中文精品一卡2卡3卡4更新| 啦啦啦中文免费视频观看日本| 毛片女人毛片| 晚上一个人看的免费电影| 又黄又爽又刺激的免费视频.| 中文字幕av在线有码专区| 国产精品1区2区在线观看.| freevideosex欧美| 亚洲伊人久久精品综合| 淫秽高清视频在线观看| 天天躁日日操中文字幕| 在线免费观看不下载黄p国产| 精品人妻一区二区三区麻豆| 在线播放无遮挡| 免费av不卡在线播放| 国产亚洲5aaaaa淫片| 国产成年人精品一区二区| 国产黄片视频在线免费观看| 国产亚洲精品久久久com| 又爽又黄a免费视频| 成人一区二区视频在线观看| 久久精品熟女亚洲av麻豆精品 | 纵有疾风起免费观看全集完整版 | 欧美另类一区| 国产av国产精品国产| 男人狂女人下面高潮的视频| 日韩视频在线欧美| 九草在线视频观看| 人妻夜夜爽99麻豆av| 欧美bdsm另类| 日本猛色少妇xxxxx猛交久久| 春色校园在线视频观看| 成年免费大片在线观看| 亚洲av在线观看美女高潮| 赤兔流量卡办理| 三级经典国产精品| 街头女战士在线观看网站| 久久久国产一区二区| 午夜福利在线观看吧| 99热这里只有是精品在线观看| 精品国内亚洲2022精品成人| 在线天堂最新版资源| 深夜a级毛片| 国产一区二区在线观看日韩| or卡值多少钱| 国产老妇伦熟女老妇高清| 精品99又大又爽又粗少妇毛片| 日韩在线高清观看一区二区三区| 亚洲国产高清在线一区二区三| 亚洲国产av新网站| 六月丁香七月| 免费黄色在线免费观看| 别揉我奶头 嗯啊视频| 国产伦精品一区二区三区四那| 国产av码专区亚洲av| 哪个播放器可以免费观看大片| 欧美一区二区亚洲| 成人av在线播放网站| 日本三级黄在线观看| 波多野结衣巨乳人妻| 精品一区二区三区人妻视频| 久久99热这里只有精品18| 久久韩国三级中文字幕| 久久99热6这里只有精品| 成人美女网站在线观看视频| 精品少妇黑人巨大在线播放| 男女边摸边吃奶| 久久久久久伊人网av| 久久6这里有精品| 干丝袜人妻中文字幕| 国产又色又爽无遮挡免| 夜夜看夜夜爽夜夜摸| 久久99热这里只有精品18| 久久99热这里只频精品6学生| 亚洲精品成人av观看孕妇| 午夜免费男女啪啪视频观看| 日本-黄色视频高清免费观看| 久久精品夜夜夜夜夜久久蜜豆| 欧美性感艳星| 成年人午夜在线观看视频 | 国产精品一区二区三区四区免费观看| 国产三级在线视频| 激情 狠狠 欧美| 亚洲国产精品成人久久小说| 亚洲人成网站高清观看| av.在线天堂| 99热网站在线观看| 欧美成人一区二区免费高清观看| 亚洲不卡免费看| 亚洲欧美一区二区三区黑人 | 99久国产av精品国产电影| 干丝袜人妻中文字幕| 亚洲精品一二三| 91久久精品电影网| 国产一区亚洲一区在线观看| 国产在视频线精品| 久久精品国产亚洲av天美| 岛国毛片在线播放| 亚洲自拍偷在线| 国产一区二区亚洲精品在线观看| 亚洲国产精品成人久久小说| 天堂网av新在线| av天堂中文字幕网| 久久久久久久久大av| videossex国产| 国产久久久一区二区三区| 少妇熟女aⅴ在线视频| av播播在线观看一区| 亚洲精品国产成人久久av| 成人性生交大片免费视频hd| 欧美潮喷喷水| 国内精品美女久久久久久| 亚洲精品色激情综合| 亚洲精品国产av成人精品| 乱码一卡2卡4卡精品| 你懂的网址亚洲精品在线观看| 久久国产乱子免费精品| 观看美女的网站| 超碰97精品在线观看| 国产伦理片在线播放av一区| 久久99精品国语久久久| 亚洲精品国产成人久久av| 欧美丝袜亚洲另类| 成人亚洲精品av一区二区| 熟妇人妻久久中文字幕3abv| 蜜臀久久99精品久久宅男| 青春草亚洲视频在线观看| 三级国产精品片| 久久久久久久久久成人| 免费播放大片免费观看视频在线观看| 欧美日韩国产mv在线观看视频 | 国产一区二区在线观看日韩| 国产成人a∨麻豆精品| 亚洲图色成人| 成人亚洲精品一区在线观看 | av一本久久久久| 麻豆av噜噜一区二区三区| 免费大片黄手机在线观看| 国产精品国产三级国产av玫瑰| 男人爽女人下面视频在线观看| 青春草视频在线免费观看| 亚洲精品乱码久久久久久按摩| 欧美性猛交╳xxx乱大交人| 99热6这里只有精品| 免费大片黄手机在线观看| 亚洲国产av新网站| 男人爽女人下面视频在线观看| 国产亚洲精品av在线| 国产不卡一卡二| 午夜精品在线福利| videos熟女内射| 一级毛片黄色毛片免费观看视频| 亚洲国产欧美在线一区| 51国产日韩欧美| 亚洲精华国产精华液的使用体验| 国产黄色免费在线视频| 两个人视频免费观看高清| av黄色大香蕉| av在线蜜桃| 国产精品精品国产色婷婷| 蜜桃久久精品国产亚洲av| 一级毛片黄色毛片免费观看视频| 国产视频首页在线观看| 欧美 日韩 精品 国产| 日本-黄色视频高清免费观看| 少妇的逼好多水| 久久草成人影院| 永久网站在线| 亚洲最大成人av| 国产在视频线在精品| 中文字幕av成人在线电影| 欧美zozozo另类| 国产高清三级在线| 亚洲精品,欧美精品| 好男人视频免费观看在线| 中文字幕久久专区| 国产精品福利在线免费观看| 18禁在线无遮挡免费观看视频| 在线观看人妻少妇| 2022亚洲国产成人精品| 欧美zozozo另类| 丝袜喷水一区| 自拍偷自拍亚洲精品老妇| or卡值多少钱| 久久久久精品性色| 国产午夜精品论理片| 99久久精品热视频| 亚洲欧美中文字幕日韩二区| 欧美人与善性xxx| 精品久久久久久久久亚洲| 成人无遮挡网站| 国产成人一区二区在线| 99久久精品热视频| 简卡轻食公司| 特级一级黄色大片| 日韩大片免费观看网站| 非洲黑人性xxxx精品又粗又长| 国产精品.久久久| 偷拍熟女少妇极品色| 十八禁国产超污无遮挡网站| 最新中文字幕久久久久| 久99久视频精品免费| 黄色一级大片看看| 国产av不卡久久| 女的被弄到高潮叫床怎么办| 国产精品一区二区性色av| 日本爱情动作片www.在线观看| 欧美一级a爱片免费观看看| 只有这里有精品99| 禁无遮挡网站| 国产一区二区三区综合在线观看 | 搡女人真爽免费视频火全软件| 国产精品国产三级国产专区5o| 国产有黄有色有爽视频| 青青草视频在线视频观看| 国产免费又黄又爽又色| 97人妻精品一区二区三区麻豆| 高清欧美精品videossex| 午夜免费男女啪啪视频观看| 婷婷六月久久综合丁香| 国产一级毛片在线| 91久久精品电影网| 嫩草影院入口| 麻豆成人av视频| 亚洲av福利一区| 狠狠精品人妻久久久久久综合| 男人舔奶头视频| 国产亚洲av嫩草精品影院| 国产在线男女| 亚洲国产av新网站| 久久人人爽人人片av| 国产免费福利视频在线观看| av卡一久久| 色5月婷婷丁香| 97超视频在线观看视频| 麻豆乱淫一区二区| 肉色欧美久久久久久久蜜桃 | 久久精品综合一区二区三区| 99热这里只有精品一区| 婷婷色麻豆天堂久久| 2021少妇久久久久久久久久久| 日韩国内少妇激情av| 国产一区二区亚洲精品在线观看| 色尼玛亚洲综合影院| 2022亚洲国产成人精品| 一本久久精品| 亚洲经典国产精华液单| 听说在线观看完整版免费高清| 亚洲在线自拍视频| 99久久精品热视频| 成人鲁丝片一二三区免费| 精品一区二区三区人妻视频| 久久99热这里只频精品6学生| 大又大粗又爽又黄少妇毛片口| 色综合亚洲欧美另类图片| 国产单亲对白刺激| 亚洲精品亚洲一区二区| 亚洲国产精品成人久久小说| 身体一侧抽搐| av卡一久久| 在线播放无遮挡| 有码 亚洲区| 国产亚洲av片在线观看秒播厂 | 97超视频在线观看视频| 亚洲国产成人一精品久久久| av网站免费在线观看视频 | 久久精品国产亚洲网站| 人人妻人人澡人人爽人人夜夜 | 久久国内精品自在自线图片| h日本视频在线播放| 激情 狠狠 欧美| 欧美潮喷喷水| 国产成人免费观看mmmm| 丝瓜视频免费看黄片| 国产真实伦视频高清在线观看| 在线免费观看不下载黄p国产| 国产免费一级a男人的天堂| videossex国产| 亚洲最大成人中文| 嫩草影院精品99| 秋霞伦理黄片| 日韩制服骚丝袜av| 欧美成人午夜免费资源| 午夜日本视频在线| 国产精品久久视频播放| 久久久久国产网址| 激情五月婷婷亚洲| av在线老鸭窝| 久久这里只有精品中国| 99久国产av精品| 午夜福利高清视频| 亚洲精品日本国产第一区| 美女脱内裤让男人舔精品视频| 在线观看免费高清a一片| 国产精品不卡视频一区二区| 2018国产大陆天天弄谢| 中文字幕久久专区| 日韩欧美三级三区| 日日啪夜夜爽| 精品久久久久久电影网| 亚洲精品乱码久久久v下载方式| 91av网一区二区| 麻豆乱淫一区二区| 91午夜精品亚洲一区二区三区| 春色校园在线视频观看| 国产精品一区二区在线观看99 | 大香蕉97超碰在线| 亚洲成人av在线免费| 一本久久精品| .国产精品久久| 六月丁香七月| 国产伦在线观看视频一区| 久久久精品欧美日韩精品| 成人欧美大片| av免费在线看不卡| 国产在线一区二区三区精| 精品国产三级普通话版| 99热这里只有精品一区| 国产不卡一卡二| 91精品国产九色| 3wmmmm亚洲av在线观看| 一级av片app| av免费观看日本| 又爽又黄无遮挡网站| 欧美日韩在线观看h| 人妻系列 视频| 国产极品天堂在线| 青春草国产在线视频| 2021天堂中文幕一二区在线观| 国产精品美女特级片免费视频播放器| 寂寞人妻少妇视频99o| 午夜精品在线福利| 永久网站在线| 国产老妇伦熟女老妇高清| 亚洲欧美一区二区三区黑人 | 国产午夜福利久久久久久| 国语对白做爰xxxⅹ性视频网站| 亚洲经典国产精华液单| 18禁在线无遮挡免费观看视频| 黄色日韩在线| 亚洲精品影视一区二区三区av| 黄色日韩在线| 午夜老司机福利剧场| 免费av不卡在线播放| 天天躁日日操中文字幕| 波野结衣二区三区在线| 亚洲婷婷狠狠爱综合网| 色网站视频免费| 精品久久久精品久久久| 亚洲第一区二区三区不卡| 午夜精品在线福利| 两个人的视频大全免费|