• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于用戶行為的超級(jí)計(jì)算機(jī)作業(yè)失敗預(yù)測方法*

    2022-10-28 01:52:38唐陽坤楊文祥張曉蓉王耀彬
    關(guān)鍵詞:特征作業(yè)用戶

    唐陽坤,鮮 港,楊文祥,喻 杰,張曉蓉,王耀彬

    (1.西南科技大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,四川 綿陽 621010;2.中國空氣動(dòng)力研究與發(fā)展中心計(jì)算空氣動(dòng)力研究所,四川 綿陽 621050;3.國防科技大學(xué)計(jì)算機(jī)學(xué)院,湖南 長沙 410073)

    1 引言

    隨著數(shù)據(jù)科學(xué)的發(fā)展與進(jìn)步,科學(xué)研究和工程項(xiàng)目越來越依賴超級(jí)計(jì)算機(jī)。同時(shí),隨著高性能計(jì)算性能從P級(jí)向E級(jí)發(fā)展,計(jì)算結(jié)點(diǎn)不斷增加,多核執(zhí)行應(yīng)用程序的并行規(guī)模不斷擴(kuò)大,作業(yè)發(fā)生故障和錯(cuò)誤的可能性也隨著軟件和硬件上復(fù)雜性的增加而增加[1],作業(yè)失敗事件會(huì)影響高性能計(jì)算系統(tǒng)的執(zhí)行效率。

    每天都會(huì)有大量的作業(yè)提交到超級(jí)計(jì)算機(jī),然而,其中有相當(dāng)一部分作業(yè)不能夠正常完成。最近的一些研究分析了Google公司的集群作業(yè)負(fù)載日志,其中大約有40%的作業(yè)不能夠正常完成[2,3]。這些作業(yè)還占據(jù)了大部分集群工作時(shí)間(失敗或者被殺死)[4-7]。此外,本文分析了一臺(tái)用于科研的超級(jí)計(jì)算機(jī)的作業(yè)日志,在調(diào)研的正常終止(完成與失敗)的作業(yè)中,大約有31%的失敗作業(yè)。這些不能正常完成的作業(yè)會(huì)導(dǎo)致系統(tǒng)的計(jì)算資源不能夠有效利用,同時(shí)也會(huì)延長正在排隊(duì)的作業(yè)等待時(shí)間。如果提前預(yù)測出失敗作業(yè),并采取一定的應(yīng)對(duì)措施,能夠提高系統(tǒng)資源利用率,同時(shí)對(duì)提升系統(tǒng)的執(zhí)行效率也至關(guān)重要。

    機(jī)器學(xué)習(xí)是目前廣泛用于預(yù)測研究的技術(shù),尋找有利于預(yù)測目標(biāo)和有價(jià)值的特征對(duì)提升預(yù)測效果至關(guān)重要。超級(jí)計(jì)算機(jī)的作業(yè)調(diào)度系統(tǒng)記錄了每一個(gè)運(yùn)行作業(yè)的歷史日志信息。本文對(duì)大量歷史作業(yè)日志進(jìn)行綜合分析,發(fā)現(xiàn)了一些新的可用于預(yù)測作業(yè)失敗的特征。除了時(shí)間、資源等用于預(yù)測作業(yè)狀態(tài)的傳統(tǒng)特征外,還可以利用作業(yè)名的命名規(guī)律及提交行為作為預(yù)測模型的輸入。

    在作業(yè)日志中,存在大量語義組成相似的作業(yè)名,一般是通過改變尾綴及組成間隔方式標(biāo)記作業(yè)的工作內(nèi)容,這些組成相似的作業(yè)名通常具有相似的工作模式及內(nèi)容,反映用戶的一種工作行為模式。本文根據(jù)作業(yè)名語義組成提出了一種作業(yè)名聚類方法。

    最后,農(nóng)業(yè)污染問題突出。近年來,廣西很多農(nóng)產(chǎn)品數(shù)量在全國位居前列,但隨之而來的是農(nóng)業(yè)投入品如化肥、農(nóng)藥及農(nóng)膜增加,農(nóng)業(yè)面源污染問題加劇。從表4可知,近年來,廣西農(nóng)業(yè)投入品的使用量都出現(xiàn)不同程度的增加(除柴油下降外),且化肥、農(nóng)藥等利用率低、流失率高,加劇了農(nóng)業(yè)面源的污染程度,導(dǎo)致農(nóng)業(yè)農(nóng)村綠色發(fā)展受制約。

    表3報(bào)告了我們最為關(guān)注的三個(gè)變量 ——金融發(fā)展指標(biāo)FD、經(jīng)濟(jì)增長率Growth與金融開放指標(biāo)kaopen指數(shù)間的相關(guān)關(guān)系??梢娡粯颖鹃g的經(jīng)濟(jì)增長率與金融發(fā)展呈現(xiàn)出顯著的負(fù)相關(guān)關(guān)系,這暗示金融發(fā)展與經(jīng)濟(jì)增長之間可能存在一個(gè)反向影響的關(guān)系;金融發(fā)展與金融開放的相關(guān)關(guān)系顯著為正,這在一定程度上符合先前的文獻(xiàn)研究結(jié)論:金融開放會(huì)極大促進(jìn)金融資源的跨地配置,并通過金融機(jī)構(gòu)間的競爭促進(jìn)金融發(fā)展。kaopen與經(jīng)濟(jì)增長的相關(guān)關(guān)系沒有通過顯著性檢驗(yàn)。這意味著我們需要通過回歸模型來進(jìn)一步確定兩者間的相關(guān)關(guān)系。

    基于作業(yè)名,發(fā)現(xiàn)同一用戶下同一作業(yè)名的作業(yè)重復(fù)提交次數(shù)與失敗作業(yè)的分布存在潛在關(guān)系,這種作業(yè)的重復(fù)提交次數(shù)反映了用戶的提交行為模式,該特征和潛在模式將在3.1節(jié)詳細(xì)闡述。聚類后的作業(yè)名及提交次數(shù)被用作預(yù)測作業(yè)失敗的新輸入特征。

    本文首先分析了作業(yè)日志中作業(yè)相關(guān)屬性的作業(yè)失敗分布狀況,同時(shí)結(jié)合作業(yè)特征相關(guān)性分析,提出基于樹結(jié)構(gòu)模型的綜合方法預(yù)測作業(yè)失敗,提升了預(yù)測效果。最后,對(duì)預(yù)測為失敗的作業(yè)提出可供選擇的建議。

    2 相關(guān)工作

    應(yīng)用程序的有效執(zhí)行對(duì)科學(xué)研究和工程項(xiàng)目至關(guān)重要。然而,超級(jí)計(jì)算機(jī)的規(guī)模和復(fù)雜性不斷增加導(dǎo)致故障的可能性增加,已有大量的相關(guān)研究分析了軟件和硬件故障,并提出了故障預(yù)測方法。

    在軟件故障預(yù)測方面,Jayanthi等人[8,9]使用神經(jīng)網(wǎng)絡(luò)分類器方法對(duì)軟件可靠性進(jìn)行預(yù)測和對(duì)軟件缺陷預(yù)測進(jìn)行建模;Padhy等人[10]提出了一種基于遺傳算法的具有成本效益和故障彈性的可重用性預(yù)測模型;Manjula等人[11]提出了一種基于混合方法的深度神經(jīng)網(wǎng)絡(luò),并使用軟件度量標(biāo)準(zhǔn)進(jìn)行軟件缺陷預(yù)測。

    在硬件故障預(yù)測方面,Hamerly等人[12]提出使用樸素貝葉斯分類來預(yù)測硬盤故障;Nie等人[13]選用系統(tǒng)特性(如溫度、功耗和應(yīng)用狀態(tài))作為預(yù)測GPU錯(cuò)誤的特征;Das等人[14]通過使用系統(tǒng)日志訓(xùn)練遞歸神經(jīng)網(wǎng)絡(luò)模型來預(yù)測節(jié)點(diǎn)故障。

    大多數(shù)故障預(yù)測方法都是基于事件設(shè)計(jì)的。Schroeder等人[15]對(duì)HPC系統(tǒng)故障進(jìn)行研究,該研究表明HPC集群和云集群的故障率正在增加。Snir等人[16]給出的調(diào)查結(jié)果表明,故障預(yù)測器的召回率低于50%。劉春紅等人[17]基于支持向量機(jī)算法使用動(dòng)態(tài)和靜態(tài)工作特征預(yù)測工作狀態(tài)。Yoo等人[1]基于隨機(jī)森林算法使用資源相關(guān)特征預(yù)測工作狀態(tài)。Nakka等人[18]使用決策樹算法來預(yù)測HPC系統(tǒng)中的節(jié)點(diǎn)故障。

    3 數(shù)據(jù)預(yù)處理及分析

    3.1 數(shù)據(jù)來源及介紹

    中國空氣動(dòng)力研究與發(fā)展中心CARDC(China Aerodynamics Research and Development Center)致力于計(jì)算流體力學(xué)CFD(Computational Fluid Dynamics)研究工作。本文分析了該中心一臺(tái)超級(jí)計(jì)算機(jī)一年的歷史作業(yè)日志。

    本文研究的超級(jí)計(jì)算機(jī)中的作業(yè)調(diào)度系統(tǒng)是SLURM[19]。每一條作業(yè)的執(zhí)行記錄都單獨(dú)保存在日志的一行中,其中包含了很多字段,如作業(yè)ID(JobID)、執(zhí)行狀態(tài)(State)、用戶ID(UID)、請(qǐng)求CPU數(shù)量(ReqCPUS)、作業(yè)名(JobName)、分配CPU數(shù)量(AllocCPUS)、使用節(jié)點(diǎn)數(shù)量(NNodes)、使用節(jié)點(diǎn)列表(NodeList)、作業(yè)名(JobName)、提交時(shí)間(Submit)、開始時(shí)間(Start)、結(jié)束時(shí)間(End)和退出碼(ExitCode)等。

    為了保護(hù)用戶的隱私,本文中所展示的所有數(shù)據(jù)信息均已脫敏。

    3-吲哚基環(huán)氧丙烷和3-咔唑基環(huán)氧丙烷單體的合成不同于前三種聚醚的對(duì)應(yīng)單體的合成,其合成方法要簡單很多,通過四丁基溴化銨(TBAB)作為催化劑,使反應(yīng)在常溫下進(jìn)行[24,31].這類單體通過陰離子聚合得到的聚醚同樣是單手性螺旋結(jié)構(gòu)并能穩(wěn)定存在于溶液中(見圖6).該類聚醚一樣具有光學(xué)活性,通過比旋旋光,圓二色譜和紫外可見光譜數(shù)據(jù)顯示聚醚能在溶液中保持螺旋構(gòu)像.

    3.2 定義與說明

    作業(yè)失敗通常定義為當(dāng)系統(tǒng)中的錯(cuò)誤行為導(dǎo)致錯(cuò)誤輸出時(shí)發(fā)生的事件。在本文中,作業(yè)失敗由作業(yè)調(diào)度器定義,適用范圍更加廣泛,定義和說明如下:

    根據(jù)每個(gè)用戶提交的作業(yè),統(tǒng)計(jì)出同一作業(yè)名的重復(fù)提交次數(shù),本文研究的日志數(shù)據(jù)集中同一作業(yè)名提交的最高次數(shù)為12 824。失敗作業(yè)的分布也呈現(xiàn)出一種潛在的模式。如圖1所示,在大約6 000次以內(nèi),失敗作業(yè)的數(shù)量占比大部分不高于50%;在大約7 500次后,失敗作業(yè)的數(shù)量占比開始出現(xiàn)100%的情況。可以發(fā)現(xiàn),失敗作業(yè)的占比隨著提交次數(shù)的增加表現(xiàn)出了增加的趨勢(shì)。在本文中,提交次數(shù)將作為一個(gè)新的學(xué)習(xí)特征,并命名為NSubmission。

    定義1成功作業(yè):在SLURM作業(yè)日志中執(zhí)行狀態(tài)為COMPLETED,即正常完成的作業(yè)。

    定義2失敗作業(yè):在SLURM作業(yè)日志中執(zhí)行狀態(tài)為FAILED,即失敗的作業(yè)。

    定義3提交次數(shù):同一用戶下同一作業(yè)名的作業(yè)重復(fù)提交的次數(shù)。

    定義4作業(yè)類型:具有相似作業(yè)名的作業(yè)屬于同一作業(yè)類型。

    在作業(yè)日志中,作業(yè)名可能由用戶命名,或者由軟件命名,代表著某一應(yīng)用,作業(yè)名相同并不意味著這些作業(yè)內(nèi)部結(jié)構(gòu)完全一致,也許更改了參數(shù),或者調(diào)整了數(shù)據(jù)規(guī)模等。同一用戶下存在對(duì)相同作業(yè)名重復(fù)提交的情況,這反映了用戶對(duì)作業(yè)的一種行為模式。此外,作業(yè)日志中有大量相似的作業(yè)名,它們之間只存在細(xì)微的差別,這些作業(yè)可能存在相似的特性,為了降低其自身冗余性,將對(duì)作業(yè)名進(jìn)行聚類處理,一類作業(yè)名屬于同一種作業(yè)類型。

    從作業(yè)日志中篩選出只包含成功作業(yè)和失敗作業(yè)的記錄。在預(yù)測實(shí)驗(yàn)中,需要將數(shù)據(jù)切分為測試集和訓(xùn)練集,然而這2種狀態(tài)的作業(yè)比例不均衡,失敗作業(yè)大約占比為31%,采用隨機(jī)切割法可能會(huì)導(dǎo)致模型學(xué)習(xí)更傾向于預(yù)測為成功作業(yè),非常不利于機(jī)器學(xué)習(xí)預(yù)測。因此,本文對(duì)作業(yè)日志采用分層切割的方法,保留訓(xùn)練集和測試集的失敗作業(yè)占比與原始失敗作業(yè)占比一致,同時(shí)需要過濾一些無意義的、樣本數(shù)據(jù)異常的和不利于切分的用戶作業(yè)記錄,以保證實(shí)驗(yàn)結(jié)果的有效性。

    3.3 數(shù)據(jù)預(yù)處理

    同時(shí),作業(yè)日志中存在很多狀態(tài)的作業(yè)記錄,除了成功作業(yè)和失敗作業(yè),還有已取消的、正在排隊(duì)的和正在運(yùn)行的作業(yè)。本文主要針對(duì)作業(yè)的失敗進(jìn)行預(yù)測,因此只關(guān)注作業(yè)日志中的成功作業(yè)和失敗作業(yè),即State字段為COMPLETED和FAILED的作業(yè)為預(yù)測對(duì)象。

    3.4 作業(yè)失敗影響因素分析

    SLURM作業(yè)日志中所記錄的所有字段(特征)中,有一部分只有在作業(yè)終止時(shí)才可以獲得,比如結(jié)束時(shí)間、退出碼等。本文研究的目的是提前預(yù)測作業(yè)的失敗,因此這些作業(yè)終止后才能獲得的特征不能作為作業(yè)失敗預(yù)測模型的輸入特征。

    在余下的可選特征中,關(guān)注了一些與作業(yè)屬性相關(guān)的傳統(tǒng)特征,如表1所示。

    Table 1 Traditional features related to job attributes

    ReqCPUS和AllocCPUS均與作業(yè)的資源需求有關(guān),作業(yè)失敗通常是由于軟硬件因素所導(dǎo)致的,這2個(gè)特征可能會(huì)是作業(yè)失敗的影響因素。

    網(wǎng)絡(luò)口碑是在社交網(wǎng)絡(luò)興起的背景下出現(xiàn)的,其滿足了消費(fèi)者之間互動(dòng)的需要。消費(fèi)者之間的互動(dòng)不僅可以提升消費(fèi)者價(jià)值,而且可以滿足其自我表達(dá)的需要。另外,消費(fèi)者之間的互動(dòng)能夠讓消費(fèi)者產(chǎn)生內(nèi)在的愉悅感。根據(jù)Baloglu等[27]研究,與專業(yè)建議、廣告和書籍(電影、新聞)等媒體相比,網(wǎng)絡(luò)口碑對(duì)顧客感知特定品牌形象的影響最大,高達(dá)76%的消費(fèi)者在購買決策時(shí)會(huì)受到網(wǎng)絡(luò)口碑的影響。這意味著,無論消費(fèi)者在哪里交流,他們?cè)谏缃痪W(wǎng)站上傳遞可靠的信息可能會(huì)改變其他消費(fèi)者的行為和態(tài)度。

    NNodes代表了作業(yè)所使用的計(jì)算結(jié)點(diǎn)數(shù)量,與作業(yè)的規(guī)模相關(guān)。通常作業(yè)使用的結(jié)點(diǎn)數(shù)量越多,并行規(guī)模越大,程序交互行為就越復(fù)雜,可能受到環(huán)境噪聲的影響程度就越大。

    如表2所示,單結(jié)點(diǎn)作業(yè)中成功作業(yè)數(shù)量占82.71%,失敗作業(yè)數(shù)量占17.29%;多結(jié)點(diǎn)作業(yè)中成功作業(yè)數(shù)量占66.69%,失敗作業(yè)數(shù)量占33.31%。

    多結(jié)點(diǎn)作業(yè)的失敗率相對(duì)于單結(jié)點(diǎn)作業(yè)的明顯更高,這說明,作業(yè)在多個(gè)結(jié)點(diǎn)上并行執(zhí)行,由于結(jié)點(diǎn)之間需要相互通信,它們的交互性和復(fù)雜性更強(qiáng),相對(duì)于單結(jié)點(diǎn)作業(yè)也越容易失敗。因此,NNodes這個(gè)特征可以用于預(yù)測作業(yè)失敗。

    試驗(yàn)雞來自北京市華都峪口禽業(yè)有限責(zé)任公司,挑選體重相近、體況健康的9周齡“京紅1號(hào)”蛋種雞1 260只,飼養(yǎng)試驗(yàn)在華都峪口禽業(yè)有限責(zé)任公司鮑官莊養(yǎng)殖基地進(jìn)行。

    Table 2 Distribution of single-node and multi-node job state

    Submit為當(dāng)前作業(yè)的提交時(shí)間,在作業(yè)日志中的記錄樣式為:2020-01-01T10:24:36。日志分析中發(fā)現(xiàn),同類型作業(yè)在提交時(shí)間上比較接近。如大量相似的作業(yè)同時(shí)提交,說明這些作業(yè)很可能來自于用戶的同一工程項(xiàng)目或研究;在非常接近的時(shí)間里提交的相似作業(yè),其工作應(yīng)用模式也具有相似性,在一定程度上反映了作業(yè)的工作特點(diǎn)。

    作業(yè)日志中JobName是當(dāng)前作業(yè)的一種標(biāo)識(shí),與作業(yè)內(nèi)容意義相關(guān)。如表3所示,存在大量的相似作業(yè)名,比如,字符串中只有數(shù)字符號(hào)不一樣,其他內(nèi)容都非常接近,這些作業(yè)的工作特性可能比較相似。如果能夠有效地對(duì)作業(yè)名進(jìn)行聚類處理,將會(huì)大大減少冗余信息,提升預(yù)測效率。

    Table 3 Two types of similar job names

    4 作業(yè)失敗狀態(tài)預(yù)測方法

    4.1 特征向量

    (1)作業(yè)名聚類。

    在作業(yè)日志中,有1 564條不同的作業(yè)名,這些作業(yè)名主要是由字母、數(shù)字及下劃線等特殊字符組成。其中,數(shù)字代表版本或者編號(hào)等,下劃線等特殊字符起間隔作用,對(duì)作業(yè)的應(yīng)用意義不大。因此,為了降低計(jì)算開銷,只保留字母并將其小寫化。通過使用最長公共子序列LCS(Longest Common Subsequence)算法[20]來計(jì)算不同作業(yè)名之間的相似長度,其計(jì)算公式如式(1)所示:

    (1)

    其中,i和j分別代表x和y字符串的長度,c[i,j]表示x和y這2個(gè)字符串的最長公共子序列的長度。為了防止因不同作業(yè)名之間的相似長度的量綱不一致而對(duì)聚類結(jié)果產(chǎn)生影響,采用將相似度數(shù)據(jù)量綱控制在0~1,其相似度計(jì)算公式如式(2)所示:

    (2)

    通過式(2)可以計(jì)算得到2個(gè)作業(yè)名之間的相似度。對(duì)兩兩作業(yè)名計(jì)算相似度可以得到相似度矩陣。相似度矩陣的樣例如下所示:

    然后,以相似度矩陣作為輸入,采用k-Means聚類算法[21]對(duì)作業(yè)名進(jìn)行聚類,其中k-Means聚類算法的k值表示最終聚類的類別數(shù),由聚類的目的確定。本文當(dāng)同一類作業(yè)名之間的相似度均大于0.8時(shí)為最佳k值。最終得到了507類作業(yè)名(作業(yè)類型),在本文中,將聚類后的作業(yè)類型命名為JobType。

    (2)構(gòu)建特征。

    除了作業(yè)日志中的原始特征外,本文還探索出一種新的特征,即同一用戶下同一作業(yè)名的重復(fù)提交次數(shù),反映了用戶的一種作業(yè)提交行為模式。

    在作業(yè)日志中,并沒有對(duì)用戶的提交行為進(jìn)行定義,本文是基于作業(yè)名和用戶ID來確定用戶的作業(yè)提交行為。用戶多次提交相同作業(yè)存在多種原因,如有的用戶需要逐步改變作業(yè)內(nèi)部參數(shù),或者是在用同一作業(yè)測試某一項(xiàng)工作等。

    從圖2剝落斷口宏觀形貌可以看出,斷面出現(xiàn)呈彎曲并相互平行的溝槽狀花樣,與裂紋擴(kuò)展方向垂直,是裂紋擴(kuò)展時(shí)留下的微觀痕跡,屬于明顯弧形疲勞輝紋,其反向指向裂紋源(A區(qū)域),疲勞裂紋從A區(qū)域向B方向擴(kuò)展,形成一個(gè)疲勞擴(kuò)展帶(AB),與此同時(shí)AB裂紋兩側(cè)向C方向擴(kuò)展,最終導(dǎo)致大面積剝落,疲勞擴(kuò)展帶見圖2中光滑的氧化區(qū)域所示。從剝落斷口宏觀形貌進(jìn)行分析得出,剝落裂紋的起始位置處于支承輥淬硬層厚度位置,然后沿著剪切應(yīng)力方向擴(kuò)展,直至剝落。因此,該支承輥失效形式屬典型的疲勞剝落失效。剝落是從支承輥次表層開始,由疲勞裂紋順著剪切面擴(kuò)展而形成。

    Figure 1 Proportion of failed jobs under different submission times

    在ET和RF中,NSubmission和JobType的特征重要性排名前三。在2種方法中,UID和JobType的重要性占比非常接近,說明JobType和UID對(duì)模型預(yù)測作用起到了良好的效果,同時(shí)NSubmission和JobType的綜合重要性均超過了40%,即2個(gè)特征在決策子樹產(chǎn)生分支過程中起到了重要作用。

    通過前文的分析和探索,得到如表4所示的特征作為本文預(yù)測模型的輸入特征。

    Table 4 Attribute and name of each feature

    在這些特征中,可能會(huì)存在一些冗余特征,影響預(yù)測效果。由于本文的預(yù)測屬于分類問題,因此需要過濾離散程度相近且呈線性相關(guān)的特征。離散度計(jì)算公式如式(3)所示:

    項(xiàng)目來源有多種,如教師的科研項(xiàng)目、某些領(lǐng)域的研究熱點(diǎn)、發(fā)明專利,等等。就目前我們開展的項(xiàng)目來看,基本是軟件和硬件結(jié)合的項(xiàng)目。項(xiàng)目開發(fā)的目標(biāo)是參加各種競賽及形成科研成果,如發(fā)表學(xué)術(shù)論文、申請(qǐng)專利。

    (3)

    Figure 2 Degree of dispersion of each feature(logarithmic display)

    Figure 3 Correlation matrix

    使用Pearson系數(shù)[22]計(jì)算特征之間的相關(guān)性,其計(jì)算公式如式(4)所示:

    (4)

    其中,x,y分別代表n維特征向量。

    相關(guān)系數(shù)矩陣如圖3所示。相關(guān)系數(shù)的范圍在0~1,系數(shù)的絕對(duì)值越接近于1,說明2個(gè)特征的相關(guān)性越強(qiáng)。

    正確識(shí)別出大多數(shù)成功作業(yè)能夠大幅提升準(zhǔn)確率,但在實(shí)際應(yīng)用中,希望能夠發(fā)現(xiàn)更多可能失敗的作業(yè),以及時(shí)做出有效應(yīng)對(duì)措施。因此,基于2種評(píng)估指標(biāo)和實(shí)際應(yīng)用情況,本文又提出了加權(quán)平均S分?jǐn)?shù)(S_score)。在S分?jǐn)?shù)中敏感度的權(quán)重大于特異性,其計(jì)算公式如式(9)所示:

    (2)設(shè)置檢查點(diǎn):預(yù)測為失敗的作業(yè)將得到用戶更多的關(guān)注,建議用戶在作業(yè)中設(shè)置檢查點(diǎn),這樣可以在失敗的作業(yè)重啟時(shí)從最近的檢查點(diǎn)開始執(zhí)行,不用從頭開始執(zhí)行,這樣可以節(jié)約系統(tǒng)資源。

    4.2 機(jī)器學(xué)習(xí)算法

    集成學(xué)習(xí)是目前應(yīng)用非常廣泛的機(jī)器學(xué)習(xí)算法,通過構(gòu)建多個(gè)學(xué)習(xí)模型,然后集成所有學(xué)習(xí)模型的建模結(jié)果作為輸出結(jié)果。

    第二個(gè)驅(qū)動(dòng)是終端用能結(jié)構(gòu)優(yōu)化。電能替代是終端用能結(jié)構(gòu)優(yōu)化的重要途徑。前三季度,全國累計(jì)完成電能替代量1 216億千瓦時(shí),對(duì)用電增長的貢獻(xiàn)率達(dá)29.1%。工農(nóng)業(yè)生產(chǎn)、居民生活、交通運(yùn)輸領(lǐng)域電能替代量分別占77%、11%、8%。

    隨機(jī)森林RF(Random Forest)[23]是一種裝袋式(Bagging)集成學(xué)習(xí)算法,通過構(gòu)建多個(gè)獨(dú)立的決策樹,每棵決策樹有放回地隨機(jī)從訓(xùn)練數(shù)據(jù)集中抽取數(shù)據(jù)訓(xùn)練決策樹。對(duì)于分類決策樹,選擇決策樹結(jié)果為多數(shù)的類別作為隨機(jī)森林的決策結(jié)果。

    在隨機(jī)森林算法中,每棵樹通過計(jì)算不純度產(chǎn)生分裂節(jié)點(diǎn),即子節(jié)點(diǎn)不純度應(yīng)低于父節(jié)點(diǎn)。在本文中,隨機(jī)森林使用基尼系數(shù)(Gini Impurity)作為不純度計(jì)算方法,計(jì)算公式如式(5)所示:

    (5)

    其中,t表示指定的節(jié)點(diǎn),c表示樣本類別數(shù),p(b|t)表示分類標(biāo)簽b在節(jié)點(diǎn)t上的占比。

    極端隨機(jī)樹ET(ExtraTrees)[24]也是多個(gè)決策樹集成學(xué)習(xí)算法。與隨機(jī)森林不同的是每棵樹都使用整個(gè)學(xué)習(xí)樣本進(jìn)行訓(xùn)練,且自上而下的節(jié)點(diǎn)劃分是隨機(jī)的,不計(jì)算每個(gè)特征的最優(yōu)劃分點(diǎn),而是從特征經(jīng)驗(yàn)范圍內(nèi)均勻隨機(jī)選取。在所有隨機(jī)的劃分點(diǎn)中,選擇其中分叉值最高的作為節(jié)點(diǎn)的劃分點(diǎn)。

    二是在建設(shè)農(nóng)渠時(shí)優(yōu)先選址在林地內(nèi)以節(jié)約耕地資源。目前累計(jì)節(jié)約耕地2500畝。渠道建好后及時(shí)在兩邊植樹造林,做到渠成林成,形成“渠內(nèi)碧水流,渠邊綠樹幽;樹木站兩邊,樹影映悠悠”的景象,實(shí)現(xiàn)“渠在林中”。

    5 實(shí)驗(yàn)與結(jié)果分析

    5.1 預(yù)測方法

    在預(yù)測實(shí)驗(yàn)中,傾向于發(fā)現(xiàn)更多可能失敗的作業(yè)。本文設(shè)計(jì)了綜合預(yù)測框架E-R(Extra-Random),如圖4所示,分別使用ET和RF訓(xùn)練預(yù)測模型,將2個(gè)模型的子結(jié)果相結(jié)合得出最終的預(yù)測結(jié)果。2個(gè)模型的作業(yè)失敗預(yù)測結(jié)果以邏輯“或”方式組合,如表5所示,如果2個(gè)模型對(duì)作業(yè)預(yù)測都為成功,則該作業(yè)被預(yù)測為成功作業(yè),在其他情況下都被預(yù)測為失敗作業(yè)。

    Figure 4 E-R prediction framework

    Table 5 “OR” rule of E-R prediction framework

    5.2 實(shí)驗(yàn)設(shè)置與評(píng)估指標(biāo)

    將預(yù)處理后的數(shù)據(jù)集按照7∶3的比例劃分為訓(xùn)練集和測試集。由于分類樣本的不均衡性,為了保證數(shù)據(jù)樣本類別的平衡性及數(shù)據(jù)信息的完整性,對(duì)失敗作業(yè)采用上采樣的方式對(duì)訓(xùn)練集進(jìn)行處理,其中所有輸入特征均在維持原始時(shí)間序列下進(jìn)行計(jì)算。

    在預(yù)測實(shí)驗(yàn)中,失敗作業(yè)為正樣本(Positive),成功作業(yè)為負(fù)樣本(Negative)。同時(shí)采用3折交叉驗(yàn)證的方式來增強(qiáng)預(yù)測模型的魯棒性。將實(shí)驗(yàn)數(shù)據(jù)中的作業(yè)狀態(tài)及預(yù)測的結(jié)果進(jìn)行比較,預(yù)測結(jié)果共分為4類,如表6所示。其中,TP、FP、TN和FN分別表示真正例、假正例、真負(fù)例和假負(fù)例。假正例為將負(fù)樣本錯(cuò)誤地預(yù)測為正樣本,假負(fù)例為將正樣本錯(cuò)誤地預(yù)測為負(fù)樣本。

    根據(jù)NETMAKETSHARE的統(tǒng)計(jì)數(shù)據(jù)[3],Android和iOS已占據(jù)手機(jī)操作系統(tǒng)98%以上的市場。由于Android和iOS的開發(fā)技術(shù)完全不同,早期很多企業(yè)必須針對(duì)這2個(gè)平臺(tái)開發(fā)具有相同功能的APP,會(huì)耗費(fèi)大量的人力和財(cái)力資源,增加開發(fā)和維護(hù)成本。

    Table 6 Four kinds of prediction results

    通常在作業(yè)失敗預(yù)測研究中,除了關(guān)注準(zhǔn)確率(accuracy)外,還會(huì)關(guān)注成功作業(yè)和失敗作業(yè)的預(yù)測效果,因此在實(shí)驗(yàn)中還通過特異性(specificity)和敏感度(sensitivity)2個(gè)指標(biāo)對(duì)成功作業(yè)和失敗作業(yè)的預(yù)測效果分別進(jìn)行評(píng)估。特異性反映了模型能夠正確識(shí)別成功作業(yè)的效果,敏感度反映了模型能夠正確識(shí)別失敗作業(yè)的效果,評(píng)估指標(biāo)的計(jì)算分別如式(6)~式(8)所示:

    (6)

    (7)

    (8)

    通過圖2和圖3可以發(fā)現(xiàn),UID和User的離散程度一致且極度相關(guān),因此只保留了UID。此外,AllocCPUS和ReqCPUS的離散程度相近。分析發(fā)現(xiàn),AllocCPUS始終大于或等于ReqCPUS,不存在CPU數(shù)量分配不足的情況。ReqCPUS和NNodes的相關(guān)性弱于AllocCPUS與NNodes的相關(guān)性,且ReqCPUS與NNodes的離散程度不一致,因此保留了ReqCPUS和NNodes。

    (9)

    5.3 實(shí)驗(yàn)結(jié)果與分析

    使用本文探索出的特征向量分別在RF、ET和E-R綜合框架中進(jìn)行預(yù)測實(shí)驗(yàn),其結(jié)果如表7所示。

    Table 7 Effect of each prediction method

    ET在每種指標(biāo)上都表現(xiàn)平穩(wěn)。RF在準(zhǔn)確率、特異性和敏感度上均優(yōu)于ET。在E-R綜合框架中,敏感度相較于其他2種方法預(yù)測效果有一定提升,準(zhǔn)確率和特異性在可接受范圍內(nèi)有所下降。

    所有輸入特征在ET、RF的決策子樹產(chǎn)生分支的過程中起到了一定的作用,并且每一次產(chǎn)生分支都會(huì)選擇更為重要的特征。輸入特征在ET和RF中的重要性分別如圖5和圖6所示。

    Figure 5 Proportion of importance of each feature in ET

    Figure 6 Proportion of importance of each feature in RF

    (3)去除冗余特征。

    環(huán)境要素中的基準(zhǔn)指代與傳統(tǒng)意義上的指代有所不同,存在指代關(guān)系的兩個(gè)要素并不是指向同一實(shí)體,而是一種關(guān)聯(lián)關(guān)系,即通過先行環(huán)境要素來確定照應(yīng)環(huán)境要素的具體位置.從表2中可看出,這種類型的指代占整個(gè)環(huán)境要素指代的16%,所以其識(shí)別與否對(duì)于指代消解系統(tǒng)的性能有顯著的影響.在已標(biāo)注的語料中,對(duì)這種指代關(guān)系進(jìn)行統(tǒng)計(jì)得出,照應(yīng)環(huán)境要素基本上都是以“周圍”“附近”“外面”這種抽象的地理位置詞開頭,可以通過構(gòu)建一個(gè)抽象環(huán)境要素的詞典進(jìn)行識(shí)別,然后再找出其對(duì)應(yīng)的先行要素.這僅僅是初步的構(gòu)想,具體實(shí)現(xiàn)還要綜合各種因素進(jìn)行考慮.

    本文使用S分?jǐn)?shù)對(duì)3種方法的最終預(yù)測結(jié)果進(jìn)行比較,如圖7所示,E-R的S分?jǐn)?shù)達(dá)到了87.78%,相較于RF和ET的,分別提高了0.67%和1.98%。

    Figure 7 Prediction results under S_score

    E-R能夠發(fā)現(xiàn)更多的作業(yè)失敗情況,預(yù)測出了88.9%的失敗作業(yè),準(zhǔn)確率達(dá)到了85.22%,在最終的評(píng)估指標(biāo)S分?jǐn)?shù)中表現(xiàn)最好。

    5.4 對(duì)比實(shí)驗(yàn)

    在高性能計(jì)算系統(tǒng)的故障預(yù)測研究方面,一些研究使用邏輯回歸LR(Logistic Regression)[25]和樸素貝葉斯NB(Naive Bayes)算法[26]預(yù)測軟硬件故障,使用支持向量機(jī)SVM(Support Vector Machine)算法[17]預(yù)測作業(yè)失敗,然而,這些預(yù)測方法并未對(duì)作業(yè)名進(jìn)行聚類操作,也沒有通過作業(yè)名確定用戶的作業(yè)重復(fù)提交行為。

    由“讀若”線索可得出“介”通過音同借了“丯”草的意義,并由此引申出“微小”的意義。但是解釋假借單憑聲音關(guān)系是不夠的,還要結(jié)合字形來分析。

    在去掉輸入特征NSubmission和JobType的情況下,使用上述預(yù)測方法與前文E-R結(jié)果進(jìn)行比較,實(shí)驗(yàn)結(jié)果如表8所示,RF的預(yù)測效果優(yōu)于LR、NB和SVM的。其中,LR和NB預(yù)測效果非常差,顯然不適合該實(shí)驗(yàn)數(shù)據(jù)。SVM通過提高特征維度的方式,在高維空間擬合核函數(shù)(徑向基)尋找決策平面,計(jì)算開銷大,雖然準(zhǔn)確度可以達(dá)到73.48%,但對(duì)作業(yè)失敗的預(yù)測效果較差。

    該項(xiàng)目規(guī)劃占地面積69畝,總投資8850萬元。救災(zāi)物資儲(chǔ)備庫、救助管理站、未成年人救助保護(hù)中心、社會(huì)福利院、大平山農(nóng)村養(yǎng)老服務(wù)中心、兒童福利院、社會(huì)福利院老年養(yǎng)護(hù)樓、老年人活動(dòng)中心等已建成投入使用;二期項(xiàng)目將建設(shè)老年公寓。

    Table 8 Prediction effect of different methods

    5.5 建議

    通常對(duì)于預(yù)測失敗的作業(yè)會(huì)采取提前終止的方式,讓更多的成功作業(yè)能夠被執(zhí)行,然而這對(duì)用于科研生產(chǎn)的超級(jí)計(jì)算機(jī)是不友好的,因?yàn)檫@樣會(huì)損失大量失敗作業(yè)產(chǎn)生的錯(cuò)誤和中間輸出信息。這些信息對(duì)于用戶而言非常重要,用戶可以根據(jù)這些信息更好地調(diào)試,直到作業(yè)成功完成。因此,本文提供一些可選的建議和措施,在保證生產(chǎn)的同時(shí),也能夠提高系統(tǒng)的資源利用率:

    (1)調(diào)整調(diào)度優(yōu)先級(jí):在超級(jí)計(jì)算機(jī)中,采用先來先服務(wù)和回填調(diào)度的策略調(diào)度作業(yè)執(zhí)行順序。超級(jí)計(jì)算機(jī)上可能存在空閑資源。如果這些空閑資源不能滿足等待隊(duì)列中的頭作業(yè),那么系統(tǒng)將始終保留空閑資源。然而,所保留的空閑資源可能滿足后續(xù)隊(duì)列中其他短而小的作業(yè)需求。一般情況下,失敗作業(yè)的運(yùn)行時(shí)間會(huì)比正常完成的運(yùn)行時(shí)間短,因此可以有選擇地將一些適合回填插空的失敗作業(yè)優(yōu)先執(zhí)行,這樣可以讓用戶更快地知道結(jié)果,方便用戶調(diào)試作業(yè)。

    最終,本文保留了UID、ReqCPUS、NNodes、JobType、NSubmission和Submit這6個(gè)特征。

    6 結(jié)束語

    確保作業(yè)的有效執(zhí)行能夠盡可能地提高超級(jí)計(jì)算機(jī)的資源利用率,因此,對(duì)作業(yè)失敗做出有效的預(yù)測并采取有效的措施是至關(guān)重要的。本文通過對(duì)作業(yè)日志的探索和分析,挖掘出了與用戶行為相關(guān)的特性,即作業(yè)名聚類及作業(yè)提交次數(shù),這2種特性分別反映了用戶的工作行為模式和提交行為模式?;谕诰虺龅男袨槟J?,提出了E-R綜合預(yù)測方法。該方法的預(yù)測準(zhǔn)確率達(dá)到了85.22%,敏感度達(dá)到了88.9%,優(yōu)于其他相關(guān)研究方法。

    猜你喜歡
    特征作業(yè)用戶
    快來寫作業(yè)
    如何表達(dá)“特征”
    不忠誠的四個(gè)特征
    抓住特征巧觀察
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    作業(yè)
    故事大王(2016年7期)2016-09-22 17:30:08
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    如何獲取一億海外用戶
    線性代數(shù)的應(yīng)用特征
    河南科技(2014年23期)2014-02-27 14:19:15
    麻豆久久精品国产亚洲av| 观看免费一级毛片| 小蜜桃在线观看免费完整版高清| 午夜福利在线观看免费完整高清在 | 99国产精品99久久久久| 麻豆一二三区av精品| 人人妻人人看人人澡| 久久久久久久久中文| 国产av麻豆久久久久久久| 亚洲天堂国产精品一区在线| 制服人妻中文乱码| 一本精品99久久精品77| 淫妇啪啪啪对白视频| 最近最新中文字幕大全电影3| 国产综合懂色| 国产在线精品亚洲第一网站| 一级毛片女人18水好多| 精品国内亚洲2022精品成人| 成人精品一区二区免费| 国产精品亚洲美女久久久| 成人国产综合亚洲| 美女大奶头视频| 国产精品日韩av在线免费观看| 国产成人影院久久av| 狂野欧美激情性xxxx| 波多野结衣巨乳人妻| 国产极品精品免费视频能看的| 日本 av在线| 国产精品av久久久久免费| 亚洲人成电影免费在线| 淫妇啪啪啪对白视频| 在线观看免费视频日本深夜| 久久天堂一区二区三区四区| 夜夜爽天天搞| 欧美大码av| 欧美乱码精品一区二区三区| www.自偷自拍.com| 女生性感内裤真人,穿戴方法视频| 久久九九热精品免费| 国产精品永久免费网站| 又紧又爽又黄一区二区| 一进一出好大好爽视频| 一个人观看的视频www高清免费观看 | 免费一级毛片在线播放高清视频| 1000部很黄的大片| 麻豆国产97在线/欧美| 黄片大片在线免费观看| 丰满人妻熟妇乱又伦精品不卡| 亚洲最大成人中文| 久久人人精品亚洲av| 亚洲无线在线观看| e午夜精品久久久久久久| 精品久久久久久久人妻蜜臀av| 日本黄色视频三级网站网址| 亚洲,欧美精品.| 丝袜人妻中文字幕| 午夜久久久久精精品| 精品福利观看| av欧美777| 性色av乱码一区二区三区2| aaaaa片日本免费| 国产1区2区3区精品| 999精品在线视频| 色吧在线观看| 高清毛片免费观看视频网站| 淫妇啪啪啪对白视频| 欧美三级亚洲精品| 国产午夜精品久久久久久| 午夜免费激情av| av黄色大香蕉| 国产一区二区三区视频了| 欧美黄色片欧美黄色片| 别揉我奶头~嗯~啊~动态视频| 久久热在线av| 欧美日韩综合久久久久久 | 首页视频小说图片口味搜索| 亚洲欧美日韩东京热| 精品久久久久久,| 少妇裸体淫交视频免费看高清| 亚洲人成伊人成综合网2020| 欧美精品啪啪一区二区三区| 成人三级黄色视频| 亚洲国产欧美一区二区综合| 国产高清videossex| 国产乱人伦免费视频| 国产一区二区在线观看日韩 | a在线观看视频网站| 国产av一区在线观看免费| 免费无遮挡裸体视频| 日本 av在线| 国产精品 国内视频| 美女扒开内裤让男人捅视频| 国产精品亚洲一级av第二区| 在线永久观看黄色视频| 后天国语完整版免费观看| 91老司机精品| 人妻夜夜爽99麻豆av| 十八禁网站免费在线| 后天国语完整版免费观看| 国产探花在线观看一区二区| 99国产极品粉嫩在线观看| 成人特级av手机在线观看| 狂野欧美白嫩少妇大欣赏| 精品久久久久久久人妻蜜臀av| 日韩精品青青久久久久久| 午夜福利免费观看在线| 国产v大片淫在线免费观看| 免费看光身美女| 美女午夜性视频免费| 亚洲七黄色美女视频| 国产精品久久电影中文字幕| 国产精品久久久久久久电影 | 禁无遮挡网站| 久久久久久久久中文| 女人高潮潮喷娇喘18禁视频| 最近最新免费中文字幕在线| 精品一区二区三区av网在线观看| 午夜免费成人在线视频| 日韩欧美免费精品| 久久伊人香网站| 麻豆成人av在线观看| 午夜免费观看网址| 午夜激情福利司机影院| 欧美日韩瑟瑟在线播放| 草草在线视频免费看| 十八禁人妻一区二区| 久久热在线av| 亚洲中文字幕一区二区三区有码在线看 | 亚洲第一欧美日韩一区二区三区| 亚洲人成网站在线播放欧美日韩| 久久久久久久午夜电影| 精品久久久久久成人av| 成人av一区二区三区在线看| 国产亚洲欧美在线一区二区| 少妇的丰满在线观看| 白带黄色成豆腐渣| 亚洲精品美女久久av网站| 在线看三级毛片| 亚洲最大成人中文| 国产成年人精品一区二区| 操出白浆在线播放| 一本综合久久免费| 久久这里只有精品中国| 亚洲成人久久爱视频| 国产免费男女视频| 亚洲av免费在线观看| 欧美日韩福利视频一区二区| 欧美日韩瑟瑟在线播放| 国产一区二区在线av高清观看| 久久久久性生活片| 小说图片视频综合网站| 久久久久久大精品| 国产 一区 欧美 日韩| 久久久久久人人人人人| 亚洲九九香蕉| xxx96com| 国产三级中文精品| 亚洲七黄色美女视频| 国产 一区 欧美 日韩| 伊人久久大香线蕉亚洲五| 免费大片18禁| 久久热在线av| 国产av在哪里看| 两个人视频免费观看高清| 久久国产精品人妻蜜桃| 亚洲成人精品中文字幕电影| 免费观看的影片在线观看| 日日摸夜夜添夜夜添小说| 国产三级在线视频| 午夜福利在线观看吧| 中文字幕久久专区| 久久精品aⅴ一区二区三区四区| 国产亚洲精品久久久com| 99国产精品99久久久久| 一区福利在线观看| 不卡一级毛片| 欧美一级毛片孕妇| 亚洲一区高清亚洲精品| 夜夜躁狠狠躁天天躁| 国产精品一区二区精品视频观看| 欧美在线黄色| 亚洲欧美一区二区三区黑人| 国产视频内射| 看片在线看免费视频| 一级黄色大片毛片| 亚洲国产欧美网| 精华霜和精华液先用哪个| 中文字幕熟女人妻在线| 精品一区二区三区av网在线观看| 久久久国产欧美日韩av| 99在线视频只有这里精品首页| 中文资源天堂在线| 欧美黄色片欧美黄色片| 熟女少妇亚洲综合色aaa.| 熟女电影av网| 一个人免费在线观看电影 | 丰满人妻一区二区三区视频av | 日本三级黄在线观看| 成人av一区二区三区在线看| 麻豆av在线久日| 国产精品野战在线观看| 国产欧美日韩一区二区三| 99热6这里只有精品| 亚洲精品一卡2卡三卡4卡5卡| 变态另类丝袜制服| 在线播放国产精品三级| 精品久久久久久,| 久久性视频一级片| 亚洲国产精品合色在线| 九九热线精品视视频播放| 国内久久婷婷六月综合欲色啪| 久久久久久人人人人人| 桃红色精品国产亚洲av| 欧美日韩瑟瑟在线播放| 欧美午夜高清在线| 俄罗斯特黄特色一大片| 19禁男女啪啪无遮挡网站| 很黄的视频免费| 国产精品亚洲美女久久久| 一a级毛片在线观看| 99国产精品一区二区蜜桃av| 久久久久性生活片| 亚洲国产欧美网| 村上凉子中文字幕在线| 久久中文字幕一级| 亚洲成a人片在线一区二区| 亚洲无线观看免费| 男女午夜视频在线观看| 成在线人永久免费视频| 国产97色在线日韩免费| 久久精品亚洲精品国产色婷小说| 午夜影院日韩av| 狠狠狠狠99中文字幕| 91麻豆av在线| 亚洲色图av天堂| 日韩三级视频一区二区三区| 天堂影院成人在线观看| 国产真人三级小视频在线观看| 精品一区二区三区视频在线 | 久久久久国产精品人妻aⅴ院| 久久欧美精品欧美久久欧美| 99久久成人亚洲精品观看| 久久久久久久久免费视频了| 久久精品人妻少妇| 90打野战视频偷拍视频| 免费在线观看成人毛片| 99国产精品99久久久久| 2021天堂中文幕一二区在线观| 舔av片在线| 一个人免费在线观看电影 | 白带黄色成豆腐渣| 国产精品一及| 后天国语完整版免费观看| 亚洲av电影不卡..在线观看| 夜夜躁狠狠躁天天躁| 久久香蕉精品热| 长腿黑丝高跟| 久久久色成人| 国产av一区在线观看免费| 日韩精品中文字幕看吧| 午夜a级毛片| 欧美日韩乱码在线| e午夜精品久久久久久久| 一级毛片精品| 一区二区三区高清视频在线| 1024香蕉在线观看| 久久久水蜜桃国产精品网| 久久久久九九精品影院| 国产高清videossex| 亚洲精品一卡2卡三卡4卡5卡| 搡老岳熟女国产| 叶爱在线成人免费视频播放| 非洲黑人性xxxx精品又粗又长| 99热这里只有是精品50| 亚洲中文字幕日韩| 香蕉丝袜av| 制服人妻中文乱码| 97人妻精品一区二区三区麻豆| av女优亚洲男人天堂 | 国产蜜桃级精品一区二区三区| 国产亚洲欧美98| 九九在线视频观看精品| 亚洲七黄色美女视频| 国产亚洲精品综合一区在线观看| 亚洲,欧美精品.| 夜夜夜夜夜久久久久| 12—13女人毛片做爰片一| 黄色视频,在线免费观看| 久久久国产成人精品二区| 亚洲专区国产一区二区| 日韩欧美精品v在线| 亚洲av电影在线进入| 日韩有码中文字幕| 中文字幕久久专区| 大型黄色视频在线免费观看| 久久精品影院6| 最近最新免费中文字幕在线| 国产精品美女特级片免费视频播放器 | 国产精品 欧美亚洲| 小说图片视频综合网站| 黄片小视频在线播放| 最近最新免费中文字幕在线| 亚洲欧美精品综合久久99| 亚洲av片天天在线观看| 亚洲欧美精品综合一区二区三区| 久久国产乱子伦精品免费另类| 精品免费久久久久久久清纯| 色综合欧美亚洲国产小说| 欧美激情久久久久久爽电影| 婷婷六月久久综合丁香| 夜夜爽天天搞| 日本在线视频免费播放| 免费一级毛片在线播放高清视频| 亚洲美女黄片视频| 极品教师在线免费播放| 国产亚洲欧美98| 国产精品乱码一区二三区的特点| 无遮挡黄片免费观看| 麻豆国产97在线/欧美| 亚洲人成电影免费在线| 亚洲人成网站在线播放欧美日韩| 国产一区二区激情短视频| 日韩有码中文字幕| 久久久久久九九精品二区国产| 亚洲欧美日韩无卡精品| 久久草成人影院| 身体一侧抽搐| 亚洲国产色片| 日本黄大片高清| 午夜亚洲福利在线播放| 精品久久久久久久久久免费视频| av欧美777| 中文字幕精品亚洲无线码一区| 欧美一区二区精品小视频在线| 嫩草影院入口| 两性午夜刺激爽爽歪歪视频在线观看| 欧美一区二区国产精品久久精品| 真人做人爱边吃奶动态| 天堂√8在线中文| 日韩欧美在线二视频| 男女下面进入的视频免费午夜| bbb黄色大片| 亚洲熟女毛片儿| 日韩高清综合在线| 国产精品国产高清国产av| 成人特级av手机在线观看| 一级毛片精品| 亚洲精品色激情综合| 午夜福利成人在线免费观看| 亚洲美女视频黄频| 精品久久蜜臀av无| 欧美日本亚洲视频在线播放| 99久久精品国产亚洲精品| 1000部很黄的大片| 又大又爽又粗| 成年女人看的毛片在线观看| 男人的好看免费观看在线视频| 欧美日韩瑟瑟在线播放| 岛国在线免费视频观看| 亚洲精品乱码久久久v下载方式 | 无遮挡黄片免费观看| 好男人在线观看高清免费视频| 不卡一级毛片| 日本一二三区视频观看| 国产精品国产高清国产av| 亚洲av熟女| 日韩欧美在线乱码| 琪琪午夜伦伦电影理论片6080| 美女被艹到高潮喷水动态| 1024香蕉在线观看| www.熟女人妻精品国产| 国产91精品成人一区二区三区| 美女扒开内裤让男人捅视频| 亚洲国产看品久久| 亚洲av电影不卡..在线观看| 成人三级黄色视频| 性欧美人与动物交配| 成在线人永久免费视频| 日韩欧美在线二视频| 97人妻精品一区二区三区麻豆| 久久这里只有精品19| 1000部很黄的大片| 在线观看日韩欧美| 老汉色∧v一级毛片| 欧美黑人巨大hd| 一级毛片高清免费大全| 少妇的逼水好多| 一本综合久久免费| 国产真人三级小视频在线观看| 免费看十八禁软件| 亚洲欧美精品综合久久99| 免费无遮挡裸体视频| 久久精品影院6| 国产欧美日韩一区二区精品| 日本一本二区三区精品| 午夜视频精品福利| 嫩草影院精品99| 校园春色视频在线观看| 国产视频一区二区在线看| 亚洲精品美女久久av网站| 欧美黄色淫秽网站| 免费无遮挡裸体视频| 欧美黄色片欧美黄色片| 国产69精品久久久久777片 | 黄色 视频免费看| 午夜福利免费观看在线| 欧美极品一区二区三区四区| 全区人妻精品视频| 成人午夜高清在线视频| 人妻丰满熟妇av一区二区三区| 精品人妻1区二区| 一个人观看的视频www高清免费观看 | 中国美女看黄片| 欧美极品一区二区三区四区| 午夜两性在线视频| 美女大奶头视频| 久久中文字幕一级| svipshipincom国产片| 12—13女人毛片做爰片一| 欧美日韩乱码在线| 国产 一区 欧美 日韩| 婷婷精品国产亚洲av在线| 啪啪无遮挡十八禁网站| 窝窝影院91人妻| 午夜影院日韩av| av女优亚洲男人天堂 | 久久中文看片网| 免费在线观看成人毛片| 一二三四在线观看免费中文在| 亚洲精品美女久久久久99蜜臀| 美女高潮的动态| 久久香蕉精品热| 狠狠狠狠99中文字幕| 欧美大码av| 亚洲真实伦在线观看| 18美女黄网站色大片免费观看| 国产伦精品一区二区三区四那| 18禁黄网站禁片免费观看直播| 舔av片在线| 一级毛片女人18水好多| 亚洲国产精品sss在线观看| 免费无遮挡裸体视频| 99精品欧美一区二区三区四区| 国产97色在线日韩免费| 熟女电影av网| 精品国产乱码久久久久久男人| 中文字幕最新亚洲高清| 久久亚洲精品不卡| 欧美黄色淫秽网站| 国产乱人视频| 啪啪无遮挡十八禁网站| 特级一级黄色大片| 一二三四社区在线视频社区8| 亚洲欧美激情综合另类| 熟女电影av网| 制服丝袜大香蕉在线| 国产精品一区二区免费欧美| 夜夜看夜夜爽夜夜摸| 免费看美女性在线毛片视频| 欧美大码av| 18禁黄网站禁片免费观看直播| 一本一本综合久久| 又黄又爽又免费观看的视频| 中文字幕人成人乱码亚洲影| 免费在线观看亚洲国产| 国产亚洲精品久久久久久毛片| 欧美性猛交╳xxx乱大交人| 日本三级黄在线观看| 国产精品久久久久久亚洲av鲁大| 国产精品久久视频播放| 人妻丰满熟妇av一区二区三区| 99久久精品热视频| 亚洲成a人片在线一区二区| 日本黄色视频三级网站网址| 国产伦人伦偷精品视频| 淫妇啪啪啪对白视频| 欧美一级a爱片免费观看看| 色哟哟哟哟哟哟| а√天堂www在线а√下载| 看免费av毛片| 色噜噜av男人的天堂激情| 黄色片一级片一级黄色片| 亚洲无线观看免费| 神马国产精品三级电影在线观看| 99在线视频只有这里精品首页| 在线十欧美十亚洲十日本专区| 国产精品,欧美在线| 首页视频小说图片口味搜索| 三级国产精品欧美在线观看 | 精品国产乱子伦一区二区三区| 日韩欧美精品v在线| 久久性视频一级片| 在线十欧美十亚洲十日本专区| 久久精品综合一区二区三区| 欧美大码av| 国产野战对白在线观看| 国产欧美日韩一区二区精品| 免费无遮挡裸体视频| 亚洲九九香蕉| 成人一区二区视频在线观看| 美女免费视频网站| 99久久国产精品久久久| 亚洲电影在线观看av| 淫秽高清视频在线观看| www.熟女人妻精品国产| 色噜噜av男人的天堂激情| 精品无人区乱码1区二区| 午夜两性在线视频| cao死你这个sao货| 欧美日本视频| 黄片小视频在线播放| 成人鲁丝片一二三区免费| 老汉色∧v一级毛片| 叶爱在线成人免费视频播放| 国产激情欧美一区二区| 五月玫瑰六月丁香| 久久久久国产一级毛片高清牌| 一区二区三区高清视频在线| 丝袜人妻中文字幕| 亚洲欧美日韩东京热| 嫩草影院精品99| 国产伦精品一区二区三区四那| 床上黄色一级片| 久久午夜综合久久蜜桃| 天天躁狠狠躁夜夜躁狠狠躁| 久久久国产成人免费| h日本视频在线播放| 午夜亚洲福利在线播放| 日本三级黄在线观看| 久久久国产欧美日韩av| 麻豆成人午夜福利视频| 午夜两性在线视频| 免费搜索国产男女视频| 国产精品亚洲美女久久久| 女生性感内裤真人,穿戴方法视频| 国产探花在线观看一区二区| 色综合亚洲欧美另类图片| 99久久综合精品五月天人人| 91字幕亚洲| tocl精华| 国产亚洲av高清不卡| 最近最新免费中文字幕在线| 国产熟女xx| 香蕉丝袜av| 在线国产一区二区在线| 久久香蕉国产精品| 亚洲第一欧美日韩一区二区三区| 日韩精品青青久久久久久| 亚洲国产色片| 日本黄大片高清| 日本 欧美在线| 白带黄色成豆腐渣| 亚洲精华国产精华精| 成人永久免费在线观看视频| 欧美一区二区国产精品久久精品| 伦理电影免费视频| 国产欧美日韩一区二区三| 成年女人毛片免费观看观看9| 国产乱人视频| 精品久久久久久久末码| 国产亚洲精品久久久久久毛片| 欧美成人一区二区免费高清观看 | 免费高清视频大片| 国产aⅴ精品一区二区三区波| 国产一区二区在线观看日韩 | 国产黄色小视频在线观看| 久久久久国产精品人妻aⅴ院| 观看美女的网站| 亚洲午夜理论影院| 国产黄色小视频在线观看| 在线十欧美十亚洲十日本专区| 啪啪无遮挡十八禁网站| 无限看片的www在线观看| 亚洲国产欧美人成| 看黄色毛片网站| 久久香蕉国产精品| 在线观看舔阴道视频| 久久久久久大精品| 丁香六月欧美| 亚洲九九香蕉| 看黄色毛片网站| 丰满人妻一区二区三区视频av | 99国产综合亚洲精品| 99精品在免费线老司机午夜| 99精品欧美一区二区三区四区| 级片在线观看| 午夜福利高清视频| 色综合站精品国产| 啦啦啦观看免费观看视频高清| 亚洲美女视频黄频| 级片在线观看| 国产主播在线观看一区二区| 欧美最黄视频在线播放免费| 久久精品影院6| 中文字幕久久专区| 久久久久久久久久黄片| 亚洲欧洲精品一区二区精品久久久| 成人国产一区最新在线观看| 午夜精品在线福利| 网址你懂的国产日韩在线| 国产亚洲欧美在线一区二区| 天堂av国产一区二区熟女人妻| 国产成人福利小说| 美女被艹到高潮喷水动态| 亚洲国产欧洲综合997久久,| 久久久精品大字幕| 国产私拍福利视频在线观看| 欧美国产日韩亚洲一区| av天堂在线播放| 亚洲国产色片| 九九在线视频观看精品| 嫁个100分男人电影在线观看| 亚洲国产高清在线一区二区三| 久9热在线精品视频| av天堂在线播放|