• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于圖網(wǎng)絡(luò)的船舶柴油機(jī)健康監(jiān)測(cè)

    2024-10-18 00:00:00熊正華尚前明楊安聲杜紅成

    摘" 要: 為實(shí)現(xiàn)船舶柴油機(jī)的智能健康監(jiān)測(cè),本文提出了一種雙圖采樣的圖網(wǎng)絡(luò)歸納式學(xué)習(xí)算法(Dual-GraphSAINT).為充分挖掘柴油機(jī)振動(dòng)信號(hào)中的潛在信息,分別基于局部與全局一致性假設(shè),對(duì)振動(dòng)信號(hào)和故障狀態(tài)構(gòu)造鄰接圖.通過(guò)鄰接圖內(nèi)數(shù)據(jù)之間的連接關(guān)系對(duì)節(jié)點(diǎn)狀態(tài)進(jìn)行學(xué)習(xí),以準(zhǔn)確的挖掘出柴油機(jī)運(yùn)行過(guò)程中的潛在故障信息.同時(shí)Dual-GraphSAINT是一種歸納式學(xué)習(xí)算法,突破了傳統(tǒng)圖網(wǎng)絡(luò)不能對(duì)未見(jiàn)節(jié)點(diǎn)生成有效嵌入表征的弊端,實(shí)現(xiàn)了對(duì)柴油機(jī)健康狀態(tài)實(shí)時(shí)檢測(cè)的性能.文中所提出的健康監(jiān)測(cè)方案與傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)和深度學(xué)習(xí)方案進(jìn)行比較,獲得了最佳的性能,顯著提高了船舶柴油機(jī)的健康監(jiān)測(cè)效果.

    關(guān)鍵詞: 柴油機(jī);健康監(jiān)測(cè);圖網(wǎng)絡(luò)

    中圖分類號(hào):U664""" 文獻(xiàn)標(biāo)志碼:A""""" 文章編號(hào):1673-4807(2024)01-019-08

    DOI:10.20061/j.issn.1673-4807.2024.01.004

    收稿日期: 2021-08-28""" 修回日期: 2021-04-29

    基金項(xiàng)目: 四川交通職業(yè)技術(shù)學(xué)院教改項(xiàng)目(2023-JG-46)

    作者簡(jiǎn)介: 熊正華(1971—),男,副教授,研究方向?yàn)榇拜啓C(jī)自動(dòng)控制.E-mail: 1136652013@qq.com

    引文格式: 熊正華,尚前明,楊安聲,等.基于圖網(wǎng)絡(luò)的船舶柴油機(jī)健康監(jiān)測(cè)[J].江蘇科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2024,38(1):19-26.DOI:10.20061/j.issn.1673-4807.2024.01.004.

    Health monitoring of marine diesel engine based on graph network

    XIONG Zhenghua1,SHANG Qianmin2,YANG Ansheng2,DU Hongcheng3

    (1.Sichuan Transportation Vocational and Technical College, Chengdu 611130,China)

    (2.School of Energy and Power Engineering, Wuhan University of Technology, Wuhan 430063, China)

    (3.Urban Technician College of Sichuan, Chengdu 610000, China)

    Abstract:In order to realize the intelligent condition monitoring of marine diesel engines, the graph network algorithm is introduced. In this paper, a dual graph sampling graph network inductive learning algorithm (Dual-GraphSAINT) is proposed for diesel engine health monitoring. Firstly, in order to fully mine the potential information in the diesel engine vibration signal, the adjacency graph is constructed for the vibration signal and fault state based on the local and global consistency assumptions respectively. Then, the node state is learned based on the connection relationship between the data based on the double adjacency graph, so as to accurately monitor the potential health state during the operation of the diesel engine. At the same time, Dual-GraphSAINT is an inductive learning algorithm, which breaks through the disadvantage that the traditional graph network cannot generate an effective embedded representation of unknown nodes, so it can analyze the health state of diesel engine in real time. The proposed health monitoring scheme obtained the best performance compared with the traditional data-driven and deep learning schemes. The health monitoring performance of the marine diesel engine is significantly improved.

    Key words:diesel engine, health monitoring, graph convolution network

    隨著工業(yè)與科技的飛速發(fā)展,越來(lái)越多的大型智能柴油機(jī)在船舶中得到了廣泛應(yīng)用.同時(shí),由于柴油機(jī)設(shè)備的復(fù)雜性和多樣性,使其運(yùn)行過(guò)程中的振動(dòng)信號(hào)受多種不確定因素影響,從而導(dǎo)致潛在的故障特征會(huì)被淹沒(méi)[1-2].因此如何對(duì)柴油機(jī)潛在的故障特征進(jìn)行有效的提取及分析仍是目前工業(yè)及學(xué)術(shù)界的主要難點(diǎn).智能健康監(jiān)測(cè)技術(shù)在柴油機(jī)健康監(jiān)測(cè)領(lǐng)域取得了非常多的顯著成果[3].對(duì)于柴油機(jī)的大量監(jiān)控信號(hào),可以采用神經(jīng)網(wǎng)絡(luò)之類的人工智能技術(shù)代替專家診斷,以快速分析并提取這些監(jiān)控信號(hào)中的潛在故障信息,并通過(guò)有效的學(xué)習(xí)對(duì)系統(tǒng)的健康狀況做出識(shí)別與預(yù)測(cè)[4].而現(xiàn)有的智能健康監(jiān)測(cè)技術(shù)主要分為特征提取和故障識(shí)別兩大步驟[5],將現(xiàn)有的智能健康監(jiān)測(cè)技術(shù)分為傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)和深度學(xué)習(xí)兩大類.文獻(xiàn)[6]基于傅里葉變換的方法提取了電動(dòng)機(jī)的故障特征,并通過(guò)馬氏距離的方法來(lái)區(qū)分電動(dòng)機(jī)的健康狀況.文獻(xiàn)[7]首先對(duì)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)處理,然后采用層次網(wǎng)絡(luò)對(duì)健康狀況進(jìn)行分類識(shí)別.文獻(xiàn)[8]通過(guò)特征增強(qiáng)來(lái)對(duì)數(shù)據(jù)信號(hào)進(jìn)行處理以提高振動(dòng)信號(hào)中潛在故障信息的狀態(tài)特征,從而加強(qiáng)對(duì)此類特征信息的學(xué)習(xí).文獻(xiàn)[9]根據(jù)不同的小波分解提取振動(dòng)信號(hào)的統(tǒng)計(jì)特征以獲得潛在的有效信息,并應(yīng)用k-近鄰算法來(lái)識(shí)別健康狀況.文獻(xiàn)[10]專門(mén)設(shè)計(jì)了兩個(gè)功能部件,并使用這些功能部件和相關(guān)矢量來(lái)識(shí)別系統(tǒng)的健康狀況.由于傳統(tǒng)的分類器無(wú)法從原始信號(hào)中提取有效特征,因此,需要人工設(shè)計(jì)特征[11].這種特征設(shè)計(jì)過(guò)程需要利用信號(hào)處理和故障診斷等知識(shí),這將花費(fèi)大量的人工并且專業(yè)性要求較高,從而使得自動(dòng)化程度降低.

    文獻(xiàn)[12]將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到健康狀態(tài)檢測(cè)過(guò)程中,通過(guò)深度學(xué)習(xí)對(duì)數(shù)據(jù)中潛在故障特征進(jìn)行有效的提取,并根據(jù)提取的特征學(xué)習(xí)到高效的分類模型以解決健康診斷的問(wèn)題.深度學(xué)習(xí)模型克服了傳統(tǒng)的基于數(shù)據(jù)驅(qū)動(dòng)的健康監(jiān)測(cè)方案中需要專業(yè)的人員對(duì)數(shù)據(jù)特征進(jìn)行處理的不足,并極大的提高了系統(tǒng)的自動(dòng)化程度.在深度學(xué)習(xí)中,圖網(wǎng)絡(luò)(graph convolution network,GNN)通過(guò)鄰接特征的相關(guān)性自動(dòng)完成特征提取的任務(wù)[13],并有效的學(xué)習(xí)數(shù)據(jù)之間特殊的拓?fù)潢P(guān)系,使其為健康監(jiān)測(cè)問(wèn)題帶來(lái)了更好的解決方案.但是,目前GNN等相關(guān)算法還沒(méi)有在健康監(jiān)測(cè)上得到很好的應(yīng)用,文中將GNN進(jìn)一步改進(jìn)使其更好的應(yīng)用到柴油機(jī)的健康監(jiān)測(cè).

    最近,在圖上進(jìn)行表征學(xué)習(xí)備受關(guān)注,因?yàn)樗鼧O大地促進(jìn)了分類和聚類等任務(wù),這將為GNN在健康監(jiān)測(cè)領(lǐng)域上提供了良好的應(yīng)用基礎(chǔ).與傳統(tǒng)深度學(xué)習(xí)相比,GNN在學(xué)習(xí)過(guò)程中可以對(duì)節(jié)點(diǎn)的連接邊,節(jié)點(diǎn)信息特征以及數(shù)據(jù)的全局語(yǔ)義結(jié)構(gòu)進(jìn)行學(xué)習(xí).文獻(xiàn)[14]將卷積運(yùn)算推廣到圖域,克服了傳統(tǒng)深度學(xué)習(xí)不能在拓?fù)淇臻g中進(jìn)行推理學(xué)習(xí)的缺陷.因此GNN將只能處理常規(guī)的歐幾里德空間的傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,CNN)擴(kuò)展到了非歐幾里德空間,并在提取數(shù)據(jù)特征的同時(shí)考慮到了數(shù)據(jù)之間的相關(guān)性.同時(shí),GNN可以通過(guò)數(shù)據(jù)的鄰接圖,對(duì)相鄰節(jié)點(diǎn)的特征信息進(jìn)行聚合以充分挖掘相鄰節(jié)點(diǎn)中的潛在相關(guān)信息.此外,文獻(xiàn)[15]使用Chebyshev展開(kāi)的局部化濾波器加快了圖卷積的計(jì)算速度.文獻(xiàn)[16]提出進(jìn)行小批量訓(xùn)練,在完整的訓(xùn)練圖中對(duì)每一層的節(jié)點(diǎn)或邊緣進(jìn)行采樣以形成小批量數(shù)據(jù),通過(guò)學(xué)習(xí)對(duì)不同數(shù)據(jù)圖結(jié)構(gòu)的表征方式來(lái)解決對(duì)未知節(jié)點(diǎn)預(yù)測(cè)的問(wèn)題.然而GNN在實(shí)際應(yīng)用中仍存在以下缺陷:① 鄰居爆炸:隨著模型層數(shù)加深,GNN通過(guò)不斷地學(xué)習(xí)相鄰節(jié)點(diǎn)的潛在信息而使節(jié)點(diǎn)信息最終趨近相同,從而降低模型的性能;② GNN將所有數(shù)據(jù)點(diǎn)作為圖輸入訓(xùn)練,只能處理固定大小的圖結(jié)構(gòu),因此對(duì)于新生成的樣本點(diǎn)無(wú)法預(yù)測(cè),必須加入原始數(shù)據(jù)重新學(xué)習(xí),這在工業(yè)場(chǎng)景中是不利的.

    為解決以上問(wèn)題,一種雙圖采樣的圖網(wǎng)絡(luò)歸納式學(xué)習(xí)算法(Dual-GraphSAINT)被提出并應(yīng)用于柴油機(jī)的健康監(jiān)測(cè)中,展示了船舶柴油機(jī)在運(yùn)行過(guò)程中的不同健康監(jiān)測(cè)流程.為充分挖掘柴油機(jī)振動(dòng)信號(hào)中故障特征的潛在信息,分別基于局部與全局一致性假設(shè),對(duì)振動(dòng)信號(hào)和故障狀態(tài)構(gòu)造鄰接圖.同時(shí)在學(xué)習(xí)過(guò)程中,對(duì)鄰接圖進(jìn)行采樣以構(gòu)造子圖,通過(guò)學(xué)習(xí)節(jié)點(diǎn)的表示方式來(lái)訓(xùn)練模型,使模型可以預(yù)測(cè)新增加的樣本點(diǎn),這為Dual-GraphSAINT在柴油機(jī)的健康監(jiān)測(cè)中得到實(shí)際應(yīng)用提供了可行性.同時(shí)模型中采用跳躍知識(shí)網(wǎng)絡(luò)(JK-net)[17]解決了“鄰居爆炸”缺陷,最終該算法在柴油機(jī)振動(dòng)信號(hào)上進(jìn)行健康監(jiān)測(cè)驗(yàn)證,取得了優(yōu)越性的結(jié)果.

    1" 圖卷積神經(jīng)網(wǎng)絡(luò)方法

    定義1:圖通常表示為G=(V,E,A),其中:V表示圖中節(jié)點(diǎn)的數(shù)目;E表示節(jié)點(diǎn)間相連的邊;A表示鄰接矩陣.其中在一個(gè)圖中,vi∈V來(lái)定義一個(gè)節(jié)點(diǎn),eij=(vi,vj)∈E來(lái)定義兩個(gè)相鄰節(jié)點(diǎn)的邊,鄰接矩陣A是一個(gè)N×N的矩陣,同時(shí),如果eij∈E,則Aijgt;0,若eijE,則Aij=0.

    1.1" 圖卷積神經(jīng)網(wǎng)絡(luò)

    從特征空間來(lái)劃分,圖卷積神經(jīng)網(wǎng)絡(luò)可以分為頻域和空域兩個(gè)類型.其中卷積通過(guò)使用圖傅立葉變換將節(jié)點(diǎn)表示轉(zhuǎn)換到光譜域中進(jìn)行卷積;空間卷積通過(guò)考慮節(jié)點(diǎn)鄰域進(jìn)行卷積.圖網(wǎng)絡(luò)可以將原始圖結(jié)構(gòu)數(shù)據(jù)G=(V,E)映射一個(gè)新的特征空間,從而可以對(duì)鄰接節(jié)點(diǎn)的特征充分表示.以圖網(wǎng)絡(luò)為例,第l層神經(jīng)網(wǎng)絡(luò)的特征用hl表示,這樣針對(duì)圖結(jié)構(gòu)中的每個(gè)節(jié)點(diǎn)vi在計(jì)算時(shí),每一層神經(jīng)網(wǎng)絡(luò)的輸出hl+1都可以通過(guò)非線性函數(shù)表示為hl+1=f(hl,A),其中A為特征鄰接矩陣.通過(guò)非線性激活函數(shù)ReLU=σ(·)實(shí)現(xiàn)一個(gè)圖卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),其分層傳播規(guī)則為:

    f(hl,A)=σ(D︿-1/2AD︿-1/2hlWl)(1)

    式中:D︿=∑ijAij表示矩陣A的對(duì)角矩陣,Wl為第l層圖網(wǎng)絡(luò)的權(quán)值矩陣;通過(guò)分層傳播規(guī)則,圖網(wǎng)絡(luò)將卷積神經(jīng)網(wǎng)絡(luò)局部參數(shù)共享的特性帶入了圖結(jié)構(gòu)中,使得每一個(gè)節(jié)點(diǎn)的感受域的范圍隨著傳播層數(shù)的增加而得更大的提升,從而獲取到更多鄰域節(jié)點(diǎn)的信息.

    1.2" 基于頻域的圖卷積神經(jīng)網(wǎng)絡(luò)

    卷積是CNN中最基本的操作.但是,對(duì)于CNN的標(biāo)準(zhǔn)卷積運(yùn)算不能直接應(yīng)用于圖,因?yàn)閳D缺少網(wǎng)格結(jié)構(gòu).文獻(xiàn)[13]首先將圖拉普拉斯矩陣L引入了來(lái)自譜域的圖數(shù)據(jù)卷積,它在信號(hào)處理中起著與傅立葉基礎(chǔ)相似的作用.傳統(tǒng)的卷積操作只能處理歐式空間的數(shù)據(jù)結(jié)構(gòu)而不能應(yīng)用于非歐幾里德的圖結(jié)構(gòu)中.為克服這個(gè)缺陷,圖網(wǎng)絡(luò)通過(guò)引入圖拉普拉斯矩陣L建立了不同數(shù)據(jù)之間的空間聯(lián)系,具體的圖卷積運(yùn)算W*定義為:

    viW*vj=U((UTvi)⊙(UTvj))(2)

    式中,U是L的特征向量.簡(jiǎn)單地說(shuō),乘以UT將圖振動(dòng)信號(hào)vi和vj變換到頻譜域(即圖傅里葉變換),而乘以U則執(zhí)行逆變換.該定義的有效性基于卷積定理,即卷積運(yùn)算的傅立葉變換是其傅立葉變換的逐元素乘積.然后,振動(dòng)信號(hào)hl可以通過(guò):

    hl+1=UΘUThl(3)

    式中,Θ=Θ(Λ)∈RN×N是可學(xué)習(xí)濾波器的對(duì)角矩陣,而Λ是L的特征值.

    1.3" 基于空間的圖卷積神經(jīng)網(wǎng)絡(luò)

    基于傳統(tǒng)CNN在訓(xùn)練樣本上的卷積操作,圖網(wǎng)絡(luò)根據(jù)節(jié)點(diǎn)的空間關(guān)系定義圖卷積.對(duì)于一般圖,基于空間的圖卷積采用中心節(jié)點(diǎn)通過(guò)其鄰居的聚合來(lái)獲得該節(jié)點(diǎn)的新表示.為了探索節(jié)點(diǎn)接收鄰域信息的深度和廣度,通常的做法是將多個(gè)圖卷積層堆疊在一起.根據(jù)堆疊卷積層的不同方法,基于空間的GNN可以進(jìn)一步分為兩類,即基于循環(huán)的GNN和基于組合的GNN.文獻(xiàn)[18]將幾種現(xiàn)有圖卷積網(wǎng)絡(luò)概括為一個(gè)稱為消息傳遞神經(jīng)網(wǎng)絡(luò)(MPNN)的統(tǒng)一框架. MPNN由兩個(gè)階段組成,即消息傳遞階段和讀取階段.消息傳遞階段實(shí)際上運(yùn)行l(wèi)層基于空間的圖卷積.圖卷積運(yùn)算是根據(jù)消息函數(shù)Mt(·)和更新函數(shù)Ut(·)定義:

    (hi)l+1=Ut((hi)l,∑j∈N(i)Mt((hi)l,(hj)l,eij))(4)

    式中,(hi)l為節(jié)點(diǎn)vi在第l層神經(jīng)網(wǎng)絡(luò)對(duì)應(yīng)的編碼特征.

    2" 基于Dual-GraphSAINT的柴油機(jī)健康監(jiān)測(cè)流程

    在Dual-GraphSAINT的柴油機(jī)健康監(jiān)測(cè)算法中,通過(guò)學(xué)習(xí)節(jié)點(diǎn)特征信息的表示方法來(lái)對(duì)新增加的樣本點(diǎn)進(jìn)行預(yù)測(cè).該算法流程如圖1,在訓(xùn)練開(kāi)始之前,首先對(duì)柴油機(jī)振動(dòng)信號(hào)和故障狀態(tài)構(gòu)建鄰接矩陣.其中基于局部一致性假設(shè),認(rèn)為相似的振動(dòng)信號(hào)應(yīng)該具有相同的標(biāo)簽,因此可根據(jù)k-近鄰對(duì)柴油機(jī)的振動(dòng)信號(hào)構(gòu)建鄰接矩陣A,其中如果eij∈E,Aij=e-‖vi-vj‖2σ2;若eijE,則Aij=0.同時(shí)基于全局一致性假設(shè),對(duì)于故障狀態(tài)構(gòu)建鄰接矩陣P,以避免被振動(dòng)信號(hào)相似但故障信號(hào)不同的噪聲數(shù)據(jù)影響,其中如果節(jié)點(diǎn)vi與節(jié)點(diǎn)vj標(biāo)簽相同,則Pij=1;若vi與節(jié)點(diǎn)vj標(biāo)簽不相同,則Pij=0.然后在每次迭代訓(xùn)練過(guò)程中,從節(jié)點(diǎn)V中隨機(jī)采樣|Vs|個(gè)節(jié)點(diǎn),以通過(guò)無(wú)偏估計(jì)近似估計(jì)全圖的訓(xùn)練模型,這樣可以使得模型訓(xùn)練過(guò)程中學(xué)習(xí)不同圖形結(jié)構(gòu)的節(jié)點(diǎn)表示方式,而不是只能處理固定已知圖的數(shù)據(jù),使的模型無(wú)法對(duì)訓(xùn)練圖以外的新增加的數(shù)據(jù)進(jìn)行預(yù)測(cè).同時(shí)采用SGD的方法來(lái)對(duì)模型參數(shù)進(jìn)行更新以不斷優(yōu)化模型直到達(dá)到最優(yōu)解.每次迭代訓(xùn)練過(guò)程中均獨(dú)立的從大圖中進(jìn)行隨機(jī)采樣,其中采樣子圖定義為Gs(|Vs||V|). 然后,建立全連接的雙圖GNN層以生成嵌入表示,可以通過(guò)以下方式計(jì)算:

    ha,l+1=σ(A︿sha,lWa,l)(5)

    hp,l+1=σ(P︿shp,lWp,l)(6)

    式中:h為Vs對(duì)應(yīng)的采樣節(jié)點(diǎn),代表柴油機(jī)振動(dòng)信號(hào);A︿s為采樣后的振動(dòng)信號(hào)的鄰接子圖;P︿s表示采樣后故障狀態(tài)的鄰接子圖;W為參數(shù)矩陣,其中下標(biāo)a和p分別對(duì)應(yīng)的是A︿s和P︿s所在的卷積層,l對(duì)應(yīng)第l層神經(jīng)網(wǎng)絡(luò).文中采用三層GNN,利用鄰接矩陣在每個(gè)消息傳遞步驟中實(shí)現(xiàn)鄰域信息的完全線性混合,可以有效地訓(xùn)練聚合參數(shù),使模型學(xué)得針對(duì)不同圖結(jié)構(gòu)的節(jié)點(diǎn)的表示形式.同時(shí)引用了一種跳躍知識(shí)網(wǎng)絡(luò)(JK-net)[17]以克服信息在傳遞與學(xué)習(xí)的過(guò)程中“信息爆炸”帶來(lái)的危害,并可以靈活地利用每個(gè)節(jié)點(diǎn)的不同鄰域范圍節(jié)點(diǎn)信息來(lái)學(xué)習(xí)更好的結(jié)構(gòu)感知表示.文獻(xiàn)[17]具有一個(gè)額外的最終層,該層聚集了圖卷積層1到3的所有輸出隱藏特征,其中聚合層輸出hJK:

    hJK=σ(WTJK·(3l=1ha,l+3l=1hp,l))(7)

    式中,是向量聚合運(yùn)算,可以是最大池化,串聯(lián)或基于LSTM的聚合[17],文中采用串聯(lián)運(yùn)算符聚合所有隱藏特征.最后將模型挖掘的潛在特征hJK送入一個(gè)GNN層并通過(guò)softmax函數(shù)實(shí)現(xiàn)對(duì)柴油機(jī)不同健康狀態(tài)的預(yù)測(cè):

    Hs=softmax(A︿shJKWJK)(8)

    對(duì)于Dual-GraphSAINT的健康監(jiān)測(cè)算法的優(yōu)化,采用交叉熵?fù)p失:

    Lbatch=∑Gs∈GYslogHS(9)

    式中,Ys為從柴油機(jī)健康狀態(tài)Y中采樣子圖對(duì)應(yīng)的標(biāo)簽.傳統(tǒng)的圖網(wǎng)絡(luò)只能針對(duì)固定已知圖進(jìn)行訓(xùn)練,而對(duì)圖結(jié)構(gòu)以外的未知的節(jié)點(diǎn)不能預(yù)測(cè),這就使傳統(tǒng)的圖網(wǎng)絡(luò)算法在實(shí)際柴油機(jī)健康監(jiān)測(cè)的應(yīng)用過(guò)程中無(wú)法對(duì)新生成的振動(dòng)信號(hào)進(jìn)行實(shí)時(shí)檢測(cè)與識(shí)別.針對(duì)這個(gè)缺點(diǎn),通過(guò)圖采樣的訓(xùn)練方法,采用無(wú)偏估計(jì)近似訓(xùn)練出原圖模型,使模型學(xué)到對(duì)不同圖結(jié)構(gòu)節(jié)點(diǎn)的表示方法,從而可以對(duì)圖結(jié)構(gòu)以外的新增加的數(shù)據(jù)進(jìn)行預(yù)測(cè).因此Dual-GraphSAINT是歸納式學(xué)習(xí)算法,可以將訓(xùn)練好的模型應(yīng)用到實(shí)際的柴油機(jī)健康狀態(tài)檢測(cè)的過(guò)程中.并且,為了最大化利用柴油機(jī)振動(dòng)信號(hào)的潛在信息,分別對(duì)振動(dòng)信號(hào)和故障狀態(tài)構(gòu)建鄰接矩陣,通過(guò)從局部和全局的角度對(duì)柴油機(jī)振動(dòng)信號(hào)的數(shù)據(jù)特征進(jìn)行充分學(xué)習(xí)與挖掘,使其對(duì)測(cè)試集的正常工況數(shù)據(jù)與故障工況數(shù)據(jù)可以達(dá)到最佳的分類效果.Dual-GraphSAINT 的偽代碼如算法1.

    算法 1." Dual-GraphSAINT framework

    輸入: 訓(xùn)練圖G=(V,E,A,P);柴油機(jī)健康狀態(tài)Y.

    輸出: 對(duì)未知故障狀態(tài)的預(yù)測(cè)值

    Process:

    1: 初始化:

    2: 構(gòu)建實(shí)例特征鄰接矩陣A和標(biāo)簽鄰接矩陣P

    2: for each minibatch do

    3:" 子圖采樣Gs(其中|Vs||V|),分別對(duì)A︿,P︿s進(jìn)行采樣;

    4:" 根據(jù)公式(5)(6)(7)(8)對(duì)采樣子圖進(jìn)行GNN全連接訓(xùn)練;

    5:" 最小化公式(9)并通過(guò)反向傳播更新權(quán)值;

    6: end for

    3" 基于柴油機(jī)健康監(jiān)測(cè)的實(shí)驗(yàn)研究

    3.1" 數(shù)據(jù)描述

    文中將四沖程船舶柴油機(jī)作為驗(yàn)證健康狀態(tài)監(jiān)測(cè)方案有效性的研究對(duì)象,通過(guò)對(duì)船舶柴油機(jī)運(yùn)行過(guò)程中健康狀態(tài)檢測(cè)識(shí)別的準(zhǔn)確率來(lái)評(píng)價(jià)不同算法的有效性[18].振動(dòng)信號(hào)和轉(zhuǎn)速信號(hào)可以展示柴油機(jī)的狀態(tài)信息數(shù)據(jù).但是轉(zhuǎn)速信號(hào)的波動(dòng)是由氣體壓力的切向力以及活塞和連桿往復(fù)運(yùn)動(dòng)引起的垂直不平衡慣性力造成的,反映更多的是柴油機(jī)燃燒過(guò)程中的故障.而振動(dòng)信號(hào)包含了往復(fù)運(yùn)動(dòng)、旋轉(zhuǎn)運(yùn)動(dòng)、機(jī)械沖擊和氣體的高速流動(dòng)等豐富的信息.能夠反映出更多的柴油機(jī)狀態(tài)信息.因此文中基于振動(dòng)信號(hào)的分析是對(duì)內(nèi)燃機(jī)健康狀態(tài)監(jiān)測(cè)的重要途徑.圖2為故障監(jiān)測(cè)方案中使用的船舶柴油機(jī)測(cè)試平臺(tái).其中表1顯示了測(cè)試臺(tái)對(duì)船舶柴油機(jī)在4個(gè)不同工況以及模擬方案的介紹.文中以3 200個(gè)數(shù)據(jù)點(diǎn)為一個(gè)采樣周期.為保證數(shù)據(jù)的均衡性,對(duì)于每種工況下,對(duì)轉(zhuǎn)速穩(wěn)定后的柴油機(jī)進(jìn)行200組采樣,總共800組.在實(shí)驗(yàn)中,對(duì)采集的船舶柴油機(jī)的振動(dòng)信號(hào)進(jìn)行隨機(jī)打亂并提取其中的五分之一作為測(cè)試集,其余振動(dòng)信號(hào)設(shè)為訓(xùn)練集.

    故障設(shè)置現(xiàn)場(chǎng)操作如圖3.

    文中所采集船舶柴油機(jī)在4個(gè)不同工況下的振動(dòng)信號(hào)時(shí)域,如圖4.

    3.2" 基于傳統(tǒng)數(shù)據(jù)驅(qū)動(dòng)的柴油機(jī)健康監(jiān)測(cè)結(jié)果

    文中所提出的Dual-GraphSAINT算法對(duì)柴油機(jī)健康監(jiān)測(cè)方案的性能將與傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)以及卷積神經(jīng)網(wǎng)絡(luò)監(jiān)測(cè)方案進(jìn)行對(duì)比.傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)方案根據(jù)人工設(shè)計(jì)特征和簡(jiǎn)單分類器實(shí)現(xiàn)對(duì)未知數(shù)據(jù)健康狀態(tài)的預(yù)測(cè).而卷積神經(jīng)網(wǎng)絡(luò)監(jiān)測(cè)方案通過(guò)從振動(dòng)信號(hào)數(shù)據(jù)中進(jìn)行潛在特征信息提取然后通過(guò)神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)檢測(cè),達(dá)到端到端監(jiān)測(cè)的目的,最終根據(jù)從原始數(shù)據(jù)學(xué)習(xí)的信息實(shí)現(xiàn)對(duì)未知數(shù)據(jù)健康狀態(tài)的預(yù)測(cè).

    所有的算法都是基于python 3.6.8編寫(xiě)的,特別是深度學(xué)習(xí)模型是通過(guò)pytorch框架進(jìn)行訓(xùn)練測(cè)試.同時(shí)模型在訓(xùn)練過(guò)程中會(huì)因?yàn)閿?shù)據(jù)量的大小,迭代次數(shù)設(shè)置不同而使模型訓(xùn)練時(shí)間有所差別,但在訓(xùn)練好的模型中,運(yùn)算速度非???,可以達(dá)到實(shí)時(shí)檢測(cè).

    3.2.1" 傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)方法

    傳統(tǒng)人工設(shè)計(jì)進(jìn)行特征提取的方法是將柴油機(jī)運(yùn)行過(guò)程中的振動(dòng)的信號(hào)進(jìn)行提取,通過(guò)在時(shí)域與頻域上進(jìn)行分析統(tǒng)計(jì),使其幅值、能量分布等特征隨著時(shí)間變化的規(guī)律用統(tǒng)計(jì)學(xué)方法進(jìn)行描述.一般而言,柴油機(jī)設(shè)備的健康狀態(tài)是根據(jù)時(shí)域波形的不同并分析其內(nèi)在變化而判斷的;而頻域分析的目的是對(duì)柴油機(jī)振動(dòng)信號(hào)中的組成部分進(jìn)行分析判斷.針對(duì)以上方法可以將柴油機(jī)振動(dòng)信號(hào)通過(guò)統(tǒng)計(jì)參數(shù)(表2)進(jìn)行分析表示.研究中,將時(shí)域、頻域特征統(tǒng)計(jì)參數(shù)組合起來(lái)構(gòu)成的融合特征向量作為信號(hào)的初始特征,可有效彌補(bǔ)單一時(shí)域或者頻域特征的不足.

    在傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)方法中,當(dāng)大量具有人工設(shè)計(jì)的27個(gè)高維特征作為振動(dòng)信號(hào)同時(shí)輸入到訓(xùn)練模型時(shí),直接對(duì)信號(hào)進(jìn)行學(xué)習(xí)分類,容易造成維數(shù)災(zāi)難,導(dǎo)致潛在的真實(shí)故障特征被大量的噪聲數(shù)據(jù)所淹沒(méi),從而降低分類器的有效性,所以需要對(duì)原始的高維特征進(jìn)行篩選.文中為驗(yàn)證Dual-GraphSAINT算法對(duì)柴油機(jī)健康狀態(tài)監(jiān)測(cè)的有效性,采用支持向量機(jī)(SVM),極限學(xué)習(xí)機(jī)(ELM)和隨機(jī)森林(Random Forest)等傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)算法作為對(duì)比進(jìn)行故障狀態(tài)監(jiān)測(cè)的有效性驗(yàn)證.通過(guò)以上傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)算法在故障診斷結(jié)果上的準(zhǔn)確性對(duì)比,得到最優(yōu)算法,其SVM,ELM和Random Forest算法的平均準(zhǔn)確率分別為87.1%,89.7%和90.1%.由此可知,傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)方法在進(jìn)行柴油機(jī)健康監(jiān)測(cè)中,平均準(zhǔn)確率均超過(guò)87%,這主要是由于文中采用了大量的時(shí)、頻域統(tǒng)計(jì)參數(shù)特征融合的方式來(lái)表示原振動(dòng)信號(hào).同時(shí),在所比較算法中,Random Forest算法對(duì)船舶柴油機(jī)的健康診斷結(jié)果表現(xiàn)出最佳效果,達(dá)到了90.1%,這得利于其利用了集成學(xué)習(xí)思想,將多個(gè)決策樹(shù)組合起來(lái),最終通過(guò)“博采眾長(zhǎng)”達(dá)到較好的健康監(jiān)測(cè)效果.

    3.2.2" 傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)

    如圖5,通過(guò)不同的優(yōu)化器來(lái)訓(xùn)練模型使傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)在柴油機(jī)健康監(jiān)測(cè)方案達(dá)到最佳的效果.同時(shí)為驗(yàn)證傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)對(duì)振動(dòng)信號(hào)特征提取的有效性,將27個(gè)特征直接作為輸入.在本文研究中,每個(gè)優(yōu)化器的參數(shù)都是由默認(rèn)值和實(shí)驗(yàn)確定[19],其具體值為表3.

    由表3分類結(jié)果可知,基于不同的優(yōu)化器傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)在柴油機(jī)上的健康檢測(cè)效果均達(dá)到了97%以上的準(zhǔn)確率.在訓(xùn)練時(shí)間上,相對(duì)于SGD優(yōu)化器,Adam、Adabound能夠快速收斂于較好的結(jié)果,SGD優(yōu)化器雖然收斂速率慢但隨著訓(xùn)練迭代過(guò)程的不斷增多最終模型的準(zhǔn)確率達(dá)到了較好的效果.而在整體學(xué)習(xí)過(guò)程中,Adabound優(yōu)化器在訓(xùn)練過(guò)程中達(dá)到了最佳的精度,最終的健康狀態(tài)預(yù)測(cè)率達(dá)到了98.8%.因此將以Adabound優(yōu)化器為基準(zhǔn)的深度學(xué)習(xí)模型與文中提出的Dual-GraphSAINT算法進(jìn)行健康監(jiān)測(cè)比較.

    3.3" 雙圖采樣的圖網(wǎng)絡(luò)歸納式算法

    文中提出基于柴油機(jī)健康監(jiān)測(cè)的雙圖采樣圖網(wǎng)絡(luò)歸納式學(xué)習(xí)算法,對(duì)原圖進(jìn)行不斷地隨機(jī)采樣,通過(guò)無(wú)偏估計(jì)近似的估計(jì)出原圖模型,以學(xué)習(xí)歸納式的圖表示算法,從而克服傳統(tǒng)的圖網(wǎng)絡(luò)只能針對(duì)固定已知圖進(jìn)行訓(xùn)練,而對(duì)未知不可見(jiàn)的點(diǎn)不能應(yīng)用的缺點(diǎn).這就可以將訓(xùn)練好的模型應(yīng)用到實(shí)際柴油機(jī)的健康狀態(tài)監(jiān)測(cè)過(guò)程.并且,文中為了在健康監(jiān)測(cè)中最大化利用柴油機(jī)振動(dòng)信號(hào)的潛在特征,分別建立實(shí)例特征鄰接圖和標(biāo)簽鄰接圖,通過(guò)從局部和全局的角度對(duì)柴油機(jī)振動(dòng)信號(hào)的數(shù)據(jù)特征進(jìn)行充分學(xué)習(xí)與挖掘,使其對(duì)測(cè)試集的正常工況數(shù)據(jù)與故障工況數(shù)據(jù)可以達(dá)到最佳的分類效果.其中表4列出了不同參數(shù)配置實(shí)驗(yàn)以確定最優(yōu)參數(shù).

    根據(jù)實(shí)驗(yàn)結(jié)果,Dual-GraphSAINT算法在學(xué)習(xí)過(guò)程中的相關(guān)參數(shù)設(shè)置為:學(xué)習(xí)率為0.01, Dropout為0.1,采樣子圖節(jié)點(diǎn)數(shù)為1 000,根據(jù)隨機(jī)游走進(jìn)行采樣并且隨機(jī)游走長(zhǎng)度為2.同時(shí)在學(xué)習(xí)過(guò)程中,圖網(wǎng)絡(luò)不同層的特征維度為{128,256,512}.

    文中所用不同機(jī)器學(xué)習(xí)方法的健康監(jiān)測(cè)性能對(duì)比結(jié)果如圖6,通過(guò)采用箱線圖來(lái)對(duì)不同健康監(jiān)測(cè)方案的性能進(jìn)行對(duì)比分析.在傳統(tǒng)數(shù)據(jù)驅(qū)動(dòng)的方法中,Random Forest在診斷穩(wěn)定性方面比ELM和SVM更具有優(yōu)勢(shì),但其性能低于深度學(xué)習(xí)模型.這主要是由于傳統(tǒng)算法只能針對(duì)給定數(shù)據(jù)特征做運(yùn)算,對(duì)數(shù)據(jù)之間的潛在信息以及內(nèi)在相關(guān)性等無(wú)法學(xué)習(xí),很多潛在故障特征被大量的其他因素導(dǎo)致的振動(dòng)信號(hào)所淹沒(méi),從而使得學(xué)習(xí)性能下降.因此,在傳統(tǒng)數(shù)據(jù)驅(qū)動(dòng)的方法中,柴油機(jī)的特征設(shè)計(jì)對(duì)模型的診斷性能有主導(dǎo)的影響.而深度學(xué)習(xí)模型可以通過(guò)卷積操作對(duì)潛在的柴油機(jī)故障特征進(jìn)行信息提取和挖掘以克服了傳統(tǒng)數(shù)據(jù)驅(qū)動(dòng)的方法中人工數(shù)據(jù)設(shè)計(jì)存在的缺陷與不足,使得這種端到端的學(xué)習(xí)模型更加方便有效并且使模型達(dá)到了98.8%測(cè)試準(zhǔn)確率.同時(shí)為了更好的說(shuō)明Dual-GraphSAINT算法的優(yōu)越性,文中與圖注意力網(wǎng)絡(luò)(GAT)[21-22]進(jìn)行對(duì)比,需要對(duì)柴油機(jī)的振動(dòng)信號(hào)進(jìn)行處理.首先,與Dual-GraphSAINT方法相同,對(duì)柴油機(jī)的振動(dòng)信號(hào)構(gòu)建鄰接圖,但在訓(xùn)練過(guò)程中我們需要將訓(xùn)練,測(cè)試數(shù)據(jù)同時(shí)輸入模型,并對(duì)測(cè)試數(shù)據(jù)集的標(biāo)簽進(jìn)行遮住.這樣訓(xùn)練的模型最終達(dá)到99.2%的測(cè)試準(zhǔn)確率.但這個(gè)算法的弊端是要對(duì)所有的數(shù)據(jù)構(gòu)造鄰接圖進(jìn)行學(xué)習(xí),這在柴油機(jī)的實(shí)際應(yīng)用中是不利的.為解決這個(gè)問(wèn)題,文中所提出的Dual-GraphSAINT算法,振動(dòng)信號(hào)的鄰接圖,有效的挖掘現(xiàn)在的相關(guān)特征以提高柴油機(jī)健康監(jiān)測(cè)的準(zhǔn)確率,最終實(shí)現(xiàn)的準(zhǔn)確率接近100%.并通過(guò)圖采樣方法來(lái)學(xué)習(xí)不同圖形結(jié)構(gòu)的節(jié)點(diǎn)表示方式,從而可以對(duì)新增加的樣本點(diǎn)進(jìn)行實(shí)時(shí)檢測(cè).文中將圖網(wǎng)絡(luò)改進(jìn)并應(yīng)用到實(shí)際應(yīng)用場(chǎng)景中,并在柴油機(jī)健康監(jiān)測(cè)方案中取得了優(yōu)越性結(jié)果.

    通過(guò)將Dual-GraphSAINT算法的健康監(jiān)測(cè)結(jié)果可視化,可更直觀的體現(xiàn)出圖網(wǎng)絡(luò)在柴油機(jī)健康監(jiān)測(cè)方案中的優(yōu)越性結(jié)果.在圖7中,左圖中4種不同模塊的節(jié)點(diǎn)分別代表4種工況下的振動(dòng)信號(hào),而頂點(diǎn)表示測(cè)試節(jié)點(diǎn),用于驗(yàn)證Dual-GraphSAINT算法的有效性.右圖則表示Dual-GraphSAINT算法對(duì)驗(yàn)證振動(dòng)信號(hào)的預(yù)測(cè)結(jié)果,從圖中可以看出預(yù)測(cè)結(jié)果分別在所屬于自己的分類簇中,達(dá)到了接近100%的準(zhǔn)確性.并且在交叉的振動(dòng)信號(hào)中,可見(jiàn)其中兩種特征是非常相似的,但是文中算法Dual-GraphSAINT可以充分挖掘信號(hào)特征中的潛在信息,從而可以達(dá)到精準(zhǔn)的分類預(yù)測(cè)效果.

    4" 結(jié)論

    (1) 傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)方法Random Forest表現(xiàn)效果最佳,達(dá)到了90.1%的準(zhǔn)確率,但較CNN跟Dual-GraphSAINT算法相比,性能較差,這很大程度上取決于特征設(shè)計(jì)與特征篩選的過(guò)程中不能很好的挖掘和利用潛在的有用信息.

    (2) CNN算法在Adabound優(yōu)化器下訓(xùn)練集和測(cè)試集上均能達(dá)到較高的準(zhǔn)確率,較傳統(tǒng)的數(shù)據(jù)驅(qū)動(dòng)方法,CNN在柴油機(jī)健康監(jiān)測(cè)領(lǐng)域具有更好的性能,這主要原因是CNN可以通過(guò)卷積操作多尺度的學(xué)習(xí)數(shù)據(jù)中的特征,因此能達(dá)到較好的預(yù)測(cè)結(jié)果.

    (3) 所提出的Dual-GraphSAINT算法,在所有健康監(jiān)測(cè)對(duì)比算法中以及不同的柴油機(jī)運(yùn)行工況下均達(dá)到了最佳的性能.這主要?dú)w因于雙圖結(jié)構(gòu)的圖網(wǎng)絡(luò),分別對(duì)特征和標(biāo)簽關(guān)系構(gòu)建鄰接圖,使得Dual-GraphSAINT模型在學(xué)習(xí)過(guò)程中可以充分的挖掘相鄰特征的潛在關(guān)系.

    (4) 通過(guò)引入JK-net,使模型可以靈活地利用每個(gè)節(jié)點(diǎn)的不同鄰域范圍的特征來(lái)實(shí)現(xiàn)更好的結(jié)構(gòu)感知表示.

    (5) 與GAT相比,Dual-GraphSAINT算法是一種歸納式圖網(wǎng)絡(luò),可以將模型應(yīng)用到不可見(jiàn)的節(jié)點(diǎn)上,從而克服了圖網(wǎng)絡(luò)在柴油機(jī)健康監(jiān)測(cè)的過(guò)程可對(duì)實(shí)時(shí)數(shù)據(jù)進(jìn)行檢測(cè)與識(shí)別的缺陷.

    (6) 所用的振動(dòng)信號(hào)均在同一轉(zhuǎn)速下采集到,考慮到實(shí)際情況下,柴油機(jī)的工作并不是在同一轉(zhuǎn)速下.所以,將進(jìn)一步研究雙圖采樣的圖網(wǎng)絡(luò)歸納式學(xué)習(xí)算法在不同轉(zhuǎn)速情況下的性能.

    參考文獻(xiàn)(References)

    [1]" WANG R, CHEN H, GUAN C, et al. Research on the fault monitoring method of marine diesel engines based on the manifold learning and isolation forest[J]. Applied Ocean Research, 2021, 112(2):102681.

    [2]" 岳應(yīng)娟,王旭,蔡艷平. 內(nèi)燃機(jī)變分模態(tài)Rihaczek譜紋理特征識(shí)別診斷[J]. 儀器儀表學(xué)報(bào), 2017, 38(10): 2437-2445.

    [3]" PACHECO F, OLIVEIRA J V, SNCHEZ, R V, et al. A statistical comparison of neuroclassifiers and feature selection methods for gearbox fault diagnosis under realistic conditions[J]. Neurocomputing, 2016,194:192-206.

    [4]" LIU J, WANG W, GOLNARAGHI F. An enhanced diagnostic scheme for bearing condition monitoring[J]. IEEE Transactions on Instrumentation amp; Measurement, 2010, 59(2):309-321.

    [5]" SHEN Changqing, WANG Dong, KONG Fanrang,et al. Fault diagnosis of rotating machinery based on the statistical parameters of wavelet packet paving and a generic support vector regressive classifier[J]. Measurement, 2013, 46(4):1551-1564.

    [6]" GEORGOULAS G, CLIMENTE A V, ANTONINO J A, et al. The use of a multilabel classification framework for the detection of broken bars and mixed eccentricity faults based on the start-up transient[J]. IEEE Transactions on Industrial Informatics, 2017,2:625-634.

    [7]" PRIETO M D, CIRRINCIONE G, ESPINOSA A G, et al. Bearing fault detection by a novel condition-monitoring scheme based on statistical-time features and neural networks[J]. IEEE Transactions on Industrial Electronics, 2013, 60(8):3398-3407.

    [8]" GONDAL I, AMAR M, WILSON C. Vibration spectrum imaging: A novel bearing fault classification approach[J]. IEEE Transactions on Industrial Electronics, 2014, 62(1):494-502.

    [9]" WANG D. K-nearest neighbors based methods for identification of different gear crack levels under different motor speeds and loads: Revisited[J]. Mechanical Systems amp; Signal Processing, 2016,(70/71):201-208.

    [10]" LEI Y, LIU Z, WU X, et al. Health condition identification ofmulti-stage planetary gearboxes using a mRVM-based method[J]. Mechanical Systems amp; Signal Processing, 2015,(60/61):289-300.

    [11]" ZENG N, WANG Z, ZHANG H, et al. Deep belief networks for quantitative analysis of a gold immunochromatographic strip[J]. Cognitive Computation, 2016, 8(4):684-692.

    [12]" JANSSENS O, SLAVKOVIKJ V, VERVISCH B, et al. Convolutional neural network based fault detection for rotating machinery[J], Journal of Sound and Vibration, 2016, 377: 331-345.

    [13]" WU Z, PAN S, CHEN F, et al. A comprehensive survey on graph neural networks[J]. IEEE Transactions on Neural Networks and Learning Systems, 2021,32(1):4-24.

    [14]" JOAN B, WOJCIECH Z, ARTHUR S, et al. Spectral networks and locally connected networks on graphs[J]. Computer Sciences, 2013,1312:6203.

    [15]" KIPF T N, WELLING M. Semi-supervised classification with graph convolutional networks[J]. Mathernatics,2016,9:02907.

    [16]" WILL H, ZHITAO Y, JURE L. Inductive representation learning on large graphs[J]. Advances in Neural Information Processing Systems, 2017,30:1024–1034.

    [17]" KEYULU X, CHENGTAO L, YONGLONG T, et al. Representation learning on graphs with jumping knowledge networks[C]∥International Conference on Learning Representation. Ababa,Ethiopia:[s.n.],2020.

    [18]" GILMER J, SCHOENHOLZ S S, RILEY P F, et al. Neural message passing for quantum chemistry[J]. Proceedings of Machine Learning Research, 2017,70:1263-1272.

    [19]" 周安眾,羅可.一種卷積神經(jīng)網(wǎng)絡(luò)的稀疏性Dropout正則化方法[J].小型微型計(jì)算機(jī)系統(tǒng),2018,39(8):1674-1679.

    (責(zé)任編輯:貢洪殿)

    国产精品电影一区二区三区| 天堂影院成人在线观看| 最近最新免费中文字幕在线| 成人午夜高清在线视频 | 757午夜福利合集在线观看| 国产亚洲精品久久久久久毛片| 欧美一区二区精品小视频在线| 精品电影一区二区在线| 日韩精品免费视频一区二区三区| 亚洲国产欧洲综合997久久, | 欧美国产日韩亚洲一区| 免费一级毛片在线播放高清视频| 欧美 亚洲 国产 日韩一| 久久国产精品影院| 久久久国产欧美日韩av| 深夜精品福利| 色播亚洲综合网| 桃色一区二区三区在线观看| 久久伊人香网站| 精品国产国语对白av| 91在线观看av| 亚洲三区欧美一区| 自线自在国产av| 亚洲成人精品中文字幕电影| 欧美黑人精品巨大| 亚洲中文av在线| 99久久无色码亚洲精品果冻| 中国美女看黄片| 亚洲人成电影免费在线| 久久草成人影院| 人妻丰满熟妇av一区二区三区| 精品久久久久久久人妻蜜臀av| 欧美乱码精品一区二区三区| 欧美日韩精品网址| 每晚都被弄得嗷嗷叫到高潮| 欧美在线黄色| 国产欧美日韩精品亚洲av| 女性生殖器流出的白浆| 免费看美女性在线毛片视频| 国产一区二区三区在线臀色熟女| 国产精品一区二区三区四区久久 | 一级毛片高清免费大全| 国产精品久久视频播放| 1024手机看黄色片| 青草久久国产| 又大又爽又粗| 亚洲五月婷婷丁香| 99在线视频只有这里精品首页| 日本一区二区免费在线视频| 国产成人欧美在线观看| www.熟女人妻精品国产| 午夜久久久久精精品| 中文字幕久久专区| 亚洲国产欧美网| 亚洲最大成人中文| 女同久久另类99精品国产91| 日韩欧美 国产精品| 午夜福利18| 一个人免费在线观看的高清视频| 欧美日韩一级在线毛片| 热re99久久国产66热| 999久久久国产精品视频| 19禁男女啪啪无遮挡网站| 国产精华一区二区三区| 人人澡人人妻人| 不卡一级毛片| 一个人免费在线观看的高清视频| 99久久精品国产亚洲精品| 男男h啪啪无遮挡| 国内少妇人妻偷人精品xxx网站 | 国产91精品成人一区二区三区| 中国美女看黄片| 亚洲欧洲精品一区二区精品久久久| 国产精品1区2区在线观看.| 男人舔女人下体高潮全视频| 高清毛片免费观看视频网站| 可以在线观看毛片的网站| 每晚都被弄得嗷嗷叫到高潮| 国产精品精品国产色婷婷| 99久久精品国产亚洲精品| 香蕉久久夜色| 99re在线观看精品视频| www.www免费av| 久久午夜综合久久蜜桃| 久久久久久九九精品二区国产 | 99热6这里只有精品| 波多野结衣巨乳人妻| 18禁观看日本| 欧美日韩亚洲综合一区二区三区_| 亚洲成a人片在线一区二区| netflix在线观看网站| 人人妻人人澡欧美一区二区| 国产精品精品国产色婷婷| 成人国语在线视频| 日韩精品中文字幕看吧| 午夜福利一区二区在线看| 视频在线观看一区二区三区| 亚洲 欧美一区二区三区| 国内少妇人妻偷人精品xxx网站 | or卡值多少钱| 亚洲欧美激情综合另类| 亚洲色图av天堂| 国产精品久久久久久精品电影 | 人人妻,人人澡人人爽秒播| 淫秽高清视频在线观看| 欧美另类亚洲清纯唯美| 亚洲精品中文字幕在线视频| 国产精品精品国产色婷婷| 首页视频小说图片口味搜索| 亚洲欧美精品综合一区二区三区| 亚洲精品粉嫩美女一区| 免费看日本二区| 首页视频小说图片口味搜索| 老司机深夜福利视频在线观看| 美女免费视频网站| 免费看美女性在线毛片视频| 欧美另类亚洲清纯唯美| 丝袜在线中文字幕| 岛国视频午夜一区免费看| 好男人在线观看高清免费视频 | 啪啪无遮挡十八禁网站| 丰满人妻熟妇乱又伦精品不卡| 女人爽到高潮嗷嗷叫在线视频| 男男h啪啪无遮挡| 国产精品av久久久久免费| 听说在线观看完整版免费高清| 中文字幕另类日韩欧美亚洲嫩草| 亚洲黑人精品在线| 视频在线观看一区二区三区| 久久久精品国产亚洲av高清涩受| 特大巨黑吊av在线直播 | 国产又爽黄色视频| 国产午夜精品久久久久久| 免费看美女性在线毛片视频| 成年人黄色毛片网站| 成年女人毛片免费观看观看9| 久久国产精品人妻蜜桃| 亚洲午夜精品一区,二区,三区| 婷婷精品国产亚洲av在线| 欧美激情极品国产一区二区三区| 欧美中文日本在线观看视频| 亚洲电影在线观看av| 久久精品影院6| 在线看三级毛片| 两性午夜刺激爽爽歪歪视频在线观看 | 在线观看免费视频日本深夜| 视频区欧美日本亚洲| 欧美中文日本在线观看视频| 亚洲精品一卡2卡三卡4卡5卡| 国产又爽黄色视频| 久久久久九九精品影院| 怎么达到女性高潮| 午夜免费成人在线视频| 日韩av在线大香蕉| 丁香六月欧美| 亚洲成人精品中文字幕电影| 狠狠狠狠99中文字幕| 99热这里只有精品一区 | 黄频高清免费视频| 亚洲欧洲精品一区二区精品久久久| 亚洲成人免费电影在线观看| 亚洲精品美女久久av网站| 在线观看免费午夜福利视频| 亚洲最大成人中文| 亚洲精品色激情综合| 男人操女人黄网站| 窝窝影院91人妻| 国产精品综合久久久久久久免费| 欧美日韩亚洲综合一区二区三区_| 亚洲第一欧美日韩一区二区三区| 侵犯人妻中文字幕一二三四区| 欧美黄色片欧美黄色片| 日韩一卡2卡3卡4卡2021年| 搡老熟女国产l中国老女人| 久久久国产欧美日韩av| 日韩大码丰满熟妇| 色综合婷婷激情| 天天躁狠狠躁夜夜躁狠狠躁| 午夜福利在线观看吧| 久久人妻av系列| 男人舔奶头视频| 精品免费久久久久久久清纯| 怎么达到女性高潮| 国内揄拍国产精品人妻在线 | 一二三四在线观看免费中文在| 国产精品一区二区三区四区久久 | ponron亚洲| 国产精品九九99| xxxwww97欧美| 麻豆成人av在线观看| 国产一区二区激情短视频| tocl精华| 脱女人内裤的视频| 亚洲片人在线观看| 一进一出抽搐动态| 又紧又爽又黄一区二区| 深夜精品福利| 欧美日韩一级在线毛片| 在线观看66精品国产| 亚洲国产精品sss在线观看| 国产亚洲精品久久久久5区| 国产精品 欧美亚洲| 国产精品综合久久久久久久免费| 69av精品久久久久久| 中文字幕久久专区| 久久精品夜夜夜夜夜久久蜜豆 | 99久久精品国产亚洲精品| 黄色成人免费大全| av在线天堂中文字幕| 日本三级黄在线观看| 夜夜看夜夜爽夜夜摸| 成在线人永久免费视频| 亚洲欧洲精品一区二区精品久久久| 97碰自拍视频| 国产色视频综合| 亚洲一区二区三区不卡视频| 免费高清视频大片| svipshipincom国产片| 国产高清视频在线播放一区| 老鸭窝网址在线观看| 我的亚洲天堂| 国产精品香港三级国产av潘金莲| 精品一区二区三区四区五区乱码| 妹子高潮喷水视频| 久久亚洲精品不卡| 在线av久久热| 国产精品综合久久久久久久免费| 99riav亚洲国产免费| netflix在线观看网站| 丰满的人妻完整版| 精品欧美一区二区三区在线| 成人国产一区最新在线观看| 18禁裸乳无遮挡免费网站照片 | 亚洲国产欧洲综合997久久, | 国产精品一区二区三区四区久久 | 午夜福利在线在线| 国产精品久久视频播放| 国产熟女xx| 欧美黄色片欧美黄色片| 校园春色视频在线观看| 亚洲精品一区av在线观看| 这个男人来自地球电影免费观看| 欧美日韩瑟瑟在线播放| 免费高清在线观看日韩| 亚洲av成人不卡在线观看播放网| 99久久无色码亚洲精品果冻| 亚洲一区二区三区不卡视频| 亚洲第一av免费看| 男女之事视频高清在线观看| aaaaa片日本免费| 两个人看的免费小视频| 欧美精品亚洲一区二区| 波多野结衣av一区二区av| 90打野战视频偷拍视频| 欧美日韩一级在线毛片| 免费一级毛片在线播放高清视频| 麻豆久久精品国产亚洲av| 亚洲熟妇中文字幕五十中出| 亚洲成人久久爱视频| 国产精品亚洲美女久久久| 久久狼人影院| 久久精品91无色码中文字幕| 日韩一卡2卡3卡4卡2021年| 91成年电影在线观看| 一区二区三区精品91| 午夜久久久在线观看| 亚洲午夜理论影院| www.自偷自拍.com| 18禁国产床啪视频网站| 亚洲五月婷婷丁香| 日本一本二区三区精品| 亚洲精品在线美女| 久久精品影院6| 国产视频内射| 国产伦一二天堂av在线观看| 日韩成人在线观看一区二区三区| 黑丝袜美女国产一区| 国产区一区二久久| 色老头精品视频在线观看| 久久精品夜夜夜夜夜久久蜜豆 | 亚洲成人久久性| 成人免费观看视频高清| 久9热在线精品视频| 性欧美人与动物交配| 国产精品av久久久久免费| 成人手机av| 久久久久精品国产欧美久久久| 亚洲一区中文字幕在线| 久久狼人影院| 一本久久中文字幕| 高潮久久久久久久久久久不卡| 日韩精品青青久久久久久| 免费女性裸体啪啪无遮挡网站| 国产精品亚洲av一区麻豆| 久久久久免费精品人妻一区二区 | 国产成年人精品一区二区| 18禁黄网站禁片午夜丰满| 国产熟女xx| 人人妻,人人澡人人爽秒播| 香蕉丝袜av| 91麻豆av在线| 亚洲人成网站在线播放欧美日韩| 一二三四社区在线视频社区8| 久久这里只有精品19| 美女国产高潮福利片在线看| 久久久久久久久久黄片| 美女 人体艺术 gogo| 熟妇人妻久久中文字幕3abv| 丰满的人妻完整版| bbb黄色大片| 亚洲va日本ⅴa欧美va伊人久久| 他把我摸到了高潮在线观看| 久9热在线精品视频| 中文字幕精品免费在线观看视频| 国产蜜桃级精品一区二区三区| 欧美人与性动交α欧美精品济南到| 99国产精品一区二区三区| 91成年电影在线观看| 脱女人内裤的视频| 亚洲熟妇熟女久久| 国产激情欧美一区二区| 亚洲男人天堂网一区| 成人18禁在线播放| 他把我摸到了高潮在线观看| 精品久久久久久久久久久久久 | 成年免费大片在线观看| 韩国精品一区二区三区| 久久久国产成人免费| av电影中文网址| 十八禁网站免费在线| 级片在线观看| 精品乱码久久久久久99久播| 两个人看的免费小视频| www.999成人在线观看| 久久人妻av系列| 久久天堂一区二区三区四区| 正在播放国产对白刺激| 亚洲成人国产一区在线观看| 黄色丝袜av网址大全| 欧美黑人精品巨大| 婷婷丁香在线五月| 亚洲成人精品中文字幕电影| 欧美日韩福利视频一区二区| 亚洲中文字幕日韩| 久久人人精品亚洲av| 别揉我奶头~嗯~啊~动态视频| 久久久久久免费高清国产稀缺| 国产成人影院久久av| 91在线观看av| 久久久国产精品麻豆| 正在播放国产对白刺激| 精品国产美女av久久久久小说| 欧美国产日韩亚洲一区| 美女免费视频网站| 久久久久国产一级毛片高清牌| 老司机靠b影院| 国产色视频综合| 99国产精品一区二区三区| 少妇裸体淫交视频免费看高清 | 欧美另类亚洲清纯唯美| 精品电影一区二区在线| 久99久视频精品免费| 又紧又爽又黄一区二区| 免费人成视频x8x8入口观看| 国产精品国产高清国产av| 亚洲精品国产精品久久久不卡| 怎么达到女性高潮| 亚洲精品色激情综合| 中出人妻视频一区二区| 一级a爱片免费观看的视频| 在线观看免费午夜福利视频| 黄网站色视频无遮挡免费观看| 最近最新免费中文字幕在线| 国产熟女xx| av在线天堂中文字幕| 精品国产乱子伦一区二区三区| 亚洲九九香蕉| 两人在一起打扑克的视频| 亚洲国产欧美日韩在线播放| 麻豆成人午夜福利视频| 午夜两性在线视频| 母亲3免费完整高清在线观看| 女性被躁到高潮视频| a级毛片a级免费在线| 国内久久婷婷六月综合欲色啪| av欧美777| 精品一区二区三区四区五区乱码| 色哟哟哟哟哟哟| 国产欧美日韩一区二区精品| 亚洲自偷自拍图片 自拍| 少妇 在线观看| 亚洲熟妇中文字幕五十中出| 亚洲第一欧美日韩一区二区三区| 日韩欧美一区视频在线观看| 老司机午夜福利在线观看视频| 在线视频色国产色| 人人妻人人澡人人看| 99国产极品粉嫩在线观看| 又大又爽又粗| 亚洲欧美精品综合一区二区三区| 一本久久中文字幕| 老司机在亚洲福利影院| 夜夜爽天天搞| 国产成人av激情在线播放| 又紧又爽又黄一区二区| 日韩大尺度精品在线看网址| 国产精品一区二区精品视频观看| 免费av毛片视频| 夜夜爽天天搞| 法律面前人人平等表现在哪些方面| 女人爽到高潮嗷嗷叫在线视频| 久久99热这里只有精品18| 制服诱惑二区| 国产精品野战在线观看| 国产精品影院久久| 免费女性裸体啪啪无遮挡网站| 欧美丝袜亚洲另类 | 夜夜爽天天搞| 久久精品国产综合久久久| 久久国产精品男人的天堂亚洲| 午夜福利在线观看吧| 中文字幕av电影在线播放| 国产又爽黄色视频| 久久久国产成人免费| 色哟哟哟哟哟哟| 日本 欧美在线| 两性午夜刺激爽爽歪歪视频在线观看 | 91字幕亚洲| 大香蕉久久成人网| 天天躁夜夜躁狠狠躁躁| 麻豆成人午夜福利视频| av中文乱码字幕在线| 午夜老司机福利片| 欧美在线黄色| 色综合欧美亚洲国产小说| 黄色女人牲交| 法律面前人人平等表现在哪些方面| 91麻豆精品激情在线观看国产| 精品日产1卡2卡| 久久天堂一区二区三区四区| www.999成人在线观看| 美女扒开内裤让男人捅视频| 18禁国产床啪视频网站| 最近最新中文字幕大全电影3 | 在线看三级毛片| 97人妻精品一区二区三区麻豆 | 国产精品1区2区在线观看.| 久久人妻福利社区极品人妻图片| netflix在线观看网站| 久久久久久久久久黄片| 黄片播放在线免费| 日韩成人在线观看一区二区三区| 久久精品国产99精品国产亚洲性色| 日本 av在线| 成人三级做爰电影| 色在线成人网| 亚洲男人的天堂狠狠| av在线播放免费不卡| 最近最新中文字幕大全电影3 | 1024手机看黄色片| 免费看a级黄色片| 欧美日韩福利视频一区二区| 国产精品综合久久久久久久免费| 国产97色在线日韩免费| 男女午夜视频在线观看| 午夜激情福利司机影院| 国产一区在线观看成人免费| 欧美丝袜亚洲另类 | 制服诱惑二区| 人人妻,人人澡人人爽秒播| 美女 人体艺术 gogo| 国产真人三级小视频在线观看| 欧美一级毛片孕妇| av在线播放免费不卡| 黄片播放在线免费| 十八禁网站免费在线| 国产aⅴ精品一区二区三区波| 黄色视频不卡| 色综合婷婷激情| 69av精品久久久久久| 老司机深夜福利视频在线观看| 久久久久久久久久黄片| 韩国av一区二区三区四区| 露出奶头的视频| 欧美不卡视频在线免费观看 | 免费在线观看黄色视频的| 波多野结衣av一区二区av| 国产97色在线日韩免费| 国产一卡二卡三卡精品| 免费一级毛片在线播放高清视频| 亚洲av电影在线进入| 亚洲国产精品合色在线| 最近最新免费中文字幕在线| 日韩免费av在线播放| 久久久国产成人免费| 国产爱豆传媒在线观看 | 我的亚洲天堂| 老汉色av国产亚洲站长工具| 老司机深夜福利视频在线观看| 91成年电影在线观看| 老司机在亚洲福利影院| 日韩av在线大香蕉| 又紧又爽又黄一区二区| 亚洲无线在线观看| 国产伦在线观看视频一区| 国产精品av久久久久免费| 又紧又爽又黄一区二区| 在线观看免费日韩欧美大片| 人人妻,人人澡人人爽秒播| 99热6这里只有精品| 亚洲全国av大片| 精品欧美一区二区三区在线| 草草在线视频免费看| 窝窝影院91人妻| 琪琪午夜伦伦电影理论片6080| 亚洲午夜精品一区,二区,三区| 亚洲精华国产精华精| 一级黄色大片毛片| 午夜激情福利司机影院| 亚洲成人精品中文字幕电影| 九色国产91popny在线| 国产精品一区二区三区四区久久 | 亚洲国产精品sss在线观看| 免费看日本二区| 男女床上黄色一级片免费看| 亚洲精品av麻豆狂野| 欧美在线一区亚洲| 亚洲熟女毛片儿| 桃色一区二区三区在线观看| 一级a爱片免费观看的视频| 成人亚洲精品av一区二区| 亚洲av成人av| 国产成人精品久久二区二区免费| 中国美女看黄片| 国产精品亚洲一级av第二区| 两性夫妻黄色片| 一级a爱视频在线免费观看| 欧美激情极品国产一区二区三区| 中出人妻视频一区二区| 91字幕亚洲| 色精品久久人妻99蜜桃| 国产亚洲精品av在线| 啦啦啦 在线观看视频| 中文字幕久久专区| av欧美777| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲国产欧美日韩在线播放| 精品国产乱码久久久久久男人| 一级毛片精品| 国产精品久久久久久精品电影 | 在线国产一区二区在线| 精品久久久久久久毛片微露脸| 国内精品久久久久精免费| 婷婷六月久久综合丁香| 精品无人区乱码1区二区| 神马国产精品三级电影在线观看 | 国产主播在线观看一区二区| 精品欧美一区二区三区在线| 久久狼人影院| 精品第一国产精品| 国产三级黄色录像| 国产成+人综合+亚洲专区| 国产精品精品国产色婷婷| 久久精品91蜜桃| 亚洲成人久久爱视频| 在线永久观看黄色视频| 看免费av毛片| 国内毛片毛片毛片毛片毛片| 成年版毛片免费区| 午夜免费激情av| 日韩精品青青久久久久久| 国产精品永久免费网站| 欧美黑人欧美精品刺激| 一级毛片精品| 在线观看午夜福利视频| 久久久久久人人人人人| svipshipincom国产片| 亚洲av成人av| av免费在线观看网站| 午夜精品在线福利| 国产一区在线观看成人免费| 国产片内射在线| 亚洲九九香蕉| 国产精品99久久99久久久不卡| 久久这里只有精品19| 久久国产精品男人的天堂亚洲| 久久国产亚洲av麻豆专区| 久久人妻福利社区极品人妻图片| 免费在线观看影片大全网站| 欧美黄色淫秽网站| 中文字幕人妻丝袜一区二区| 日日摸夜夜添夜夜添小说| 丝袜美腿诱惑在线| 白带黄色成豆腐渣| 禁无遮挡网站| 成人国产一区最新在线观看| 色综合欧美亚洲国产小说| 国产精品免费一区二区三区在线| 国产熟女xx| 在线免费观看的www视频| 99国产精品99久久久久| 久久久久久九九精品二区国产 | 欧美国产日韩亚洲一区| 中文字幕人成人乱码亚洲影| 首页视频小说图片口味搜索| av天堂在线播放| 国产日本99.免费观看| avwww免费| 欧美中文日本在线观看视频| 亚洲精品中文字幕在线视频| 中文字幕人妻熟女乱码| 999久久久精品免费观看国产| 国产亚洲av嫩草精品影院| 亚洲人成网站在线播放欧美日韩| 18美女黄网站色大片免费观看|