• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于雙重SE注意力機(jī)制下的CNN-BiLSTM混合石墨電極位移預(yù)測(cè)模型

    2023-12-25 03:25:04張淵碩王子涵
    電腦知識(shí)與技術(shù) 2023年31期
    關(guān)鍵詞:注意力機(jī)制卷積神經(jīng)網(wǎng)絡(luò)

    張淵碩 王子涵

    摘要:石墨化是石墨電極生產(chǎn)核心環(huán)節(jié),石墨電極位移預(yù)測(cè)的準(zhǔn)確性和有效性對(duì)電極的生產(chǎn)質(zhì)量具有重大意義。文章針對(duì)內(nèi)串石墨化工藝參數(shù)與位移數(shù)據(jù)之間的關(guān)系進(jìn)行建模,提出了一種引入注意力機(jī)制下的卷積神經(jīng)網(wǎng)絡(luò)(CNN)和雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(BiLSTM)混合石墨電極位移預(yù)測(cè)模型。為有效解決時(shí)間序列重要程度差異性問(wèn)題,在傳統(tǒng)SE注意力機(jī)制中增加了雙重SE注意力并行模塊,并用BiLSTM通過(guò)兩個(gè)方向來(lái)發(fā)掘時(shí)間序列信息,有效提高模型預(yù)測(cè)度。實(shí)驗(yàn)結(jié)果表明,文章提出的混合網(wǎng)絡(luò)模型能夠?qū)κ姌O位移進(jìn)行有效預(yù)測(cè),且相比于傳統(tǒng)的SE-CNN-BiLSTM方法和主流預(yù)測(cè)方法預(yù)測(cè)準(zhǔn)確度更高。

    關(guān)鍵詞: 內(nèi)串石墨化;石墨電極位移;卷積神經(jīng)網(wǎng)絡(luò);雙向長(zhǎng)短期記憶;注意力機(jī)制

    中圖分類號(hào):TP391.41? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼:A

    文章編號(hào):1009-3044(2023)31-0051-04

    開放科學(xué)(資源服務(wù))標(biāo)識(shí)碼(OSID) :<G:\飛翔打包文件一\電腦2023年第三十一期打包文件\9.01xs202331\Image\image256.jpeg>

    0 引言

    石墨化工藝的作用是使焙燒品的六角碳原子平面網(wǎng)絡(luò)從二維空間的無(wú)序重疊轉(zhuǎn)變?yōu)槿S空間的有序重疊并具有石墨結(jié)構(gòu)的高溫?zé)崽幚磉^(guò)程[1],要達(dá)到這個(gè)目的,大多數(shù)碳素企業(yè)通過(guò)電流加熱的方式使制品溫度最終達(dá)到2300~3000℃。由于其利用電極本體發(fā)熱,通過(guò)電極的電流密度分布比較均勻[2],可有效地降低能耗。在內(nèi)串石墨化生產(chǎn)過(guò)程中,隨著溫度的不斷升高,制品會(huì)產(chǎn)生膨脹,為保證在石墨化送電過(guò)程中制品不因加熱過(guò)快而出現(xiàn)裂紋等次品,整個(gè)串接柱的膨脹量是工藝師傅重點(diǎn)參考的數(shù)值,膨脹量主要通過(guò)外接的位移傳感器來(lái)實(shí)現(xiàn)數(shù)據(jù)監(jiān)測(cè)。

    石墨化爐阻、爐溫等工藝參數(shù)都呈現(xiàn)出很強(qiáng)的非線性和不確定性,用數(shù)學(xué)回歸方法很難得到精確模型[3]。將深度學(xué)習(xí)技術(shù)應(yīng)用到石墨化時(shí)序數(shù)據(jù)的石墨電極位移預(yù)測(cè)中,可以更好地發(fā)掘出石墨化工藝參數(shù)與石墨電極位移之間的關(guān)系,對(duì)于石墨電極的生產(chǎn)質(zhì)量有顯著提高。文獻(xiàn)[4-5]采用BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)技術(shù)對(duì)焙燒控制進(jìn)行改進(jìn),但其對(duì)長(zhǎng)期依賴問(wèn)題表現(xiàn)不佳。文獻(xiàn)[6]采用LSTM模型對(duì)鋁用陽(yáng)極質(zhì)量進(jìn)行預(yù)測(cè),對(duì)焙燒成品率有顯著提高,但采用單一模型進(jìn)行預(yù)測(cè)存在精度差和訓(xùn)練時(shí)間較長(zhǎng)的問(wèn)題。文獻(xiàn)[7]基于CNN-LSTM模型對(duì)NOX濃度進(jìn)行預(yù)測(cè),利用CNN對(duì)機(jī)組運(yùn)行相關(guān)參數(shù)的時(shí)間序列數(shù)據(jù)進(jìn)行特征提取,使各參數(shù)的序列特征更加明顯。但LSTM僅在一個(gè)方向上傳遞信息,無(wú)法同時(shí)獲取過(guò)去和未來(lái)的上下文信息。文獻(xiàn)[8]基于CNN-BiLSTM混合模型對(duì)短期風(fēng)電功率進(jìn)行預(yù)測(cè),雖然采用BiLSTM同時(shí)挖掘未來(lái)和過(guò)去的時(shí)間序列信息來(lái)提高預(yù)測(cè)精度,但CNN在進(jìn)行特征提取時(shí),對(duì)于每個(gè)通道的特征圖采用相同的權(quán)重和處理方式,沒(méi)有明確地考慮通道間的相關(guān)性和重要性差異。

    根據(jù)上述情況,本文提出了一種在雙重SE注意力機(jī)制下的CNN-BiLSTM混合預(yù)測(cè)模型。首先應(yīng)用CNN對(duì)輸入數(shù)據(jù)進(jìn)行卷積處理,增強(qiáng)輸入與輸出之間的相關(guān)性;然后SE模塊對(duì)卷積得到的特征圖進(jìn)行操作,從而增強(qiáng)重要通道的表達(dá);最后通過(guò)BiLSTM網(wǎng)絡(luò)對(duì)時(shí)序數(shù)據(jù)進(jìn)行預(yù)測(cè)。實(shí)驗(yàn)結(jié)果表明,本文所提出的方法可以有效地提高預(yù)測(cè)精度。

    1 模型建立

    1.1 卷積神經(jīng)網(wǎng)絡(luò)

    CNN(Convolutional Neural Networks,卷積神經(jīng)網(wǎng)絡(luò))[9]是一種常用于圖像處理、模式識(shí)別等領(lǐng)域的深度學(xué)習(xí)網(wǎng)絡(luò)。

    CNN的核心思想是利用卷積運(yùn)算提取局部特征,其結(jié)構(gòu)圖如圖1所示,通過(guò)堆疊多層卷積層和池化層來(lái)逐漸抽象出更高層次的特征表示,并最終完成分類或回歸任務(wù)。在卷積層中,通常由多個(gè)特征平面組成,每個(gè)特征平面均由一組矩形排列的神經(jīng)元構(gòu)成,這些神經(jīng)元共享同一組權(quán)重參數(shù),即卷積核。在網(wǎng)絡(luò)前向傳播過(guò)程中,卷積核會(huì)與前一層的局部區(qū)域連接并進(jìn)行卷積運(yùn)算,以提取前一層特征的關(guān)鍵信息。計(jì)算公式如式(1)所示:

    [XLj=f(i∈MjXL-1i*KLj+bLj)]? (1)

    式中:[Mj]為輸入特征圖;[KLj]為特征對(duì)應(yīng)的卷積核;[KLj],[XL-1i]分別為第L層、第L[-]1層的特征圖;*為卷積運(yùn)算;[bLj]為第L層的偏置單元;[fx]為激活函數(shù)。

    而在池化層中,則會(huì)對(duì)特征圖進(jìn)行下采樣,減小特征圖大小,同時(shí)保留最顯著的特征。除了卷積和池化層之外,CNN還包括全連接層、激活函數(shù)、損失函數(shù)等一系列組件,可以通過(guò)反向傳播算法來(lái)更新權(quán)重和偏置參數(shù),優(yōu)化網(wǎng)絡(luò)性能。綜上所述,CNN具有局部感知性、權(quán)值共享、平移不變性等特點(diǎn),使其在處理數(shù)據(jù)方面表現(xiàn)出色。

    1.2 SE注意力機(jī)制

    SE(Squeeze-and-Excitation)注意力機(jī)制[10]是一種用于提升神經(jīng)網(wǎng)絡(luò)性能的自適應(yīng)機(jī)制,它可以自適應(yīng)地學(xué)習(xí)每個(gè)通道的重要性,并賦予網(wǎng)絡(luò)更強(qiáng)的區(qū)分能力。SE注意力模型由2個(gè)主要部分組成:擠壓(Squeeze)操作和激勵(lì)(Excitation)操作。其中,Squeeze操作是對(duì)輸入特征圖進(jìn)行全局平均池化,將每個(gè)通道的特征壓縮成一個(gè)標(biāo)量,以獲得全局的上下文信息。Excitation操作則是對(duì)Squeeze操作的輸出進(jìn)行激活,通過(guò)多層感知機(jī)(MLP)模型來(lái)對(duì)每個(gè)通道賦予不同的權(quán)重,從而達(dá)到增強(qiáng)關(guān)鍵通道、壓縮無(wú)用通道的目的。

    SE注意力模型的主要優(yōu)點(diǎn)是可遷移性好,可以方便地嵌入各種結(jié)構(gòu)中,例如卷積神經(jīng)網(wǎng)絡(luò)、全連接層等。同時(shí),由于可以精準(zhǔn)地選擇需要關(guān)注的信息,因此大幅減少了模型的參數(shù)量,提高了網(wǎng)絡(luò)運(yùn)行效率。圖2為SE模塊模型圖,[X']為原始輸入數(shù)據(jù),[H']為原始輸入的空間高度,[W']為原始輸入的空間寬度,[C']為原始輸入的通道數(shù),[X]為卷積操作后的特征圖,[H]為卷積操作后的高度,[W]為卷積操作后的空間寬度,[C]為卷積操作后特征的通道。

    首先,F(xiàn)tr這一步是轉(zhuǎn)換操作,是對(duì)輸入特征進(jìn)行一次卷積,對(duì)于任何給定的變換Ftr映射輸入[X]到特征映射[U],定義如公式(2)所示:

    [Ftr:X→U,X∈RH'×W'×C',U∈RH×W×C]? (2)

    接下來(lái)就是Squeeze操作通過(guò)采用全局平均池化,將輸入特征圖在空間維度上進(jìn)行降維,提取全局信息。這有助于捕捉輸入特征圖的整體上下文信息,不僅局限于局部區(qū)域,具體計(jì)算公式如式(3)所示:

    [z=Fsq(x)=1H×Wi=1Hj=1Wuc(i,j)]? (3)

    其中,[z]表示全局特征,[Fsq]表示擠壓操作,[x]表示輸入特征圖,[H]為特征圖的高度,[W]為特征圖的寬度,[uc(i,j)]為第[i]行第j列像素的特征向量。因此公式就將U[H×W×C]的輸入轉(zhuǎn)換成Z[1×1×C]的輸出,C為輸入特征圖的通道數(shù)。Excitation操作主要目的是激活學(xué)習(xí)到的通道相關(guān)性,通過(guò)使用Sigmoid函數(shù)將學(xué)習(xí)到的通道相關(guān)性轉(zhuǎn)化為0~1的概率值,表示每個(gè)通道重要性得分。這些得分用于加權(quán)每個(gè)通道的特征響應(yīng),使得重要的通道特征得到加強(qiáng),而不重要的通道特征得到抑制,其公式如式(4)所示:

    [s=fex(z,W)=σ(W2δ(W1z))]? (4)

    其中,[s]表示激勵(lì)得分向量,[fex]表示為激勵(lì)操作,[W1∈RCr×C]表示[Cr]行[C]列的權(quán)重矩陣,[W2∈RC×Cr]表示[C]行[Cr]列的權(quán)重矩陣,[r]代表縮放比例,[σ]為Sigmoid函數(shù),[δ]為ReLU激活函數(shù)。

    考慮到傳統(tǒng)SE注意力機(jī)制僅采用全局平均池化操作來(lái)壓縮特征圖信息,容易產(chǎn)生信息丟失問(wèn)題。因此為了彌補(bǔ)SE注意力機(jī)制的這一缺陷,本文提出了一種雙重注意力機(jī)制[11]。即在傳統(tǒng)的SE注意力機(jī)制上,另設(shè)一條SE注意力機(jī)制,其中采用最大池化來(lái)提取整張?zhí)卣鲌D的空間像素信息。進(jìn)而將兩條SE注意力機(jī)制的初步加權(quán)結(jié)果相加,進(jìn)而輸入至Sigmoid函數(shù)中,為各通道賦予0~1的權(quán)重,改進(jìn)網(wǎng)絡(luò)模型圖如圖3所示。

    其中,Inception表示Ftr轉(zhuǎn)化;gmpool、gapool分別表示最大池化和全局平均池化;FC表示全連接層,ReLU為激活函數(shù);addition表示權(quán)重相加;Sigmoid表示激活函數(shù)。

    1.3 BiLSTM模型

    長(zhǎng)短期記憶網(wǎng)絡(luò)[12]是循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)的一種,用于時(shí)序數(shù)據(jù)預(yù)測(cè)等。與傳統(tǒng)RNN相比,LSTM添加了更多的結(jié)構(gòu),通過(guò)設(shè)計(jì)門限結(jié)構(gòu)解決了傳統(tǒng)RNN存在的缺陷,并且具有較長(zhǎng)的短期記憶,效果更好。

    LSTM是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò),主要是通過(guò)精心設(shè)計(jì)的“門”結(jié)構(gòu)來(lái)實(shí)現(xiàn)去除或增加信息到細(xì)胞狀態(tài)的功能。

    其計(jì)算如公式(5)~公式(10)所示:

    [it=σ(Wi?[ht-1,xt]+bi)]? (5)

    [ft=σ(Wf?[ht-1,xt]+bf)]? (6)

    [ot=σ(Wo?[ht-1,xt]+bo)]? (7)

    [ct=tanh(Wc?[ht-1,xt]+bc)] (8)

    [ct=it×ct+ct-1×ft]? (9)

    [ht=ot×tanh(ct)]? (10)

    其中,s 為 sigmoid 激活函數(shù),[ft]、[ct]、[ot]分別表示遺忘門、輸入門和輸出門的輸出,[W]為神經(jīng)元的權(quán)重,[b]為神經(jīng)元的偏差。

    BiLSTM[13]由2個(gè)方向的LSTM組成,其中一個(gè)LSTM按時(shí)間順序處理序列,另一個(gè)LSTM按時(shí)間逆序處理序列,其結(jié)構(gòu)圖4如所示,每個(gè)LSTM層都由多個(gè)LSTM神經(jīng)元組成,每個(gè)神經(jīng)元可以保留一個(gè)內(nèi)部狀態(tài),以便于捕捉序列中潛在的長(zhǎng)期依賴關(guān)系。LSTM層還包括輸入門、遺忘門和輸出門,這些門控制著神經(jīng)元如何處理輸入數(shù)據(jù)以及維護(hù)其內(nèi)部狀態(tài)。

    在正向和反向LSTM處理完輸入序列之后,它們的輸出會(huì)被拼接在一起作為BiLSTM的最終輸出結(jié)果,以提供更全面和豐富的特征信息。

    2 模型設(shè)計(jì)

    2.1 數(shù)據(jù)預(yù)處理

    1) 數(shù)據(jù)采集

    本文采用邯鄲市成安縣某炭素廠2022年4月27日—2023年6月20日的15分鐘數(shù)據(jù),通過(guò)邊緣計(jì)算網(wǎng)關(guān)進(jìn)行實(shí)時(shí)采集,在后端通過(guò)API接口獲取數(shù)據(jù)庫(kù)中的數(shù)據(jù)。由于獲取的數(shù)據(jù)較完整,只對(duì)數(shù)據(jù)中出現(xiàn)的個(gè)別空值采用向上賦值法進(jìn)行賦值。

    2) 數(shù)據(jù)處理

    為了確保模型訓(xùn)練的有效性,對(duì)于包含不同特征值且存在量綱差異和數(shù)值差異較大的數(shù)據(jù)集,采用輸入數(shù)據(jù)歸一化方法以降低其對(duì)模型訓(xùn)練產(chǎn)生的消極影響。其計(jì)算公式如式(11)所示:

    [x?=x-xmax+xmin2xmax-xmin2]? (11)

    2.2 石墨電極位移預(yù)測(cè)模型設(shè)計(jì)

    本文采用雙重SE注意力機(jī)制下的CNN-BiLSTM混合預(yù)測(cè)模型進(jìn)行石墨電極位移預(yù)測(cè),模型結(jié)構(gòu)如圖5所示。首先,將經(jīng)過(guò)預(yù)處理的數(shù)據(jù)輸入網(wǎng)絡(luò),通過(guò)第一層卷積對(duì)數(shù)據(jù)進(jìn)行特征提取,通過(guò)激活層到第二層卷積更加細(xì)致地對(duì)特征進(jìn)行提取。本文的模型結(jié)構(gòu)采用了兩層卷積作為特征提取層,考慮到池化層的加入會(huì)產(chǎn)生信息丟失的問(wèn)題,因此不再引入池化操作。然后用SE注意力機(jī)制建立特征之間的相互依賴性,雙重SE注意力機(jī)制被放置在CNN最后一層卷積層與BiLSTM層之間的連接處。隨后通過(guò)Flatten降維層將SE注意力模塊與BiLSTM模塊相連接,最終通過(guò)全連接層輸出結(jié)果。

    <G:\飛翔打包文件一\電腦2023年第三十一期打包文件\9.01xs202331\Image\image298.png>

    圖5? 基于DSE-CNN-BiLSTM的石墨電極位移預(yù)測(cè)模型

    2.3 模型評(píng)價(jià)指標(biāo)

    為了更進(jìn)一步對(duì)所提出的DSE-CNN-BiLSTM混合網(wǎng)絡(luò)預(yù)測(cè)模型進(jìn)行評(píng)估,本文采用RMSE和MAE作為誤差評(píng)價(jià)指標(biāo)。上述指標(biāo)值越小則代表預(yù)測(cè)準(zhǔn)確性越高。具體計(jì)算公式如式(12)~式(13)所示:

    [ERMSE=1Ni=1N(yi-y)2] (12)

    [EMAE=1Ni=1Nyi-y] (13)

    式中:[yi]為樣本[i]的真實(shí)值;[y]為真實(shí)值序列的均值;[y]為樣本[i]的模型預(yù)測(cè)值。

    3 實(shí)驗(yàn)分析

    本文對(duì)采集到的數(shù)據(jù)集分為訓(xùn)練集和測(cè)試集,前80%作為訓(xùn)練集,總計(jì)4 800條;后20%作為測(cè)試集,總計(jì)1 200條。模型采用adam優(yōu)化器和mini-batch梯度下降法,訓(xùn)練批次設(shè)為256,迭代次數(shù)為100,進(jìn)行15分鐘的石墨電極位移預(yù)測(cè),圖6為6種模型的預(yù)測(cè)結(jié)果,分別為L(zhǎng)STM、GRU[13]、CNN-LSTM[14]、CNN-BiLSTM、SE-CNN-BiLSTM、DSE-CNN-BiLSTM模型。圖6中橫軸為預(yù)測(cè)樣本數(shù),縱軸為石墨電極位移預(yù)測(cè)值。

    為進(jìn)一步驗(yàn)證本文所提出模型的預(yù)測(cè)優(yōu)勢(shì),采用上述6種模型在相同數(shù)據(jù)和環(huán)境下進(jìn)行對(duì)比,圖7為預(yù)測(cè)對(duì)比圖,圖中橫軸為預(yù)測(cè)樣本數(shù),縱軸為石墨電極位移預(yù)測(cè)值??梢钥闯鯠SE-CNN-BiLSTM預(yù)測(cè)值與實(shí)際值更接近,優(yōu)于其他5種模型。

    其中,模型1~5分別為SE-CNN-BiLSTM、LSTM、GRU、CNN-LSTM、CNN-BiLSTM模型,主模型為DSE-CNN-BiLSTM模型[15]。

    表1為6種模型對(duì)15min尺度的石墨電極位移預(yù)測(cè)評(píng)價(jià)指標(biāo)值。從表1中可以看出,本文所提出的模型誤差低于其他5種模型誤差,對(duì)石墨電極位移可以更好地預(yù)測(cè)。

    4 結(jié)束語(yǔ)

    本文提出了一種引進(jìn)注意力機(jī)制下的CNN和BiLSTM混合石墨電極位移預(yù)測(cè)模型。在傳統(tǒng)SE注意力機(jī)制中加入了并行模塊,通過(guò)加入最大池化操作來(lái)更好地挖掘重要的輸入信息。通過(guò)大量實(shí)驗(yàn)和研究表明,基于DSE-CNN-BiLSTM模型相比傳統(tǒng)SE-CNN-BiLSTM和市面上主流的4種預(yù)測(cè)模型有著更高的預(yù)測(cè)精度,更小的誤差,對(duì)于石墨電極位移的預(yù)測(cè)有著更有效的預(yù)警意義。

    參考文獻(xiàn):

    [1] 顧鵬,馮俊杰,張勝恩.內(nèi)串石墨化爐爐體的優(yōu)化與改進(jìn)[J].炭素技術(shù),2019,38(5):64-67.

    [2] 劉炳強(qiáng),趙修富,馬廣禧.淺談內(nèi)串石墨化送電曲線的制定與調(diào)整[J].炭素技術(shù),2010,29(5):41-43.

    [3] 曲麗萍,曲永印,薛海波.石墨化爐人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)控制的研究[J].控制工程,2006,13(5):466-468.

    [4] 姜潮陽(yáng),文克,劉予湘,等.BP神經(jīng)網(wǎng)絡(luò)在預(yù)焙陽(yáng)極生產(chǎn)中的應(yīng)用[J].炭素技術(shù),2001,20(1):38-41.

    [5] 蘇志同,吳佳龍.預(yù)焙陽(yáng)極配方焙燒塊質(zhì)量預(yù)測(cè)模型研究[J].計(jì)算機(jī)與數(shù)字工程,2019,47(8):2066-2069.

    [6] 蘇志同,王春雷.基于LSTM的焙燒時(shí)序數(shù)據(jù)的質(zhì)量預(yù)測(cè)模型[J].軟件,2020,41(5):105-107,197.

    [7] 王永林,白永峰,孔祥山,等.基于CNN-LSTM算法的脫硝優(yōu)化控制模型研究[J].綜合智慧能源,2023,45(6):25-33.

    [8] 楊子民,彭小圣,熊予涵,等.計(jì)及鄰近風(fēng)電場(chǎng)信息與CNN-BiLSTM的短期風(fēng)電功率預(yù)測(cè)[J].南方電網(wǎng)技術(shù),2023,17(2):47-56.

    [9] JIN K H,MCCANN M T,F(xiàn)roustey E,et al.Deep convolutional neural network for inverse problems in imaging[J].IEEE Transactions on Image Processing:a Publication of the IEEE Signal Processing Society,2017,26(9):4509-4522.

    [10] 肖鵬程,徐文廣,張妍,等.基于SE注意力機(jī)制的廢鋼分類評(píng)級(jí)方法[J].工程科學(xué)學(xué)報(bào),2023,45(8):1342-1352.

    [11] 蘇向敬,周汶鑫,李超杰,等.基于雙重注意力LSTM神經(jīng)網(wǎng)絡(luò)的可解釋海上風(fēng)電出力預(yù)測(cè)[J].電力系統(tǒng)自動(dòng)化,2022,46(7):141-151.

    [12] YU Y,SI X S,HU C H,et al.A review of recurrent neural networks:LSTM cells and network architectures[J].Neural Computation,2019,31(7):1235-1270.

    [13] MOHARM K,ELTAHAN M,Elsaadany E.Wind speed forecast using LSTM and Bi-LSTM algorithms over gabal el-zayt wind farm[C]//2020 International Conference on Smart Grids and Energy Systems (SGES).IEEE,2021:922-927.

    [14] 李靜茹,姚方.引入注意力機(jī)制的CNN和LSTM復(fù)合風(fēng)電預(yù)測(cè)模型[J].電氣自動(dòng)化,2022,44(6):4-6.

    [15] SHIRI F M,PERUMAL T,Mustapha N,et al.A comprehensive overview and comparative analysis on deep learning models:CNN,RNN,LSTM,GRU[EB/OL].[2023-06-01].2023:arXiv:2305.17473.https://arxiv.org/abs/2305.17473.pdf.

    【通聯(lián)編輯:唐一東】

    猜你喜歡
    注意力機(jī)制卷積神經(jīng)網(wǎng)絡(luò)
    面向短文本的網(wǎng)絡(luò)輿情話題
    基于自注意力與動(dòng)態(tài)路由的文本建模方法
    基于深度學(xué)習(xí)的問(wèn)題回答技術(shù)研究
    基于LSTM?Attention神經(jīng)網(wǎng)絡(luò)的文本特征提取方法
    基于注意力機(jī)制的雙向LSTM模型在中文商品評(píng)論情感分類中的研究
    軟件工程(2017年11期)2018-01-05 08:06:09
    InsunKBQA:一個(gè)基于知識(shí)庫(kù)的問(wèn)答系統(tǒng)
    基于卷積神經(jīng)網(wǎng)絡(luò)溫室智能大棚監(jiān)控系統(tǒng)的研究
    基于深度卷積神經(jīng)網(wǎng)絡(luò)的物體識(shí)別算法
    深度學(xué)習(xí)算法應(yīng)用于巖石圖像處理的可行性研究
    基于深度卷積網(wǎng)絡(luò)的人臉年齡分析算法與實(shí)現(xiàn)
    軟件工程(2016年8期)2016-10-25 15:47:34
    午夜福利视频在线观看免费| 丝袜脚勾引网站| 十分钟在线观看高清视频www| 免费人妻精品一区二区三区视频| 国产精品av久久久久免费| 考比视频在线观看| 亚洲 国产 在线| 亚洲成人免费电影在线观看| 一本大道久久a久久精品| 男女国产视频网站| 在线观看免费午夜福利视频| 国产精品久久久久久人妻精品电影 | 国产老妇伦熟女老妇高清| 成人影院久久| 后天国语完整版免费观看| 俄罗斯特黄特色一大片| 岛国毛片在线播放| 精品一品国产午夜福利视频| 日本欧美视频一区| 好男人电影高清在线观看| 亚洲熟女毛片儿| 一本综合久久免费| 黑人猛操日本美女一级片| 两人在一起打扑克的视频| 欧美人与性动交α欧美精品济南到| 国产成人精品无人区| 午夜福利免费观看在线| 18禁国产床啪视频网站| 国产成人系列免费观看| 999久久久国产精品视频| 国产视频一区二区在线看| 亚洲av成人一区二区三| 久久久久久久精品精品| 女警被强在线播放| √禁漫天堂资源中文www| 日本黄色日本黄色录像| 老司机深夜福利视频在线观看 | 桃红色精品国产亚洲av| 亚洲七黄色美女视频| 亚洲九九香蕉| 人人妻人人澡人人爽人人夜夜| 十八禁网站免费在线| 久久亚洲国产成人精品v| 亚洲视频免费观看视频| 日韩视频在线欧美| av欧美777| 成年动漫av网址| 亚洲欧美色中文字幕在线| 91成人精品电影| 精品人妻一区二区三区麻豆| videos熟女内射| 亚洲国产毛片av蜜桃av| videos熟女内射| 精品人妻1区二区| 男人舔女人的私密视频| 日韩中文字幕欧美一区二区| 午夜两性在线视频| 性色av一级| 国产亚洲一区二区精品| 国产无遮挡羞羞视频在线观看| 一二三四在线观看免费中文在| 久久精品亚洲熟妇少妇任你| 真人做人爱边吃奶动态| 人人澡人人妻人| 青青草视频在线视频观看| 国产人伦9x9x在线观看| 91大片在线观看| 欧美国产精品一级二级三级| svipshipincom国产片| 欧美另类一区| 欧美日韩亚洲国产一区二区在线观看 | 黄频高清免费视频| 免费女性裸体啪啪无遮挡网站| 免费高清在线观看日韩| 90打野战视频偷拍视频| 香蕉丝袜av| 亚洲一码二码三码区别大吗| 99国产精品一区二区蜜桃av | 国产男女内射视频| 欧美中文综合在线视频| 亚洲欧洲日产国产| 男女高潮啪啪啪动态图| www.熟女人妻精品国产| 亚洲欧洲精品一区二区精品久久久| 国产一区二区在线观看av| 热99久久久久精品小说推荐| 日韩欧美一区视频在线观看| 精品人妻在线不人妻| 他把我摸到了高潮在线观看 | 国产欧美日韩一区二区三区在线| 欧美亚洲日本最大视频资源| 在线亚洲精品国产二区图片欧美| 天天躁夜夜躁狠狠躁躁| 亚洲成人免费av在线播放| 亚洲国产毛片av蜜桃av| 天天影视国产精品| 日韩电影二区| 亚洲国产精品999| 日本黄色日本黄色录像| 久久精品人人爽人人爽视色| 国产一区二区三区在线臀色熟女 | 黄片小视频在线播放| 亚洲,欧美精品.| 大香蕉久久网| 亚洲九九香蕉| 满18在线观看网站| 中亚洲国语对白在线视频| 亚洲人成电影观看| 成年人黄色毛片网站| 一区在线观看完整版| 亚洲国产av影院在线观看| 可以免费在线观看a视频的电影网站| 精品久久蜜臀av无| √禁漫天堂资源中文www| 精品少妇久久久久久888优播| 精品高清国产在线一区| 日日爽夜夜爽网站| 夜夜骑夜夜射夜夜干| 九色亚洲精品在线播放| 999久久久精品免费观看国产| 婷婷成人精品国产| 亚洲伊人色综图| 午夜影院在线不卡| 日韩精品免费视频一区二区三区| 国产精品久久久人人做人人爽| 免费在线观看完整版高清| 久久久久精品人妻al黑| 十八禁网站网址无遮挡| 99国产综合亚洲精品| 69av精品久久久久久 | 久久人妻福利社区极品人妻图片| 最近最新免费中文字幕在线| 国产精品偷伦视频观看了| 亚洲天堂av无毛| 十分钟在线观看高清视频www| 欧美国产精品一级二级三级| 窝窝影院91人妻| 99久久综合免费| 国产老妇伦熟女老妇高清| 国产视频一区二区在线看| 成年av动漫网址| 无遮挡黄片免费观看| 久久久精品免费免费高清| 精品国产一区二区三区四区第35| 在线永久观看黄色视频| 久久中文看片网| 一二三四社区在线视频社区8| 91成年电影在线观看| 美女大奶头黄色视频| 欧美日韩一级在线毛片| 久久久久视频综合| 50天的宝宝边吃奶边哭怎么回事| 在线观看舔阴道视频| 狂野欧美激情性bbbbbb| 18禁观看日本| 欧美在线黄色| 亚洲精品粉嫩美女一区| 少妇裸体淫交视频免费看高清 | 亚洲国产中文字幕在线视频| 黄色怎么调成土黄色| 亚洲欧美一区二区三区久久| 老司机在亚洲福利影院| 亚洲三区欧美一区| 97在线人人人人妻| 精品乱码久久久久久99久播| 成人亚洲精品一区在线观看| 亚洲av日韩在线播放| 波多野结衣一区麻豆| 午夜老司机福利片| 高清在线国产一区| 99九九在线精品视频| 一级黄色大片毛片| 91字幕亚洲| 热99久久久久精品小说推荐| av有码第一页| 1024视频免费在线观看| 久久久精品国产亚洲av高清涩受| 午夜久久久在线观看| 美女福利国产在线| 成年人午夜在线观看视频| 动漫黄色视频在线观看| 亚洲欧美色中文字幕在线| 一二三四社区在线视频社区8| 一个人免费看片子| 黄片小视频在线播放| 国产免费福利视频在线观看| 亚洲人成电影观看| 在线av久久热| 我的亚洲天堂| 免费日韩欧美在线观看| 超碰97精品在线观看| 精品亚洲成国产av| 亚洲精品美女久久久久99蜜臀| 肉色欧美久久久久久久蜜桃| 美女大奶头黄色视频| 亚洲伊人久久精品综合| 多毛熟女@视频| 99久久综合免费| 国产视频一区二区在线看| 嫩草影视91久久| 久久中文看片网| 黄频高清免费视频| 亚洲熟女精品中文字幕| 日本猛色少妇xxxxx猛交久久| 黄色毛片三级朝国网站| 欧美成人午夜精品| 国产成人系列免费观看| 男女床上黄色一级片免费看| 日本a在线网址| 麻豆国产av国片精品| 中文字幕最新亚洲高清| 一本大道久久a久久精品| 一区二区三区激情视频| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲精品国产精品久久久不卡| 亚洲激情五月婷婷啪啪| 老司机午夜福利在线观看视频 | 满18在线观看网站| 一区二区av电影网| 人人澡人人妻人| 9热在线视频观看99| 极品少妇高潮喷水抽搐| 亚洲精品美女久久久久99蜜臀| a级毛片在线看网站| 成人国语在线视频| 啦啦啦中文免费视频观看日本| 国产精品久久久久久精品电影小说| 三上悠亚av全集在线观看| 宅男免费午夜| 天天操日日干夜夜撸| 桃花免费在线播放| 久久国产亚洲av麻豆专区| 国产精品99久久99久久久不卡| 精品亚洲成a人片在线观看| 亚洲精品美女久久av网站| 国产av又大| 国产精品亚洲av一区麻豆| 国产免费视频播放在线视频| 亚洲国产成人一精品久久久| 宅男免费午夜| 1024视频免费在线观看| 午夜久久久在线观看| 国产老妇伦熟女老妇高清| 99国产极品粉嫩在线观看| 久久精品aⅴ一区二区三区四区| av视频免费观看在线观看| 国产欧美日韩精品亚洲av| 久久久国产精品麻豆| 久久99一区二区三区| 在线av久久热| 99久久99久久久精品蜜桃| 国产高清视频在线播放一区 | 欧美另类亚洲清纯唯美| 久久99热这里只频精品6学生| 97精品久久久久久久久久精品| 午夜影院在线不卡| 99国产综合亚洲精品| 日韩有码中文字幕| 亚洲色图综合在线观看| 欧美 日韩 精品 国产| 亚洲,欧美精品.| 日韩人妻精品一区2区三区| 大片电影免费在线观看免费| 我要看黄色一级片免费的| 伊人久久大香线蕉亚洲五| 精品少妇黑人巨大在线播放| 中文欧美无线码| 久久ye,这里只有精品| 不卡av一区二区三区| 国产亚洲av片在线观看秒播厂| 国产精品自产拍在线观看55亚洲 | 狠狠精品人妻久久久久久综合| 国产精品久久久人人做人人爽| 一区二区三区精品91| www.熟女人妻精品国产| 色老头精品视频在线观看| 欧美97在线视频| 成年美女黄网站色视频大全免费| 少妇人妻久久综合中文| 一级毛片精品| 亚洲 国产 在线| 国产精品九九99| 黄色片一级片一级黄色片| 91精品伊人久久大香线蕉| 自线自在国产av| 人人妻人人澡人人爽人人夜夜| 久久香蕉激情| 脱女人内裤的视频| 在线亚洲精品国产二区图片欧美| 国产精品二区激情视频| 免费人妻精品一区二区三区视频| 制服人妻中文乱码| 在线观看www视频免费| 亚洲第一青青草原| 日韩人妻精品一区2区三区| 欧美中文综合在线视频| 九色亚洲精品在线播放| 久久精品aⅴ一区二区三区四区| 久久久久久久久久久久大奶| 高清av免费在线| 五月天丁香电影| 精品国产一区二区三区四区第35| 国产成人精品久久二区二区91| 大片电影免费在线观看免费| 久久人人爽av亚洲精品天堂| 老司机在亚洲福利影院| 欧美97在线视频| 亚洲欧美精品自产自拍| 大码成人一级视频| 欧美精品啪啪一区二区三区 | 中文字幕人妻丝袜一区二区| 国产熟女午夜一区二区三区| 国产av国产精品国产| www.自偷自拍.com| 国产精品av久久久久免费| 18禁裸乳无遮挡动漫免费视频| 老司机亚洲免费影院| 精品国产一区二区三区四区第35| 高清黄色对白视频在线免费看| 免费久久久久久久精品成人欧美视频| 97人妻天天添夜夜摸| 午夜免费观看性视频| 久久精品成人免费网站| 久久热在线av| 啦啦啦啦在线视频资源| 老汉色av国产亚洲站长工具| 亚洲色图 男人天堂 中文字幕| 亚洲 欧美一区二区三区| 91字幕亚洲| 视频区欧美日本亚洲| e午夜精品久久久久久久| 欧美人与性动交α欧美软件| 在线观看人妻少妇| 纵有疾风起免费观看全集完整版| 色综合欧美亚洲国产小说| 九色亚洲精品在线播放| 亚洲第一青青草原| 69精品国产乱码久久久| 国产免费视频播放在线视频| av在线app专区| 男女之事视频高清在线观看| 成人三级做爰电影| 亚洲五月色婷婷综合| 热99久久久久精品小说推荐| 免费高清在线观看视频在线观看| 黄色a级毛片大全视频| 成年av动漫网址| 国产一区二区三区在线臀色熟女 | 中文字幕色久视频| 国产精品1区2区在线观看. | 91国产中文字幕| 久久99热这里只频精品6学生| 亚洲伊人色综图| 黄色视频,在线免费观看| 大码成人一级视频| 黄色视频在线播放观看不卡| 他把我摸到了高潮在线观看 | 成年人黄色毛片网站| 国产1区2区3区精品| 新久久久久国产一级毛片| cao死你这个sao货| 丰满人妻熟妇乱又伦精品不卡| 一区二区三区激情视频| 国产在线免费精品| 亚洲精品乱久久久久久| av免费在线观看网站| 男女床上黄色一级片免费看| 国产欧美日韩一区二区精品| 精品国产国语对白av| 无遮挡黄片免费观看| 最近最新免费中文字幕在线| 人人妻人人添人人爽欧美一区卜| 国产高清视频在线播放一区 | 99国产精品99久久久久| 天天影视国产精品| 男女边摸边吃奶| 一区二区三区四区激情视频| 免费黄频网站在线观看国产| 男女免费视频国产| 伦理电影免费视频| 免费在线观看影片大全网站| 国产一区二区三区在线臀色熟女 | 亚洲精品乱久久久久久| 亚洲专区国产一区二区| 久久毛片免费看一区二区三区| 成人手机av| 91九色精品人成在线观看| av欧美777| av福利片在线| 两性午夜刺激爽爽歪歪视频在线观看 | 国产成人影院久久av| 亚洲国产精品一区三区| 国产深夜福利视频在线观看| 叶爱在线成人免费视频播放| www.熟女人妻精品国产| 久久久久久久大尺度免费视频| 久久人妻熟女aⅴ| 男女国产视频网站| 日韩制服丝袜自拍偷拍| 天堂中文最新版在线下载| 两个人看的免费小视频| 精品亚洲成a人片在线观看| 男女边摸边吃奶| 国产免费视频播放在线视频| 美女中出高潮动态图| 亚洲国产欧美一区二区综合| 亚洲欧美日韩高清在线视频 | 日韩制服丝袜自拍偷拍| av网站免费在线观看视频| 脱女人内裤的视频| 国产日韩欧美在线精品| 天堂中文最新版在线下载| 窝窝影院91人妻| 日韩电影二区| 午夜老司机福利片| 一级a爱视频在线免费观看| 亚洲中文av在线| 色婷婷av一区二区三区视频| 精品卡一卡二卡四卡免费| 在线 av 中文字幕| 飞空精品影院首页| 大码成人一级视频| 国产成人精品无人区| 国产淫语在线视频| 午夜免费观看性视频| 满18在线观看网站| 亚洲国产av影院在线观看| 我要看黄色一级片免费的| a级片在线免费高清观看视频| 男人操女人黄网站| 两性午夜刺激爽爽歪歪视频在线观看 | 久久久久久久久久久久大奶| 夫妻午夜视频| 久久久久久人人人人人| 亚洲精品中文字幕一二三四区 | 亚洲欧洲日产国产| 母亲3免费完整高清在线观看| 十分钟在线观看高清视频www| 99热全是精品| 欧美激情高清一区二区三区| 丰满迷人的少妇在线观看| 日本91视频免费播放| 国产av又大| 亚洲专区国产一区二区| 国产精品一区二区在线观看99| 男女国产视频网站| 国产野战对白在线观看| 久久精品亚洲av国产电影网| 免费日韩欧美在线观看| 欧美日本中文国产一区发布| 日韩中文字幕视频在线看片| 不卡一级毛片| 啪啪无遮挡十八禁网站| 亚洲成人手机| 国产伦理片在线播放av一区| 自拍欧美九色日韩亚洲蝌蚪91| 女人被躁到高潮嗷嗷叫费观| 人成视频在线观看免费观看| 窝窝影院91人妻| 精品人妻在线不人妻| 老司机午夜十八禁免费视频| 亚洲精品成人av观看孕妇| 亚洲精品美女久久av网站| 自拍欧美九色日韩亚洲蝌蚪91| 国产亚洲一区二区精品| 午夜福利在线免费观看网站| 欧美另类亚洲清纯唯美| 纯流量卡能插随身wifi吗| 日韩大码丰满熟妇| 高清欧美精品videossex| 国产欧美日韩精品亚洲av| 欧美日韩亚洲国产一区二区在线观看 | 亚洲一区中文字幕在线| 在线天堂中文资源库| 丰满人妻熟妇乱又伦精品不卡| 一个人免费看片子| 99久久国产精品久久久| 免费日韩欧美在线观看| 国产免费现黄频在线看| 人人妻人人添人人爽欧美一区卜| 久久毛片免费看一区二区三区| 亚洲第一欧美日韩一区二区三区 | 国产成+人综合+亚洲专区| 久久久久精品人妻al黑| 欧美国产精品一级二级三级| 午夜福利视频在线观看免费| a在线观看视频网站| 50天的宝宝边吃奶边哭怎么回事| 久久国产精品男人的天堂亚洲| 一区二区三区精品91| 精品少妇久久久久久888优播| 欧美变态另类bdsm刘玥| 免费久久久久久久精品成人欧美视频| 97在线人人人人妻| 免费观看a级毛片全部| 精品国产超薄肉色丝袜足j| 大型av网站在线播放| 夜夜骑夜夜射夜夜干| 日韩视频一区二区在线观看| 看免费av毛片| 精品乱码久久久久久99久播| 亚洲综合色网址| 十八禁高潮呻吟视频| 欧美日韩福利视频一区二区| 97人妻天天添夜夜摸| 中文字幕人妻丝袜制服| 久久 成人 亚洲| 一本一本久久a久久精品综合妖精| av网站在线播放免费| 免费少妇av软件| 18禁裸乳无遮挡动漫免费视频| av线在线观看网站| 免费观看a级毛片全部| 精品国产超薄肉色丝袜足j| 亚洲激情五月婷婷啪啪| 国产老妇伦熟女老妇高清| 精品国产一区二区三区久久久樱花| 国产免费视频播放在线视频| 精品少妇黑人巨大在线播放| 久久久久久久久免费视频了| 宅男免费午夜| www.熟女人妻精品国产| 精品一品国产午夜福利视频| 色综合欧美亚洲国产小说| tube8黄色片| 十分钟在线观看高清视频www| 国产精品影院久久| 国产av又大| 婷婷色av中文字幕| 欧美精品一区二区免费开放| 亚洲熟女毛片儿| 一级,二级,三级黄色视频| 欧美激情久久久久久爽电影 | 妹子高潮喷水视频| 视频在线观看一区二区三区| 丝袜脚勾引网站| 久久天躁狠狠躁夜夜2o2o| 午夜激情av网站| 满18在线观看网站| 老司机深夜福利视频在线观看 | 亚洲av成人一区二区三| 亚洲中文av在线| 啦啦啦视频在线资源免费观看| 国产在线视频一区二区| 脱女人内裤的视频| 在线天堂中文资源库| 久久久久久久精品精品| 亚洲精品美女久久av网站| 免费一级毛片在线播放高清视频 | 黑人巨大精品欧美一区二区mp4| 老鸭窝网址在线观看| 狂野欧美激情性bbbbbb| 亚洲精品久久久久久婷婷小说| 国产日韩欧美视频二区| 一区二区三区精品91| 另类精品久久| 国产av又大| 午夜视频精品福利| 午夜精品久久久久久毛片777| 老熟妇仑乱视频hdxx| 人人妻人人澡人人看| 韩国精品一区二区三区| 色婷婷av一区二区三区视频| 新久久久久国产一级毛片| 久久久久视频综合| 中国国产av一级| 蜜桃在线观看..| 国产成人av激情在线播放| 日韩熟女老妇一区二区性免费视频| 欧美久久黑人一区二区| 1024香蕉在线观看| 亚洲精品国产色婷婷电影| 宅男免费午夜| 国产高清国产精品国产三级| 久久精品国产亚洲av香蕉五月 | 国产淫语在线视频| 老司机福利观看| 美女中出高潮动态图| 午夜久久久在线观看| 91麻豆精品激情在线观看国产 | 久久青草综合色| 日韩熟女老妇一区二区性免费视频| 王馨瑶露胸无遮挡在线观看| 免费高清在线观看日韩| 又黄又粗又硬又大视频| 中文字幕人妻丝袜制服| 一边摸一边抽搐一进一出视频| 日韩人妻精品一区2区三区| 国产精品国产三级国产专区5o| 久久九九热精品免费| 丝袜在线中文字幕| 午夜老司机福利片| 好男人电影高清在线观看| e午夜精品久久久久久久| 欧美97在线视频| 美女扒开内裤让男人捅视频| 久久天堂一区二区三区四区| 久久久久久久久免费视频了| 欧美激情极品国产一区二区三区| 大片免费播放器 马上看| 久久人妻福利社区极品人妻图片| 亚洲国产精品成人久久小说| 亚洲激情五月婷婷啪啪| 性色av一级| 国产成人一区二区三区免费视频网站| 91成人精品电影| 国产亚洲欧美精品永久| 搡老岳熟女国产| 亚洲avbb在线观看| 久久av网站| 热re99久久国产66热| 最近中文字幕2019免费版| 高清欧美精品videossex| 亚洲精华国产精华精| 丰满饥渴人妻一区二区三|