• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于雙重SE注意力機(jī)制下的CNN-BiLSTM混合石墨電極位移預(yù)測(cè)模型

    2023-12-25 03:25:04張淵碩王子涵
    電腦知識(shí)與技術(shù) 2023年31期
    關(guān)鍵詞:注意力機(jī)制卷積神經(jīng)網(wǎng)絡(luò)

    張淵碩 王子涵

    摘要:石墨化是石墨電極生產(chǎn)核心環(huán)節(jié),石墨電極位移預(yù)測(cè)的準(zhǔn)確性和有效性對(duì)電極的生產(chǎn)質(zhì)量具有重大意義。文章針對(duì)內(nèi)串石墨化工藝參數(shù)與位移數(shù)據(jù)之間的關(guān)系進(jìn)行建模,提出了一種引入注意力機(jī)制下的卷積神經(jīng)網(wǎng)絡(luò)(CNN)和雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(BiLSTM)混合石墨電極位移預(yù)測(cè)模型。為有效解決時(shí)間序列重要程度差異性問(wèn)題,在傳統(tǒng)SE注意力機(jī)制中增加了雙重SE注意力并行模塊,并用BiLSTM通過(guò)兩個(gè)方向來(lái)發(fā)掘時(shí)間序列信息,有效提高模型預(yù)測(cè)度。實(shí)驗(yàn)結(jié)果表明,文章提出的混合網(wǎng)絡(luò)模型能夠?qū)κ姌O位移進(jìn)行有效預(yù)測(cè),且相比于傳統(tǒng)的SE-CNN-BiLSTM方法和主流預(yù)測(cè)方法預(yù)測(cè)準(zhǔn)確度更高。

    關(guān)鍵詞: 內(nèi)串石墨化;石墨電極位移;卷積神經(jīng)網(wǎng)絡(luò);雙向長(zhǎng)短期記憶;注意力機(jī)制

    中圖分類號(hào):TP391.41? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼:A

    文章編號(hào):1009-3044(2023)31-0051-04

    開放科學(xué)(資源服務(wù))標(biāo)識(shí)碼(OSID) :<G:\飛翔打包文件一\電腦2023年第三十一期打包文件\9.01xs202331\Image\image256.jpeg>

    0 引言

    石墨化工藝的作用是使焙燒品的六角碳原子平面網(wǎng)絡(luò)從二維空間的無(wú)序重疊轉(zhuǎn)變?yōu)槿S空間的有序重疊并具有石墨結(jié)構(gòu)的高溫?zé)崽幚磉^(guò)程[1],要達(dá)到這個(gè)目的,大多數(shù)碳素企業(yè)通過(guò)電流加熱的方式使制品溫度最終達(dá)到2300~3000℃。由于其利用電極本體發(fā)熱,通過(guò)電極的電流密度分布比較均勻[2],可有效地降低能耗。在內(nèi)串石墨化生產(chǎn)過(guò)程中,隨著溫度的不斷升高,制品會(huì)產(chǎn)生膨脹,為保證在石墨化送電過(guò)程中制品不因加熱過(guò)快而出現(xiàn)裂紋等次品,整個(gè)串接柱的膨脹量是工藝師傅重點(diǎn)參考的數(shù)值,膨脹量主要通過(guò)外接的位移傳感器來(lái)實(shí)現(xiàn)數(shù)據(jù)監(jiān)測(cè)。

    石墨化爐阻、爐溫等工藝參數(shù)都呈現(xiàn)出很強(qiáng)的非線性和不確定性,用數(shù)學(xué)回歸方法很難得到精確模型[3]。將深度學(xué)習(xí)技術(shù)應(yīng)用到石墨化時(shí)序數(shù)據(jù)的石墨電極位移預(yù)測(cè)中,可以更好地發(fā)掘出石墨化工藝參數(shù)與石墨電極位移之間的關(guān)系,對(duì)于石墨電極的生產(chǎn)質(zhì)量有顯著提高。文獻(xiàn)[4-5]采用BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)技術(shù)對(duì)焙燒控制進(jìn)行改進(jìn),但其對(duì)長(zhǎng)期依賴問(wèn)題表現(xiàn)不佳。文獻(xiàn)[6]采用LSTM模型對(duì)鋁用陽(yáng)極質(zhì)量進(jìn)行預(yù)測(cè),對(duì)焙燒成品率有顯著提高,但采用單一模型進(jìn)行預(yù)測(cè)存在精度差和訓(xùn)練時(shí)間較長(zhǎng)的問(wèn)題。文獻(xiàn)[7]基于CNN-LSTM模型對(duì)NOX濃度進(jìn)行預(yù)測(cè),利用CNN對(duì)機(jī)組運(yùn)行相關(guān)參數(shù)的時(shí)間序列數(shù)據(jù)進(jìn)行特征提取,使各參數(shù)的序列特征更加明顯。但LSTM僅在一個(gè)方向上傳遞信息,無(wú)法同時(shí)獲取過(guò)去和未來(lái)的上下文信息。文獻(xiàn)[8]基于CNN-BiLSTM混合模型對(duì)短期風(fēng)電功率進(jìn)行預(yù)測(cè),雖然采用BiLSTM同時(shí)挖掘未來(lái)和過(guò)去的時(shí)間序列信息來(lái)提高預(yù)測(cè)精度,但CNN在進(jìn)行特征提取時(shí),對(duì)于每個(gè)通道的特征圖采用相同的權(quán)重和處理方式,沒(méi)有明確地考慮通道間的相關(guān)性和重要性差異。

    根據(jù)上述情況,本文提出了一種在雙重SE注意力機(jī)制下的CNN-BiLSTM混合預(yù)測(cè)模型。首先應(yīng)用CNN對(duì)輸入數(shù)據(jù)進(jìn)行卷積處理,增強(qiáng)輸入與輸出之間的相關(guān)性;然后SE模塊對(duì)卷積得到的特征圖進(jìn)行操作,從而增強(qiáng)重要通道的表達(dá);最后通過(guò)BiLSTM網(wǎng)絡(luò)對(duì)時(shí)序數(shù)據(jù)進(jìn)行預(yù)測(cè)。實(shí)驗(yàn)結(jié)果表明,本文所提出的方法可以有效地提高預(yù)測(cè)精度。

    1 模型建立

    1.1 卷積神經(jīng)網(wǎng)絡(luò)

    CNN(Convolutional Neural Networks,卷積神經(jīng)網(wǎng)絡(luò))[9]是一種常用于圖像處理、模式識(shí)別等領(lǐng)域的深度學(xué)習(xí)網(wǎng)絡(luò)。

    CNN的核心思想是利用卷積運(yùn)算提取局部特征,其結(jié)構(gòu)圖如圖1所示,通過(guò)堆疊多層卷積層和池化層來(lái)逐漸抽象出更高層次的特征表示,并最終完成分類或回歸任務(wù)。在卷積層中,通常由多個(gè)特征平面組成,每個(gè)特征平面均由一組矩形排列的神經(jīng)元構(gòu)成,這些神經(jīng)元共享同一組權(quán)重參數(shù),即卷積核。在網(wǎng)絡(luò)前向傳播過(guò)程中,卷積核會(huì)與前一層的局部區(qū)域連接并進(jìn)行卷積運(yùn)算,以提取前一層特征的關(guān)鍵信息。計(jì)算公式如式(1)所示:

    [XLj=f(i∈MjXL-1i*KLj+bLj)]? (1)

    式中:[Mj]為輸入特征圖;[KLj]為特征對(duì)應(yīng)的卷積核;[KLj],[XL-1i]分別為第L層、第L[-]1層的特征圖;*為卷積運(yùn)算;[bLj]為第L層的偏置單元;[fx]為激活函數(shù)。

    而在池化層中,則會(huì)對(duì)特征圖進(jìn)行下采樣,減小特征圖大小,同時(shí)保留最顯著的特征。除了卷積和池化層之外,CNN還包括全連接層、激活函數(shù)、損失函數(shù)等一系列組件,可以通過(guò)反向傳播算法來(lái)更新權(quán)重和偏置參數(shù),優(yōu)化網(wǎng)絡(luò)性能。綜上所述,CNN具有局部感知性、權(quán)值共享、平移不變性等特點(diǎn),使其在處理數(shù)據(jù)方面表現(xiàn)出色。

    1.2 SE注意力機(jī)制

    SE(Squeeze-and-Excitation)注意力機(jī)制[10]是一種用于提升神經(jīng)網(wǎng)絡(luò)性能的自適應(yīng)機(jī)制,它可以自適應(yīng)地學(xué)習(xí)每個(gè)通道的重要性,并賦予網(wǎng)絡(luò)更強(qiáng)的區(qū)分能力。SE注意力模型由2個(gè)主要部分組成:擠壓(Squeeze)操作和激勵(lì)(Excitation)操作。其中,Squeeze操作是對(duì)輸入特征圖進(jìn)行全局平均池化,將每個(gè)通道的特征壓縮成一個(gè)標(biāo)量,以獲得全局的上下文信息。Excitation操作則是對(duì)Squeeze操作的輸出進(jìn)行激活,通過(guò)多層感知機(jī)(MLP)模型來(lái)對(duì)每個(gè)通道賦予不同的權(quán)重,從而達(dá)到增強(qiáng)關(guān)鍵通道、壓縮無(wú)用通道的目的。

    SE注意力模型的主要優(yōu)點(diǎn)是可遷移性好,可以方便地嵌入各種結(jié)構(gòu)中,例如卷積神經(jīng)網(wǎng)絡(luò)、全連接層等。同時(shí),由于可以精準(zhǔn)地選擇需要關(guān)注的信息,因此大幅減少了模型的參數(shù)量,提高了網(wǎng)絡(luò)運(yùn)行效率。圖2為SE模塊模型圖,[X']為原始輸入數(shù)據(jù),[H']為原始輸入的空間高度,[W']為原始輸入的空間寬度,[C']為原始輸入的通道數(shù),[X]為卷積操作后的特征圖,[H]為卷積操作后的高度,[W]為卷積操作后的空間寬度,[C]為卷積操作后特征的通道。

    首先,F(xiàn)tr這一步是轉(zhuǎn)換操作,是對(duì)輸入特征進(jìn)行一次卷積,對(duì)于任何給定的變換Ftr映射輸入[X]到特征映射[U],定義如公式(2)所示:

    [Ftr:X→U,X∈RH'×W'×C',U∈RH×W×C]? (2)

    接下來(lái)就是Squeeze操作通過(guò)采用全局平均池化,將輸入特征圖在空間維度上進(jìn)行降維,提取全局信息。這有助于捕捉輸入特征圖的整體上下文信息,不僅局限于局部區(qū)域,具體計(jì)算公式如式(3)所示:

    [z=Fsq(x)=1H×Wi=1Hj=1Wuc(i,j)]? (3)

    其中,[z]表示全局特征,[Fsq]表示擠壓操作,[x]表示輸入特征圖,[H]為特征圖的高度,[W]為特征圖的寬度,[uc(i,j)]為第[i]行第j列像素的特征向量。因此公式就將U[H×W×C]的輸入轉(zhuǎn)換成Z[1×1×C]的輸出,C為輸入特征圖的通道數(shù)。Excitation操作主要目的是激活學(xué)習(xí)到的通道相關(guān)性,通過(guò)使用Sigmoid函數(shù)將學(xué)習(xí)到的通道相關(guān)性轉(zhuǎn)化為0~1的概率值,表示每個(gè)通道重要性得分。這些得分用于加權(quán)每個(gè)通道的特征響應(yīng),使得重要的通道特征得到加強(qiáng),而不重要的通道特征得到抑制,其公式如式(4)所示:

    [s=fex(z,W)=σ(W2δ(W1z))]? (4)

    其中,[s]表示激勵(lì)得分向量,[fex]表示為激勵(lì)操作,[W1∈RCr×C]表示[Cr]行[C]列的權(quán)重矩陣,[W2∈RC×Cr]表示[C]行[Cr]列的權(quán)重矩陣,[r]代表縮放比例,[σ]為Sigmoid函數(shù),[δ]為ReLU激活函數(shù)。

    考慮到傳統(tǒng)SE注意力機(jī)制僅采用全局平均池化操作來(lái)壓縮特征圖信息,容易產(chǎn)生信息丟失問(wèn)題。因此為了彌補(bǔ)SE注意力機(jī)制的這一缺陷,本文提出了一種雙重注意力機(jī)制[11]。即在傳統(tǒng)的SE注意力機(jī)制上,另設(shè)一條SE注意力機(jī)制,其中采用最大池化來(lái)提取整張?zhí)卣鲌D的空間像素信息。進(jìn)而將兩條SE注意力機(jī)制的初步加權(quán)結(jié)果相加,進(jìn)而輸入至Sigmoid函數(shù)中,為各通道賦予0~1的權(quán)重,改進(jìn)網(wǎng)絡(luò)模型圖如圖3所示。

    其中,Inception表示Ftr轉(zhuǎn)化;gmpool、gapool分別表示最大池化和全局平均池化;FC表示全連接層,ReLU為激活函數(shù);addition表示權(quán)重相加;Sigmoid表示激活函數(shù)。

    1.3 BiLSTM模型

    長(zhǎng)短期記憶網(wǎng)絡(luò)[12]是循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)的一種,用于時(shí)序數(shù)據(jù)預(yù)測(cè)等。與傳統(tǒng)RNN相比,LSTM添加了更多的結(jié)構(gòu),通過(guò)設(shè)計(jì)門限結(jié)構(gòu)解決了傳統(tǒng)RNN存在的缺陷,并且具有較長(zhǎng)的短期記憶,效果更好。

    LSTM是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò),主要是通過(guò)精心設(shè)計(jì)的“門”結(jié)構(gòu)來(lái)實(shí)現(xiàn)去除或增加信息到細(xì)胞狀態(tài)的功能。

    其計(jì)算如公式(5)~公式(10)所示:

    [it=σ(Wi?[ht-1,xt]+bi)]? (5)

    [ft=σ(Wf?[ht-1,xt]+bf)]? (6)

    [ot=σ(Wo?[ht-1,xt]+bo)]? (7)

    [ct=tanh(Wc?[ht-1,xt]+bc)] (8)

    [ct=it×ct+ct-1×ft]? (9)

    [ht=ot×tanh(ct)]? (10)

    其中,s 為 sigmoid 激活函數(shù),[ft]、[ct]、[ot]分別表示遺忘門、輸入門和輸出門的輸出,[W]為神經(jīng)元的權(quán)重,[b]為神經(jīng)元的偏差。

    BiLSTM[13]由2個(gè)方向的LSTM組成,其中一個(gè)LSTM按時(shí)間順序處理序列,另一個(gè)LSTM按時(shí)間逆序處理序列,其結(jié)構(gòu)圖4如所示,每個(gè)LSTM層都由多個(gè)LSTM神經(jīng)元組成,每個(gè)神經(jīng)元可以保留一個(gè)內(nèi)部狀態(tài),以便于捕捉序列中潛在的長(zhǎng)期依賴關(guān)系。LSTM層還包括輸入門、遺忘門和輸出門,這些門控制著神經(jīng)元如何處理輸入數(shù)據(jù)以及維護(hù)其內(nèi)部狀態(tài)。

    在正向和反向LSTM處理完輸入序列之后,它們的輸出會(huì)被拼接在一起作為BiLSTM的最終輸出結(jié)果,以提供更全面和豐富的特征信息。

    2 模型設(shè)計(jì)

    2.1 數(shù)據(jù)預(yù)處理

    1) 數(shù)據(jù)采集

    本文采用邯鄲市成安縣某炭素廠2022年4月27日—2023年6月20日的15分鐘數(shù)據(jù),通過(guò)邊緣計(jì)算網(wǎng)關(guān)進(jìn)行實(shí)時(shí)采集,在后端通過(guò)API接口獲取數(shù)據(jù)庫(kù)中的數(shù)據(jù)。由于獲取的數(shù)據(jù)較完整,只對(duì)數(shù)據(jù)中出現(xiàn)的個(gè)別空值采用向上賦值法進(jìn)行賦值。

    2) 數(shù)據(jù)處理

    為了確保模型訓(xùn)練的有效性,對(duì)于包含不同特征值且存在量綱差異和數(shù)值差異較大的數(shù)據(jù)集,采用輸入數(shù)據(jù)歸一化方法以降低其對(duì)模型訓(xùn)練產(chǎn)生的消極影響。其計(jì)算公式如式(11)所示:

    [x?=x-xmax+xmin2xmax-xmin2]? (11)

    2.2 石墨電極位移預(yù)測(cè)模型設(shè)計(jì)

    本文采用雙重SE注意力機(jī)制下的CNN-BiLSTM混合預(yù)測(cè)模型進(jìn)行石墨電極位移預(yù)測(cè),模型結(jié)構(gòu)如圖5所示。首先,將經(jīng)過(guò)預(yù)處理的數(shù)據(jù)輸入網(wǎng)絡(luò),通過(guò)第一層卷積對(duì)數(shù)據(jù)進(jìn)行特征提取,通過(guò)激活層到第二層卷積更加細(xì)致地對(duì)特征進(jìn)行提取。本文的模型結(jié)構(gòu)采用了兩層卷積作為特征提取層,考慮到池化層的加入會(huì)產(chǎn)生信息丟失的問(wèn)題,因此不再引入池化操作。然后用SE注意力機(jī)制建立特征之間的相互依賴性,雙重SE注意力機(jī)制被放置在CNN最后一層卷積層與BiLSTM層之間的連接處。隨后通過(guò)Flatten降維層將SE注意力模塊與BiLSTM模塊相連接,最終通過(guò)全連接層輸出結(jié)果。

    <G:\飛翔打包文件一\電腦2023年第三十一期打包文件\9.01xs202331\Image\image298.png>

    圖5? 基于DSE-CNN-BiLSTM的石墨電極位移預(yù)測(cè)模型

    2.3 模型評(píng)價(jià)指標(biāo)

    為了更進(jìn)一步對(duì)所提出的DSE-CNN-BiLSTM混合網(wǎng)絡(luò)預(yù)測(cè)模型進(jìn)行評(píng)估,本文采用RMSE和MAE作為誤差評(píng)價(jià)指標(biāo)。上述指標(biāo)值越小則代表預(yù)測(cè)準(zhǔn)確性越高。具體計(jì)算公式如式(12)~式(13)所示:

    [ERMSE=1Ni=1N(yi-y)2] (12)

    [EMAE=1Ni=1Nyi-y] (13)

    式中:[yi]為樣本[i]的真實(shí)值;[y]為真實(shí)值序列的均值;[y]為樣本[i]的模型預(yù)測(cè)值。

    3 實(shí)驗(yàn)分析

    本文對(duì)采集到的數(shù)據(jù)集分為訓(xùn)練集和測(cè)試集,前80%作為訓(xùn)練集,總計(jì)4 800條;后20%作為測(cè)試集,總計(jì)1 200條。模型采用adam優(yōu)化器和mini-batch梯度下降法,訓(xùn)練批次設(shè)為256,迭代次數(shù)為100,進(jìn)行15分鐘的石墨電極位移預(yù)測(cè),圖6為6種模型的預(yù)測(cè)結(jié)果,分別為L(zhǎng)STM、GRU[13]、CNN-LSTM[14]、CNN-BiLSTM、SE-CNN-BiLSTM、DSE-CNN-BiLSTM模型。圖6中橫軸為預(yù)測(cè)樣本數(shù),縱軸為石墨電極位移預(yù)測(cè)值。

    為進(jìn)一步驗(yàn)證本文所提出模型的預(yù)測(cè)優(yōu)勢(shì),采用上述6種模型在相同數(shù)據(jù)和環(huán)境下進(jìn)行對(duì)比,圖7為預(yù)測(cè)對(duì)比圖,圖中橫軸為預(yù)測(cè)樣本數(shù),縱軸為石墨電極位移預(yù)測(cè)值??梢钥闯鯠SE-CNN-BiLSTM預(yù)測(cè)值與實(shí)際值更接近,優(yōu)于其他5種模型。

    其中,模型1~5分別為SE-CNN-BiLSTM、LSTM、GRU、CNN-LSTM、CNN-BiLSTM模型,主模型為DSE-CNN-BiLSTM模型[15]。

    表1為6種模型對(duì)15min尺度的石墨電極位移預(yù)測(cè)評(píng)價(jià)指標(biāo)值。從表1中可以看出,本文所提出的模型誤差低于其他5種模型誤差,對(duì)石墨電極位移可以更好地預(yù)測(cè)。

    4 結(jié)束語(yǔ)

    本文提出了一種引進(jìn)注意力機(jī)制下的CNN和BiLSTM混合石墨電極位移預(yù)測(cè)模型。在傳統(tǒng)SE注意力機(jī)制中加入了并行模塊,通過(guò)加入最大池化操作來(lái)更好地挖掘重要的輸入信息。通過(guò)大量實(shí)驗(yàn)和研究表明,基于DSE-CNN-BiLSTM模型相比傳統(tǒng)SE-CNN-BiLSTM和市面上主流的4種預(yù)測(cè)模型有著更高的預(yù)測(cè)精度,更小的誤差,對(duì)于石墨電極位移的預(yù)測(cè)有著更有效的預(yù)警意義。

    參考文獻(xiàn):

    [1] 顧鵬,馮俊杰,張勝恩.內(nèi)串石墨化爐爐體的優(yōu)化與改進(jìn)[J].炭素技術(shù),2019,38(5):64-67.

    [2] 劉炳強(qiáng),趙修富,馬廣禧.淺談內(nèi)串石墨化送電曲線的制定與調(diào)整[J].炭素技術(shù),2010,29(5):41-43.

    [3] 曲麗萍,曲永印,薛海波.石墨化爐人工神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)控制的研究[J].控制工程,2006,13(5):466-468.

    [4] 姜潮陽(yáng),文克,劉予湘,等.BP神經(jīng)網(wǎng)絡(luò)在預(yù)焙陽(yáng)極生產(chǎn)中的應(yīng)用[J].炭素技術(shù),2001,20(1):38-41.

    [5] 蘇志同,吳佳龍.預(yù)焙陽(yáng)極配方焙燒塊質(zhì)量預(yù)測(cè)模型研究[J].計(jì)算機(jī)與數(shù)字工程,2019,47(8):2066-2069.

    [6] 蘇志同,王春雷.基于LSTM的焙燒時(shí)序數(shù)據(jù)的質(zhì)量預(yù)測(cè)模型[J].軟件,2020,41(5):105-107,197.

    [7] 王永林,白永峰,孔祥山,等.基于CNN-LSTM算法的脫硝優(yōu)化控制模型研究[J].綜合智慧能源,2023,45(6):25-33.

    [8] 楊子民,彭小圣,熊予涵,等.計(jì)及鄰近風(fēng)電場(chǎng)信息與CNN-BiLSTM的短期風(fēng)電功率預(yù)測(cè)[J].南方電網(wǎng)技術(shù),2023,17(2):47-56.

    [9] JIN K H,MCCANN M T,F(xiàn)roustey E,et al.Deep convolutional neural network for inverse problems in imaging[J].IEEE Transactions on Image Processing:a Publication of the IEEE Signal Processing Society,2017,26(9):4509-4522.

    [10] 肖鵬程,徐文廣,張妍,等.基于SE注意力機(jī)制的廢鋼分類評(píng)級(jí)方法[J].工程科學(xué)學(xué)報(bào),2023,45(8):1342-1352.

    [11] 蘇向敬,周汶鑫,李超杰,等.基于雙重注意力LSTM神經(jīng)網(wǎng)絡(luò)的可解釋海上風(fēng)電出力預(yù)測(cè)[J].電力系統(tǒng)自動(dòng)化,2022,46(7):141-151.

    [12] YU Y,SI X S,HU C H,et al.A review of recurrent neural networks:LSTM cells and network architectures[J].Neural Computation,2019,31(7):1235-1270.

    [13] MOHARM K,ELTAHAN M,Elsaadany E.Wind speed forecast using LSTM and Bi-LSTM algorithms over gabal el-zayt wind farm[C]//2020 International Conference on Smart Grids and Energy Systems (SGES).IEEE,2021:922-927.

    [14] 李靜茹,姚方.引入注意力機(jī)制的CNN和LSTM復(fù)合風(fēng)電預(yù)測(cè)模型[J].電氣自動(dòng)化,2022,44(6):4-6.

    [15] SHIRI F M,PERUMAL T,Mustapha N,et al.A comprehensive overview and comparative analysis on deep learning models:CNN,RNN,LSTM,GRU[EB/OL].[2023-06-01].2023:arXiv:2305.17473.https://arxiv.org/abs/2305.17473.pdf.

    【通聯(lián)編輯:唐一東】

    猜你喜歡
    注意力機(jī)制卷積神經(jīng)網(wǎng)絡(luò)
    面向短文本的網(wǎng)絡(luò)輿情話題
    基于自注意力與動(dòng)態(tài)路由的文本建模方法
    基于深度學(xué)習(xí)的問(wèn)題回答技術(shù)研究
    基于LSTM?Attention神經(jīng)網(wǎng)絡(luò)的文本特征提取方法
    基于注意力機(jī)制的雙向LSTM模型在中文商品評(píng)論情感分類中的研究
    軟件工程(2017年11期)2018-01-05 08:06:09
    InsunKBQA:一個(gè)基于知識(shí)庫(kù)的問(wèn)答系統(tǒng)
    基于卷積神經(jīng)網(wǎng)絡(luò)溫室智能大棚監(jiān)控系統(tǒng)的研究
    基于深度卷積神經(jīng)網(wǎng)絡(luò)的物體識(shí)別算法
    深度學(xué)習(xí)算法應(yīng)用于巖石圖像處理的可行性研究
    基于深度卷積網(wǎng)絡(luò)的人臉年齡分析算法與實(shí)現(xiàn)
    軟件工程(2016年8期)2016-10-25 15:47:34
    亚洲国产欧美一区二区综合| 国产日韩欧美视频二区| 一边摸一边抽搐一进一小说 | 日韩欧美国产一区二区入口| √禁漫天堂资源中文www| 免费不卡黄色视频| 久久久久国内视频| 黄色视频,在线免费观看| 精品亚洲乱码少妇综合久久| 国产99久久九九免费精品| 99久久国产精品久久久| 香蕉丝袜av| 他把我摸到了高潮在线观看 | kizo精华| 下体分泌物呈黄色| 一边摸一边做爽爽视频免费| 欧美日韩一级在线毛片| 少妇裸体淫交视频免费看高清 | 宅男免费午夜| 国产成人系列免费观看| 中文字幕最新亚洲高清| aaaaa片日本免费| 操出白浆在线播放| cao死你这个sao货| 女性生殖器流出的白浆| 国产精品久久久av美女十八| 一区二区三区激情视频| 精品福利观看| 欧美国产精品va在线观看不卡| 大片免费播放器 马上看| 久久青草综合色| 国产一区二区 视频在线| 精品欧美一区二区三区在线| 99香蕉大伊视频| 香蕉国产在线看| 亚洲av日韩在线播放| 老司机影院毛片| 视频区欧美日本亚洲| 精品乱码久久久久久99久播| 国产高清激情床上av| 亚洲欧美色中文字幕在线| av天堂在线播放| 伊人久久大香线蕉亚洲五| 老司机靠b影院| 亚洲中文字幕日韩| 亚洲专区国产一区二区| 曰老女人黄片| 777久久人妻少妇嫩草av网站| 国产成+人综合+亚洲专区| 色综合婷婷激情| 少妇猛男粗大的猛烈进出视频| 怎么达到女性高潮| 国产在线精品亚洲第一网站| 国产aⅴ精品一区二区三区波| 国产精品 欧美亚洲| 亚洲欧洲日产国产| 精品午夜福利视频在线观看一区 | 成人三级做爰电影| 亚洲免费av在线视频| 精品卡一卡二卡四卡免费| 日韩精品免费视频一区二区三区| 久久国产精品人妻蜜桃| 久久免费观看电影| 亚洲专区中文字幕在线| 久久影院123| 亚洲天堂av无毛| 涩涩av久久男人的天堂| 脱女人内裤的视频| 天天躁夜夜躁狠狠躁躁| 欧美日韩亚洲高清精品| 久久精品国产综合久久久| 国产av国产精品国产| 久久国产精品男人的天堂亚洲| 手机成人av网站| 国产亚洲午夜精品一区二区久久| av超薄肉色丝袜交足视频| av超薄肉色丝袜交足视频| 久9热在线精品视频| 99热国产这里只有精品6| 肉色欧美久久久久久久蜜桃| 黄网站色视频无遮挡免费观看| 亚洲一区中文字幕在线| 丝袜美足系列| 最近最新免费中文字幕在线| 一本久久精品| 黑人操中国人逼视频| 亚洲av成人一区二区三| xxxhd国产人妻xxx| 狂野欧美激情性xxxx| 久久中文看片网| 韩国精品一区二区三区| 久久久久国内视频| 脱女人内裤的视频| 国产精品免费大片| 美女扒开内裤让男人捅视频| 国产熟女午夜一区二区三区| 久久国产精品男人的天堂亚洲| 亚洲一区中文字幕在线| 色婷婷久久久亚洲欧美| 亚洲av片天天在线观看| 日本av手机在线免费观看| 久久精品成人免费网站| 欧美一级毛片孕妇| 超碰成人久久| 首页视频小说图片口味搜索| 丁香六月天网| 自线自在国产av| 欧美精品亚洲一区二区| 在线观看人妻少妇| 国产免费福利视频在线观看| 国产高清国产精品国产三级| 午夜视频精品福利| 90打野战视频偷拍视频| 亚洲成国产人片在线观看| 精品国产国语对白av| 午夜视频精品福利| 久久人妻熟女aⅴ| 国产97色在线日韩免费| www日本在线高清视频| 亚洲三区欧美一区| 脱女人内裤的视频| 亚洲精品国产色婷婷电影| 久久久精品国产亚洲av高清涩受| 久久久久国内视频| av视频免费观看在线观看| 欧美av亚洲av综合av国产av| 国产在线一区二区三区精| 12—13女人毛片做爰片一| 亚洲精品一卡2卡三卡4卡5卡| 国产亚洲av高清不卡| 欧美国产精品va在线观看不卡| 在线十欧美十亚洲十日本专区| 淫妇啪啪啪对白视频| 三上悠亚av全集在线观看| 多毛熟女@视频| 无人区码免费观看不卡 | 国产无遮挡羞羞视频在线观看| 欧美精品一区二区免费开放| 国产99久久九九免费精品| 婷婷成人精品国产| 欧美黄色片欧美黄色片| 国产日韩欧美在线精品| 精品卡一卡二卡四卡免费| 男女午夜视频在线观看| 大型av网站在线播放| 午夜激情久久久久久久| 亚洲成人免费电影在线观看| 亚洲精品国产精品久久久不卡| 免费观看a级毛片全部| 成人精品一区二区免费| 亚洲自偷自拍图片 自拍| 麻豆国产av国片精品| 最新在线观看一区二区三区| av免费在线观看网站| 亚洲视频免费观看视频| 日韩一卡2卡3卡4卡2021年| 久久精品国产综合久久久| 国产在线观看jvid| 超色免费av| 欧美国产精品一级二级三级| 老司机靠b影院| 国产精品98久久久久久宅男小说| 国产不卡一卡二| 日本黄色日本黄色录像| av福利片在线| 美女国产高潮福利片在线看| 久久久精品区二区三区| 19禁男女啪啪无遮挡网站| 免费在线观看黄色视频的| 亚洲午夜理论影院| 巨乳人妻的诱惑在线观看| 丝袜美腿诱惑在线| 欧美日韩一级在线毛片| 亚洲成人手机| 涩涩av久久男人的天堂| 国产成人影院久久av| 淫妇啪啪啪对白视频| 午夜精品国产一区二区电影| 男女免费视频国产| 精品第一国产精品| 日本黄色视频三级网站网址 | 丰满饥渴人妻一区二区三| 国产福利在线免费观看视频| 亚洲精品粉嫩美女一区| 天天影视国产精品| 中文亚洲av片在线观看爽 | 国产一区二区三区视频了| 精品视频人人做人人爽| 中亚洲国语对白在线视频| 欧美乱妇无乱码| 黄色成人免费大全| 国产亚洲av高清不卡| 午夜视频精品福利| 国产精品香港三级国产av潘金莲| www.999成人在线观看| 纵有疾风起免费观看全集完整版| 中文字幕人妻熟女乱码| 欧美精品一区二区免费开放| 日本wwww免费看| 欧美另类亚洲清纯唯美| 亚洲精品av麻豆狂野| 曰老女人黄片| 悠悠久久av| 日韩成人在线观看一区二区三区| 亚洲 国产 在线| 久久久精品免费免费高清| 国产男女超爽视频在线观看| 99国产综合亚洲精品| 一二三四社区在线视频社区8| 国产精品香港三级国产av潘金莲| 国产日韩欧美亚洲二区| www.自偷自拍.com| 999久久久国产精品视频| 老司机深夜福利视频在线观看| 制服人妻中文乱码| av网站在线播放免费| 一区二区三区乱码不卡18| av不卡在线播放| 妹子高潮喷水视频| 亚洲少妇的诱惑av| 国产免费av片在线观看野外av| 亚洲国产毛片av蜜桃av| 80岁老熟妇乱子伦牲交| 亚洲人成77777在线视频| 1024视频免费在线观看| 最新美女视频免费是黄的| 日韩一区二区三区影片| 另类亚洲欧美激情| 母亲3免费完整高清在线观看| 亚洲第一欧美日韩一区二区三区 | 超色免费av| av片东京热男人的天堂| 熟女少妇亚洲综合色aaa.| 久久久久网色| 色在线成人网| 国产av精品麻豆| 99热网站在线观看| 成人精品一区二区免费| 久久国产精品影院| 老熟女久久久| 黄色视频不卡| 后天国语完整版免费观看| 久久ye,这里只有精品| 在线观看免费视频日本深夜| 另类亚洲欧美激情| 丝袜人妻中文字幕| 午夜激情久久久久久久| 成年版毛片免费区| 免费在线观看完整版高清| 久久香蕉激情| 久久 成人 亚洲| 人人妻,人人澡人人爽秒播| 国产成人精品在线电影| 国产成人免费观看mmmm| 国产精品一区二区免费欧美| 成年女人毛片免费观看观看9 | 91大片在线观看| 国产一区二区在线观看av| 亚洲av国产av综合av卡| 免费高清在线观看日韩| 啪啪无遮挡十八禁网站| 国产老妇伦熟女老妇高清| 如日韩欧美国产精品一区二区三区| 国产精品久久久人人做人人爽| 极品少妇高潮喷水抽搐| 91字幕亚洲| 中文字幕制服av| 亚洲全国av大片| 在线观看www视频免费| 国产视频一区二区在线看| 久久久久久免费高清国产稀缺| 97人妻天天添夜夜摸| 97人妻天天添夜夜摸| 777久久人妻少妇嫩草av网站| 亚洲一区中文字幕在线| 色婷婷久久久亚洲欧美| 动漫黄色视频在线观看| 亚洲视频免费观看视频| 久久精品91无色码中文字幕| 精品欧美一区二区三区在线| 久久精品亚洲熟妇少妇任你| 男人舔女人的私密视频| 国产麻豆69| 久久国产亚洲av麻豆专区| 老司机深夜福利视频在线观看| 亚洲精品国产一区二区精华液| 国产熟女午夜一区二区三区| 淫妇啪啪啪对白视频| 精品国产超薄肉色丝袜足j| 深夜精品福利| 视频区图区小说| 午夜福利影视在线免费观看| 久久国产精品男人的天堂亚洲| 这个男人来自地球电影免费观看| av天堂久久9| 亚洲精品在线美女| 久久久水蜜桃国产精品网| 国产极品粉嫩免费观看在线| 久久午夜综合久久蜜桃| 超碰成人久久| 国产精品久久久av美女十八| 黄色视频,在线免费观看| 久久久久视频综合| 黄色视频在线播放观看不卡| 久久久欧美国产精品| 久久久久国内视频| 精品少妇久久久久久888优播| 狠狠精品人妻久久久久久综合| 黄频高清免费视频| 国产高清videossex| 超碰97精品在线观看| 色94色欧美一区二区| 亚洲熟女精品中文字幕| 精品国产乱子伦一区二区三区| 热re99久久精品国产66热6| 亚洲男人天堂网一区| 中文字幕人妻丝袜一区二区| 国产成人精品在线电影| 男女下面插进去视频免费观看| 中国美女看黄片| 香蕉国产在线看| 狂野欧美激情性xxxx| 日韩中文字幕欧美一区二区| 国产精品九九99| 极品人妻少妇av视频| 大片免费播放器 马上看| 国产无遮挡羞羞视频在线观看| 国产主播在线观看一区二区| 久久久水蜜桃国产精品网| 久久天躁狠狠躁夜夜2o2o| 三上悠亚av全集在线观看| 9热在线视频观看99| 亚洲专区中文字幕在线| 免费少妇av软件| 日韩欧美免费精品| 男女边摸边吃奶| 色婷婷av一区二区三区视频| 高清在线国产一区| www.精华液| 老司机亚洲免费影院| 国产不卡av网站在线观看| 色精品久久人妻99蜜桃| 婷婷丁香在线五月| 欧美国产精品一级二级三级| 超碰97精品在线观看| 久久精品国产亚洲av高清一级| 亚洲精品久久午夜乱码| 久久狼人影院| av网站免费在线观看视频| 欧美中文综合在线视频| 日韩免费av在线播放| 国产在线免费精品| 午夜激情久久久久久久| 日韩免费av在线播放| 啪啪无遮挡十八禁网站| 久久99热这里只频精品6学生| 天天躁狠狠躁夜夜躁狠狠躁| 国产亚洲精品久久久久5区| 在线播放国产精品三级| 免费在线观看影片大全网站| 高清黄色对白视频在线免费看| 91老司机精品| 少妇精品久久久久久久| 桃红色精品国产亚洲av| 国产精品熟女久久久久浪| 大香蕉久久网| 久久ye,这里只有精品| 女人被躁到高潮嗷嗷叫费观| 免费观看av网站的网址| 黄色a级毛片大全视频| 两个人免费观看高清视频| 这个男人来自地球电影免费观看| 亚洲成人手机| 久久毛片免费看一区二区三区| 首页视频小说图片口味搜索| 国产亚洲一区二区精品| 国内毛片毛片毛片毛片毛片| 久久国产精品人妻蜜桃| 日韩成人在线观看一区二区三区| 99香蕉大伊视频| 国产老妇伦熟女老妇高清| 午夜福利免费观看在线| 大片电影免费在线观看免费| 91字幕亚洲| 欧美日韩视频精品一区| 在线观看免费视频日本深夜| 欧美激情高清一区二区三区| 久久人妻av系列| 亚洲精品在线观看二区| 国产一区二区三区综合在线观看| 大码成人一级视频| 在线观看www视频免费| 十八禁网站网址无遮挡| 成人国语在线视频| 亚洲欧美激情在线| 中文字幕另类日韩欧美亚洲嫩草| 丰满迷人的少妇在线观看| 国产野战对白在线观看| 免费人妻精品一区二区三区视频| 香蕉久久夜色| 国产欧美亚洲国产| 91麻豆av在线| 女人高潮潮喷娇喘18禁视频| 首页视频小说图片口味搜索| 精品一品国产午夜福利视频| 伦理电影免费视频| 一进一出好大好爽视频| 国产一区二区 视频在线| 精品少妇黑人巨大在线播放| 啦啦啦中文免费视频观看日本| 国产精品二区激情视频| 人人澡人人妻人| 啦啦啦 在线观看视频| 男男h啪啪无遮挡| 国产av精品麻豆| 老司机深夜福利视频在线观看| 久久99一区二区三区| 黄色视频在线播放观看不卡| 国产精品成人在线| 美女视频免费永久观看网站| 免费在线观看黄色视频的| 亚洲伊人色综图| 午夜老司机福利片| 成人国产一区最新在线观看| aaaaa片日本免费| 国产成人系列免费观看| www.熟女人妻精品国产| 黄片小视频在线播放| 成人18禁高潮啪啪吃奶动态图| 99国产精品免费福利视频| 国产1区2区3区精品| 国产精品九九99| 午夜91福利影院| 精品国产一区二区三区久久久樱花| 亚洲自偷自拍图片 自拍| 欧美在线一区亚洲| 亚洲欧美激情在线| 国产欧美日韩综合在线一区二区| 午夜福利视频在线观看免费| 国产男女内射视频| 欧美黑人欧美精品刺激| 国产成人免费无遮挡视频| 90打野战视频偷拍视频| 老司机深夜福利视频在线观看| 啪啪无遮挡十八禁网站| 国产一区二区三区视频了| 国产成人av教育| 亚洲 国产 在线| 操美女的视频在线观看| 国产高清激情床上av| 中文字幕最新亚洲高清| 女人久久www免费人成看片| av电影中文网址| 最近最新中文字幕大全免费视频| 中文亚洲av片在线观看爽 | 黑丝袜美女国产一区| 午夜免费鲁丝| 91麻豆精品激情在线观看国产 | 精品亚洲成国产av| 又大又爽又粗| 一本综合久久免费| 午夜视频精品福利| av有码第一页| 天天添夜夜摸| 国产成人av激情在线播放| 国产高清激情床上av| 欧美成人免费av一区二区三区 | 国产欧美日韩一区二区三| av网站在线播放免费| 三上悠亚av全集在线观看| 亚洲黑人精品在线| 久久精品亚洲精品国产色婷小说| 亚洲熟妇熟女久久| 50天的宝宝边吃奶边哭怎么回事| 久久毛片免费看一区二区三区| 色综合欧美亚洲国产小说| 亚洲伊人色综图| 国产欧美日韩综合在线一区二区| 女同久久另类99精品国产91| 后天国语完整版免费观看| 欧美+亚洲+日韩+国产| 亚洲成国产人片在线观看| 人妻 亚洲 视频| 国产aⅴ精品一区二区三区波| a级片在线免费高清观看视频| 精品国内亚洲2022精品成人 | a级毛片在线看网站| 黄色 视频免费看| 日本撒尿小便嘘嘘汇集6| 美女午夜性视频免费| 久久热在线av| 亚洲av电影在线进入| 欧美 亚洲 国产 日韩一| 久久免费观看电影| 亚洲专区中文字幕在线| 美女扒开内裤让男人捅视频| 国产精品二区激情视频| 又黄又粗又硬又大视频| 久久久久国内视频| 国产在线一区二区三区精| 国产激情久久老熟女| 久久久久精品人妻al黑| 亚洲va日本ⅴa欧美va伊人久久| 午夜福利在线观看吧| 在线亚洲精品国产二区图片欧美| 精品欧美一区二区三区在线| 亚洲久久久国产精品| 一区二区三区国产精品乱码| 母亲3免费完整高清在线观看| 12—13女人毛片做爰片一| 久久久久久亚洲精品国产蜜桃av| 亚洲精品一二三| 在线观看免费高清a一片| 18禁美女被吸乳视频| 麻豆乱淫一区二区| 国产成人一区二区三区免费视频网站| 午夜福利乱码中文字幕| 久久青草综合色| 香蕉丝袜av| 国产日韩欧美视频二区| av片东京热男人的天堂| 1024香蕉在线观看| 亚洲av片天天在线观看| 久久精品成人免费网站| 成人国产一区最新在线观看| svipshipincom国产片| 女人久久www免费人成看片| 美女国产高潮福利片在线看| 成人黄色视频免费在线看| 国产一区有黄有色的免费视频| 欧美久久黑人一区二区| 俄罗斯特黄特色一大片| 建设人人有责人人尽责人人享有的| 性少妇av在线| 欧美老熟妇乱子伦牲交| 9191精品国产免费久久| 汤姆久久久久久久影院中文字幕| 亚洲av成人不卡在线观看播放网| 久久久精品94久久精品| 国产男女超爽视频在线观看| 国产精品免费视频内射| 人人妻人人澡人人看| 久久精品熟女亚洲av麻豆精品| 国精品久久久久久国模美| 交换朋友夫妻互换小说| 亚洲 国产 在线| 色尼玛亚洲综合影院| 五月开心婷婷网| a级毛片黄视频| 日韩有码中文字幕| 国产精品香港三级国产av潘金莲| 国产1区2区3区精品| av超薄肉色丝袜交足视频| 狠狠精品人妻久久久久久综合| 亚洲国产中文字幕在线视频| 大香蕉久久网| 亚洲专区国产一区二区| 两人在一起打扑克的视频| 热99久久久久精品小说推荐| 精品久久久精品久久久| 桃红色精品国产亚洲av| 在线观看一区二区三区激情| 久久人妻av系列| 国产伦人伦偷精品视频| 妹子高潮喷水视频| 午夜老司机福利片| 国产野战对白在线观看| 夜夜爽天天搞| 在线播放国产精品三级| 欧美黄色片欧美黄色片| 精品国产乱子伦一区二区三区| 人妻一区二区av| 国产av国产精品国产| 国产三级黄色录像| 丰满少妇做爰视频| 免费观看人在逋| 一本综合久久免费| 久久中文字幕人妻熟女| 一本综合久久免费| 欧美在线一区亚洲| 麻豆成人av在线观看| 在线观看免费日韩欧美大片| 蜜桃国产av成人99| 日本一区二区免费在线视频| 国产精品影院久久| 婷婷丁香在线五月| 国产欧美日韩一区二区三| 黄色a级毛片大全视频| av有码第一页| a级毛片黄视频| 亚洲人成伊人成综合网2020| 91麻豆精品激情在线观看国产 | 亚洲avbb在线观看| 成人免费观看视频高清| 国产精品98久久久久久宅男小说| av片东京热男人的天堂| 精品少妇黑人巨大在线播放| 黄色视频在线播放观看不卡| 桃花免费在线播放| 久久久水蜜桃国产精品网| 午夜激情av网站| 国产成人免费观看mmmm| 久久久久精品人妻al黑| 少妇 在线观看| 久久久久视频综合| 国产亚洲欧美在线一区二区| 侵犯人妻中文字幕一二三四区| 国产欧美日韩综合在线一区二区| 国产真人三级小视频在线观看| 91大片在线观看| 国产三级黄色录像| a级毛片黄视频| 69精品国产乱码久久久| 免费少妇av软件| 色综合婷婷激情|