基于LSTM模型的工業(yè)物聯(lián)網(wǎng) 通信缺失數(shù)據(jù)預(yù)測研究

肖志良，汪麗娟，鄭雁予

佛山職業(yè)技術(shù)學(xué)院，廣東佛山，528137

0 引言

工業(yè)物聯(lián)網(wǎng)（IIoT）通信系統(tǒng)是當(dāng)今工業(yè)生產(chǎn)中的重要組成部分，該系統(tǒng)通過傳感器和設(shè)備之間的數(shù)據(jù)交換實(shí)現(xiàn)自動(dòng)化生產(chǎn)和遠(yuǎn)程監(jiān)控。然而，由于環(huán)境因素和設(shè)備故障等原因，通信系統(tǒng)中的數(shù)據(jù)往往會(huì)出現(xiàn)缺失現(xiàn)象，這給生產(chǎn)調(diào)度和監(jiān)控帶來了一定的困難。因此，預(yù)測和填補(bǔ)這些缺失數(shù)據(jù)成為工業(yè)物聯(lián)網(wǎng)通信中的重要問題之一[1]。針對該問題，國內(nèi)外諸多學(xué)者陸續(xù)提出了一些解決辦法，提出了利用大數(shù)據(jù)技術(shù)的數(shù)據(jù)分析和預(yù)測模型、時(shí)間序列分析模型、機(jī)器學(xué)習(xí)模型和實(shí)時(shí)檢測模型等。這些模型技術(shù)在一定范圍內(nèi)能夠較好地處理通信數(shù)據(jù)，并給出合理的預(yù)測范圍和填補(bǔ)方案[2]。但隨著工業(yè)互聯(lián)網(wǎng)的用戶增加，數(shù)據(jù)量加大，這些處理模型已經(jīng)無法滿足對高標(biāo)準(zhǔn)和高質(zhì)量數(shù)據(jù)的預(yù)測及填補(bǔ)需求。隨著深度學(xué)習(xí)技術(shù)的崛起，因其普遍具有的高準(zhǔn)確率、高自動(dòng)化、高泛化和靈活性的特點(diǎn)，逐漸在眾多科技領(lǐng)域嶄露頭角。鑒于此，研究創(chuàng)新性地在分析現(xiàn)有工業(yè)互聯(lián)網(wǎng)安全通信架構(gòu)的基礎(chǔ)上，引入了長短時(shí)記憶網(wǎng)絡(luò)（LSTM）進(jìn)行算法優(yōu)化，并通過多層感知機(jī)（MLP）進(jìn)行數(shù)據(jù)校準(zhǔn)，最后提出了一種新型數(shù)據(jù)預(yù)測模型，旨在為工業(yè)物聯(lián)網(wǎng)通信缺失數(shù)據(jù)預(yù)測領(lǐng)域的發(fā)展提供新的方法和思路。

1 結(jié)合長短時(shí)記憶網(wǎng)絡(luò)的數(shù)據(jù)預(yù)測模型構(gòu)建

1.1 數(shù)據(jù)安全傳輸架構(gòu)

工業(yè)物聯(lián)網(wǎng)數(shù)據(jù)安全通信架構(gòu)是保障工業(yè)系統(tǒng)信息傳輸和處理安全性的關(guān)鍵組成部分。隨著工業(yè)數(shù)字化的推進(jìn)，越來越多的設(shè)備和系統(tǒng)通過互聯(lián)網(wǎng)進(jìn)行數(shù)據(jù)交換，這使得工業(yè)物聯(lián)網(wǎng)的安全性變得尤為重要[3]。一個(gè)強(qiáng)大而可靠的數(shù)據(jù)安全通信架構(gòu)不僅能夠有效防范網(wǎng)絡(luò)威脅和攻擊，還能確保敏感數(shù)據(jù)在傳輸過程中得到充分保護(hù)，從而維護(hù)整個(gè)工業(yè)生態(tài)系統(tǒng)的運(yùn)行穩(wěn)定性。一般的工業(yè)物聯(lián)網(wǎng)安全通信架構(gòu)分為安全鏈路建立、權(quán)限管理、統(tǒng)一通信協(xié)議、設(shè)備安全管理以及制定安全監(jiān)管機(jī)制等部分。首要考慮的是建立端到端的安全通信鏈路，通信鏈路的安全性直接關(guān)系到整個(gè)系統(tǒng)的安全性。對于工業(yè)物聯(lián)網(wǎng)中的通信數(shù)據(jù)，采用先進(jìn)的加密算法進(jìn)行加密，可以有效防止數(shù)據(jù)被未經(jīng)授權(quán)的第三方竊取。同時(shí)，數(shù)字簽名技術(shù)可用于驗(yàn)證通信數(shù)據(jù)的完整性，確保數(shù)據(jù)在傳輸過程中被篡改。其次，在一個(gè)復(fù)雜的工業(yè)系統(tǒng)中，不同設(shè)備和用戶可能具備不同的權(quán)限，因此，通過建立用戶身份驗(yàn)證機(jī)制，確保只有授權(quán)用戶才能夠訪問系統(tǒng)，可以有效減少潛在的安全風(fēng)險(xiǎn)。在工業(yè)物聯(lián)網(wǎng)中，設(shè)備之間的通信可能涉及多種通信協(xié)議和標(biāo)準(zhǔn)。制定符合工業(yè)物聯(lián)網(wǎng)通信需求的安全標(biāo)準(zhǔn)協(xié)議，有助于規(guī)范系統(tǒng)組件的設(shè)計(jì)和實(shí)施，提高系統(tǒng)的整體安全水平。同時(shí)，建立可管理的設(shè)備安全性是確保工業(yè)物聯(lián)網(wǎng)通信安全的重要一環(huán)。通過為每個(gè)設(shè)備分配唯一的身份標(biāo)識，可以有效防范設(shè)備身份偽造和濫用。最后，建立安全監(jiān)控和響應(yīng)機(jī)制是確保工業(yè)物聯(lián)網(wǎng)通信安全的最后一道防線。通過實(shí)時(shí)監(jiān)控網(wǎng)絡(luò)流量、設(shè)備行為和異常事件，可以及時(shí)發(fā)現(xiàn)潛在的安全威脅。

1.2 通信缺失數(shù)據(jù)混合預(yù)測模型構(gòu)建

由于現(xiàn)有的工業(yè)物聯(lián)網(wǎng)安全通信架構(gòu)大多采用了單路徑路由協(xié)議和單一特性訪問機(jī)制的數(shù)據(jù)通信，在面對外部電磁干擾或網(wǎng)絡(luò)滲透攻擊時(shí)存在較大的安全隱患，例如數(shù)據(jù)缺失和數(shù)據(jù)失信。循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）易受到短時(shí)記憶的影響，當(dāng)有一組足夠長的時(shí)間序列數(shù)據(jù)輸入到RNN中時(shí)，此神經(jīng)網(wǎng)絡(luò)將很難把信息從早期傳遞到后期，會(huì)出現(xiàn)梯度爆炸和消失等問題。在這種情況下，LSTM應(yīng)運(yùn)而生。作為一種特殊的RNN，LSTM通過引入了三個(gè)門控單元，即輸入門、遺忘門和輸出門來控制信息的流動(dòng)和記憶的更新，使得LSTM能夠長時(shí)間地保留和傳遞有用的信息，從而更好地處理長序列數(shù)據(jù)。假設(shè)輸入層輸入為，而時(shí)刻的隱含層為ht-1，此時(shí)輸入門的計(jì)算公式如式（1）所示。

式（6）中，所有的代數(shù)含義與之前一致，該過程是將歸一化映射在[0，1]內(nèi)的訓(xùn)練結(jié)果進(jìn)行實(shí)數(shù)映射。在多次重復(fù)歸一化映射后，為了加強(qiáng)預(yù)測模型的精準(zhǔn)性，避免預(yù)測值的誤差增大，研究繼續(xù)引入了多層感知機(jī)進(jìn)行數(shù)據(jù)校準(zhǔn)，提出了一種數(shù)據(jù)校準(zhǔn)模型，該模型在預(yù)測模型的基礎(chǔ)上繼續(xù)增加了6層隱藏層。首先將真實(shí)數(shù)據(jù)與模型預(yù)測數(shù)據(jù)作差，得到預(yù)測殘差數(shù)據(jù)。隨后將誤差輸入到校準(zhǔn)模型中進(jìn)行模型訓(xùn)練和參數(shù)訓(xùn)練，當(dāng)訓(xùn)練結(jié)果的誤差精度達(dá)到預(yù)設(shè)范圍內(nèi)時(shí)，使用驗(yàn)證數(shù)據(jù)對預(yù)測模型進(jìn)行性能測試，并通過校準(zhǔn)模型進(jìn)行不斷校準(zhǔn)，最終得到高標(biāo)準(zhǔn)的預(yù)測結(jié)果。聯(lián)合預(yù)測模型和校準(zhǔn)模型后，研究針對性地提出了一種新模型，該模型下的工業(yè)物聯(lián)網(wǎng)通信缺失數(shù)據(jù)預(yù)測總共分為7步。首先對工業(yè)物聯(lián)網(wǎng)通信數(shù)據(jù)進(jìn)行預(yù)處理并建立數(shù)據(jù)集，其次，將該數(shù)據(jù)集輸入到模型中進(jìn)行訓(xùn)練得到預(yù)測結(jié)果，并與初始值作差得到預(yù)測殘差數(shù)據(jù)集。然后，將該數(shù)據(jù)集輸入到校準(zhǔn)模型中進(jìn)行訓(xùn)練，并得到通信缺失數(shù)據(jù)的綜合預(yù)測效果。若該預(yù)測結(jié)果達(dá)到時(shí)序長度則直接輸出，若未達(dá)到，則重復(fù)輸入校準(zhǔn)模型進(jìn)行重構(gòu)，直到滿足為止。

2 通信缺失數(shù)據(jù)混合預(yù)測模型性能測試

為了驗(yàn)證研究提出的新型工業(yè)物聯(lián)網(wǎng)通信缺失數(shù)據(jù)混合預(yù)測模型的性能效果，研究將工業(yè)物聯(lián)網(wǎng)智能化生產(chǎn)系統(tǒng)中的氣動(dòng)壓縮機(jī)作為測試環(huán)境，采用CC3340芯片搭載Z-tack協(xié)議的無線感知通信單元作為測試對象，其中感知單元適配了GWD42（A）溫度傳感、AHE100濕度傳感器和TX9310傳感器等多種傳感器。設(shè)定測試工作時(shí)長為1小時(shí)，測試頻率為100Hz，時(shí)間預(yù)測目標(biāo)設(shè)定為2000個(gè)，達(dá)到既定時(shí)間目標(biāo)后，隨機(jī)選擇保留感知數(shù)據(jù)中的300個(gè)作為測試集，剩余數(shù)據(jù)作為模型訓(xùn)練集。完成數(shù)據(jù)收集后，以壓縮機(jī)工作溫度單周期預(yù)測和多周期預(yù)測，以及傳送帶振動(dòng)幅度數(shù)據(jù)作為變量方向，將單獨(dú)的LSTM、MLP和混合模型，即LSTM-MLP與真實(shí)感知數(shù)據(jù)進(jìn)行對比，測試結(jié)果如圖1所示。

圖1 不同模型下的壓縮機(jī)感知數(shù)據(jù)預(yù)測結(jié)果

圖1（a）為三種不同模型下的氣動(dòng)壓縮機(jī)工作溫度感知數(shù)據(jù)單周期預(yù)測結(jié)果，圖1（b）為三種不同模型下的氣動(dòng)壓縮機(jī)工作溫度感知數(shù)據(jù)多周期預(yù)測結(jié)果，圖1（c）為三種不同模型下的氣動(dòng)壓縮機(jī)振動(dòng)幅度感知數(shù)據(jù)周期預(yù)測結(jié)果。由圖1可知，不論是單周期還是多周期預(yù)測方式，在氣動(dòng)壓縮機(jī)工作溫度感知數(shù)據(jù)預(yù)測中都表現(xiàn)出一般的預(yù)測水平，預(yù)測結(jié)果與真實(shí)的感知數(shù)據(jù)仍存在較大偏差。相對而言，研究提出的LSTM-MLP模型能夠適應(yīng)單周期和多周期的感知數(shù)據(jù)預(yù)測，同時(shí)預(yù)測值與真實(shí)值存在的誤差較小。在壓縮機(jī)振動(dòng)幅度數(shù)據(jù)預(yù)測中，可直觀地發(fā)現(xiàn)研究提出的模型對振幅預(yù)測誤差較小，而單獨(dú)的LSTM和MLP預(yù)測誤差較大，預(yù)測精度較低。綜上所述，研究所提的模型能夠滿足氣動(dòng)壓縮機(jī)的數(shù)據(jù)預(yù)測和缺失數(shù)據(jù)的填補(bǔ)，增強(qiáng)了工業(yè)數(shù)據(jù)傳輸?shù)耐暾浴榱肆炕髂Ｐ偷闹笜?biāo)性能，同時(shí)加強(qiáng)研究的全面性，繼續(xù)引入了3種現(xiàn)有較為流行的數(shù)據(jù)預(yù)測模型，分別為自注意力機(jī)制模型（SMM）、門控循環(huán)單元（GRU）模型以及隨機(jī)森林（RF）模型。以平均絕對誤差（MAE）、平均絕對百分比誤差（MAPE）、均方誤差（MSE）、均方根誤差（RMSE）、R2以及精準(zhǔn)率（Precision）為參考指標(biāo)，對以上模型進(jìn)行測試，測試結(jié)果如表1所示。

表1 不同預(yù)測模型的指標(biāo)測試結(jié)果

由表1可知，在MAE、MAPE、MSE和RMSE四種測試指標(biāo)中，四種模型從SMM、GRU、RF到LSTM-MLP模型預(yù)測數(shù)值呈降序排布。而R2和精準(zhǔn)度的指標(biāo)測試中，四種模型又呈逐漸遞增的趨勢。總而言之，研究提出的LSTM-MLP模型的性能最佳，其MAE、MAPE、MSE和RMSE最低值分別為0.0114、0.0221、0.0204和0.0175，此外，其R2最大為0.8542，精準(zhǔn)度值最大為0.9539。

3 結(jié)語

為了提高現(xiàn)有工業(yè)物聯(lián)網(wǎng)通信數(shù)據(jù)傳輸?shù)陌踩?，研究在分析了現(xiàn)有工業(yè)物聯(lián)網(wǎng)安全架構(gòu)的基礎(chǔ)上，引入了LSTM和MLP進(jìn)行改進(jìn)，最后提出了一種新型的缺失數(shù)據(jù)預(yù)測模型。實(shí)驗(yàn)結(jié)果表明，該模型對氣動(dòng)壓縮機(jī)的溫度數(shù)據(jù)和振幅數(shù)據(jù)預(yù)測準(zhǔn)確度明顯優(yōu)于其他模型。綜上所述，研究所提的新型預(yù)測模型綜合性能更優(yōu)，為解決工業(yè)物聯(lián)網(wǎng)通信數(shù)據(jù)中的缺失值問題提供了有效的技術(shù)支持。然而，此次研究僅針對短距離下的工業(yè)物聯(lián)網(wǎng)通信傳輸進(jìn)行了探索，后續(xù)研究可著重對遠(yuǎn)距離數(shù)據(jù)傳輸展開相關(guān)討論，以提高該技術(shù)領(lǐng)域的全面性。