基于知識(shí)蒸餾的鍋爐飛灰含碳量預(yù)測(cè)研究

路 寬，楊興森，王海超，劉 科，楊子江

（1.國(guó)網(wǎng)山東省電力公司電力科學(xué)研究院，山東 濟(jì)南 250003；2.山東科技大學(xué)電氣與自動(dòng)化工程學(xué)院，山東 青島 266590）

0 引言

飛灰含碳量是影響鍋爐燃燒熱效率的主要因素［1-3］。飛灰含碳量過高，會(huì)造成機(jī)械不完全燃燒熱損失增大，燃燒效率下降，鍋爐受熱面磨損、結(jié)焦積灰，從而縮短使用壽命，嚴(yán)重時(shí)會(huì)出現(xiàn)鍋爐滅火、機(jī)組停運(yùn)等事故。因此，飛灰含碳量的實(shí)時(shí)準(zhǔn)確預(yù)測(cè)對(duì)于火電廠機(jī)組的安全運(yùn)行、節(jié)能減排、經(jīng)濟(jì)效益等有著重要意義。

目前，飛灰含碳量的預(yù)測(cè)方法主要是通過采集易于檢測(cè)且與飛灰含碳量密切相關(guān)的輔助變量，研究其與飛灰含碳量之間的關(guān)系，然后運(yùn)用統(tǒng)計(jì)分析、機(jī)器學(xué)習(xí)等方法建立可靠的數(shù)學(xué)模型［4］。王芳等［5］提出利用隨機(jī)森林的變量選擇方法篩選最優(yōu)變量，將最優(yōu)變量完成隨機(jī)森林建模訓(xùn)練，進(jìn)而實(shí)現(xiàn)了飛灰含碳量的預(yù)測(cè)；王春林等［6-7］應(yīng)用支持向量機(jī)算法建立了大型四角切圓燃燒鍋爐飛灰含碳量特性的模型；崔銳等［8］運(yùn)用反向傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡(luò)進(jìn)行飛灰含碳量預(yù)測(cè)，并結(jié)合LM（Levenberg?Marquardt，LM）優(yōu)化算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練；趙新木等［9］基于BP 神經(jīng)網(wǎng)絡(luò)建立了飛灰含碳量預(yù)測(cè)模型，并進(jìn)行了單因素影響因素分析；馮旭剛等［10］提出了基于遺傳神經(jīng)網(wǎng)絡(luò)敏感度分析的飛灰含碳量測(cè)量方法。

上述文獻(xiàn)中關(guān)于飛灰含碳量預(yù)測(cè)的方法都是以影響參數(shù)和飛灰含碳量的采樣周期一致為前提的。但現(xiàn)實(shí)中，受飛灰實(shí)時(shí)采樣裝置維護(hù)成本高、準(zhǔn)確度低或沒有安裝等因素影響，大部分電廠的飛灰含碳量主要是通過燃燒失重法［11］來實(shí)現(xiàn)測(cè)量。由于燃燒失重法存在中間環(huán)節(jié)多、測(cè)量結(jié)果時(shí)間滯后等問題，因此獲得飛灰含碳量樣本的采樣周期必然與鍋爐運(yùn)行參數(shù)等實(shí)時(shí)指標(biāo)的采樣周期存在偏差。前者的采樣是以小時(shí)級(jí)為單位，而后者的采樣周期往往以分鐘級(jí)為單位。

因此，為了能夠既保證實(shí)際飛灰測(cè)量的準(zhǔn)確度，又充分利用鍋爐運(yùn)行的大數(shù)據(jù)信息以提高飛灰含碳量預(yù)測(cè)模型的準(zhǔn)確度，提出一種基于知識(shí)蒸餾框架的火電廠鍋爐飛灰含碳量預(yù)測(cè)模型，目的是在模型輸入值采樣周期和實(shí)際飛灰含碳量采樣周期存在差異時(shí)，給出準(zhǔn)確的分鐘級(jí)飛灰含碳量預(yù)測(cè)結(jié)果。該框架由Teacher 模型和Student 模型兩部分組成，其中：Teacher 模型通過前饋神經(jīng)網(wǎng)絡(luò)模型彌補(bǔ)鍋爐實(shí)時(shí)運(yùn)行參數(shù)和飛灰實(shí)際測(cè)量值的采樣周期差異，完成對(duì)實(shí)時(shí)飛灰含碳量的數(shù)值模擬；Student 模型則通過隨機(jī)森林模型完成對(duì)飛灰含碳量的實(shí)時(shí)預(yù)測(cè)。模型應(yīng)用于山東省內(nèi)某電廠在運(yùn)機(jī)組的飛灰含碳量預(yù)測(cè)，取得了良好的效果。

1 影響因素分析與數(shù)據(jù)預(yù)處理

影響飛灰含碳量的因素主要分為設(shè)備運(yùn)行因素和煤質(zhì)因素兩大類。機(jī)組運(yùn)行因素主要包括發(fā)電機(jī)組有功功率、選擇性催化還原（Selective Catalytic Reduction，SCR）進(jìn)口煙氣氧量、一次風(fēng)機(jī)風(fēng)量、二次風(fēng)機(jī)風(fēng)量等25 個(gè)指標(biāo)；煤質(zhì)因素主要包括空氣干燥基水分、灰分等7個(gè)指標(biāo)。表1給出了建模過程中所使用的主要變量名稱。其中：鍋爐運(yùn)行指標(biāo)的采樣頻率為1條/min，煤質(zhì)和實(shí)際飛灰含碳量的采樣頻率都為1 條/6 h。這里，考慮到煤質(zhì)的變化周期較長(zhǎng)，因此認(rèn)為煤質(zhì)數(shù)據(jù)在每6 h的周期內(nèi)不發(fā)生變化，這樣就可以把煤質(zhì)數(shù)據(jù)分解到每分鐘里，與運(yùn)行數(shù)據(jù)保持一致。

表1 模型主要參數(shù)

通過山東省網(wǎng)源監(jiān)督服務(wù)技術(shù)平臺(tái)提取了山東省某電廠的機(jī)組運(yùn)行和煤質(zhì)數(shù)據(jù)作為建模的數(shù)據(jù)源。由于數(shù)據(jù)中存在缺失值、異常值等，因此建立了數(shù)據(jù)預(yù)處理流程以提升數(shù)據(jù)質(zhì)量，如圖1所示。

圖1 飛灰含碳量數(shù)據(jù)預(yù)處理流程

2 Teacher?Student模型

2.1 Teacher模型

在機(jī)器學(xué)習(xí)和認(rèn)知科學(xué)領(lǐng)域，人工神經(jīng)網(wǎng)絡(luò)是一種模仿生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和功能的數(shù)學(xué)模型或計(jì)算模型，用于對(duì)函數(shù)進(jìn)行估計(jì)或近似［12］。神經(jīng)網(wǎng)絡(luò)由大量的人工神經(jīng)元聯(lián)結(jié)進(jìn)行計(jì)算，其能在綜合外界信息的基礎(chǔ)上改變內(nèi)部結(jié)構(gòu)，是一種自適應(yīng)系統(tǒng)。這里的Teacher 模型采用了多層前饋神經(jīng)網(wǎng)絡(luò)，學(xué)習(xí)從自變量到因變量的映射。模型為含4 層神經(jīng)網(wǎng)絡(luò)，輸入變量維度為32 維，兩個(gè)隱含層的神經(jīng)元個(gè)數(shù)分別為512 和256，最終輸出層為含碳量的預(yù)測(cè)，如圖2所示。

圖2 Teacher模型網(wǎng)絡(luò)結(jié)構(gòu)

選取ReLU 函數(shù)［13］（Rectified Linear Unit，ReLU）作為Teacher模型的激活函數(shù)，計(jì)算公式為

2.2 Student模型

Student 模型采用了隨機(jī)森林算法Xgboost［14］。Xgboost 每一輪訓(xùn)練一棵樹，使得損失函數(shù)能夠極小化。其損失函數(shù)不僅衡量了模型的擬合誤差，還增加了正則化項(xiàng)，即對(duì)每棵樹復(fù)雜度的懲罰項(xiàng)，來防止過擬合。損失函數(shù)的計(jì)算公式為

式中：l為衡量實(shí)際飛灰含碳量yi與預(yù)測(cè)的飛灰含碳量之間的差值；為損失函數(shù)的懲罰項(xiàng)，它通過對(duì)模型的復(fù)雜度進(jìn)行懲罰來提高模型的泛化能力，ω為每棵樹上葉子的權(quán)值，T為決策樹的葉子數(shù)量，λ與γ為系數(shù)。

式中：k為決策樹的數(shù)量；Γ為決策樹的集合；fk（xi）為樣本xi在第k棵樹上的預(yù)測(cè)結(jié)果。

在訓(xùn)練的過程中，樹的建立過程由計(jì)算公式（4）給出。

2.3 知識(shí)蒸餾架構(gòu)

Hinton［15］等提出知識(shí)蒸餾的方法，用結(jié)構(gòu)復(fù)雜、參數(shù)較多的Teacher 模型訓(xùn)練，利用其預(yù)測(cè)輸出作為Student 模型的軟目標(biāo)；然后利用輕量的Student 模型進(jìn)行二次訓(xùn)練，從而在分類問題中可以得到與復(fù)雜Teacher模型相近的結(jié)果。

首先，運(yùn)用Teacher 模型學(xué)習(xí)出從分鐘級(jí)工況和煤質(zhì)數(shù)據(jù)到小時(shí)級(jí)飛灰含碳量的映射。訓(xùn)練完成的模型則可以得到分鐘級(jí)的飛灰含碳量計(jì)算結(jié)果。為了完成不同采樣周期的監(jiān)督學(xué)習(xí)，對(duì)Teacher 模型的損失函數(shù)進(jìn)行重新構(gòu)建

式中：LTSR-T為Teacher 模型的損失函數(shù)；n為目標(biāo)樣本的數(shù)量，即實(shí)際得到的飛灰含碳量數(shù)量，每個(gè)目標(biāo)樣本之間的時(shí)間是6 h；i為第i個(gè)樣本為Teacher模型的分鐘級(jí)飛灰含碳量預(yù)測(cè)值；j為對(duì)應(yīng)第i個(gè)時(shí)間段內(nèi)的第j分鐘樣本，因此是分鐘級(jí)的模型預(yù)測(cè)；t為第i個(gè)時(shí)間段內(nèi)的分鐘數(shù)，由于飛灰含碳量的實(shí)際觀察時(shí)間間隔為6 h，因此t為360。

式中：為Student模型的分鐘級(jí)飛灰含碳量預(yù)測(cè)值。

綜上，基于知識(shí)蒸餾的飛灰含碳量預(yù)測(cè)預(yù)測(cè)流程為：

1）對(duì)分鐘級(jí)鍋爐運(yùn)行工況參數(shù)、煤質(zhì)參數(shù)和小時(shí)級(jí)的飛灰含碳量實(shí)際觀測(cè)值進(jìn)行數(shù)據(jù)提取和預(yù)處理；以工況和煤質(zhì)數(shù)據(jù)作為輸入數(shù)據(jù)，飛灰含碳量作為目標(biāo)數(shù)據(jù)，形成總體訓(xùn)練數(shù)據(jù)集。

2）將分鐘級(jí)輸入數(shù)據(jù)輸入到Teacher 模型中，輸出分鐘級(jí)飛灰含碳量預(yù)測(cè)數(shù)據(jù)，得到軟目標(biāo)；通過修改損失函數(shù)，完成模型訓(xùn)練。

3）將訓(xùn)練完成Teacher 模型分鐘級(jí)預(yù)測(cè)結(jié)果作為Student 模型的目標(biāo)值，對(duì)模型進(jìn)行訓(xùn)練。輸入數(shù)據(jù)同樣為步驟2）中的分鐘級(jí)輸入數(shù)據(jù)。

4）將新的分鐘級(jí)輸入數(shù)據(jù)輸入訓(xùn)練完成的Student模型即可得到預(yù)測(cè)分鐘級(jí)飛灰含碳量數(shù)據(jù)。

圖3 基于知識(shí)蒸餾框架的飛灰含碳量預(yù)測(cè)流程

3 數(shù)值試驗(yàn)

本次數(shù)值試驗(yàn)選取山東省某電廠額定容量680 MW機(jī)組2018 年全年鍋爐運(yùn)行、煤質(zhì)及飛灰含碳量數(shù)據(jù)。其中：鍋爐運(yùn)行數(shù)據(jù)為分鐘級(jí)采樣，煤質(zhì)和飛灰含碳量為每6 h采樣。為了對(duì)比驗(yàn)證模型的效果，分別選取了單獨(dú)使用Teacher 模型以及Teacher?Student模型2個(gè)方案。在利用2種方案進(jìn)行訓(xùn)練時(shí)，首先對(duì)所有樣本進(jìn)行隨機(jī)抽取處理，即打亂數(shù)據(jù)的順序；然后對(duì)所有樣本均按照7∶3 的比例劃分訓(xùn)練集與測(cè)試集；在訓(xùn)練集上訓(xùn)練模型后，再在測(cè)試集上驗(yàn)證模型的效果。

預(yù)測(cè)結(jié)果顯示模型在測(cè)試集上的10 次試驗(yàn)的平均誤差。采用Teacher?Student 模型的測(cè)試集誤差較僅用Teacher 模型下降16.5%，同時(shí)每個(gè)數(shù)據(jù)點(diǎn)的預(yù)測(cè)準(zhǔn)確度還更加穩(wěn)定，如表2所示。

表2 模型測(cè)試集誤差 單位：%

將Teacher?Student 方案的預(yù)測(cè)結(jié)果繪制出來與實(shí)際飛灰含碳量進(jìn)行比較，如圖4所示。從圖4中可以看出，經(jīng)過知識(shí)蒸餾的模型能夠比較精準(zhǔn)地給出飛灰含碳量的預(yù)測(cè)結(jié)果，特別是在飛灰含碳量波動(dòng)較大的區(qū)間中，模型依然能夠比較好地識(shí)別出數(shù)據(jù)變化的形態(tài)與趨勢(shì)。

圖4 Teacher?Student模型預(yù)測(cè)結(jié)果對(duì)比

4 結(jié)語

運(yùn)用機(jī)器學(xué)習(xí)和深度學(xué)習(xí)理論和方法，在對(duì)數(shù)據(jù)運(yùn)用統(tǒng)計(jì)方法進(jìn)行預(yù)處理的基礎(chǔ)上，構(gòu)建了基于知識(shí)蒸餾架構(gòu)的飛灰含碳量預(yù)測(cè)模型。通過山東省內(nèi)電廠的實(shí)際試驗(yàn)，研究結(jié)果表明：從不同模型探索結(jié)果來看，融合Teacher和Student的模型效果優(yōu)于單獨(dú)的Teacher 模型，且模型的穩(wěn)定性和泛化能力有了一定程度的提高。