基于Python的BP神經(jīng)網(wǎng)絡(luò)模型建立

張麗梅

（山西工商學(xué)院 計(jì)算機(jī)信息工程學(xué)院 山西省太原市 030000）

1 引言

C4烯烴在醫(yī)藥行業(yè)與化學(xué)產(chǎn)品的生產(chǎn)中應(yīng)用較廣，現(xiàn)階段，為減少化工產(chǎn)業(yè)對環(huán)境的不良影響，化學(xué)物質(zhì)在制備過程中對原材料的綠色、清潔性也有嚴(yán)格的要求。在C4烯烴的制備過程中，C4烯烴的選擇性和乙醇轉(zhuǎn)化率會受到催化劑組合（即：Co負(fù)載量、Co/SiO2和 HAP裝料比、乙醇濃度的組合）與溫度的影響。因此合理設(shè)計(jì)催化劑的組合，對研究乙醇催化偶合制備C4烯烴的工藝條件具有十分重要的意義和價(jià)值。

本文中模型的建立是基于Python實(shí)現(xiàn)，Python是由Guido van Rossum提出，于1991年正式發(fā)布。與其他的編程語言相比，Python編程有如下優(yōu)點(diǎn)：

（1）與其他編程語言具有較好的互通性，極大地提高了開發(fā)效率；

（2）具有豐富的第三方工具包。如：Numpy、Matplotlib、Scipy等科學(xué)計(jì)算包，它們使得Python的功能并不低于其他常用的計(jì)算軟件如Matlab等；

（3）代碼具有較好的規(guī)范性。Python語言中大量的使用了英文，且使用強(qiáng)制空白符來區(qū)分代碼塊之間關(guān)系，使得Python代碼具有更強(qiáng)的美觀和易讀性；

（4）有效的內(nèi)存管理；

（5）強(qiáng)大的異常處理功能，幾乎所有的錯(cuò)誤在Python中均會提示異常。

人工神經(jīng)網(wǎng)絡(luò)并不需要事先確定輸入與輸出之間的映射關(guān)系，僅需通過自身的訓(xùn)練，學(xué)習(xí)某種規(guī)則，在給定輸入值時(shí)，輸出最接近期望值的結(jié)果，是一種智能的信息處理方法，它的核心為算法。而BP(back propagation)神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò)，它的訓(xùn)練是按照誤差逆向傳播算法，是目前神經(jīng)網(wǎng)絡(luò)中應(yīng)用最廣泛的模型之一。

本文是數(shù)據(jù)來源為2021年全國大學(xué)生數(shù)學(xué)建模大賽B題，構(gòu)建基于BP神經(jīng)網(wǎng)絡(luò)的乙醇轉(zhuǎn)化率、C4烯烴的選擇性及C4烯烴收率（C4烯烴收率=乙醇轉(zhuǎn)化率*C4烯烴的選擇性）建模。

2 模型建立

2.1 BP神經(jīng)網(wǎng)絡(luò)概述

BP(back propagation)神經(jīng)網(wǎng)絡(luò)于1986年由Rumelhart和McClelland為首的科學(xué)家提出，是一種具有三層或者三層以上神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，按照誤差逆向傳播算法訓(xùn)練的多層前饋神經(jīng)網(wǎng)絡(luò)，各層神經(jīng)元的權(quán)值通過BP學(xué)習(xí)算法不斷加以修正，進(jìn)而達(dá)到此網(wǎng)絡(luò)的輸出樣本與實(shí)際輸出的誤差值所需要的精度。

BP神經(jīng)網(wǎng)絡(luò)的一般過程包括：

（1）輸入層、輸出層、中間層（隱層）的層數(shù)以及各層網(wǎng)絡(luò)神經(jīng)元數(shù)的確定，輸入層、輸出層一般根據(jù)實(shí)際問題的進(jìn)行設(shè)置。中間層的神經(jīng)元個(gè)數(shù)對模型的建立尤為重要，通常需根據(jù)訓(xùn)練情況進(jìn)行確定，如果神經(jīng)元（即節(jié)點(diǎn)數(shù)）過少會出現(xiàn)適應(yīng)性的缺失，因此會有欠擬合現(xiàn)象發(fā)生。相反，若神經(jīng)元數(shù)過多，各節(jié)點(diǎn)的訓(xùn)練信息量不夠充足，會導(dǎo)致過度擬合現(xiàn)象。這樣即使在學(xué)習(xí)數(shù)據(jù)中有足夠的信息，但由于中間層的節(jié)點(diǎn)數(shù)過多，會相應(yīng)地增加訓(xùn)練學(xué)習(xí)的時(shí)間，很難達(dá)到預(yù)期的效果。

隱層（中間層）節(jié)點(diǎn)的個(gè)數(shù)的確定一般依據(jù)公式：

其中：n表示隱層神經(jīng)元數(shù)，n表示輸入神經(jīng)元數(shù)；n表示輸出神經(jīng)元數(shù)；h的取值一般為1～10之間的整數(shù)。

（2）選取各層的激勵(lì)函數(shù)及訓(xùn)練函數(shù)。

本文中BP神經(jīng)網(wǎng)絡(luò)模型建立時(shí)選取learngdm作為學(xué)習(xí)函數(shù)，traingdx作為訓(xùn)練算法，各層的激勵(lì)函數(shù)選用Sigmoid，訓(xùn)練次數(shù)、學(xué)習(xí)速率、誤差精度等根據(jù)具體問題確定，其他采用默認(rèn)值。

2.2 模型建立

首先，對2021年全國大學(xué)生數(shù)學(xué)建模B題附件中給出的數(shù)據(jù)進(jìn)行說明，數(shù)據(jù)中有：

（1）21組不同催化劑組合（分別是：Co的負(fù)載量，即Co與SiO2的重量之比；HAP即翔基磷灰石，它是一種催化劑載體；乙醇濃度）；

（2）溫度，即反應(yīng)溫度，在不同催化劑組合給出的溫度值有：250、275、300、325、350、400、450共7種情況；

（3）乙醇轉(zhuǎn)化率（%）即單位時(shí)間內(nèi)乙醇的單程轉(zhuǎn)化率，共有114個(gè)數(shù)值，其值為100%*（乙醇進(jìn)氣量-乙醇剩余量）/乙醇進(jìn)氣量；

（4）C4烯烴選擇性(%)，共有114個(gè)值；

（5）其他值：乙烯選擇性(%)、乙醛選擇性(%)、碳數(shù)為4-12脂肪醇選擇性(%)、甲基苯甲醛和甲基苯甲醇選擇性(%)、其他生成物的選擇性(%)。

數(shù)據(jù)如表1所示。

表1：數(shù)據(jù)表

2.2.1 影響因素與乙醇轉(zhuǎn)化率、C4烯烴選擇性的關(guān)系

對2021年全國大學(xué)生數(shù)學(xué)建模B題附件1中提供的數(shù)據(jù)進(jìn)行分析。

（1）在同一催化劑組合中，分析溫度與乙醇轉(zhuǎn)化率、C4烯烴的選擇性之間的關(guān)系：采用Excel進(jìn)行線性回歸模型建立的方法，并依據(jù)統(tǒng)計(jì)學(xué)分析中，用最小二乘法對進(jìn)行參數(shù)估計(jì)時(shí)，決定系數(shù)R平方的值為回歸平方和與總離差平方和之比，它代表回歸平方和可解釋總離差平方和的比例，這個(gè)數(shù)值越大代表模型精確度越高，回歸效果更加顯著。從數(shù)值上看，R平方的取值（0-1區(qū)域間）越接近于1，表示回歸擬合的效果越精確，超過0.8的模型表示擬合優(yōu)度較高。對溫度與乙醇轉(zhuǎn)化率、溫度與C4烯烴的選擇性分別進(jìn)行線性擬合后，得到的R平方均接近于0.9，說明所得模型擬合具有很強(qiáng)的說服力，因此可得到變量之間的關(guān)系：溫度與乙醇的轉(zhuǎn)化率基本呈正比關(guān)系、溫度與C4烯烴的選擇性也基本呈正比關(guān)系。

（2）在不同催化劑組合，在其他條件相同的條件下，乙醇轉(zhuǎn)化率、C4烯烴的選擇性也不相同。

由上面的分析可知，催化劑組合及溫度直接影響乙醇轉(zhuǎn)化率(%)、C4烯烴選擇性(%)的輸出結(jié)果，因此將Co與Sio2重量(mg)、Co與Sio2重量比(wt%)、HAP-乙醇濃度、溫度這四種元素作為輸入，乙醇轉(zhuǎn)化率(%)、C4烯烴選擇性(%)作為輸出，進(jìn)行BP神經(jīng)網(wǎng)絡(luò)建模，通過實(shí)驗(yàn)對隱層層數(shù)、神經(jīng)元個(gè)數(shù)進(jìn)行訓(xùn)練，最終選用隱層的層數(shù)選為1，隱層神經(jīng)元的個(gè)數(shù)選為6下的均方誤差（mse）最小。

乙醇轉(zhuǎn)化率、C4烯烴選擇性的BP神經(jīng)網(wǎng)絡(luò)流如圖1所示。

圖1：乙醇轉(zhuǎn)化率、C4烯烴選擇性的BP神經(jīng)網(wǎng)絡(luò)流

建模過程網(wǎng)絡(luò)參數(shù)選擇：

（1）最大迭代次數(shù)：max_epochs = 10000

（2）學(xué)習(xí)率：learn_rate = 0.035

（3）結(jié)束條件：mse_final = 6.5e-4

（4）輸入數(shù)：input_number = 4

（5）輸出數(shù)：output_number = 2

（6）隱層單元數(shù):hidden_unit_number = 6

從圖2、圖3中可以看出實(shí)測值（用*表示）與預(yù)測值（用●表示），乙醇轉(zhuǎn)化率與C4烯烴選擇性的實(shí)測值和模擬預(yù)測值的曲線的趨勢基本一致。抽取相關(guān)數(shù)據(jù)進(jìn)行驗(yàn)證，兩者的實(shí)測值和模型預(yù)測值的誤差在可接受的范圍內(nèi)，可說明，采用BP神經(jīng)網(wǎng)絡(luò)算法所建模型達(dá)到了對乙醇轉(zhuǎn)化率、C4烯烴選擇性的預(yù)測。

圖2：乙醇轉(zhuǎn)化率實(shí)測值與模型預(yù)測值對比圖

圖3：C4烯烴選擇性實(shí)測值與模型預(yù)測值對比圖

2.2.2 影響因素與C4烯烴收率的關(guān)系

催化劑的組合（Co負(fù)載量、Co/SiO2和HAP裝料比、乙醇濃度的組合）與溫度直接影響C4烯烴的收率（C4烯烴收率=乙醇轉(zhuǎn)化率*C4烯烴的選擇性），因此應(yīng)考慮如何選擇催化劑組合與溫度，使得在相同實(shí)驗(yàn)條件下C4烯烴收率盡可能高。首先用EXCEL對附件中給出的乙醇的轉(zhuǎn)化率與C4烯烴的選擇性做了一個(gè)乘積處理，得到C4烯烴收率的具體值，如表2所示。

表2：乘積處理

根據(jù)分析，將催化劑組合中的Co與Sio2重量(mg)、Co與Sio2重量比(wt%)、HAP-乙醇濃度以及溫度這四種元素作為輸入，乙醇轉(zhuǎn)化率(%)和C4烯烴選擇性(%)的乘積即（C4烯烴收率）作為輸出。進(jìn)行BP神經(jīng)網(wǎng)絡(luò)建模，通過實(shí)驗(yàn)對隱層層數(shù)、神經(jīng)元個(gè)數(shù)進(jìn)行訓(xùn)練，最終選用隱層的層數(shù)選為1，隱層神經(jīng)元的個(gè)數(shù)選為6下的均方誤差（mse）最小。

C4烯烴收率的BP神經(jīng)網(wǎng)絡(luò)流如圖4所示。

圖4：C4烯烴收率的BP神經(jīng)網(wǎng)絡(luò)流

建模過程網(wǎng)絡(luò)參數(shù)選擇：

（1）最大迭代次數(shù)：max_epochs = 10000

（2）學(xué)習(xí)率：learn_rate= 0.035

（3）結(jié)束條件：mse_final= 6.5e-4

（4）輸入數(shù)：input_number= 4

（5）輸出數(shù)：output_number= 1

（6）隱層單元數(shù):hidden_unit_number = 6

從圖5中可以看出實(shí)測值（用*表示）與預(yù)測值（用●表示），曲線的波折程度大致一致，抽取相關(guān)數(shù)據(jù)進(jìn)行驗(yàn)證，C4烯烴收率的實(shí)測值和模型預(yù)測值之間的誤差在可接受的范圍內(nèi)，因此可說明，采用BP神經(jīng)網(wǎng)絡(luò)算法所建模型達(dá)到了對C4烯烴收率的預(yù)測。

圖5：C4烯烴收率實(shí)測值與模型預(yù)測值對比圖

2.3 模型評析

本文是對題意進(jìn)行正確、清楚地分析后，建立了科學(xué)的、符合實(shí)際的計(jì)算模型，為C4烯烴的高效率制備提供了條件，主要優(yōu)點(diǎn)有：

（1）在模型建立時(shí)，對2021年全國大學(xué)生數(shù)學(xué)建模B題附件中的眾多表格進(jìn)行了處理，分析了許多變量之間的潛在關(guān)系；

（2）模型的建立有堅(jiān)實(shí)可靠的數(shù)學(xué)基礎(chǔ)，很多數(shù)學(xué)理論已經(jīng)證明BP神經(jīng)網(wǎng)絡(luò)算法在計(jì)算和推論中具有廣泛的應(yīng)用性；

（3）模型易于實(shí)現(xiàn)，能使C4烯烴收率發(fā)揮最大效能；

（4）建立的BP神經(jīng)網(wǎng)絡(luò)模型可與C4烯烴制備緊密聯(lián)系，且對制備過程中出現(xiàn)的問題進(jìn)行求解，因此該模型具有較好的通用性與推廣性。

該模型亦有不足之處，可在今后繼續(xù)改進(jìn)：

（1）數(shù)據(jù)的來源是全國大學(xué)生數(shù)學(xué)B題建模附件中所提供，數(shù)據(jù)量不足夠大；

（2）規(guī)劃模型時(shí)考慮的約束條件較少，模型處理未考慮實(shí)際中出現(xiàn)的其他問題，可在今后通過增加實(shí)驗(yàn)完成。例如：對附件2中給出的數(shù)據(jù)通過分析可知，在同一溫度，相同催化劑組合在不同時(shí)間內(nèi)，C4烯烴收率也不相同：時(shí)間越長，C4烯烴收率越小，主要原因是催化劑（酶）隨著時(shí)間的增長，消耗越大，活性越低，效果會越小，而在模型建立時(shí)，并未將時(shí)間計(jì)入影響因素；另外，催化劑的活性與溫度關(guān)系密切，而在模型建立時(shí)，數(shù)據(jù)中沒有中間溫度點(diǎn)的相關(guān)測試數(shù)據(jù)（如：300-350、400-450之間的溫度點(diǎn)等）。

3 結(jié)語

本文給出了基于BP神經(jīng)網(wǎng)絡(luò)的C4烯烴收率、乙醇轉(zhuǎn)化率及C4烯烴選擇性的擬合模型，為如何選取合適的催化劑組合及溫度來設(shè)計(jì)反應(yīng)的最優(yōu)性能提供了參考，可對不同催化劑組合及溫度下的C4烯烴制備做出預(yù)測，且做出了模擬值和實(shí)測值的折線對比圖，兩者之間曲線走勢基本一致，抽取相關(guān)數(shù)據(jù)進(jìn)行驗(yàn)證，實(shí)測值和模型預(yù)測值的誤差在可接受的范圍內(nèi)，可說明BP神經(jīng)網(wǎng)絡(luò)算法在制備C4烯烴的相關(guān)實(shí)踐過程具有較好的適用性，對解決此類問題的有很好的應(yīng)用價(jià)值。