結(jié)合模擬退火與規(guī)則約簡(jiǎn)的模糊系統(tǒng)優(yōu)化方法

童文林，陳德旺，黃允滸，呂宜生

1.福州大學(xué) 數(shù)學(xué)與計(jì)算機(jī)科學(xué)學(xué)院，福州350108

2.福州大學(xué) 智慧地鐵福建省高校重點(diǎn)實(shí)驗(yàn)室，福州350108

3.中國(guó)科學(xué)院 自動(dòng)化研究所 復(fù)雜系統(tǒng)管理與控制國(guó)家重點(diǎn)實(shí)驗(yàn)室，北京100190

模糊理論自誕生之日起，就一直處在各派的激烈競(jìng)爭(zhēng)中，經(jīng)歷了跌宕起伏的2次興起和3次衰落的發(fā)展歷程[1]，但其理論研究仍然不夠成熟[2-3]。它是一種可解釋性很強(qiáng)的人工智能方法。對(duì)于神經(jīng)網(wǎng)絡(luò)而言，即使是專家也難以解釋和理解參數(shù)的意義[4]。而模糊系統(tǒng)由一系列模糊IF-THEN規(guī)則構(gòu)成，其結(jié)構(gòu)和參數(shù)可以用該規(guī)則來(lái)解釋，具備快速、靈活性強(qiáng)、易于理解的特點(diǎn)，但其缺點(diǎn)是自學(xué)習(xí)能力差，模型精度不高。

王立新與Mendel提出了經(jīng)典的模糊算法WM[5]。該算法從樣本數(shù)據(jù)中通過(guò)自學(xué)習(xí)構(gòu)建模糊系統(tǒng)，具有簡(jiǎn)單實(shí)用的特點(diǎn)，并且在領(lǐng)域內(nèi)被廣泛地應(yīng)用。但WM方法中一條規(guī)則僅由一條數(shù)據(jù)產(chǎn)生，使得通過(guò)WM方法構(gòu)造的模糊系統(tǒng)缺乏良好的完備性以及魯棒性。因此，王立新對(duì)WM方法進(jìn)行改進(jìn)[6]，定義了沖突規(guī)則以及相鄰規(guī)則。通過(guò)多條數(shù)據(jù)選舉產(chǎn)生一條規(guī)則，對(duì)于完備規(guī)則庫(kù)中無(wú)法從數(shù)據(jù)中提取的規(guī)則，通過(guò)相鄰規(guī)則外推得到，改善了其完備性不足的問(wèn)題。但WM方法主要關(guān)注于如何從數(shù)據(jù)中學(xué)習(xí)模糊系統(tǒng)，對(duì)學(xué)習(xí)后的模糊系統(tǒng)關(guān)注不足，導(dǎo)致其魯棒性問(wèn)題仍然沒(méi)有得到很好的解決。

針對(duì)這些問(wèn)題，一些研究者提出了基于神經(jīng)網(wǎng)絡(luò)的方法[7]、模糊聚類[8]、基于全局優(yōu)化的模糊系統(tǒng)[9]、基于神經(jīng)網(wǎng)絡(luò)、模糊系統(tǒng)和遺傳算法[10]三者相結(jié)合的方法以及許多改進(jìn)的模糊算法以及模糊優(yōu)化算法，例如Garg等[11]、Wu等[12]以及Shi等[13]提出的優(yōu)化方法。上述算法在一些應(yīng)用中取得了較好的效果，但是對(duì)于模糊集合的劃分個(gè)數(shù)、隸屬度函數(shù)參數(shù)的選取缺乏有效的指導(dǎo)[14]，可解釋性仍然有待提高。

因此，如何在模糊建模過(guò)程中避免算法效率下降以及兼顧完備性、魯棒性的同時(shí)，提高模糊系統(tǒng)的可解釋性仍然是亟待解決的問(wèn)題。基于以上分析，本文從模糊規(guī)則提取與約簡(jiǎn)以及模糊系統(tǒng)結(jié)構(gòu)優(yōu)化即隸屬函數(shù)參數(shù)優(yōu)化三方面進(jìn)行考慮，同時(shí)結(jié)合模擬退火（Simulated Annealing，SA）優(yōu)化算法及模糊支持度（Degree of Support，SD）的特點(diǎn)，提出基于模擬退火與支持度規(guī)則約簡(jiǎn)的模糊系統(tǒng)優(yōu)化方法SSF。

1 模糊系統(tǒng)理論分析

Mamdani模糊系統(tǒng)（也稱為Zadeh模糊系統(tǒng)）規(guī)則表示形式如式（1）所示：前件IF部分及后件THEN部分均使用模糊集合表示。

其中U1,U2,…,Un與V1分別為輸入與輸出空間上的模糊集合。

圖1 展示了由模糊化、模糊規(guī)則庫(kù)、推理機(jī)和去模糊化四部分組成為的Mamdani模糊系統(tǒng)。其中模糊化把每個(gè)輸入映射成模糊集，推理機(jī)基于規(guī)則庫(kù)進(jìn)行推理來(lái)得到一個(gè)新的模糊集，通過(guò)去模糊化把模糊集映射成一個(gè)數(shù)值化輸出。模糊規(guī)則庫(kù)作為模糊系統(tǒng)的核心部分，其組成除了模糊規(guī)則表示形式，還包括模糊集合的隸屬度函數(shù)表示形式[15]。

圖1 Mamdani模糊系統(tǒng)示意圖Fig.1 Schematic diagram of Mamdani fuzzy system

本文隸屬度函數(shù)使用三角形隸屬度函數(shù)，其定義如式（2）所示：

其中，σ表示三角形隸屬函數(shù)的偏差，yc表示三角形隸屬函數(shù)的中心值，y表示輸入值。

2 本文算法

2.1 模糊規(guī)則提取

對(duì)于模糊規(guī)則的提取，本文采用以完備的模糊規(guī)則庫(kù)為基礎(chǔ)，分別確定規(guī)則前件與后件的方式，以保證模糊規(guī)則的完備性。首先對(duì)輸入空間進(jìn)行劃分，在劃分且為每一維輸入空間分別分配mi個(gè)（i為數(shù)據(jù)維度）模糊集合后，則可以確定一個(gè)完備的模糊規(guī)則庫(kù)所包含的模糊規(guī)則數(shù)目為∏mi,以及每一條規(guī)則的前件部分均由每一維上的模糊集合組合而成，具有式（1）前件的形式。對(duì)于規(guī)則后件的確定，利用所有輸入數(shù)據(jù)，根據(jù)數(shù)據(jù)對(duì)規(guī)則的貢獻(xiàn)程度來(lái)確定。

從數(shù)據(jù)挖掘的角度看，每一個(gè)樣本數(shù)據(jù)對(duì)完備的模糊規(guī)則庫(kù)中的每一條規(guī)則都是有貢獻(xiàn)的，本文用數(shù)據(jù)在模糊規(guī)則前件上的隸屬度來(lái)描述數(shù)據(jù)對(duì)規(guī)則的貢獻(xiàn)程度。假設(shè)有n條樣本數(shù)據(jù)且完備的模糊規(guī)則庫(kù)中包含N條模糊規(guī)則，那么C(i,j)表示數(shù)據(jù)i對(duì)規(guī)則j的貢獻(xiàn)度(i≤n,j≤N)，如表1所示。

表1 數(shù)據(jù)貢獻(xiàn)度Table 1 Data contribution

將規(guī)則前件看作規(guī)則包含的n個(gè)模糊集合的笛卡兒積，例如有一條規(guī)則具有如下前件形式：

其中，?表示一種t范數(shù)。愛(ài)因斯坦積與代數(shù)積均具有有界性、交換性、非減性以及結(jié)合性。同時(shí)代數(shù)積具有計(jì)算及應(yīng)用簡(jiǎn)單的特點(diǎn)，而愛(ài)因斯坦積通過(guò)一個(gè)與自變量相關(guān)的因子在一定程度上對(duì)輸出值進(jìn)行修正。因此本文選擇這兩種t范數(shù)：

（1）愛(ài)因斯坦積

（2）代數(shù)積

假設(shè)一個(gè)二維輸入單輸出且滿足y=X1+X2的模擬樣本數(shù)據(jù)，如表2所示。

表2 模擬樣本數(shù)據(jù)Table 2 Simulation sample data

將每一維輸入空間(X1:[0,10],X2:[0,8])劃分并分別分配3個(gè)模糊集合，X1空間上的模糊集合為X2空間上的模糊集合為，如圖2所示。

圖2 輸入空間劃分示意圖Fig.2 Schematic diagram of input space division

因此，根據(jù)式（2）可以得到每一個(gè)模糊集合上隸屬度的計(jì)算公式，如式（6）~式（11）所示：

那么就可以確定一個(gè)完備的模糊規(guī)則庫(kù)將包含9（3×3）條規(guī)則，其規(guī)則形式如下所示：

其中B1,B2,…,B9為規(guī)則后件待確定的模糊集合。根據(jù)式（3）、式（4）和式（5），可以計(jì)算得到樣本數(shù)據(jù)在規(guī)則上的隸屬度。以數(shù)據(jù)1對(duì)規(guī)則1的貢獻(xiàn)度C(1,1)計(jì)算為例，根據(jù)式（3），首先計(jì)算出數(shù)據(jù)1（0，2）在規(guī)則1上的隸屬度：

其中?運(yùn)算以代數(shù)積為例，則：

同樣的，可求得數(shù)據(jù)1對(duì)規(guī)則1至規(guī)則9的貢獻(xiàn)度C(1,j)；數(shù)據(jù)2對(duì)規(guī)則1至規(guī)則9的貢獻(xiàn)度C(2,j)；數(shù)據(jù)3對(duì)規(guī)則1至規(guī)則9的貢獻(xiàn)度C(3,j)；數(shù)據(jù)4對(duì)規(guī)則1至規(guī)則9的貢獻(xiàn)度C(4,j)；其中j=1,2,…,9。經(jīng)過(guò)計(jì)算，表2對(duì)應(yīng)的數(shù)據(jù)貢獻(xiàn)度表如表3所示。

表3 樣本數(shù)據(jù)貢獻(xiàn)度Table 3 Sample data contribution

得到每一條數(shù)據(jù)對(duì)每一條規(guī)則的貢獻(xiàn)度后，以此作為權(quán)重，計(jì)算規(guī)則j輸出部分模糊集合的中心值及偏差σj，從而確定所有的規(guī)則，如式（12）和式（13）所示：

2.2 模糊規(guī)則約簡(jiǎn)

當(dāng)前的研究主要集中在如何提高模糊系統(tǒng)的精度，而對(duì)于學(xué)習(xí)后的模糊系統(tǒng)的規(guī)則數(shù)關(guān)注不足，影響了模糊系統(tǒng)的可解釋性。因此，適當(dāng)約簡(jiǎn)系統(tǒng)規(guī)則對(duì)提高模糊系統(tǒng)的可解釋性顯得尤為重要。完備的模糊規(guī)則庫(kù)中的一些規(guī)則相對(duì)訓(xùn)練數(shù)據(jù)而言是冗余的，本文通過(guò)支持度來(lái)描述規(guī)則是否冗余。支持度SD定義如下：

其中，S(i,j)表示數(shù)據(jù)i在規(guī)則j上的指示函數(shù)值，m為樣本數(shù)，SDj為第j條規(guī)則的支持度。當(dāng)規(guī)則j的支持度SDj小于規(guī)則約簡(jiǎn)閾值時(shí)，規(guī)則j被認(rèn)為是冗余的，將規(guī)則j從完備的模糊規(guī)則庫(kù)中刪除；反之，當(dāng)規(guī)則j具有足夠的支持度時(shí)，將其保留。

在2.1節(jié)例子的基礎(chǔ)上，對(duì)表3根據(jù)指示函數(shù)公式（14）以及支持度計(jì)算公式（15）進(jìn)行處理，可以得到規(guī)則1至規(guī)則9的支持度，如表4所示。

表4 規(guī)則支持度Table 4 Rule support

設(shè)定規(guī)則約簡(jiǎn)閾值為0.3，那么規(guī)則1、規(guī)則3以及規(guī)則9的支持度低于該閾值，則將這些規(guī)則從完備的模糊規(guī)則庫(kù)中刪除。因此從樣本數(shù)據(jù)中獲取的模糊規(guī)則庫(kù)中包含規(guī)則2、規(guī)則4、規(guī)則5、規(guī)則6、規(guī)則7以及規(guī)則8。

2.3 模糊系統(tǒng)結(jié)構(gòu)優(yōu)化

在提取并約簡(jiǎn)規(guī)則后，初始的模糊系統(tǒng)已經(jīng)構(gòu)建完畢。但是由于模糊集合的分配與輸入空間的劃分往往是根據(jù)經(jīng)驗(yàn)進(jìn)行的，帶有很強(qiáng)的主觀性，這樣的模糊系統(tǒng)結(jié)構(gòu)往往難以滿足數(shù)據(jù)的要求。因此根據(jù)模擬退火算法對(duì)初始的模糊系統(tǒng)結(jié)構(gòu)進(jìn)行調(diào)整，使模糊系統(tǒng)的結(jié)構(gòu)更加適應(yīng)數(shù)據(jù)。

模擬退火算法[16]在解空間搜索時(shí)采用Metropolis準(zhǔn)則，以一定的概率接受比當(dāng)前解更差的解，從而能夠跳出局部最優(yōu)，得到全局最優(yōu)。該算法從起始溫度以及初始解開(kāi)始，在當(dāng)前溫度下為當(dāng)前解加入擾動(dòng)后產(chǎn)生新解以搜索更優(yōu)的解。當(dāng)在當(dāng)前溫度下達(dá)到一定搜索次數(shù)時(shí)，通過(guò)降溫系數(shù)降低當(dāng)前溫度繼續(xù)搜索。溫度的降低也將導(dǎo)致對(duì)更差解的接受概率逐漸降低，直到溫度降低到停止溫度時(shí)得到最終解。本文隸屬函數(shù)選擇三角形隸屬函數(shù)，包括left、center和right三個(gè)分段點(diǎn)。將系統(tǒng)中包含的所有模糊集合的中心點(diǎn)center組成初始解向量進(jìn)行搜索。每一次搜索都為當(dāng)前解增加擾動(dòng)以產(chǎn)生新解，也就意味著新解對(duì)應(yīng)的模糊集合的中心點(diǎn)相較于當(dāng)前解對(duì)應(yīng)的模糊集合的中心點(diǎn)發(fā)生了改變，為了保證模糊集合重疊的特性，需要同步地調(diào)整新解對(duì)應(yīng)的模糊集合的left和right點(diǎn)：將新解對(duì)應(yīng)的所有模糊集合的left點(diǎn)修改為前一個(gè)模糊集合的center點(diǎn)，right點(diǎn)修改為后一個(gè)模糊集合的center點(diǎn)。

SA算法使用Metropolis準(zhǔn)則時(shí)，根據(jù)當(dāng)前解與新解在目標(biāo)函數(shù)上的差值決定是否更新當(dāng)前解為新解。對(duì)模糊系統(tǒng)結(jié)構(gòu)參數(shù)優(yōu)化是為了提高模糊系統(tǒng)的精度，因此本文將訓(xùn)練集上的均方誤差（MSE）作為搜索過(guò)程中的目標(biāo)函數(shù)，如式（16）所示。對(duì)于新解而言，用于預(yù)測(cè)的模糊規(guī)則庫(kù)有兩種選擇：一種是使用在初始解條件下提取的模糊規(guī)則；另一種是利用新解重新提取模糊規(guī)則。

其中，y?k、yk分別為預(yù)測(cè)值和真實(shí)值。y?k是在由單值模糊化、乘積運(yùn)算、加權(quán)平均反模糊化得到的模型上預(yù)測(cè)的結(jié)果，如式（17）所示：

在搜索新解的過(guò)程中，解向量中每一維的解空間在當(dāng)前解更新后都會(huì)發(fā)生變化，而在當(dāng)前解的基礎(chǔ)上增加一個(gè)受溫度參數(shù)影響的隨機(jī)數(shù)來(lái)增加擾動(dòng)也會(huì)變得難以控制。因此通過(guò)在解向量中每一維的搜索范圍內(nèi)隨機(jī)選取一個(gè)值作為新解的每一維實(shí)現(xiàn)增加擾動(dòng)產(chǎn)生新解。同時(shí)，解向量中每一維的搜索范圍將受到溫度的影響：隨著溫度的降低，解向量中每一維的搜索范圍以縮減系數(shù)β進(jìn)行收縮。縮減系數(shù)的定義如式（18）所示：

那么解向量中每一維的搜索范圍經(jīng)過(guò)縮減后的左、右邊界點(diǎn)分別如式（19）和式（20）所示：

其中，left、center和right分別表示解向量對(duì)應(yīng)模糊集合的左邊界點(diǎn)、中心點(diǎn)和右邊界點(diǎn)，maxT表示初始溫度，T表示當(dāng)前溫度。

當(dāng)溫度降低至停止溫度時(shí)，搜索結(jié)束，將退火過(guò)程中的最優(yōu)解作為最終解，模糊系統(tǒng)的結(jié)構(gòu)參數(shù)調(diào)優(yōu)完成，最終的模糊系統(tǒng)構(gòu)造完畢。

3 算法實(shí)現(xiàn)及分析

本文的模糊系統(tǒng)建模及優(yōu)化流程如圖3所示。

圖3 模糊系統(tǒng)建模及優(yōu)化流程Fig.3 Fuzzy system modeling and optimization process

3.1 實(shí)現(xiàn)步驟

步驟1將導(dǎo)入的數(shù)據(jù)集進(jìn)行歸一化處理，并劃分為訓(xùn)練集Dtrain和測(cè)試集Dtest。

步驟2將輸入空間進(jìn)行等分劃分，并為每一個(gè)子空間分配模糊集合。根據(jù)分配的模糊集合確定所有規(guī)則的前件。

步驟3計(jì)算所有樣本數(shù)據(jù)對(duì)完備模糊規(guī)則庫(kù)中所有規(guī)則的貢獻(xiàn)程度。根據(jù)式（14）和式（15）計(jì)算每條規(guī)則的支持度，并設(shè)定規(guī)則約簡(jiǎn)閾值刪除冗余規(guī)則。

步驟4根據(jù)式（12）和式（13）確定模糊規(guī)則庫(kù)中規(guī)則后件部分的模糊集合。

步驟5設(shè)定模擬退火算法超參數(shù)：起始溫度maxT、停止溫度minT、每一溫度下的搜索次數(shù)n以及降溫系數(shù)q。選取初始解，利用SA算法對(duì)模糊系統(tǒng)的隸屬函數(shù)的參數(shù)進(jìn)行優(yōu)化，調(diào)整模糊系統(tǒng)結(jié)構(gòu)。

步驟6最終的模糊系統(tǒng)構(gòu)造完畢，將測(cè)試集數(shù)據(jù)Dtest輸入此模糊系統(tǒng)進(jìn)行預(yù)測(cè)，得到預(yù)測(cè)結(jié)果。

同樣地，利用表2的模擬數(shù)據(jù)對(duì)本文算法進(jìn)一步介紹。步驟1是數(shù)據(jù)預(yù)處理的過(guò)程，步驟2及步驟3已經(jīng)分別在前文第2.1節(jié)以及第2.2節(jié)敘述，因此不在此處贅述。經(jīng)過(guò)步驟3約簡(jiǎn)規(guī)則后，從樣本數(shù)據(jù)中確定了模糊規(guī)則庫(kù)中包含規(guī)則2、規(guī)則4、規(guī)則5、規(guī)則6、規(guī)則7以及規(guī)則8。接著執(zhí)行步驟4，以規(guī)則2為例確定其后件。根據(jù)式（12）和式（13），可以分別得到其后件模糊集合的中心點(diǎn)及偏差：

因此根據(jù)式（2）得到規(guī)則2后件的模糊集合如下式所示：

同樣地，其余規(guī)則的后件部分模糊集合均可確定。所有規(guī)則后件部分確定后，即可得到模糊規(guī)則庫(kù)。

在提取并約簡(jiǎn)模糊規(guī)則后執(zhí)行步驟4，假設(shè)maxT=100,minT=1,q=0.9,n=20。初始時(shí)，模糊集合的中心點(diǎn)分別為0，5，10，0，4，8，因此算法的初始解x0=[0,5,10,0,4,8]。從初始解開(kāi)始搜索，假設(shè)經(jīng)過(guò)第一次搜索后產(chǎn)生的新解為x1=[2,4,8,2,6,7]，表示新解對(duì)應(yīng)的模糊集合的中心點(diǎn)分別為2，4，8，2，6，7，那么需要同步地調(diào)整新解中每個(gè)模糊集合的左邊界點(diǎn)為前一個(gè)模糊集合的中心點(diǎn)，右邊界點(diǎn)為后一個(gè)模糊集合的中心點(diǎn)。模糊集合調(diào)整前后示意圖如圖4、圖5所示，其中黑色曲線表示當(dāng)前解x0所對(duì)應(yīng)的模糊集合，藍(lán)色曲線表示新解x1所對(duì)應(yīng)的模糊集合。

圖4 X1輸入空間模糊集合調(diào)整對(duì)比圖Fig.4 Comparison diagram of fuzzy set adjustment in X1 input space

圖5 X2輸入空間模糊集合調(diào)整對(duì)比圖Fig.5 Comparison diagram of fuzzy set adjustment in X2 input space

接著根據(jù)式（17）分別使用x0對(duì)應(yīng)模糊集合以及x1對(duì)應(yīng)模糊集合對(duì)測(cè)試集進(jìn)行預(yù)測(cè)。對(duì)于x1而言，若選擇重新提取規(guī)則，則執(zhí)行步驟3、步驟4后再進(jìn)行預(yù)測(cè)；否則使用初始解條件下提取的模糊規(guī)則進(jìn)行預(yù)測(cè)。預(yù)測(cè)完成后，根據(jù)式（16）分別計(jì)算當(dāng)前解的目標(biāo)函數(shù)值f，以及新解的目標(biāo)函數(shù)值f′，即二者在測(cè)試集上的均方誤差。根據(jù)Metropolis準(zhǔn)則決定是否接受新解，當(dāng)f′

對(duì)當(dāng)前解更新完成后，進(jìn)行新的搜索。在溫度為100的條件下進(jìn)行20次搜索后，根據(jù)T′=q×T降低當(dāng)前溫度為90，同時(shí)根據(jù)式（18）、（19）、（20）縮小當(dāng)前溫度下新解的搜索范圍。在溫度為100時(shí)：

解向量中每一維的搜索范圍為[L,R]，即每一維對(duì)應(yīng)的模糊集合的左右邊界點(diǎn)之間。在溫度為90時(shí)：

因此對(duì)應(yīng)的每一維的搜索范圍在[L′,R′]。相較于溫度為100時(shí)，搜索范圍縮減了10%，意味著減少了對(duì)較差解的搜索，更偏向于較優(yōu)解。以溫度為100時(shí)和溫度為90時(shí)，解向量第二維即集合中心點(diǎn)的搜索范圍進(jìn)行對(duì)比，如圖6所示。

圖6 搜索范圍對(duì)比圖Fig.6 Comparison of search ranges

如此循環(huán)搜索，當(dāng)溫度降低到停止溫度minT且搜索完成時(shí)，選擇退火過(guò)程中的最優(yōu)解作為模糊系統(tǒng)隸屬度函數(shù)參數(shù)的解，完成系統(tǒng)結(jié)構(gòu)的優(yōu)化。至此，模糊系統(tǒng)構(gòu)造完畢，可執(zhí)行步驟6對(duì)輸入數(shù)據(jù)進(jìn)行預(yù)測(cè)。

3.2 算法復(fù)雜度分析

在實(shí)現(xiàn)過(guò)程中，提取與約簡(jiǎn)規(guī)則時(shí)需要遍歷所有樣本數(shù)據(jù)和模糊規(guī)則以及存儲(chǔ)樣本數(shù)據(jù)對(duì)完備模糊規(guī)則支持度，因此其時(shí)間、空間復(fù)雜度均為O(n×N)，其中n為樣本數(shù)據(jù)量，N為完備模糊規(guī)則庫(kù)中的規(guī)則數(shù)。而在優(yōu)化過(guò)程中僅需O(1)復(fù)雜度存儲(chǔ)SA算法的超參數(shù)，需要O(T×C)時(shí)間復(fù)雜度，其中T為搜索新解的溫度個(gè)數(shù)，C表示每個(gè)溫度下的搜索次數(shù)。整個(gè)模糊系統(tǒng)的參數(shù)包括輸入部分模糊集合以及輸出部分模糊集合，其復(fù)雜度為O(M+K)，其中M為輸入空間上劃分的模糊集合個(gè)數(shù)，k為提取約簡(jiǎn)后的規(guī)則量。因?yàn)镺(1)≤O(M+K)≤O(n×N)，所以該算法的空間復(fù)雜度為O(n×N)，時(shí)間復(fù)雜度為O(n×N+T×C)。從以上分析看，時(shí)間復(fù)雜度相對(duì)較高，這是用模擬退火算法提高精度所付出的代價(jià)，因此降低時(shí)間復(fù)雜度將成為日后的一個(gè)研究重點(diǎn)。

4 實(shí)驗(yàn)結(jié)果與分析

為了驗(yàn)證本文算法的有效性，將t范數(shù)使用式（4）愛(ài)因斯坦積且在SA中對(duì)新解重新提取模糊規(guī)則庫(kù)的算法命名為SSF1；將t范數(shù)使用式（4）愛(ài)因斯坦積且在SA不對(duì)新解重新提取模糊規(guī)則庫(kù)的算法命名為SSF2；將t范數(shù)使用式（5）代數(shù)積且在SA中對(duì)新解重新提取模糊規(guī)則庫(kù)的算法命名為SSF3；將t范數(shù)使用式（5）代數(shù)積且在SA中不對(duì)新解重新提取模糊規(guī)則庫(kù)的算法命名為SSF4。同時(shí)引入了BP算法、RBF算法和WM算法進(jìn)行比較分析。將MSE（式（16））與R2作為客觀評(píng)價(jià)標(biāo)準(zhǔn)。

4.1 數(shù)據(jù)集描述

本文在3個(gè)數(shù)據(jù)集上驗(yàn)證提出的算法，所有數(shù)據(jù)集均選自機(jī)器學(xué)習(xí)庫(kù)UCI Machine Learning Repository。各數(shù)據(jù)集的特征總結(jié)如表5所示。

表5 數(shù)據(jù)集特征總結(jié)Table 5 Summary of data set characteristics

4.2 Adv數(shù)據(jù)集應(yīng)用

圖7 展示了各算法在Adv數(shù)據(jù)集的訓(xùn)練集、測(cè)試集上的預(yù)測(cè)效果。表6、表7分別展示了各算法在訓(xùn)練集和測(cè)試集上各項(xiàng)評(píng)價(jià)指標(biāo)值。

從表6、表7可以看出，SSF1算法在各項(xiàng)評(píng)價(jià)指標(biāo)上都表現(xiàn)得最佳，尤其在MSE與R2指標(biāo)上，占了絕對(duì)優(yōu)勢(shì)。結(jié)合圖7和表7，SSF算法對(duì)樣本數(shù)據(jù)的學(xué)習(xí)能力比BP、RBF以及WM算法都更強(qiáng)。而從圖7（b）和表7可以看出，SSF1、SSF2有更好的泛化能力。與WM算法相比，SSF算法在規(guī)則數(shù)目上均比WM算法的少，可解釋性得到提高。SSF1的規(guī)則數(shù)約是WM的一半，可解釋性最好。

表6 各算法在訓(xùn)練集上的各項(xiàng)評(píng)價(jià)指標(biāo)值（Adv數(shù)據(jù)集）Table 6 Evaluation index values of each algorithm on training set（Adv data set）

表7 各算法在測(cè)試集上的各項(xiàng)評(píng)價(jià)指標(biāo)值（Adv數(shù)據(jù)集）Table 7 Evaluation index values of each algorithm on test set（Adv data set）

圖7 各算法在Adv數(shù)據(jù)集上的預(yù)測(cè)效果Fig.7 Prediction results of each algorithm on Adv data set

4.3 DJ數(shù)據(jù)集應(yīng)用

圖8 展示了各算法在DJ數(shù)據(jù)集的訓(xùn)練集及測(cè)試集上的預(yù)測(cè)效果。表8、表9分別展示了各個(gè)算法在訓(xùn)練集和測(cè)試集上各項(xiàng)評(píng)價(jià)指標(biāo)值。

表8 各算法在訓(xùn)練集上的各項(xiàng)評(píng)價(jià)指標(biāo)值（DJ數(shù)據(jù)集）Table 8 Evaluation index values of each algorithm on training set（DJ data set）

表9 各算法在測(cè)試集上的各項(xiàng)評(píng)價(jià)指標(biāo)值（DJ數(shù)據(jù)集）Table 9 Evaluation index values of each algorithm on test set（DJ data set）

圖8 各算法在DJ數(shù)據(jù)集上的預(yù)測(cè)效果Fig.8 Prediction results of each algorithm on DJ data set

在DJ數(shù)據(jù)集上，SSF1算法在訓(xùn)練集、測(cè)試集中同樣表現(xiàn)出良好的性能，在誤差以及模型的解釋能力上比傳統(tǒng)的BP算法、RBF算法以及WM方法都要更好。在規(guī)則數(shù)目上，SSF1與SSF3分別占WM算法的29.3%與34.6%，SSF2與SSF4的規(guī)則數(shù)分別占WM算法的56%?？梢悦黠@看出，基于SSF的四種算法的規(guī)則數(shù)顯著下降，可解釋性進(jìn)一步提高。

4.4 Rev數(shù)據(jù)集應(yīng)用

圖9 展示了各算法在Rev數(shù)據(jù)集的訓(xùn)練集、測(cè)試集上的預(yù)測(cè)效果。表10、表11分別展示了各算法在訓(xùn)練集和測(cè)試集上的各項(xiàng)評(píng)價(jià)指標(biāo)值。

表10 各算法在訓(xùn)練集上的各項(xiàng)評(píng)價(jià)指標(biāo)值（Rev數(shù)據(jù)集）Table 10 Evaluation index values of each algorithm on training set（Rev data set）

表11 各算法在測(cè)試集上的各項(xiàng)評(píng)價(jià)指標(biāo)值（Rev數(shù)據(jù)集）Table 11 Evaluation index values of each algorithm on test set（Rev data set）

圖9 各算法在Rev數(shù)據(jù)集上的預(yù)測(cè)效果Fig.9 Prediction results of each algorithm on Rev data set

從表10可以看出，SSF算法在各項(xiàng)指標(biāo)上均表現(xiàn)得比其他算法更好。其中SSF3在訓(xùn)練集上的各項(xiàng)指標(biāo)居于首位，表現(xiàn)出明顯的優(yōu)勢(shì)。從表11可以看出，SSF1的誤差最小，精度最高且對(duì)模型的解釋能力表現(xiàn)得更好。從規(guī)則數(shù)目上看，SSF3規(guī)則數(shù)最少，可解釋性最好。

5 結(jié)論與展望

通過(guò)實(shí)驗(yàn)可以看出，SSF算法在實(shí)際回歸預(yù)測(cè)問(wèn)題中具有一定的可行性以及較好的性能。與一些經(jīng)典算法相比，SSF1及SSF3算法在精度和可解釋性上具有明顯的優(yōu)勢(shì)：

（1）SSF算法以完備的模糊規(guī)則庫(kù)為基礎(chǔ)，依據(jù)所有數(shù)據(jù)對(duì)規(guī)則的貢獻(xiàn)程度參與模糊規(guī)則庫(kù)中規(guī)則的生成，并通過(guò)模糊規(guī)則的支持度對(duì)冗余的規(guī)則進(jìn)行約簡(jiǎn)，提高了模型的可解釋性。

（2）通過(guò)模擬退火算法對(duì)模糊集合的結(jié)構(gòu)參數(shù)進(jìn)行調(diào)整，克服人工經(jīng)驗(yàn)的主觀性，使模糊系統(tǒng)更加適應(yīng)數(shù)據(jù)，增強(qiáng)了泛化能力，提高了預(yù)測(cè)精度。

當(dāng)前優(yōu)化的模糊系統(tǒng)在高維數(shù)據(jù)中的表現(xiàn)還有待提高。在今后的工作中，將把機(jī)器學(xué)習(xí)中的一些技巧應(yīng)用到模糊系統(tǒng)構(gòu)造及優(yōu)化中，并考慮應(yīng)用于深度模型中，以適應(yīng)高維數(shù)據(jù)的要求，進(jìn)一步提高模糊系統(tǒng)處理實(shí)際問(wèn)題的能力。