面向水下多源數(shù)據(jù)特征級融合方法

宋奎勇周連科王紅濱

(1.哈爾濱工程大學 計算機科學與技術學院,哈爾濱 150000;2.呼倫貝爾職業(yè)技術學院 信息工程系,內(nèi)蒙古 呼倫貝爾 021000)

0 引 言

海洋環(huán)境復雜多變,水下目標識別困難重重。近年來,海上船舶數(shù)量越來越多,頻繁活動帶來的背景噪聲增加了目標識別的任務難度,單一傳感器在這種環(huán)境下顯得力不從心,精度不高。多源傳感器融合是一種有效提高識別精度的方法,得到廣泛的研究并取得很好的效果。水下傳感器融合是當前目標識別研究的熱點和難點[1-3]。

信息融合可定義為利用計算機技術對按時序獲得的若干傳感器的觀測信息,在一定準則下加以自動分析、綜合以完成所需要的決策和估計任務而進行的信息處理過程。數(shù)據(jù)融合可分為像素級融合、特征級融合和決策級融合[4-6]。像素級融合指在原始數(shù)據(jù)上進行融合,對原始數(shù)據(jù)未作任何處理。特征級融合首先對傳感器原始信息進行特征提取,然后對其進行綜合分析和處理。一些經(jīng)典的特征融合方法包括主成分分析(PCA:Principal Component Analysis)、線性判別分析(LDA:Linear Discriminant Analysis)、等度量映射(ISOMAP:Isometric Mapping)和局部線性嵌入(LLE:Linear Locally Embedding)等[7]。近年來,自編碼器(AE:Autoencoder)作為一種非線性特征融合方法被廣泛關注,許多自編碼器模型被提出[8-9],如基本自編碼器(BAE:Basic AE)、去噪自編碼器(DAE:Denosing AE)、壓縮自編碼器(CAE:Contractive AE)和強壯自編碼器(RAE:Robust AE)等。自編碼器被廣泛應用于特征級數(shù)據(jù)融合[10-11]。

針對水下試驗數(shù)據(jù)噪聲大、維數(shù)高的特點,筆者提出一種結合去噪自編碼和降維的多角度特征級融合方法。首先,使用DAE降低數(shù)據(jù)噪聲、提取數(shù)據(jù)特征同時對數(shù)據(jù)降維;然后,對新特征采用層疊式融合策略進行特征融合,使用的融合方法包括主成分分析、獨立分量分析和等度量映射。筆者方法在水下多源試驗數(shù)據(jù)上取得較好的目標識別率。

1 背景知識

自編碼是一種對稱結構神經(jīng)網(wǎng)絡模型,圖1所示為一個3層的自編碼,包括輸入層、隱藏層和輸出層。隱藏層是對輸入數(shù)據(jù)的重新編碼,而輸出層是對隱藏層的重構。如果隱藏層小于輸入層、輸出層神經(jīng)元個數(shù),則隱藏層數(shù)據(jù)是對原始數(shù)據(jù)的降維表示。圖1是包含1個隱藏層的自編碼,通過兩個權重矩陣w(1)、w(2)和兩個偏置向量b(1)、b(2)設定為

圖1 3層自編碼結構圖Fig.1 3-layer autoencoder structure diagram

其中s1、s2為激活函數(shù),一般使用非線性函數(shù),f為編碼函數(shù),g為解碼函數(shù)。自編碼器使用目標函數(shù)優(yōu)化w和s使重構誤差最小。最具代表性的目標函數(shù)有均方誤差函數(shù)和交叉熵函數(shù)。均方誤差函數(shù)為交叉熵的函數(shù)為

2 DAE結合PCA特征融合

海洋環(huán)境水聲數(shù)據(jù)噪聲大、維數(shù)高,去噪自編碼器DAE能減少環(huán)境背景噪聲的影響,并能學習到水聲數(shù)據(jù)深層特征。筆者提出的一種多角度特征融合方法處理水下數(shù)據(jù)如圖2所示,圖2左側(cè)是使用DAE去除噪聲、降低維數(shù),并抽取出深層特征;圖2右側(cè)使用PCA融合方法對多源水下數(shù)據(jù)融合,并對融合后的數(shù)據(jù)分類,比較不同融合方法的分類效果。

圖2 結合DAE和PCA特征融合結構圖Fig.2 Combination of DAE and PCA feature fusion structure diagram

2.1 去噪自編碼特征融合

DAE[12]能使用被損壞的數(shù)據(jù)作為輸入重構源數(shù)據(jù),即DAE對損壞的數(shù)據(jù)能建立潛在的特征空間,對損壞數(shù)據(jù)更具有魯棒性。DAE結構和參數(shù)與普通自編碼器相似,區(qū)別在于輸入數(shù)據(jù)在訓練階段使用了損壞的數(shù)據(jù),并且在訓練階段隨機選擇一定數(shù)量節(jié)點設置為0。筆者方法中DAE使用的最小化目標函數(shù)為

其中

x為源數(shù)據(jù),為添加高斯噪聲輸入,σ為噪聲程度,為重構數(shù)據(jù)。由文獻[10]可知,3層DAE是簡單、效果好的架構,使用此架構隱藏層數(shù)據(jù),即為DAE處理后的深度特征表示。

2.2 PCA層疊式特征融合

PCA[13-14]是一種經(jīng)典數(shù)據(jù)降維算法,對降噪也有很好的效果。PCA的主要思想是將N維數(shù)據(jù)投影到維度為K的子空間中(K

當均值μ=0時,

在此矩陣中,主對角線為方差,其余部分為協(xié)方差,若把此矩陣對角化,則正好滿足方差盡可能大,而協(xié)方差為0,并且在主對角線上元素按大小從上到下排列,達到優(yōu)化目的。若P是按行組成的一組基,設Y=PX,Y為X做基變換后的數(shù)據(jù),Y的協(xié)方差矩陣為D,則有

其中D為對角矩陣,且D是對C的對角化?？衫锰卣髦捣纸饣蚱娈愔捣纸馇缶仃嘋的特征值和特征向量。選擇最大的k個特征值,其對應的特征向量P就是所求的K維子空間,將數(shù)據(jù)投影到k維子空間中,即Y=PX,Y就是D降維后的特征表示。

將多源水聲傳感器對同一目標進行同步偵測,所得傳感器數(shù)據(jù)相互間有一定線性關系,而PCA是一種線性降維方法,所以使用PCA是適合的。如圖3所示,為了得到更準確的分類效果,使用了層疊式PCA融合方法,第i、i+1、i+2 3組數(shù)據(jù)融合為1組,i+1、i+2、i+3 3組數(shù)據(jù)融合為1組,以此類推。層疊式融合方法會使同類數(shù)據(jù)更加相似。

圖3 PCA層疊式特征融合結構圖Fig.3 PCA stacked feature fusion structure diagram

經(jīng)過DAE和PCA融合后的數(shù)據(jù),維數(shù)更小、特征更突出。若將多傳感器數(shù)據(jù)比作二維表,則DAE從橫向上壓縮并抽取特征數(shù)據(jù),PCA從縱向上融合數(shù)據(jù)。因此數(shù)據(jù)在進行分類時,時間效率更高,分類精度會更好。

2.3 算法基本步驟

在不同環(huán)境下采集水下數(shù)據(jù),使用筆者算法融合處理,基本步驟如下:

步驟1多源水下傳感器數(shù)據(jù)采集;

步驟2數(shù)據(jù)分段、標準化處理;

步驟3使用DAE對數(shù)據(jù)進行特征融合;

步驟4使用PCA降維融合;

步驟5使用多種分類算法分類。

3 試驗分析

試驗使用Python語言在Tensorflow 2.0和Keras 2.0.6框架下編程開發(fā)。Tensorflow和Keras是高效深度學習框架,提供大量程序包,快速提高開發(fā)效率。為驗證筆者算法,選取了消聲水池場景實驗數(shù)據(jù)和真實水下場景數(shù)據(jù)做測試,這兩種試驗場景涵蓋了理想水下環(huán)境與真實水下環(huán)境,為驗證算法在不同環(huán)境下有效性提供了保障。

3.1 試驗數(shù)據(jù)集

1)消聲水池數(shù)據(jù)。通過在消聲水池中布置不同水下目標聲響設備模擬水下目標信息感知的環(huán)境。目標放置位置正對水聽器,池邊水聽器陣自下而上排列,水聽陣內(nèi)含18只水聽器,每只水聽器對應相同編號通道(signal),其中末端水聽器距離池底0.5 m,其他水聽器每個間距0.25 m安置,陣纜共長4.5 m。測量時間6 min,頻帶25.6 kHz。采集的所有信號均為電壓值。為實現(xiàn)精細化的水下目標信息感知,嘗試使用不同的功率放大器模擬不同船體的本艇自身噪聲,同時,船體分別使用20%、50%和80%的功率在水中航行。實驗環(huán)境如圖4所示。

圖4 消聲水池數(shù)據(jù)監(jiān)測結構圖Fig.4 Data monitoring structure diagram of anechoic pool

依據(jù)目標的發(fā)動機功率以及不同的速度,將其定義為3類不同的目標。目標1總量4 800段,目標2總量10 000段,目標3總量3 470段,所有數(shù)據(jù)訓練集占比72.5%,測試集占比27.5%。

2)真實水下試驗數(shù)據(jù)。通過在實際水域中布置多個水下目標噪聲采集設備收集數(shù)據(jù)。目標船只攜帶發(fā)聲設備在水面上按實驗要求沿不同的方向以不同速度運動,采集不同聲況下的數(shù)據(jù)。在真實水下場景試驗時,記錄的自然環(huán)境信息:溫度為6℃,濕度為39%,風速為4 m/s,氣壓為1.029×105Pa,水速為7 m/s。

使用3路水聽器組水平陣與20路水聽器進行信號采集。船長6 m,近岸固定,船在江面中心線上,船頭正對水聽陣。船身正中位置放置,用于模擬自身噪聲實驗采集船體的水下噪聲信號數(shù)據(jù),按照船體距離采集點的不同,錄取多組數(shù)據(jù)。船以不同的距離和速度在水面上航行,記錄水聽器接收的噪聲數(shù)據(jù)。由于水面上有風浪,船體需要保持一定速度航行,距離會有誤差,同時實驗開始前和結束后,每段采集了約30 min的環(huán)境噪聲。實驗環(huán)境如圖5所示。

圖5 水下真實數(shù)據(jù)采集圖Fig.5 Underwater real data collection map

目標船體使用不同發(fā)聲體模擬不同目標,并且以不同的速度航行。具體實驗數(shù)據(jù)目標參數(shù)如表1所示,根據(jù)發(fā)聲體馬力和目標距離的不同,把試驗數(shù)據(jù)分成8類,同時,由于船體不固定,目標距離存在誤差,所以目標距離在一定范圍內(nèi)波動。

表1 水下實驗數(shù)據(jù)分類表Tab.1 Classification table of underwater experiment data

3.2 試驗驗證與性能對比分析

1)參數(shù)設置與對比分析。由于水聽器測量數(shù)據(jù)量較大,在使用前需要對數(shù)據(jù)進行切分。為了方便程序計算與處理,切分大小以2的冪為基準,筆者使用3種切分大小,分別為512、1 024、2 048。并且使用sklearn包中的預處理函數(shù)MinMaxScalar把數(shù)據(jù)歸一化在0~1之間。最后,使用sklearn包中的train_test_split函數(shù)把數(shù)據(jù)集劃分為訓練集和測試集,訓練集和測試集比例為6∶4。

DAE模型參數(shù)包括輸入層維數(shù)(input_dim)、編碼層維數(shù)(encoding_dim)、權重衰變(weight_decay)和激活函數(shù)(activation)。輸入層維數(shù)為512、1 024、2 048 3種,編碼層按照輸入層50%和75%兩種比例計算,按照文獻[9]的試驗分析,一般情況下,降維到75%好于降維到50%的分類準確率,降維到50%高于未經(jīng)降維的分類準確率。自編碼網(wǎng)絡編碼層大小是輸入層的75%時分類準確率最高。例如:在試驗中按照DAE的3層結構,若輸入層為1 024,并且設定編碼層為輸入層的75%,則編碼層為768。權重衰變?yōu)門RUE,激活函數(shù)為tanh。

為了展示分類效果優(yōu)劣,使用PCA、獨立成分分析(ICA:Independent Component Analysis)和ISOMAP進行數(shù)據(jù)降維融合,PCA和ICA是一種線性降維方法,ISOMAP是一種基于流行的非線性降維方法。然后,使用支持向量機(SVM:Support Vector Machine)對融合后數(shù)據(jù)分類,分類結果如表2所示。

表2 不同融合方法的分類準確率Tab.2 Classification accuracy of different fusion methods

從表2可以看出,同樣條件下的數(shù)據(jù),經(jīng)PCA處理后的識別率高于ICA和IOSMAP。在DAE(75%)+PCA數(shù)據(jù)上,取得最高的識別率,消聲水池是98.1%,江上場景是89.7%。為進一步展示效果,使用折線圖對比分析。圖6是3種融合方法在消聲水池和真實水下環(huán)境中的識別率對比。圖7是試驗數(shù)據(jù)是否使用PCA的識別率對比。

圖6 2種場景下不同融合方法分類識別率Fig.6 Classification and recognition rate of different fusion methods in two scenarios

圖7 2種場景下融合前后識別率對比Fig.7 Comparison of recognition rates before and after fusion in the two scenarios

從圖6a中可以看出,消聲水池數(shù)據(jù)使用3種融合方法融合后的識別率PCA高于ICA和ISOMAP,從源數(shù)據(jù)到DAE(50%)再到DAE(75%),整體識別率上升。從圖6b真實水下環(huán)境中目標識別率同樣得到類似的結果。在水池數(shù)據(jù)中,DAE(75%)經(jīng)PCA融合后取得最高的識別率98.1%,在真實水下場景試驗數(shù)據(jù)中,同樣是DAE(75%)在PCA融合后取得最高的識別率89.7%。

從圖7a可以看出,在消聲水池數(shù)據(jù)試驗中,經(jīng)過PCA處理的數(shù)據(jù)識別率普遍高于未經(jīng)PCA處理的,如在DAE(75%)下,未經(jīng)PCA處理的識別率是95.9%,經(jīng)過PCA處理的是98.1%。圖7b也得到與圖7a類似的結果,如在DAE(75%)下,未經(jīng)PCA處理的識別率是80.2%,經(jīng)過PCA處理的是89.7%。

不同分類器針對不同類型數(shù)據(jù)分類效果不同。為進一步驗證不同分類器在試驗數(shù)據(jù)上的分類結果,使用SVM、K-近鄰算法(KNN:K-Nearest Neighbor)和多層感知機(MLP:Multi-Layer Perception)進行分類。使用DAE壓縮到源數(shù)據(jù)的75%,然后利用PCA對數(shù)據(jù)降維融合,最后采用3種分類方法分類,分類結果如圖8所示。

從圖8可以看出,無論是在消聲水池中,還是在真實水下環(huán)境中,使用KNN分類結果最低,MLP次之,SVM分類結果最高,但3者差別不大。為此,在試驗最后使用SVM進行分類。

圖8 3種分類方法分類結果對比Fig.8 Comparison chart of classification results of 3 classification methods

2)時間復雜度。使用DAE+PCA對源數(shù)據(jù)進行融合處理后,使數(shù)據(jù)維數(shù)減少,從而在模型訓練和數(shù)據(jù)分類過程中所需時間減少。對源數(shù)據(jù)、DAE(50%)和DAE(75%)數(shù)據(jù)進行模型訓練和數(shù)據(jù)分類時間對比分析,時間花費如圖9所示。

圖9 融合前后時間花費對比Fig.9 Comparison of time spent before and after fusion

從圖9可看出,在模型訓練階段,源數(shù)據(jù)所需時間最多,DAE(50%)所需時間最少。源數(shù)據(jù)所需時間是DAE(75%)的1倍左右,而DAE(50%)所需要的時間是源數(shù)據(jù)的1/4。3者差距較明顯。在數(shù)據(jù)分類階段,得到同樣的結果。從圖9可以看出,數(shù)據(jù)壓縮比例越大,所需時間越少,效率越高。

4 結 語

為提高水下傳感器試驗數(shù)據(jù)的識別率,課題組在不同場景下收集大量水下多源數(shù)據(jù),由于試驗數(shù)據(jù)包含噪聲,使用去噪自編碼對數(shù)據(jù)進行去噪、降維處理,并利用多種融合方法對多源數(shù)據(jù)融合,采用的融合方法包括主成分分析、獨立分量分析和等度量映射。不同場景下對比試驗表明筆者方法取得較好的分類結果,其中主成分分析取得最高目標識別率。雖然降維方法可以實現(xiàn)多源數(shù)據(jù)融合,但在真實水下數(shù)據(jù)融合識別精度還有待提高,下一步工作選擇更適合的融合方法,期待可以取得更好的效果,另外多源異構數(shù)據(jù)融合也是下一步的研究目標。