基于數(shù)據(jù)增廣的CNN用于地震數(shù)據(jù)重建

陳 銳，王 琴>

(中國地質(zhì)大學(xué) 數(shù)學(xué)與物理學(xué)院，湖北 武漢 430074)

1 引 言

由于經(jīng)濟因素和采集環(huán)境的限制，采集到的地震數(shù)據(jù)往往出現(xiàn)地震道的缺失，這將影響后續(xù)的處理和資料解釋。因此，對地震數(shù)據(jù)進行重建就有十分重要的實際意義。已有的地震數(shù)據(jù)重建方法包括：基于預(yù)測誤差濾波器的方法[1-3]，基于數(shù)學(xué)變換的方法[4-6]，基于波場延拓算子的方法[7,8]和基于降秩理論的方法[9-11]。以上方法通?；谀承┫闰灱僭O(shè)，重建效果受到該假設(shè)的制約。例如：降秩理論的方法基于線性同相軸的假設(shè)，彎曲同相軸數(shù)據(jù)需要通過加窗的方法來滿足局部線性的假設(shè)。此外，以上方法通常還存在超參數(shù)選擇的問題——不同數(shù)據(jù)的重建，需要重新調(diào)節(jié)超參數(shù)，增加了人工干預(yù)，導(dǎo)致自動化程度較低。

近幾年，研究者們探索將深度學(xué)習(xí)的方法應(yīng)用到地震數(shù)據(jù)重建[12]中。基于深度學(xué)習(xí)的地震數(shù)據(jù)重建方法的原理為：網(wǎng)絡(luò)從海量訓(xùn)練數(shù)據(jù)集自動學(xué)習(xí)缺失數(shù)據(jù)到完整數(shù)據(jù)之間的映射。深度學(xué)習(xí)的方法無需先驗假設(shè)，學(xué)習(xí)后的網(wǎng)絡(luò)可直接對新的缺失地震數(shù)據(jù)進行重建，因此，該方法的自動化程度更高。Wang等運用殘差網(wǎng)絡(luò)(Residual Network, Resnet)[13]對規(guī)則缺失地震數(shù)據(jù)進行重建。該方法首先采用三次樣條對數(shù)據(jù)做預(yù)重建，然后使用殘差網(wǎng)絡(luò)優(yōu)化重建結(jié)果。該研究取得了優(yōu)于f-x方法的效果。Oliveria等使用條件生成對抗網(wǎng)絡(luò)[14]對疊后數(shù)據(jù)的gap缺失進行研究。針對不同缺失寬度建立了網(wǎng)絡(luò)池，重建結(jié)果優(yōu)于單個網(wǎng)絡(luò)。Mandelli等將Unet網(wǎng)絡(luò)[15]應(yīng)用在地震數(shù)據(jù)隨機缺失重建中，取得了優(yōu)于經(jīng)典的多道奇異譜分析算法的效果。Chang等提出了一種雙域條件生成對抗網(wǎng)絡(luò)[16]對隨機缺失地震數(shù)據(jù)進行重建。該方法由生成網(wǎng)絡(luò)和判別網(wǎng)絡(luò)組成，以地震數(shù)據(jù)集和頻域離散傅里葉變換數(shù)據(jù)集作為輸入，綜合考慮時域和頻率域信息，使網(wǎng)絡(luò)更好地發(fā)掘數(shù)據(jù)特征。

盡管以上方法都表明了CNN網(wǎng)絡(luò)(CNN,Convolutional Neural Network)在地震數(shù)據(jù)重建問題中的潛力，但它們通常面臨著一定的泛化問題，即：當(dāng)需要重建的數(shù)據(jù)與訓(xùn)練數(shù)據(jù)存在較大差異時，網(wǎng)絡(luò)的性能都會明顯下降。構(gòu)建好的訓(xùn)練數(shù)據(jù)集是提高網(wǎng)絡(luò)泛化性直接有效的方法之一。在圖像處理領(lǐng)域中，數(shù)據(jù)增廣策略是構(gòu)建數(shù)據(jù)集的常用技巧之一：通過對圖像進行翻轉(zhuǎn)、旋轉(zhuǎn)、縮放、裁剪、對比度、色彩抖動，加噪等處理，讓數(shù)據(jù)集盡可能的多樣化。本文提出了適合地震數(shù)據(jù)特點的數(shù)據(jù)增廣策略。具體包括：從整個工區(qū)數(shù)據(jù)中隨機截取數(shù)據(jù)塊，并設(shè)定篩選條件去除掉無信號數(shù)據(jù)和異常數(shù)據(jù)，通過翻轉(zhuǎn)、加噪、多尺度采樣進行數(shù)據(jù)增廣。在實驗中以常用的Unet網(wǎng)絡(luò)和Resnet網(wǎng)絡(luò)作為骨架網(wǎng)絡(luò)，討論所提出的數(shù)據(jù)增廣方法的有效性。人工合成數(shù)據(jù)和真實數(shù)據(jù)的實驗結(jié)果表明，本文方法的泛化性更好，重建的地震數(shù)據(jù)信噪比更高。

2 網(wǎng)絡(luò)模型與重建方法

2.1 基于CNN的地震數(shù)據(jù)重建

基于CNN的地震數(shù)據(jù)重建方法包含兩個階段：訓(xùn)練階段和測試階段。在訓(xùn)練階段中，利用大量的缺失數(shù)據(jù)和完整數(shù)據(jù)樣本對(xi,yi)訓(xùn)練CNN，擬合缺失數(shù)據(jù)到完整數(shù)據(jù)的映射f。訓(xùn)練過程中目標(biāo)函數(shù)為：

(1)

其中，xi表示第i個缺失數(shù)據(jù)(網(wǎng)絡(luò)輸入);yi表示對應(yīng)的完整數(shù)據(jù)(標(biāo)簽)，i∈[1,N];N表示數(shù)據(jù)集的數(shù)據(jù)對的個數(shù);fθ表示參數(shù)為θ的CNN。網(wǎng)絡(luò)參數(shù)θ可通過最小化網(wǎng)絡(luò)輸出fθ(x)和標(biāo)簽之間的均方誤差進行優(yōu)化求解。每一層網(wǎng)絡(luò)參數(shù)的梯度由反向傳播算法計算[17]。

(2)

2.2 網(wǎng)絡(luò)結(jié)構(gòu)

已有的研究中，Resnet網(wǎng)絡(luò)和Unet網(wǎng)絡(luò)已經(jīng)被學(xué)者應(yīng)用到地震數(shù)據(jù)重建問題中，取得了較好的重建結(jié)果。因此，本文將基于這兩個CNN網(wǎng)絡(luò)對所提的數(shù)據(jù)增廣策略進行測試。

Resnet結(jié)構(gòu)由多個殘差模塊堆疊而成。它的逐層殘差學(xué)習(xí)策略可以有效地解決網(wǎng)絡(luò)退化問題。本文所使用的Resnet結(jié)構(gòu)如圖1所示，由一個輸入卷積層，一個輸出卷積層和三個殘差塊組成。圖中藍色和黃色矩形表示中間層特征圖，矩形下方的數(shù)字表示特征圖通道個數(shù)。紫色箭頭為卷積操作，綠色箭頭為跳過連接。卷積操作的卷積核大小均為3*3，使用線性整流(Rectified Linear Unit, ReLU)激活函數(shù)。紅色虛線框表示一個殘差模塊，每個殘差模塊包含兩個卷積層和一個跳過連接。在殘差模塊中，層輸入通過跳躍連接結(jié)構(gòu)與兩層卷積的輸出結(jié)果相加得到殘差塊輸出，此時卷積層學(xué)習(xí)的是層輸入與層輸出之間的殘差。網(wǎng)絡(luò)通過逐層的殘差學(xué)習(xí)將缺失數(shù)據(jù)映射為最終的重建結(jié)果。

圖1 Resnet網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Resnet network structure

Unet網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示，由編碼器和解碼器兩部分組成。左半部分為編碼器，由卷積層和最大池化層反復(fù)堆疊組成，如圖2中紫色箭頭所示。每一個卷積層包含一個3*3大小的卷積算子，一個批標(biāo)準(zhǔn)化[18](Batch Normalization, BN)層和一個ReLU激活函數(shù)層。紅色箭頭表示下采樣，通過2*2大小的最大池化層實現(xiàn)，每經(jīng)過一次下采樣，特征圖尺度減半。右半部分為解碼器，由卷積層和卷積上采樣層堆疊組成。綠色箭頭表示上采樣，由轉(zhuǎn)置卷積算子實現(xiàn)，每經(jīng)過一次上采樣，特征尺度加倍。圖中灰色箭頭表示特征圖通道維度的拼接，將解碼器中上采樣所得特征圖和編碼器對應(yīng)層輸出特征圖在通道維度拼接以提供多尺度信息融合。最后解碼器的結(jié)果經(jīng)過1*1的卷積得到最終的網(wǎng)絡(luò)輸出，即為缺失地震數(shù)據(jù)的重建結(jié)果。

圖2 Unet網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Unet network structure

2.3 數(shù)據(jù)增廣策略

常用的訓(xùn)練數(shù)據(jù)集通過滑動窗口的策略獲取，即在整個工區(qū)炮集記錄上，以固定大小、固定步長的滑動窗口截取數(shù)據(jù)塊。若步長設(shè)置較小，會截取出大量的冗余數(shù)據(jù)。冗余數(shù)據(jù)不能提升網(wǎng)絡(luò)訓(xùn)練的質(zhì)量，還會浪費計算資源。若步長設(shè)置較大，則可能會產(chǎn)生信息丟失。本文以隨機的方式在整個工區(qū)數(shù)據(jù)上截取數(shù)據(jù)塊，并對所截取數(shù)據(jù)塊進行篩選，除去數(shù)據(jù)塊方差極小的無信號數(shù)據(jù)和極差極大的異常數(shù)據(jù)。

本文通過翻轉(zhuǎn)、加噪、多尺度采樣來進行數(shù)據(jù)增廣。由于實際的勘探情況和采集數(shù)據(jù)設(shè)備不同，不同的數(shù)據(jù)可能會有不同時間采樣率和空間采樣率。不同的空間采樣間隔在炮集上表現(xiàn)為不同的同相軸斜率。因此，為了豐富訓(xùn)練數(shù)據(jù)集同相軸斜率特征，考慮了多尺度空間下采樣的數(shù)據(jù)擴增方式。此外，對數(shù)據(jù)進行水平翻轉(zhuǎn)，模擬更多炮集記錄的情況可以豐富數(shù)據(jù)類型。對訓(xùn)練數(shù)據(jù)加入微小噪聲擾動，可提高網(wǎng)絡(luò)魯棒性，避免過擬合。

3 數(shù)值實驗

3.1 網(wǎng)絡(luò)的訓(xùn)練細節(jié)

本文使用公開的人工合成數(shù)據(jù)作為實驗數(shù)據(jù)集(https://wiki.seg.org/wiki/2007_BP_Anisotropic_Velocity_Benchmark)，取其中前400炮作為訓(xùn)練數(shù)據(jù)集，401到500炮作為驗證數(shù)據(jù)集。每個炮大小為1 151*800， 時間采樣間隔為8 ms，空間采樣間隔為12.5 m。

構(gòu)建訓(xùn)練集：使用所提出的數(shù)據(jù)增廣方法構(gòu)建訓(xùn)練數(shù)據(jù)集。分別使用12.5 m，25 m和50 m 的空間采樣間隔對訓(xùn)練數(shù)據(jù)進行采樣，從采樣后的數(shù)據(jù)中隨機截取24 000 個128*128的數(shù)據(jù)塊(無信號區(qū)域占比超過50 %的數(shù)據(jù)被去除)。將每個數(shù)據(jù)標(biāo)準(zhǔn)化到0和1之間，標(biāo)準(zhǔn)化公式為：

(3)

然后，對數(shù)據(jù)集中的數(shù)據(jù)塊進行50 %概率的隨機翻轉(zhuǎn)和加噪，噪聲的均值為0,方差為每個數(shù)據(jù)極差的0.01。將這24 000個數(shù)據(jù)塊作為訓(xùn)練標(biāo)簽，對每個數(shù)據(jù)塊隨機缺失50 %的地震道作為網(wǎng)絡(luò)輸入，最終形成24 000個(輸入，標(biāo)簽)數(shù)據(jù)對構(gòu)成整個訓(xùn)練集。部分訓(xùn)練數(shù)據(jù)如圖3所示。

圖3 數(shù)據(jù)集中的部分?jǐn)?shù)據(jù)Fig.3 Part of the data in the dataset

構(gòu)建驗證集：在驗證數(shù)據(jù)中隨機截取6 000個128*128的數(shù)據(jù)塊作為驗證集標(biāo)簽，每個數(shù)據(jù)塊標(biāo)準(zhǔn)化到0和1之間，每個數(shù)據(jù)塊隨機缺失50 %的地震道作為輸入，最終形成6 000個驗證數(shù)據(jù)對。

評價標(biāo)準(zhǔn)：使用信噪比(Signal Noise Ratio,SNR)評價該方法在隨機缺失地震數(shù)據(jù)重建中的性能，SNR計算公式為式(4)：

(4)

針對Resnet網(wǎng)絡(luò)，本文使用Adam優(yōu)化器，學(xué)習(xí)率設(shè)置為0.001，每批輸入32個數(shù)據(jù)，一共訓(xùn)練15輪。針對Unet網(wǎng)絡(luò)，使用Adam優(yōu)化器，學(xué)習(xí)率設(shè)置為0.0001，每批輸入24個數(shù)據(jù)，一共訓(xùn)練15輪。實驗在Windows10環(huán)境下進行，訓(xùn)練用的顯卡為英偉達GTX1660。訓(xùn)練Resnet網(wǎng)絡(luò)平均每輪耗時11分鐘，訓(xùn)練Unet網(wǎng)絡(luò)平均每輪耗時18分鐘。

圖4為訓(xùn)練過程中驗證集數(shù)據(jù)重建的平均信噪比曲線圖。圖中藍色三角形和紅色五角星的曲線為基于所提出數(shù)據(jù)增廣的Resnet和Unet重建結(jié)果信噪比，黑色和綠色空心圓為基于常用的滑動窗口數(shù)據(jù)集的Resnet和Unet重建結(jié)果信噪比。從圖4中可以看出，基于數(shù)據(jù)增廣方法的結(jié)果信噪比更高。Unet網(wǎng)絡(luò)在一輪訓(xùn)練后信噪比達到25 dB左右，相比于Resnet網(wǎng)絡(luò)收斂更快。網(wǎng)絡(luò)訓(xùn)練在15輪后趨于收斂，最終基于數(shù)據(jù)增廣的Resnet和Unet重建結(jié)果比基于滑動窗口的結(jié)果平均信噪比分別高0.82 dB和1.9 dB。

3.2 仿真數(shù)據(jù)實驗

應(yīng)用訓(xùn)練好的網(wǎng)絡(luò)對仿真數(shù)據(jù)重建。從合成數(shù)據(jù)第501炮中截取128*128大小的區(qū)域，如圖5(a)所示。對該數(shù)據(jù)隨機缺失50 %的地震道，如圖5(b)所示。圖5(c)～圖5(f)分別為不使用數(shù)據(jù)增廣方法的Resnet網(wǎng)絡(luò)結(jié)果、使用數(shù)據(jù)增廣方法的Resnet網(wǎng)絡(luò)結(jié)果、不使用數(shù)據(jù)增廣方法Unet網(wǎng)絡(luò)結(jié)果以及使用數(shù)據(jù)增廣方法Unet網(wǎng)絡(luò)結(jié)果。重建的信噪比分別為26.06 dB、27.61 dB、34.25 dB、37.61 dB。可以看出，無論是Resnet網(wǎng)絡(luò)還是Unet網(wǎng)絡(luò)，使用了數(shù)據(jù)增廣方法的網(wǎng)絡(luò)都有更好的性能，重建數(shù)據(jù)有更高的信噪比，而Unet網(wǎng)絡(luò)的性能優(yōu)于Resnet。

圖5 空間采樣間隔為12.5 m仿真數(shù)據(jù)的重建結(jié)果Fig.5 Reconstruction results of simulated data with a spatial sampling interval of 12.5 m

對空間采樣間隔為25 m的數(shù)據(jù)進行測試，結(jié)果如圖6所示。圖6(a)為原始標(biāo)簽,有128個時間采樣點，64個空間采樣點。圖6(b)為隨機缺失50 %地震道數(shù)據(jù)。圖6(c)～圖6(f)分別為不使用數(shù)據(jù)增廣方法的Resnet網(wǎng)絡(luò)結(jié)果、使用數(shù)據(jù)增廣方法的Resnet網(wǎng)絡(luò)結(jié)果、不使用數(shù)據(jù)增廣方法Unet網(wǎng)絡(luò)結(jié)果以及使用數(shù)據(jù)增廣方法Unet網(wǎng)絡(luò)結(jié)果。重建的信噪比分別為19.73 dB、24.38 dB、23.06 dB、28.14 dB?？梢钥闯觯?dāng)空間采樣間隔從12.5 m增加到25 m時，使用數(shù)據(jù)增廣方法的結(jié)果提升更為明顯。

圖6 空間采樣間隔為25 m仿真數(shù)據(jù)的重建結(jié)果Fig.6 Reconstruction results of simulated data with spatial sampling interval of 25 m

3.3 真實數(shù)據(jù)實驗

將上述在合成數(shù)據(jù)中訓(xùn)練好的網(wǎng)絡(luò)對真實的疊前數(shù)據(jù)Mobil Avo Viking Graben Line 12(http://s3.amazonaws.com/open.source.geoscience/open_data/Mobil_Avo_Viking_Graben_Line_12/mobil_avo.html)進行重建。本文從中截取一個炮進行測試。圖7(a)為原始的完整數(shù)據(jù)，包含512個時間采樣點，采樣時間間隔為4 ms， 120個空間采樣點，空間采樣間隔為25 m。圖7(b)為隨機缺失50 %地震道數(shù)據(jù)。圖7(c)～圖7(f)分別為不使用數(shù)據(jù)增廣方法的Resnet網(wǎng)絡(luò)結(jié)果、使用數(shù)據(jù)增廣方法的Resnet網(wǎng)絡(luò)結(jié)果、不使用數(shù)據(jù)增廣方法Unet網(wǎng)絡(luò)結(jié)果和使用數(shù)據(jù)增廣方法Unet網(wǎng)絡(luò)結(jié)果。重建信噪比分別為22.53 dB、27.44 dB、24.58 dB和30.41 dB。圖7中紅框區(qū)域為差異明顯的部分(采樣時間范圍0.8 s到1.2 s，道號為65到95)，圖8展示了圖7紅框區(qū)域的局部放大，可以看出使用了數(shù)據(jù)增廣方法的重建結(jié)果同相軸的連續(xù)性更好，而沒有使用數(shù)據(jù)增廣方法的結(jié)果同相軸出現(xiàn)了斷裂。即本文提出的數(shù)據(jù)增廣方法訓(xùn)練的網(wǎng)絡(luò)對真實數(shù)據(jù)仍然有很好的重建性能。

4 結(jié) 論

針對基于深度學(xué)習(xí)的地震數(shù)據(jù)重建方法中存在的網(wǎng)絡(luò)泛化性不足的問題，本文提出了一種基于數(shù)據(jù)增廣的卷積神經(jīng)網(wǎng)絡(luò)地震數(shù)據(jù)重建方法。通過空間方向上多尺度采樣、隨機翻轉(zhuǎn)、加噪等數(shù)據(jù)增廣策略，構(gòu)建出信息更加豐富的訓(xùn)練數(shù)據(jù)集。仿真和真實數(shù)據(jù)實驗結(jié)果表明，在常用的Resnet網(wǎng)絡(luò)和Unet網(wǎng)絡(luò)下，訓(xùn)練出的網(wǎng)絡(luò)泛化性能更好，重建數(shù)據(jù)具有更高的信噪比。然而對于連續(xù)多道缺失的地震數(shù)據(jù)，本文方法重建誤差較大。下一步工作將考慮改進網(wǎng)絡(luò)結(jié)構(gòu)，探索連續(xù)多道缺失地震數(shù)據(jù)的重建方法。