基于深度可分離殘差網(wǎng)絡(luò)的遙感影像路網(wǎng)檢測

單傳輝,葉紹華,姚萬琪,張 欣

(安徽工程大學(xué) 電氣工程學(xué)院,安徽 蕪湖 241004)

0 引 言

路網(wǎng)指的是在一定區(qū)域內(nèi),由各種道路組成的相互聯(lián)絡(luò)、交織成網(wǎng)狀分布的道路系統(tǒng)。其中,全部由各級公路組成的路網(wǎng)稱為公路網(wǎng);在城市范圍內(nèi)由各種道路組成的路網(wǎng)稱之為城市路網(wǎng)。路網(wǎng)提取或者檢測是指輸入高分辨率遙感影像,利用計算機(jī)通過一定的規(guī)則進(jìn)行識別,從而提取或者檢測路網(wǎng)[1]。高分辨率遙感影像包含豐富的信息,從中進(jìn)行路網(wǎng)提取或者檢測,其基本理論是分析影像中不同目標(biāo)的光譜特征和空間幾何特征等。傳統(tǒng)路網(wǎng)檢測方法通過圖像的顏色、紋理、邊緣和幾何特征提取道路,應(yīng)用場景受限且效率偏低。而基于深度學(xué)習(xí)的路網(wǎng)檢測可以利用海量的高分辨率影像,并在復(fù)雜背景下自主快速地提取亞米精度的路網(wǎng)和中心線等交通信息,已經(jīng)成為高精度地圖生產(chǎn)的重要手段[2]。

根據(jù)路網(wǎng)提取算法的不同,可將路網(wǎng)提取分為基于像元的方法、面向?qū)ο蟮姆椒ê蜕疃葘W(xué)習(xí)的方法。基于像元的路網(wǎng)提取方法能夠充分利用影像的光譜特征和幾何特征。趙文智等人[3]提出了一種基于道路邊緣檢測的方法進(jìn)行路網(wǎng)提取,該方法可以解決光譜特征混淆問題,但是其適用場景有限。周家香等人[4]基于Mean-Shift算法對影像劃區(qū)域處理進(jìn)行路網(wǎng)提取,但該方法僅適用于直線型路網(wǎng)的提取方式。Gaetano等人[5]提出利用Canny算子計算道路邊界進(jìn)行路網(wǎng)提取,但路網(wǎng)的特征具有一定的不確定性。面向?qū)ο蟮穆肪W(wǎng)提取方法通常是把遙感影像劃分為不同區(qū)域,然后再進(jìn)行路網(wǎng)的提取。張游游等人[6]利用統(tǒng)計地物類的模型提取路網(wǎng)的方法,該方法運(yùn)用Canny算子對遙感影像進(jìn)行高斯濾波,降低噪聲影響,并采用高低雙閾值法細(xì)化邊緣有效檢測出地物的邊緣信息,該方法對高分辨率遙感影像線狀地物信息提取研究具有一定的參考價值。譚紅春等人[7]通過結(jié)合條件隨機(jī)場和目標(biāo)級圖像分析法,構(gòu)建出目標(biāo)相鄰像素的關(guān)系,進(jìn)而達(dá)到提取路網(wǎng)的目的,但是該方法提取的路網(wǎng)存在斷連現(xiàn)象。劉曉宇等人[8]基于漸進(jìn)式形態(tài)學(xué)濾波算法,提出一種利用格網(wǎng)近似值代替三維空間點(diǎn)運(yùn)算并自適應(yīng)計算濾波參數(shù)的方法來提取城市道路路網(wǎng)邊界點(diǎn),該方法取得了不錯的提取效果,但算法較為復(fù)雜?；谏疃葘W(xué)習(xí)的路網(wǎng)提取方法是借助于語義分割與邊緣檢測的方法進(jìn)行路網(wǎng)提取,將路網(wǎng)提取任務(wù)轉(zhuǎn)變?yōu)槎诸惖膱D像語義分割任務(wù)[9]。諶華等人[10]提出了一種改進(jìn)的全卷積神經(jīng)網(wǎng)絡(luò)(FCN)實(shí)現(xiàn)SAR圖像的路網(wǎng)檢測,該網(wǎng)絡(luò)可以減少圖像信息丟失和計算開銷。張新長等人[11]探究了不同寬度和框架的神經(jīng)網(wǎng)絡(luò)對路網(wǎng)檢測結(jié)果產(chǎn)生的影響。Shan等人[12]提出了一種具有編碼-解碼結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)E-Road進(jìn)行路網(wǎng)檢測。孫卓等人[13]將圖像進(jìn)行劃區(qū)域分割,并利用U-Net與ResNet相結(jié)合提出了ResNetU-Net網(wǎng)絡(luò)進(jìn)行路網(wǎng)檢測。王斌等人[14]在U-Net基礎(chǔ)上,根據(jù)路網(wǎng)的連通性原理,使用多項(xiàng)式擬合的方法解決路網(wǎng)的不連續(xù)問題。Ren等人[15]將U-Net結(jié)果引入到膠囊網(wǎng)絡(luò),提出了一種雙注意力膠囊網(wǎng)絡(luò)(DA-CapsU-Net),該網(wǎng)絡(luò)提取并融合了多尺度膠囊特征,具有良好的普適性和兼容性,但存在錯檢現(xiàn)象。

上述基于像元和面向?qū)ο蟮穆肪W(wǎng)檢測方法相對于基于深度學(xué)習(xí)的路網(wǎng)檢測方法在實(shí)際操作、檢測速度、檢測效果和應(yīng)用場景等方面存在諸多不足,因此,基于深度學(xué)習(xí)的路網(wǎng)檢測方法得到了廣泛應(yīng)用。但是,基于深度學(xué)習(xí)的路網(wǎng)檢測方法絕大多數(shù)是建立在卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,即建立在卷積運(yùn)算上,而由Google研究院的Francois Chollet提出來的深度可分離卷積運(yùn)算[16]相較于卷積運(yùn)算不僅擁有更好的提取圖像特征的能力,而且深度可分離卷積運(yùn)算相較于卷積運(yùn)算具有更少的參數(shù)量和計算量?；诖?該文將深度可分離卷積引入卷積神經(jīng)網(wǎng)絡(luò)中替換對應(yīng)的卷積運(yùn)算并進(jìn)行路網(wǎng)檢測,從而提高路網(wǎng)檢測的性能和檢測速度。

1 深度可分離卷積運(yùn)算

深度可分離卷積運(yùn)算是由Google研究院的Francois Chollet提出來的,用來替換Inception V3中的卷積運(yùn)算,因此誕生了Xception網(wǎng)絡(luò)[16]。卷積運(yùn)算的過程如圖1(a)所示,卷積核的長度覆蓋輸入特征圖的所有通道,輸入特征圖的所有通道與卷積核進(jìn)行卷積運(yùn)算之后得到新的特征圖,即多個卷積核卷積運(yùn)算之后得到的結(jié)果進(jìn)行排列形成了新的特征圖。深度可分離卷積運(yùn)算過程如圖1(b)所示,深度可分離卷積運(yùn)算包含兩個卷積運(yùn)算:逐通道卷積運(yùn)算和逐點(diǎn)卷積運(yùn)算。前者卷積核的長度每次只覆蓋輸入特征圖的一個通道,輸入特征圖的通道數(shù)與卷積核的個數(shù)相等,每個卷積核對應(yīng)一個輸入特征圖的通道,每個卷積核與對應(yīng)的輸入特征圖通道卷積運(yùn)算之后得到新的特征圖,即每個卷積核卷積運(yùn)算之后得到的結(jié)果進(jìn)行排列形成了新的特征圖,逐通道卷積運(yùn)算過程如圖1(b)中虛線區(qū)域所示。后者是在逐通道卷積運(yùn)算的基礎(chǔ)上進(jìn)行的,逐點(diǎn)卷積運(yùn)算與卷積運(yùn)算類似,但是逐點(diǎn)卷積運(yùn)算要求卷積核的大小必須是1×1,可以有多個卷積核,每個卷積核與輸入特征圖卷積之后的結(jié)果進(jìn)行排列便可得到新的特征圖,逐通道卷積的運(yùn)算過程如圖1(b)中虛線區(qū)域所示。

通過比較圖1(a)和(b)可以看出卷積運(yùn)算與深度可分離卷積運(yùn)算的不同之處,輸入特征圖都是一個4通道的特征圖,輸出特征圖都是一個6通道的特征圖,卷積運(yùn)算直接通過使用6個不同的卷積核卷積運(yùn)算得到,而深度可分離卷積運(yùn)算首先使用4個逐通道卷積核得到一個同為4通道的特征圖,緊接著再使用6個1×1大小的逐點(diǎn)卷積核得到最終的輸出特征圖。簡而言之,卷積運(yùn)算過程將輸入特征圖的通道之間的相關(guān)性與空間相關(guān)性一起處理,而深度可分離卷積運(yùn)算過程將輸入特征圖的通道之間的相關(guān)性與空間相關(guān)性分開處理。另外,研究表明相同大小的輸入特征圖在分別進(jìn)行卷積運(yùn)算和深度可分離卷積運(yùn)算得到相同大小輸出特征圖時,深度可分離卷積運(yùn)算的參數(shù)量和計算量都低于卷積運(yùn)算的參數(shù)量和計算量,且深度可分離卷積神經(jīng)網(wǎng)絡(luò)的特征提取能力也優(yōu)于傳統(tǒng)深度卷積神經(jīng)網(wǎng)絡(luò)的特征提取能力[16]。因此,深度可分離卷積運(yùn)算在計算量和特征提取能力上優(yōu)于卷積運(yùn)算。這也是該文選擇深度可分離卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行路網(wǎng)檢測的原因。

圖1 卷積運(yùn)算過程示意圖(a)和深度可分離卷積運(yùn)算過程示意圖(b)

2 殘差模塊

殘差模快是ResNet的重要技能,也是防止深度神經(jīng)網(wǎng)絡(luò)過擬合和梯度消失提升網(wǎng)絡(luò)性能的重要方法,因此,自殘差模塊提出之后便得到了廣泛的應(yīng)用。常見的殘差模塊分為跨兩層連接的殘差模塊和跨三層連接的殘差模塊。為提升路網(wǎng)檢測的性能,防止網(wǎng)絡(luò)出現(xiàn)過擬合現(xiàn)象,根據(jù)網(wǎng)絡(luò)深度,該文采用的是跨兩層連接的殘差模塊。

3 深度可分離殘差網(wǎng)絡(luò)

將深度可分離卷積運(yùn)算與殘差模塊結(jié)合可構(gòu)建深度可分離殘差網(wǎng)絡(luò),深度可分離殘差網(wǎng)絡(luò)的結(jié)構(gòu)示意圖如圖2(c)所示,深度可分離殘差網(wǎng)絡(luò)所對應(yīng)的殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)分別如圖2(b)和圖2(a)所示。深度可分離殘差網(wǎng)絡(luò)是在殘差網(wǎng)絡(luò)的基礎(chǔ)上將卷積層分解為逐通道卷積層和逐點(diǎn)卷積層而得到的,而殘差網(wǎng)絡(luò)是在普通卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上添加殘差學(xué)習(xí)而得到的,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)三者的區(qū)別可見圖2中的虛線區(qū)域。下面通過對比實(shí)驗(yàn)分別檢測這些網(wǎng)絡(luò)的路網(wǎng)檢測性能。

4 實(shí)驗(yàn)結(jié)果和分析

4.1 實(shí)驗(yàn)環(huán)境及參數(shù)設(shè)置

從圖2(c)可以看出,深度可分離殘差網(wǎng)絡(luò)共有11層,包括1個輸入層、3個逐通道卷積層、3個逐點(diǎn)卷積層、1個最大池化層、2個全連接層和1個輸出層。除此之外,網(wǎng)絡(luò)還在逐點(diǎn)卷積層之后使用批歸一化技巧、ReLU激活函數(shù),以及跨越兩層逐通道卷積層和逐點(diǎn)卷積層的殘差連接。深度可分離殘差網(wǎng)絡(luò)所對應(yīng)的殘差網(wǎng)絡(luò)如圖2(b)所示,二者除了在逐通道卷積層、逐點(diǎn)卷積層和卷積層不同之外,其余設(shè)置完全相同。類似地,圖2(a)所示的卷積神經(jīng)網(wǎng)絡(luò)是在圖2(b)殘差網(wǎng)絡(luò)的基礎(chǔ)上去除跨越2層的殘差連接而得到的,網(wǎng)絡(luò)其余設(shè)置與圖2(b)所示的殘差網(wǎng)絡(luò)完全相同。所有實(shí)驗(yàn)均在2×NVIDIA GeForce RTX 3080環(huán)境下借助Caffe平臺訓(xùn)練所得。

圖2 三種神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)示意圖

深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)設(shè)置如表1所示。通過表1可以發(fā)現(xiàn),卷積神經(jīng)網(wǎng)絡(luò)和殘差網(wǎng)絡(luò)的卷積層的參數(shù)量都遠(yuǎn)大于深度可分離殘差網(wǎng)絡(luò)對應(yīng)的逐通道卷積層和逐點(diǎn)卷積層的參數(shù)量, 卷積神經(jīng)網(wǎng)絡(luò)和殘差網(wǎng)絡(luò)的3個卷積層的參數(shù)量是74 304,深度可分離殘差網(wǎng)絡(luò)的3逐通道卷積層和3逐點(diǎn)卷積層的參數(shù)量是5 467,因此,深度可分離殘差網(wǎng)絡(luò)可以極大地減少網(wǎng)絡(luò)的參數(shù)量,從而提高網(wǎng)絡(luò)的訓(xùn)練速度。

表1 卷積神經(jīng)網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和深度可分離殘差網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)設(shè)置

4.2 數(shù)據(jù)集

實(shí)驗(yàn)中使用的數(shù)據(jù)集是RRSI交通路網(wǎng)遙感圖像數(shù)據(jù)集[17]和CHN6-CUG數(shù)據(jù)集[18]。RRSI數(shù)據(jù)集共有30幅大小不等的圖像和2種標(biāo)注,RRSI數(shù)據(jù)集部分圖像及其標(biāo)注如圖3(左三列)所示,本節(jié)選用其中17幅圖像作為數(shù)據(jù)集,其中11幅圖像作為訓(xùn)練集,6幅圖像作為測試集。CHN6-CUG數(shù)據(jù)集是一套新的中國代表性城市大尺度衛(wèi)星遙感圖像數(shù)據(jù)集,包括4 511幅512×512大小標(biāo)記圖像,其中有3 608幅訓(xùn)練圖像和903幅測試圖像,CHN6-CUG數(shù)據(jù)集部分圖像及其標(biāo)注如圖3(右三列)所示,在實(shí)驗(yàn)中選用其中18幅圖像作為數(shù)據(jù)集,其中12幅圖像作為訓(xùn)練集,6幅圖像作為測試集。

圖3 RRSI(左三列)和CHN6-CUG(右三列)數(shù)據(jù)集部分圖像及其對應(yīng)標(biāo)注

4.3 評價指標(biāo)

為了評價卷積神經(jīng)網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和深度可分離殘差網(wǎng)絡(luò)對遙感影像路網(wǎng)檢測的優(yōu)劣性,共采用兩種評價指標(biāo)。第一種是通過比較網(wǎng)絡(luò)的訓(xùn)練耗時時長、最終準(zhǔn)確率和損失以及準(zhǔn)確率和損失的收斂速率來評價網(wǎng)絡(luò)訓(xùn)練和學(xué)習(xí)的性能;第二種是通過比較網(wǎng)絡(luò)的路網(wǎng)檢測實(shí)際結(jié)果來評價網(wǎng)絡(luò)的路網(wǎng)實(shí)際檢測性能,路網(wǎng)檢測實(shí)際結(jié)果包括路網(wǎng)檢測的寬度、路網(wǎng)檢測的缺失情況和路網(wǎng)檢測的錯誤情況。最后,綜合比較并給出網(wǎng)絡(luò)對遙感影像路網(wǎng)檢測的優(yōu)劣情況。

4.4 結(jié)果及分析

4.4.1 RRSI數(shù)據(jù)集上的結(jié)果及分析

深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在RRSI數(shù)據(jù)集上的對比實(shí)驗(yàn)結(jié)果如表2所示,該結(jié)果是經(jīng)過200 000遍訓(xùn)練后得到的。從表2可以看出,在RRSI數(shù)據(jù)集上深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率分別為98.59%、98.31%和98.30%,深度可分離殘差網(wǎng)絡(luò)的準(zhǔn)確率分別比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率提高了0.28和0.29百分點(diǎn);還可看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的損失分別為0.041 5、0.067 5和0.064 1,深度可分離殘差網(wǎng)絡(luò)的損失分別比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的損失降低了0.026 0和0.022 6;也還可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的每百步的平均訓(xùn)練耗時分別為93 s、165 s和162 s,深度可分離殘差網(wǎng)絡(luò)的每百步的平均訓(xùn)練耗時分別比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的平均訓(xùn)練耗時降低了72 s和69 s。

表2 深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在RRSI數(shù)據(jù)集上的對比實(shí)驗(yàn)結(jié)果

圖4(a)和(b)分別給出了深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集和測試集上損失隨步長的變化關(guān)系。從圖4(a)可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集上損失隨步長的下降情況區(qū)別不明顯,但從圖4(b)可以看出,深度可分離殘差網(wǎng)絡(luò)的損失在測試集上要比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的損失略低。圖4(c)給出了深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在測試集上準(zhǔn)確率隨步長的變化關(guān)系,可以看出,深度可分離殘差網(wǎng)絡(luò)的準(zhǔn)確率在隨步長的變化過程中比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率略高。因此,深度可分離殘差網(wǎng)絡(luò)在準(zhǔn)確率和損失略微優(yōu)于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò),且在網(wǎng)絡(luò)的訓(xùn)練耗時時長上遠(yuǎn)遠(yuǎn)低于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)。

圖4 深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在RRSI數(shù)據(jù)集上的訓(xùn)練過程

圖5給出了連通度大小為100時深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的部分路網(wǎng)檢測結(jié)果,可以看出,深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測寬度與實(shí)際路網(wǎng)寬度更接近,優(yōu)于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測寬度;深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測缺失比例明顯低于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測缺失比例;深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測錯誤比例明顯低于卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測錯誤比例,高于殘差網(wǎng)絡(luò)的路網(wǎng)檢測錯誤比例。綜上可知,深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測實(shí)際結(jié)果整體上優(yōu)于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測結(jié)果,而卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測結(jié)果次之,殘差網(wǎng)絡(luò)的路網(wǎng)檢測結(jié)果最差,可以說路網(wǎng)檢測任務(wù)失敗。

圖5 在RRSI數(shù)據(jù)集上連通度為100時深度可分離殘差網(wǎng)絡(luò)(第一行)、殘差網(wǎng)絡(luò)(第二行)和卷積神經(jīng)網(wǎng)絡(luò)(第三行)的路網(wǎng)檢測結(jié)果

從表2可以看出,在RRSI數(shù)據(jù)集上殘差網(wǎng)絡(luò)雖然在路網(wǎng)識別的準(zhǔn)確率上略高于卷積神經(jīng)網(wǎng)絡(luò),但是最終在路網(wǎng)檢測結(jié)果上效果不佳,這是令人費(fèi)解的地方,可能的原因是殘差網(wǎng)絡(luò)在網(wǎng)絡(luò)的深度較淺時,泛化能力弱于單純的卷積神經(jīng)網(wǎng)絡(luò),這就導(dǎo)致在訓(xùn)練圖像上殘差網(wǎng)絡(luò)的性能得不到保障,在測試圖像上其性能表現(xiàn)較差。

4.4.2 CHN6-CUG數(shù)據(jù)集上的結(jié)果及分析

深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在CHN6-CUG數(shù)據(jù)集上的對比實(shí)驗(yàn)結(jié)果如表2所示,該結(jié)果是經(jīng)過50 000遍訓(xùn)練后得到的。從表2可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率分別為99.40%、99.92%和99.96%,深度可分離殘差網(wǎng)絡(luò)的準(zhǔn)確率分別比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率低了0.52和0.56百分點(diǎn);還可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的損失分別為0.016 6、0.002 5和0.002 3,深度可分離殘差網(wǎng)絡(luò)的損失分別比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的損失大了0.014 1和0.014 3;也還可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的每百步的平均訓(xùn)練耗時分別為36 s、80 s和79 s,深度可分離殘差網(wǎng)絡(luò)的每百步的平均訓(xùn)練耗時分別比殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的平均訓(xùn)練耗時降低了44 s和43 s。圖6(a)和(b)分別給出了深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集和測試集上損失隨步長的變化關(guān)系。從圖6(a)可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集上的損失基本持平,當(dāng)然,從表2可以看出,在CHN6-CUG數(shù)據(jù)集上殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集上的最終損失比深度可分離殘差網(wǎng)絡(luò)在訓(xùn)練集上的最終損失更小一點(diǎn)。從圖6(b)可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集上的損失基本持平。圖6(c)給出了深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在測試集上準(zhǔn)確率隨步長的變化關(guān)系,可以看出,深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集上的準(zhǔn)確率基本持平,當(dāng)然,從表2可以看出,在CHN6-CUG數(shù)據(jù)集上殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練集上的最終準(zhǔn)確率比深度可分離殘差網(wǎng)絡(luò)在訓(xùn)練集上的最終準(zhǔn)確率更小一點(diǎn)。因此,深度可分離殘差網(wǎng)絡(luò)在準(zhǔn)確率和損失上雖然略微遜于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò),但在網(wǎng)絡(luò)的訓(xùn)練耗時時長上遠(yuǎn)遠(yuǎn)低于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)。圖7給出了連通度大小為100時深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的部分路網(wǎng)檢測結(jié)果,可以看出,深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測寬度與實(shí)際路網(wǎng)寬度更接近,優(yōu)于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測寬度;深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測缺失比例明顯低于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測缺失比例;深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測錯誤比例明顯低于卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測錯誤比例,高于殘差網(wǎng)絡(luò)的路網(wǎng)檢測錯誤比例。綜上可知,深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測實(shí)際結(jié)果整體上優(yōu)于殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測結(jié)果,而卷積神經(jīng)網(wǎng)絡(luò)的路網(wǎng)檢測結(jié)果次之,殘差網(wǎng)絡(luò)的路網(wǎng)檢測結(jié)果最差。

圖6 深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在CHN6-CUG數(shù)據(jù)集上訓(xùn)練過程

圖7 在CHN6-CUG數(shù)據(jù)集上連通度為100時深度可分離殘差網(wǎng)絡(luò)(第一行)、殘差網(wǎng)絡(luò)(第二行)和卷積神經(jīng)網(wǎng)絡(luò)(第三行)的路網(wǎng)檢測結(jié)果

從表2可以看出,在CHN6-CUG數(shù)據(jù)集上卷積神經(jīng)網(wǎng)絡(luò)和殘差網(wǎng)絡(luò)雖然在路網(wǎng)識別的準(zhǔn)確率上略微優(yōu)于深度可分離殘差網(wǎng)絡(luò),但是最終在路網(wǎng)檢測結(jié)果上效果不佳,這是令人費(fèi)解的地方,可能的原因是卷積神經(jīng)網(wǎng)絡(luò)和殘差網(wǎng)絡(luò)存在過擬合的現(xiàn)象,從表2也可以看出,二者的準(zhǔn)確率幾乎接近于1,因此,這就導(dǎo)致卷積神經(jīng)網(wǎng)絡(luò)和殘差網(wǎng)絡(luò)的泛化能力遜色于深度可分離殘差網(wǎng)絡(luò)的泛化能力。

5 結(jié)束語

深度可分離卷積運(yùn)算相較于卷積運(yùn)算不僅擁有更優(yōu)的特征提取能力,而且在參數(shù)量和計算量方面也低于卷積運(yùn)算,因此,該文利用深度可分離卷積運(yùn)算替代卷積運(yùn)算,并引入殘差模塊,構(gòu)造了深度可分離殘差網(wǎng)絡(luò)進(jìn)行路網(wǎng)自動提取應(yīng)用。實(shí)驗(yàn)結(jié)果表明,雖然深度可分離殘差網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)在準(zhǔn)確率和損失上區(qū)別不大,但是深度可分離殘差網(wǎng)絡(luò)的訓(xùn)練耗時時長遠(yuǎn)遠(yuǎn)低于相對應(yīng)的卷積神經(jīng)網(wǎng)絡(luò)和殘差網(wǎng)絡(luò)的訓(xùn)練耗時時長,而且深度可分離殘差網(wǎng)絡(luò)的路網(wǎng)檢測實(shí)際結(jié)果也優(yōu)于相對應(yīng)的卷積神經(jīng)網(wǎng)絡(luò)和殘差網(wǎng)絡(luò)的路網(wǎng)檢測實(shí)際結(jié)果。因此,提出的深度可分離殘差網(wǎng)絡(luò)在路網(wǎng)檢測方面具有廣泛的應(yīng)用前景。但是,深度可分離殘差網(wǎng)絡(luò)依然存在漏檢和誤檢的現(xiàn)象,進(jìn)一步降低漏檢和誤檢比例是下一步的研究方向。