一種基于集成學(xué)習(xí)的路面裂縫檢測(cè)仿真算法

郭香蓉，李 鴻

(長(zhǎng)沙理工大學(xué)電氣與信息工程學(xué)院，湖南 長(zhǎng)沙 410004)

1 引言

道面裂縫是道路損傷中最常見的一種，傳統(tǒng)人工檢測(cè)的方法效率低下，依賴于檢修工人的經(jīng)驗(yàn)，判斷標(biāo)準(zhǔn)主觀性大，且在高速公路等特殊道面實(shí)施困難。近年來，隨著計(jì)算機(jī)技術(shù)和圖像識(shí)別技術(shù)的飛速發(fā)展，利用計(jì)算機(jī)對(duì)道面裂縫圖像進(jìn)行自動(dòng)識(shí)別檢測(cè)已成為裂縫檢測(cè)的主要手段之一。

國(guó)內(nèi)外圍繞自動(dòng)化的裂縫檢測(cè)做了大量工作：一些學(xué)者認(rèn)為圖像邊緣檢測(cè)方法直接影響裂縫檢測(cè)準(zhǔn)確性，采用了多種邊緣檢測(cè)算法(Canny，Prewitt，Sobel，LOG，Roberts，SUSAN)及其改進(jìn)算法來解決這一問題[1-3]，這類算法是解決圖像識(shí)別問題的通用方法，主要思路是求解二維實(shí)函數(shù)梯度，然后選取合適的閾值提取圖像邊緣，該方法在受到不均勻光照和道面紋理等噪聲干擾時(shí)，識(shí)別準(zhǔn)確率降低。一些學(xué)者致力于尋找道路裂縫的獨(dú)有特征，從道路裂縫的點(diǎn)、線、紋理和變換域特征入手，在特征提取上做了大量研究[4-6]，此類算法較傳統(tǒng)全局閾值算法而言，具有較強(qiáng)的抗噪能力，提高了道面裂縫識(shí)別準(zhǔn)確率。隨著模式識(shí)別方法的深入發(fā)展，學(xué)者們?cè)谔崛×芽p特征的基礎(chǔ)上，設(shè)計(jì)各種分類器對(duì)道路裂縫進(jìn)行識(shí)別，包括K近鄰、支持向量機(jī)和神經(jīng)網(wǎng)絡(luò)等人工智能方法[7-9]，此類方法實(shí)現(xiàn)了大量樣本的快速檢測(cè)，但在識(shí)別的準(zhǔn)確率上還有待提高。

道面裂縫識(shí)別實(shí)際上是一個(gè)分類問題，二分類的思路：存在裂縫和不存在裂縫?，F(xiàn)行的研究中將其作為二分類問題處理的較多，但在實(shí)際檢測(cè)過程中，人們希望細(xì)分出裂縫的類型，以便能夠分類修復(fù)。本文將道面裂縫的類別簡(jiǎn)化為點(diǎn)狀裂縫、線狀裂縫和網(wǎng)狀裂縫三種類型，將道面裂縫檢測(cè)作為一個(gè)多分類問題來解決。為了提高單一學(xué)習(xí)算法的檢測(cè)率，降低虛警和漏警率，從提高分類器性能的角度出發(fā)，引入元學(xué)習(xí)的概念，提出了基于集成學(xué)習(xí)[10-11]的道面裂縫檢測(cè)方法。首先，對(duì)道路裂縫特征進(jìn)行提取，并分別選取訓(xùn)練樣本和測(cè)試樣本；其次，選擇基本分類器，通過Stacking策略訓(xùn)練出分類效果更強(qiáng)的元分類器，以提升檢測(cè)率；最后，將待測(cè)試的樣本輸入，檢驗(yàn)識(shí)別效果。希望通過以上方法，實(shí)現(xiàn)對(duì)大規(guī)模道面裂縫樣本的快速、準(zhǔn)確檢測(cè)，減少人力物力投入。

2 路面裂縫圖像預(yù)處理與特征提取

在陽(yáng)光的照射下，利用數(shù)碼照相機(jī)對(duì)道面圖像拍攝，光軸應(yīng)與道路表面垂直，且側(cè)邊平行于路基，得到分辨率為1536×2048，像素范圍為0-255的彩色圖像，對(duì)其進(jìn)行灰度化和二值化處理，獲得圖像P，每個(gè)像素約對(duì)應(yīng)1 mm2的道面。為了滿足計(jì)算性能(較快的處理速度和較小的內(nèi)存)和計(jì)算精度要求，將互不重疊的大小為75×75的圖像考慮為一個(gè)圖像單元[12]，則一幅圖像共由20×27個(gè)圖像單元組成。計(jì)算出每個(gè)單元的像素均值和像素標(biāo)準(zhǔn)差，組成兩個(gè)20×27的矩陣：均值矩陣Mm和標(biāo)準(zhǔn)差矩陣STDm。分別在水平方向和垂直方向?qū)D像掃描，尋找裂縫的像元，進(jìn)而生成二進(jìn)制矩陣Mm。包含明顯裂縫象元的像素塊標(biāo)記為“1”，其余的標(biāo)記為“0”。柵格化后的道面結(jié)果如圖1所示。

圖1 裂縫圖像柵格化處理

如圖1所示，用柵格圖像來逼近一個(gè)實(shí)體圖像，可以有效減小存儲(chǔ)空間，且柵格數(shù)據(jù)不連續(xù)，易于擴(kuò)充。點(diǎn)裂縫在柵格圖像中表現(xiàn)為一個(gè)圖像單元，線裂縫表現(xiàn)為連續(xù)的若干圖像單元的集合，網(wǎng)狀裂縫是若干線裂縫組成且有公共的圖像單元。這里需要注意，圖像單元?jiǎng)澐诌^小會(huì)增加裂縫識(shí)別中虛警的概率，若圖像單元過大則不容易識(shí)別出細(xì)小的裂縫，漏警的概率將增大。

預(yù)處理中，為了解決背景照明不均勻的問題，首先對(duì)每一張圖像樣本像素強(qiáng)度歸一化。這樣能夠?qū)⑾嗤钠骄袼貜?qiáng)度的圖像單元標(biāo)記為“0”(作為背景)，而裂縫像素因?yàn)檩^暗具有較小的平均像素強(qiáng)度，這類樣本能夠更好地區(qū)分出來。

當(dāng)強(qiáng)光照射在水泥和柏油等道面上時(shí)，因?yàn)殓R面反射原理道面會(huì)出現(xiàn)一塊亮斑，無裂縫的道面的像素強(qiáng)度標(biāo)準(zhǔn)差會(huì)明顯增大，最終導(dǎo)致有裂縫道面和無裂縫道面的標(biāo)準(zhǔn)差(std)值很接近，使STDm判別指標(biāo)失效。為了解決這一問題，引入飽和度概念：高于某個(gè)閾值(所有圖像像素強(qiáng)度的均值)的像素強(qiáng)度將被這一均值替代。這樣處理后圖像只會(huì)稍暗，而不會(huì)丟失裂紋信息，STDm的識(shí)別功能將顯著提升，與Mm共同反映裂紋信息。

下面提取圖像特征，前文提到圖像的像素均值矩陣Mm和像素標(biāo)準(zhǔn)差矩陣STDm對(duì)于道面裂縫有很好的識(shí)別能力。在此基礎(chǔ)上，將其轉(zhuǎn)化為特征量，使其能夠作為輸入在分類算法中進(jìn)行學(xué)習(xí)分析。

1)像素分布密度

定義像素分布密度為裂縫圖像中裂縫區(qū)域像素占圖像總像素的百分比

(1)

式中，式中，m、n分別為矩陣Mm和的行數(shù)和列數(shù)。這是一個(gè)非常簡(jiǎn)單的判別指標(biāo)：裂縫越密集，像素分布密度值越大。但該指標(biāo)也存在一定缺陷：當(dāng)圖片噪聲較多時(shí)，無裂縫的道面也存在一定幾率識(shí)別為裂縫道面，且若線狀裂縫長(zhǎng)度較長(zhǎng)，與網(wǎng)狀裂縫難以區(qū)分開，因此需要結(jié)合其它特征。

2)Mm和STDm在水平和垂直方向的投影：

(2)

(3)

(4)

(5)

式中，m、n分別為矩陣Mm和STDm的行數(shù)和列數(shù)。通過對(duì)像素均值和標(biāo)準(zhǔn)差的投影可以發(fā)現(xiàn)，若存在點(diǎn)狀裂縫，在投影的波形中會(huì)出現(xiàn)一個(gè)凸起的尖波；若存在線狀裂縫，將會(huì)出現(xiàn)一個(gè)波峰；若存在網(wǎng)狀裂縫，X軸和Y軸方向會(huì)出現(xiàn)明顯的多個(gè)波峰?？陀^上說明像素均值和標(biāo)準(zhǔn)差均對(duì)裂縫的種類具有一定識(shí)別能力。

為了考察各圖像單元像素的突變情況，分別對(duì)式(2)～(5)的四個(gè)投影序列作差分運(yùn)算，并對(duì)其絕對(duì)值累加

(6)

(7)

(8)

(9)

根據(jù)投影的特征，PX、PY、QX和QY可以反映不同種類的道路裂縫信息，其值越大代表裂縫累積越顯著。

將提取的道路特征信息構(gòu)成5維特征向量(fx，PX，PY，QX，QY)。為避免數(shù)據(jù)維度的差異對(duì)分類精度造成影響，采用最大最小值的方法對(duì)數(shù)據(jù)樣本進(jìn)行歸一化處理

(10)

式中，X為樣本特征量，Xmin和Xmax分別為變量X取最大值和最小值，Y∈[-1，1]為歸一化后的變量。

3 集成學(xué)習(xí)算法

3.1 Stacking集成學(xué)習(xí)算法

近年來，集成學(xué)習(xí)方法是以多個(gè)弱監(jiān)督模型訓(xùn)練出一個(gè)強(qiáng)監(jiān)督模型的學(xué)習(xí)方法。若其中的一個(gè)弱分類器因?qū)δＰ蛿M合不好而出現(xiàn)了錯(cuò)誤的判斷，其它的弱分類器能夠?qū)⑦@一錯(cuò)誤分類糾正回來，能夠較好地解決一些非線性問題。Stacking算法主要有以下5個(gè)步驟：

step1：將原始數(shù)據(jù)集分為3組；

step2：第1組數(shù)據(jù)集用于訓(xùn)練多個(gè)弱分類器，獲得訓(xùn)練好的基本分類器；

step3：將第2組數(shù)據(jù)集輸入訓(xùn)練好的基本分類器中，獲得不同類別的輸出，將輸出的結(jié)果組成元數(shù)據(jù)集。

step4：選擇合適的分類算法，用元數(shù)據(jù)集訓(xùn)練元分類器。

step5：將第3組數(shù)據(jù)集作為測(cè)試集，輸入到各基本分類器中，獲得最終分類結(jié)果。

元分類器可以是基本分類器中的一種，一般而言，單個(gè)分類器效果越好分類結(jié)果越好，而集成學(xué)習(xí)后分類效果更加優(yōu)于單個(gè)分類器。

3.2 元分類器——多分類LS-SVM

支持向量機(jī)作為分類算法，具有良好的推廣能力和避免收斂到局部極小點(diǎn)等優(yōu)點(diǎn)，分類效果較好。近年來，最小二乘支持向量機(jī)(LS-SVM)是近年來統(tǒng)計(jì)學(xué)習(xí)理論的重要成果之一，它將傳統(tǒng)SVM算法中的經(jīng)驗(yàn)風(fēng)險(xiǎn)由偏差一次方轉(zhuǎn)變?yōu)槠畹亩畏?，用等式約束替換不等式約束，進(jìn)而轉(zhuǎn)化二次規(guī)劃為線性方程組，提高了運(yùn)算效率。在這里選擇LS-SVM作為元分類器。其基本描述如下：

設(shè)樣本數(shù)據(jù)訓(xùn)練集為S={(xi，yi)，i=1，2，…，l}，xi∈Rn是第i個(gè)訓(xùn)練樣本的輸入向量，yi∈R是相對(duì)應(yīng)的輸出，LS-SVM用非線性映射函數(shù)Φ(x)將輸入數(shù)據(jù)映射到高維空間中進(jìn)行線性估計(jì)。其線性回歸函數(shù)為

f(x)=ωTΦ(x)+b

(11)

式中b是映射偏置，ω是特征空間權(quán)值向量。

為了同時(shí)減小預(yù)測(cè)誤差和計(jì)算復(fù)雜度，基于總體風(fēng)險(xiǎn)最小化原則，對(duì)問題進(jìn)行優(yōu)化

(12)

S.t.yi=ωTΦ(xi)+b+ei

(13)

式中，γ為正則化參數(shù)；ei為回歸誤差。

這里引入拉格朗日乘子，將式(12)轉(zhuǎn)變?yōu)闊o約束對(duì)偶空間優(yōu)化問題，即

(14)

對(duì)上式的ω、b、e、α求偏導(dǎo)，可得該拉格朗日函數(shù)的最優(yōu)化約束

(15)

根據(jù)最優(yōu)化約束，約去ei和ω，將等式轉(zhuǎn)化為矩陣形式：

(16)

矩陣中，β=[1，…，1]，Ωkj=K(xk，xj)為核函數(shù)矩陣，核函數(shù)K(xk，xj)可從徑向基核函數(shù)(Radical Basis Function，RBF)、Sigmoid核函數(shù)和多項(xiàng)式核函數(shù)(Polynomial)中選取。拉格朗日乘子α=(α1，α2，…，αl)T，Y=(y1，y2，…，yl)T。

本文采用RBF核函數(shù)，其表達(dá)形式如(17)所示，其中σ為RBF核函數(shù)寬度系數(shù)。

(17)

通過以上推導(dǎo)，可以獲得LS-SVM預(yù)測(cè)函數(shù)

(18)

在本文中，樣本輸入向量為x，即識(shí)別裂縫的特征量；f(x)是道路裂縫特征量與裂縫類型之間的映射關(guān)系。傳統(tǒng)的SVM是典型的二分類器，僅能得到“存在裂縫”和“不存在裂縫”兩種識(shí)別結(jié)果。為了在“存在裂縫”中繼續(xù)檢測(cè)出裂縫的類別，需要構(gòu)造多分類向量機(jī)。

這里，從減少計(jì)算復(fù)雜度的角度出發(fā)，選擇“一類對(duì)一類”的方法。因路面裂縫主要有點(diǎn)狀裂縫、線狀裂縫和網(wǎng)狀裂縫三種(k=3)，因此將分類器的數(shù)量設(shè)置為k(k-1)/2=3。采用投票法進(jìn)行分類，如圖2所示。

圖2 “一對(duì)一”多分類向量機(jī)應(yīng)用于裂縫檢測(cè)

對(duì)于任意裂縫樣本x，共需要三種分類機(jī)，分別為點(diǎn)狀裂縫和線狀裂縫分類機(jī)H1、點(diǎn)狀裂縫和網(wǎng)狀裂縫分類機(jī)H2、線狀裂縫和網(wǎng)狀裂縫分類機(jī)H3，樣本分別輸入其中進(jìn)行識(shí)別。在第一個(gè)分類機(jī)中，若樣本x屬于點(diǎn)狀裂縫，則該類票數(shù)加1，反之線狀裂縫類別加1；該樣本x繼續(xù)輸入分類機(jī)H2、H3，完成投票后，得票數(shù)最多的類別即為該樣本x的類別。當(dāng)投票結(jié)果為1：1：1時(shí)，為不可識(shí)別區(qū)域G，由于該區(qū)域內(nèi)數(shù)據(jù)較少，對(duì)分類精度的影響可以忽略不計(jì)。

4 Stacking集成學(xué)習(xí)道面裂縫識(shí)別

為了獲得元分類器，將數(shù)據(jù)集分為三組，第一組用于訓(xùn)練基本分類器，第二組輸入基本分類器獲得元數(shù)據(jù)集，第三組用于測(cè)試。在基本分類器的選擇上，可選擇僅參數(shù)改變的同一分類器，也可選擇不同學(xué)習(xí)算法相結(jié)合的異質(zhì)分類器。本文中選擇K近鄰、樸素貝葉斯、BP神經(jīng)網(wǎng)絡(luò)和多分類SVM作為基本的學(xué)習(xí)算法。其基本流程如圖3所示：

圖3 集成學(xué)習(xí)裂縫識(shí)別模型

這里，四個(gè)基本分類器的輸出分別為“屬于正負(fù)類的樣本點(diǎn)數(shù)量”、“后驗(yàn)概率”、“權(quán)值”以及“點(diǎn)到超平面的距離”。它們構(gòu)成了元數(shù)據(jù)集，用于訓(xùn)練多分類SVM元分類器，這個(gè)元分類器將多個(gè)基本分類器的分析結(jié)果進(jìn)行二次學(xué)習(xí)，對(duì)道面裂縫情況進(jìn)行識(shí)別。

5 仿真分析

在數(shù)據(jù)采集階段，將原始數(shù)據(jù)分為3部分，其樣本量分別為400、200、100，在這些樣本中，4類樣本的數(shù)量是完全均衡的，裂縫樣本圖像如圖5所示。

圖4 裂縫樣本選取

在訓(xùn)練階段選擇樣本時(shí)，要注意裂縫樣本的多樣性，特別是一些線狀裂縫，要將多條方向平行的線狀裂縫與網(wǎng)狀裂縫區(qū)分開來，避免給圖像貼上錯(cuò)誤的標(biāo)簽，導(dǎo)致分類效果降低。

在元分類器的訓(xùn)練階段，通過網(wǎng)格搜索法確定核函數(shù)寬度系數(shù)σ與正則化參數(shù)γ取值并進(jìn)行交叉驗(yàn)證法，引入均方根誤差RMSE的概念

(19)

RMSE表示復(fù)雜裂縫類別的預(yù)測(cè)值和實(shí)際值的均方根誤差。參數(shù)尋優(yōu)結(jié)果如圖5所示。

圖5 σ和γ參數(shù)尋優(yōu)

根據(jù)圖6可以求得使RMSE誤差最小的參數(shù)σ=35.2591和γ=0.0013。

將采集到的圖像分為3組，經(jīng)過預(yù)處理后輸入到學(xué)習(xí)模型中，獲得集成學(xué)習(xí)方法對(duì)道面裂縫的檢測(cè)結(jié)果。另外，將第3部分測(cè)試數(shù)據(jù)集輸入到訓(xùn)練好的基本分類器中，可以獲得單一的分類器對(duì)道路裂縫的檢測(cè)結(jié)果，作為集成學(xué)習(xí)檢測(cè)道面裂縫的對(duì)照組。其檢測(cè)結(jié)果如表1所示。

表1 各分類算法的識(shí)別率

從表1中的試驗(yàn)結(jié)果可知，采用不同的四種基本分類器識(shí)別準(zhǔn)確率均在80%以上，對(duì)集成學(xué)習(xí)分類器的檢測(cè)有促進(jìn)作用，可以作為基本分類器使用。對(duì)道面裂縫檢測(cè)的準(zhǔn)確率從低到高依次是KNN算法、樸素貝葉斯、BP神經(jīng)網(wǎng)絡(luò)、LS-SVM和集成學(xué)習(xí)算法。另外，各分類器對(duì)無裂縫樣本和點(diǎn)狀裂縫樣本的檢測(cè)率是較高的，但由于點(diǎn)狀裂縫的像素突變不明顯，容易被錯(cuò)誤分類為無裂縫樣本。LS-SVM和集成學(xué)習(xí)算法對(duì)這種點(diǎn)狀裂縫的識(shí)別效果是較好的，特別是集成學(xué)習(xí)算法，對(duì)無裂縫和點(diǎn)狀裂縫的檢測(cè)率達(dá)到了100%。此外，多條方向不同的線狀裂縫易檢測(cè)為網(wǎng)狀裂縫，因此從試驗(yàn)結(jié)果來說網(wǎng)狀裂縫的檢測(cè)率是高于線狀裂縫的。

為了進(jìn)一步驗(yàn)證提出算法對(duì)模型檢測(cè)裂縫效果的提升，將以上4種基本分類器的檢測(cè)結(jié)果與提出算法的結(jié)果共同繪制了接收機(jī)工作特性曲線(ROC曲線)，反映虛警率與檢測(cè)率的關(guān)系，是衡量分類性能的重要指標(biāo)。結(jié)果如圖6所示。

圖6 ROC曲線

以虛警概率為x軸，檢測(cè)概率為y軸，圖6中各分類器檢測(cè)性能由弱到強(qiáng)依次是：KNN、樸素貝葉斯、BP神經(jīng)網(wǎng)絡(luò)、LS-SVM、集成學(xué)習(xí)方法，其中，BP神經(jīng)網(wǎng)絡(luò)與LS-SVM效果相當(dāng)。在相同檢測(cè)概率的情況下，提出的集成學(xué)習(xí)方法的虛警率低于其它單一的分類方法；相同虛警概率的情況下，集成學(xué)習(xí)算法的檢測(cè)率最高，說明了該算法能有效地提升各基本分類算法的道面裂縫檢測(cè)率，降低了道面裂縫的虛警率。

6 結(jié)論

1)將道面裂縫識(shí)別問題考慮為一個(gè)多分類問題，提出了一種基于集成學(xué)習(xí)的路面裂縫檢測(cè)算法，以提高智能識(shí)別算法對(duì)路面裂縫的檢測(cè)率。

2)選擇LS-SVM作為元分類器，從而省去了對(duì)時(shí)間復(fù)雜度高的不敏感損失函數(shù)的運(yùn)算，縮短了計(jì)算時(shí)間，運(yùn)行速率較快。

3)仿真結(jié)果表明，提出的算法具有較高的檢測(cè)率，且虛警現(xiàn)象得到了明顯改善。在下一步的工作中，將主要針對(duì)線狀裂縫錯(cuò)誤分類為網(wǎng)狀裂縫的問題展開研究。