基于卷積神經(jīng)網(wǎng)絡的接觸網(wǎng)支柱號識別方法研究

薛憲堂，王登陽，張 翼，周 威，王燕國

（1.中國鐵道科學研究院集團有限公司 基礎設施檢測研究所，北京 100081；2.北京鐵科英邁技術有限公司 研發(fā)中心，北京 100081）

鐵路基礎設施動態(tài)檢測一般通過安裝在專業(yè)檢測車上的檢測設備獲取基礎設施狀態(tài)，發(fā)現(xiàn)基礎設施相關設備缺陷。其中，缺陷問題的準確定位是檢測系統(tǒng)中非常重要的部分，常見的定位方法通過公里標進行關聯(lián)定位，該方法通過綜合定位的手段能夠?qū)崿F(xiàn)精確定位[1]。然而，對于供電系統(tǒng)，公里標定位方式在現(xiàn)場運行維修中具有查找時間較長、操作不直觀等問題。接觸網(wǎng)支柱號在接觸網(wǎng)檢測和日常供電維護中能夠提供重要的定位標志信息，對于供電設備缺陷的復核整治、修復都能夠起到快速、準確的定位作用。高速鐵路供電安全檢測監(jiān)測系統(tǒng)（6C系統(tǒng)）總體技術規(guī)范中對接觸網(wǎng)檢測數(shù)據(jù)的定位和存儲都提出了一桿一檔的要求[2]，一桿一檔的存儲方式符合鐵路供電系統(tǒng)的專業(yè)特點和設備管理方式，在這種背景下接觸網(wǎng)支柱號的作用尤為重要。

國內(nèi)很多研究人員都研究了通過圖像的方式識別支柱號的方法，吳光龍?zhí)岢隽嘶谥С窒蛄繖C的自動識別接觸網(wǎng)支柱號的方法[3]；楊文靜等人提出了基于多幀桿號字符識別的接觸網(wǎng)檢測系統(tǒng)[4]。但是這些研究方法都依賴經(jīng)驗閾值或者圖像閾值，容易受天氣、環(huán)境和光照等因素的影響，難以普適?；?/p>

1 卷積神經(jīng)網(wǎng)絡

卷積神經(jīng)網(wǎng)絡的每個神經(jīng)單元,如圖1所示。

圖1 神經(jīng)單元示意圖

對應式如式（1）所示：

式中：yj為第j個神經(jīng)元的輸出結(jié)果；f(x)為激勵函數(shù)（常用的激勵函數(shù)有sigmoid函數(shù)、線性糾正函數(shù)、tanh(x)函數(shù)等）；xi為輸入信號；wij為第j個神經(jīng)元的第i個輸入的系數(shù)；bj為神經(jīng)元的偏移量。

該單元可以被稱作是Logistic回歸模型。當將多個單元組合起來并具有分層結(jié)構(gòu)時，就形成了人工神經(jīng)網(wǎng)絡模型[9]。

卷積神經(jīng)網(wǎng)絡在上述理論基礎上發(fā)展而來，它的基本結(jié)構(gòu)包括卷積層、池化層、全連接層和輸出層。在卷積神經(jīng)網(wǎng)絡的卷積卷積神經(jīng)網(wǎng)絡的目標檢測是目前快速發(fā)展的目標檢測技術之一，已經(jīng)成為了研究的熱點。先后出現(xiàn)了rcnn、fast rcnn、faster rcnn、YOLO和SSD等目標檢測算法。Caffe、TensorFlow等開源深度學習框架的發(fā)展使得卷積神經(jīng)網(wǎng)絡能夠快速實現(xiàn)，一些公司也相繼開源了他們的深度學習框架，降低基于深度學習的開發(fā)成本，推廣卷積神經(jīng)網(wǎng)絡的應用。目前,基于卷積神經(jīng)網(wǎng)絡的研究取得了優(yōu)秀成果，本文也探索將其應用到鐵路基礎設施檢測的相關實際問題中，并取得了較好的結(jié)果[5-8]。

結(jié)合鐵路基礎設施檢測環(huán)境的實際特點提出了一種基于卷積神經(jīng)網(wǎng)絡的接觸網(wǎng)支柱號識別方法，為鐵路供電基礎設施檢測的缺陷定位和建立一桿一檔數(shù)據(jù)庫提供了有效手段。層中，神經(jīng)元只與部分鄰層神經(jīng)元連接，這層通常包含若干個特征平面，每個特征平面由一些矩陣形式的神經(jīng)元組成，同一特征平面的神經(jīng)元共享權(quán)值，這里共享的權(quán)值就是卷積核。卷積核一般以隨機數(shù)的形式初始化或者通過已經(jīng)訓練好的網(wǎng)絡參數(shù)初始化（網(wǎng)絡精調(diào)），在網(wǎng)絡的訓練過程中卷積核將學習得到合理的權(quán)值。共享權(quán)值（卷積核）帶來的直接好處是減少網(wǎng)絡各層之間的連接，同時又降低了過擬合的風險。池化層通常有均值子采樣和最大值子采樣兩種形式。子采樣可以看作一種特殊的卷積過程。卷積和子采樣簡化了模型復雜度，減少了模型的參數(shù)。全連接層通過矩陣向量乘積操作把特征空間線性變換到另一個特征空間，從而為分類做好準備，全連接層通常出現(xiàn)在網(wǎng)絡的后幾層。輸出層起到分類器的功能，可以采用Logical回歸、Softmax回歸、或者支持向量機等方式進行分類。

1.1 SSD網(wǎng)絡結(jié)構(gòu)

網(wǎng)絡模型基于SSD（single shot multibox detector）網(wǎng)絡結(jié)構(gòu)。該網(wǎng)絡結(jié)構(gòu)同時實現(xiàn)了檢測和分類，進行端對端的一體化訓練和目標檢測。SSD網(wǎng)絡結(jié)構(gòu)，如圖2所示。

SSD網(wǎng)絡結(jié)構(gòu)方法將結(jié)果轉(zhuǎn)化為每一個特征圖對應不同的比例和尺度的候選結(jié)果集合。預測時，網(wǎng)絡為候選結(jié)果對應的每一個存在類別進行評分，并據(jù)此改進候選結(jié)果來更準確地匹配識別物的形狀。該網(wǎng)絡結(jié)合不同規(guī)格的特征圖加強了其多尺度檢測的性能。網(wǎng)絡模型是可用于多個分類的單次檢測器，和以往的單次檢測器相比速度更快，準確性并沒有下降，該方法在特征圖上使用小卷積核，增強了對檢測物特征的表達力。

圖2 網(wǎng)絡結(jié)構(gòu)

總體目標損失函數(shù)是位置損失函數(shù)（loc）和置信損失函數(shù)（conf）的加權(quán)和，如式（2）所示，其中，N為匹配的默認框的數(shù)量，如果N為0則損失函數(shù)為0。位置損失函數(shù)（loc）為關于預測框（l）和真實標簽（g）的平滑L1損失。置信損失函數(shù)（conf）是多類別置信的softmax loss。權(quán)重項α為設置為1的交叉驗證。式（3）為在類別p中第i個默認框與第j個真實標簽匹配結(jié)果[10]。

1.2 網(wǎng)絡壓縮

隨著深度學習的不斷發(fā)展研究，人們發(fā)現(xiàn)并不是所有的參數(shù)都在模型中發(fā)揮作用，存在著參數(shù)冗余的問題。因此，在不改變網(wǎng)絡準確性或者準確性在可接受范圍內(nèi)的情況下，如何進行網(wǎng)絡壓縮也成為一個迫切的問題。常用的網(wǎng)絡壓縮的方法有網(wǎng)絡剪枝、網(wǎng)絡精餾、網(wǎng)絡分解和權(quán)值量化等方法[11]。本文的網(wǎng)絡壓縮用到了網(wǎng)絡剪枝和權(quán)值量化方法。

1.2.1 網(wǎng)絡剪枝

（1）訓練一個普通的卷積神經(jīng)網(wǎng)絡；

（2）根據(jù)經(jīng)驗選擇一個合適的閾值，將權(quán)重絕對值小于閾值的連接剪開；

（3）剪枝后網(wǎng)絡性能有可能會下降，根據(jù)需要對這個剪枝后的網(wǎng)絡再次訓練。通過大量的研究表明網(wǎng)絡剪枝能夠有效的減少網(wǎng)絡規(guī)模、加快運行速度。

網(wǎng)絡剪枝前、后比較，如圖3所示。

圖3 網(wǎng)絡剪枝前、后比較

1.2.2 權(quán)值量化方法

通過減少表示每個權(quán)重所需的比特數(shù)來壓縮原始網(wǎng)絡，如果把權(quán)值壓縮為1和-1的集合，那么卷積的除法運算將變成加法運算，加快計算速度。這方面有很多可靠的可以借鑒的方法，包括K均值標量量化、8 bit參數(shù)量化研究、16 bit定點表示法和權(quán)值的霍夫曼編碼等。這些方法都在準確率損失極小的情況下使得存儲大為減少并且運算速度大為提高[12-13]。

2 支柱號識別方法

在SSD VGG16網(wǎng)絡的基礎上，在幾乎不改變網(wǎng)絡準確性的情況下，通過網(wǎng)絡剪枝和權(quán)值量化的方法減少網(wǎng)絡規(guī)模和計算量。由于SSD目標檢測方法對小目標對象的檢測效果較差，而在實際的應用環(huán)境中，支柱號數(shù)字相對于整個圖像的比例較小，直接應用檢測識別支柱號效果不理想，所以采用分步檢測的方法，先檢測支柱號牌，然后在支柱號牌圖像附近位置檢測支柱號。

支柱號識別流程，如圖4所示。

2.1 圖像預處理

采用高斯濾波等圖像預處理技術平滑支柱號區(qū)域以外的無關細節(jié)、將圖像的支柱號區(qū)域清晰度保持在一定的范圍內(nèi)，也將不同環(huán)境拍攝的圖像進行歸一化處理，使得卷積神經(jīng)網(wǎng)絡專注于支柱號內(nèi)容特征的學習。圖像預處理的效果，如圖5所示。

2.2 檢測支柱號牌

檢測支柱號牌時，置信度門檻設置為0.2，如果有多個大于0.2的檢測結(jié)果，則選擇最高的2個檢測結(jié)果。

2.3 預測當前支柱號

根據(jù)現(xiàn)場經(jīng)驗，接觸網(wǎng)的支柱號大部分是按照區(qū)間內(nèi)奇數(shù)遞增、奇數(shù)遞減、偶數(shù)遞增、偶數(shù)遞減、順序遞增和順序遞減依次排列的，所以在算法初始化時或者穩(wěn)定運行時輸入支柱號信息，后續(xù)的支柱號大部分是可以預測的。即根據(jù)前序識別的支柱號可以推斷出支柱號是奇數(shù)、偶數(shù)或者連續(xù)變化；支柱號變化方向為增序或者降序。例如，已經(jīng)推斷出前序支柱號為206，支柱號方向為偶數(shù)增序則可以預測當前支柱號為208。

圖4 支柱號識別流程

圖5 圖像預處理效果

2.4 確定當前支柱號和桿位結(jié)果修正

在進行支柱號檢測時，先檢測支柱號牌結(jié)果集中的置信度最高的檢測結(jié)果，圖像檢測支柱號內(nèi)容后，將預測數(shù)字置信度的top10且選置信度＞0.2的結(jié)果為候選序列；比對候選序列集和預測支柱號，如果候選序列里面包含預測支柱號的內(nèi)容則直接返回預測支柱號，否則利用候選序列的結(jié)果確定當前支柱號；若最終確定的支柱號不同于預測的支柱號和上一桿位的支柱號，則對之前的桿位識別結(jié)果進行修正。修正邏輯為反向預測上一桿位的支柱號，比對反向預測的支柱號內(nèi)容是否在上一桿位識別的候選序列中，如果在則修正，否則不修正。

3 實驗結(jié)果與分析

3.1 實驗環(huán)境

實驗用計算機硬件配置為雙顆 E5 2650 v2 處理器（主頻2.6 GHz，單顆8核16線程）、1TB固態(tài)硬盤、內(nèi)存16 Gb、Quadro M4000顯卡；系統(tǒng)為Windows 7 64位操作系統(tǒng)；開發(fā)環(huán)境為VS2013開發(fā)環(huán)境；卷積神經(jīng)架構(gòu)采用快速特征嵌入的卷積結(jié)構(gòu)（CAFFE，Convolutional Architecture for Fast Feature Embedding）進行實驗。

3.2 實驗過程與結(jié)果

選取了隴海線連續(xù)桿位的5 323張支柱號圖片進行試驗，其中，1 331張連續(xù)桿位數(shù)據(jù)為測試數(shù)據(jù)，3 992張圖像為訓練數(shù)據(jù)，圖片分辨率為1 280×1 024。

支柱號牌訓練數(shù)據(jù)，如圖6所示。

圖6 支柱號牌訓練數(shù)據(jù)

支柱號牌數(shù)字內(nèi)容識別訓練數(shù)據(jù)，如圖7所示。

圖7 支柱號牌內(nèi)容訓練數(shù)據(jù)

3.3 實驗結(jié)果分析

對1 331張連續(xù)桿位測試圖像數(shù)據(jù)按照實際運行情況進行支柱號識別測試分析。正確識別的支柱號圖像為1 320張，錯誤的為11張，綜合識別速度為15張/s，完整支柱號的識別正確率為99.17%。支柱號識別結(jié)果，如圖8所示。

圖8 支柱號識別結(jié)果

通過對識別錯誤的圖像進行分析，識別錯誤的圖像普遍存在接觸網(wǎng)桿號牌存在遮擋或者拍攝不全的現(xiàn)象。候選序列中缺少實際的桿號數(shù)字結(jié)果所致。桿號牌遮擋圖像，如圖9所示。

圖9 桿號牌遮擋圖像

4 結(jié)束語

為解決車載檢測過程中接觸網(wǎng)支柱號識別的問題，從實際工程應用出發(fā)，提出一種基于卷積神經(jīng)網(wǎng)絡的接觸網(wǎng)支柱號識別方法，該方法針對SSD網(wǎng)絡檢測小目標對象效果較差的現(xiàn)狀提出分步檢測的思想，結(jié)合網(wǎng)絡壓縮技術提高了識別速度。通過實驗分析，采用卷積神經(jīng)網(wǎng)絡的支柱號識別方案可行，識別速度和準確率滿足現(xiàn)場實際應用的需求，能夠輔助鐵路基礎設施檢測系統(tǒng)中缺陷的定位，指導現(xiàn)場運營維修。通過測試也發(fā)現(xiàn)了一些問題，后續(xù)將通過提高采集圖像的穩(wěn)定性進一步提高識別的效果，研究依據(jù)支柱號字符的幾何位置關系判斷接觸網(wǎng)支柱號的方法。