曾憲華 李彥澄 高 歌 趙雪婷
①(重慶郵電大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院 重慶 400065)
②(圖像認(rèn)知重慶市重點(diǎn)實(shí)驗(yàn)室 重慶 400065)
③(重慶安琪兒婦產(chǎn)醫(yī)院超聲科 重慶 400065)
近年來(lái),超聲檢查在醫(yī)療實(shí)踐中不斷發(fā)展并廣泛應(yīng)用,尤其在心臟病篩查、婦科檢查以及孕婦常規(guī)檢查等場(chǎng)景中,它是最重要的成像手段之一[1]。由于成像環(huán)境和設(shè)備性能的限制,獲得的圖像極有可能被噪聲或偽影損壞,導(dǎo)致超聲圖像丟失關(guān)鍵信息,特別是斑點(diǎn)噪聲,模糊了相關(guān)細(xì)節(jié),降低了超聲圖像中軟組織的對(duì)比度,甚至將圖像的特征信息掩蓋,給醫(yī)師造成了嚴(yán)重的視覺干擾并影響判斷。因此,超聲圖像去噪具有重要的臨床應(yīng)用價(jià)值。
國(guó)內(nèi)外學(xué)者在超聲圖像的噪聲建模上以及去噪方法上付出了巨大的努力。最初,研究者使用具有自適應(yīng)能力的濾波器對(duì)超聲圖像去噪,如中值濾波器[2]和雙邊濾波器[3]等。這類基于投影域?yàn)V波器的方法有較低的計(jì)算復(fù)雜度,但缺乏對(duì)圖像內(nèi)容的適應(yīng)性,導(dǎo)致圖像紋理過(guò)度平滑,模糊了圖像的邊緣信息。運(yùn)用低等級(jí)技術(shù)對(duì)超聲圖像去噪,如低秩張量近似[4]等,雖然計(jì)算復(fù)雜度變低,但不能保證圖像的紋理細(xì)節(jié)?;诤筇幚砑夹g(shù)的超聲圖像去噪[5],能減少計(jì)算時(shí)間上的開銷,對(duì)斑點(diǎn)噪聲的抑制也有明顯的效果,但在訓(xùn)練數(shù)據(jù)的過(guò)程中會(huì)對(duì)超聲圖像的細(xì)節(jié)造成一定的損失。在圖像修復(fù)領(lǐng)域中,圖像去偽影和超分辨率的相關(guān)處理方法[6,7]也被運(yùn)用到圖像去噪領(lǐng)域,針對(duì)具體的場(chǎng)景,需要改進(jìn)超分辨率算法,才能在圖像去噪上達(dá)到較好效果。隨后,文獻(xiàn)[8,9]提出將深層卷積編碼解碼框架用于圖像恢復(fù)并取得了良好的性能。結(jié)合自編碼器和卷積神經(jīng)網(wǎng)絡(luò)的殘差網(wǎng)絡(luò),Chen等人[10]又提出將淺層殘差編解碼模型用于CT圖像去噪,在對(duì)稱的編解碼結(jié)構(gòu)中采用跳躍連接。本文提出的去噪模型不同于典型的編解碼結(jié)構(gòu),該模型包括了殘差學(xué)習(xí)[11],以便于卷積層和相應(yīng)的反卷積層的操作。但斑點(diǎn)噪聲形式復(fù)雜且在空間上可變,同時(shí)依賴信道,具有組織依賴性,導(dǎo)致現(xiàn)有去噪方法不能直接運(yùn)用在超聲圖像去噪上。
本文提出一種基于殘差編解碼器的通道自適應(yīng)去噪模型,以達(dá)到進(jìn)一步有效去除超聲圖像中噪聲的目的。針對(duì)超聲圖像中的特征信息與噪聲信號(hào)相似以及去噪任務(wù)不適定的特點(diǎn),基于殘差編解碼器的通道自適應(yīng)去噪模型(Residual Encoder-decoder with Squeeze-and-Excitation Network, RED-SENet)模型的編碼器部分能對(duì)超聲圖像的主要信息編碼,同時(shí)去除無(wú)用信息。對(duì)于注意力解碼器部分,在反卷積后引入注意力機(jī)制,通過(guò)對(duì)特征通道間的相互依賴關(guān)系進(jìn)行顯式建模,來(lái)自動(dòng)獲取每個(gè)通道的重要程度,然后根據(jù)重要程度去提升有用的特征并抑制無(wú)用的特征,使解碼器部分更關(guān)注編碼中的有用信息,恢復(fù)圖像中細(xì)節(jié)信息的同時(shí),降低解碼過(guò)程中對(duì)噪聲等無(wú)用信息的關(guān)注程度,以此來(lái)優(yōu)化去噪模型的性能。相比之前的方法,本文方法1)實(shí)驗(yàn)代碼見https://github.com/liyanch/RED-SENet。顯著提高了模型的去噪效果,獲得了良好的去噪性能。
超聲圖像中的噪聲是由于換能器引起的電磁波分散[12],使超聲圖像上出現(xiàn)顆粒狀圖案,那么超聲圖像中這些隨機(jī)產(chǎn)生的小斑點(diǎn)則是斑點(diǎn)噪聲。當(dāng)粗糙紋理上的反射波對(duì)紋理產(chǎn)生影響時(shí),就會(huì)在圖像中產(chǎn)生噪聲,并與圖像中的紋理結(jié)構(gòu)混淆。超聲圖像去噪的難點(diǎn)在于超聲圖像中的噪聲信號(hào)是由乘性噪聲和加性噪聲混合而成的斑點(diǎn)噪聲,因此斑點(diǎn)噪聲不容易被準(zhǔn)確地建模。斑點(diǎn)噪聲與組織對(duì)象的幅值相依賴,不同的組織對(duì)超聲波的阻抗程度不同,這會(huì)嚴(yán)重干擾醫(yī)師對(duì)病變的檢測(cè)。特別是在低信噪比、低對(duì)比度的超聲圖像中,斑點(diǎn)減少過(guò)程是非常必要的,以提高對(duì)象檢測(cè)的準(zhǔn)確性,而不影響圖像的重要診斷特征。為了進(jìn)一步完善去噪方法,重要的是要有一個(gè)準(zhǔn)確可靠的模型。具有斑點(diǎn)噪聲的圖像的較為良好的模型可以模擬為
超聲圖像中斑點(diǎn)噪聲依賴圖像信息的特點(diǎn),導(dǎo)致已有的RED-CNN[10]去噪模型在超聲圖像去噪上無(wú)法達(dá)到良好的去噪效果。為解決上述問(wèn)題,使用基于殘差編解碼器的RED-CNN去噪模型能夠進(jìn)一步有效地去除超聲圖像中的噪聲,本文在解碼器中構(gòu)造出新的注意力反卷積殘差塊(Attention Deconvolution Residual block, ADR)使去噪模型提高對(duì)內(nèi)容特征的敏感性,捕獲通道依賴關(guān)系,學(xué)習(xí)到圖像內(nèi)容特征在各個(gè)通道中表現(xiàn)的重要程度。這些內(nèi)容特征可通過(guò)后續(xù)的轉(zhuǎn)換加以利用,以解決超聲圖像中斑點(diǎn)噪聲對(duì)內(nèi)容特征的依賴而造成成像質(zhì)量差的問(wèn)題。在提升去噪模型有效性的同時(shí),盡可能地保留超聲圖像的紋理細(xì)節(jié)。針對(duì)去噪對(duì)象,有用信息是指超聲圖像中的紋理結(jié)構(gòu)和邊緣細(xì)節(jié)信息,而無(wú)用信息是指超聲圖像中的噪聲信息。RED-SENet去噪模型包含5個(gè)卷積層(編碼器)、2個(gè)注意力反卷積殘差塊以及1個(gè)反卷積層(注意力解碼器),本文提出的去噪模型結(jié)構(gòu)如圖1所示。
圖1 RED-SENet總體模型結(jié)構(gòu)圖
與傳統(tǒng)自編碼器不同,RED-SENet去噪模型使用5個(gè)相連的卷積層堆疊成編碼器,并丟棄了每個(gè)卷積層后的池化層,以避免丟棄重要的結(jié)構(gòu)細(xì)節(jié),使圖像噪聲和偽影由低到高的逐級(jí)抑制,以保留被提取圖像塊中的基本信息。在RED-SENet中,注意力解碼器由2個(gè)注意力反卷積殘差塊和1個(gè)反卷積層組成。網(wǎng)絡(luò)把直接映射問(wèn)題轉(zhuǎn)化為殘差映射[13]問(wèn)題,每?jī)蓚€(gè)卷積層引出1個(gè)殘差連接,連接到對(duì)應(yīng)的反卷積層,這樣有助于避免在訓(xùn)練過(guò)程中當(dāng)網(wǎng)絡(luò)很深時(shí)出現(xiàn)梯度消失。但僅通過(guò)殘差連接,仍無(wú)法從根本上減少內(nèi)容特征在解碼過(guò)程中的損失。而注意力解碼器很好地解決了過(guò)多的損失導(dǎo)致圖像重建不理想的問(wèn)題,它不僅能保證已有去噪模型恢復(fù)細(xì)節(jié)的能力,而且增加了對(duì)通道有用信息的關(guān)注度,忽略無(wú)用信息,能使超聲圖像在注意力解碼器中,更有針對(duì)性地恢復(fù)結(jié)構(gòu)紋理信息。
RED-SENet的去噪過(guò)程描述如下:輸入帶有噪聲的超聲圖像,超聲圖像經(jīng)過(guò)5個(gè)卷積層構(gòu)成的編碼器噪聲去除后得到圖像的深度編碼。深度編碼順序地經(jīng)過(guò)編碼器之后的2個(gè)注意力反卷積殘差塊,得到注意力深度編碼,最后通過(guò)1個(gè)反卷積完成對(duì)超聲圖像的結(jié)構(gòu)和紋理細(xì)節(jié)的恢復(fù)。
2.2.1 編碼器
2.2.2 注意力反卷積殘差塊(ADR block)
近年來(lái),注意力機(jī)制廣泛運(yùn)用于計(jì)算機(jī)視覺領(lǐng)域,尤其是Hu等人[14]提出的通道注意力。本文將通道注意力的特性運(yùn)用到提升超聲圖像去噪的性能上,并構(gòu)建注意力反卷積殘差塊。在注意力反卷積殘差塊中,第1個(gè)反卷積層輸出的特征向量經(jīng)過(guò)全局平均池化層后,特征向量中每個(gè)通道的特征信息被平均化。再經(jīng)過(guò)2個(gè)全連接層之后,能學(xué)習(xí)到超聲圖像特征各通道之間的非線性交互和一種確保可以強(qiáng)調(diào)多個(gè)通道的非互斥關(guān)系,從而完全捕獲通道依賴關(guān)系,學(xué)到這些特征信息在各個(gè)通道中表現(xiàn)的重要程度。然后用Sigmoid激活函數(shù)將每個(gè)通道的重要程度歸一化到0~1,通過(guò)把每個(gè)通道的重要程度與原始輸入對(duì)位相乘,從而使它們的重要程度再次分布在與輸入維度相同的不同通道中。得到有區(qū)分重要程度的特征向量與第4個(gè)卷積層后的ReLU激活函數(shù)輸出特征向量對(duì)位相加后,再使用ReLU激活函數(shù)激活,最后再進(jìn)行一個(gè)反卷積運(yùn)算和ReLU非線性函數(shù)激活,即經(jīng)過(guò)了一個(gè)完整的注意力反卷積殘差塊。由注意力反卷積殘差塊組成的解碼器組成了注意力解碼器。注意力解碼器中連續(xù)經(jīng)過(guò)2個(gè)注意力反卷積殘差塊后,再進(jìn)行一次反卷積運(yùn)算和非線性激活函數(shù),這樣就可以將超聲圖像中的結(jié)構(gòu)細(xì)節(jié)和紋理信息更有效地恢復(fù)。因此,本文提出的注意力反卷積殘差塊能更好地應(yīng)用到基于殘差編解碼器的去噪模型中。
注意力反卷積殘差(ADR)塊側(cè)重于以計(jì)算效率高的方法模擬通道關(guān)系增強(qiáng)網(wǎng)絡(luò)的表示能力。因此,通過(guò)ADR塊,本文方法可以學(xué)習(xí)并利用全局信息來(lái)選擇性地強(qiáng)調(diào)通道信息特征,在通道重要性自適應(yīng)的過(guò)程中抑制無(wú)用的特征,并憑借ADR塊提高網(wǎng)絡(luò)的去噪性能。ADR塊結(jié)構(gòu)如圖2所示。
圖2 注意力反卷積殘差(ADR)塊
2.2.3 注意力解碼器
本文方法中的注意力解碼器用于增強(qiáng)有用信息的敏感度,更有針對(duì)性地恢復(fù)圖像結(jié)構(gòu)的細(xì)節(jié),卷積操作有噪聲過(guò)濾的作用,但仍會(huì)減少輸入信號(hào)的細(xì)節(jié)信息。因此,將2個(gè)ADR塊和1個(gè)反卷積層整合到網(wǎng)絡(luò)中[10]可以增強(qiáng)解碼器恢復(fù)結(jié)構(gòu)細(xì)節(jié)和保持紋理信息的能力。通過(guò)卷積層和ADR塊的跳躍連接殘差數(shù)據(jù)遵循“先進(jìn)后出”原則,即輸入圖像跳躍連接到對(duì)應(yīng)的最后一個(gè)反卷積層,第2個(gè)卷積層跳躍連接到對(duì)應(yīng)的倒數(shù)第1個(gè)ADR塊。注意力解碼器是由ADR塊、反卷積層和ReLU單元組成的。ADR塊描述如下:
在ADR塊中,首先,經(jīng)過(guò)第1個(gè)反卷積運(yùn)算后輸出的C個(gè)通道特征圖的計(jì)算為
2.2.4 損失函數(shù)
RED-SENet去噪模型訓(xùn)練算法如表1所示。首先,使用隨機(jī)權(quán)重初始化去噪模型φd,輸入訓(xùn)練集S={(X1,Y1),(X2,Y2),...,(XN,YN)}用于訓(xùn)練去噪模型φd,X為帶噪聲的超聲訓(xùn)練樣本,Y為干凈的超聲圖像, (Xi,Yi) 為 訓(xùn)練集中第i張超聲圖像以及對(duì)應(yīng)的干凈圖像。進(jìn)行第tepoch訓(xùn)練時(shí),隨機(jī)打亂訓(xùn)練集中的樣本,從訓(xùn)練樣本中隨機(jī)輸入圖像對(duì)(Xi,Yi)到去噪模型中,通過(guò)一系列卷積操作提取出圖像特征,再經(jīng)過(guò)注意力解碼器得到注意力特征圖,進(jìn)一步恢復(fù)圖像細(xì)節(jié)信息,生成去噪后的預(yù)測(cè)圖像Pi。利用均方誤差損失函數(shù)計(jì)算去噪模型預(yù)測(cè)輸出和期望輸出之間的誤差,如式(11)。然后利用式(12)計(jì)算損失梯度,通過(guò)表1算法的步驟(9)來(lái)更新優(yōu)化去噪模型參數(shù)θd,循環(huán)往復(fù),不斷更新優(yōu)化去噪模型。在模型推理過(guò)程中,將測(cè)試的超聲圖像輸入到經(jīng)表1的算法優(yōu)化完成的去噪模型φd中,經(jīng)過(guò)該模型推理后,輸出去噪結(jié)果。
表1 RED-SENet超聲圖像去噪模型訓(xùn)練算法
本文用4個(gè)超聲數(shù)據(jù)集驗(yàn)證本文方法的保真度和魯棒性,再與其他去噪方法比較,并分析結(jié)果。
(1) 胎兒心臟超聲數(shù)據(jù)集(Fetal Heart ultrasound dataset, FH)。FH超聲數(shù)據(jù)集采集自中國(guó)重慶一家婦產(chǎn)醫(yī)院,該數(shù)據(jù)集由2019—2020年的臨床檢查超聲圖像構(gòu)建而成。從醫(yī)院獲得的原始超聲圖像數(shù)據(jù)集包含1000例,每例包含11個(gè)切面,40張超聲圖像。剔除數(shù)據(jù)集中測(cè)值、多普勒加彩等的圖像,數(shù)據(jù)集中每個(gè)切面共1000張圖像。為了驗(yàn)證REDSENet去噪模型的有效性和保持病理不變性,本文選取4腔心切面進(jìn)行實(shí)驗(yàn)。
(2) 膽囊結(jié)石超聲數(shù)據(jù)集(Gallstone ultrasound dataset, GS)。GS超聲數(shù)據(jù)集由中國(guó)重慶的另一家醫(yī)院提供,該數(shù)據(jù)集由2014年到2015年的臨床檢查超聲圖像構(gòu)建。從醫(yī)院得到的原始圖像數(shù)據(jù)集包含25659名患者的腹部超聲圖像數(shù)據(jù)集,每位患者提供一張超聲圖像。從中選擇有大量超聲圖像樣本的疾病類別,刪除常規(guī)產(chǎn)前檢查的超聲圖像,構(gòu)建的超聲圖像包含3個(gè)器官,分別為膽囊、腎臟和肝臟。數(shù)據(jù)集包含9種疾病,分別為膽囊結(jié)石、膽囊息肉、正常膽囊、腎積水、腎結(jié)石、腎囊腫、脂肪肝、血管瘤和正常肝臟,共6563張圖像。
(3) 胎兒頭部測(cè)值超聲數(shù)據(jù)集[16](fetal Head Circumference ultrasound dataset, HC18)。此數(shù)據(jù)共有1334張標(biāo)準(zhǔn)平面的胎兒頭部超聲圖像,原始超聲圖像的大小為800像素×540像素。對(duì)數(shù)據(jù)進(jìn)行預(yù)處理,本文將圖像均處理為長(zhǎng)寬一致的圖像集。
(4) 成人心臟超聲數(shù)據(jù)集[17](Heart ultrasound dataset, CAMUS)。CAMUS數(shù)據(jù)集由來(lái)自450名患者臨床檢查的2維超聲心臟圖像組成,共1800張成人心臟超聲圖像。
通過(guò)分析超聲圖像中噪聲的特征,了解到超聲圖像中的噪聲是加性噪聲和乘性噪聲混合而成的。原始超聲圖像集是使用物理校正手段采集的圖像集,其本身含有少量超聲圖像真實(shí)的噪聲,以此作為實(shí)驗(yàn)數(shù)據(jù),一定程度上保證了模型的實(shí)用性。通過(guò)在原始超聲圖像加入加性高斯白噪聲,部分模擬超聲圖像中的噪聲,便于控制圖像集的噪聲水平進(jìn)行多組實(shí)驗(yàn),以此評(píng)估本文方法的魯棒性。因此,本文通過(guò)對(duì)上述4個(gè)超聲圖像數(shù)據(jù)集添加加性高斯白噪聲來(lái)模擬超聲圖像中的加性噪聲,不僅能模擬超聲圖像中的部分噪聲,同時(shí)也能通過(guò)控制所添加的噪聲量來(lái)區(qū)別超聲圖像中的噪聲程度,使得提出的模型在不同程度下驗(yàn)證其是否具有魯棒性。此外,按照留出法,從加有模擬斑點(diǎn)噪聲的圖像中隨機(jī)選出上述4個(gè)數(shù)據(jù)集的訓(xùn)練集和測(cè)試集。
該網(wǎng)絡(luò)用Pytorch實(shí)現(xiàn),訓(xùn)練網(wǎng)絡(luò)輸入的圖像塊為64像素×64像素大小的圖像塊。在實(shí)驗(yàn)中,對(duì)幾個(gè)參數(shù)進(jìn)行評(píng)估,最終確定如下參數(shù)設(shè)置:初始學(xué)習(xí)率lr為 10-4,逐步衰減到1 0-5。批次大小為16,訓(xùn)練200 epoch,使用第200 epoch的權(quán)重參數(shù)進(jìn)行測(cè)試。最后一層的卷積核數(shù)量設(shè)為1,其他層卷積核數(shù)量為96。所有層的卷積核大小都設(shè)為5×5。卷積和反卷積的步長(zhǎng)為1,填充為0。在本文實(shí)驗(yàn)過(guò)程中,所有網(wǎng)絡(luò)都使用Adam算法進(jìn)行優(yōu)化,它能基于訓(xùn)練的數(shù)據(jù)迭代地更新神經(jīng)網(wǎng)絡(luò)的權(quán)重。本文設(shè)計(jì)的去噪模型與參數(shù)配置如表2所示。
表2 RED-SENet去噪網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù)配置
本文提出的網(wǎng)絡(luò)能處理任意大小的圖像,未經(jīng)裁剪的測(cè)試圖像可直接送入網(wǎng)絡(luò)去噪。本文從峰值信噪比(Peak Signal-to-Noise Ratio, PSNR)、結(jié)構(gòu)相似性(Structural SIMilarity, SSIM)和均方根誤差(Root Mean Square Error, RMSE)3個(gè)方面定量評(píng)價(jià)圖像質(zhì)量。在本文用到的幾項(xiàng)評(píng)價(jià)指標(biāo)中,PSNR和SSIM越大說(shuō)明圖像質(zhì)量越高,RMSE值越小說(shuō)明去噪后的圖像與真實(shí)圖像的差異更小,圖像質(zhì)量更優(yōu)。本文方法與MLP[18](Multilayer Perception),BM3D[19](Block Matching and 3D collaborative filtering),K-SVD[20](K Singular ValueDecomposition),CNN10[21](Convolutional Neural Network),RDN10[22] Residual Dense Network)和RED-CNN[10](Residual Encoder-Decoder Convolutional Neural Network)共6種先進(jìn)的方法比較。其中MLP, BM3D和K-SVD是常用的圖像去噪傳統(tǒng)算法。RED-CNN基于編解碼器并廣泛應(yīng)用于醫(yī)學(xué)圖像去噪方法。CNN10的網(wǎng)絡(luò)模型是根據(jù)CNN簡(jiǎn)化的版本,也可將它看作基于CNN的超聲圖像恢復(fù)模型[21]的一個(gè)變體。RDN10是用于圖像超分辨率任務(wù)RDN的簡(jiǎn)化版本。
本文方法與MLP, BM3D, K-SVD, CNN10,RDN10以及RED-CNN這6種方法分別在FH, GS,HC18和CAMUS共4個(gè)超聲圖像數(shù)據(jù)集上實(shí)驗(yàn),并在4個(gè)不同的噪聲程度上進(jìn)行主觀效果和圖像評(píng)價(jià)指標(biāo)的對(duì)比,來(lái)驗(yàn)證RED-SENet的性能,如表3—表5和圖3—圖5所示。在評(píng)價(jià)指標(biāo)的表格數(shù)據(jù)中,加粗為最優(yōu),下劃線為次優(yōu)。本文通過(guò)改變高斯噪聲的大小控制超聲圖像中噪聲程度。
圖3 在同一噪聲程度下(σ =25),不同方法的去噪結(jié)果可視化
圖5 相對(duì)于噪聲圖像的絕對(duì)差分圖像
表3是在FH超聲數(shù)據(jù)集上實(shí)驗(yàn)得出的各項(xiàng)評(píng)價(jià)指標(biāo)值。從表3得出,本文方法相比RED-CNN在客觀指標(biāo)上領(lǐng)先,平均PSNR高出將近0.2 dB,相比RED-CNN方法的SSIM,也略微領(lǐng)先。傳統(tǒng)去噪方法用于超聲圖像去噪效果普遍低于基于深度學(xué)習(xí)的方法,從表格中的最后一行看出,本文方法在幾種對(duì)比方法中,指標(biāo)表現(xiàn)為最優(yōu)或次優(yōu)。在表3中,本文方法和RDN10在FH數(shù)據(jù)集上的去噪性能表現(xiàn)良好,本文方法的性能略優(yōu)于RDN10。表4是在GS超聲數(shù)據(jù)集上實(shí)驗(yàn)得出的各項(xiàng)評(píng)價(jià)指標(biāo)值。從表4看出,本文方法在所有不同噪聲程度上的評(píng)價(jià)指標(biāo)都表現(xiàn)最優(yōu),CNN10和RED-CNN在某些噪聲程度上的評(píng)價(jià)指標(biāo)表現(xiàn)為次優(yōu)。在HC18超聲數(shù)據(jù)集上對(duì)比各個(gè)方法的指標(biāo)如表5所示,在噪聲變量取值為10和15時(shí),RDN10各項(xiàng)評(píng)價(jià)指標(biāo)值高于表中其他方法,本文方法的各項(xiàng)指標(biāo)值僅低于RDN10;在噪聲變量為25和30時(shí),本文方法的各項(xiàng)評(píng)價(jià)指標(biāo)高于其他方法。表5是HC18超聲數(shù)據(jù)集各個(gè)方法的對(duì)比,從表中仍然能觀察到,在噪聲變量為10和15時(shí),本文方法各種評(píng)價(jià)指標(biāo)值表現(xiàn)為次優(yōu),在噪聲程度為25時(shí),本文方法各項(xiàng)指標(biāo)均優(yōu)于其他方法,表明本文模型的性能較優(yōu)。從表3—表6看,無(wú)論P(yáng)SNR還是SSIM, RED-SENet去噪方法噪聲抑制都表現(xiàn)優(yōu)良。
表3 胎兒心臟超聲數(shù)據(jù)集在不同噪聲情況下的實(shí)驗(yàn)對(duì)比
表4 膽囊結(jié)石超聲數(shù)據(jù)集在不同噪聲情況下的實(shí)驗(yàn)對(duì)比
表5 胎兒頭部超聲數(shù)據(jù)集在不同噪聲情況下的實(shí)驗(yàn)對(duì)比
表6 CAMUS頭部超聲數(shù)據(jù)集在不同噪聲情況下的實(shí)驗(yàn)對(duì)比
圖3(a)是FH超聲圖像上的結(jié)果。圖3(a1)是干凈的胎兒4腔心切面的超聲圖像,圖3(a2)是帶有噪聲的胎兒4腔心切面圖像。用于和本文方法對(duì)比的方法都對(duì)超聲圖像中的噪聲有不同程度的抑制。圖3(a3)使用MLP方法對(duì)圖3(a2)中的圖像去噪,可以明顯地看到胎兒4腔心的一些重要的小結(jié)構(gòu)變得光滑。BM3D和K-SVD比MLP保存了更多的細(xì)節(jié),但在組織處能看到明顯的人工生成的成分。在胎兒心臟的檢查中,心臟的室間隔膜、二三尖瓣以及卵圓孔起著關(guān)鍵的作用。如果在去噪過(guò)程中,添加了人工成分,將缺損的室間隔恢復(fù)成完好的室間隔,會(huì)導(dǎo)致醫(yī)生誤判,造成嚴(yán)重的后果。從圖3(a9)看到,恢復(fù)后的圖像紋理結(jié)構(gòu)仍然保持一致,去噪效果良好,和圖3(a1)最為接近,因此,本文方法在結(jié)構(gòu)保持和病理不變性方面也取得良好的評(píng)價(jià),也能更有效地恢復(fù)超聲圖像中的結(jié)構(gòu)紋理信息,說(shuō)明本文方法去噪性能優(yōu)于對(duì)比方法。
圖3(a6)—圖3(a9)、圖3(d6)—圖3(d9)都是深度學(xué)習(xí)去噪方法用于超聲圖像去噪的結(jié)果,圖3(a)—圖3(d)分別為FH/GS/HC18/CAMUS超聲數(shù)據(jù)集經(jīng)各種方法去噪后的圖像。觀察可得,在超聲圖像去噪過(guò)程中,幾種深度學(xué)習(xí)方法的去噪效果明顯優(yōu)于傳統(tǒng)方法的效果。從白色紋理部位能看到,不同方法生成的紋理不完全相同,將去噪后的圖像分別和無(wú)噪聲圖作對(duì)比,通過(guò)本文方法進(jìn)行去噪后,圖像紋理與圖3(a1)最為接近,最大限度上保持了原有圖像的結(jié)構(gòu)和紋理細(xì)節(jié)。
為了顯示RED-SENet的優(yōu)點(diǎn),相對(duì)于干凈超聲圖像的絕對(duì)差值圖像如圖4所示。從圖中能清楚看到,去噪后,圖4(c)丟失了很多原有的紋理細(xì)節(jié)。因此,用此方法去噪不能保持超聲圖像的病理不變性。圖4(d)中4腔心的邊緣信息和紋理幾乎無(wú)法體現(xiàn)出來(lái)。相比圖4(f)—圖4(h),圖4(h)中的紋理細(xì)節(jié)與原始圖最接近,紋理結(jié)構(gòu)分布也較均勻。另外,各方法去噪后的圖像相對(duì)于帶噪聲圖像的絕對(duì)差值圖如圖5所示。差值圖中顯示的噪聲越多,代表對(duì)應(yīng)模型的去噪效果越好;圖5與圖4(a)越接近,表示去除的噪聲越多,說(shuō)明對(duì)應(yīng)方法去噪效果越好。圖5(a)是噪聲圖和噪聲圖之間的絕對(duì)差值,圖上沒有任何噪聲。觀察圖5(b)—圖5(h),圖5(b)式中的去噪效果比圖5(c)中的略差,圖5(e)中明顯看出有部分區(qū)域的噪聲沒有被去除,圖5(d)中未被去除噪聲的區(qū)域略小于圖5(e)中的區(qū)域,圖5(f)和圖5(g)最為接近,去噪效果相當(dāng)。圖5(h)中的噪聲斑點(diǎn)分布得更密集更均勻,留出的黑色塊更少,表明本文方法去除的噪聲最多;圖5中能觀察到,在被去除的噪聲中,圖像原本的紋理結(jié)構(gòu)在絕對(duì)差分圖像圖5(h)中最不明顯,說(shuō)明本文方法能更有效恢復(fù)超聲圖像中的結(jié)構(gòu)細(xì)節(jié)和紋理信息。
圖4 相對(duì)于無(wú)噪聲圖像的絕對(duì)差分圖像
通過(guò)固定相同的噪聲程度,從各個(gè)指標(biāo)的數(shù)值方面進(jìn)行分析。從表7可以看到,本文的方法在FH數(shù)據(jù)集中3個(gè)評(píng)價(jià)指標(biāo)的值均為最高;在GS數(shù)據(jù)集中結(jié)構(gòu)相似性的值表現(xiàn)為次優(yōu),峰值信噪比和均方根誤差的值最優(yōu);在HC18數(shù)據(jù)集中本文方法的3個(gè)評(píng)價(jià)指標(biāo)均表現(xiàn)最優(yōu);但是在CAMUS數(shù)據(jù)集上對(duì)本文方法進(jìn)行效果驗(yàn)證時(shí)發(fā)現(xiàn),本文方法僅能在結(jié)構(gòu)相似性評(píng)價(jià)指標(biāo)上表現(xiàn)最優(yōu),而RED-CNN在PSNR和RMSE評(píng)價(jià)指標(biāo)上表現(xiàn)最好。表7的實(shí)驗(yàn)結(jié)果表明,本文方法在較高噪聲程度污染的情況下,去噪效果普遍優(yōu)于其他方法,僅在CAMUS數(shù)據(jù)集上次于RED-CNN的去噪效果。
表7 不同方法在4個(gè)數(shù)據(jù)集上的定量結(jié)果分析(σ =50)
在圖6中,紅色虛線代表本文提出的方法在不同噪聲程度下胎兒心臟數(shù)據(jù)集上3種評(píng)價(jià)指標(biāo)值的變化情況,其中折線放大部分的噪聲方差σ=25。圖6(a)可以看到本文提出的方法的PSNR高于REDCNN和CNN10方法處理后圖像的PSNR,圖6(b)和圖6(c)同理。本文為了再次驗(yàn)證模型的有效性和實(shí)用性,使用文章中所提到的同等條件下訓(xùn)練好的模型,對(duì)未使用物理手段采集到的超聲圖像去噪,在上述6種方法上進(jìn)行實(shí)驗(yàn)。
圖6 不同噪聲方差σ 下,胎兒心臟(FH)超聲圖像去噪后的平均評(píng)價(jià)指標(biāo)
在主觀視覺方面,本文從圖7可以觀察到,未使用物理校正手段采集的超聲圖像經(jīng)過(guò)傳統(tǒng)方法去噪后的超聲圖像失真較大,去噪后的超聲圖像的紋理過(guò)于平滑,這些失真主要表現(xiàn)在超聲圖像的紋理結(jié)構(gòu)上。由此可見,上述2種傳統(tǒng)去噪方法對(duì)恢復(fù)超聲圖像的紋理細(xì)節(jié)的性能較差。對(duì)比之下,4種深度學(xué)習(xí)去噪方法對(duì)未使用物理校正手段采集的超聲圖像的去噪效果普遍優(yōu)于傳統(tǒng)的去噪方法。同時(shí),使用4種深度學(xué)習(xí)方法去噪后所得到的主觀圖給專業(yè)超聲科醫(yī)師評(píng)價(jià)打分,得到了良好的評(píng)價(jià)結(jié)果,一定程度上改善了視覺效果,為專業(yè)醫(yī)師的診斷減少了一定的干擾。特別地,圖7中可以看到,從紋理細(xì)節(jié)上,本文方法所得到的圖像(如圖7(g))的紋理結(jié)構(gòu)保持更良好;從4腔方面觀察,腔內(nèi)的噪聲也明顯減少,比其他3種深度學(xué)習(xí)方法表現(xiàn)更佳。另外,為了能從多個(gè)角度驗(yàn)證模型的有效性,同樣采用絕對(duì)差分法,將采用上述6種方法去噪后的主觀圖與去噪前的圖像進(jìn)行差值映射,如圖8所示。從絕對(duì)差分圖中觀察到,經(jīng)上述6種方法進(jìn)行去噪操作后所減少的噪聲量,白色斑點(diǎn)為去除的噪聲,減少的噪聲越多,去噪的效果越好。
圖7 未使用物理手段采集的超聲圖像去噪前后的主觀圖對(duì)比
對(duì)比圖8(a)可知,在圖8(a) —圖8(g)中,如果絕對(duì)差分圖的白色斑點(diǎn)越多,則去除的噪聲越多。圖8(a)和圖8(b)中,去除的噪聲比圖8(d)—圖8(g)多,但去除了部分的紋理結(jié)構(gòu)和邊緣信息,導(dǎo)致圖像失真。再觀察圖8(d)—圖8(g),各方法的圖像邊緣信息恢復(fù)情況大致相同,觀察圖中的黑色圓形區(qū)域,圖8(g)的黑色圓形最大,且周邊白色斑點(diǎn)稀疏。此黑色圓形為4腔心,根據(jù)實(shí)際去噪情況來(lái)看,與去噪前的圖像對(duì)比最為接近。因此,以上實(shí)驗(yàn)也驗(yàn)證了本文提出的去噪模型的有效性和實(shí)用性。
圖8 相對(duì)于噪聲圖像的絕對(duì)差分圖像
針對(duì)超聲圖像中的斑點(diǎn)噪聲與其紋理結(jié)構(gòu)相似而干擾醫(yī)師診斷的問(wèn)題,本文設(shè)計(jì)了一個(gè)基于殘差編解碼器的通道自適應(yīng)去噪網(wǎng)絡(luò)來(lái)有效去除斑點(diǎn)噪聲。與一些先進(jìn)的方法對(duì)比,無(wú)論從定性評(píng)估還是定量分析上,本文模型都取得優(yōu)良的評(píng)價(jià)。模擬結(jié)果表現(xiàn)出深度學(xué)習(xí)在超聲圖像中噪聲抑制和結(jié)構(gòu)保持等方面的潛力,并能以較高的速度進(jìn)行計(jì)算。在之后的研究里,繼續(xù)優(yōu)化模型的去噪性能,同時(shí)在其他形態(tài)的圖像上也達(dá)到很好的去噪效果。