• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    聯(lián)合Bi-LSTM和注意力加強(qiáng)多尺度卷積的黃河三角洲濕地高光譜圖像分類方法研究

    2023-07-29 07:22:56徐美論李忠偉王雷全胡亞斌
    海洋科學(xué) 2023年5期
    關(guān)鍵詞:分組注意力光譜

    徐美論, 李忠偉, 王雷全, 李 娟, 胡亞斌, 梁 建

    聯(lián)合Bi-LSTM和注意力加強(qiáng)多尺度卷積的黃河三角洲濕地高光譜圖像分類方法研究

    徐美論1, 李忠偉1, 王雷全2, 李 娟2, 胡亞斌3, 梁 建4

    (1. 中國石油大學(xué)(華東)海洋與空間信息學(xué)院, 山東 青島 266580; 2. 中國石油大學(xué)(華東)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院, 山東 青島 266580; 3. 自然資源部 第一海洋研究所, 山東 青島 266061; 4. 南通智能感知研究院, 江蘇 南通 226007)

    近年來, 面向黃河口的監(jiān)測(cè)需求日益增大, 如黃河入海流路改道至清水溝路以來, 在新老河道的交匯處存在著豐富的地物類別, 對(duì)于這些地物類別的檢測(cè)識(shí)別研究有助于掌握生態(tài)環(huán)境狀態(tài), 對(duì)于黃河口的濕地保護(hù)以及國家改善環(huán)境的戰(zhàn)略支持具有重要意義。因此, 本文提出一種新的濕地高光譜圖像分類方法, 分雙路分別提取圖像的空譜特征并融合分類。光譜維采用分組預(yù)處理的雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(Bi-LSTM)有效學(xué)習(xí)光譜特征; 空間維采用注意力加強(qiáng)的多尺度卷積網(wǎng)絡(luò)有效增強(qiáng)所提取的空譜特征, 使得分類結(jié)果更具準(zhǔn)確性。本文實(shí)驗(yàn)應(yīng)用覆蓋黃河入海口新老河道交界處的成像光譜儀(Compact High Resolution Imaging Spectrometer, CHRIS)所采集的數(shù)據(jù)和黃河三角洲自然保護(hù)區(qū)濱海濕地高分5號(hào)傳感器(GF-5)所采集的高光譜圖像開展。結(jié)果表明: 分組與雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(Bi-LSTM)的有效結(jié)合顯著提升了網(wǎng)絡(luò)性能, 同其他監(jiān)督分類方法相比提升約3%~8%, 此外注意力機(jī)制的加入同比增加約3%, 在使用1%的極少訓(xùn)練集下數(shù)據(jù)集CHRIS和GF-5的總體分類精度分別達(dá)到92.3%和86.11%。

    高光譜圖像分類; 黃河三角洲; 分組; 多尺度; 注意力機(jī)制

    黃河三角洲是高效的生態(tài)經(jīng)濟(jì)區(qū), 是國家級(jí)自然保護(hù)區(qū), 在資源儲(chǔ)備, 生態(tài)調(diào)節(jié), 生物保護(hù)等[1-2]方面發(fā)揮著重要作用。黃河入海流路改道至清水溝路以來, 在新老河道的交匯處, 存在多種地物類型, 其生態(tài)資源、土地資源極為豐富, 而近年來由于油田和農(nóng)田的增加導(dǎo)致灘涂大面積圍墾, 破壞了生態(tài)環(huán)境, 使得面向黃河三角洲濕地分類遙感監(jiān)測(cè)的需求日益增大; 加之遙感技術(shù)的飛速發(fā)展, 使得越來越多的學(xué)者投身于高光譜圖像分類領(lǐng)域, 因此采用有效的分類方法來監(jiān)測(cè)識(shí)別相關(guān)地物對(duì)于黃河三角洲濕地的生態(tài)資源保護(hù)具有重要意義。

    高光譜遙感是將成像技術(shù)和光譜技術(shù)相結(jié)合的多維信息獲取技術(shù), 可以同時(shí)獲取目標(biāo)的二維空間信息與第三維的光譜信息, 得到高光譜分辨率的連續(xù)、窄波段圖像數(shù)據(jù)[3]。與傳統(tǒng)遙感相比, 其優(yōu)勢(shì)在于光譜分辨率高, 波段眾多, 能夠獲取地物幾乎連續(xù)的光譜特征曲線, 為圖像分類提供了條件。根據(jù)每個(gè)像元的灰度、紋理、空間鄰域信息及光譜信息等可得到像元的類別標(biāo)簽。高光譜圖像(Hyperspectral Image, HSI)應(yīng)用于農(nóng)業(yè)、海洋遙感、地表資源調(diào)查、環(huán)境監(jiān)測(cè)、地質(zhì)資源勘探、軍事偵察等領(lǐng)域均表現(xiàn)出突出優(yōu)勢(shì)與重要作用。

    直到夜幕降臨,父親才臉色鐵青地回來。剛進(jìn)屋,父親把我們?nèi)齻€(gè)朝懷里一摟,“嗚哇嗚哇”大哭起來,大聲說自己沒用。那一刻,我們知道,想吃頓帶肉的年夜飯的愿望又泡湯了?;蛟S是父親去借錢時(shí)受了風(fēng)寒,第二天他就感冒了,燒得滿臉通紅,一向剛強(qiáng)的父親主動(dòng)說扛不住了,要去醫(yī)院。醫(yī)生說,是重感冒引發(fā)的急性肺炎,需要住院幾天。母親身體不好,我們又小,只好告知親朋好友,希望能過來幫忙照看一下。

    目前國內(nèi)已有文章也談及東非某國抗震設(shè)防烈度的取值方法[2],本文試圖以其他地區(qū)幾個(gè)海外項(xiàng)目為例,淺析海外巖土工程勘察工作中抗震設(shè)防烈度的采取方法,供從業(yè)者參考。

    目前, 深度學(xué)習(xí)方法已成為高光譜圖像分類領(lǐng)域的研究新熱點(diǎn), 其相較于傳統(tǒng)的機(jī)器學(xué)習(xí)算法如支持向量機(jī)(SVM)、K-近鄰法、樸素貝葉斯、決策樹、稀疏表示、字典學(xué)習(xí)等能夠自主學(xué)習(xí)圖像的更高級(jí)特征, 可以更好地提取非線性和層次特征。其中, 卷積神經(jīng)網(wǎng)絡(luò)(CNN)、遞歸神經(jīng)網(wǎng)絡(luò)(RNN)、生成對(duì)抗網(wǎng)絡(luò)(GAN)、長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)等為基本、常見、高效、經(jīng)典的深度學(xué)習(xí)網(wǎng)絡(luò)。Li S等[4]綜述了自編碼(SAE)、CNN、RNN、GAN等深度學(xué)習(xí)網(wǎng)絡(luò)在高光譜圖像分類中的應(yīng)用, 并比較了傳統(tǒng)方法和深度學(xué)習(xí)方法間的差異性。張雪薇[5]列舉了CNN、RNN、LSTM等神經(jīng)網(wǎng)絡(luò)在海洋信息探測(cè)中的應(yīng)用現(xiàn)狀, 并總結(jié)了深度學(xué)習(xí)方法的前景展望。高光譜圖像分類方法高度依賴于空譜信息的特征提取, 而傳統(tǒng)方法如支持向量機(jī)[6]、隨機(jī)森林(RF)[7]等方法僅利用了光譜信息, 忽略了空間信息的重要性, 導(dǎo)致提取的特征信息不夠完整, 影響分類準(zhǔn)確率。RNN、LSTM網(wǎng)絡(luò)主要用于光譜序列的學(xué)習(xí), 例如楊勝龍[8]提出多層雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(Bi-LSTM)用于識(shí)別遠(yuǎn)洋漁船類型, 考慮船舶的兩個(gè)方向的歷史信息, 但僅利用單一的光譜波段信息進(jìn)行特征的提取和識(shí)別, 因光譜存在同物異譜、同譜異物的現(xiàn)象而影響網(wǎng)絡(luò)性能。因此, 空間信息對(duì)于分類至關(guān)重要。CNN網(wǎng)絡(luò)主要用于提取空譜特征, 有1DCNN、2DCNN和3DCNN, 例如ROY S K等[9]綜合考慮空譜信息, 提出典型3D-2D-CNN網(wǎng)絡(luò)同時(shí)提取空譜信息, 3D- CNN有助于從一堆光譜波段中聯(lián)合表示空間-光譜特征, 2D-CNN進(jìn)一步學(xué)習(xí)更抽象的空間表示, 增加特征的辨別度, 從而提高分類精度; ZHANG Z[10]采用殘差網(wǎng)絡(luò)從高光譜圖像(HSI)豐富的光譜特征和空間背景中連續(xù)學(xué)習(xí)鑒別特征, 進(jìn)而提升網(wǎng)絡(luò)性能。而上述方法均未考慮空間分布的特殊性, 即目標(biāo)像素鄰域內(nèi)像素類別存在隨機(jī)性。于是, ZHANG M[11]提出DR-CNN網(wǎng)絡(luò), 學(xué)習(xí)目標(biāo)像素多鄰域空間區(qū)域的上下文交互特征, 使提取到的空譜特征具有更強(qiáng)的識(shí)別能力。FENG J[12]提出RS-AMCNN網(wǎng)絡(luò), 自適應(yīng)選取目標(biāo)像素周圍多個(gè)不同大小的鄰域塊, 不僅提取聯(lián)合空間-光譜特征, 而且通過多尺度卷積操作利用不同空間位置的感受野。而這些模型忽略了卷積核提取不同區(qū)域特征對(duì)分類結(jié)果的貢獻(xiàn)程度的不同, 因此, 近年注意力機(jī)制的興起為深度學(xué)習(xí)提供更好的學(xué)習(xí)能力。

    神經(jīng)網(wǎng)絡(luò)在注意力機(jī)制的輔助下可以聚焦局部重要位置而忽略無關(guān)位置, 根據(jù)輸入的重要性自適應(yīng)加權(quán)特征加以分配不同的權(quán)重值, 突出重要特征弱化相對(duì)無用特征。GUO M H[13]綜述了通道、空間、分支等不同注意力的應(yīng)用場(chǎng)景和方式。HUJ[14]提出的壓縮激活網(wǎng)絡(luò)(SENet)屬于通道注意力, 通過對(duì)特征通道之間的相互依賴關(guān)系建立注意力機(jī)制, 自適應(yīng)地對(duì)特征進(jìn)行重新校準(zhǔn)。J WANG[15]提出波段注意力, 使網(wǎng)絡(luò)可以自動(dòng)學(xué)習(xí)關(guān)注所需的波段集, 從而最大限度地提高分類精度。在卷積網(wǎng)絡(luò)中加入注意力機(jī)制已是當(dāng)下研究熱點(diǎn), 例如SUAN H[16]提出一種空間注意力機(jī)制網(wǎng)絡(luò)(SSAN), 將光譜-空間網(wǎng)絡(luò)(SSN)與SSAN相結(jié)合提取空譜特征。在此基礎(chǔ)上, WOO S等[17]結(jié)合通道和位置注意力, 提出CBAM, 在通道和空間2個(gè)維度上均對(duì)輸入特征進(jìn)行特征優(yōu)化, 使網(wǎng)絡(luò)更多關(guān)注對(duì)分類有用的信息, 增強(qiáng)特征的表達(dá)能力。Li R[18]提出雙路注意力網(wǎng)絡(luò)DBDA, 將特征分別輸入光譜特征提取分支和空間維提取分支, 分別加強(qiáng)光譜特征和空間特征的表征能力。Fu J[19]提出了一種新穎的對(duì)偶注意力網(wǎng)絡(luò), 位置注意力模塊用于學(xué)習(xí)特征的空間依賴性, 通道注意力模塊用來學(xué)習(xí)通道之間的內(nèi)部關(guān)聯(lián)性, 利用自注意力機(jī)制提高特征表示的判別性。

    黃河三角洲濕地的黃河水含沙量巨大, 而河口區(qū)的裸灘含水量較大, 在衛(wèi)星圖像中其水體和裸灘的光譜特征差異較小, 因而根據(jù)黃河三角洲濕地類型及分布特點(diǎn), 本文在深度學(xué)習(xí)方法和注意力機(jī)制的基礎(chǔ)上作相關(guān)改進(jìn), 提出了聯(lián)合分組預(yù)處理的雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(Devide pretreatment Bi-LSTM network, DBL)和注意力加強(qiáng)多尺度卷積網(wǎng)絡(luò)(Atten-tion enhancement on Multiple scales CNN, AMCNN)用于黃河三角洲濕地高光譜圖像分類, 網(wǎng)絡(luò)名字簡(jiǎn)稱則為DBL-AMCNN。該網(wǎng)絡(luò)主要有以下三點(diǎn)貢獻(xiàn):

    目前,我國對(duì)食品安全的監(jiān)督,涵蓋了從農(nóng)產(chǎn)品種養(yǎng)殖、食品生產(chǎn)加工與制造到流通和消費(fèi)的全鏈條、各環(huán)節(jié),食品安全的“共治”格局已形成。具體來講,從農(nóng)業(yè)部門、水產(chǎn)部門、林業(yè)部門到加工運(yùn)輸,再到食品供應(yīng),甚至包括互聯(lián)網(wǎng)食品快餐的配送,以及小攤點(diǎn)、小餐桌、小飯館的消費(fèi),每一個(gè)環(huán)節(jié)都納入了食品安全監(jiān)管的范圍內(nèi)。

    圖1、圖2的真實(shí)地物標(biāo)簽圖均由自然資源部第一海洋研究所和南通智能感知研究院相關(guān)人員聯(lián)合進(jìn)行了數(shù)據(jù)標(biāo)簽的人工標(biāo)注和處理(去噪和大氣校正)。此外, CHRIS是GF-5圖像的黃河口入??诓糠? 區(qū)域有重疊但地物標(biāo)簽存在不一樣現(xiàn)象, 是因?yàn)閮煞鶊D像波段、所用衛(wèi)星和采集年份不一樣, 地物會(huì)發(fā)生變化, 從而地物類型存在差異, 在人工進(jìn)行數(shù)據(jù)標(biāo)簽標(biāo)記時(shí)進(jìn)行了更細(xì)致的歸類。

    1.4統(tǒng)計(jì)學(xué)分析采用SPSS18.0進(jìn)行統(tǒng)計(jì)分析,計(jì)量資料以(±s)表示,t檢驗(yàn),計(jì)數(shù)資料用n(%)表示,χ2檢驗(yàn),P<0.05為差異有統(tǒng)計(jì)學(xué)意義。

    1 實(shí)驗(yàn)數(shù)據(jù)

    1.1 研究區(qū)域

    如圖1所示, 高分五號(hào)(GF-5)數(shù)據(jù)集采集于2018年11月, 其區(qū)域覆蓋了黃河三角洲的自然保護(hù)區(qū)濱海濕地, 其影像圖由78、25、5三波段組合得到, 像素尺寸為462×617, 共150個(gè)波段, 光譜范圍為390~1 029 nm, 其分辨率3.67~4.81 nm, 地面空間分辨率30 m。該區(qū)域?yàn)榈湫偷臑I海濕地, 其地物類型包含互花米草、蘆葦、檉柳林、鹽地堿蓬、潮灘蘆葦、裸潮灘、鹽堿灘及水體共8類。PROBA-CHRIS (Compact High Resolution Imaging Spectrometer) 是搭載于歐洲空間局(European Space Agency, ESA)小衛(wèi)星上的遙感器, 成像模式多, 可獲取0°、+36°、–36°、+55°和–55°等五種角度的高光譜圖像。如圖2所示, 本文采用的CHRIS數(shù)據(jù)集區(qū)域位于黃河入??谛吕先牒搅髑灏算夂颓逅疁辖唤缣? 于2012年6月獲取黃河口濱海濕地CHRIS工作模式2的0°圖像, 其影像圖由15、10、5三波段組合得到; 像素尺寸為510×511, 共18個(gè)波段, 光譜范圍為406~ 1 035 nm, 其光譜分辨率5.9~44.1 nm, 地面空間分辨率為17 m。該區(qū)域?yàn)榈湫偷臑I海濕地, 其地物類型包括蘆葦、互花米草、灘涂、水體、裸地及檉柳堿蓬混生區(qū)共6類。

    1.2 數(shù)據(jù)

    黃河三角洲是我國暖溫帶最廣闊、最完整、最年輕的濱海濕地, 位于山東省北部渤海灣和萊州灣之間, 東營市黃河入海口處, 東經(jīng)118°10¢至119°15¢與北緯37°15¢至38°10¢之間, 地處黃河入??? 總面積約5 450 km2, 是上游黃河攜帶大量泥沙在渤海凹陷處沉積形成的沖積平原, 是山東省東營市經(jīng)濟(jì)發(fā)展的廣闊空間, 為山東黃河三角洲國家級(jí)自然保護(hù)區(qū), 其水源充足, 海水和淡水的交匯促進(jìn)泥沙絮凝沉降形成泥灘, 生長(zhǎng)有許多濕地植被與珍稀動(dòng)植物, 具有很高的科研價(jià)值; 加之其對(duì)于生態(tài)保護(hù)的重要性, 選取該研究區(qū)域, 對(duì)其地物類型進(jìn)行有效的監(jiān)測(cè)及分類。

    子美性極辣,惜未見諸行事。 《雕賦》一篇,辣味盡露。 所云“重其有英雄之姿,類大臣正色立朝之義”,可謂善于立言。 《義鶻行》是其一生心事,偶遇好題,遂不覺淋漓痛快。 至功成用舍之際,何其撇脫,幾于神龍見首不見尾矣。 高鳥奇文,并傳不朽。[26]9101

    (3)空間特征提取支路采用多尺度卷積神經(jīng)網(wǎng)絡(luò), 并通過加入注意力對(duì)不同尺度和不同層次的網(wǎng)絡(luò)信息進(jìn)行信息增強(qiáng)學(xué)習(xí), 最后級(jí)聯(lián)多尺度多層次的信息得到空間特征用于后續(xù)分類; 在注意力增強(qiáng)特征信息表現(xiàn)力的基礎(chǔ)上充分學(xué)習(xí)網(wǎng)絡(luò)不同深度的特征信息, 使得分類精度更高, 黃河三角洲濕地不同地物類型的邊界更清晰。

    圖1 實(shí)驗(yàn)區(qū)GF-5影像圖及地物真值圖

    圖2 實(shí)驗(yàn)區(qū)CHRIS影像圖及地物真值圖

    2 方法

    本文所提出的黃河三角洲濱海濕地高光譜圖像分類方法的整體網(wǎng)絡(luò)框架如圖3所示, 該網(wǎng)絡(luò)分兩路分別提取地物的空譜特征并融合; 針對(duì)黃河三角洲濕地地物中水體和裸灘的光譜特征差異較小的問題, 光譜特征提取支路采用分組預(yù)處理的Bi- LSTM網(wǎng)絡(luò), 分別從正反兩方向?qū)W習(xí)光譜間相關(guān)性和長(zhǎng)距離依賴性; 針對(duì)各地物空間分布邊界的模糊性, 空間特征提取部分引入注意力機(jī)制進(jìn)行特征的增強(qiáng), 并通過級(jí)聯(lián)多尺度卷積充分提取具表征力的特征。本節(jié)將分以下五小部分對(duì)圖中相關(guān)工作做詳細(xì)介紹。

    2.1 分組策略預(yù)處理

    研究表明在處理復(fù)雜光譜結(jié)構(gòu)時(shí)深層的結(jié)構(gòu)具有更好的泛化能力[20-21], 現(xiàn)有的方法主要關(guān)注光譜的完整性, 輸入網(wǎng)絡(luò)可在無監(jiān)督情況下自動(dòng)學(xué)習(xí)光譜特征, 而長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)等時(shí)序網(wǎng)絡(luò)更加關(guān)注相鄰波段的上下文信息。因此, 如何正確地將高光譜矢量劃分為不同的序列對(duì)網(wǎng)絡(luò)的性能至關(guān)重要。高光譜含有數(shù)百個(gè)波段, 若將每個(gè)波段作為一個(gè)時(shí)間步輸入一個(gè)頻段一次則使得LSTM網(wǎng)絡(luò)太深而無法訓(xùn)練。此外, 黃河三角洲濕地地物光譜之間具有強(qiáng)相似性, 如裸灘和水體光譜信息相似, 不易區(qū)分; 因此根據(jù)地物光譜間強(qiáng)相關(guān)性和長(zhǎng)距離依賴性的特點(diǎn)進(jìn)行分組預(yù)處理。

    圖3 聯(lián)合Bi-LSTM和注意力加強(qiáng)多尺度卷積的高光譜圖像分類網(wǎng)絡(luò)架構(gòu)

    本文提出兩種分組策略, 如圖4所示為分組策略1, 圖5所示為分組策略2, 并通過后續(xù)實(shí)驗(yàn)選擇最優(yōu)方案和最優(yōu)時(shí)間步長(zhǎng)。設(shè)為波段數(shù),為L(zhǎng)STM中時(shí)間步數(shù), 則每個(gè)時(shí)間步的序列長(zhǎng)度為=(/),()表示向下舍入。例如: 設(shè)=[1,2,…,z]為高光譜圖像中某一像元在整個(gè)波段上的光譜向量序列。經(jīng)分組變化后的光譜序列表示為=[1,2, …x, …τ], 則存在下列分組策略。

    圖4 分組策略1

    分組策略1為:

    分組策略2為:

    2.2 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)

    (1)該網(wǎng)絡(luò)分為雙路分別學(xué)習(xí)高光譜圖像的光譜信息和空間信息, 最后將兩路信息通過全連接層進(jìn)行融合學(xué)習(xí)后得出最終分類結(jié)果。整個(gè)網(wǎng)絡(luò)相互統(tǒng)一、相互制約, 通過反向傳播不斷訓(xùn)練優(yōu)化。

    機(jī)構(gòu)優(yōu)化設(shè)計(jì)中常用的算法有梯度優(yōu)化算法[14]和進(jìn)化算法[15-17]。梯度優(yōu)化算法收斂速度快,但容易導(dǎo)致局部最優(yōu)解;遺傳算法、蟻群算法屬于進(jìn)化算法,能有效規(guī)避局部最優(yōu)解,但搜索到滿足點(diǎn)距準(zhǔn)則、函數(shù)值變化準(zhǔn)則或梯度準(zhǔn)則的最優(yōu)解需要較長(zhǎng)的迭代時(shí)間。

    圖6 LSTM網(wǎng)絡(luò)門單元

    2.3 基于分組預(yù)處理的雙向長(zhǎng)短期記憶網(wǎng)絡(luò)(DBL)

    每個(gè)波段圖像不僅與其之前的波段圖像相關(guān), 還與其后續(xù)的波段圖像相關(guān), 基于此, 梁聯(lián)暉等[22]運(yùn)用Bi-RNN注意力網(wǎng)絡(luò), Mei S[23]運(yùn)用Bi-LSTM, 有效學(xué)習(xí)序列長(zhǎng)期依賴和上下文關(guān)系。因此在圖像識(shí)別等某些任務(wù)中, 雙向的序列網(wǎng)絡(luò)可以很好的解決上述問題。

    圖7 DBL網(wǎng)絡(luò)

    Fig. 7 DBL network

    2.4 注意力機(jī)制模塊

    提取的立方體的不同位置具有不同的語義信息。例如, 對(duì)象邊緣通常比其他位置更具辨別力。如果能充分利用這些先驗(yàn)信息, 光譜和空間子網(wǎng)的學(xué)習(xí)能力將得到提高。由于黃河三角洲濕地地物空間分布的邊界模糊, 網(wǎng)絡(luò)對(duì)于邊界地物的分類識(shí)別具挑戰(zhàn)性?;诖? 本文將注意力機(jī)制加入到網(wǎng)絡(luò)中, 使得網(wǎng)絡(luò)更加關(guān)注對(duì)分類有用的信息并抑制對(duì)分類無用的信息, 從而可以讓網(wǎng)絡(luò)學(xué)習(xí)到更準(zhǔn)確的特征信息, 更加精確高效地區(qū)分邊界信息, 從而提升分類精度。

    本文所提出的模型在下述服務(wù)器上運(yùn)行: 操作系統(tǒng)Ubuntu18.04.3, CPU處理器Intel(R) Core(TM) i7-9700K CPU@3.60GHz, GPU顯卡NVIDIA RTX 3090 Super GP基于Tensorflow 2.5.0框架實(shí)現(xiàn)。

    國網(wǎng)鄉(xiāng)鎮(zhèn)供電所生產(chǎn)的營業(yè)用房,處于嚴(yán)寒地區(qū),因嚴(yán)寒地區(qū)施工時(shí)間短,施工地點(diǎn)多,位置分散,建筑規(guī)模小,因此構(gòu)建節(jié)能環(huán)保的裝配式建造體系更利于滿足建筑全生命周期綠色建筑發(fā)展(見圖4)。

    圖8 注意力機(jī)制模塊

    Fig. 8 Attention mechanism module

    2.5 注意力加強(qiáng)多尺度卷積網(wǎng)絡(luò)(AMCNN)

    CNN不同層次之間的信息互補(bǔ)更有利于分類, 結(jié)合黃河三角洲濕地地物空間分布邊界的模糊性特點(diǎn), 本文提出AMCNN用于提取濕地高光譜圖像的空間特征, 如圖9所示, CNN中加入批歸一化層[24], 其多尺度體現(xiàn)在目標(biāo)像素鄰域在卷積過程中提取三個(gè)不同的鄰域范圍和淺中深三個(gè)不同層次的結(jié)構(gòu)特征, 通過卷積、PCCBA注意力模塊、批歸一化、池化等, 分別從不同尺度和不同深度提取不同的空間特征, 并通過級(jí)聯(lián)的方式融合這些特征用于后續(xù)通過全連接層和softmax層進(jìn)行分類。該網(wǎng)絡(luò)可加強(qiáng)特征之間的互補(bǔ)和層次之間的相關(guān)性, 提取到更加具有表現(xiàn)性的特征, 更加精準(zhǔn)高效地對(duì)邊界地物進(jìn)行分類, 提升網(wǎng)絡(luò)性能。相較于傳統(tǒng)的多尺度多分支網(wǎng)絡(luò), 該網(wǎng)絡(luò)不僅可以學(xué)習(xí)不同尺度之間相關(guān)性, 而且可以提取到不同尺度的特征信息。網(wǎng)絡(luò)每個(gè)步驟細(xì)節(jié)參數(shù)如表1所示, 步長(zhǎng)是指卷積或池化過程中滑動(dòng)窗口的移動(dòng)步長(zhǎng), 填充是CNN中常用的一種技術(shù), 通過在邊界中添加零值使卷積運(yùn)算前后特征圖大小不變。

    圖9 引入BN層的多尺度卷積模塊

    表1 注意力加強(qiáng)多尺度卷積網(wǎng)絡(luò)模塊參數(shù)

    3 實(shí)驗(yàn)

    3.1 實(shí)驗(yàn)數(shù)據(jù)設(shè)置及環(huán)境

    本實(shí)驗(yàn)所選數(shù)據(jù)集為黃河三角洲濕地CHRIS高光譜影像。本實(shí)驗(yàn)均隨機(jī)重復(fù)10次后取平均值, 每次訓(xùn)練均隨機(jī)抽取訓(xùn)練集和測(cè)試集。如表2、表3所示。實(shí)驗(yàn)中訓(xùn)練集分別選取1%、2%、3%進(jìn)行不同訓(xùn)練樣本占比的比較, 剩下的為測(cè)試集。實(shí)驗(yàn)中采用小批量隨機(jī)梯度下降算法優(yōu)化網(wǎng)絡(luò), 實(shí)驗(yàn)中設(shè)置訓(xùn)練批次為300, 學(xué)習(xí)率為0.001, 批量大小為128。實(shí)驗(yàn)結(jié)果采用OA和Kappa系數(shù)評(píng)估。OA表示正確分類的樣本占總測(cè)試樣本的比例, Kappa系數(shù)表示真實(shí)值和分類結(jié)果之間的一致性, 兩個(gè)指標(biāo)越高說明分類結(jié)果越好。

    行為風(fēng)格或人格能夠影響創(chuàng)造力,創(chuàng)造力與行為風(fēng)格或人格密切相關(guān)。早期的研究就發(fā)現(xiàn)了一些較為穩(wěn)定的人格對(duì)創(chuàng)造力有很大影響,如內(nèi)在動(dòng)機(jī)、寬廣的興趣、審美敏感、容忍模糊、直覺、冒險(xiǎn)、韌性與自信、不關(guān)注公眾認(rèn)可等。巴龍、愛杜森等人在研究科學(xué)家的創(chuàng)造力時(shí)發(fā)現(xiàn),高度的自我力量、獨(dú)立自主的強(qiáng)烈需要、較高的自信水平、陶醉于所熱愛和傾注的事業(yè)等是創(chuàng)造者的共同個(gè)性特征。克頓(1989)發(fā)現(xiàn)那些具有“創(chuàng)新性”解決問題的人往往以“新穎的”方式解決看似普通的問題,甚至重新“界定問題表征”,然后再找尋答案。他說,這些創(chuàng)造性行為風(fēng)格是較為穩(wěn)定的,一旦形成,就會(huì)貫穿于解決絕大多數(shù)問題的過程之中。

    表2 GF-5訓(xùn)練集和總樣本數(shù)量

    表3 CHRIS訓(xùn)練集和總樣本數(shù)量

    (2)光譜特征提取支路采用Bi-LSTM網(wǎng)絡(luò), 學(xué)習(xí)光譜間的雙向關(guān)系, 并通過分組策略預(yù)處理緩解梯度消失現(xiàn)象, 更好地學(xué)習(xí)光譜的長(zhǎng)期依賴關(guān)系; 從而緩解了由于水體和裸灘的光譜特征差異較小而影響分類精度的問題。

    十九大報(bào)告明確指出,推動(dòng)形成全面開放新格局,要以“一帶一路”建設(shè)為重點(diǎn),賦予自由貿(mào)易試驗(yàn)區(qū)更大改革自主權(quán),探索建設(shè)自由貿(mào)易港。從總體上看,“一帶一路”倡議與自貿(mào)試驗(yàn)區(qū)建設(shè)互為補(bǔ)充,“一帶一路”建設(shè)的“五通”與自貿(mào)試驗(yàn)區(qū)的“四化”兩者高度契合,共同推動(dòng)形成全面開放新格局[注]張時(shí)立:《中國自貿(mào)區(qū)建設(shè)與“21 世紀(jì)海上絲綢之路”——以上海自貿(mào)區(qū)建設(shè)為例》,《社會(huì)科學(xué)研究》2016年第1期,第58頁。。

    3.2 實(shí)驗(yàn)結(jié)果與分析

    首先驗(yàn)證分組策略的有效性, 對(duì)所提出的兩種分組策略進(jìn)行實(shí)驗(yàn)驗(yàn)證, 策略1按照光譜順序?qū)⑾噜彶ǘ蝿澐譃橥唤M, 策略2則按相同的時(shí)間步長(zhǎng)間隔劃分為同組。實(shí)驗(yàn)結(jié)果如圖10、圖11所示(采用1%的訓(xùn)練集), 通過實(shí)驗(yàn)說明, 太深的網(wǎng)絡(luò)并不適合LSTM提取光譜特征, 所以本文中將時(shí)間步設(shè)置為3, 全連接FC神經(jīng)元數(shù)量設(shè)置為128。實(shí)驗(yàn)結(jié)果證明了在不同時(shí)間步長(zhǎng)的設(shè)置下策略2均優(yōu)于策略1, 其原因一是策略2所劃分的序列覆蓋了更寬的光譜范圍, 在每個(gè)時(shí)間步中有更多豐富的上下文光譜信息送入LSTM單元, 原因二是策略2中不同時(shí)間步之間的光譜距離更短, 使網(wǎng)絡(luò)更好地學(xué)習(xí)長(zhǎng)短期依賴關(guān)系。此外, 從可分性的角度來看, Xu Y[23]通過使用PCA將數(shù)據(jù)從原始高維空間投影到三維空間, 也驗(yàn)證了分組的有效性。

    圖10 CHRIS基于不同步長(zhǎng)的分組策略性能

    圖11 GF-5基于不同步長(zhǎng)的分組策略性能

    其次, 采用第二種分組策略, 驗(yàn)證lstm不同方向的性能。實(shí)驗(yàn)結(jié)果如表4所示, 在采用光譜特征進(jìn)行圖像分類的任務(wù)中, 雙向網(wǎng)絡(luò)能達(dá)到最好效果; 同時(shí), 黃河三角洲濕地不同地物的光譜間差異性小, 利用DBL網(wǎng)絡(luò)可綜合學(xué)習(xí)不同方向的上下文長(zhǎng)期依賴關(guān)系, 為分類網(wǎng)絡(luò)提供更好的性能, 實(shí)現(xiàn)地物的有效區(qū)分。

    表4 基于分組策略2的LSTM不同方向性能

    然后評(píng)估AMCNN在不同降維通道和不同輸入鄰域塊大小下的性能, 因?yàn)镻CA預(yù)處理的降維通道數(shù)和輸入網(wǎng)絡(luò)的patch塊大小是網(wǎng)絡(luò)中兩個(gè)重要的影響性能的參數(shù)。由于經(jīng)PCA降維預(yù)處理后, 高光譜圖像的空譜信息多集中于第一主成分, 因此選擇3, 4, 6進(jìn)行實(shí)驗(yàn)對(duì)比,選擇28, 24, 20, 其實(shí)驗(yàn)對(duì)比如表5所示。因此加權(quán)計(jì)算時(shí)間花費(fèi)和分類精度,選擇4,選擇28。

    表5 AMCNN主要參數(shù)性能

    最后我們將所提出的方法同其他方法進(jìn)行比較, 包括SVM、BL-0(無分組Bi-LSTM)、DBL-1(基于分組策略1的Bi-LSTM)、DBL-2(基于分組策略2的Bi-LSTM)、SSUN[25]、DBMA[26]、DBDA[18]、AMCNN (本文所提方法的空間特征提取支路)、DBL0-MCNN (無分組Bi-LSTM且無注意力機(jī)制)等, 分別采用不同占比的訓(xùn)練集, 其評(píng)估結(jié)果如表6—8(GF-5-1%/2%/ 3%訓(xùn)練集)、表9—11(CHRIS-1%/2%/3%訓(xùn)練集)所示, 各方法相應(yīng)分類結(jié)果如圖12—14(GF-5-1%/2%/3%訓(xùn)練集), 圖15—17(CHRIS-1%/2%/3%訓(xùn)練集)所示。

    通過實(shí)驗(yàn)可知, 分組策略可以顯著地提高LSTM的性能, 在兩個(gè)數(shù)據(jù)集中, OA可提高約3%~5%, 其原因則是逐頻帶輸入網(wǎng)絡(luò)使得訓(xùn)練過深影響精度, 因此本文采用的分組策略2效果達(dá)到最優(yōu)。此外, 光譜分支缺乏空間特征, 其分類圖會(huì)受到胡椒噪聲的干擾; 在空間分支中可有效利用地物連續(xù)性, 得到較清晰的分類圖, 在不加注意力機(jī)制情況下SSUN的性能相較于AMCNN略低, 這是由于在AMCNN中使用的是雙注意力, 可以同時(shí)捕獲空譜信息, 有效提高網(wǎng)絡(luò)精確率; DBL0-MCNN相較于DBMA、DBDA、SSUN略低, 其原因是無分組的Bi-LSTM加重了網(wǎng)絡(luò)的計(jì)算負(fù)擔(dān), 使網(wǎng)絡(luò)訓(xùn)練參數(shù)升高, 出現(xiàn)過擬合現(xiàn)象; 而DBMA、DBDA略低于SSUN可能由于該網(wǎng)絡(luò)相對(duì)復(fù)雜, 不適用于小樣本訓(xùn)練, 其參數(shù)訓(xùn)練出現(xiàn)欠擬合現(xiàn)象。因此, 相比之下, 本文所提出的DBL-AMCNN綜合雙向、分組和雙注意力機(jī)制, 可達(dá)最優(yōu)效果, 相比于其他卷積神經(jīng)網(wǎng)絡(luò)有效緩解過擬合現(xiàn)象, 減少網(wǎng)絡(luò)訓(xùn)練壓力和計(jì)算消耗, 提升抗噪聲干擾能力; 從對(duì)比實(shí)驗(yàn)圖的黑框和白框中可清晰看到本文算法在地物邊界處的良好分類效果, 相比于其他方法地物邊界更清晰, 更精確; 此外, 在不同占比訓(xùn)練集的實(shí)驗(yàn)相比較下, 總體精度在1%的極少訓(xùn)練集下已達(dá)到86%(GF5), 93%(CHRIS), 且其強(qiáng)泛化能力亦能在其他數(shù)據(jù)集中獲得較優(yōu)性能。

    表6 所提分類方法與其他實(shí)驗(yàn)結(jié)果對(duì)比(GF-5-1%訓(xùn)練集)

    表7 所提分類方法與其他實(shí)驗(yàn)結(jié)果對(duì)比(GF-5-2%訓(xùn)練集)

    表8 所提分類方法與其他實(shí)驗(yàn)結(jié)果對(duì)比(GF-5-3%)

    表9 所提分類方法與其他實(shí)驗(yàn)結(jié)果對(duì)比(CHRIS-1%訓(xùn)練集)

    表10 所提分類方法與其他實(shí)驗(yàn)結(jié)果對(duì)比(CHRIS-2%訓(xùn)練集)

    表11 所提分類方法與其他實(shí)驗(yàn)結(jié)果對(duì)比(CHRIS-3%訓(xùn)練集)

    圖12 GF-5-1%訓(xùn)練集下不同方法實(shí)驗(yàn)結(jié)果對(duì)比圖(a-i為對(duì)比方法, j為本文方法)

    圖13 GF-5-2%訓(xùn)練集下不同方法實(shí)驗(yàn)結(jié)果對(duì)比圖(a-i為對(duì)比方法, j為本文方法)

    圖14 GF-5-3%訓(xùn)練集下不同方法實(shí)驗(yàn)結(jié)果對(duì)比圖(a-i為對(duì)比方法, j為本文方法)

    圖15 CHRIS-1%訓(xùn)練集下不同方法實(shí)驗(yàn)結(jié)果對(duì)比圖(a-i為對(duì)比方法, j為本文方法)

    圖16 CHRIS-2%訓(xùn)練集下不同方法實(shí)驗(yàn)結(jié)果對(duì)比圖(a-i為對(duì)比方法, j為本文方法)

    圖17 CHRIS-3%訓(xùn)練集下不同方法實(shí)驗(yàn)結(jié)果對(duì)比圖(a-i為對(duì)比方法, j為本文方法)

    4 結(jié)語

    本文提出了一種新的高光譜圖像分類方法, 并將其應(yīng)用于黃河三角洲的濱海濕地地物識(shí)別檢測(cè), 根據(jù)該濕地地物的空譜特點(diǎn), 網(wǎng)絡(luò)分雙路分別進(jìn)行地物的光譜特征提取和空間特征提取。首先利用PCA對(duì)空間維進(jìn)行降維預(yù)處理, 然后取降維后的小patch塊輸入AMCNN網(wǎng)絡(luò)提取多尺度多層次融合的空間特征; 采用分組策略將對(duì)光譜維進(jìn)行分組預(yù)處理后的光譜序列輸入Bi-LSTM網(wǎng)絡(luò)提取雙向上下文關(guān)聯(lián)和具長(zhǎng)期依賴的光譜特征, 最后融合雙路的空-譜特征通過softmax層進(jìn)行分類。

    觀察組和對(duì)照組均采用標(biāo)準(zhǔn)的化療方案,對(duì)獲得CR的急性髓細(xì)胞性白血病的緩解后治療,主要包括表柔紅霉素+阿糖胞苷(DA)、高三尖杉酯醇+阿糖胞苷(HA)、米托蒽醌+阿糖胞苷(MA)、阿霉素+阿糖胞苷(AA)及中/大劑量阿糖胞苷(Ara-C)等方案;對(duì)獲得CR的急性淋巴細(xì)胞白血病患者的緩解后治療,主要包括長(zhǎng)春新堿+柔紅霉素+環(huán)磷酰胺+強(qiáng)的松(VDCP)、足葉乙苷+阿糖胞苷(EA)以及甲氨蝶呤(HD-MTX)等方案。觀察組加用十一味參芪片(吉林金恒制藥股份有限公司,國藥準(zhǔn)字Z10900029,0.3 g/片)口服,每日服用3次,每次服4粒。

    本文通過一系列實(shí)驗(yàn)比較證明了所提DBL- AMCNN方法的有效性, 證明了分組和雙向組合的有效性。此外, 通過雙注意力和多尺度卷積的有效結(jié)合, 并驗(yàn)證注意力的對(duì)比試驗(yàn), 證明了注意力模塊在多尺度卷積的基礎(chǔ)上進(jìn)一步加強(qiáng)了空譜特征。所提出的方法不僅在少量的樣本下實(shí)現(xiàn)了較好的分類效果, 而且降低了模型計(jì)算量和復(fù)雜度, 有效在龐大的數(shù)據(jù)提取困難度下更好的檢測(cè)黃河三角洲濱海濕地的地物分布狀況。

    雖然所提出的分類方法和其他方法相比, 表現(xiàn)出最優(yōu)異的性能, 但還存在不足之處, 之后的工作還需進(jìn)一步優(yōu)化模型, 繼續(xù)提高模型效率和魯棒性, 用更少的訓(xùn)練樣本來達(dá)到更高的分類精度, 繼續(xù)探索優(yōu)化注意力及多尺度的參數(shù)問題, 并使網(wǎng)絡(luò)能夠自動(dòng)學(xué)習(xí)雙分支的貢獻(xiàn)度權(quán)重因子并合理分配權(quán)重。

    [1] 李永濤, 杜振宇, 王霞, 等. 黃河三角洲自然保護(hù)區(qū)濕地生態(tài)服務(wù)功能價(jià)值評(píng)估[J]. 海洋環(huán)境科學(xué), 2019, 38(5): 761-768.

    LI Yongtao, DU Zhenyu, WANG Xia, et al. Evaluation of wetland ecological service function in Yellow River delta nature reserve[J]. Marine environmental science, 2019, 38(5): 761-768.

    [2] 王娜娜, 劉宏元, 李英, 等. 黃河三角洲濕地生態(tài)系統(tǒng)服務(wù)價(jià)值評(píng)估[J]. 山東農(nóng)業(yè)科學(xué), 2022, 54(2): 153-158.

    WANG Nana, LIU Hongyuan, LI Ying, et al. Evaluation of wetland ecosystem services in Yellow River Delta[J]. Shandong Agricultural Sciences, 2022, 54(2): 153-158.

    [3] 張建偉, 陳允杰. 高光譜圖像分類方法綜述[J]. 南京信息工程大學(xué)學(xué)報(bào)(自然科學(xué)版), 2020, 12(1): 89-100.

    ZHANG Jianwei, CHEN Yunjie. A review of hyperspectral image classification methods[J]. Journal of Nanjing University of Information Science & Technology (Natural Science Edition), 2020, 12(1): 89-100.

    [4] LI S, SONG W, FANG L, et al. Deep Learning for Hyperspectral Image Classification: An Overview[J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(9): 6690-6709.

    [5] 張雪薇, 韓震, 郭鑫. 深度學(xué)習(xí)在海洋信息探測(cè)中的應(yīng)用: 現(xiàn)狀與展望[J]. 海洋科學(xué), 2022, 46(2): 145-155.

    ZHANG Xuewei, HAN Zhen, GUO Xin. Application of deep learning in ocean information detection: Current Situation and Prospect[J]. Marine Science, 2022, 46(2): 145-155.

    [6] MOUGHAL, T A. Hyperspectral image classification using Support Vector Machine[J]. Journal of Physics Conference, 2013, 439(1): 20-42.

    [7] XIA J, FALCO N, BENEDIKTSSON J A, et al. Hyperspectral Image Classification With Rotation Random Forest Via KPCA[J]. IEEE Journal of Selected Topics in Applied Earth Observations & Remote Sensing, 2017, 10(4): 1601-1609.

    [8] 楊勝龍, 史慧敏, 張勝茂, 等. 基于Bi-LSTM模型的遠(yuǎn)洋漁船類型識(shí)別研究[J]. 海洋科學(xué), 2022, 46(3): 25-35.

    YANG Shenglong, SHI Huimin, ZHANG Shengmao, et al. Research on type identification of ocean-going fishing vessel based on BiLSTM Model[J]. Marine Science, 2022, 46(3): 25-35.

    [9] ROY S K, KRISHNA G, DUBEY S R, et al. HybridSN: Exploring 3D-2D CNN Feature Hierarchy for Hyperspectral Image Classification[J]. IEEE Geoscience and Remote Sensing Letters, 2020, 17(2): 277-281.

    [10] ZHONG Z, LI J, LUO Z, et al. Spectral-Spatial Residual Network for Hyperspectral Image Classification: A 3-D Deep Learning Framework[J]. IEEE Transactions on Geoscience and Remote Sensing, 2017, 56(2): 847-858.

    [11] ZHANG M, LI W, DU Q. Diverse Region-Based CNN for Hyperspectral Image Classification[J]. IEEE Transac-tions on Image Processing A Publication of the IEEE Signal Processing Society, 2018, 27(6): 2623-2634.

    [12] FENG J, WU X, SHANG R, et al. Attention Multibranch Convolutional Neural Network for Hyperspectral Image Classification Based on Adaptive Region Search[J]. IEEE Transactions on Geoscience and Remote Sensing, 2021, 59(6): 5054-5070.

    [13] GUO M H, XU T X, LIU J J, et al. Attention Mechanisms in Computer Vision: A Survey[J]. 2021, 8 (3): 331-368.

    [14] HU J, SHEN L, SUN G. Squeeze-and-excitation networks[C]//Proceedings of the IEEE conference on computer vision and pattern recognition. 2018: 7132-7141.

    [15] WANG J, ZHOU J, HUANG W. Attend in bands: Hyperspectral band weighting and selection for image classification[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2019, 12(12): 4712-4727.

    [16] SUN H, ZHENG X, LU X, et al. Spectral–Spatial Attention Network for Hyperspectral Image Classification[J]. IEEE Transactions on Geoscience and Remote Sensing, 2020, 58(5): 3232-3245.

    [17] WOO S, PARK J, LEE J Y, et al. Cbam: Convolutional block attention module[C]//Proceedings of the European conference on computer vision (ECCV). 2018: 3-19.

    [18] LI R, ZHENG S, DUAN C, et al. Classification of hyperspectral image based on double-branch dual-atten-tion mechanism network[J]. Remote Sensing, 2020, 12(3): 582.

    [19] FU J, LIU J, TIAN H, et al. Dual attention network for scene segmentation[C]//Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2019: 3146-3154.

    [20] CHEN Y, LIN Z, ZHAO X, et al. Deep learning-based classification of hyperspectral data[J]. IEEE Journal of Selected topics in applied earth observations and remote sensing, 2014, 7(6): 2094-2107.

    [21] CHEN Y, ZHAO X, JIA X. Spectral–spatial classification of hyperspectral data based on deep belief network[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2015, 8(6): 2381-2392.

    [22] 梁聯(lián)暉, 李軍, 張紹泉. 基于3D Octave卷積和Bi-RNN注意力網(wǎng)絡(luò)的高光譜圖像分類方法[J].光子學(xué)報(bào), 2021, 50(9): 13.

    LIANG Lianhui, LI Jun, ZHANG Shaoquan. Hyperspectral image classification based on 3D Octave convolution and BI-RNN attention Network[J]. Journal of photons, 2021, 50(9): 13.

    [23] MEI S, LI X, LIU X, et al. Hyperspectral image classification using attention-based bidirectional long short- term memory network[J]. IEEE Transactions on Geoscience and Remote Sensing, 2021, 60: 1-12.

    [24] IOFFE S, SZEGEDY C. Batch normalization: Accelerating deep network training by reducing internal covariate shift[C]//International conference on machine learning. PMLR, 2015: 448-456.

    [25] XU Y, ZHANG L, DU B, et al. Spectral–spatial unified networks for hyperspectral image classification[J]. IEEE Transactions on Geoscience and Remote Sensing, 2018, 56(10): 5893-5909.

    [26] MA W, YANG Q, WU Y, et al. Double-branch multi- attention mechanism network for hyperspectral image classification[J]. Remote Sensing, 2019, 11(11): 1307.

    Combined Bi-LSTM and attention enhancement multiscale convolution for wetland hyperspectral image classification in the Yellow River Delta

    XU Mei-lun1, LI Zhong-wei1, WANG Lei-quan2, LI Juan2, HU Ya-bin3, LIANG Jian4

    (1. College of Oceanography and Spatial Information, China University of Petroleum (East China), Qingdao 266580, China; 2. College of Computer Science and Technology, China University of Petroleum (East China), Qingdao 266580, China; 3. Ministry of Natural Resources, First Institute of Oceanography, Qingdao 266061, China; 4. Nantong Intelligent Perception Research Institute, Nantong 226007, China)

    Recently, the demand for monitoring the Yellow River estuary has gradually increased. For example, there are various types of ground objects at the intersection of the old and new rivers since the flow of the Yellow River into the sea was diverted to Qingshuigou. Thus, the detection and recognition of these ground objects can provide insights into the state of the ecological environment for the protection of wetlands at the Yellow River estuary. Therefore, in this paper, a new classification method for wetland hyperspectral images is proposed. The proposed method can be categorized into spectral and spatial dimensions to extract the empty spectral features of the images and fuse them for classification. In the spectral dimension, a bidirectional long- and short-term memory network (Bi-LSTM) with packet preprocessing was used to determine spectral features efficiently. In the spatial dimension, an attention-enhanced multiscale convolution network was used to effectively enhance the extracted empty spectrum features and further improve the accuracy of classification results. In this paper, the experimental application was conducted based on data from a compact high-resolution imaging spectrometer (CHRIS) covering the junction of old and new rivers at the estuary of the Yellow River and the hyperspectral images collected using the Gaofen-5 sensor (GF-5) in the coastal wetland of the Yellow River Delta Nature Reserve. Our results show that the effective combination of grouping and Bi-LSTM significantly improved the network performance by ~3%–8% compared with other supervised classification methods, and the addition of an attention mechanism increased by ~3% compared with the previous year. Under the minimal training set of 1%, the CHRIS and GF-5 datasets reached overall classification accuracy of 92.3% and 86.11%, respectively.

    hyperspectral image classification; Yellow River Delta; grouping; multiscale; attentional mechanism

    Apr. 29, 2022

    TP79

    A

    1000-3096(2023)5-0027-14

    10.11759/hykx20220429013

    2022-04-29;

    2022-12-30

    山東省聯(lián)合基金項(xiàng)目(U1906217);國家自然科學(xué)基金項(xiàng)目(62071491)

    [Shandong Provincial Joint Foundation Project, No. U1906217; National Natural Science Foundation of China, No. 62071491]

    徐美論(1997—),女,河南新鄉(xiāng)人,碩士研究生,主要研究方向?yàn)楦吖庾V圖像分類,E-mail: s20160034@s.upc.edu.cn;李忠偉(1978—),通信作者,男,教授,研究方向:大數(shù)據(jù)與人工智能、多源遙感數(shù)據(jù)融合與智能信息處理 E-mail: li.zhongwei@vip.163.com

    (本文編輯: 康亦兼)

    猜你喜歡
    分組注意力光譜
    基于三維Saab變換的高光譜圖像壓縮方法
    讓注意力“飛”回來
    分組搭配
    怎么分組
    “揚(yáng)眼”APP:讓注意力“變現(xiàn)”
    分組
    A Beautiful Way Of Looking At Things
    星載近紅外高光譜CO2遙感進(jìn)展
    苦味酸與牛血清蛋白相互作用的光譜研究
    鋱(Ⅲ)與PvdA作用的光譜研究
    少妇人妻精品综合一区二区| 亚洲性久久影院| 成年女人在线观看亚洲视频| 成人亚洲精品一区在线观看| av播播在线观看一区| av又黄又爽大尺度在线免费看| 黄片播放在线免费| 熟女人妻精品中文字幕| 国产xxxxx性猛交| 亚洲av电影在线进入| 黄片无遮挡物在线观看| www.熟女人妻精品国产 | 日韩欧美一区视频在线观看| 寂寞人妻少妇视频99o| 少妇人妻 视频| 黑人欧美特级aaaaaa片| 九色亚洲精品在线播放| 国产又爽黄色视频| 久久人妻熟女aⅴ| 国产 一区精品| 欧美 亚洲 国产 日韩一| 在线亚洲精品国产二区图片欧美| 亚洲成av片中文字幕在线观看 | 天堂中文最新版在线下载| 一区在线观看完整版| 国产亚洲午夜精品一区二区久久| 九色亚洲精品在线播放| 18+在线观看网站| 亚洲国产精品一区二区三区在线| 亚洲国产欧美在线一区| 亚洲精品日本国产第一区| 亚洲少妇的诱惑av| 国产熟女欧美一区二区| 少妇的丰满在线观看| 91精品伊人久久大香线蕉| 免费看av在线观看网站| 十八禁网站网址无遮挡| 欧美日韩视频精品一区| xxxhd国产人妻xxx| 午夜精品国产一区二区电影| 色94色欧美一区二区| 波多野结衣一区麻豆| 亚洲国产精品一区三区| 免费看av在线观看网站| 大香蕉久久网| 国产一区二区三区av在线| 国产片内射在线| 亚洲国产色片| 久久毛片免费看一区二区三区| 国产成人精品无人区| 免费不卡的大黄色大毛片视频在线观看| 国产免费视频播放在线视频| 国产乱人偷精品视频| 黄色一级大片看看| 亚洲国产av新网站| 一本久久精品| 又黄又爽又刺激的免费视频.| 久久国产精品大桥未久av| 日韩精品有码人妻一区| 王馨瑶露胸无遮挡在线观看| 久久久a久久爽久久v久久| 久久女婷五月综合色啪小说| 成人国产av品久久久| 26uuu在线亚洲综合色| 国产精品一区二区在线不卡| 超碰97精品在线观看| 免费看不卡的av| 国产精品 国内视频| 亚洲内射少妇av| 女性被躁到高潮视频| tube8黄色片| 久久久久久久久久人人人人人人| 黑人高潮一二区| 性色avwww在线观看| 久久精品国产鲁丝片午夜精品| 伦理电影大哥的女人| 26uuu在线亚洲综合色| 亚洲,一卡二卡三卡| 如何舔出高潮| 大陆偷拍与自拍| 国产一区二区在线观看av| 午夜福利视频精品| 久久久国产欧美日韩av| 伊人亚洲综合成人网| 男女边吃奶边做爰视频| 啦啦啦啦在线视频资源| 久久久久久久久久久免费av| 成人国语在线视频| 国产成人aa在线观看| 亚洲丝袜综合中文字幕| 日本与韩国留学比较| 亚洲欧洲精品一区二区精品久久久 | 日韩欧美一区视频在线观看| 欧美精品一区二区免费开放| 久久韩国三级中文字幕| 一个人免费看片子| 久久免费观看电影| 日韩成人av中文字幕在线观看| 亚洲精品456在线播放app| 欧美+日韩+精品| 国产一区二区三区av在线| 观看美女的网站| 性色av一级| 99re6热这里在线精品视频| 在线观看免费日韩欧美大片| 中文字幕av电影在线播放| 精品99又大又爽又粗少妇毛片| 国产欧美亚洲国产| 日韩中文字幕视频在线看片| 侵犯人妻中文字幕一二三四区| 国产又色又爽无遮挡免| 日韩中字成人| 久久国内精品自在自线图片| 97超碰精品成人国产| 欧美日韩成人在线一区二区| 热re99久久国产66热| 高清在线视频一区二区三区| 国产免费福利视频在线观看| 成人影院久久| 熟妇人妻不卡中文字幕| 日本黄大片高清| 少妇的逼好多水| 最近的中文字幕免费完整| 97超碰精品成人国产| 亚洲精品乱码久久久久久按摩| 欧美精品av麻豆av| 自线自在国产av| 免费av不卡在线播放| 成人国语在线视频| 天堂俺去俺来也www色官网| 亚洲,欧美,日韩| 国产一区二区在线观看日韩| 99久国产av精品国产电影| 美女中出高潮动态图| av网站免费在线观看视频| www.熟女人妻精品国产 | 国产麻豆69| 最近手机中文字幕大全| 久久av网站| 中文字幕人妻熟女乱码| 久久久久网色| 18+在线观看网站| 69精品国产乱码久久久| 中文乱码字字幕精品一区二区三区| 精品人妻在线不人妻| 汤姆久久久久久久影院中文字幕| 啦啦啦中文免费视频观看日本| 久久久久久久国产电影| 亚洲av欧美aⅴ国产| 成人18禁高潮啪啪吃奶动态图| 亚洲国产成人一精品久久久| 少妇被粗大猛烈的视频| 国产 精品1| 国产探花极品一区二区| xxx大片免费视频| 亚洲精品第二区| 久久鲁丝午夜福利片| 国产成人免费观看mmmm| 丰满饥渴人妻一区二区三| 亚洲中文av在线| 视频区图区小说| 国产在视频线精品| 久久亚洲国产成人精品v| 免费在线观看黄色视频的| 又黄又粗又硬又大视频| 十八禁网站网址无遮挡| 一级a做视频免费观看| 啦啦啦啦在线视频资源| 国产av精品麻豆| 多毛熟女@视频| 欧美 日韩 精品 国产| 最近中文字幕2019免费版| 高清av免费在线| 欧美3d第一页| 男女下面插进去视频免费观看 | 国产高清不卡午夜福利| 精品一区在线观看国产| tube8黄色片| 欧美亚洲 丝袜 人妻 在线| 亚洲欧美日韩卡通动漫| 两个人免费观看高清视频| av免费观看日本| 我要看黄色一级片免费的| 国产不卡av网站在线观看| 欧美人与性动交α欧美精品济南到 | 制服人妻中文乱码| 精品亚洲成a人片在线观看| 一级片免费观看大全| 校园人妻丝袜中文字幕| 男女无遮挡免费网站观看| 街头女战士在线观看网站| 成人无遮挡网站| 成人午夜精彩视频在线观看| 久久久久精品久久久久真实原创| 久久人人爽人人片av| 亚洲中文av在线| 国产男女内射视频| 天天躁夜夜躁狠狠躁躁| 超色免费av| 美女内射精品一级片tv| 少妇被粗大的猛进出69影院 | 久久精品久久久久久久性| 国产伦理片在线播放av一区| 高清av免费在线| 婷婷成人精品国产| 日本-黄色视频高清免费观看| 亚洲av电影在线观看一区二区三区| 天天躁夜夜躁狠狠躁躁| 国产精品偷伦视频观看了| av国产久精品久网站免费入址| h视频一区二区三区| 美女主播在线视频| 国产 精品1| 性高湖久久久久久久久免费观看| 国产片内射在线| 亚洲av在线观看美女高潮| 免费观看av网站的网址| 久久97久久精品| 乱码一卡2卡4卡精品| 男女边摸边吃奶| av在线播放精品| 一个人免费看片子| 最新中文字幕久久久久| 国产 精品1| 五月开心婷婷网| 国产男女内射视频| 精品亚洲成a人片在线观看| 婷婷色麻豆天堂久久| 日本爱情动作片www.在线观看| av在线老鸭窝| 日产精品乱码卡一卡2卡三| 91精品伊人久久大香线蕉| 午夜福利乱码中文字幕| 成人国产av品久久久| 亚洲情色 制服丝袜| 十八禁高潮呻吟视频| 亚洲av国产av综合av卡| 欧美 亚洲 国产 日韩一| 精品人妻熟女毛片av久久网站| 99热网站在线观看| 青春草国产在线视频| 大陆偷拍与自拍| 欧美少妇被猛烈插入视频| 免费黄网站久久成人精品| 欧美xxⅹ黑人| 99久久综合免费| 80岁老熟妇乱子伦牲交| 成人国产av品久久久| 精品少妇内射三级| 久久久欧美国产精品| 色婷婷av一区二区三区视频| 如何舔出高潮| 免费高清在线观看视频在线观看| 国产 精品1| 亚洲成人av在线免费| 中国国产av一级| 欧美精品高潮呻吟av久久| 成人黄色视频免费在线看| 色婷婷久久久亚洲欧美| 免费高清在线观看日韩| 一区二区三区四区激情视频| 欧美变态另类bdsm刘玥| 爱豆传媒免费全集在线观看| 天天躁夜夜躁狠狠躁躁| 香蕉国产在线看| 欧美 亚洲 国产 日韩一| 岛国毛片在线播放| 久久影院123| 少妇精品久久久久久久| 日韩精品有码人妻一区| 国产精品久久久久久精品古装| 99精国产麻豆久久婷婷| 免费大片18禁| 80岁老熟妇乱子伦牲交| 国产成人精品婷婷| 精品亚洲成国产av| 精品国产一区二区久久| 亚洲国产欧美日韩在线播放| 亚洲精品乱码久久久久久按摩| av电影中文网址| 午夜视频国产福利| 中文精品一卡2卡3卡4更新| 精品99又大又爽又粗少妇毛片| 只有这里有精品99| 久久久久精品性色| 人成视频在线观看免费观看| 美国免费a级毛片| 久久久久精品人妻al黑| 久久人人爽av亚洲精品天堂| 亚洲国产精品999| 久久人人爽人人爽人人片va| 精品亚洲成国产av| 十分钟在线观看高清视频www| 亚洲国产成人一精品久久久| 美女主播在线视频| 女人被躁到高潮嗷嗷叫费观| 69精品国产乱码久久久| 晚上一个人看的免费电影| 欧美日韩成人在线一区二区| 三级国产精品片| 边亲边吃奶的免费视频| a级毛片黄视频| 一级毛片黄色毛片免费观看视频| 久久韩国三级中文字幕| 欧美日本中文国产一区发布| 黄色怎么调成土黄色| freevideosex欧美| 久久久久国产精品人妻一区二区| 国产永久视频网站| 色婷婷久久久亚洲欧美| 高清黄色对白视频在线免费看| 人妻人人澡人人爽人人| 99视频精品全部免费 在线| 久久 成人 亚洲| 亚洲成av片中文字幕在线观看 | 久久韩国三级中文字幕| 成人免费观看视频高清| av在线播放精品| 国产xxxxx性猛交| 母亲3免费完整高清在线观看 | 99久国产av精品国产电影| 久久精品国产a三级三级三级| 国产成人精品在线电影| 久久久久久伊人网av| 中文字幕精品免费在线观看视频 | 日韩制服骚丝袜av| 欧美人与性动交α欧美软件 | 在线看a的网站| 大陆偷拍与自拍| 波多野结衣一区麻豆| 午夜91福利影院| 欧美国产精品va在线观看不卡| 热99久久久久精品小说推荐| 精品熟女少妇av免费看| 亚洲欧洲精品一区二区精品久久久 | 亚洲国产欧美在线一区| 最近的中文字幕免费完整| 亚洲av日韩在线播放| 啦啦啦中文免费视频观看日本| 国产成人一区二区在线| 欧美精品国产亚洲| 免费人成在线观看视频色| 免费观看a级毛片全部| 丰满饥渴人妻一区二区三| 免费观看在线日韩| a级毛片黄视频| 性高湖久久久久久久久免费观看| 一区二区三区四区激情视频| 女人久久www免费人成看片| 黑人猛操日本美女一级片| 亚洲精品国产av蜜桃| 日韩人妻精品一区2区三区| 国产精品久久久久久av不卡| 国产又爽黄色视频| 国产精品三级大全| 涩涩av久久男人的天堂| 我的女老师完整版在线观看| 女的被弄到高潮叫床怎么办| 精品人妻偷拍中文字幕| 97人妻天天添夜夜摸| 成人免费观看视频高清| 97在线视频观看| 美女中出高潮动态图| 久久久久精品久久久久真实原创| 人妻系列 视频| 丝袜人妻中文字幕| 国内精品宾馆在线| 精品熟女少妇av免费看| 少妇猛男粗大的猛烈进出视频| 久久毛片免费看一区二区三区| www.熟女人妻精品国产 | 久久久国产一区二区| 丝袜在线中文字幕| 美女大奶头黄色视频| av女优亚洲男人天堂| 亚洲经典国产精华液单| 青青草视频在线视频观看| 亚洲国产毛片av蜜桃av| 日本wwww免费看| 丰满饥渴人妻一区二区三| 街头女战士在线观看网站| 久久久久网色| 中文字幕人妻丝袜制服| 高清欧美精品videossex| 欧美日本中文国产一区发布| 有码 亚洲区| 秋霞伦理黄片| 国产男人的电影天堂91| 亚洲国产看品久久| 草草在线视频免费看| 国产69精品久久久久777片| 中文欧美无线码| 精品一区二区三区视频在线| 久久久国产精品麻豆| 国产成人a∨麻豆精品| 亚洲精华国产精华液的使用体验| 一本—道久久a久久精品蜜桃钙片| 晚上一个人看的免费电影| 亚洲精品视频女| 性色av一级| 国产永久视频网站| 久久国产亚洲av麻豆专区| 国产免费现黄频在线看| 天美传媒精品一区二区| 少妇高潮的动态图| 日本av手机在线免费观看| 成年动漫av网址| 国产亚洲午夜精品一区二区久久| 国产淫语在线视频| 欧美另类一区| 在线观看免费视频网站a站| 国产亚洲最大av| 青春草视频在线免费观看| 午夜久久久在线观看| 高清毛片免费看| 亚洲av男天堂| 欧美精品高潮呻吟av久久| 精品久久久久久电影网| 一个人免费看片子| 亚洲av.av天堂| 久久久久久久亚洲中文字幕| 中文字幕人妻熟女乱码| 在线观看人妻少妇| 高清av免费在线| 午夜福利视频在线观看免费| 亚洲内射少妇av| 久久精品国产亚洲av天美| 女人精品久久久久毛片| 精品一区二区三卡| 国产精品人妻久久久影院| 久久这里有精品视频免费| 精品午夜福利在线看| 久热这里只有精品99| 美女国产视频在线观看| 久久人人97超碰香蕉20202| 美女国产视频在线观看| 亚洲精品一区蜜桃| 亚洲av福利一区| 赤兔流量卡办理| 免费久久久久久久精品成人欧美视频 | 亚洲人成网站在线观看播放| 各种免费的搞黄视频| 久久精品aⅴ一区二区三区四区 | 极品人妻少妇av视频| 晚上一个人看的免费电影| av片东京热男人的天堂| 欧美成人午夜免费资源| 一级片'在线观看视频| 少妇精品久久久久久久| 中文字幕最新亚洲高清| 国产探花极品一区二区| 亚洲精品久久午夜乱码| 99视频精品全部免费 在线| 国产成人a∨麻豆精品| 亚洲第一区二区三区不卡| 伦理电影免费视频| 五月开心婷婷网| 婷婷色综合www| 插逼视频在线观看| 国产成人aa在线观看| 人成视频在线观看免费观看| 久久99热6这里只有精品| 男女下面插进去视频免费观看 | 国产欧美日韩综合在线一区二区| 久久精品久久久久久久性| 亚洲欧美成人综合另类久久久| 黄色 视频免费看| 99热网站在线观看| 自线自在国产av| 国产男人的电影天堂91| av在线观看视频网站免费| 婷婷色av中文字幕| 亚洲天堂av无毛| 伊人久久国产一区二区| 免费播放大片免费观看视频在线观看| 久热久热在线精品观看| 一区二区av电影网| 自线自在国产av| 大片电影免费在线观看免费| 国产高清三级在线| av天堂久久9| 久热这里只有精品99| 久久人人爽人人爽人人片va| 久久久久久久久久成人| 久久精品夜色国产| 天天躁夜夜躁狠狠久久av| 97人妻天天添夜夜摸| 国产成人精品无人区| 亚洲四区av| 大香蕉久久成人网| 久久久精品区二区三区| 国产精品一国产av| 国产日韩欧美亚洲二区| 亚洲国产精品专区欧美| 另类亚洲欧美激情| 精品久久国产蜜桃| 亚洲精品美女久久av网站| 美女xxoo啪啪120秒动态图| 两个人免费观看高清视频| 国产亚洲欧美精品永久| 亚洲久久久国产精品| 久久久久久久精品精品| 国产午夜精品一二区理论片| 男男h啪啪无遮挡| 看十八女毛片水多多多| 国产精品嫩草影院av在线观看| 日本-黄色视频高清免费观看| 久久99热6这里只有精品| 国产精品成人在线| av黄色大香蕉| 日韩中文字幕视频在线看片| 欧美激情国产日韩精品一区| 亚洲,一卡二卡三卡| 亚洲av日韩在线播放| 99久久精品国产国产毛片| 寂寞人妻少妇视频99o| 免费看av在线观看网站| 看非洲黑人一级黄片| 青春草视频在线免费观看| 亚洲精品久久午夜乱码| 久久精品人人爽人人爽视色| 九色亚洲精品在线播放| 男的添女的下面高潮视频| 在线亚洲精品国产二区图片欧美| 少妇的逼好多水| 欧美变态另类bdsm刘玥| 亚洲婷婷狠狠爱综合网| 成人亚洲精品一区在线观看| 18禁在线无遮挡免费观看视频| 日韩,欧美,国产一区二区三区| 热99国产精品久久久久久7| 99视频精品全部免费 在线| 国产亚洲最大av| 黑丝袜美女国产一区| 啦啦啦中文免费视频观看日本| 高清黄色对白视频在线免费看| 成年人午夜在线观看视频| 69精品国产乱码久久久| 国产爽快片一区二区三区| √禁漫天堂资源中文www| 赤兔流量卡办理| 99九九在线精品视频| 99精国产麻豆久久婷婷| 青春草国产在线视频| 蜜臀久久99精品久久宅男| 三级国产精品片| 18禁裸乳无遮挡动漫免费视频| 欧美精品高潮呻吟av久久| 亚洲精品久久午夜乱码| av有码第一页| 日韩 亚洲 欧美在线| 久久久亚洲精品成人影院| 韩国精品一区二区三区 | 国产精品久久久久久精品电影小说| 欧美日韩精品成人综合77777| 香蕉精品网在线| 一边亲一边摸免费视频| 日韩视频在线欧美| 国产成人a∨麻豆精品| 久久毛片免费看一区二区三区| 午夜老司机福利剧场| 欧美最新免费一区二区三区| 国产在视频线精品| 一区在线观看完整版| 欧美日韩亚洲高清精品| 97在线视频观看| 欧美人与善性xxx| 成年人午夜在线观看视频| 日韩一本色道免费dvd| 极品少妇高潮喷水抽搐| 国产国拍精品亚洲av在线观看| 国产精品.久久久| 欧美日韩国产mv在线观看视频| 黄片无遮挡物在线观看| 中文字幕制服av| 精品一区在线观看国产| 日韩成人伦理影院| 99久国产av精品国产电影| 久久久久久久久久久久大奶| 国产乱人偷精品视频| 午夜日本视频在线| 少妇精品久久久久久久| 精品久久蜜臀av无| 亚洲中文av在线| 精品久久久精品久久久| 亚洲天堂av无毛| 久久精品久久久久久久性| 免费在线观看黄色视频的| 亚洲欧美日韩另类电影网站| 国产av精品麻豆| 亚洲欧美成人综合另类久久久| 亚洲精品一区蜜桃| 国产精品成人在线| 在现免费观看毛片| 国产av码专区亚洲av| 一本大道久久a久久精品| 久久精品国产亚洲av涩爱| 久久午夜综合久久蜜桃| 国产精品久久久久久久久免| 亚洲伊人久久精品综合| 又黄又爽又刺激的免费视频.| 又粗又硬又长又爽又黄的视频| av有码第一页| 国精品久久久久久国模美| 国产永久视频网站| 欧美成人午夜精品| 亚洲国产欧美在线一区| 日韩欧美一区视频在线观看| 9色porny在线观看| 成人毛片60女人毛片免费| 亚洲精品第二区| 欧美日韩视频精品一区| 少妇熟女欧美另类| 国产福利在线免费观看视频| 久久精品久久精品一区二区三区|