• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面狀居民地形狀分類的圖卷積神經(jīng)網(wǎng)絡(luò)方法

    2022-11-29 13:13:00于洋洋賀康杰許俊奎
    測繪學(xué)報(bào) 2022年11期
    關(guān)鍵詞:分類特征模型

    于洋洋,賀康杰,武 芳,許俊奎

    1. 河南大學(xué)地理與環(huán)境學(xué)院,河南 開封 475004; 2. 黃河中下游數(shù)字地理技術(shù)教育部重點(diǎn)實(shí)驗(yàn)室(河南大學(xué)),河南 開封 475004; 3. 信息工程大學(xué)地理空間信息學(xué)院,河南 鄭州 450001

    面狀居民地要素作為地理空間數(shù)據(jù)的一種,廣泛存在于各種大、中比例尺地形圖、地籍圖中,其主要描述城市和鄉(xiāng)鎮(zhèn)聚集區(qū)中各種建筑物的形狀與分布情況。地圖上的面狀居民地要素通過反映實(shí)際居民地的位置、輪廓、基本結(jié)構(gòu)、行政意義以及名稱等信息,在城市建模應(yīng)用中發(fā)揮著重要作用[1]。隨著我國經(jīng)濟(jì)的快速發(fā)展,城市化建設(shè)進(jìn)程的加快,城市的面貌日新月異,由此地圖更新也越來越頻繁,而面狀地物的形狀分類是地圖制圖綜合和更新的關(guān)鍵技術(shù)環(huán)節(jié),面狀要素的選取、更新、匹配等[2-4]也大多依賴于其形狀特征。

    形狀作為地理要素的一個(gè)屬性,在地理實(shí)體的表達(dá)中傳遞了比顏色、紋理等更多的信息量[5]。在形狀描述與分類問題上,國內(nèi)外學(xué)者進(jìn)行了大量的研究。在描述建筑物形狀特征方面,可以大致分為以下幾種方式:一是根據(jù)地理要素的幾何結(jié)構(gòu)特征,基于矢量數(shù)據(jù)直接定義形狀描述子,通過數(shù)學(xué)模型描述形狀的一般特征,進(jìn)而判斷地理要素之間的形狀相似性。文獻(xiàn)[6—7]使用傅里葉變換度量形狀的大小,構(gòu)建數(shù)學(xué)模型,定義一系列的幾何特征描述形狀的相關(guān)性,但是該種方法在對不同的形狀描述時(shí)需要定義不同的相似隸屬度函數(shù)對每種形狀模板進(jìn)行描述,同時(shí),由于傅里葉變換在形狀描述上的不足,該方法對形狀的結(jié)構(gòu)比較敏感,對于一些凹凸度較大的要素描述結(jié)果較差。文獻(xiàn)[8]在描述面狀實(shí)體時(shí),通過對面狀實(shí)體的輪廓線定義幾何描述算子,設(shè)定合理的閾值,進(jìn)而建立用于面狀實(shí)體化簡的復(fù)雜性度量模型。文獻(xiàn)[9]運(yùn)用形態(tài)抽象化的方式描述居民地要素的形狀,構(gòu)建居民地形狀模板用于居民地的形狀識別與化簡。二是基于柵格圖像數(shù)據(jù)分析居民地圖像的輪廓像素集合描述形狀。文獻(xiàn)[10]通過構(gòu)造形狀描述鏈碼(chain code)描述建筑物的形狀。文獻(xiàn)[11]通過小波描述符對圖像和形狀進(jìn)行匹配計(jì)算。文獻(xiàn)[12]使用形狀上下文(shape context)來表示形狀。文獻(xiàn)[13]使用直方圖的統(tǒng)計(jì)方法計(jì)算圖像形狀信息,以表達(dá)圖像的形狀特征。這些方法的優(yōu)點(diǎn)是計(jì)算思想直觀,但卻在一定程度上忽略了視覺認(rèn)知因素。

    近年來,隨著深度學(xué)習(xí)技術(shù)的發(fā)展,深度神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺、自然語言處理和語音識別等方面取得了前所未有的成果[14-16]。尤其在機(jī)器視覺領(lǐng)域,卷積神經(jīng)網(wǎng)絡(luò)(convolution neural network,CNN)對于局部視覺特征具有很強(qiáng)的表現(xiàn)能力,在圖像處理、目標(biāo)檢測、圖像分割等方面大放異彩[17-19]。部分學(xué)者也開始嘗試借用圖像處理、計(jì)算機(jī)視覺等領(lǐng)域的技術(shù)來解決地理要素的形狀識別與分類,其主要思路是將地理矢量數(shù)據(jù)轉(zhuǎn)為柵格圖像,通過卷積神經(jīng)網(wǎng)絡(luò)提取圖像的輪廓特征,進(jìn)而描述要素的形狀。文獻(xiàn)[20—21]將城市中矢量立交橋數(shù)據(jù)轉(zhuǎn)為柵格圖像,通過CNN卷積神經(jīng)網(wǎng)絡(luò)和GoogleLeNet神經(jīng)網(wǎng)絡(luò)提取道路交叉口的模糊特征,從而判別復(fù)雜交叉路口的形狀類別。文獻(xiàn)[22]利用機(jī)器自監(jiān)督學(xué)習(xí)的方式,通過卷積神經(jīng)網(wǎng)絡(luò)對圖像特征學(xué)習(xí),結(jié)合自動(dòng)編碼機(jī)的自監(jiān)督學(xué)習(xí)能力對建筑物面要素的幾何形狀進(jìn)行度量。

    但是,由于矢量數(shù)據(jù)結(jié)構(gòu)的不規(guī)則性,無法將卷積神經(jīng)網(wǎng)絡(luò)直接用于矢量數(shù)據(jù)的處理中。為此,一些研究者提出了基于圖的圖卷積神經(jīng)網(wǎng)絡(luò)(graph convolutional network,GCN)。文獻(xiàn)[23]使用圖卷積神經(jīng)網(wǎng)絡(luò)模型分析建筑物群的分布模式,其主要使用圖傅里葉變換和卷積定理,將頂點(diǎn)域卷積轉(zhuǎn)換為譜域中的點(diǎn)積,對建筑物群構(gòu)成的圖進(jìn)行特征提取,進(jìn)而給出規(guī)則和不規(guī)則兩種建筑物群的類別判定。文獻(xiàn)[24]利用圖結(jié)構(gòu)對建筑物的形狀進(jìn)行建模,提出了一種圖卷積自編碼器(GCAE)模型,提取頂點(diǎn)的局部和區(qū)域結(jié)構(gòu)特征,通過無監(jiān)督學(xué)習(xí)對建模的圖進(jìn)行分析,實(shí)現(xiàn)了形狀編碼認(rèn)知。受這些研究啟發(fā),本文使用圖卷積神經(jīng)網(wǎng)絡(luò)中的空間方法來構(gòu)建端到端的形狀分類器,通過對居民地形狀信息的多輪次聚合和提取,并將其嵌入一個(gè)高維向量中,利用全連接神經(jīng)網(wǎng)絡(luò)對高維向量進(jìn)行分類,以解決在大中比例尺下面狀居民地形狀分類認(rèn)知問題。

    1 圖卷積神經(jīng)網(wǎng)絡(luò)

    1.1 圖上的卷積運(yùn)算

    圖一般是由節(jié)點(diǎn)和邊構(gòu)成,圖的定義可以是G=(V,E,A),其中V是節(jié)點(diǎn)的集合,E是節(jié)點(diǎn)間連接邊的集合,A∈Rn×n是圖的鄰接矩陣,表示節(jié)點(diǎn)間邊的連接關(guān)系和權(quán)重[25]。圖數(shù)據(jù)的卷積運(yùn)算方式分為兩種,一種是基于譜方法的卷積運(yùn)算,另一種是基于空間方法的卷積運(yùn)算?;谧V方法的圖卷積運(yùn)算借助于信號處理的思想[26],將節(jié)點(diǎn)域的輸入和卷積核通過傅里葉變換投影到譜域中,在譜域進(jìn)行卷積運(yùn)算,然后將得到的結(jié)果再逆變換到節(jié)點(diǎn)域,以實(shí)現(xiàn)圖上的卷積運(yùn)算,這種方式計(jì)算復(fù)雜度高,占用計(jì)算資源大。

    本文采用的是基于空間方法的圖卷積神經(jīng)網(wǎng)絡(luò)模型,該方法的關(guān)鍵思想是基于圖上節(jié)點(diǎn)狀態(tài)信息的聚合與更新。文獻(xiàn)[27]提出的NN4G(neural network for graphs)是第1個(gè)基于空間方法的圖卷積神經(jīng)網(wǎng)絡(luò)。NN4G通過直接累加節(jié)點(diǎn)的鄰域信息來實(shí)現(xiàn)圖的卷積運(yùn)算。隨后,文獻(xiàn)[28]提出的擴(kuò)散卷積網(wǎng)絡(luò)(diffusion convolutional neural network,DCNN)將圖卷積看作是一個(gè)擴(kuò)散過程。它假設(shè)信息以一定的轉(zhuǎn)移概率從一個(gè)節(jié)點(diǎn)轉(zhuǎn)移到相鄰的一個(gè)節(jié)點(diǎn),使信息分布在幾輪后達(dá)到均衡。在圖結(jié)構(gòu)數(shù)據(jù)中,每個(gè)節(jié)點(diǎn)的存在狀態(tài)并不是相互獨(dú)立的,節(jié)點(diǎn)與節(jié)點(diǎn)之間是相互聯(lián)系與依存的關(guān)系。圖上卷積運(yùn)算的空間方法是在節(jié)點(diǎn)域直接定義聚合函數(shù)[29],在更新中心節(jié)點(diǎn)的狀態(tài)信息時(shí),利用了其相鄰節(jié)點(diǎn)的狀態(tài)信息,通過一定的規(guī)則將鄰居節(jié)點(diǎn)的信息,也就是特征,匯聚到中心節(jié)點(diǎn)上。通常來說,對于節(jié)點(diǎn)間特征的匯聚規(guī)則,可以加入一個(gè)線性變換矩陣W,作為一種匯聚節(jié)點(diǎn)特征的映射關(guān)系,即

    (1)

    式中,U是節(jié)點(diǎn)V鄰域N(V)中的節(jié)點(diǎn);H(l)是第l層節(jié)點(diǎn)的特征。如果加上激活函數(shù),式(1)可以表達(dá)為

    H(l+1)=σ(AH(l)W(l))

    (2)

    式中,σ(·)是非線性激活函數(shù);A是圖的鄰接矩陣,表示節(jié)點(diǎn)間的鄰接關(guān)系;H(l+1)是經(jīng)第l層匯聚后節(jié)點(diǎn)特征的輸出。

    文獻(xiàn)[30]提出了一種用于圖中節(jié)點(diǎn)分類的圖卷積模型,本文借助于其提出的圖上卷積運(yùn)算的方式,將其應(yīng)用到面狀居民地形狀分類模型中,其中圖上的卷積運(yùn)算如下

    (3)

    1.2 圖卷積神經(jīng)網(wǎng)絡(luò)

    本文借助于節(jié)點(diǎn)域中的圖卷積神經(jīng)網(wǎng)絡(luò)模型,通過疊加多個(gè)卷積層構(gòu)造了面狀居民地形狀分類模型。該模型是由多個(gè)疊加的卷積層和一個(gè)線性分類層構(gòu)成,將面狀居民地構(gòu)造成圖數(shù)據(jù)后提取居民地輪廓幾何特征,并將其作為圖中節(jié)點(diǎn)屬性,然后將帶有節(jié)點(diǎn)屬性和標(biāo)簽的圖輸入到GCN分類模型中,通過多個(gè)隱藏層逐層傳播,其中從第l層到第l+1層隱藏層的傳播計(jì)算方式如下

    (4)

    式中,N(i)是節(jié)點(diǎn)i的相鄰節(jié)點(diǎn)集合;ci,j是節(jié)點(diǎn)的度的平方根的乘積;W(l)是一個(gè)特定于層的可訓(xùn)練權(quán)重矩陣;b(l)∈R1×D是圖卷積網(wǎng)絡(luò)中的偏置系數(shù);σ(·)表示非線性激活函數(shù),例如ReLU(·)=max(0,·)。H(l)∈RN×D是第l層的特征矩陣,初始化為H(0)=X,X是圖中節(jié)點(diǎn)的輸入特征,N是圖的節(jié)點(diǎn)個(gè)數(shù),D是每個(gè)節(jié)點(diǎn)特征向量的維度。

    2 基于圖卷積神經(jīng)網(wǎng)絡(luò)的居民地形狀分類模型

    2.1 總體思路

    本文借助于圖卷積神經(jīng)網(wǎng)絡(luò)對于圖數(shù)據(jù)局部特征敏感的特點(diǎn),將其運(yùn)用到地理要素的形狀分類與認(rèn)知中,以圖結(jié)構(gòu)表達(dá)居民地的形狀特征,通過圖卷積運(yùn)算對特征進(jìn)行學(xué)習(xí)。本文以面狀居民地要素為例,將矢量數(shù)據(jù)的面狀居民地要素建模為圖數(shù)據(jù)結(jié)構(gòu),依據(jù)面狀居民地要素的形狀類別對相應(yīng)的圖進(jìn)行標(biāo)注,通過有監(jiān)督圖學(xué)習(xí)的方式,運(yùn)用圖卷積神經(jīng)網(wǎng)絡(luò)提取面狀居民地要素形狀的高維結(jié)構(gòu)特征,最后通過分類器對圖數(shù)據(jù)進(jìn)行分類,以此實(shí)現(xiàn)對面狀居民地形狀的分類。該過程的整體框架結(jié)構(gòu)如圖1所示,主要分為以下幾個(gè)步驟。

    圖1 基于圖卷積神經(jīng)網(wǎng)絡(luò)的面狀居民地形狀分類流程Fig.1 Flowchart of areal settlements shape classification based on graph convolutional neural networks

    (1) 圖構(gòu)建:以面狀居民地的輪廓多邊形描述實(shí)體居民地的形狀,將多邊形線段作為圖的節(jié)點(diǎn),以線段之間的連接關(guān)系作為邊,構(gòu)建圖結(jié)構(gòu),同時(shí)將圖按居民地的形狀劃分成不同的類別進(jìn)行標(biāo)注。

    (2) 提取節(jié)點(diǎn)特征:提取面狀居民地輪廓多邊形的幾何特征,作為節(jié)點(diǎn)的屬性。

    (3) 圖學(xué)習(xí):以包含節(jié)點(diǎn)屬性和標(biāo)注的圖作為輸入,對多層圖卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,預(yù)測居民地形狀的類別。

    2.2 居民地形狀圖的構(gòu)造及標(biāo)注

    利用圖卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行形狀分類的第1步是將面狀居民地實(shí)體構(gòu)建為圖結(jié)構(gòu)數(shù)據(jù),以實(shí)現(xiàn)面狀居民地矢量形狀的圖表達(dá)。本文采用面狀居民地實(shí)體的輪廓多邊形來描述其形狀,如圖2(a)所示,首先提取其輪廓多邊形,獲取組成面狀要素的頂點(diǎn)坐標(biāo),將其邊界按存儲(chǔ)的頂點(diǎn)坐標(biāo)劃分成線段。圖神經(jīng)網(wǎng)絡(luò)的節(jié)點(diǎn)一般代表網(wǎng)絡(luò)結(jié)構(gòu)中的個(gè)體,例如社交網(wǎng)絡(luò)中的人,軟件結(jié)構(gòu)網(wǎng)絡(luò)中的函數(shù)等,邊代表了個(gè)體之間的關(guān)系。具體到居民地形狀結(jié)構(gòu)而言,雖然其自然結(jié)構(gòu)可以看作圖結(jié)構(gòu),但居民地的主要信息蘊(yùn)含在邊及其關(guān)系上,邊界頂點(diǎn)只是表達(dá)了邊之間的相交與連接關(guān)系,基于此考慮,本文以居民地的輪廓多邊形線段作為最小形狀單元,同時(shí)將其作為圖數(shù)據(jù)的節(jié)點(diǎn),線段之間的連接關(guān)系作為邊,構(gòu)造成圖數(shù)據(jù)結(jié)構(gòu),如圖2(b)所示。

    圖2 面狀居民地輪廓形狀和圖結(jié)構(gòu)Fig.2 Areal settlement contour shape and its corresponding computation graph

    圖的標(biāo)注是對每個(gè)居民地構(gòu)建成的圖數(shù)據(jù)進(jìn)行形狀類型的標(biāo)注。根據(jù)格式塔原理,人在認(rèn)知一個(gè)物體時(shí),先是從整體上感知物體的全局形狀,然后深入到底層分析該物體的局部形狀細(xì)節(jié)。在實(shí)際中,對于形狀的辨別以人的主觀認(rèn)知為主對形狀進(jìn)行類別的劃分,本文采用文獻(xiàn)[24]中的人工標(biāo)注數(shù)據(jù)。

    2.3 節(jié)點(diǎn)特征的提取

    2.3.1 局部結(jié)構(gòu)特征

    節(jié)點(diǎn)的屬性特征提取直接影響著整個(gè)圖的形狀表達(dá)。在特征提取上,采用面狀居民地的輪廓多邊形構(gòu)造圖,主要通過描述輪廓多邊形線段的幾何特征和線段之間的空間關(guān)系,實(shí)現(xiàn)對面狀居民地整體形狀的描述。如圖3所示,其中節(jié)點(diǎn)P表示面狀居民地邊界線段AB,提取的特征包含:①邊界線段AB的長度L1;②邊界線段的方位角α。其中,L1表示由相鄰頂點(diǎn)A、B組成的線段長度,方位角α表示線段A、B在二維平面中的方向。本文中以正北方向的北端起,順時(shí)針轉(zhuǎn)至目標(biāo)直線的夾角,記為該直線的方位角,取值范圍是(0,360°)。

    圖3 節(jié)點(diǎn)P的局部特征提取Fig.3 Local features extraction of node P

    由于形狀特征在平移、旋轉(zhuǎn)和縮放下應(yīng)該保持不變,故需要對形狀特征進(jìn)行歸一化處理。對于邊界線段的長度L1,除以面狀居民地輪廓多邊形的周長D,進(jìn)行歸一化處理;依據(jù)方位角α的取值范圍,將方位角α除以360°進(jìn)行歸一化處理,具體如下

    (5)

    (6)

    2.3.2 整體結(jié)構(gòu)特征

    若僅在居民地輪廓多邊形上提取邊界線段的幾何特征,并不能完整地表達(dá)居民地的整體形態(tài)結(jié)構(gòu),故本文引入居民地形狀中心點(diǎn),將居民地邊界線段的中點(diǎn)與居民地形狀中心點(diǎn)相連,從而表達(dá)居民地的整體結(jié)構(gòu)特征。如圖4所示,連接居民地中心點(diǎn)與邊界線段AB的中點(diǎn)P,提取的特征包含:①線段OP的長度L2;②線段OP到OQ的轉(zhuǎn)向角β。轉(zhuǎn)向角β表示從OP到OQ的角度,逆時(shí)針方向?yàn)檎?,否則為負(fù)。

    圖4 節(jié)點(diǎn)P的整體特征提取Fig.4 Global features extraction of node P

    同理,需要對提取的特征進(jìn)行歸一化處理,將居民地中心點(diǎn)O到各線段中點(diǎn)的長度L2累加和記為S,將L2除以S進(jìn)行歸一化;依據(jù)轉(zhuǎn)向角β的取值范圍(-180°,+180°),故將轉(zhuǎn)向角β除以360°進(jìn)行歸一化,即

    (7)

    (8)

    在將面狀居民地構(gòu)造成圖結(jié)構(gòu)時(shí),需要將面狀居民地的輪廓形態(tài)也同時(shí)映射到圖結(jié)構(gòu)中。本文將面狀居民地的輪廓形態(tài)特征嵌入圖的節(jié)點(diǎn)中,用圖結(jié)構(gòu)表達(dá)面狀居民地的輪廓形狀。圖中節(jié)點(diǎn)的屬性承載著面狀居民地輪廓的局部和整體形態(tài)特征,由于面狀居民地形狀的不同,提取到的節(jié)點(diǎn)特征也是不同的。因此,在圖上進(jìn)行卷積運(yùn)算時(shí),可以從不同角度提取形狀的特征,在分類預(yù)測時(shí),通過全連接神經(jīng)網(wǎng)絡(luò)聚合形狀特征,并根據(jù)獲取的形狀概率值預(yù)測其類別。

    2.4 基于GCN的居民地圖分類模型結(jié)構(gòu)

    基于GCN的居民地圖分類模型如圖5所示,模型主要分為兩個(gè)部分,第1部分是圖的嵌入,該過程主要提取圖中節(jié)點(diǎn)的高維隱藏特征,通過卷積層的運(yùn)算,將一張圖中的節(jié)點(diǎn)特征聚合成整張圖的圖表示,然后將圖表示嵌入高維向量中;第2部分是圖分類過程,經(jīng)分類器將得到的高維向量進(jìn)行形狀類別的預(yù)測,完成居民地圖分類任務(wù)。圖5表示輸入一個(gè)batch的圖經(jīng)過圖卷積神經(jīng)網(wǎng)絡(luò)將圖嵌入高維向量中,每個(gè)batch有多個(gè)圖,每個(gè)圖得到一個(gè)嵌入向量,通過分類器對圖的類別進(jìn)行預(yù)測,每個(gè)圖根據(jù)數(shù)據(jù)集中所劃分的類別數(shù)得到對應(yīng)數(shù)量的概率預(yù)測值,本文試驗(yàn)數(shù)據(jù)集所劃分的類別數(shù)為10類,故每個(gè)圖都有10個(gè)概率預(yù)測值,表示該圖分別屬于每一類的概率,選擇其中概率值最大的作為其分類標(biāo)簽,圖5分別表示了屬于類別10和類別2的兩種情況。

    圖5 基于圖卷積神經(jīng)網(wǎng)絡(luò)的圖分類模型Fig.5 Graph classification model based on graph convolutional neural networks

    3 試驗(yàn)與分析

    3.1 試驗(yàn)環(huán)境與數(shù)據(jù)

    本文采用Python語言和Pytorch深度學(xué)習(xí)框架實(shí)現(xiàn)居民地形狀識別的圖卷積神經(jīng)網(wǎng)絡(luò)模型。所使用的平臺(tái)為Microsoft Win10 64位操作系統(tǒng),CPU Intel(R)Core(TM)i7-9700,主頻3.0 GHz,內(nèi)存16 GB,硬盤1024 GB。

    建筑物的形狀是由設(shè)計(jì)師和建筑師設(shè)計(jì)的,而英文字母的形狀在建筑物形狀中是很常見的,它們可以作為建筑物形狀類別的一種簡化形式的表達(dá),本文采用文獻(xiàn)[32]所述的面狀居民地的形狀類別劃分方法。本文試驗(yàn)所使用的數(shù)據(jù)來自O(shè)penStreetMap開源數(shù)據(jù)集,人工選取面狀居民地10種類型,包括E形、F形、I形、Y形等,具體形狀見表1,其中,每種類型有500個(gè),數(shù)據(jù)集樣本共5000個(gè),對于英文字母以外的不規(guī)則居民地形狀,本文暫未涉及。為了使試驗(yàn)結(jié)果更加具有客觀性,本文試驗(yàn)從10種類型的樣本中各隨機(jī)選取300個(gè),共3000個(gè)樣本作為訓(xùn)練集,在剩余的2000個(gè)樣本中隨機(jī)從每類中選擇100個(gè)居民地共1000個(gè)樣本作為驗(yàn)證集,余下的1000個(gè)樣本作為測試集,訓(xùn)練集、驗(yàn)證集,測試集劃分比例為6∶2∶2。

    本文試驗(yàn)中,從OSM獲取的數(shù)據(jù)集為矢量數(shù)據(jù),原始數(shù)據(jù)不能直接作為圖數(shù)據(jù)輸入到網(wǎng)絡(luò)模型中,需要根據(jù)原始的矢量數(shù)據(jù)提取面狀居民地的輪廓多邊形,以其輪廓多邊形線段構(gòu)造圖結(jié)構(gòu)。依據(jù)矢量數(shù)據(jù)在計(jì)算機(jī)中存儲(chǔ)的格式,提取每個(gè)面狀居民地的頂點(diǎn)坐標(biāo),頂點(diǎn)坐標(biāo)之間用線段連接構(gòu)成了面狀居民地的輪廓多邊形。依照2.2節(jié)中的方法,利用居民地的頂點(diǎn)坐標(biāo)構(gòu)造對應(yīng)的圖。同時(shí),依據(jù)居民地的形狀對構(gòu)造的圖進(jìn)行標(biāo)注,得到帶有標(biāo)簽的數(shù)據(jù)集。對于圖中節(jié)點(diǎn)的特征提取,依據(jù)2.3節(jié)中的方法提取對應(yīng)節(jié)點(diǎn)的屬性,同時(shí)將提取到的屬性賦予對應(yīng)節(jié)點(diǎn),完成圖數(shù)據(jù)的預(yù)處理。

    表1 數(shù)據(jù)集中面狀居民地的10種形狀類別

    3.2 模型結(jié)構(gòu)和參數(shù)設(shè)置

    本文試驗(yàn)使用的是一個(gè)5層的模型,其包含4個(gè)卷積層和1個(gè)線性分類層,如圖6所示。通過使用本文所提出的構(gòu)建居民地圖數(shù)據(jù)及提取節(jié)點(diǎn)屬性的方法,完成圖的構(gòu)造,然后將構(gòu)造的帶標(biāo)簽的圖分批次輸入模型,初始化權(quán)重參數(shù),并對模型參數(shù)進(jìn)行學(xué)習(xí),經(jīng)反向傳播更新權(quán)重參數(shù),最大迭代次數(shù)為350次,經(jīng)過試驗(yàn),選定模型學(xué)習(xí)率為0.005,訓(xùn)練批次為100。為了防止過擬合,在連續(xù)迭代次數(shù)為100次且驗(yàn)證集的精確度不再增大時(shí)則停止訓(xùn)練。

    圖6 居民地圖分類模型參數(shù)Fig.6 Parameters of areal settlements classification model

    在第1層圖輸入層中,輸入的特征維度是4,嵌入向量維度是128,經(jīng)過圖卷積運(yùn)算,將第1層輸出值傳給下一層,激活函數(shù)為ReLU函數(shù)。

    第2至4層的圖卷積層作為圖卷積神經(jīng)網(wǎng)絡(luò)的隱藏層,模型的輸入和輸出的向量維度是128,激活函數(shù)為ReLU函數(shù)。

    第5層是線性分類層,將隱藏層輸出的結(jié)果通過分類層進(jìn)行分類,輸出結(jié)果為居民地的形狀預(yù)測類別,分別對應(yīng)數(shù)據(jù)集中的形狀類別,該層以全連接神經(jīng)網(wǎng)絡(luò)和softmax函數(shù)作為分類層,全連接層函數(shù)如式(9)所示

    y=xAT+b

    (9)

    本文試驗(yàn)中訓(xùn)練集和驗(yàn)證集的訓(xùn)練結(jié)果如圖7所示,從試驗(yàn)結(jié)果可以得出,訓(xùn)練結(jié)束后損失值降為0.069,驗(yàn)證集準(zhǔn)確度率為92.3%,同時(shí)該模型在經(jīng)過250次的迭代之后,模型能夠很好地收斂。從準(zhǔn)確率為92.3%可以得出,該模型具有很好的泛化能力,對面狀居民地形狀的敏感度有很好的效果,能夠有效地對面狀居民地的形狀進(jìn)行分類。

    圖7 GCN網(wǎng)絡(luò)模型訓(xùn)練過程中損失值和準(zhǔn)確率的變化曲線Fig.7 Changing curve of loss and validation accuracy in GCN model training

    3.3 模型參數(shù)敏感度分析

    在本文試驗(yàn)中,分析了模型的超參數(shù)對模型準(zhǔn)確率的影響,其中包括訓(xùn)練批次數(shù)的大小、節(jié)點(diǎn)特征屬性的數(shù)量、模型的深度(隱藏層層數(shù))和形狀嵌入向量維度大小等。

    試驗(yàn)中,可以逐個(gè)輸入訓(xùn)練數(shù)據(jù)對模型訓(xùn)練,雖然這種每輸入一個(gè)數(shù)據(jù)就計(jì)算一次損失函數(shù),然后求梯度更新參數(shù)的方式訓(xùn)練速度比較快,但是模型訓(xùn)練結(jié)果不容易收斂,在梯度下降過程中參數(shù)的更新可能在最優(yōu)點(diǎn)附近來回震蕩,始終達(dá)不到最優(yōu)點(diǎn),兩次參數(shù)的更新也有可能互相抵消掉,造成目標(biāo)函數(shù)震蕩比較劇烈。若遍歷全部數(shù)據(jù)集計(jì)算一次損失函數(shù),然后計(jì)算函數(shù)對各個(gè)參數(shù)的梯度更新參數(shù),每更新一次參數(shù)都需要把數(shù)據(jù)集里的所有樣本遍歷一次,計(jì)算量大,對于模型的訓(xùn)練傳遞了較大的誤差更新,每次的參數(shù)更新過大,因此選擇合理的訓(xùn)練批次大小是非常重要的。為了克服這兩種方法的缺點(diǎn),在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練中一般采用分批次訓(xùn)練的方式,對此進(jìn)行了研究與分析,如圖8所示。

    由圖8可以看出,隨著訓(xùn)練批次的逐漸增大,模型訓(xùn)練結(jié)果的準(zhǔn)確率逐漸降低,訓(xùn)練批次的大小對模型的性能產(chǎn)生了較大的影響。在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練中,每次梯度的下降是由每一訓(xùn)練批次樣本數(shù)據(jù)總體來決定的。在試驗(yàn)中,對于訓(xùn)練批次小于1000的情況作了進(jìn)一步研究,改變訓(xùn)練批次的大小,觀察模型訓(xùn)練結(jié)果的準(zhǔn)確率,如圖9所示。由圖9可以看出,在訓(xùn)練批次從10增大到100時(shí),模型訓(xùn)練結(jié)果的準(zhǔn)確率改變程度并不明顯,對模型的性能影響較小;在訓(xùn)練批次從100增大到1000時(shí),模型訓(xùn)練結(jié)果的準(zhǔn)確率有明顯的降低。經(jīng)過試驗(yàn),最終選定模型的訓(xùn)練批次為100。

    圖8 訓(xùn)練批次數(shù)目對模型準(zhǔn)確率的影響Fig.8 Test of the different number of training batches

    圖9 不同訓(xùn)練批次模型的損失值Fig.9 The loss value of the model at different training batches number

    在模型的層數(shù)和形狀嵌入向量維度等其他超參數(shù)一定時(shí),還分析了使用不同數(shù)量的節(jié)點(diǎn)屬性對模型準(zhǔn)確率的影響。對于圖結(jié)構(gòu)數(shù)據(jù),有兩個(gè)重要特征影響著圖數(shù)據(jù):第一是圖的空間結(jié)構(gòu)特征,圖本身是非歐空間數(shù)據(jù),其不規(guī)則的空間結(jié)構(gòu)特征對圖中節(jié)點(diǎn)的鄰接關(guān)系以及節(jié)點(diǎn)間相互作用關(guān)系都有很大的影響;第二是圖中節(jié)點(diǎn)的屬性特征,節(jié)點(diǎn)的屬性特征表示了節(jié)點(diǎn)的狀態(tài)信息。本文在研究過程中,針對節(jié)點(diǎn)特征提取的客觀性作了探索,使用不同數(shù)量的節(jié)點(diǎn)特征對模型進(jìn)行訓(xùn)練,研究模型對于面狀居民地形狀的敏感度。本文試驗(yàn)中,在設(shè)定模型中卷積層層數(shù)為4,嵌入向量維度為128時(shí),以及其他條件不變的情況下改變節(jié)點(diǎn)的特征數(shù)量以研究所提取的居民地特征對于模型性能的影響。

    如圖10所示,在節(jié)點(diǎn)特征數(shù)為2時(shí),即僅以邊界線段的長度L1和方位角為特征α?xí)r,模型訓(xùn)練后的準(zhǔn)確率僅有63%左右。在逐個(gè)增加整體結(jié)構(gòu)特征L2和轉(zhuǎn)向角β后,由圖10可以看出,模型訓(xùn)練后的準(zhǔn)確率有明顯的提高,在由輪廓邊界上的特征數(shù)量逐漸增加整體結(jié)構(gòu)特征的過程中,可以得出居民地整體形態(tài)結(jié)構(gòu)對居民的地形狀有著較大的影響,由此可以說明所提取的居民地形狀特征的有效性。

    圖10 特征個(gè)數(shù)對準(zhǔn)確率的影響Fig.10 Test of the number of vertex attributes

    在模型的學(xué)習(xí)率為0.005、訓(xùn)練批次大小為100等條件一定時(shí),本文試驗(yàn)研究了模型的層數(shù)及形狀嵌入向量維度對模型性能的影響。由圖11可以看出,在一定條件下,通過增加模型的深度和形狀嵌入向量的維度可以提高模型分類的準(zhǔn)確率,但這也同樣增加了對計(jì)算資源的占用和模型訓(xùn)練的時(shí)間,并且由于模型采用反向傳播來更新權(quán)重參數(shù),如果模型復(fù)雜度過大會(huì)造成梯度消失或梯度爆炸。

    圖11 模型深度和向量維度對模型的影響Fig.11 Test of the number of hidden layer and vector dimension

    通過試驗(yàn)研究得出使模型最優(yōu)時(shí)的超參數(shù)后,進(jìn)一步研究了模型的深度對模型性能的影響。在模型的其他超參數(shù)一定時(shí),如訓(xùn)練批次為100、節(jié)點(diǎn)特征數(shù)量為4、嵌入向量維度為128、學(xué)習(xí)率為0.005且最大迭代次數(shù)為350次時(shí),研究模型深度對模型性能的影響。如圖12所示,在試驗(yàn)中,以模型分類的準(zhǔn)確率作為評價(jià)模型性能好壞的指標(biāo)。圖12中的數(shù)據(jù)說明,在一定的范圍內(nèi),增大模型深度,能夠提高模型對于形狀識別的準(zhǔn)確率。

    圖12 模型深度對模型性能的影響Fig.12 The results of different hidden layers

    對于該模型來說,當(dāng)模型層數(shù)為4層卷積層,權(quán)重維度為128時(shí),模型的性能相對最好,模型分類的準(zhǔn)確率為92.3%。同樣,在模型深度為5層,權(quán)重維度為256時(shí),模型的性能也比較不錯(cuò),模型準(zhǔn)確率為91.7%,但是隨著增加模型的深度和權(quán)重的維度,模型結(jié)構(gòu)變得更加復(fù)雜,易造成過擬合現(xiàn)象,這會(huì)削弱模型的泛化能力。

    3.4 分類準(zhǔn)確率分析

    為了衡量居民地形狀分類模型的好壞,需要給定一個(gè)測試集,用模型對測試集中的每一個(gè)樣本進(jìn)行預(yù)測,并根據(jù)模型預(yù)測分類的結(jié)果計(jì)算評價(jià)得分。對于分類問題,常見的評價(jià)標(biāo)準(zhǔn)有準(zhǔn)確率、精確率、召回率和F1值等。本文使用準(zhǔn)確率評價(jià)模型對所有類別整體分類的好壞,對于每個(gè)類的性能估計(jì),使用精確率(P)和召回率(R)進(jìn)行評估(表2)。精確率也叫精度或查準(zhǔn)率,一個(gè)類別的查準(zhǔn)率是所有預(yù)測為該類的樣本中預(yù)測正確的比例;召回率也叫查全率,一個(gè)類別的查全率是所有真實(shí)標(biāo)簽為該類的樣本中預(yù)測正確的比例。F1值為查準(zhǔn)率和召回率的調(diào)和均值,表示在兩者同樣重要時(shí)給出的一種指標(biāo)。

    (10)

    (11)

    (12)

    表2 模型分類數(shù)據(jù)統(tǒng)計(jì)

    由表2可知,該模型對于10種類型的居民地形狀有很好的分類效果,模型在精確率和召回率上都有很好的體現(xiàn),說明該方法在判斷居民地形狀類別方面有很大的優(yōu)勢。

    為了對比圖卷積神經(jīng)網(wǎng)絡(luò)與其他類似方法的差異,本文分別采用多層感知機(jī)(multilayer perceptron,MLP)和支持向量機(jī)(support vector machine,SVM)進(jìn)行了對比試驗(yàn)。由于面狀居民地輪廓多邊形頂點(diǎn)數(shù)目的不一致性,在使用MLP和SVM算法時(shí),無法統(tǒng)一輸入層的神經(jīng)元數(shù)目,故本文中將面狀居民地的輪廓頂點(diǎn)增密到64個(gè),節(jié)點(diǎn)的特征提取數(shù)量為4,輸入的特征維度為256(64×4)。在試驗(yàn)中,MLP算法采用了3層結(jié)構(gòu),輸入為256維的特征向量,隱藏層為128,得到64×10維度的嵌入向量,MLP模型的訓(xùn)練結(jié)果如圖13所示。

    圖13 MLP模型訓(xùn)練準(zhǔn)確率Fig.13 Training accuracy of MLP model

    在SVM算法對比測試中,借助于Python中的scikit-learn庫實(shí)現(xiàn)SVM算法模型,優(yōu)化機(jī)器學(xué)習(xí)算法的參數(shù)值,能有效地提高模型的性能。在SVM算法中,模型性能主要受核函數(shù)(kernel)、懲罰系數(shù)C以及gamma值的影響。懲罰系數(shù)C是對誤差的寬容度,C值越大,說明越不能容忍出現(xiàn)誤差,容易過擬合;C值過小,容易欠擬合。C值過大或過小,都會(huì)使模型的泛化能力變差。gamma是選擇RBF函數(shù)作為核函數(shù)后,該函數(shù)自帶的一個(gè)參數(shù),隱含地決定了數(shù)據(jù)映射到新的特征空間后的分布。gamma越大,支持向量越少;gamma值越小,支持向量越多,支持向量的個(gè)數(shù)影響模型訓(xùn)練與預(yù)測的速度。在試驗(yàn)中,選擇RBF函數(shù)作為核函數(shù),經(jīng)過試驗(yàn)選擇了合適的懲罰系數(shù)C和gamma值,其中懲罰系數(shù)C為100,gamma值為1,具體試驗(yàn)結(jié)果如圖14所示。

    圖14 SVM模型訓(xùn)練準(zhǔn)確率Fig.14 Training accuracy of SVM model

    在對比試驗(yàn)上得到較優(yōu)結(jié)果后,在測試集上進(jìn)行測試,GCN、MLP和SVM算法的居民地形狀分類結(jié)果見表3。

    表3 模型試驗(yàn)結(jié)果對比

    在機(jī)器學(xué)習(xí)領(lǐng)域,MLP和SVM都常用于分類任務(wù)中,在居民地形狀分類任務(wù)中,圖卷積神經(jīng)網(wǎng)絡(luò)的分類結(jié)果是遠(yuǎn)高于這兩種分類方法的。這是因?yàn)榫用竦匦螤疃噙呅卧诮閳D結(jié)構(gòu)后能夠最大程度地提取、保留居民地的空間幾何特征。在圖卷積運(yùn)算的過程中,居民地形狀信息在兩個(gè)層次上進(jìn)行聚合和傳遞,一個(gè)是頂點(diǎn)內(nèi)部的屬性經(jīng)過維度擴(kuò)展(從4維擴(kuò)展到128維),實(shí)現(xiàn)了更高分辨率的屬性表達(dá);另一個(gè)是頂點(diǎn)間屬性聚合及傳遞,實(shí)現(xiàn)了相鄰節(jié)點(diǎn)形狀特征的組合與提取。而多層圖卷積神經(jīng)網(wǎng)絡(luò)的串行連接,則保證了高階、遠(yuǎn)距離形狀特征的聚合,故屬性信息的維度擴(kuò)展和多層卷積網(wǎng)絡(luò)都對最終的分類效果提供了明顯的增益效果。此外,GCN在卷積的過程中充分考慮了居民地形狀計(jì)算圖的拓?fù)浣Y(jié)構(gòu),通過局域特征的多層次提取來實(shí)現(xiàn)圖信息的編碼表達(dá),而MLP和SVM顯然在這些方面難以企及。

    3.5 應(yīng)用

    為驗(yàn)證模型的可用性,應(yīng)用本文中的居民地圖形狀分類模型對鄭州市部分居民地的形狀進(jìn)行識別,試驗(yàn)數(shù)據(jù)來自O(shè)penStreetMap(OSM)。在鄭州市居民地矢量圖中,本文選取了部分居民地作為測試對象,如圖15中紫色部分,測試樣本數(shù)據(jù)集中共包含431個(gè)樣本,人工對選取的居民地進(jìn)行標(biāo)注,用訓(xùn)練好的模型對該數(shù)據(jù)集進(jìn)行分類,分類結(jié)果準(zhǔn)確率能達(dá)到85.0%左右,精確率為85.1%,召回率為87.7%,模型分類結(jié)果見表4。由圖15可以看出,在實(shí)際中建筑物多以矩形為主要,存在類型間數(shù)量不均衡的現(xiàn)象。

    圖15 鄭州市試驗(yàn)數(shù)據(jù)Fig.15 Experimental data of Zhengzhou

    綜合前文訓(xùn)練階段的數(shù)據(jù)來看,測試集上的模型分類結(jié)果要優(yōu)于試驗(yàn)集,例如測試集的F1主要集中在88.0%~99.5%,見表2;但是在鄭州市試驗(yàn)集上得到的F1分布在33.3%~98.2%之間,見表4。這主要是因?yàn)槟P陀?xùn)練和測試所用的數(shù)據(jù)集與鄭州市試驗(yàn)數(shù)據(jù)集是不同源的兩個(gè)數(shù)據(jù)集。在模型訓(xùn)練和測試時(shí),數(shù)據(jù)集中的10種居民地類型數(shù)量相等,數(shù)據(jù)分布較為均勻;類型內(nèi)不同居民地間的差異性不大,具體見表1。在鄭州市試驗(yàn)數(shù)據(jù)集上,選取的是自然居民地?cái)?shù)據(jù),該數(shù)據(jù)主要集中在同一片區(qū)域內(nèi),數(shù)據(jù)分布不均勻,見表2,這造成了10種形狀類型的數(shù)量各不相同,且類型內(nèi)居民地形狀差異也比較大;試驗(yàn)數(shù)據(jù)集中F形和Y形的居民地?cái)?shù)量明顯低于其他類型居民地,過少的樣本對試驗(yàn)準(zhǔn)確率造成了較大的影響,故在試驗(yàn)數(shù)據(jù)集上的F1與測試集上的F1差異較大。在下一步的研究中,將會(huì)進(jìn)一步增大訓(xùn)練集和試驗(yàn)數(shù)據(jù)集,以便更加客觀地體現(xiàn)模型分類的準(zhǔn)確率。

    表4 鄭州市部分居民地分類統(tǒng)計(jì)

    4 結(jié) 語

    面狀居民地形狀認(rèn)知與分類對于不同比例尺地形圖下居民地的選取、化簡及匹配等問題都有重大意義。針對面狀居民地典型形狀的認(rèn)知與分類等問題,本文提出一種基于圖卷積神經(jīng)網(wǎng)絡(luò)的面狀居民地形狀分類方法。該方法以面狀居民地要素的輪廓多邊形作為構(gòu)建計(jì)算圖的基礎(chǔ),以面狀居民地的輪廓多邊形線段作為最小單元,提取輪廓多邊形線段的幾何特征作為計(jì)算圖的節(jié)點(diǎn)屬性特征,以圖結(jié)構(gòu)表達(dá)面狀居民地的輪廓形狀特征,將帶有標(biāo)簽和節(jié)點(diǎn)屬性的圖作為GCN分類模型的輸入,通過有監(jiān)督訓(xùn)練,利用圖卷積神經(jīng)網(wǎng)絡(luò)對高維形狀特征進(jìn)行分辨,實(shí)現(xiàn)面狀居民地的形狀分類。試驗(yàn)結(jié)果表明,依據(jù)地理空間中的矢量數(shù)據(jù)構(gòu)造計(jì)算圖,能夠有效地利用圖結(jié)構(gòu)表達(dá)面狀居民地的輪廓形狀特征,圖卷積神經(jīng)網(wǎng)絡(luò)能夠明顯地區(qū)分出具有不同屬性和結(jié)構(gòu)的圖,能夠有效地的實(shí)現(xiàn)面狀矢量數(shù)據(jù)典型形狀的認(rèn)知和分類任務(wù)。

    該方法以端到端的模式實(shí)現(xiàn)了居民地形狀分類的過程,克服了人為設(shè)置指標(biāo)的不足;此外,通過真實(shí)數(shù)據(jù)集的驗(yàn)證,證明該方法能有效地識別出類別內(nèi)的字母型面狀居民地。但本文方法對于類別外的不規(guī)則面狀居民地形狀還無法做出判斷,這將是后續(xù)要改進(jìn)的主要工作之一,擬采用聚類和圖神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法深入研究;此外,今后的研究工作還將嘗試提高模型的分類準(zhǔn)確率,如嘗試其他圖神經(jīng)網(wǎng)絡(luò)類型、增大樣本的數(shù)據(jù)量、更加充分地描述矢量數(shù)據(jù)的局部以及整體特征等。

    猜你喜歡
    分類特征模型
    一半模型
    分類算一算
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權(quán)M-估計(jì)的漸近分布
    如何表達(dá)“特征”
    不忠誠的四個(gè)特征
    分類討論求坐標(biāo)
    數(shù)據(jù)分析中的分類討論
    教你一招:數(shù)的分類
    抓住特征巧觀察
    国产老妇女一区| 男女视频在线观看网站免费| 精品无人区乱码1区二区| 欧美色欧美亚洲另类二区| 在线观看美女被高潮喷水网站 | 欧美bdsm另类| 制服丝袜大香蕉在线| 国产中年淑女户外野战色| 男女那种视频在线观看| 999久久久精品免费观看国产| 久久精品国产亚洲av香蕉五月| 18禁美女被吸乳视频| 国产美女午夜福利| 制服人妻中文乱码| 欧美区成人在线视频| 国内揄拍国产精品人妻在线| 狠狠狠狠99中文字幕| 亚洲成a人片在线一区二区| 久久久久久久久中文| 成人av一区二区三区在线看| 日本精品一区二区三区蜜桃| av女优亚洲男人天堂| av黄色大香蕉| 欧美日韩综合久久久久久 | 亚洲无线观看免费| 少妇人妻一区二区三区视频| 亚洲七黄色美女视频| 成年免费大片在线观看| 欧美+日韩+精品| 亚洲精品一卡2卡三卡4卡5卡| 日日夜夜操网爽| 午夜久久久久精精品| 老司机福利观看| 老司机午夜福利在线观看视频| 国产综合懂色| 激情在线观看视频在线高清| 国产精品98久久久久久宅男小说| 中文资源天堂在线| 每晚都被弄得嗷嗷叫到高潮| 中文字幕人妻丝袜一区二区| tocl精华| 日日夜夜操网爽| 每晚都被弄得嗷嗷叫到高潮| www.999成人在线观看| 亚洲五月天丁香| 国产淫片久久久久久久久 | 九色成人免费人妻av| 国内久久婷婷六月综合欲色啪| 国产亚洲av嫩草精品影院| 中国美女看黄片| 99riav亚洲国产免费| 少妇熟女aⅴ在线视频| 怎么达到女性高潮| 免费观看精品视频网站| 真实男女啪啪啪动态图| 亚洲av电影在线进入| 19禁男女啪啪无遮挡网站| 亚洲性夜色夜夜综合| 国产一区二区在线观看日韩 | 国产激情偷乱视频一区二区| 久久久久久久亚洲中文字幕 | www日本黄色视频网| 日韩 欧美 亚洲 中文字幕| 精品久久久久久成人av| 最近在线观看免费完整版| 国产精品久久久久久人妻精品电影| 国产精品 国内视频| 精品午夜福利视频在线观看一区| 变态另类成人亚洲欧美熟女| 99在线人妻在线中文字幕| 欧美色视频一区免费| 最新美女视频免费是黄的| 熟女电影av网| 国产一区二区激情短视频| 国产真实乱freesex| 99久久精品国产亚洲精品| 91久久精品国产一区二区成人 | 欧美乱码精品一区二区三区| 精品免费久久久久久久清纯| АⅤ资源中文在线天堂| 亚洲av成人av| 两个人视频免费观看高清| 黄片大片在线免费观看| 老鸭窝网址在线观看| 国产精品女同一区二区软件 | 一本精品99久久精品77| 一卡2卡三卡四卡精品乱码亚洲| 一本精品99久久精品77| 国产探花极品一区二区| 国产精品亚洲一级av第二区| 日韩欧美国产一区二区入口| 男女做爰动态图高潮gif福利片| 成人特级av手机在线观看| 色精品久久人妻99蜜桃| 日韩欧美国产在线观看| ponron亚洲| 香蕉av资源在线| 午夜福利免费观看在线| 午夜亚洲福利在线播放| 51午夜福利影视在线观看| 亚洲精品色激情综合| 性色avwww在线观看| 亚洲人成伊人成综合网2020| 天堂网av新在线| 中文字幕av成人在线电影| 欧美性猛交╳xxx乱大交人| 又爽又黄无遮挡网站| 婷婷亚洲欧美| 丰满人妻一区二区三区视频av | 国产精品99久久久久久久久| www.色视频.com| 俺也久久电影网| 天堂网av新在线| 一区二区三区高清视频在线| 日本免费a在线| 亚洲av不卡在线观看| 欧美日韩精品网址| 国产免费av片在线观看野外av| 色精品久久人妻99蜜桃| 看黄色毛片网站| 三级国产精品欧美在线观看| 九九久久精品国产亚洲av麻豆| a在线观看视频网站| 亚洲在线自拍视频| 亚洲乱码一区二区免费版| 亚洲精品国产精品久久久不卡| 国产精品久久久久久人妻精品电影| e午夜精品久久久久久久| 国产免费男女视频| 女人高潮潮喷娇喘18禁视频| 五月玫瑰六月丁香| 国产精品美女特级片免费视频播放器| 一区二区三区国产精品乱码| 午夜影院日韩av| 岛国在线免费视频观看| 国产探花在线观看一区二区| 欧美+亚洲+日韩+国产| 丰满乱子伦码专区| 午夜福利视频1000在线观看| www国产在线视频色| 国产在线精品亚洲第一网站| 久久久久国产精品人妻aⅴ院| 熟女电影av网| 欧美日韩中文字幕国产精品一区二区三区| 精品99又大又爽又粗少妇毛片 | 亚洲国产欧美网| 欧美日本亚洲视频在线播放| 日韩欧美免费精品| 精品熟女少妇八av免费久了| 最新美女视频免费是黄的| 两个人的视频大全免费| 最近最新中文字幕大全免费视频| 国产欧美日韩精品一区二区| 国产主播在线观看一区二区| tocl精华| 亚洲色图av天堂| 久久亚洲精品不卡| 极品教师在线免费播放| 国产单亲对白刺激| 国产乱人伦免费视频| 免费高清视频大片| 亚洲国产中文字幕在线视频| 亚洲精品在线观看二区| 嫁个100分男人电影在线观看| 少妇的逼水好多| 亚洲成人中文字幕在线播放| 日日干狠狠操夜夜爽| 午夜精品久久久久久毛片777| 美女 人体艺术 gogo| 99久久成人亚洲精品观看| 国产精品98久久久久久宅男小说| 九色成人免费人妻av| 老司机午夜福利在线观看视频| 成人特级黄色片久久久久久久| 亚洲av日韩精品久久久久久密| 亚洲第一欧美日韩一区二区三区| 九九在线视频观看精品| 欧美日韩中文字幕国产精品一区二区三区| 级片在线观看| 亚洲国产精品sss在线观看| 午夜免费激情av| 在线国产一区二区在线| 国内揄拍国产精品人妻在线| 日本撒尿小便嘘嘘汇集6| 少妇高潮的动态图| АⅤ资源中文在线天堂| 国产av一区在线观看免费| 国产爱豆传媒在线观看| 九九热线精品视视频播放| 麻豆国产av国片精品| 国产成人啪精品午夜网站| 亚洲一区二区三区不卡视频| 欧美黑人欧美精品刺激| 久9热在线精品视频| 久久伊人香网站| 欧美绝顶高潮抽搐喷水| 免费看a级黄色片| 国产欧美日韩精品亚洲av| 母亲3免费完整高清在线观看| 国产成人av教育| 在线观看舔阴道视频| 亚洲精品成人久久久久久| 啪啪无遮挡十八禁网站| 国产精品电影一区二区三区| 久久婷婷人人爽人人干人人爱| 国产成人aa在线观看| 国内精品一区二区在线观看| 天天添夜夜摸| 亚洲人成网站高清观看| 亚洲精品日韩av片在线观看 | 亚洲欧美日韩高清在线视频| 成人高潮视频无遮挡免费网站| 亚洲真实伦在线观看| www.www免费av| 色综合婷婷激情| 精品国产美女av久久久久小说| 给我免费播放毛片高清在线观看| 国产av一区在线观看免费| 一区二区三区激情视频| 国产精品久久久久久人妻精品电影| 日日摸夜夜添夜夜添小说| 一a级毛片在线观看| 别揉我奶头~嗯~啊~动态视频| 亚洲va日本ⅴa欧美va伊人久久| 97超视频在线观看视频| 欧洲精品卡2卡3卡4卡5卡区| 亚洲精品日韩av片在线观看 | 久久香蕉精品热| 成年女人永久免费观看视频| 一级黄片播放器| 美女被艹到高潮喷水动态| 亚洲一区二区三区色噜噜| 国产av不卡久久| 可以在线观看的亚洲视频| 色老头精品视频在线观看| 亚洲国产欧美人成| 久久久精品大字幕| 国产欧美日韩一区二区三| 最新在线观看一区二区三区| 两个人的视频大全免费| 一边摸一边抽搐一进一小说| 人人妻人人看人人澡| 午夜福利在线在线| 床上黄色一级片| 国产美女午夜福利| 真人做人爱边吃奶动态| 久久婷婷人人爽人人干人人爱| 免费在线观看成人毛片| 成人特级黄色片久久久久久久| 日本a在线网址| 99热精品在线国产| 美女黄网站色视频| 精品日产1卡2卡| 国产三级中文精品| 亚洲人成电影免费在线| 成年女人看的毛片在线观看| 亚洲精品影视一区二区三区av| 欧美日本视频| 亚洲精品粉嫩美女一区| 国产成人啪精品午夜网站| 亚洲 欧美 日韩 在线 免费| 琪琪午夜伦伦电影理论片6080| 国产av一区在线观看免费| 国产一级毛片七仙女欲春2| 久久精品综合一区二区三区| 中文字幕精品亚洲无线码一区| 亚洲国产欧美网| 日韩欧美三级三区| 国内久久婷婷六月综合欲色啪| 亚洲美女黄片视频| 三级毛片av免费| 精品国产超薄肉色丝袜足j| 18禁美女被吸乳视频| 一级毛片高清免费大全| 亚洲内射少妇av| 国产在视频线在精品| 18禁黄网站禁片免费观看直播| 亚洲成人久久爱视频| 欧美日韩精品网址| 亚洲aⅴ乱码一区二区在线播放| 亚洲国产欧美网| 亚洲熟妇中文字幕五十中出| 国产又黄又爽又无遮挡在线| 最新中文字幕久久久久| 亚洲人成电影免费在线| 国产精品乱码一区二三区的特点| 美女免费视频网站| 中国美女看黄片| 国产精品一区二区免费欧美| 人人妻,人人澡人人爽秒播| 一本一本综合久久| 国产精品亚洲av一区麻豆| 91在线观看av| 一a级毛片在线观看| 欧美在线一区亚洲| 欧美大码av| 美女大奶头视频| 国内精品久久久久久久电影| 成人国产一区最新在线观看| 国产精品嫩草影院av在线观看 | 国产精品亚洲av一区麻豆| 91字幕亚洲| 亚洲最大成人手机在线| 熟女电影av网| 午夜免费激情av| 婷婷精品国产亚洲av| 在线观看美女被高潮喷水网站 | 精品福利观看| 久久亚洲真实| 波野结衣二区三区在线 | 国产亚洲精品综合一区在线观看| 天堂√8在线中文| 午夜久久久久精精品| 午夜a级毛片| 久久草成人影院| 午夜免费成人在线视频| 午夜激情福利司机影院| 久久精品人妻少妇| 午夜精品久久久久久毛片777| 欧美三级亚洲精品| 午夜老司机福利剧场| 国产乱人伦免费视频| 国产高清有码在线观看视频| 欧美精品啪啪一区二区三区| 久久6这里有精品| 国产成+人综合+亚洲专区| 在线免费观看的www视频| 在线播放国产精品三级| 18禁黄网站禁片免费观看直播| 老司机午夜十八禁免费视频| 亚洲av成人不卡在线观看播放网| 给我免费播放毛片高清在线观看| 欧美日韩黄片免| 两个人视频免费观看高清| 日韩欧美在线乱码| 亚洲av电影在线进入| 亚洲av成人精品一区久久| 久久精品国产亚洲av香蕉五月| 中文字幕精品亚洲无线码一区| 久久国产精品影院| 欧美一区二区亚洲| 国产久久久一区二区三区| 不卡一级毛片| 亚洲欧美一区二区三区黑人| 欧美一级a爱片免费观看看| 亚洲成人中文字幕在线播放| 特大巨黑吊av在线直播| 一区福利在线观看| 中文字幕精品亚洲无线码一区| 欧美区成人在线视频| 午夜亚洲福利在线播放| 99热这里只有精品一区| 狂野欧美白嫩少妇大欣赏| 亚洲va日本ⅴa欧美va伊人久久| 深夜精品福利| 非洲黑人性xxxx精品又粗又长| 亚洲人成网站在线播放欧美日韩| 在线观看美女被高潮喷水网站 | 色播亚洲综合网| av女优亚洲男人天堂| 怎么达到女性高潮| 欧美日本亚洲视频在线播放| 青草久久国产| 人人妻人人看人人澡| 天堂动漫精品| 精品久久久久久久久久久久久| avwww免费| 99热6这里只有精品| 日本成人三级电影网站| 亚洲av电影在线进入| 国产又黄又爽又无遮挡在线| 午夜福利18| 十八禁人妻一区二区| 国产探花在线观看一区二区| 亚洲国产精品sss在线观看| 午夜亚洲福利在线播放| av黄色大香蕉| 亚洲自拍偷在线| 丝袜美腿在线中文| 中文字幕人妻熟人妻熟丝袜美 | 淫秽高清视频在线观看| 久久久国产成人精品二区| 午夜福利在线观看免费完整高清在 | а√天堂www在线а√下载| 人妻丰满熟妇av一区二区三区| 免费看a级黄色片| 18美女黄网站色大片免费观看| 免费人成在线观看视频色| 亚洲欧美日韩无卡精品| 在线观看午夜福利视频| 国产伦在线观看视频一区| 九九热线精品视视频播放| 一级毛片高清免费大全| 欧美一区二区亚洲| 亚洲国产日韩欧美精品在线观看 | 无限看片的www在线观看| 久久久久久久午夜电影| 亚洲午夜理论影院| 五月玫瑰六月丁香| xxxwww97欧美| 18+在线观看网站| 3wmmmm亚洲av在线观看| 午夜精品久久久久久毛片777| 亚洲 欧美 日韩 在线 免费| 在线观看午夜福利视频| 亚洲无线观看免费| 丰满的人妻完整版| 日本免费a在线| 日韩有码中文字幕| 伊人久久大香线蕉亚洲五| 国产精品 欧美亚洲| 天堂动漫精品| 日日摸夜夜添夜夜添小说| 亚洲精品国产精品久久久不卡| 日日摸夜夜添夜夜添小说| 亚洲无线在线观看| 国产精品亚洲美女久久久| 最近最新中文字幕大全免费视频| 小说图片视频综合网站| 欧美乱妇无乱码| 人妻夜夜爽99麻豆av| 18禁黄网站禁片午夜丰满| 99国产极品粉嫩在线观看| 国产69精品久久久久777片| www日本黄色视频网| 欧美国产日韩亚洲一区| 久久久久精品国产欧美久久久| 午夜a级毛片| 欧美大码av| 亚洲熟妇熟女久久| 久久精品国产综合久久久| 天堂√8在线中文| 99精品在免费线老司机午夜| 国产精品免费一区二区三区在线| 国产成人欧美在线观看| 又紧又爽又黄一区二区| 日韩人妻高清精品专区| 久久性视频一级片| 在线a可以看的网站| 久久久久九九精品影院| 欧美一区二区精品小视频在线| 精品无人区乱码1区二区| 美女大奶头视频| 久久伊人香网站| 男人舔女人下体高潮全视频| 国产成人欧美在线观看| 久久人人精品亚洲av| 成人av在线播放网站| 成人特级黄色片久久久久久久| 国产成年人精品一区二区| 人妻久久中文字幕网| 精品国产美女av久久久久小说| 啦啦啦观看免费观看视频高清| 亚洲av电影在线进入| 天天一区二区日本电影三级| 久久精品91无色码中文字幕| 12—13女人毛片做爰片一| 亚洲成a人片在线一区二区| 中文字幕人成人乱码亚洲影| 国产在线精品亚洲第一网站| 成年女人永久免费观看视频| 欧美乱码精品一区二区三区| 欧美一区二区国产精品久久精品| 99热精品在线国产| 天堂动漫精品| 人妻丰满熟妇av一区二区三区| 精品乱码久久久久久99久播| 99热精品在线国产| 欧美日韩乱码在线| 亚洲va日本ⅴa欧美va伊人久久| 日本免费a在线| 国产精品亚洲美女久久久| 舔av片在线| 一级毛片女人18水好多| 国产成年人精品一区二区| 黄色丝袜av网址大全| 国产蜜桃级精品一区二区三区| 亚洲天堂国产精品一区在线| 国产亚洲欧美在线一区二区| 色老头精品视频在线观看| 男女视频在线观看网站免费| 我的老师免费观看完整版| 可以在线观看的亚洲视频| 午夜福利高清视频| 国产精品美女特级片免费视频播放器| 精品人妻偷拍中文字幕| 成年人黄色毛片网站| 亚洲国产高清在线一区二区三| 欧美在线一区亚洲| 岛国在线观看网站| 男女之事视频高清在线观看| 99精品在免费线老司机午夜| 亚洲精品美女久久久久99蜜臀| 国产综合懂色| 天堂动漫精品| netflix在线观看网站| 长腿黑丝高跟| 精品国内亚洲2022精品成人| 他把我摸到了高潮在线观看| 成熟少妇高潮喷水视频| av欧美777| 亚洲精品乱码久久久v下载方式 | 国产精品久久久久久久久免 | 久久久久久大精品| 婷婷亚洲欧美| 成人性生交大片免费视频hd| 午夜福利欧美成人| 99热精品在线国产| 69av精品久久久久久| 国产精品98久久久久久宅男小说| 精品熟女少妇八av免费久了| 大型黄色视频在线免费观看| 三级毛片av免费| 亚洲国产高清在线一区二区三| 男插女下体视频免费在线播放| 国产高清视频在线播放一区| 成人亚洲精品av一区二区| 久久精品影院6| 少妇熟女aⅴ在线视频| 午夜精品在线福利| 国产爱豆传媒在线观看| aaaaa片日本免费| 日韩欧美精品v在线| 国产v大片淫在线免费观看| 国产不卡一卡二| 一级毛片女人18水好多| 成人午夜高清在线视频| 欧美最新免费一区二区三区 | 日韩欧美免费精品| 色av中文字幕| www日本黄色视频网| 亚洲精品456在线播放app | 国产色爽女视频免费观看| www.色视频.com| 国产成人av激情在线播放| 十八禁网站免费在线| 夜夜躁狠狠躁天天躁| 亚洲精品国产精品久久久不卡| 中文字幕av在线有码专区| 国产精品精品国产色婷婷| 一卡2卡三卡四卡精品乱码亚洲| 波多野结衣高清作品| 欧美日本视频| 国产亚洲av嫩草精品影院| 欧美av亚洲av综合av国产av| 色尼玛亚洲综合影院| 老汉色av国产亚洲站长工具| 亚洲无线观看免费| 欧美乱妇无乱码| av国产免费在线观看| 国产高清三级在线| 制服丝袜大香蕉在线| 岛国在线观看网站| 精品免费久久久久久久清纯| 亚洲中文字幕一区二区三区有码在线看| 欧美色视频一区免费| 免费无遮挡裸体视频| 免费看十八禁软件| 国产成+人综合+亚洲专区| 欧美在线一区亚洲| 国产精品99久久99久久久不卡| 亚洲无线在线观看| 亚洲成av人片在线播放无| 岛国视频午夜一区免费看| 免费人成在线观看视频色| 在线免费观看的www视频| 国内精品久久久久精免费| a级毛片a级免费在线| 午夜视频国产福利| 免费大片18禁| 色老头精品视频在线观看| 综合色av麻豆| 国产亚洲精品综合一区在线观看| av视频在线观看入口| 一个人看的www免费观看视频| 高清毛片免费观看视频网站| 夜夜看夜夜爽夜夜摸| 久99久视频精品免费| 女人高潮潮喷娇喘18禁视频| 最新在线观看一区二区三区| 在线观看一区二区三区| 亚洲第一电影网av| 亚洲精品粉嫩美女一区| 欧美日本视频| 日韩av在线大香蕉| 动漫黄色视频在线观看| 久久久久九九精品影院| 网址你懂的国产日韩在线| 亚洲欧美激情综合另类| 深夜精品福利| 白带黄色成豆腐渣| 国产视频内射| 男女床上黄色一级片免费看| 少妇高潮的动态图| 日本撒尿小便嘘嘘汇集6| 天堂动漫精品| 婷婷精品国产亚洲av| 亚洲一区高清亚洲精品| 国产av不卡久久| 亚洲va日本ⅴa欧美va伊人久久| 午夜老司机福利剧场| 国内少妇人妻偷人精品xxx网站| aaaaa片日本免费| www.999成人在线观看| 国产精品1区2区在线观看.| 欧美丝袜亚洲另类 | 亚洲无线观看免费| 免费看十八禁软件| 国产爱豆传媒在线观看| www.熟女人妻精品国产| 天美传媒精品一区二区| 亚洲 国产 在线| 国产aⅴ精品一区二区三区波| 琪琪午夜伦伦电影理论片6080| 特级一级黄色大片|