• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于ANN的新型MOFs性能預(yù)測①

    2021-10-11 06:46:14畢志遠(yuǎn)陽慶元俞度立
    關(guān)鍵詞:編碼氣體神經(jīng)網(wǎng)絡(luò)

    賴 欣,盧 罡,王 磊,畢志遠(yuǎn),陽慶元,俞度立,4

    1(北京化工大學(xué) 信息科學(xué)與技術(shù)學(xué)院,北京 100029)

    2(北京化工大學(xué) 信息科學(xué)與技術(shù)學(xué)院 智能無人系統(tǒng)研究中心,北京 100029)

    3(北京化工大學(xué) 有機(jī)無機(jī)復(fù)合材料國家重點(diǎn)實(shí)驗(yàn)室,北京 100029)

    4(北京化工大學(xué) 軟物質(zhì)科學(xué)與工程高精尖創(chuàng)新中心,北京 100029)

    近年來,以機(jī)器學(xué)習(xí)、深度學(xué)習(xí)為代表的人工智能理論和方法受到人們的廣泛關(guān)注.尤其是谷歌DeepMind 團(tuán)隊開發(fā)的AlphaGo,在圍棋領(lǐng)域中的精彩表現(xiàn)令人印象深刻[1,2].在此之后,DeepMind 又迅速對計算機(jī)視覺等領(lǐng)域做出了可喜成果[3].如今,機(jī)器學(xué)習(xí)已被廣泛應(yīng)用于自然語言處理[4,5]、數(shù)據(jù)挖掘[6]、證券市場分析[7]、機(jī)器人應(yīng)用[8,9]、醫(yī)學(xué)診斷[10,11]等領(lǐng)域.

    在材料科學(xué)領(lǐng)域,材料的各種反應(yīng)、合成中會產(chǎn)生海量的數(shù)據(jù),而將善于從海量數(shù)據(jù)中發(fā)掘規(guī)律的機(jī)器學(xué)習(xí)方法應(yīng)用于材料科學(xué)領(lǐng)域便順理成章[12,13].實(shí)驗(yàn)研究發(fā)現(xiàn),由于MOFs 具有較高的孔隙率和具有規(guī)律性、可組合性、多元性等特點(diǎn),能夠高效地通過計算機(jī)模擬預(yù)測MOFs 材料的物理化學(xué)性質(zhì)[14].通過GCMC (Grand Canonical Monte Carlo)分子模擬方法對MOFs 進(jìn)行高通量篩選已經(jīng)被證實(shí)是一種有效的實(shí)驗(yàn)手段[15,16].目前應(yīng)用的分子模擬方法主要有分子動力學(xué)、蒙特卡羅、密度泛函理論等.在探尋物理化學(xué)性能優(yōu)秀的MOFs 材料過程中,需要對材料的結(jié)構(gòu)特性、物理性質(zhì)、化學(xué)性質(zhì)等進(jìn)行搜索分析,通??梢詰?yīng)用GCMC 分子模擬方法.然而,可能存在的MOFs結(jié)構(gòu)存在于一個近乎無窮大的樣本空間,要將所有MOFs 材料逐一進(jìn)行分子模擬計算,從而挑選出性能出眾的材料,其計算成本是無法估量的.近年來,人們已經(jīng)開始關(guān)注如何在準(zhǔn)確預(yù)測MOFs 性能基礎(chǔ)上,提高計算效率.Simon 研究組將少量MOFs 吸附材料放入綜合數(shù)據(jù)庫中,對其進(jìn)行GCMC 模擬,找出吸附材料的物理結(jié)構(gòu)特性與其對CH4吸附能力之間的關(guān)系[17].其中用到的MOFs 數(shù)據(jù)有Zeolites[18]、hypothetical MOFs(hMOFs)[19]、Porous Polymer Networks (PPNs)[20]、hypothetical Zeolitic Imidazolate Frameworks (hZIFs)[21]以及Computation-Ready Experimental (CoRE) MOF[22]等MOFs 材料數(shù)據(jù).材料數(shù)據(jù)包含多種性質(zhì)特征,利用機(jī)器學(xué)習(xí)挖掘其定量構(gòu)效關(guān)系(Quantitative Structure-Property Relationship,QSPR)[23],可將這些結(jié)構(gòu)性質(zhì)作為參數(shù),對材料分子的氣體吸附能力進(jìn)行回歸分析和預(yù)測.Fernandez 等通過晶體學(xué)的RDF 分析方法,利用RDF 得分評估MOF,同時利用多元線性回歸、支持向量機(jī)等方法,構(gòu)建了處于不同壓力環(huán)境下,MOFs 材料針對CO2、N2與CH4的氣體吸附與RDF得分的QSPR模型[24].之后,Fernandez 小組利用孔隙率和孔徑等物理結(jié)構(gòu)變量,預(yù)測MOFs對CH4的吸收,并在實(shí)驗(yàn)中得到R2=0.85的結(jié)果[25].Fernandez 等還應(yīng)用了分類方法,基于QSPR預(yù)測表現(xiàn)最佳的CO2吸附MOFs 材料,達(dá)到94.5%的準(zhǔn)確率[26].Sezginel 等經(jīng)過QSPR 分析,提出一種多變量線性模型,利用該模型與MOFs的結(jié)構(gòu)特性,包括表面積、晶體密度、孔隙率、孔徑以及等量熱吸附(Qst),預(yù)測出MOFs 吸附劑對CH4的吸收能力,實(shí)驗(yàn)結(jié)果發(fā)現(xiàn),孔隙率與等量熱吸附是影響MOFs 氣體吸附能力的關(guān)鍵因素[27].Chung 等利用遺傳算法,對捕獲CO2的MOFs進(jìn)行篩選,在計算效率上獲得了50 倍左右的提升[28].這些工作在材料篩選效率上有著出色的表現(xiàn).

    本文工作受到Chung 等2016年關(guān)于遺傳算法(Genetic Algorithm,GA)方面工作[28]的啟發(fā).他們在材料數(shù)據(jù)庫中通過遺傳算法進(jìn)行材料篩選,但是對于遺傳算法生成的庫中沒有的新個體并未進(jìn)行進(jìn)一步的評估.本文用原始MOFs 數(shù)據(jù)集訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN),并用ANN對遺傳算法生成的新型MOFs 個體的性能進(jìn)行預(yù)測評估,從而搜索對CH4氣體具有較高吸附性的MOFs.我們首先通過GCMC 模擬計算文獻(xiàn)[28]中數(shù)據(jù)集的每個MOFs在一定條件下對于CH4氣體的吸附性能,然后用該結(jié)果訓(xùn)練一個ANN,使其能夠評估和預(yù)測MOFs 基因與CH4氣體吸附性之間的構(gòu)效關(guān)系.實(shí)驗(yàn)結(jié)果表明,基于ANN 搜索并預(yù)測的材料吸附性能平均表現(xiàn)優(yōu)于原始材料數(shù)據(jù)庫中的最優(yōu)材料,證實(shí)了該方法的可行性和有效性.

    1 面向GA和ANN的MOFs 數(shù)據(jù)集

    1.1 針對MOFs 材料數(shù)據(jù)進(jìn)行基因編碼

    為了通過GA 搜索新型MOFs,需要根據(jù)MOF的特征設(shè)計GA 所需的基因編碼.為MOFs 進(jìn)行基因編碼的方式?jīng)]有特定的規(guī)則,但應(yīng)能夠盡量反映MOFs的結(jié)構(gòu)特征及各組分、配體之間的組合特征,從而在GA 運(yùn)行過程中,基因編碼的變化能夠反映出MOFs 組合結(jié)構(gòu)的變化.

    本文的原始數(shù)據(jù)來自于WLLFHS hMOF 數(shù)據(jù)集[19].該數(shù)據(jù)集中MOFs的參數(shù)由Wilmer 研究組匯編和驗(yàn)證,具有豐富多樣的MOFs 材料結(jié)構(gòu),適合進(jìn)行分子模擬篩選與機(jī)器學(xué)習(xí)分析.文獻(xiàn)[28] 將該數(shù)據(jù)集中的MOFs 進(jìn)行基因編碼,該編碼利用6 個整數(shù)作為“基因”,每個“基因”都表示了一種分子的特性或者功能[28].本文沿用該基因編碼,具體設(shè)定如下:

    第1 位基因,表示潛在互穿能力,共4 種,用0 至3的整數(shù)表達(dá);第2 位基因,表示實(shí)際互穿能力,共4 種,用0 至3的整數(shù)表達(dá);第3 位基因,表示無機(jī)配體,共5 種,用0 至4的整數(shù)表達(dá);第4 位基因,表示主要有機(jī)連接單元,共40 種,用0 至39的整數(shù)表達(dá);第5 位基因,表示次要有機(jī)連接單元,共40 種,用0 至39的整數(shù)表達(dá);第6 位基因,表示化學(xué)官能團(tuán),共15 種,用0 至14的整數(shù)表達(dá).

    根據(jù)上述設(shè)定,MOFs 材料的搜索空間大小為:4×4×5×40×40×15=1920 000.在這種編碼方式下,構(gòu)象異構(gòu)體之間以及只有官能團(tuán)定位不同的MOFs 之間具有相同的基因編碼.Chung 等[28]分析發(fā)現(xiàn),構(gòu)象異構(gòu)體之間、只有官能團(tuán)定位不同的MOFs 之間不僅結(jié)構(gòu)類似,化學(xué)性能也相當(dāng).因此,他們從類似的MOFs中選擇一個作為代表,縮減數(shù)據(jù)集的規(guī)模.最終,文獻(xiàn)[28]整理了具有51 163 個MOF 基因編碼的數(shù)據(jù)集.

    1.2 計算對CH4 氣體的吸附值

    在文獻(xiàn)[28]整理的數(shù)據(jù)集基礎(chǔ)上,我們進(jìn)一步采用自主開發(fā)的力場參數(shù)和自主研發(fā)的模擬計算軟件,通過GCMC 模擬計算其中每個MOFs在298 K (K為開爾文,熱力學(xué)溫度單位,下同)條件下對CH4氣體的吸附能力.

    MOF 材料和氣體分子之間的相互作用采用范德華力(vdW)和庫侖勢的組合來表示[29].其中范德華力采用Lennard-Jones (LJ)方程描述.LJ 勢能參數(shù)取自UFF 力場,CH4分子勢能參數(shù)取自TraPPE 力場.不同原子之間的LJ 勢能參數(shù)采用Lorentz-Berthelot 混合規(guī)則計算.

    在前期的研究工作中,我們利用量子密度泛函和Monte Carlo 模擬相結(jié)合的跨尺度手段開發(fā)出了新的力場[30],其中基于量子力學(xué)層次的密度泛函理論(Density Functional Theory,DFT)[31]計算被用于確定材料與氣體分子之間的精確相互作用參數(shù).DFT 計算基于Materials Studio 軟件中的Dmol3 模塊,采用GGA 交換泛函Perdew-Burke-Ernzerhof (PBE)和含軌道極化函數(shù)的雙數(shù)值軌道基組(DNP),并結(jié)合Grimme的色散校正作用(DFT-D2),對MOF 中獲取的模型簇進(jìn)行優(yōu)化,并計算出不同距離下無機(jī)單元與CH4之間的相互作用能.在此基礎(chǔ)上,通過Monte Carlo 模擬實(shí)現(xiàn)了MOFs對CH4氣體在298 K 條件下吸附量的量化,計算得到了數(shù)據(jù)集中每個MOF對CH4氣體的吸附值.

    本文基于自主研發(fā)的模擬計算軟件HT-CADSS(http://jshx.buct.edu.cn/yjcg/bzxcg/86799.htm),采用GCMC 方法研究了298 K 條件下,文獻(xiàn)[28]的數(shù)據(jù)集中51 163 個MOFs對CH4氣體的吸附能力.在GCMC 模擬中,采用Peng-Robinson (PR)方程將壓力轉(zhuǎn)換為逸度作為計算的輸入值.所有的MOFs 均視為剛性材料,并在三維尺度上采用周期性邊界條件.計算范德華作用的截斷半徑(cut-off)設(shè)置為1.4 nm.對于每一個吸附模擬過程,模擬總步數(shù)為3000 萬步,前1500 萬步用于系統(tǒng)平衡,后1500 萬步用于獲得熱力學(xué)性質(zhì)的統(tǒng)計平均值.對CH4單組分吸附模擬,涉及分子的平移、插入和刪除.在無限稀釋條件下,MOF 骨架與氣體分子之間相互作用力的相對強(qiáng)弱采用無限稀釋吸附熱進(jìn)行表征.無限稀釋吸附熱采用基于正則系綜(NVT)的Widom測試粒子方法[32]計算.

    經(jīng)過以上的計算,最終得到51 163 個經(jīng)過基因編碼的MOFs對CH4氣體的吸附值,最大為528,其基因編碼為2-0-0-29-29-12.數(shù)據(jù)示例如表1所示.

    表1 數(shù)據(jù)示例

    1.3 單特征分析

    1.1 節(jié)中,一個MOF 被編碼成了一個具有6 個基因的染色體,6 個基因分別代表了它的6 個結(jié)構(gòu)特征.本節(jié)中,我們分別分析了這6 個特征與MOFs的CH4氣體吸附能力之間的構(gòu)效關(guān)系,結(jié)果如圖1所示.

    圖1(a)為MOFs 潛在互穿能力與MOFs對CH4氣體吸附能力的關(guān)系.WLLFHS 數(shù)據(jù)庫以材料結(jié)構(gòu)的多樣性著稱,因此,具有不同潛在互穿能力的MOFs在CH4氣體吸附能力上分布較為均勻,體現(xiàn)了該數(shù)據(jù)集中樣本的多樣性和完整性.圖1(b)顯示了在實(shí)際互穿能力的維度上,數(shù)據(jù)集中MOFs對CH4氣體吸附能力的分布.可以看到,實(shí)際互穿能力越高的MOFs對CH4氣體吸附能力相對越差.這是由于互穿較多的MOFs穩(wěn)定性較高,一定程度上阻礙了氣體分子的吸附[33].對于圖1(c)中的無機(jī)節(jié)點(diǎn)而言,帶有鋅或銅槳輪與對位連接的MOFs,在分析結(jié)果中表現(xiàn)出更強(qiáng)的CH4氣體吸附性能,這是由于部分MOFs 材料在活化的過程中,遇金屬簇配位溶劑分子或水分子易脫落,形成不飽和金屬位點(diǎn),從而增強(qiáng)了對CH4氣體的吸附作用.另外,研究表明,當(dāng)MOFs 材料與水接觸時,結(jié)構(gòu)的結(jié)晶性會在一定時間內(nèi)消失.大多數(shù)情況下,水的存在是不可避免的,具有二價金屬離子(例如Zn2+和Cu2+)的MOF在有水的情況下極易出現(xiàn)這種不穩(wěn)定性[34,35].主有機(jī)連接單元與次有機(jī)連接單元對MOFs的CH4氣體吸附性能的影響分別如圖1(d)和圖1(e).可以看到,表現(xiàn)良好的有機(jī)連接單元主要集中在12-30 號區(qū)間內(nèi),而31-39號有機(jī)連接單元在低性能MOFs 中缺失.圖1(f)顯示,含有0 號、7 號、10 號、12 號化學(xué)官能團(tuán)的MOFs 材料對CH4氣體吸附能力突出,其中0 號表示不考慮官能團(tuán)影響,其余3 種官能團(tuán)分別對應(yīng)甲基、乙基、丙基[28].我們認(rèn)為,這是因?yàn)檫@類烴基官能團(tuán)與CH4有相似的機(jī)構(gòu)和化學(xué)性質(zhì).

    圖1 各基因編碼與CH4 氣體吸附能力的構(gòu)效關(guān)系

    對于單特征的分析表明,MOFs對CH4氣體吸附能力受多種因素共同作用影響,包括MOFs 材料的拓?fù)浣Y(jié)構(gòu)、有機(jī)配體和無機(jī)單元的結(jié)構(gòu)、官能團(tuán)的選擇等.單純的針對其中某一方面進(jìn)行修改,并不能保證有效提升MOFs 材料對于CH4氣體的吸附能力.這也進(jìn)一步體現(xiàn)了應(yīng)用包括ANN在內(nèi)的機(jī)器學(xué)習(xí)方法發(fā)掘這種非線性構(gòu)效關(guān)系的意義.

    2 ANN 模型的訓(xùn)練

    對于GA 產(chǎn)生的新型MOFs 個體,從僅有的6 個基因位點(diǎn)的值構(gòu)建MOF 結(jié)構(gòu),再生成相應(yīng)的數(shù)據(jù)進(jìn)行GCMC 模擬計算,從而進(jìn)行性能評估,將是一個非常繁瑣及耗時的過程.因此我們提出將MOFs的基因編碼作為輸入,GCMC 模擬計算的目標(biāo)性能作為輸出,訓(xùn)練ANN 作為挖掘MOFs 構(gòu)效關(guān)系的機(jī)器學(xué)習(xí)模型,從而能夠?qū)A 生成的新的MOFs 個體進(jìn)行性能預(yù)測評估.

    2.1 ANN 模型評價指標(biāo)

    ANN 通過模仿人類大腦的思維方式,進(jìn)行大規(guī)模高維數(shù)據(jù)處理和分析.一個ANN 包含輸入層、隱含層和輸出層,其中隱含層可以有多層.ANN的本質(zhì)是非線性函數(shù)映射,通過對高維數(shù)據(jù)的低維非線性映射,轉(zhuǎn)變?yōu)槿祟惪衫斫獾慕Y(jié)果輸出.由于需要預(yù)測MOFs對CH4氣體的吸附值,因此我們將ANN 構(gòu)建為輸出層只有一個神經(jīng)元的回歸神經(jīng)網(wǎng)絡(luò),從而輸出一個實(shí)數(shù)值.作為預(yù)測具體數(shù)值的回歸ANN,其評價指標(biāo)R2的值越接近1,模型的預(yù)測性能越好,其定義如下:

    其中,n是測試集中MOFs 個體的數(shù)量,為第i個MOFs 結(jié)果的預(yù)測值,是通過GCMC 模擬得到的結(jié)果.是所有的平均值.另一個評價指標(biāo)均方誤差(Mean Square Error,MSE),是預(yù)測值和真實(shí)值之間誤差的平方和,其定義為:

    2.2 數(shù)據(jù)集準(zhǔn)備

    對1.2 節(jié)生成的數(shù)據(jù)集中51 163 條MOFs 數(shù)據(jù)的CH4氣體吸附值以20為長度進(jìn)行區(qū)間劃分,進(jìn)而對數(shù)據(jù)的分布情況進(jìn)行初步統(tǒng)計,結(jié)果如圖2所示.統(tǒng)計結(jié)果顯示,在該數(shù)據(jù)集中,存在極少數(shù)CH4氣體吸附值大于480的MOFs.這種數(shù)據(jù)分布的傾斜,會影響模型的學(xué)習(xí)和預(yù)測性能.因此,我們從吸附值大于280的MOFs樣本中隨機(jī)重復(fù)抽取一定數(shù)量的樣本,然后對每一個樣本的吸附值引入以該吸附值為均值、方差為1的高斯隨機(jī)誤差.經(jīng)過這樣的隨機(jī)上采樣后,數(shù)據(jù)集擴(kuò)充到67 878 條,其分布如圖3所示.

    圖2 原始數(shù)據(jù)集分布直方圖

    圖3 上采樣后數(shù)據(jù)集分布直方圖

    對經(jīng)過上采樣后的67 878 條數(shù)據(jù)的各特征值進(jìn)行最大最小標(biāo)準(zhǔn)化預(yù)處理,以消除數(shù)據(jù)集不同特征取值范圍不同對模型訓(xùn)練的影響,并加快模型訓(xùn)練的收斂速度.最大最小標(biāo)準(zhǔn)化的方法如式(3)所示:

    其中,xmax是樣本數(shù)據(jù)的最大值,xmin是樣本數(shù)據(jù)的最小值.

    經(jīng)過以上預(yù)處理后,我們將所有67 878 條數(shù)據(jù)隨機(jī)抽取80%作為訓(xùn)練集,剩余20%作為測試集.

    2.3 BPNN和RBFNN

    本文分別采用BP 神經(jīng)網(wǎng)絡(luò)(Back Propagation Neural Network,BPNN)和徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(Radial Basis Function Neural Network,RBFNN)對GA 生成的新型MOFs 個體進(jìn)行了針對CH4氣體吸附性能的預(yù)測評估實(shí)驗(yàn).利用BP 神經(jīng)網(wǎng)絡(luò)與徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)進(jìn)行針對CH4氣體吸附性能預(yù)測評估的優(yōu)點(diǎn)主要有:

    (1)BP 神經(jīng)網(wǎng)絡(luò)擁有高容錯性,并行計算,自適應(yīng)和可學(xué)習(xí)等優(yōu)點(diǎn),在針對MOFs 材料吸附CH4氣體能力這類非線性關(guān)系的預(yù)測方面具有顯著的優(yōu)勢.

    (2)徑向基神經(jīng)網(wǎng)絡(luò)在本文中設(shè)置為BP 神經(jīng)網(wǎng)絡(luò)的對照,作為一種性能優(yōu)秀的前饋型神經(jīng)網(wǎng)絡(luò),理論上可以逼近任意非線性函數(shù),具有全局逼近能力,從根本上解決了BP 神經(jīng)網(wǎng)絡(luò)由于梯度下降所導(dǎo)致的局部最優(yōu)問題,且由于其整體網(wǎng)絡(luò)結(jié)構(gòu)緊湊,收斂速度快.而BP 神經(jīng)網(wǎng)絡(luò)中權(quán)值調(diào)節(jié)采用負(fù)梯度下降法,收斂速度遞減而較慢.

    (3)BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)速率是固定的,因此對于一些復(fù)雜問題,BP 算法需要的訓(xùn)練時間可能非常長,這主要是由于學(xué)習(xí)速率太小造成的.而徑向基神經(jīng)網(wǎng)絡(luò)是高效的前饋式網(wǎng)絡(luò),它訓(xùn)練速度相對較快的同時,具有BP 神經(jīng)網(wǎng)絡(luò)所不具有的最佳逼近性能和全局最優(yōu)特性.

    2.3.1 BPNN的構(gòu)建和訓(xùn)練

    BPNN是ANN 中經(jīng)典且常見的一種神經(jīng)網(wǎng)絡(luò).結(jié)構(gòu)上,BPNN 包含輸入層、隱含層和輸出層.其本質(zhì)是通過對高維數(shù)據(jù)的低維非線性映射,轉(zhuǎn)變?yōu)槿祟惪衫斫獾妮敵鼋Y(jié)果.由于1.1 節(jié)中將MOFs 結(jié)構(gòu)編碼為具有6 個基因的染色體,故本文BPNN的輸入層相應(yīng)地設(shè)置為6 個神經(jīng)元,對應(yīng)6 個基因的輸入,而輸出為1 個神經(jīng)元,用于預(yù)測吸附值.在保持較為簡單的網(wǎng)絡(luò)結(jié)構(gòu)的前提下,經(jīng)過多次調(diào)整、實(shí)驗(yàn),最終確定了2 個隱層后增加1 個批歸一化層的基本結(jié)構(gòu).具體地,隱藏層的激活函數(shù)使用ReLU 函數(shù),輸出層以Sigmoid 函數(shù)作為激活函數(shù).訓(xùn)練的epoch 設(shè)為100,batch_size 設(shè)為128,采用隨機(jī)梯度下降(Stochastic Gradient Descent,SGD)迭代訓(xùn)練模型,并采用Adam 方法進(jìn)行優(yōu)化,學(xué)習(xí)率設(shè)為0.002.其中,激活函數(shù)是一種神經(jīng)網(wǎng)絡(luò)常用的非線性函數(shù),用于實(shí)現(xiàn)對上一層神經(jīng)元輸出的線性組合進(jìn)行非線性變換.批歸一化(Batch Normalization,BN)層的Scale and Shift 操作,可以加速訓(xùn)練過程的收斂、控制過擬合、降低網(wǎng)絡(luò)對初始化權(quán)重的敏感程度,并允許使用比較大的學(xué)習(xí)率.

    通過用訓(xùn)練集進(jìn)行5 折交叉驗(yàn)證,最終網(wǎng)絡(luò)結(jié)構(gòu)調(diào)整實(shí)驗(yàn)的結(jié)果如表2所示.表中結(jié)果按照R2降序排列.可以看到,2 個隱層神經(jīng)元個數(shù)分別為32和15 時的模型準(zhǔn)確度最高.BPNN 訓(xùn)練過程需要調(diào)節(jié)的參數(shù)個數(shù)為6 ×32×15+15=2895.

    表2 BPNN 結(jié)構(gòu)調(diào)節(jié)實(shí)驗(yàn)結(jié)果

    2.3.2 RBFNN的構(gòu)建和訓(xùn)練

    作為比較,我們還構(gòu)建了另外一種常見的人工神經(jīng)網(wǎng)絡(luò)——徑向基函數(shù)神經(jīng)網(wǎng)絡(luò).RBFNN是一種前饋型的3 層神經(jīng)網(wǎng)絡(luò),激勵函數(shù)使用徑向基函數(shù).其隱含層中神經(jīng)元與輸入、輸出層的神經(jīng)元之間的關(guān)系不再是全連接,而是用徑向基函數(shù)代替.本文中,采用常用的高斯函數(shù)作為徑向基函數(shù).與BPNN 相比,RBFNN通常泛化能力更強(qiáng),能夠避免BPNN 可能出現(xiàn)的局部最優(yōu)問題,理論上能夠在充分訓(xùn)練的情況下完全逼近要擬合的數(shù)據(jù).該網(wǎng)絡(luò)可以方便地增加神經(jīng)元進(jìn)行訓(xùn)練,直到滿足精度要求為止,這樣的網(wǎng)絡(luò)結(jié)構(gòu)擁有更為突出的定向信息處理能力.本文通過調(diào)整神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),將隱含層神經(jīng)元個數(shù)從100 個開始,逐次遞增,每次調(diào)節(jié)增加100 個神經(jīng)元,觀察評價指標(biāo)R2與MSE的數(shù)值變化情況,從而確定最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu).

    使用與2.3.1 節(jié)相同的訓(xùn)練集進(jìn)行5 折交叉驗(yàn)證,比較訓(xùn)練結(jié)果,得到當(dāng)隱層節(jié)點(diǎn)設(shè)置為600 個時,其MSE=2264.83、R2=0.854為最優(yōu),即RBFNN的結(jié)構(gòu)確定為6-600-1.調(diào)節(jié)隱含層神經(jīng)元個數(shù)的比較結(jié)果如表3所示.從中可以看到,隱層節(jié)點(diǎn)數(shù)為800 時,結(jié)果與隱層節(jié)點(diǎn)數(shù)為600的相差無幾,但從模型復(fù)雜度、參數(shù)數(shù)量等角度綜合考慮,最終,選取隱層節(jié)點(diǎn)數(shù)為600為最合適的網(wǎng)絡(luò)隱層節(jié)點(diǎn)個數(shù).由于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是局部逼近網(wǎng)絡(luò),其對于輸入空間的某個局部區(qū)域只有少數(shù)幾個連接權(quán)值影響輸出,故而該網(wǎng)絡(luò)實(shí)際需要調(diào)節(jié)的參數(shù)數(shù)量大大小于BP 神經(jīng)網(wǎng)絡(luò).

    表3 RBFNN 結(jié)構(gòu)調(diào)節(jié)實(shí)驗(yàn)結(jié)果

    2.3.3 BPNN和RBFNN的性能比較

    通過上述對BPNN和RBFNN 結(jié)構(gòu)的優(yōu)化,我們分別訓(xùn)練并確定了BPNN和RBFNN的結(jié)構(gòu)和參數(shù).該過程已經(jīng)初步顯示了二者的性能.圖4和圖5分別展示了二者在測試集上回歸預(yù)測的具體性能表現(xiàn).

    圖4 BPNN 網(wǎng)絡(luò)模型在測試集上的回歸散點(diǎn)圖

    圖5 RBFN 網(wǎng)絡(luò)模型在測試集上的回歸散點(diǎn)圖

    上述模型回歸結(jié)果圖中,顏色表明數(shù)據(jù)點(diǎn)的密集程度,顏色越接近紅色,數(shù)據(jù)分布越密集.當(dāng)實(shí)際值與預(yù)測值接近時,數(shù)據(jù)點(diǎn)會均勻分布在紅色標(biāo)識實(shí)線及兩側(cè).從圖4中可以直觀地看出,采用2.3.1 節(jié)所得的6-32-15-1 結(jié)構(gòu)的BPNN 時,在測試集上的實(shí)驗(yàn)結(jié)果R2=0.85;類似地,RBFN 以2.3.2 節(jié)所得的隱層節(jié)點(diǎn)數(shù)為600 時,其在測試集上得到R2=0.85.可見,兩種模型在測試集上均可以實(shí)現(xiàn)較為準(zhǔn)確的回歸.這些結(jié)果表明基于訓(xùn)練數(shù)據(jù)構(gòu)建的非線性模型具有可以預(yù)測新型MOFs 材料氣體吸附性能的能力.

    3 實(shí)驗(yàn)結(jié)果

    基于1.2 節(jié)構(gòu)建的基礎(chǔ)數(shù)據(jù)集,以及2.2 節(jié)對于數(shù)據(jù)集的處理和劃分,我們應(yīng)用GA 實(shí)現(xiàn)了對MOFs 個體的演化搜索,并應(yīng)用ANN對搜索到的新型MOFs 進(jìn)行了基于CH4吸附值的性能預(yù)測評估實(shí)驗(yàn).

    3.1 基于GA的MOFs 搜索

    GA是一種具有生存與檢測特征、不斷進(jìn)行迭代過程的一種全局優(yōu)化搜索算法.在迭代過程中,會產(chǎn)生大量通過基因編碼表示的個體,每個個體的基因特征會隨著進(jìn)化的進(jìn)行,根據(jù)優(yōu)勝劣汰的基本原則進(jìn)行代際遺傳,從而產(chǎn)生優(yōu)秀個體,實(shí)現(xiàn)在搜索空間中對最優(yōu)解的搜索.

    GA的主要參數(shù)包括種群規(guī)模M、進(jìn)化代數(shù)N、遺傳交叉率a,以及遺傳變異率b.其中,a決定了兩個個體進(jìn)行交叉操作從而產(chǎn)生新子代的概率,b為一個個體的某個隨機(jī)基因發(fā)生變異的概率.GA 中的種群規(guī)模,代表著數(shù)據(jù)域內(nèi)數(shù)據(jù)點(diǎn)的密度,密度越大,其覆蓋最優(yōu)解的可能性越高,即對求解最優(yōu)解越有利.但相應(yīng)的,其計算量也將會快速增加;對于GA 進(jìn)化代數(shù)的限制,是為了讓算法能夠在合理的實(shí)驗(yàn)時間內(nèi)完成迭代搜索;GA 中的變異概率與交叉概率設(shè)定,是為了讓數(shù)據(jù)域內(nèi)的數(shù)據(jù)點(diǎn)保持相對分散的分布,避免陷入局部最優(yōu)的困境,文獻(xiàn)[28] 中的設(shè)定為<M=100,N=100,a=0.65,b=0.05>.此外,適應(yīng)度函數(shù)也是GA的一項重要設(shè)定.通過適應(yīng)度函數(shù),GA 計算個體的適應(yīng)度,評估個體的性能.適應(yīng)度越高,種群越朝著有利于發(fā)展的方向進(jìn)化.文獻(xiàn)[28]采取的操作是,在原數(shù)據(jù)集中查找新生成的個體,若找到,則通過GCMC 模擬方法計算它對CO2的工作容量、CO2/H2的選擇性,以及對CO2的吸附值,分別以這3 個指標(biāo)作為個體的適應(yīng)度值以評估個體性能;若新生成的個體不在原數(shù)據(jù)集中,則重新進(jìn)行基因操作,直到生成數(shù)據(jù)集中存在的個體.也就是說,文獻(xiàn)[28]中并未對原數(shù)據(jù)集中不存在的新個體進(jìn)行評估并加入新的子代.

    本文以1.2 節(jié)計算的MOFs對CH4氣體的吸附值F作為適應(yīng)度,參照文獻(xiàn)[28]中的參數(shù)設(shè)定,以產(chǎn)生新型MOFs 個體的數(shù)量X、搜索到最優(yōu)個體所進(jìn)化的代數(shù)G,以及搜索到的最優(yōu)個體吸附值F為評價指標(biāo),針對M和N兩個參數(shù)進(jìn)行了6 組參數(shù)設(shè)定的實(shí)驗(yàn).具體步驟為:

    (1)在原始數(shù)據(jù)集上構(gòu)建初始種群.初始種群中的個體可從數(shù)據(jù)集中進(jìn)行多次隨機(jī)選擇并擇優(yōu),也可加入一些人為設(shè)定的策略.例如,文獻(xiàn)[28]中人工選擇100 個MOFs 個體構(gòu)建初始種群,從而保證所設(shè)計的每個基因都至少出現(xiàn)一次,個體演化過程中不會有基因的缺失.

    (2)執(zhí)行遺傳算法,開始種群的演化.這個過程包含了遺傳算法中的經(jīng)典操作,例如從種群中進(jìn)行個體的擇優(yōu)、交叉、變異,從而產(chǎn)生下一代種群,不斷迭代,直到算法停止

    (3)在GA 迭代演化過程中,對于產(chǎn)生的MOF 個體,如果存在于原數(shù)據(jù)集中,則直接使用其已經(jīng)計算得到的目標(biāo)性能指標(biāo)值作為個體性能的評估結(jié)果,并加入下一代種群;否則將新個體暫存.

    (4)算法的停止條件,可以為指定的演化迭代次數(shù)、指定的搜索到新的優(yōu)秀個體數(shù)量等.

    按照上述實(shí)驗(yàn)步驟不斷循環(huán)迭代,本文依據(jù)實(shí)際實(shí)驗(yàn)條件,綜合考慮遺傳算法的計算效果與計算周期,調(diào)整實(shí)驗(yàn)參數(shù),經(jīng)過6 組實(shí)驗(yàn)最終將遺傳算法參數(shù)設(shè)定為<M=50,N=200,a=0.65,b=0.05>,如表4所示.

    表4 GA 參數(shù)組合實(shí)驗(yàn)結(jié)果

    最終,GA 算法搜索到907 個原數(shù)據(jù)集中不存在的新MOFs 個體.同時我們觀察到,原始數(shù)據(jù)集中,第1 個基因(潛在互穿能力)的值均不小于第2 個基因(實(shí)際互穿能力)的值.這是因?yàn)?潛在互穿能力表示理論上可能的互穿能力,所以實(shí)際互穿能力不會超過它.因此,我們將907 個新型MOFs 個體中不符合該條件的144 個刪除,剩余763 個新型MOFs 個體作為實(shí)驗(yàn)對象.

    3.2 ANN對新型MOFs 個體的性能預(yù)測

    本文分別采用前文所述的BPNN和RBFNN對GA 搜索到的763 個新型MOFs 個體進(jìn)行CH4氣體的吸附值預(yù)測,取二者預(yù)測的對CH4氣體吸附值最高的前10 位MOFs 個體進(jìn)行比較,如表5所示.

    表5 BPNN和RBFNN 分別對新型MOFs 個體的CH4 氣體吸附值預(yù)測結(jié)果TOP10對比

    從兩者結(jié)果比較可以看出,BPNN 預(yù)測的前10 種新型MOFs 材料,其CH4氣體吸附能力的均值為542.60,略高于RBFNN 預(yù)測結(jié)果前10 名的516.60.有趣的是,BPNN 預(yù)測的前10 位MOFs,對CH4氣體的吸附性能均在530 以上,高于原始數(shù)據(jù)集內(nèi)的最大值528,突破了訓(xùn)練集的限制,具有更好的泛化能力.而RBFNN 預(yù)測的CH4氣體吸附值最大為521.20,未能突破訓(xùn)練集的范圍.從基因編碼的結(jié)構(gòu)上看,BPNN對于結(jié)構(gòu)相近的MOFs 個體,預(yù)測的CH4氣體吸附值也較為接近.例如,預(yù)測基因編碼結(jié)構(gòu)為0-0-1-38-21-12的CH4氣體吸附值為552.14,與其相近的基因編碼結(jié)構(gòu)為0-0-1-38-21-13的CH4氣體吸附值為551.11.這個結(jié)果具有一定的合理性.另一方面,RBFNN的預(yù)測結(jié)果具有更強(qiáng)的多樣性,得到的高CH4氣體吸附值的基因編碼結(jié)構(gòu)與BPNN 預(yù)測得到的有很大不同.

    具體地,BPNN 預(yù)測得到的高CH4氣體吸附值的MOFs 個體,其潛在互穿性僅限于1 或0,而實(shí)際互穿性均保持在0;而RBFNN 預(yù)測得到的高CH4氣體吸附值的MOFs 個體,潛在互穿性和實(shí)際互穿性均出現(xiàn)了2的取值.對于第3 個基因編碼,BPNN 預(yù)測得到的高CH4氣體吸附值的前10 名均為1,而RBFNN的結(jié)果中還包含0.根據(jù)文獻(xiàn)[28]的補(bǔ)充材料中的設(shè)定,該位基因?yàn)?和1 所表示的無機(jī)配體,如圖6所示.

    圖6 無機(jī)配體的表示[28]

    BPNN的結(jié)果中,主要有機(jī)連接單元出現(xiàn)了36、37、38,而RBFNN的結(jié)果中還出現(xiàn)了29和35.第5 位的次要有機(jī)連接單元,BPNN 預(yù)測得到的結(jié)果中均為21,RBFNN的結(jié)果中除了21,還出現(xiàn)了30、31、34、36、37.根據(jù)文獻(xiàn)[28]的補(bǔ)充材料中的設(shè)定,它們表示的結(jié)構(gòu)如圖7所示.

    圖7 有機(jī)連接單元的表示[28]

    最后一位基因值表示的化學(xué)官能團(tuán),BPNN 預(yù)測的結(jié)果中出現(xiàn)了9、10、12、13,而RBFNN的結(jié)果中則為8、9、10、11.根據(jù)文獻(xiàn)[28]的補(bǔ)充材料中的設(shè)定,它們表示的結(jié)構(gòu)如圖8所示.

    圖8 化學(xué)官能團(tuán)的表示[28]

    以上結(jié)果表明,特定的幾種結(jié)構(gòu)將給MOFs 帶來較高的CH4氣體吸附值.值得注意的是,BPNN和RBFNN 均預(yù)測出1-0-1-38-21-9、1-0-1-37-21-10 結(jié)構(gòu)的MOF 具有相對較高的CH4氣體吸附值,這值得后續(xù)的研究工作進(jìn)一步關(guān)注.

    4 結(jié)論與展望

    本文首先根據(jù)我們提出的力場參數(shù),基于現(xiàn)有的MOFs 數(shù)據(jù)集,通過GCMC 模擬計算構(gòu)建了面向一定條件下CH4氣體吸附能力的MOFs 數(shù)據(jù)集,并通過上采樣技術(shù)調(diào)整了數(shù)據(jù)集的分布.其次,以該數(shù)據(jù)集分別訓(xùn)練了BPNN和RBFNN 模型,使其具備較強(qiáng)的預(yù)測CH4氣體吸附性的能力.然后,通過GA 基于MOFs 數(shù)據(jù)庫搜索新型的MOFs 個體.搜索時,對于搜索到的數(shù)據(jù)集中已有的MOFs,直接查詢數(shù)據(jù)集中其對應(yīng)的CH4氣體吸附值;對于搜索到的不在數(shù)據(jù)集中的新型MOF,則暫存它們.最后搜索出763 個新型MOFs 個體,并分別用訓(xùn)練好的BPNN 與RBFNN對其CH4氣體吸附性進(jìn)行預(yù)測,得到了優(yōu)于原始數(shù)據(jù)集的結(jié)果.通過以上過程,實(shí)現(xiàn)了通過GA 搜索新型MOFs,并用ANN對其進(jìn)行性能預(yù)測,從而實(shí)現(xiàn)高性能MOFs的高效搜索與評估.

    實(shí)驗(yàn)結(jié)果表明,BPNN在模型的準(zhǔn)確性,泛化能力方面略優(yōu)于RBFNN,而RBFNN 預(yù)測結(jié)果則更具備多樣性.二者的預(yù)測結(jié)果均表現(xiàn)出特定的結(jié)構(gòu)對MOF 性能有一定的影響.對于二者均預(yù)測出具有較高CH4氣體吸附值的兩種MOF 新型結(jié)構(gòu),則需要進(jìn)一步的研究和驗(yàn)證.

    未來可進(jìn)一步拓展現(xiàn)有工作,從而引入多種機(jī)器學(xué)習(xí)方法作為參照進(jìn)行比較和相互佐證.對GA 參數(shù)更深入的優(yōu)化研究也是一個有挑戰(zhàn)性的課題方向.同時,可考慮結(jié)合實(shí)際化學(xué)材料領(lǐng)域中的自組裝技術(shù),通過材料組裝,模擬,優(yōu)化出新材料的分子結(jié)構(gòu),然后再利用GCMC 手段,添加材料的實(shí)際化學(xué)特征值數(shù)據(jù),完善成果.

    猜你喜歡
    編碼氣體神經(jīng)網(wǎng)絡(luò)
    遠(yuǎn)離有害氣體
    二維定常Chaplygin氣體繞直楔流動
    基于SAR-SIFT和快速稀疏編碼的合成孔徑雷達(dá)圖像配準(zhǔn)
    《全元詩》未編碼疑難字考辨十五則
    子帶編碼在圖像壓縮編碼中的應(yīng)用
    電子制作(2019年22期)2020-01-14 03:16:24
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    吃氣體,長大個
    Genome and healthcare
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    青春草视频在线免费观看| 日韩欧美国产在线观看| 成人漫画全彩无遮挡| 色哟哟·www| 91av网一区二区| 亚洲av中文av极速乱| 在线天堂最新版资源| 午夜视频国产福利| 国产一区有黄有色的免费视频 | 国产精品女同一区二区软件| 99久久中文字幕三级久久日本| 亚洲精品,欧美精品| 国产乱人视频| 成人亚洲欧美一区二区av| 国产精品99久久久久久久久| 青春草视频在线免费观看| 亚洲在线自拍视频| 别揉我奶头 嗯啊视频| 国产中年淑女户外野战色| 性色avwww在线观看| 久久6这里有精品| 日本av手机在线免费观看| a级毛片免费高清观看在线播放| 人人妻人人澡欧美一区二区| 日日摸夜夜添夜夜爱| 九色成人免费人妻av| 亚洲色图av天堂| 国产成人91sexporn| 久久久久久九九精品二区国产| 国产精品.久久久| 免费无遮挡裸体视频| 国产精品99久久久久久久久| 国产午夜精品论理片| 国产欧美日韩精品一区二区| 免费观看精品视频网站| 真实男女啪啪啪动态图| 老师上课跳d突然被开到最大视频| 亚洲av成人精品一区久久| 亚洲在线自拍视频| 99re6热这里在线精品视频| 伦理电影大哥的女人| 欧美人与善性xxx| 伦精品一区二区三区| 国产探花极品一区二区| 日本熟妇午夜| 国产精品一区二区三区四区免费观看| 亚洲最大成人中文| 亚洲欧美成人精品一区二区| 人妻一区二区av| 亚洲最大成人中文| 亚洲成色77777| 国产老妇女一区| 一级毛片黄色毛片免费观看视频| 国产精品一区二区三区四区免费观看| 久久久久国产网址| 黄色一级大片看看| 插逼视频在线观看| 成人亚洲精品一区在线观看 | 在线a可以看的网站| 老司机影院毛片| 精品不卡国产一区二区三区| 国产高清不卡午夜福利| 精品国产一区二区三区久久久樱花 | 日韩一区二区三区影片| 在线 av 中文字幕| 精品一区二区三区视频在线| 99久国产av精品国产电影| 亚洲精品日本国产第一区| 免费黄色在线免费观看| 少妇熟女欧美另类| 国产一级毛片在线| 亚洲美女搞黄在线观看| 中文在线观看免费www的网站| 国产综合懂色| 美女被艹到高潮喷水动态| 午夜免费男女啪啪视频观看| 欧美+日韩+精品| 九草在线视频观看| 亚洲电影在线观看av| 亚洲av国产av综合av卡| 亚洲成人精品中文字幕电影| 亚洲欧美日韩无卡精品| 精品一区二区免费观看| 床上黄色一级片| 欧美一区二区亚洲| 亚洲国产精品成人综合色| 毛片一级片免费看久久久久| 午夜福利视频1000在线观看| 亚洲精品成人av观看孕妇| 男人狂女人下面高潮的视频| 少妇高潮的动态图| 久久久久久久久久成人| 成人亚洲欧美一区二区av| 我的老师免费观看完整版| 日产精品乱码卡一卡2卡三| 欧美日韩精品成人综合77777| 高清日韩中文字幕在线| 久久久国产一区二区| 激情 狠狠 欧美| 少妇猛男粗大的猛烈进出视频 | 毛片一级片免费看久久久久| 禁无遮挡网站| 国产精品国产三级国产专区5o| 亚洲久久久久久中文字幕| 午夜精品一区二区三区免费看| 亚洲国产日韩欧美精品在线观看| 日本熟妇午夜| 1000部很黄的大片| 日韩欧美精品v在线| 亚洲综合色惰| 欧美另类一区| 日本免费a在线| 亚洲精品国产av成人精品| 午夜激情欧美在线| 中文字幕亚洲精品专区| 久久久久久久久久久丰满| 青春草视频在线免费观看| 欧美潮喷喷水| 又黄又爽又刺激的免费视频.| 亚洲美女搞黄在线观看| 精品99又大又爽又粗少妇毛片| 欧美潮喷喷水| 高清视频免费观看一区二区 | 一级二级三级毛片免费看| 日日摸夜夜添夜夜爱| 男人爽女人下面视频在线观看| 超碰97精品在线观看| 国产精品麻豆人妻色哟哟久久 | 国产精品人妻久久久影院| 国产高清国产精品国产三级 | 成人毛片a级毛片在线播放| 看非洲黑人一级黄片| 最近最新中文字幕免费大全7| 最近视频中文字幕2019在线8| 麻豆成人午夜福利视频| 最近2019中文字幕mv第一页| 99久国产av精品| 国产淫语在线视频| 看免费成人av毛片| 全区人妻精品视频| 国产黄色免费在线视频| 亚洲国产精品sss在线观看| 精品午夜福利在线看| 日本爱情动作片www.在线观看| 国内精品宾馆在线| 韩国高清视频一区二区三区| 尤物成人国产欧美一区二区三区| 波多野结衣巨乳人妻| 精品酒店卫生间| 国产乱人视频| 国产成人91sexporn| av在线天堂中文字幕| 亚洲国产最新在线播放| 免费黄色在线免费观看| 极品少妇高潮喷水抽搐| 亚洲欧美成人精品一区二区| 亚洲av.av天堂| 亚洲国产欧美人成| 色播亚洲综合网| 水蜜桃什么品种好| 最近最新中文字幕大全电影3| 内射极品少妇av片p| 亚洲av日韩在线播放| 亚洲伊人久久精品综合| 丰满乱子伦码专区| 国产精品久久视频播放| 久久草成人影院| 国产免费又黄又爽又色| 中国美白少妇内射xxxbb| 成年版毛片免费区| 午夜日本视频在线| www.色视频.com| 欧美一区二区亚洲| 久99久视频精品免费| 丝袜喷水一区| 欧美激情国产日韩精品一区| 午夜福利在线观看免费完整高清在| 国产精品福利在线免费观看| 精品午夜福利在线看| 最近中文字幕高清免费大全6| 亚洲成人久久爱视频| 蜜桃久久精品国产亚洲av| 少妇的逼水好多| 精品熟女少妇av免费看| 日韩人妻高清精品专区| 亚洲av.av天堂| 观看美女的网站| 欧美xxxx性猛交bbbb| 色尼玛亚洲综合影院| 尾随美女入室| 国产精品一区二区在线观看99 | 国产av不卡久久| 91精品伊人久久大香线蕉| 国产麻豆成人av免费视频| 国产在视频线在精品| 色5月婷婷丁香| 国产精品一区二区性色av| 在线观看一区二区三区| 亚洲内射少妇av| 97热精品久久久久久| 免费在线观看成人毛片| 欧美一级a爱片免费观看看| 国内精品一区二区在线观看| 日韩av在线免费看完整版不卡| 国产 亚洲一区二区三区 | 久久久久久久午夜电影| 成人无遮挡网站| 亚洲美女搞黄在线观看| 国产亚洲精品av在线| 午夜福利高清视频| 午夜激情久久久久久久| 日韩欧美精品免费久久| 天堂俺去俺来也www色官网 | 麻豆久久精品国产亚洲av| 国产精品av视频在线免费观看| 欧美一区二区亚洲| 成人av在线播放网站| 国产综合懂色| 成年版毛片免费区| 日韩中字成人| 欧美性感艳星| 一级黄片播放器| 久久久久久久久中文| 国产免费福利视频在线观看| 精品久久久久久电影网| 校园人妻丝袜中文字幕| 韩国av在线不卡| 久久这里有精品视频免费| 我的老师免费观看完整版| 我的女老师完整版在线观看| 嫩草影院新地址| 人妻系列 视频| a级一级毛片免费在线观看| 国产午夜福利久久久久久| 亚洲综合色惰| 青青草视频在线视频观看| 国产人妻一区二区三区在| 免费少妇av软件| 国产免费福利视频在线观看| 国产 亚洲一区二区三区 | 国产精品精品国产色婷婷| 水蜜桃什么品种好| 99久久精品一区二区三区| 国产精品一区二区性色av| 国产欧美另类精品又又久久亚洲欧美| 91精品伊人久久大香线蕉| 韩国高清视频一区二区三区| 欧美变态另类bdsm刘玥| 日韩av不卡免费在线播放| 狂野欧美激情性xxxx在线观看| 免费黄色在线免费观看| 亚洲丝袜综合中文字幕| 国内精品美女久久久久久| 国产精品一及| 卡戴珊不雅视频在线播放| 久久精品国产亚洲av天美| 看十八女毛片水多多多| 美女大奶头视频| 欧美性感艳星| 成人二区视频| 国产精品99久久久久久久久| 男人舔奶头视频| 麻豆国产97在线/欧美| 久久久久精品性色| 亚洲三级黄色毛片| 免费观看av网站的网址| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 婷婷色综合大香蕉| 在线观看美女被高潮喷水网站| 少妇人妻精品综合一区二区| 国产午夜精品一二区理论片| 久久热精品热| 成人特级av手机在线观看| 亚洲真实伦在线观看| 一级二级三级毛片免费看| 美女高潮的动态| 少妇熟女aⅴ在线视频| 日韩不卡一区二区三区视频在线| 美女cb高潮喷水在线观看| 青春草视频在线免费观看| 2022亚洲国产成人精品| 视频中文字幕在线观看| 99热这里只有精品一区| av天堂中文字幕网| 亚洲av免费在线观看| 久99久视频精品免费| 高清视频免费观看一区二区 | 欧美成人精品欧美一级黄| av天堂中文字幕网| 一级片'在线观看视频| 三级国产精品片| 国产精品1区2区在线观看.| xxx大片免费视频| 麻豆精品久久久久久蜜桃| 国产男女超爽视频在线观看| 国产高清国产精品国产三级 | 一个人免费在线观看电影| a级一级毛片免费在线观看| 免费不卡的大黄色大毛片视频在线观看 | 午夜福利网站1000一区二区三区| 久久久色成人| 精品一区二区三区人妻视频| 午夜精品在线福利| 欧美区成人在线视频| 国产免费视频播放在线视频 | 97热精品久久久久久| 成人高潮视频无遮挡免费网站| 国产精品爽爽va在线观看网站| 亚洲三级黄色毛片| 国产av不卡久久| 真实男女啪啪啪动态图| 丰满人妻一区二区三区视频av| 欧美成人午夜免费资源| 婷婷六月久久综合丁香| 晚上一个人看的免费电影| 只有这里有精品99| 日本黄色片子视频| 亚洲成人精品中文字幕电影| 久久精品久久久久久久性| 亚洲精品亚洲一区二区| 国产麻豆成人av免费视频| 我的老师免费观看完整版| 高清欧美精品videossex| 黄色日韩在线| 欧美zozozo另类| 一个人看视频在线观看www免费| av一本久久久久| av专区在线播放| 国产一区亚洲一区在线观看| 免费少妇av软件| 在线免费观看的www视频| 精品亚洲乱码少妇综合久久| www.色视频.com| 亚洲不卡免费看| 国产不卡一卡二| 国产精品久久久久久久久免| 婷婷色综合大香蕉| 免费黄网站久久成人精品| 亚洲成人中文字幕在线播放| 成人二区视频| 少妇被粗大猛烈的视频| 精品久久久久久成人av| 亚洲国产av新网站| 国产综合懂色| 亚洲av福利一区| 亚洲av成人精品一区久久| 国产精品一及| 国产日韩欧美在线精品| 久久久国产一区二区| 夜夜爽夜夜爽视频| 色哟哟·www| 日韩电影二区| 97在线视频观看| 成人美女网站在线观看视频| 床上黄色一级片| 精品国内亚洲2022精品成人| 国产精品三级大全| 国产成人午夜福利电影在线观看| 亚洲av电影在线观看一区二区三区 | 99re6热这里在线精品视频| 免费看美女性在线毛片视频| 十八禁网站网址无遮挡 | 免费观看在线日韩| 男人和女人高潮做爰伦理| 亚洲欧美一区二区三区黑人 | 中文字幕免费在线视频6| 亚洲真实伦在线观看| 久久人人爽人人片av| 在线 av 中文字幕| 国产毛片a区久久久久| 精品久久久久久久久亚洲| 日本色播在线视频| 一本久久精品| 尾随美女入室| 又粗又硬又长又爽又黄的视频| 狠狠精品人妻久久久久久综合| 女人久久www免费人成看片| 色5月婷婷丁香| 亚洲综合色惰| 国产视频内射| 成人毛片a级毛片在线播放| 春色校园在线视频观看| 国产精品一区二区在线观看99 | 97热精品久久久久久| 亚洲性久久影院| 久久久久久国产a免费观看| 久久精品国产亚洲av天美| 欧美精品一区二区大全| 亚洲精品久久午夜乱码| 人人妻人人看人人澡| 爱豆传媒免费全集在线观看| 18禁动态无遮挡网站| 22中文网久久字幕| 一区二区三区乱码不卡18| 欧美人与善性xxx| 成人特级av手机在线观看| 久久久久久久亚洲中文字幕| 男人舔女人下体高潮全视频| 99热6这里只有精品| 在线天堂最新版资源| 国产精品久久久久久av不卡| 欧美人与善性xxx| 欧美性感艳星| 国产免费又黄又爽又色| 十八禁网站网址无遮挡 | 国产69精品久久久久777片| 亚洲欧美精品自产自拍| 亚洲精品久久午夜乱码| 又黄又爽又刺激的免费视频.| 亚洲乱码一区二区免费版| 男插女下体视频免费在线播放| 99re6热这里在线精品视频| 色哟哟·www| 亚洲在线观看片| 亚洲av成人精品一二三区| 99热全是精品| 纵有疾风起免费观看全集完整版 | 黄色欧美视频在线观看| 美女国产视频在线观看| 国产一级毛片在线| 日韩一本色道免费dvd| 插阴视频在线观看视频| 欧美激情国产日韩精品一区| 国产成人福利小说| 极品少妇高潮喷水抽搐| 亚洲成人中文字幕在线播放| 97精品久久久久久久久久精品| 欧美三级亚洲精品| 欧美成人a在线观看| 人妻一区二区av| 久久久久久久午夜电影| 成人美女网站在线观看视频| 日韩不卡一区二区三区视频在线| 国产精品一二三区在线看| 纵有疾风起免费观看全集完整版 | 中文字幕久久专区| av免费在线看不卡| av线在线观看网站| 精华霜和精华液先用哪个| 韩国高清视频一区二区三区| 日韩一本色道免费dvd| 精品欧美国产一区二区三| 大陆偷拍与自拍| 国精品久久久久久国模美| 少妇熟女aⅴ在线视频| videossex国产| 人妻夜夜爽99麻豆av| 亚洲精品成人av观看孕妇| 美女大奶头视频| 色尼玛亚洲综合影院| 精品午夜福利在线看| 国产午夜精品一二区理论片| 久久6这里有精品| 人体艺术视频欧美日本| 成人美女网站在线观看视频| 午夜激情久久久久久久| 亚洲性久久影院| 毛片一级片免费看久久久久| 成人毛片60女人毛片免费| 免费在线观看成人毛片| 久久精品国产自在天天线| 国产91av在线免费观看| 亚洲精品乱久久久久久| 国产成人午夜福利电影在线观看| 亚洲国产精品成人综合色| 美女脱内裤让男人舔精品视频| 在线免费十八禁| 亚洲自拍偷在线| 直男gayav资源| 久久人人爽人人爽人人片va| 特级一级黄色大片| 一本久久精品| 汤姆久久久久久久影院中文字幕 | 国产黄频视频在线观看| 伊人久久国产一区二区| 日本猛色少妇xxxxx猛交久久| 久久久久久久久中文| 搡老妇女老女人老熟妇| 插逼视频在线观看| 欧美xxxx性猛交bbbb| 91av网一区二区| videos熟女内射| a级毛片免费高清观看在线播放| 不卡视频在线观看欧美| 日本一二三区视频观看| 免费看a级黄色片| 亚洲图色成人| 久久久精品94久久精品| 国产精品一区二区三区四区免费观看| 国产亚洲av嫩草精品影院| 久久精品人妻少妇| 精品久久久久久成人av| 日本猛色少妇xxxxx猛交久久| 亚洲在久久综合| 男插女下体视频免费在线播放| 午夜日本视频在线| 别揉我奶头 嗯啊视频| 国产成人福利小说| 国产成人精品福利久久| 国产精品久久久久久精品电影小说 | 在线播放无遮挡| 毛片一级片免费看久久久久| 22中文网久久字幕| 亚洲人成网站在线播| 久久人人爽人人爽人人片va| 亚洲欧美日韩东京热| 亚洲最大成人手机在线| 国产一区二区三区av在线| 中文字幕人妻熟人妻熟丝袜美| 丰满乱子伦码专区| h日本视频在线播放| 亚洲国产色片| 男女下面进入的视频免费午夜| 极品少妇高潮喷水抽搐| 亚洲av电影在线观看一区二区三区 | 成人毛片60女人毛片免费| 亚洲精品中文字幕在线视频 | 亚洲国产精品国产精品| 男女国产视频网站| 国产亚洲精品av在线| 一级二级三级毛片免费看| 午夜免费激情av| 国产伦一二天堂av在线观看| 国产精品爽爽va在线观看网站| 久久久精品免费免费高清| 天堂√8在线中文| 国产激情偷乱视频一区二区| 男女边吃奶边做爰视频| 波多野结衣巨乳人妻| 嫩草影院精品99| 亚洲性久久影院| 久久精品久久精品一区二区三区| 欧美激情久久久久久爽电影| 亚洲国产精品成人综合色| 亚洲av二区三区四区| 在线观看美女被高潮喷水网站| 夜夜爽夜夜爽视频| 国产亚洲91精品色在线| 国产探花在线观看一区二区| 九九久久精品国产亚洲av麻豆| 久久精品久久久久久久性| 97人妻精品一区二区三区麻豆| 午夜福利成人在线免费观看| 日韩精品有码人妻一区| 日日啪夜夜爽| xxx大片免费视频| 欧美潮喷喷水| 狂野欧美激情性xxxx在线观看| 国产伦在线观看视频一区| 观看美女的网站| 女人久久www免费人成看片| 午夜老司机福利剧场| 国产精品综合久久久久久久免费| 超碰97精品在线观看| 69人妻影院| 国产午夜福利久久久久久| 国产一级毛片在线| 有码 亚洲区| 国产精品1区2区在线观看.| 韩国av在线不卡| 免费不卡的大黄色大毛片视频在线观看 | 只有这里有精品99| 国产成人精品一,二区| av在线播放精品| 国产精品综合久久久久久久免费| 欧美成人午夜免费资源| 舔av片在线| 亚洲第一区二区三区不卡| 极品教师在线视频| 夫妻午夜视频| 九九在线视频观看精品| 国产69精品久久久久777片| 国产男人的电影天堂91| 免费大片黄手机在线观看| 国产麻豆成人av免费视频| 亚洲av.av天堂| 一个人看视频在线观看www免费| 久久久久精品性色| 99久久精品热视频| 欧美人与善性xxx| 国产精品久久久久久精品电影小说 | 亚洲色图av天堂| 非洲黑人性xxxx精品又粗又长| 美女国产视频在线观看| 精品少妇黑人巨大在线播放| 男人爽女人下面视频在线观看| 久久这里只有精品中国| 久久久久免费精品人妻一区二区| 五月天丁香电影| 国产伦精品一区二区三区视频9| 中国美白少妇内射xxxbb| 久久久色成人| 亚洲怡红院男人天堂| 色5月婷婷丁香| 男人爽女人下面视频在线观看| 国产伦精品一区二区三区视频9| 色5月婷婷丁香| 人妻少妇偷人精品九色| 欧美成人午夜免费资源| 国产探花极品一区二区| 成人无遮挡网站| 永久免费av网站大全| 人妻系列 视频| 美女主播在线视频| 中文在线观看免费www的网站| 久久久国产一区二区| 尾随美女入室| 美女内射精品一级片tv| 国产午夜福利久久久久久| 麻豆乱淫一区二区| 26uuu在线亚洲综合色| 真实男女啪啪啪动态图| 激情五月婷婷亚洲| 亚洲色图av天堂| 国产片特级美女逼逼视频|