深度學(xué)習(xí)對(duì)抗網(wǎng)絡(luò)生成單人跳躍荷載

熊杰程 陳雋

摘要： 現(xiàn)有單人跳躍荷載模型通?；谥芷谛曰蚱椒€(wěn)性假定，從實(shí)驗(yàn)數(shù)據(jù)中人工提取脈沖特征、動(dòng)載因子和接觸率等特征參數(shù)來(lái)建立，特征參數(shù)的選擇主觀性強(qiáng)。深度學(xué)習(xí)理論能夠自動(dòng)分析和提取樣本特征，進(jìn)而生成全新的樣本。這其中，生成式對(duì)抗網(wǎng)絡(luò)（GANs）的出現(xiàn)極大地提高了生成樣本的質(zhì)量。因此，通過(guò)綜合條件GANs和帶有梯度懲罰的WassersteinGANs，提出了模擬單人跳躍荷載的GANs模型。該模型的生成器具有5個(gè)全連接層和1個(gè)一維卷積層，判別器則具有5個(gè)全連接層，并擁有大量頻率豐富的實(shí)測(cè)單人跳躍荷載樣本。經(jīng)過(guò)一百萬(wàn)次訓(xùn)練后，生成器可以生成與真實(shí)樣本非常相似的高質(zhì)量樣本。通過(guò)比較生成樣本與真實(shí)樣本的平均功率譜密度和單自由度響應(yīng)，驗(yàn)證了所提出的GANs模型可用于生成單人跳躍荷載。

關(guān)鍵詞： 跳躍荷載; 振動(dòng)舒適度; 生成式對(duì)抗網(wǎng)絡(luò); 深度學(xué)習(xí)

中圖分類(lèi)號(hào)： TU312+.1??文獻(xiàn)標(biāo)志碼： A??文章編號(hào)： 10044523（2019）05085607

DOI：10.16385/j.cnki.issn.10044523.2019.05.014

引?言

人群活動(dòng)引起的結(jié)構(gòu)振動(dòng)舒適度問(wèn)題，對(duì)于大跨度樓板、人行天橋和體育看臺(tái)等結(jié)構(gòu)的設(shè)計(jì)變得越來(lái)越重要，若考慮不充分則可能帶來(lái)嚴(yán)重的經(jīng)濟(jì)損失和惡劣的社會(huì)影響[12]。在步行、跳躍、跑動(dòng)和Bounce等常見(jiàn)的人致荷載類(lèi)型中，一般認(rèn)為跳躍產(chǎn)生的動(dòng)力荷載最大 [34]?，F(xiàn)有的跳躍荷載模型，無(wú)論是確定性的傅里葉級(jí)數(shù)模型[5]還是隨機(jī)模型[6]，都是基于先驗(yàn)的周期性或平穩(wěn)性假定，從實(shí)驗(yàn)數(shù)據(jù)中提取特征參數(shù)及其分布特性后而建立的。

與人工確定并提取數(shù)據(jù)對(duì)象分布特征的傳統(tǒng)建模方法相比，近年來(lái)飛速發(fā)展的深度學(xué)習(xí)理論通過(guò)多級(jí)抽象的方式來(lái)自動(dòng)提取數(shù)據(jù)的特征[7]。實(shí)踐證明，此類(lèi)方法在分析高維數(shù)據(jù)的復(fù)雜結(jié)構(gòu)方面非常出色，并已成功應(yīng)用于許多領(lǐng)域。例如，在圖像識(shí)別方面，深度卷積網(wǎng)絡(luò)取得了比人類(lèi)辨識(shí)更好的結(jié)果[8];由深度學(xué)習(xí)方法所生成的圖像已經(jīng)達(dá)到以假亂真的地步[9];在語(yǔ)音識(shí)別和自然語(yǔ)言處理中，循環(huán)神經(jīng)網(wǎng)絡(luò)也取得了重要的成果[10]。在眾多深度學(xué)習(xí)算法中，2014年Goodfellow等提出的生成式對(duì)抗網(wǎng)絡(luò)[9]是一類(lèi)無(wú)監(jiān)督的機(jī)器學(xué)習(xí)算法，由兩個(gè)神經(jīng)網(wǎng)絡(luò)通過(guò)博弈方式相互競(jìng)爭(zhēng)，它們可以隱式地從真實(shí)樣本中學(xué)習(xí)數(shù)據(jù)分布特性，并利用分布生成新樣本，非常適合于具有復(fù)雜數(shù)據(jù)結(jié)構(gòu)的動(dòng)力荷載的生成問(wèn)題。因此，本文研究利用生成式對(duì)抗網(wǎng)絡(luò)學(xué)習(xí)單人跳躍荷載的數(shù)據(jù)分布，并模擬生成高質(zhì)量的單人跳躍荷載樣本。

1?生成式對(duì)抗網(wǎng)絡(luò)

1.1?生成式對(duì)抗網(wǎng)絡(luò)的基本原理??典型的生成式對(duì)抗網(wǎng)絡(luò) （generative adversarial networks， GANs） 由生成器和判別器組成，如圖1所示。生成器通過(guò)學(xué)習(xí)來(lái)構(gòu)建從隨機(jī)噪聲到特定分布數(shù)據(jù)的映射函數(shù)，它以隨機(jī)噪聲作為輸入，其輸出目標(biāo)是盡可能模仿訓(xùn)練集中的真實(shí)樣本。判別器的輸入則是真實(shí)樣本或來(lái)自生成器的生成樣本，其目的是盡可能地分辨出真實(shí)樣本和生成樣本，而生成器必須盡可能地欺騙判別器。兩個(gè)神經(jīng)網(wǎng)絡(luò)互相競(jìng)爭(zhēng)并通過(guò)訓(xùn)練不斷地調(diào)整各自的參數(shù)，最終目標(biāo)是真實(shí)樣本和生成樣本的數(shù)據(jù)分布一致，而且判別器無(wú)法區(qū)分真實(shí)樣本和生成樣本。

假定生成器和判別器的結(jié)構(gòu)都是神經(jīng)網(wǎng)絡(luò)，生成器的輸入為噪聲變量z，其分布為pZ。Gz;θg表示為隨機(jī)噪聲到生成樣本的映射函數(shù)，是具有參數(shù)θg的神經(jīng)網(wǎng)絡(luò)，由其生成的樣本的分布假定為pG。判別器Dx;θd同樣為具有參數(shù)θd的神經(jīng)網(wǎng)絡(luò)，其輸入x為生成樣本或者真實(shí)樣本，其輸出為單個(gè)標(biāo)量，表示x是真實(shí)樣本的概率。

整個(gè)訓(xùn)練共進(jìn)行一百萬(wàn)步，每一步訓(xùn)練的樣本數(shù)量為64，每次訓(xùn)練利用Adam算法優(yōu)化判別器5次，優(yōu)化生成器1次。

本文使用開(kāi)源框架TensorFlow[19]進(jìn)行神經(jīng)網(wǎng)絡(luò)的搭建和訓(xùn)練。首先使用TensorFlow完成神經(jīng)網(wǎng)絡(luò)的正向傳播，即搭建圖3所示生成器和判別器的各層結(jié)構(gòu)，然后利用式（10）所定義的優(yōu)化目標(biāo)函數(shù)設(shè)計(jì)生成器和判別器中參數(shù)的優(yōu)化目標(biāo)。隨后需調(diào)用TensorFlow的Adam優(yōu)化函數(shù)，按照式（11）設(shè)置好參數(shù)取值后，利用TensorFlow自動(dòng)實(shí)現(xiàn)目標(biāo)函數(shù)對(duì)神經(jīng)網(wǎng)絡(luò)中參數(shù)的求導(dǎo)，進(jìn)而完成整個(gè)反向傳播過(guò)程。

2.4?超參數(shù)對(duì)訓(xùn)練結(jié)果的影響

當(dāng)使用帶有梯度懲罰的WGANs時(shí)，即使用式（10）為優(yōu)化目標(biāo)時(shí)，只要噪聲和網(wǎng)絡(luò)結(jié)構(gòu)的容量足夠，就可以生成高質(zhì)量的樣本。當(dāng)其過(guò)于簡(jiǎn)單時(shí)，會(huì)導(dǎo)致生成樣本質(zhì)量差，當(dāng)其過(guò)于復(fù)雜時(shí)，同樣可以生成高質(zhì)量的樣本，但是會(huì)導(dǎo)致訓(xùn)練時(shí)間過(guò)長(zhǎng)。

對(duì)于網(wǎng)絡(luò)結(jié)構(gòu)中的超參數(shù)，例如隱藏層的激活函數(shù)都采用ReLu，而每一層的初始權(quán)重都采用He方法是為了避免梯度消失。

對(duì)于Adam訓(xùn)練方法中的超參數(shù)，學(xué)習(xí)率設(shè)置得過(guò)大，會(huì)出現(xiàn)梯度爆炸問(wèn)題，而學(xué)習(xí)率過(guò)小，會(huì)導(dǎo)致訓(xùn)練時(shí)間過(guò)長(zhǎng)，該參數(shù)初始值一般設(shè)置得較大，每次縮小10倍，直到不再出現(xiàn)梯度爆炸問(wèn)題。而1階矩和2階矩的指數(shù)衰減速率，采用文獻(xiàn)[18]建議的默認(rèn)值。

3?GANs中真實(shí)樣本的來(lái)源

本研究中，GANs中的真實(shí)單人跳躍荷載樣本來(lái)自?xún)山M實(shí)驗(yàn)，分別在同濟(jì)大學(xué)和英國(guó)謝菲爾德大學(xué)完成。

同濟(jì)大學(xué)實(shí)驗(yàn)在某步態(tài)實(shí)驗(yàn)室進(jìn)行，如圖4（a）所示。一共有67位同濟(jì)大學(xué)的學(xué)生參加。每位測(cè)試者在節(jié)拍器引導(dǎo)下完成4組固定頻率的跳躍實(shí)驗(yàn)，分別是1.5，2.0，2.67和3.5 Hz。跳躍過(guò)程中，用固定于剛性地面上的測(cè)力板 （AMTI OR67， USA） 記錄其跳躍力時(shí)程，采樣頻率為100 Hz，每組記錄大約30 s。謝菲爾德實(shí)驗(yàn)是在其結(jié)構(gòu)實(shí)驗(yàn)室進(jìn)行的，共55位測(cè)試者參加，每位測(cè)試者在節(jié)拍器引導(dǎo)下完成4組固定頻率的跳躍實(shí)驗(yàn)，分別是1.5，2.0，2.4和2.8 Hz。跳躍過(guò)程中，用固定于剛性地面上的測(cè)力板 （AMTI BP400600， USA） 記錄其跳躍力時(shí)程，采樣頻率為100 Hz，每組記錄大約25 s。

對(duì)每一條原始記錄，首先對(duì)測(cè)力板測(cè)得的豎向力除以測(cè)試者體重進(jìn)行歸一化，然后截取20 s的平穩(wěn)段，接下來(lái)利用傅里葉變換求截取時(shí)程的主頻，并剔除主頻不在節(jié)拍器頻率正負(fù)0.025 Hz范圍之內(nèi)的數(shù)據(jù)。最終，對(duì)于同濟(jì)1.5，2.0，2.67和3.5 Hz實(shí)驗(yàn)，分別得到39，41，37和12條合格樣本，對(duì)于謝菲爾德1.5，2.0，2.4和2.8 Hz實(shí)驗(yàn)，分別得到39，50，40和33條合格樣本。由于中國(guó)人和外國(guó)人跳躍荷載存在差異，同時(shí)為研究GANs的生成能力，本研究中將國(guó)內(nèi)和國(guó)外同頻率的跳躍視為兩類(lèi)不同的荷載類(lèi)型，即在本文中，一共有8類(lèi)荷載。圖5展示了一些實(shí)測(cè)樣本。

4?生成樣本

利用TensorFlow所建立的GANs在經(jīng)過(guò)一百萬(wàn)次的訓(xùn)練后，生成器可以生成高質(zhì)量的樣本。條件變量可以控制生成樣本的種類(lèi)。圖6展示了一些生成樣本。

對(duì)比圖5和6可見(jiàn)，生成樣本與真實(shí)樣本具有非常相似的時(shí)域特性，僅憑肉眼觀察已經(jīng)無(wú)法準(zhǔn)確區(qū)分真實(shí)樣本還是生成樣本。

除觀察方式外，進(jìn)一步采用定量的方法來(lái)比較生成樣本和真實(shí)樣本。由于跳躍荷載具有隨機(jī)性且可以假定為平穩(wěn)隨機(jī)過(guò)程[6]，因此可以對(duì)比生成樣本和真實(shí)樣本的功率譜密度，即實(shí)測(cè)荷載與生成荷載的能量特征。首先利用生成器，每一類(lèi)生成1000個(gè)樣本，然后計(jì)算生成樣本和真實(shí)樣本的平均功率譜密度值，其對(duì)比結(jié)果如圖7所示。兩條功率譜密度曲線幾乎重合，說(shuō)明生成樣本和真實(shí)樣本有一致的能量特征。

進(jìn)一步，比較生成樣本和真實(shí)樣本的單自由度系統(tǒng)響應(yīng)。該單自由度系統(tǒng)假定質(zhì)量為1，阻尼比為0.03，頻率與荷載主頻相同，即共振假定。首先利用生成器，每一類(lèi)生成1000個(gè)樣本，然后計(jì)算生成樣本和真實(shí)樣本的單自由度響應(yīng)的加速度均方根值aRMS，其概率分布函數(shù)如圖8所示。兩條概率分布函數(shù)幾乎重合，從結(jié)構(gòu)響應(yīng)方面，說(shuō)明了利用GANs生成跳躍荷載的可行性。

5?結(jié)?論

不同于傳統(tǒng)的人為假定荷載特征后統(tǒng)計(jì)建模的研究范式，本文采用基于深度學(xué)習(xí)理論的條件GANs和帶有梯度懲罰的WGANs實(shí)現(xiàn)荷載特征的自動(dòng)提取和樣本生成，實(shí)現(xiàn)了研究范式的突破。研究所建立的模型GANs本質(zhì)上是對(duì)樣本高維分布特性的描述，相對(duì)于現(xiàn)有一維分布（如確定性均值模型）和二維分布（如功率譜模型）荷載模型，具有顯著的理論優(yōu)勢(shì)。

文中所建立的GANs網(wǎng)絡(luò)模型可以自動(dòng)學(xué)習(xí)真實(shí)荷載樣本的分布，并生成與真實(shí)樣本分布一致的高質(zhì)量樣本。通過(guò)比較生成樣本和真實(shí)樣本的時(shí)域特征、平均功率譜密度和單自由度響應(yīng)，證明了該模型的合理性，可用來(lái)構(gòu)建基于網(wǎng)絡(luò)的荷載生成平臺(tái)，服務(wù)于工程結(jié)構(gòu)的人致振動(dòng)問(wèn)題的分析與研究。

參考文獻(xiàn)：

[1]?ivanovi S， Pavic A， Reynolds P. Vibration serviceability of footbridges under humaninduced excitation： A literature review[J]. Journal of Sound and Vibration， 2005， 279（1）： 174.

[2]?Dallard P， Fitzpatrick A J， Flint A， et al. The London millennium footbridge[J]. Structural Engineer， 2001， 79（22）： 1721.

[3]?陳?雋. 人致荷載與人致結(jié)構(gòu)振動(dòng)[M]. 北京： 科學(xué)出版社，2016.

Chen Jun. HumanInduced Loads and Structure Vibrations[M]. Beijing： Science Press， 2016

[4]?Racic V， Pavic A. Mathematical model to generate nearperiodic human jumping force signals[J]. Mechanical Systems and Signal Processing， 2010， 24（1）： 138152.

[5]?Ellis B R， Ji T. Floor vibration induced by dancetype loads： Verification[J]. Structural Engineer， 1994， 72（3）： 4550.

[6]?Xiong J， Chen J. Power spectral density function for individual jumping load[J]. International Journal of Structural Stability and Dynamics， 2018， 18（02）： 1850023.

[7]?LeCun Y， Bengio Y， Hinton G. Deep learning[J]. Nature， 2015， 521（7553）： 436444.

[8]?He K， Zhang X， Ren S， et al. Deep residual learning for image recognition[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition， New York， 2016： 770778.