基于LSTM神經(jīng)網(wǎng)絡(luò)的短期軌道預(yù)報(bào)

張心宇, 劉 源,*, 宋佳凝

(1. 中山大學(xué)天琴中心, 廣東 珠海 519082; 2. 中山大學(xué)物理與天文學(xué)院, 廣東 珠海 519082)

0 引 言

近年來(lái)隨著國(guó)內(nèi)外航天技術(shù)的發(fā)展,空間任務(wù)、空間系統(tǒng)均日趨復(fù)雜化,這對(duì)衛(wèi)星在軌的智能性、自主性提出了越來(lái)越高的要求。為了提升衛(wèi)星的在軌自主性,使其具備較強(qiáng)的在軌自主任務(wù)規(guī)劃與任務(wù)協(xié)同能力,則衛(wèi)星至少需要具備中短期的在軌自主軌道預(yù)報(bào)能力。而現(xiàn)有軌道預(yù)報(bào)方法主要存在預(yù)報(bào)精度低與計(jì)算量大的缺陷[1-4]。

目前傳統(tǒng)軌道預(yù)測(cè)方法主要是基于物理建模,一般有兩種思路[1]。一種是數(shù)值法[2],從初始狀態(tài)開(kāi)始,利用狀態(tài)變化的導(dǎo)數(shù)逐步積分,從而得到后來(lái)任意時(shí)刻的狀態(tài)。利用數(shù)值法進(jìn)行高精度軌道預(yù)報(bào)不僅需要對(duì)衛(wèi)星幾何信息、地心引力,大氣阻力、太陽(yáng)輻射壓力等方面有精細(xì)的模型,更會(huì)消耗巨大的計(jì)算成本和時(shí)間成本。另一種是解析法[3],根據(jù)影響軌道運(yùn)動(dòng)的主要攝動(dòng)力得出衛(wèi)星運(yùn)動(dòng)的解析表達(dá)式,通過(guò)求解析解對(duì)衛(wèi)星軌道進(jìn)行預(yù)報(bào)。解析法的優(yōu)勢(shì)在于計(jì)算速度極快,運(yùn)行時(shí)只占用少量的計(jì)算資源。但是由于各種攝動(dòng)力的精確模型十分復(fù)雜,準(zhǔn)確求解出解析解極其困難,只能對(duì)攝動(dòng)模型進(jìn)行一定程度上的簡(jiǎn)化,得到精度較低的近似解,更多被應(yīng)用在數(shù)量巨大、預(yù)報(bào)精度要求低的空間碎片預(yù)報(bào)上。因此，無(wú)論是數(shù)值法與解析法均難以滿足衛(wèi)星平臺(tái)自主高精度軌道預(yù)報(bào)的需求[4]。神經(jīng)網(wǎng)絡(luò)作為一種機(jī)器學(xué)習(xí)算法,能夠在不進(jìn)行具體建模的基礎(chǔ)上對(duì)復(fù)雜規(guī)律進(jìn)行學(xué)習(xí),掌握其輸入輸出函數(shù)的內(nèi)在聯(lián)系。同時(shí),神經(jīng)網(wǎng)絡(luò)在進(jìn)行訓(xùn)練時(shí)計(jì)算量較大,但是完成訓(xùn)練后利用其進(jìn)行計(jì)算時(shí)計(jì)算量則較小,注入衛(wèi)星后能夠比現(xiàn)在主流的四階Runge-Kutta數(shù)值法與解析法方法更適用于星上的計(jì)算環(huán)境[4]。

Peng等利用人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)傳統(tǒng)方法預(yù)測(cè)衛(wèi)星軌道的歷史誤差,顯著提升了衛(wèi)星預(yù)測(cè)精度[5]。除了神經(jīng)網(wǎng)絡(luò),他們還利用支持向量機(jī)(support vector machine, SVM)[6-8]以及高斯過(guò)程(Gaussian process, GP)[9]兩種機(jī)器學(xué)習(xí)算法對(duì)傳統(tǒng)方法的歷史預(yù)測(cè)誤差進(jìn)行學(xué)習(xí),并將3種機(jī)器學(xué)習(xí)算法的結(jié)果進(jìn)行了詳細(xì)的對(duì)比[10]與缺陷分析[11]。類似的還有Li等人提出的一種基于機(jī)器學(xué)習(xí)的單站稀疏跟蹤數(shù)據(jù)改進(jìn)低軌空間碎片軌道預(yù)測(cè)的方法[12]。文獻(xiàn)[13]提出基于補(bǔ)償波形調(diào)整的導(dǎo)航衛(wèi)星軌道預(yù)報(bào)方法,采用補(bǔ)償波形調(diào)整的神經(jīng)網(wǎng)絡(luò)優(yōu)化模型后,預(yù)報(bào)弧長(zhǎng)為8 d、15 d、30 d時(shí),改進(jìn)率分別提高了2.3%、6.7%、10%。曹磊[14]以全球定位系統(tǒng)(global positioning system, GPS)導(dǎo)航衛(wèi)星為對(duì)象,分別采用反向傳播(back propagation, BP)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)對(duì)預(yù)報(bào)誤差進(jìn)行建模并進(jìn)行了預(yù)報(bào),結(jié)果表明基于深度神經(jīng)網(wǎng)混合模型的方法對(duì)于GPS導(dǎo)航衛(wèi)星的預(yù)報(bào)精度有較大程度的改進(jìn)。Yang在沒(méi)有物理建模的情況下,直接利用長(zhǎng)短期記憶(long short-term memory, LSTM)學(xué)習(xí)衛(wèi)星軌道變化規(guī)律,并用螢火蟲(chóng)算法加以改進(jìn),一天預(yù)報(bào)精度達(dá)到了百米量級(jí)[15]。文獻(xiàn)[16]提出將優(yōu)化的LSTM網(wǎng)絡(luò)直接應(yīng)用在衛(wèi)星軌道數(shù)據(jù)上,將預(yù)報(bào)20 d的誤差由之前最大值的300 km降低到5 km以下。文獻(xiàn)[15-16]利用了LSTM神經(jīng)網(wǎng)絡(luò),但都沒(méi)有利用到任何動(dòng)力學(xué)模型,直接利用預(yù)報(bào)軌道作為訓(xùn)練樣本,而且除了軌道坐標(biāo)數(shù)據(jù)沒(méi)有引入任何特征,因此導(dǎo)致神經(jīng)網(wǎng)絡(luò)輸出量的動(dòng)態(tài)范圍過(guò)大,預(yù)報(bào)精度仍有進(jìn)一步提升的空間。同時(shí),之前提出的基于神經(jīng)網(wǎng)絡(luò)的軌道預(yù)報(bào)方法都需要長(zhǎng)達(dá)幾百天訓(xùn)練的數(shù)據(jù),限制了模型應(yīng)用的靈活性。針對(duì)上述不足,本文提出一種新的軌道預(yù)報(bào)算法,在SGP4(simplified general perturbations)解析法軌道預(yù)報(bào)模型的基礎(chǔ)上,利用LSTM神經(jīng)網(wǎng)絡(luò)以位置、速度、加速度作為特征,對(duì)SGP4軌道預(yù)報(bào)歷史誤差進(jìn)行學(xué)習(xí),通過(guò)預(yù)測(cè)并修正未來(lái)SGP4軌道預(yù)報(bào)誤差,改進(jìn)動(dòng)力學(xué)模型的短期軌道預(yù)報(bào)精度。

1 誤差數(shù)據(jù)分析

1.1 SGP4預(yù)報(bào)誤差

北美防空司令部(North American Aerospace Defense Command, NORAD)提供的TLE(two-line mean element)是目前最為完整的地球軌道空間目標(biāo)的軌道數(shù)據(jù),SGP4/SDP4(simplified deep-space perturbation)模型[17]是NORAD提供的配合 TLE 使用的解析軌道預(yù)報(bào)模型,能夠快速計(jì)算出任何時(shí)刻衛(wèi)星的狀態(tài)。由于模型計(jì)算效率較高,預(yù)報(bào)精度尚可,因此被廣泛應(yīng)用[18]。SGP4/SDP4算法對(duì)于近地目標(biāo)預(yù)報(bào)3 d位置誤差小于40 km;對(duì)半同步軌道預(yù)報(bào)30 d和同步軌道預(yù)報(bào)15 d,預(yù)報(bào)誤差小于40 km;橢圓軌道目標(biāo)預(yù)報(bào)1 d位置誤差小于20 km[19]。

TLE+SGP4預(yù)報(bào)誤差主要由兩部分組成[20]。第一部分是TLE軌道根數(shù)的誤差,是由監(jiān)視網(wǎng)的測(cè)量誤差與定軌中擬合算法誤差共同引起的[21]。NORAD并沒(méi)有提供更詳細(xì)關(guān)于TLE誤差的說(shuō)明,在沒(méi)有更高精度測(cè)量數(shù)據(jù)的情況下,這部分誤差是無(wú)法消除的。第二部分是SGP4模型的誤差,主要由采用不精確的大氣阻力模型與低階的地球引力場(chǎng)模型導(dǎo)致[22]。SGP4模型為了確保較快的運(yùn)算速度,采用了簡(jiǎn)化的攝動(dòng)力模型。其大氣模型只考慮了大氣阻尼的長(zhǎng)期影響,采用大氣密度隨高度變化的指數(shù)大氣密度模型。模型中氣動(dòng)阻力項(xiàng)B*為歸一化的大氣阻力系數(shù)[23]:

(1)

式中:

(2)

ρo為大氣密度參考值;B為彈道系數(shù);Cd為無(wú)量綱的氣動(dòng)阻力系數(shù);A/m為衛(wèi)星面質(zhì)比。B*是利用歷史數(shù)據(jù)將其與其他軌道根數(shù)一同進(jìn)行解算,獲得平均化的計(jì)算初值,在SGP4外推過(guò)程一直為不變項(xiàng),這必然會(huì)引起預(yù)報(bào)的較大誤差[24]。

同時(shí)SGP4使用的地球引力模型只考慮了J2、J3、J4帶諧項(xiàng)的影響,并未考慮J22田諧項(xiàng)的影響。對(duì)于典型的102量級(jí)(歸一化量綱)的預(yù)報(bào),由忽略田諧項(xiàng)產(chǎn)生的誤差可以達(dá)到百米級(jí)甚至千米級(jí)[25]。本文希望通過(guò)學(xué)習(xí)歷史誤差數(shù)據(jù)的變化規(guī)律,提前預(yù)測(cè)TLE+SGP4的預(yù)報(bào)誤差,從而提高短期軌道預(yù)報(bào)精度。

1.2 誤差時(shí)間序列數(shù)據(jù)

時(shí)間序列是一組按照時(shí)間先后順序排列且內(nèi)部關(guān)聯(lián)的數(shù)據(jù)。通過(guò)對(duì)歷史時(shí)間序列的分析,能在一定統(tǒng)計(jì)意義上對(duì)未來(lái)進(jìn)行短期預(yù)測(cè)。地心慣性坐標(biāo)系(earth center inertial coordinates, ECI)表示的衛(wèi)星X、Y、Z三軸的位置誤差數(shù)據(jù),也可以被認(rèn)為是3組連續(xù)的時(shí)間序列。

表1 Ajisai衛(wèi)星相關(guān)參數(shù)

以Ajisai衛(wèi)星為例,其相關(guān)參數(shù)如表1所示,該衛(wèi)星的TLE數(shù)據(jù)每天會(huì)發(fā)布1～3個(gè),使用SGP4模型對(duì)TLE數(shù)據(jù)進(jìn)行預(yù)報(bào),采用前一天最后一次發(fā)布的TLE根數(shù)進(jìn)行外推可以通過(guò)SGP4模型對(duì)后一天做出精度最高的預(yù)報(bào),最大預(yù)報(bào)誤差的量級(jí)在600 m,所以本文主要討論對(duì)外推一天的預(yù)報(bào)誤差進(jìn)行修正。作為標(biāo)準(zhǔn)的高精度的軌道數(shù)據(jù)選擇國(guó)際激光測(cè)距服務(wù)(international laser ranging service,ILRS)提供的CPF(consolidated prediction format)星歷文件[26],可以從CDDIS(crustal dynamics data information system)或者EUROLAS數(shù)據(jù)中心得到。對(duì)于Ajisai衛(wèi)星,每天更新的CPF星歷文件提供5 d的軌道數(shù)據(jù),精度可以達(dá)到2 m以內(nèi)[27],滿足本文訓(xùn)練神經(jīng)網(wǎng)絡(luò)需要的精度。一個(gè)特定的CPF文件包括未來(lái)3 d與過(guò)去兩天共5 d的精確軌道預(yù)測(cè),步長(zhǎng)為4 min,并以國(guó)際地面參考系表示。由于真實(shí)情況下未來(lái)時(shí)刻的精密數(shù)據(jù)是未知的,所以選擇連續(xù)多個(gè)CPF文件的第二天數(shù)據(jù)連接起來(lái)作為實(shí)驗(yàn)的精確星歷。由連續(xù)7 d的CPF星歷與SGP4預(yù)報(bào)得到的X軸、Y軸、Z軸3組原始誤差時(shí)間序列數(shù)據(jù),如圖1所示。本文將對(duì)圖中數(shù)據(jù)之后一天的SGP4+TLE預(yù)報(bào)誤差序列進(jìn)行修正。

2 基于LSTM的軌道預(yù)報(bào)誤差修正

2.1 LSTM網(wǎng)絡(luò)模型

在循環(huán)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,提出的LSTM網(wǎng)絡(luò)[28-29]采用巧妙的門設(shè)計(jì),避開(kāi)了梯度爆炸和長(zhǎng)期依賴問(wèn)題[30]。由于每一次循環(huán)都用到了前一次循環(huán)的信息,每一個(gè)輸出狀態(tài)都受到了之前狀態(tài)的影響,所以,LSTM網(wǎng)絡(luò)能夠更好地記住長(zhǎng)期的規(guī)律,并廣泛應(yīng)用于時(shí)間序列預(yù)測(cè)的問(wèn)題,也適用于處理衛(wèi)星軌道數(shù)據(jù)的誤差關(guān)系[15]。

本文采用的LSTM網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示,在t時(shí)刻,一層網(wǎng)絡(luò)由上下兩條信息流構(gòu)成。從Ct-1到Ct的信息流表示細(xì)胞狀態(tài)的傳遞,整條線路通過(guò)3個(gè)門控結(jié)構(gòu)與下面的一條信息流線性交互。門控結(jié)構(gòu)讓信息進(jìn)行選擇式通過(guò),流入上方Ct-1到Ct的信息流對(duì)細(xì)胞狀態(tài)進(jìn)行刪除或者添加信息。門控結(jié)構(gòu)中σ激活函數(shù)層與tanh激活函數(shù)層,分別可以將輸入轉(zhuǎn)化到(0,1)之間與(-1,1)之間,生成輸入數(shù)據(jù)的權(quán)重,從而對(duì)輸入數(shù)據(jù)進(jìn)行篩選。每一層LSTM網(wǎng)絡(luò)中有3個(gè)門結(jié)構(gòu)來(lái)控制細(xì)胞狀態(tài)。

(1) 遺忘門

遺忘門的表達(dá)式如下所示:

ft=σ(Wf·[ht-1,xt]+bf)

(3)

σ層通過(guò)上一時(shí)刻隱藏狀態(tài)ht-1與t時(shí)刻輸入xt得到一個(gè)0到1之間的值,作為上一層細(xì)胞狀態(tài)被遺忘的概率,視為Ct-1記憶的衰減系數(shù),記作ft。

(2) 輸入門

it=σ[Wi(ht-1,xt)+bi]

(4)

(5)

(6)

式中:*表示卷積。

(3) 輸出門

ot=σ[Wo(ht-1,xt)+bo]

(7)

ht=ot*tanh(Ct)

(8)

輸出門通過(guò)式(7)和式(8)更新當(dāng)前時(shí)刻隱藏層輸出的值即ht,同時(shí)也是t時(shí)刻的隱藏狀態(tài)。

式(3)～式(8)中Wζ與bξ,ζ∈{f,i,c,o},ξ∈{f,i,c,o}分別表示輸出的權(quán)重和偏置矩陣,也是在訓(xùn)練中需要學(xué)習(xí)的參數(shù)。由于每一次循環(huán)都用到了前一次循環(huán)的信息Ct-1與ht-1,每一個(gè)輸出狀態(tài)都受到了之前狀態(tài)的影響,所以LSTM具有記憶長(zhǎng)期歷史信息的能力。本文的網(wǎng)絡(luò)模型主要由兩個(gè)LSTM層以及一個(gè)線性全連接層組成。

2.2 過(guò)擬合修正

網(wǎng)絡(luò)訓(xùn)練過(guò)程,可以看作是不斷調(diào)整參數(shù)以使損失函數(shù)最小化的過(guò)程。假設(shè)樣本量為N,通過(guò)網(wǎng)絡(luò)正向傳播得到輸出y*,而期望輸出為y,則可以給出均方差損失函數(shù):

(9)

但是僅使用這樣的損失函數(shù)最終很可能導(dǎo)致過(guò)擬合問(wèn)題,即對(duì)訓(xùn)練集數(shù)據(jù)效果很好,而對(duì)實(shí)際的測(cè)試集數(shù)據(jù)效果很差。因此,本文采用了帶正則化項(xiàng)的均方差損失函數(shù),即

(10)

式中:ω為網(wǎng)絡(luò)中各項(xiàng)參數(shù);λ為正則化項(xiàng)的權(quán)重。

2.3 特征選擇與數(shù)據(jù)預(yù)處理

區(qū)別于之前論文方法僅基于位置誤差數(shù)據(jù),本文的LSTM網(wǎng)絡(luò)模型引入位置誤差、速度預(yù)測(cè)值與加速度預(yù)測(cè)值數(shù)據(jù),實(shí)現(xiàn)從多個(gè)特征對(duì)原始序列數(shù)據(jù)進(jìn)行分析預(yù)測(cè),提高信息的維度。其中目標(biāo)的位置速度預(yù)測(cè)值與加速度預(yù)測(cè)值數(shù)據(jù)依靠前一天的TLE數(shù)據(jù)配合SGP4模型得到。

數(shù)據(jù)的預(yù)處理主要包括軌道殘差數(shù)據(jù)的完整性和歸一化步驟。時(shí)間序列數(shù)據(jù)的完整性,用于確保每一時(shí)刻監(jiān)測(cè)值的有效性,是開(kāi)展后續(xù)研究工作的前提。CPF星歷提供4 min間隔的高精度數(shù)據(jù),如果需要更高密度的軌道數(shù)據(jù),根據(jù)官方文件[26],通過(guò)十點(diǎn)基線拉格朗日插值器可以在CPF文件覆蓋的任意時(shí)刻獲得衛(wèi)星的狀態(tài),并且選取兩個(gè)點(diǎn)中間時(shí)刻插值精度最高。數(shù)據(jù)的歸一化處理用于消除位置、速度、加速度數(shù)據(jù)不同量綱之間的影響,本文使用歸一化函數(shù)如下:

(11)

式中:Xorigin、min、max分別表示原始數(shù)據(jù)、訓(xùn)練數(shù)據(jù)中最小值與最大值;Xm為歸一化后的值,處理后的數(shù)據(jù)將被限制在[0,1]范圍內(nèi),保證網(wǎng)絡(luò)訓(xùn)練過(guò)程能夠快速收斂。

2.4 數(shù)據(jù)集結(jié)構(gòu)設(shè)計(jì)

根據(jù)衛(wèi)星3個(gè)軸的歷史軌道誤差數(shù)據(jù)建立模型預(yù)測(cè)軌道預(yù)報(bào)誤差,首先需要設(shè)計(jì)合理的數(shù)據(jù)集。由于3個(gè)軸的數(shù)據(jù)集結(jié)構(gòu)相同,此處以ECI坐標(biāo)系下X軸從UTC(universal time coordinated) 2020-04-06的00:00:00 到UTC 2020-04-13的24:00:00連續(xù)8 d數(shù)據(jù)設(shè)計(jì)訓(xùn)練數(shù)據(jù)集與測(cè)試數(shù)據(jù)集,Y、Z軸的數(shù)據(jù)集構(gòu)造工作不再贅述。

訓(xùn)練數(shù)據(jù)集的結(jié)構(gòu)如圖3所示。固定時(shí)間長(zhǎng)度的真實(shí)歷史誤差數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)依次輸入進(jìn)LSTM網(wǎng)絡(luò),然后前向傳播對(duì)輸入序列的后一個(gè)時(shí)刻的誤差做出一步預(yù)測(cè),最后通過(guò)預(yù)測(cè)值與真實(shí)誤差進(jìn)行反向傳播更新網(wǎng)絡(luò)的權(quán)值。一組輸入時(shí)間序列與下一步預(yù)測(cè)的結(jié)果構(gòu)成一步訓(xùn)練數(shù)據(jù)。圖3中每一步的訓(xùn)練數(shù)據(jù)結(jié)構(gòu)如圖4所示。

t0時(shí)刻LSTM網(wǎng)絡(luò)通過(guò)輸出步長(zhǎng)為n,由預(yù)報(bào)誤差、歷史速度預(yù)報(bào)值與歷史加速度預(yù)報(bào)值構(gòu)成的向量大小為3n的輸入時(shí)間序列,進(jìn)行前向傳播對(duì)下一個(gè)時(shí)間點(diǎn)t0+1即4 min后的預(yù)報(bào)誤差進(jìn)行一步預(yù)測(cè),得到t0+1時(shí)刻的預(yù)報(bào)誤差預(yù)測(cè)值VarP(t0+1)。而t0+1時(shí)刻的真實(shí)預(yù)報(bào)誤差Var1(t0+1)作為參考值,通過(guò)計(jì)算出預(yù)測(cè)值VarP(t0+1)的交叉熵?fù)p失函數(shù)進(jìn)行反向傳播,對(duì)LSTM網(wǎng)絡(luò)的權(quán)重矩陣與偏置進(jìn)行更新。完成一步訓(xùn)練后,輸入序列與預(yù)測(cè)序列會(huì)向后一個(gè)時(shí)間點(diǎn)移動(dòng),直到完成整個(gè)訓(xùn)練集數(shù)據(jù)。

使用3個(gè)獨(dú)立的LSTM網(wǎng)絡(luò)對(duì)訓(xùn)練數(shù)據(jù)分別進(jìn)行300次訓(xùn)練,圖5展示了訓(xùn)練后的3個(gè)LSTM網(wǎng)絡(luò)在所有3個(gè)軸的訓(xùn)練數(shù)據(jù)上的性能,反映了模型對(duì)解析法軌道預(yù)報(bào)誤差的學(xué)習(xí)能力。

原位雜交結(jié)果顯示，在結(jié)腸癌組織中，miR-454-3p的表達(dá)水平顯著高于正常結(jié)腸組織。我們對(duì)原位雜交結(jié)果進(jìn)行統(tǒng)計(jì)分析，分別取了5個(gè)高倍視野，計(jì)算了miR-454-3p陽(yáng)性細(xì)胞數(shù)占總細(xì)胞數(shù)的比例，結(jié)果顯示，結(jié)腸癌組織中的miR-454-3p表達(dá)水平顯著高于正常結(jié)腸組織中的表達(dá)水平組間差異顯著（P＜0.05，圖1）。

通過(guò)圖5的殘余誤差可以看出,LSTM在X軸訓(xùn)練數(shù)據(jù)上的最大殘余誤差已經(jīng)下降到30 m左右;在Y軸訓(xùn)練數(shù)據(jù)上的最大殘余誤差已經(jīng)下降到60 m左右;在Z軸訓(xùn)練數(shù)據(jù)上的最大殘余誤差已經(jīng)下降到60 m左右。

2.5 預(yù)報(bào)誤差的預(yù)測(cè)流程

以上分析表明,LSTM網(wǎng)絡(luò)可以較好地學(xué)習(xí)到訓(xùn)練集上SGP4預(yù)報(bào)誤差的變化規(guī)律。為了驗(yàn)證LSTM網(wǎng)絡(luò)對(duì)未來(lái)軌道預(yù)報(bào)誤差的修正能力,本文著重討論SGP4+TLE外推一天的軌道預(yù)報(bào)誤差修正,將訓(xùn)練后的LSTM網(wǎng)絡(luò)應(yīng)用在測(cè)試數(shù)據(jù)集上。

測(cè)試數(shù)據(jù)集的結(jié)構(gòu)與圖3訓(xùn)練數(shù)據(jù)結(jié)構(gòu)類似,都是單步預(yù)測(cè),整個(gè)預(yù)測(cè)過(guò)程不進(jìn)行反向傳播,僅執(zhí)行前向傳播過(guò)程。在t0時(shí)刻預(yù)測(cè)t0+1時(shí)刻誤差的公式為

VarP(t0+1)=LSTM{{Var1(t0),Var2(t0),Var3(t0)},
{Var1(t0+1),Var2(t0+1),Var3(t0+1)},…,
{Var1(t0-n+1),Var2(t0-n+1),Var3(t0-n+1)},
{Var1(t0-n),Var2(t0-n),Var3(t0-n)}}

(12)

其中,LSTM函數(shù)表示神經(jīng)網(wǎng)絡(luò)整個(gè)前向傳播得到預(yù)測(cè)輸出的過(guò)程。

但是,由于未來(lái)時(shí)刻的SGP4模型真實(shí)預(yù)報(bào)誤差未知,因此UTC 2020-04-13的00:00:00以后時(shí)刻的真實(shí)預(yù)報(bào)誤差Var1是不可知的,而速度預(yù)報(bào)值Var2與加速度預(yù)報(bào)值Var3可以通過(guò)SGP4模型得到。UTC 2020-04-13的00:00:00預(yù)測(cè)點(diǎn)之后的誤差數(shù)據(jù),需要通過(guò)LSTM的預(yù)測(cè)數(shù)據(jù)填充作為輸入數(shù)據(jù),詳細(xì)預(yù)測(cè)流程如圖6所示。t0時(shí)刻LSTM網(wǎng)絡(luò)通過(guò)輸出步長(zhǎng)為n,向量大小為3n的輸入時(shí)間序列,對(duì)下一個(gè)時(shí)間點(diǎn)t0+1即4 min后的預(yù)報(bào)誤差進(jìn)行一步預(yù)測(cè)。預(yù)測(cè)公式即為式(12)。通過(guò)網(wǎng)絡(luò)前向傳播得到t0+1時(shí)刻的預(yù)報(bào)誤差預(yù)測(cè)值VarP(t0+1)。完成一次預(yù)報(bào)后,輸入序列窗口會(huì)后移動(dòng)一個(gè)步長(zhǎng)。同時(shí),輸入中的未知參數(shù)Var1(t0+1)會(huì)由上一次預(yù)測(cè)值VarP(t0+1)填補(bǔ)。

VarP(t0+2)=LSTM{{VarP(t0+1),Var2(t0+1),

Var3(t0+1)},…,{Var1(t0-n+2),Var2(t0-n+2),

Var3(t0-n+2)},{Var1(t0-n+1),Var2(t0-n+1),

Var3(t0-n+1)}}

(13)

3 仿真實(shí)驗(yàn)與分析

3.1 仿真實(shí)驗(yàn)結(jié)果

為了評(píng)估神經(jīng)網(wǎng)絡(luò)對(duì)預(yù)報(bào)誤差的修正能力,本文使用殘差率Pml(ξ)來(lái)量化LSTM神經(jīng)網(wǎng)絡(luò)對(duì)誤差的修正能力,數(shù)學(xué)表達(dá)式如下：

(14)

定義式(14)為修正后殘差絕對(duì)值之和與原始誤差絕對(duì)值之和的比值。其中n是測(cè)試數(shù)據(jù)的大小,下標(biāo)ξ∈{x,y,z}表示誤差的不同分量。Pml(ξ)值越小,表示經(jīng)過(guò)訓(xùn)練的LSTM模型的性能越好。

實(shí)驗(yàn)選擇UTC 2020-04-06的00:00:00 到UTC 2020-04-12的24:00:00每4 min一組數(shù)據(jù),共7 d 2 520組數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)(訓(xùn)練集上的殘差如圖5所示);選擇UTC2020-04-13的00:00:00到UTC 2020-04-13的24:00:00每4 min一組數(shù)據(jù),共360組數(shù)據(jù)作為測(cè)試數(shù)據(jù)。

通過(guò)訓(xùn)練好的3個(gè)獨(dú)立的LSTM神經(jīng)網(wǎng)絡(luò)對(duì)衛(wèi)星UTC 2020-04-13的00:00:00以后400 min、800 min和1 d的SGP4軌道預(yù)報(bào)誤差進(jìn)行預(yù)測(cè)。在圖7中,展示了3個(gè)經(jīng)過(guò)訓(xùn)練的LSTM模型在測(cè)試數(shù)據(jù)上的對(duì)誤差預(yù)測(cè)性能,紅色線為SGP4預(yù)報(bào)的真實(shí)誤差,藍(lán)色線為L(zhǎng)STM模型預(yù)測(cè)的預(yù)報(bào)誤差。圖7分別為對(duì)X、Y、Z軸進(jìn)行時(shí)長(zhǎng)400 min、800 min和1 440 min(即一天)的預(yù)測(cè)結(jié)果。對(duì)于不同預(yù)測(cè)時(shí)長(zhǎng),相應(yīng)最優(yōu)的LSTM網(wǎng)絡(luò)的輸入步長(zhǎng)與神經(jīng)網(wǎng)絡(luò)的神經(jīng)元個(gè)數(shù)也不同,這部分會(huì)在下一節(jié)進(jìn)行詳細(xì)說(shuō)明。從圖7可以看出,經(jīng)過(guò)訓(xùn)練的LSTM模型可以較好地對(duì)ECI坐標(biāo)系下3個(gè)軸的SGP4預(yù)報(bào)誤差進(jìn)行預(yù)測(cè)。

在圖8中分別為對(duì)X、Y、Z軸進(jìn)行了400 min、800 min、1 440 min(即一天)預(yù)測(cè)后的殘余誤差。X軸最大誤差分別下降到了50 m、75 m與100 m左右;Y軸最大誤差分別下降到了50 m、75 m與100 m左右;Z軸最大誤差分別下降到了50 m、75 m與100 m左右。

表2展示了在獨(dú)立進(jìn)行10次訓(xùn)練與預(yù)測(cè)并對(duì)實(shí)驗(yàn)結(jié)果取均值的情況下,模型對(duì)不同時(shí)長(zhǎng)誤差(網(wǎng)絡(luò)參數(shù)取值不一定是最優(yōu)值)修正后的殘差率Pml(ξ)。結(jié)果表明,采用LSTM模型的修正方法可以大幅提高基于動(dòng)力學(xué)方法的軌道預(yù)報(bào)精度。對(duì)X軸進(jìn)行400 min、800 min、1 440 min的預(yù)報(bào)Pml(x)分別為10.26%、11.96%、16.87%。對(duì)Y軸進(jìn)行400 min、800 min、1 440 min的預(yù)報(bào)Pml(y)分別為9.52%、13.25%、17.66%。對(duì)Z軸進(jìn)行400 min、800 min、1 440 min的預(yù)報(bào)Pml(z)分別為9.30%、12.36%、19.58%。隨著預(yù)測(cè)時(shí)長(zhǎng)的增加,測(cè)試數(shù)據(jù)的性能開(kāi)始下降,這是可以預(yù)期的,因?yàn)橛?xùn)練后的LSTM模型會(huì)使用預(yù)測(cè)的誤差值對(duì)后續(xù)的輸入序列中未知的Var1進(jìn)行填補(bǔ),導(dǎo)致誤差的迭代,從而使網(wǎng)絡(luò)性能下降。同時(shí),預(yù)測(cè)步長(zhǎng)與輸入序列步長(zhǎng)的增加導(dǎo)致數(shù)據(jù)集樣本數(shù)量減少,同樣會(huì)導(dǎo)致性能下降。擴(kuò)大訓(xùn)練數(shù)據(jù)的數(shù)量通?？梢蕴嵘Ｐ托阅?但是考慮到TLE數(shù)據(jù)與精密軌道文件每天都會(huì)更新的情況,以及盡量減少計(jì)算成本與時(shí)間成本的需求。在取舍下,本文選擇7的數(shù)據(jù)大小,需要的訓(xùn)練集大小遠(yuǎn)遠(yuǎn)小于文獻(xiàn)[5-8]需要的100～250 d的訓(xùn)練數(shù)據(jù)集。

表2 LSTM模型對(duì)不同時(shí)長(zhǎng)誤差的預(yù)測(cè)能力

3.2 預(yù)報(bào)時(shí)長(zhǎng)與輸入序列步長(zhǎng)對(duì)LSTM模型性能影響

為了研究預(yù)報(bào)時(shí)長(zhǎng)與輸入序列步長(zhǎng)對(duì)模型性能的影響,本文以X軸數(shù)據(jù)為例,通過(guò)UTC 2020-04-06的00:00:00 到UTC 2020-04-12的24:00:00共7天2 520組數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)對(duì)LSTM神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練并對(duì)衛(wèi)星UTC 2020-04-13的00:00:00以后連續(xù)7 d即10 080 min的SGP4軌道預(yù)報(bào)的X軸誤差進(jìn)行修正。

同時(shí),通過(guò)改變輸入序列的步長(zhǎng)研究輸入序列長(zhǎng)度對(duì)LSTM模型性能影響。輸入序列步長(zhǎng)即圖3與圖6中輸入窗口的長(zhǎng)度,決定每次輸入進(jìn)LSTM網(wǎng)絡(luò)中的數(shù)據(jù)大小。本文使用相同的X軸訓(xùn)練集數(shù)據(jù),同時(shí)分別選擇不同輸入序列長(zhǎng)度的輸入對(duì)相同結(jié)構(gòu)的LSTM網(wǎng)絡(luò)進(jìn)行訓(xùn)練,最后對(duì)UTC 2020-04-13的00:00:00以后連續(xù)7天數(shù)據(jù)進(jìn)行誤差修正。上述實(shí)驗(yàn)軌道預(yù)報(bào)修正后的殘余誤差如圖9所示,其中輸入序列步長(zhǎng)分別為270、360、450。

通過(guò)圖9這3組的預(yù)測(cè)殘差可以看出,隨著預(yù)測(cè)時(shí)間增長(zhǎng)模型修正后的殘余誤差逐漸增大。這是由于輸入窗口已經(jīng)完全離開(kāi)真實(shí)歷史誤差區(qū)域,輸入序列全部由之前的預(yù)測(cè)值填補(bǔ),預(yù)測(cè)的誤差會(huì)進(jìn)一步迭代,導(dǎo)致模型預(yù)測(cè)能力隨著誤差的累積降低,殘差率Pml(ξ)增大。同時(shí)輸入序列步長(zhǎng)的增加可以提升模型的預(yù)測(cè)能力,當(dāng)長(zhǎng)度為270、360、450時(shí),其Pml(ξ)分別為43.13%、30.45%與28.79%。

在表3中具體展示了不同輸入序列步長(zhǎng)對(duì)殘差率Pml(x)的影響結(jié)果,可以看出模型性能隨著步長(zhǎng)增加提升,印證了上述結(jié)論。

表3 不同輸入序列步長(zhǎng)對(duì)殘差率Pml(x)的影響

4 結(jié) 論

為了解決現(xiàn)有的在軌自主高精度短期軌道預(yù)報(bào)精度較低、計(jì)算量較大的問(wèn)題,本文給出了利用LSTM神經(jīng)網(wǎng)絡(luò)對(duì)SGP4軌道預(yù)報(bào)進(jìn)行修正的模型。將7 d的歷史軌道誤差、速度與加速度數(shù)據(jù)作為訓(xùn)練的樣本,通過(guò)訓(xùn)練3個(gè)獨(dú)立的LSTM網(wǎng)絡(luò),對(duì)后一天的軌道數(shù)據(jù)誤差進(jìn)行預(yù)測(cè)。經(jīng)過(guò)預(yù)測(cè)值修正后ECI坐標(biāo)系下3個(gè)軸的預(yù)報(bào)精度基本達(dá)100 m量級(jí),殘余誤差Pml(ξ)下降到小于20%。同時(shí),給出了預(yù)測(cè)一周的殘余誤差隨時(shí)間的變化趨勢(shì)以及輸入序列步長(zhǎng)對(duì)殘差率Pml(x)的影響。

本研究表明,通過(guò)對(duì)歷史誤差規(guī)律進(jìn)行學(xué)習(xí)并用以預(yù)測(cè)未來(lái),能夠在原始動(dòng)力學(xué)模型的基礎(chǔ)上大幅提高衛(wèi)星軌道的預(yù)報(bào)精度。其預(yù)報(bào)精度基本滿足衛(wèi)星自主軌道預(yù)報(bào)、地面測(cè)控需求的精度,同時(shí)又有訓(xùn)練數(shù)據(jù)集更小、無(wú)需數(shù)值積分,適用于星上計(jì)算環(huán)境等優(yōu)點(diǎn),因此在應(yīng)用上有著一定的參考價(jià)值。