正則化的奇異值分解參數(shù)構(gòu)造法

林東方，朱建軍，宋迎春，何永紅

中南大學(xué)地球科學(xué)與信息物理學(xué)院，湖南 長(zhǎng)沙 410083

?

正則化的奇異值分解參數(shù)構(gòu)造法

林東方，朱建軍，宋迎春，何永紅

中南大學(xué)地球科學(xué)與信息物理學(xué)院，湖南 長(zhǎng)沙 410083

Foundation support： The National Natural Science Foundation of China (Nos. 415300321; 41474008)

Tikhonov正則化法引入正則化參數(shù)和穩(wěn)定泛函來(lái)改善矩陣的病態(tài)性。穩(wěn)定泛函表示為參數(shù)的二范約束時(shí)，正則化矩陣為單位陣的正則化法即為嶺估計(jì)法。通過(guò)對(duì)嶺估計(jì)的方差與偏差進(jìn)行分析可知，嶺估計(jì)改善矩陣病態(tài)性的同時(shí)也過(guò)度地引入了偏差，降低了解的可靠性，對(duì)較大奇異值的修正不能有效地減小估計(jì)的方差，卻引入了偏差，而對(duì)較小奇異值的修正可有效地減小估計(jì)的方差。因此，選擇較小奇異值特征向量構(gòu)造正則化矩陣，調(diào)節(jié)各奇異值的修正，可有效減小參數(shù)估計(jì)的方差，減少偏差的引入，得到更為可靠的參數(shù)估計(jì)。通過(guò)試驗(yàn)證明了該方法的有效性。

正則化法；嶺估計(jì)；正則化矩陣；奇異值；特征向量

病態(tài)問(wèn)題是大地測(cè)量數(shù)據(jù)處理中經(jīng)常會(huì)遇到的棘手問(wèn)題，廣泛存在于GPS快速定位[1-2]、GPS水汽層析、衛(wèi)星重力延拓[3]及InSAR形變監(jiān)測(cè)等領(lǐng)域。當(dāng)模型出現(xiàn)病態(tài)時(shí)，觀測(cè)數(shù)據(jù)的微小變化常常會(huì)造成難以估計(jì)的巨大變化，估值極不穩(wěn)定，很難得到可靠的參數(shù)估計(jì)。這種情況下，測(cè)量數(shù)據(jù)處理常用的最小二乘估計(jì)雖然仍是無(wú)偏估計(jì)，但已不是最優(yōu)估計(jì)[4]。針對(duì)病態(tài)問(wèn)題，學(xué)者們提出了一系列改善估計(jì)質(zhì)量的有偏估計(jì)方法[5-7]，如嶺估計(jì)法、截?cái)嗥娈愔捣?、Tikhonov正則化法等，其中應(yīng)用最廣泛的是Tikhonov正則化法。

Tikhonov正則化法通過(guò)正則化參數(shù)和正則化矩陣作用于原病態(tài)矩陣來(lái)改善矩陣的病態(tài)性，得到參數(shù)更為可靠的穩(wěn)定解。其中正則化參數(shù)與正則化矩陣的確定至關(guān)重要，正則化參數(shù)起到平衡病態(tài)矩陣與正則化矩陣的作用，反映了正則化矩陣的權(quán)重大小，正則化矩陣則是對(duì)病態(tài)矩陣的修正。國(guó)內(nèi)外學(xué)者針對(duì)正則化法的研究多集中于正則化參數(shù)的選取上，提出了許多有效的正則化參數(shù)確定方法，如嶺跡法、GCV(廣義交叉核實(shí))法[8]、L曲線法[9-10]、方差分量估計(jì)法[11]等，但針對(duì)正則化矩陣的研究較少。一些學(xué)者提出將參數(shù)的后驗(yàn)協(xié)方差陣的逆矩陣作為正則化矩陣[12]，則正則化矩陣可視為待定參數(shù)的權(quán)重，但是待定參數(shù)并非觀測(cè)值，也沒(méi)有實(shí)際意義上的權(quán)重。也有一些學(xué)者提出利用未知參數(shù)的先驗(yàn)信息的確定正則化矩陣，如在衛(wèi)星定位和重力場(chǎng)反演中，有的利用了模糊度參數(shù)的特性[13]，有的利用了反映位系數(shù)統(tǒng)計(jì)規(guī)律的Kaula規(guī)則[14]，這些方式多針對(duì)參數(shù)包含先驗(yàn)信息的情形。處理病態(tài)問(wèn)題常用的嶺估計(jì)法中，正則化矩陣為單位陣，即穩(wěn)定泛函為參數(shù)的二范約束的正則化法的特例。嶺估計(jì)法在改善矩陣病態(tài)性的同時(shí)也過(guò)多地引入了偏差，降低了解的可靠性。因此，正則化矩陣的有效形式仍需進(jìn)一步研究。本文通過(guò)分析嶺估計(jì)的方差與偏差，提出基于較小奇異值特征向量構(gòu)造正則化矩陣的方法，在有效減小方差的同時(shí)，減少偏差的引入，得到更可靠的穩(wěn)定解。

1　解算病態(tài)問(wèn)題的正則化方法

對(duì)于經(jīng)典測(cè)量觀測(cè)模型

L+V=AX

(1)

其最小二乘估計(jì)及估計(jì)的協(xié)方差為

(2)

(3)

由于權(quán)矩陣P可進(jìn)行單位化，為了方便推導(dǎo)，設(shè)權(quán)矩陣P為單位陣，對(duì)系數(shù)矩陣A進(jìn)行奇異值分解可得[15]

(4)

(5)

協(xié)方差矩陣的跡是各參數(shù)估計(jì)的方差之和，可以整體反映參數(shù)估計(jì)方差的大小，由式(3)和式(5)得到最小二乘估計(jì)的整體方差為

(6)

式(5)中，λ1>λ2>…>λn為設(shè)計(jì)矩陣的奇異值，若方程病態(tài)，則λ1遠(yuǎn)大于λn，λn為接近于零的較小值。由式(6)可以看出，較小的奇異值會(huì)對(duì)估計(jì)的方差造成嚴(yán)重影響，估計(jì)方差被較小的奇異值嚴(yán)重放大，這導(dǎo)致最小二乘估計(jì)極不可靠，已無(wú)法得到參數(shù)的準(zhǔn)確估值。

為了提高估計(jì)的穩(wěn)定性，Tikhonov正則化方法在經(jīng)典最小二乘平差準(zhǔn)則的基礎(chǔ)上加入穩(wěn)定泛函約束條件，并引入正則化因子調(diào)節(jié)兩部分的平衡，使不適定問(wèn)題轉(zhuǎn)化為適定問(wèn)題。正則化準(zhǔn)則表示為[7]

(7)

Φ=VTPV+αXTRX=min

(8)

在參數(shù)不包含先驗(yàn)信息時(shí)，大地測(cè)量中常將穩(wěn)定泛函取為參數(shù)的二范約束，即取R=I，正則化準(zhǔn)則即為

Φ=VTPV+αXTX=min

(9)

平差的結(jié)果為

(10)

正則化法是一種有偏估計(jì)方法，其在改善法方程病態(tài)性的同時(shí)不可避免地引入了偏差[15]，在法方程病態(tài)性得到有效改善的情況下，偏差的引入?yún)s降低了參數(shù)估計(jì)的可靠性。目前，針對(duì)正則化方法的研究主要集中于正則化參數(shù)的選取上，而對(duì)正則化矩陣的研究較少。良好的正則化矩陣可有效改善矩陣的病態(tài)性，最大程度地減少偏差的引入，使病態(tài)問(wèn)題解算具有更高的可靠性，正則化矩陣的選取對(duì)病態(tài)問(wèn)題的解算具有重要意義。

2　正則化矩陣的構(gòu)造方法研究

2.1嶺估計(jì)方差與偏差分析

嶺估計(jì)法可看作是正則化矩陣為單位陣的正則化方法，可有效減小參數(shù)估計(jì)的方差，改善解的穩(wěn)定性。依據(jù)協(xié)方差傳播律可得嶺估計(jì)協(xié)方差計(jì)算公式為[18-19]

(11)

協(xié)方差矩陣跡可以在整體上反映估計(jì)量方差大小，由協(xié)方差公式可得矩陣跡為

(12)

對(duì)方陣ATPA進(jìn)行特征值分解可得

(13)

(14)

嶺估計(jì)為有偏估計(jì)，其偏差計(jì)算公式為[15]

(15)

對(duì)式(15)進(jìn)行特征值分解化簡(jiǎn)并求跡得

(16)

由式(14)可見(jiàn)，嶺估計(jì)通過(guò)修正法方程矩陣的特征值來(lái)減小估計(jì)的方差，提高解的穩(wěn)定性。由于正則化矩陣為單位陣，正則化參數(shù)對(duì)各特征值均進(jìn)行修正，修正程度均為正則化參數(shù)α。由式(16)可知，嶺估計(jì)在降低估計(jì)方差的同時(shí)也引入了偏差，偏差大小與正則化參數(shù)和正則化矩陣息息相關(guān)，在正則化參數(shù)確定時(shí)，正則化矩陣影響正則化法對(duì)特征值的修正作用，可使正則化法對(duì)特征值有選擇的修正，進(jìn)而調(diào)節(jié)偏差的引入。

由于模型病態(tài)，設(shè)計(jì)矩陣的條件數(shù)較大，最大特征值與最小特征值之間相差幾個(gè)數(shù)量級(jí)，而正則化參數(shù)α多為遠(yuǎn)小于最大特征值的較小值，由式(14)和式(16)可見(jiàn)對(duì)較大特征值的修正不會(huì)有效降低估計(jì)的方差，反而更多地引入了偏差。因此有選擇性地使正則化法僅對(duì)較小的特征值進(jìn)行修正，可有效降低參數(shù)估計(jì)的方差，同時(shí)減少正則化法對(duì)偏差的引入。

2.2基于小奇異值特征向量構(gòu)造正則化矩陣

(17)

由式(17)可見(jiàn)，奇異值越小，對(duì)標(biāo)準(zhǔn)差的影響越大，其標(biāo)準(zhǔn)差分量在集合中占的比重也越大，病態(tài)矩陣的奇異值中常會(huì)出現(xiàn)多個(gè)較小的奇異值，因此這些較小的奇異值引起的標(biāo)準(zhǔn)差分量之和占據(jù)了標(biāo)準(zhǔn)差的絕大部分。依據(jù)病態(tài)矩陣較大奇異值與較小奇異值差值較大的特性，設(shè)定小奇異值標(biāo)準(zhǔn)差分量之和占標(biāo)準(zhǔn)差比重達(dá)到95%以上時(shí)，這些奇異值為影響嚴(yán)重的小奇異值，應(yīng)對(duì)其進(jìn)行正則化以緩解對(duì)標(biāo)準(zhǔn)差的影響，判定條件可表示為

(18)

奇異值矩陣S中，λ1>λ2>…>λk>…>λn，λk為判定小奇異值的分界值，選取小奇異值對(duì)應(yīng)的特征向量構(gòu)造正則化矩陣

(19)

構(gòu)造新正則化矩陣后的正則化方法可表示為

(20)

(21)

2.3構(gòu)造新正則化矩陣的正則化法方差與偏差分析

將新正則化矩陣代入式(14)可得正則化法的方差矩陣跡為

(22)

(23)

由式(22)可以得出，基于較小奇異值特征向量構(gòu)造的正則化矩陣，可使正則化法僅對(duì)法方程矩陣較小的特征值進(jìn)行修正，保持較大特征值不變，有效降低了參數(shù)估計(jì)的方差。比較式(16)與式(23)可以得出，式(23)恒小于式(16)，新正則化法較嶺估計(jì)法減少了偏差的引入。因此，基于較小奇異值特征向量構(gòu)造正則化矩陣是理論上可行的正則化矩陣構(gòu)造方法，可有效降低正則化估計(jì)的方差，減少偏差，提高參數(shù)估計(jì)的穩(wěn)定性和可靠性。

觀測(cè)方程的病態(tài)性多是由于觀測(cè)條件較差或過(guò)度地參數(shù)化所引起的，由于觀測(cè)信息不足以估計(jì)所有參數(shù)，造成部分參數(shù)的估計(jì)方差較大，估計(jì)不穩(wěn)定。對(duì)觀測(cè)方程的系數(shù)矩陣進(jìn)行奇異值分解，分析病態(tài)性在特征向量的空間影響可知，病態(tài)性對(duì)估計(jì)方差的影響集中體現(xiàn)在較小的奇異值對(duì)方差的放大上，較大的奇異值未對(duì)方差造成不良影響。通過(guò)選擇較小的奇異值對(duì)應(yīng)的特征向量，構(gòu)造正則化矩陣，可對(duì)較小的奇異值進(jìn)行補(bǔ)充修正，由于奇異值分解將信息不足部分集中體現(xiàn)在較小的奇異值上，對(duì)較小奇異值的補(bǔ)充修正可更高效地降低方差，而保留信息充足的較大的奇異值部分可減少信息的損壞，進(jìn)而減少估計(jì)的偏差，因此相比于嶺估計(jì)法的無(wú)差別補(bǔ)充，降低方差更高效，引入的偏差更少。

2.4新正則化法與截?cái)嗥娈愔捣ǖ谋容^分析

截?cái)嗥娈愔捣ㄊ腔谄娈愔捣纸饧夹g(shù)的病態(tài)方程的一種直接解法，其原理是將較小的奇異值刪除，保留較大的奇異值進(jìn)行解算。

設(shè)截?cái)鄥?shù)為k，將式(5)中S較大的奇異值求逆，較小的奇異值取0得

(24)

則病態(tài)方程的截?cái)嗥娈愔到夥?/p>

(25)

由式(25)可得截?cái)嗥娈愔捣▍f(xié)方差矩陣跡計(jì)算公式為

(26)

截?cái)嗥娈愔捣ǖ钠钣?jì)算公式為

(27)

(28)

比較式(22)與式(26)可以得出，新正則化法與截?cái)嗥娈愔捣ň峭ㄟ^(guò)處理病態(tài)矩陣的小奇異值來(lái)降低參數(shù)估計(jì)的方差；而不同之處在于，新正則化法是對(duì)較小的奇異值進(jìn)行修正，而截?cái)嗥娈愔捣ㄊ菍⑤^小的奇異值刪除。由式(22)可以看出新正則化法在正則化參數(shù)調(diào)節(jié)下，其改善方差的效果與截?cái)嗥娈愔捣ㄏ嘟１容^式(23)與式(28)可知，式(23)恒小于式(28)，這表明對(duì)小奇異值修正引入的偏差要始終小于刪除小奇異值引入的偏差，因而，新正則化法引入的偏差要小于截?cái)嗥娈愔捣ā４送?，由?26)和式(28)可以看出，截?cái)嗥娈愔捣ㄔ诮氐粜∑娈愔岛?，其方差下降量和偏差引入量也已固定不可調(diào)節(jié)，而新正則化法可通過(guò)正則化參數(shù)進(jìn)行調(diào)節(jié)，這表明在小奇異值的選擇上，新正則化的可選空間更大，穩(wěn)定性更高。因此，新正則化法相比于截?cái)嗥娈愔捣ň哂幸欢ǖ膬?yōu)勢(shì)。

3　算例分析

3.1算例1

圖1　奇異值標(biāo)準(zhǔn)差分量Fig.1　Standard deviation components

參數(shù)真值LS估計(jì)截?cái)嗥娈愔捣◣X跡法α=0.4L曲線法α=0.5339嶺估計(jì)新正則化法嶺估計(jì)新正則化法參數(shù)值1-3.72391.18381.09541.10771.11021.126513.29650.43430.44640.44350.44490.441211.46990.83130.81700.83250.81150.8322110.36730.60120.74620.75250.70660.71501-0.13061.29131.28481.28681.28521.2880∑ΔX0 17.9883 1.60821.37061.36591.43231.4261

由表1可以得出，由于設(shè)計(jì)矩陣的病態(tài)性，經(jīng)典最小二乘估計(jì)方差較大，估計(jì)極不穩(wěn)定，已得不到正確的參數(shù)估值。嶺估計(jì)法、新正則化法以及截?cái)嗥娈愔捣ň捎行Ц纳乒烙?jì)的穩(wěn)定性，是有效的病態(tài)問(wèn)題解算方法。其中新正則化法和嶺估計(jì)法相比于截?cái)嗥娈愔捣煽啃愿?，參?shù)估值更接近于真值。在正則化參數(shù)由相同方法確定時(shí)，新正則化法的估計(jì)結(jié)果優(yōu)于嶺估計(jì)法。由圖2和圖3可以看出，新正則化法的方差變化曲線與嶺估計(jì)法的方差變化曲線基本一致，而偏差變化曲線的增幅要小于嶺估計(jì)法。因此，基于較小奇異值特征向量構(gòu)造正則化矩陣可使正則化法解算效果優(yōu)于嶺估計(jì)法，是一種行之有效的正則化矩陣構(gòu)造方法。

圖2　方差變化曲線Fig.2　Variance curves

圖3　偏差變化曲線Fig.3　Bias curves

3.2算例2

采用文獻(xiàn)[12]空間測(cè)邊網(wǎng)算例，算例中包含9個(gè)已知點(diǎn)、兩個(gè)未知點(diǎn)，未知點(diǎn)的模擬真值為(0，0，0)和(7，10，-5)。通過(guò)19個(gè)等精度觀測(cè)確定兩個(gè)未知點(diǎn)的坐標(biāo)。根據(jù)觀測(cè)值構(gòu)造法方程，參數(shù)初值取為(0.5，-0.5，0.5)與(7.5，9.5，-5.5)時(shí)，法矩陣的條件數(shù)為4 164.15，屬于病態(tài)問(wèn)題。分別采用嶺估計(jì)法、截?cái)嗥娈愔捣ê托抡齽t化法進(jìn)行平差解算。應(yīng)用正則化參數(shù)確定方法確定正則化參數(shù)。對(duì)法矩陣進(jìn)行奇異值分解并計(jì)算奇異值標(biāo)準(zhǔn)差分量。由圖4可知，后3個(gè)較小奇異值引起的標(biāo)準(zhǔn)差分量之和達(dá)到標(biāo)準(zhǔn)差的96%，因此，選取后3個(gè)較小的奇異值對(duì)應(yīng)的特征向量構(gòu)造正則化矩陣。

圖4　奇異值標(biāo)準(zhǔn)差分量Fig.4　Standard deviation components

參數(shù)真值LS估計(jì)截?cái)嗥娈愔捣◣X跡法α=0.5GCVα=0.0454L曲線α=0.2007L曲線α=0.8010嶺估計(jì)新正則化法嶺估計(jì)新正則化法嶺估計(jì)新正則化法參數(shù)值00.0687-0.02890.06030.01890.06240.05830.05650.00800-0.2550-0.1917-0.0914-0.05880.03520.0385-0.0182-0.08900-5.75590.46540.75240.74870.73980.73950.84170.687577.00457.06777.08487.06137.05887.05667.06927.06251014.27119.464310.124010.120210.795810.795410.41799.9666-5-5.4178-5.4254-5.2324-5.2272-5.0593-5.0587-5.1385-5.2754∑ΔX0 10.7732 1.71511.34551.23531.75151.74721.54241.1558

由表2可以得出與表1相同的結(jié)論，由于模型的病態(tài)性，經(jīng)典最小二乘估計(jì)已不是一個(gè)良好的估計(jì)。嶺估計(jì)法、新正則化法以及截?cái)嗥娈愔捣捎行岣吖烙?jì)精度。對(duì)采用相同方法確定正則化參數(shù)的嶺估計(jì)和新正則化法估計(jì)結(jié)果進(jìn)行比較發(fā)現(xiàn)整體上新正則化法的估計(jì)結(jié)果優(yōu)于嶺估計(jì)法。在正則化參數(shù)由GCV法確定時(shí)，截?cái)嗥娈愔捣ǖ墓烙?jì)結(jié)果優(yōu)于新正則化法和嶺估計(jì)法，而正則化參數(shù)由嶺跡法和L曲線法確定時(shí)，新正則化法和嶺估計(jì)法的估計(jì)結(jié)果更優(yōu)。因此，在正則化參數(shù)合理確定時(shí)(GCV法確定的正則化參數(shù)在本算例中非最優(yōu))，新正則化法的估計(jì)結(jié)果要優(yōu)于嶺估計(jì)法和截?cái)嗥娈愔捣?。由圖5和圖6可以看出，新正則化法的方差變化曲線與嶺估計(jì)法的方差變化曲線基本一致，而偏差變化曲線的增幅要小于嶺估計(jì)法，這表明基于較小奇異值特征向量構(gòu)造正則化矩陣，可有效降低估計(jì)方差，減少偏差引入，是行之有效的正則化矩陣構(gòu)造方法。

圖5　方差變化曲線Fig.5　Variance curves

圖6　偏差變化曲線Fig.6　Bias curves

4　結(jié)　語(yǔ)

嶺估計(jì)法是正則化矩陣為單位陣的正則化方法的特例。通過(guò)對(duì)嶺估計(jì)的方差與偏差進(jìn)行分析得到，嶺估計(jì)對(duì)病態(tài)矩陣的各奇異值均進(jìn)行修正，以減小方差，提高解的穩(wěn)定性。由于矩陣的奇異性，較大奇異值與較小奇異值之間相差幾個(gè)數(shù)量級(jí)，而正則化參數(shù)多為較小值，修正大奇異值對(duì)減小估計(jì)方差效果不明顯，卻更多地引入了偏差，降低了解的可靠性。通過(guò)選取較小奇異值特征向量構(gòu)造正則化矩陣，調(diào)節(jié)正則化法對(duì)奇異值的修正作用，使正則化法僅對(duì)較小的奇異值進(jìn)行修正，可有效降低參數(shù)估計(jì)的方差，減少偏差的引入，提高正則化估計(jì)的可靠性。與截?cái)嗥娈愔捣ǖ谋容^分析可知，新正則化法是對(duì)較小的奇異值進(jìn)行修正，而截?cái)嗥娈愔捣ㄊ菍⑤^小的奇異值刪除。對(duì)小奇異值修正引入的偏差要始終小于刪除引入的偏差，因而新正則化法引入的偏差小于截?cái)嗥娈愔捣?。因此，?gòu)造正則化矩陣的正則化法相比于截?cái)嗥娈愔捣ň哂幸欢ǖ膬?yōu)勢(shì)。

[1]GUIQingming,HANSonghui.NewAlgorithmofGPSRapidPositioningBasedonDouble-k-typeRidgeEstimation[J].JournalofSurveyingEngineering, 2007, 133(4): 173-178.

[2]LIBofeng,SHENYunzhong,FENGYanming.FastGNSSAmbiguityResolutionasanIll-posedProblem[J].JournalofGeodesy, 2010, 84(11): 683-698.

[3]SAVEH,BETTADPURS,TAPLEYBD.ReducingErrorsintheGRACEGravitySolutionsUsingRegularization[J].JournalofGeodesy, 2012, 86(9): 695-711.

[4]崔希璋, 於倧儔, 陶本藻, 等. 廣義測(cè)量平差[M]. 新版. 武漢: 武漢測(cè)繪科技大學(xué)出版社, 2001.CUIXizhang,YUZongchou,TAOBenzao,etal.GeneralizedSurveyingAdjustment[M].NewEd.Wuhan:WuhanTechnicalUniversityofSurveyingandMappingPress, 2001.

[5]朱建軍. 嶺估計(jì)的一種新的算法[J]. 測(cè)繪信息與工程, 1997(3): 22-25.

ZHUJianjun.ANewAlgorithmforRidgeEstimate[J].JournalofGeomatics, 1997(3): 22-25.

[6]HANSENPC.TheTruncatedSVDasaMethodforRegularization[J].BITNumericalMathematics, 1987, 27(4): 534-553.

[7]TIKHONOVAN,ARSENINVY.SolutionsofIll-posedProblems[M].JOHNF,trans.NewYork:HalstedPress, 1977.

[8]GOLUBGH,HEATHM,WAHBAG.GeneralizedCross-validationasaMethodforChoosingaGoodRidgeParameter[J].Technometrics, 1979, 21(2): 215-223.

[9]HANSENPC.AnalysisofDiscreteIll-posedProblemsbyMeansoftheL-curve[J].SIAMReview, 1992, 34(4): 561-580.

[10]HANSENPC.TheUseoftheL-curveintheRegularizationofDiscreteIll-posedProblems[J].SIAMJournalonScientificComputing, 1993, 14(6): 1487-1503.

[11]戴吾蛟, 馮光財(cái), 朱建軍. 一種基于Helmert方差分量估計(jì)的嶺參數(shù)確定方法[J]. 大地測(cè)量與地球動(dòng)力學(xué), 2006, 26(4): 30-33.

DAIWujiao,FENGGuangcai,ZHUJianjun.AMethodforSelectingRidgeParameterBasedonHelmertVarianceComponentsEstimation[J].JournalofGeodesyandGeodynamics, 2006, 26(4): 30-33.

[12]王振杰, 歐吉坤, 柳林濤. 一種解算病態(tài)問(wèn)題的方法——兩步解法[J]. 武漢大學(xué)學(xué)報(bào)(信息科學(xué)版), 2005, 30(9): 821-824.

WANGZhenjie,OUJikun,LIULintao.AMethodforResolvingIll-conditionedProblems:TwoStepSolution[J].GeomaticsandInformationScienceofWuhanUniversity, 2005, 30(9): 821-824.

[13]王振杰, 歐吉坤, 柳林濤. 單頻GPS快速定位中病態(tài)問(wèn)題的解法研究[J]. 測(cè)繪學(xué)報(bào), 2005, 34(3): 196-201.

WANGZhenjie,OUJikun,LIULintao.InvestigationonSolutionsofIll-conditionedProblemsinRapidPositioningUsingSingleFrequencyGPSReceivers[J].ActaGeodaeticaetCartographicaSinica, 2005, 34(3): 196-201.

[14]徐新禹, 李建成, 王正濤, 等.Tikhonov正則化方法在GOCE重力場(chǎng)求解中的模擬研究[J]. 測(cè)繪學(xué)報(bào), 2010, 39(5): 465-470.

XUXinyu,LIJiancheng,WANGZhengtao,etal.TheSimulationResearchontheTikhonovRegularizationAppliedinGravityFieldDeterminationofGOCESatelliteMission[J].ActaGeodaeticaetCartographicaSinica, 2010, 39(5): 465-470.

[15]SHENYunzhong,XUPeiliang,LIBofeng.Bias-correctedRegularizedSolutiontoInverseIll-posedModels[J].JournalofGeodesy, 2012, 86(8): 597-608.

[16]朱建軍, 田玉淼, 陶肖靜. 帶準(zhǔn)則參數(shù)的平差準(zhǔn)則及其統(tǒng)一與解算[J]. 測(cè)繪學(xué)報(bào), 2012, 41(1): 8-13.

ZHUJianjun,TIANYumiao,TAOXiaojing.UnitedExpressionandSolutionofAdjustmentCriteriawithParameters[J].ActaGeodaeticaetCartographicaSinica, 2012, 41(1): 8-13.

[17]歐吉坤. 測(cè)量平差中不適定問(wèn)題解的統(tǒng)一表達(dá)與選權(quán)擬合法[J]. 測(cè)繪學(xué)報(bào), 2004, 33(4): 283-288.

OUJikun.UniformExpressionofSolutionsofIll-posedProblemsinSurveyingAdjustmentandtheFittingMethodbySelectionoftheParameterWeights[J].ActaGeodaeticaetCartographicaSinica, 2004, 33(4): 283-288.

[18]XUPeiliang,SHENYunzhong,FUKUDAY,etal.VarianceComponentEstimationinLinearInverseIll-posedModels[J].JournalofGeodesy, 2006, 80(2): 69-81.

[19]徐天河, 楊元喜. 均方誤差意義下正則化解優(yōu)于最小二乘解的條件[J]. 武漢大學(xué)學(xué)報(bào)(信息科學(xué)版), 2004, 29(3): 223-226.

XUTianhe,YANGYuanxi.ConditionofRegularizationSolutionSuperiortoLSSolutionBasedonMSEPrinciple[J].GeomaticsandInformationScienceofWuhanUniversity, 2004, 29(3): 223-226.

[20]王振杰, 歐吉坤. 用L-曲線法確定嶺估計(jì)中的嶺參數(shù)[J]. 武漢大學(xué)學(xué)報(bào)(信息科學(xué)版), 2004, 29(3): 235-238.WANGZhenjie,OUJikun.DeterminingtheRidgeParameterinaRidgeEstimationUsingL-curveMethod[J].GeomaticsandInformationScienceofWuhanUniversity, 2004, 29(3): 235-238.

(責(zé)任編輯：宋啟凡)

修回日期： 2016-06-06

E-mail：lindongfang223@163.com

Construction Method of Regularization by Singular Value Decomposition of Design Matrix

LIN Dongfang,ZHU Jianjun,SONG Yingchun,HE Yonghong

School of Geosciences and Info-physics, Central South University, Changsha 410083, China

Tikhonov regularization introduces regularization parameter and stable functional to improve the ill-condition. When the stable functional expressed as two-norm constraint, the regularization method is the same as ridge estimation. The analysis of the variance and bias of the ridge estimation shows that ridge estimation improved the ill-condition but introduced more bias. The estimation reliability is lowered. We get that correct the larger singular values cannot decrease the variance effectively but introduced more bias, correcting the smaller singular values can decrease the variance effectively. We choose the eigenvectors of the smaller singular values to construct the regularization matrix. It can adjust the correction of the singular values, decrease the variance and biases and finally get a more reliable estimation.

regularization solution; ridge estimation; regularization matrix; singular value; eigenvectors

LINDongfang(1986—),male,PhDcandidate,majorsinsurveyingadjustmentanddataprocessing.

10.11947/j.AGCS.2016.20150134.

P207

A

1001-1595(2016)08-0883-07

國(guó)家自然科學(xué)基金(415300321；41474008)

2015-03-12

林東方(1986—)，男，博士研究生，研究方向?yàn)闇y(cè)量平差數(shù)據(jù)處理及應(yīng)用。

引文格式：林東方，朱建軍，宋迎春，等.正則化的奇異值分解參數(shù)構(gòu)造法[J].測(cè)繪學(xué)報(bào)，2016,45(8)：883-889.

LIN Dongfang, ZHU Jianjun, SONG Yingchun, et al.Construction Method of Regularization by Singular Value Decomposition of Design Matrix[J]. Acta Geodaetica et Cartographica Sinica,2016,45(8):883-889. DOI:10.11947/j.AGCS.2016.20150134.