總體最小二乘求解線性模型的一種新算法*

冷順綠，楊根新，楊新云

(1．云南省地圖院，云南 昆明 650034;2．云南國土資源職業(yè)學(xué)院，云南 昆明 650217;3．云南省地礦測繪院，云南 昆明 650218)

0 引言

在測量數(shù)據(jù)處理中，常常采用最小二乘法來進(jìn)行線性模型的參數(shù)估計(jì)。這是在不考慮系數(shù)矩陣含有誤差而只考慮觀測向量含有誤差的情況下得到的參數(shù)估值，即理論上的最優(yōu)值。但當(dāng)線性模型中系數(shù)矩陣也含有誤差時(shí)，應(yīng)采用總體最小二乘法來求取參數(shù)估值。Golub 等人提出運(yùn)用奇異值分解法(SVD)來求取總體最小二乘參數(shù)估值［1］，但SVD 的復(fù)雜性限制了總體最小二乘在測量數(shù)據(jù)處理中的應(yīng)用［3，4］。鑒于此，文獻(xiàn)［3，4］推導(dǎo)了總體最小二乘的迭代算法。本文在此基礎(chǔ)上，根據(jù)線性間接平差模型，運(yùn)用拉格朗日原理推導(dǎo)了一種線性模型的總體最小二乘算法。并以文獻(xiàn)［5］中實(shí)例數(shù)據(jù)加以驗(yàn)證，其結(jié)果與文獻(xiàn)［4］中的迭代算法計(jì)算的結(jié)果完全一致，說明該算法正確合理。

1 算法推導(dǎo)

總體最小二乘線性模型為:

式中:L 為m ×1 的觀測向量;V 為m ×1 的觀測值改正向量;A為m × n 的系數(shù)矩陣;EA為系數(shù)改正矩陣;^x 為n ×1 的參數(shù)估值向量。要求取最佳參數(shù)估值，即根據(jù)總體最小二乘原理要滿足如下條件:

式中:VA= vec(EA)，為mn ×1 的向量。其中，vec 為矩陣?yán)颠\(yùn)算，vec(EA)即將矩陣EA從左至右逐列拉直成mn × 1 的向量。構(gòu)造拉格朗日目標(biāo)函數(shù)如下:

式中:K 為m ×1 的拉格朗日乘數(shù)向量;EA^x = (^xT?I)TVA，其中?為矩陣的Kronecker 積，I 為m 階單位矩陣。根據(jù)拉格朗日目標(biāo)函數(shù)求極值原理，分別對V、VA、^x、K 求導(dǎo)并令其等于0，化簡可得:

根據(jù)式(4)前兩式再聯(lián)立式(1)可得:

式中:F = (^xT?I)。

聯(lián)立式(5)與式(4)的第3 式，可得:

式中:EA= reshape(- FTK)，其中reshape 為重構(gòu)矩陣運(yùn)算，將一列元素重新構(gòu)成m × n 的矩陣，即為vec 的反運(yùn)算。根據(jù)式(6)即可得到參數(shù)^x 的表達(dá)式:

由上述推導(dǎo)可知:

則單位權(quán)中誤差計(jì)算公式為:

式中:m 為觀測方程的個(gè)數(shù);n 為必要觀測數(shù)。由上述推導(dǎo)，總體最小二乘的參數(shù)^x 估值可以采用迭代法，其具體步驟如下:

1)對參數(shù)賦初值為^x(0);

2)按式(10)計(jì)算F、K 值和新的參數(shù)估值:

4)輸出參數(shù)估值，按式(9)求得單位權(quán)中誤差。

2 實(shí)例分析

為檢驗(yàn)本文迭代算法的正確性，采用文獻(xiàn)［5］中表3．18 的數(shù)據(jù)，見表1。擬合一曲線函數(shù)y = ax3+bx2+cx+d，曲線函數(shù)的參數(shù)真值為1、-2、-3、4。分別采用最小二乘法、文獻(xiàn)［5］TLS 法、文獻(xiàn)［4］TLS 法和本文所述方法來進(jìn)行計(jì)算。擬合結(jié)果，如表2 所示。

表1 曲線擬合數(shù)據(jù)Tab．1 Curve fitting data

表2 不同方法擬合結(jié)果Tab．2 The fitting results of different methods

從表2 的擬合結(jié)果可以看出，由于總體最小二乘迭代算法考慮了系數(shù)矩陣的誤差，所求得的參數(shù)值與真值較為接近，擬合精度比采用最小二乘法精度高。采用本文方法擬合的結(jié)果與采用文獻(xiàn)［4］方法擬合的結(jié)果相同，得到的參數(shù)值與文獻(xiàn)［5］計(jì)算的結(jié)果較為接近，且擬合精度較高，說明本文所提出的總體最小二乘迭代算法正確合理。

3 結(jié)論

本文根據(jù)間接平差模型，推導(dǎo)了一種總體最小二乘的迭代算法。該算法推導(dǎo)過程簡單，且易于編程實(shí)現(xiàn)。通過實(shí)例計(jì)算，將其計(jì)算結(jié)果與其它幾種總體最小二乘解算方法結(jié)果進(jìn)行對比，結(jié)果表明:本文所提出的總體最小二乘迭代算法在對線性模型進(jìn)行參數(shù)估計(jì)時(shí)的可行性和合理性。

［1］ GH Golub，CF Van Loan．An analysis of the total least squares problem［J］．SIAM J．Numer．Anal．，1980，17(6):883 -893．

［2］ 邱衛(wèi)寧，陶本藻，姚宜斌，等． 測量數(shù)據(jù)處理理論與方法［M］． 武漢:武漢大學(xué)出版社，2008．

［3］ 邱衛(wèi)寧，齊公玉，田豐瑞．整體最小二乘求解線性模型的改進(jìn)算法［J］．武漢大學(xué)學(xué)報(bào):信息科學(xué)版，2010，35(6):708 -710．

［4］ 許超鈐，姚宜斌，張豹，等． 基于整體最小二乘的參數(shù)估計(jì)新方法及精度評(píng)定［J］．測繪通報(bào)，2011(10):1 -4．

［5］ 董校洪．整體最小二乘法在工程測量上的應(yīng)用［D］． 上海:同濟(jì)大學(xué)，2009．