關(guān)于最小二乘逼近教學(xué)的研究

周小紅

【摘要】本文首先對(duì)最小二乘逼近進(jìn)行了定義，然后對(duì)如何用多項(xiàng)式來做最小二乘逼近進(jìn)行了探討，并舉例.

【關(guān)鍵詞】最小二乘;矩陣;法方程

定義： 在科學(xué)實(shí)驗(yàn)中經(jīng)常要對(duì)實(shí)驗(yàn)數(shù)據(jù) {（xi，yi），i=1，2，…，n}進(jìn)行曲線擬合，求一個(gè)函數(shù)y=s*（x） 與所給數(shù)據(jù){（xi，yi），i=1，2，…，n}擬合，令f（xi）=yi，記誤差δi=s*（xi）-f（xi） （i=1，2，…，n），δ=（δ0，δ1，…，δn）T，設(shè)φ0（x），φ1（x），…，φm（x）是C[a，b]上線性無關(guān)函數(shù)族，在φ=span{φ0（x），φ1（x），…，φm（x）}中找一函數(shù)s*（x）使誤差平方和：

‖δ‖22=∑ni=1δ2i=∑ni=1s*（xi）-yi2=mins（x）∈φ∑ni=1s（xi）-yi2.

這里s（x）=a0φ0（x）+a1φ1（x）+…+amφm（x） （m

最小二乘逼近原理：將定義中的φj（x）考慮為j次多項(xiàng)式的情形，即：φj（x）=xj.

由于它就轉(zhuǎn)化成求多元函數(shù)：

I（a0，a1，…，am）=∑ni=1∑mj=0ajφj（xi）-yi2=∑ni=1∑mj=0ajxji-yi2

的極小值點(diǎn)（a*0，a*1，…，a*m）問題.由多元函數(shù)極值的必要條件有：

Iak=2∑ni=1∑mj=0ajφj（xi）-yiφk（xi） =2∑ni=1∑mj=0（ajxj+ki-yixki）=0.

若記（φj，φk）=（xj，xk）=∑ni=1φj（xi）φk（xi）=∑ni=1xj+ki，

（f，φk）=（yi，xki）=∑ni=1f（xi）φk（xi）=∑ni=1yixki=dk，

上式可改寫成為：

∑mj=0（φk，φj）aj=∑mj=0（xk，xj）aj=dk （k=0，1，…，m）.（1）

這方程稱為法方程.可寫成矩陣形式： Ga=d.（2）

其中a=（a0，a1，…，am）T，d=（d0，d1，…，dm）T，

G=（x0，x0）（x0，x1）…（x0，xm）

（x1，x0）

（xm，x0）（x1，x1）

（xm，x1）…

…（x1，xm）

（xm，xm）.

現(xiàn)在證明（1）的系數(shù)行列式不為0，因?yàn)檫@樣我們便可確定（2）具有唯一解.

設(shè)G是（1）的系數(shù)矩陣，若detG=0，則齊線形方程組： Ga=0.

存在非零解，其中a=（a0，a1，…，am）T.（3）

設(shè)（3）的非零解為 a*=（a*0，a*1，…，a*m）T，則有：

∑mj=0（∑ni=1xj+ki）a*j=0（k=0，1，…，m）.（4）

將（4）式兩邊同時(shí)乘以a*k得：∑mj=0（∑ni=1xj+ki）a*ja*k=0，然后對(duì)所有k相加得： 0=∑mk=0∑mj=0（∑ni=1xj+ki）a*ja*k=∑ni=1（∑mk=0a*kxki）（∑mj=0a*jxji）=∑ni=1y2（xi），

其中y（xi）=∑mj=0a*jxji.我們知道，若∑ni=1y2（xi）=0，則有y（xi）=0（i=1，2，…，n）.

由于n>m+1，根據(jù)代數(shù)學(xué)基本定理：除非所有a*j=0，否則一個(gè)m 次多項(xiàng)式不能有n（n>m）個(gè)零點(diǎn).但是a*j=0 （j=0，1，…，m）與a*=（a*0，a*1，…，a*m）T是Ga=0的非零解矛盾，于是證得：detG≠0.

證明了（2）具有唯一解后，我們還可證明該解是I（a0，a1，…，am）的極小值點(diǎn).

考慮僅有兩個(gè)函數(shù)x0和x的情況.這時(shí)I是x0，x的函數(shù)，可表為：

I=I（a0，a1），令法方程的解為a*0，a*1，即它們滿足：I（a*0，a*1）aj≡0 （j=0，1）.

考察I（a*0+δ0，a*1+δ1）- I（a*0，a*1）=∑ni=1[δ0x0i+δ1xi]2≥0.（5）

上式中的等號(hào)只有當(dāng)∑ni=1[δ0x0i+δ1xi]2=0時(shí)才能達(dá)到，然而由代數(shù)學(xué)知識(shí)知多項(xiàng)式：x0+x1+x2+…+xm=0的解不多于m個(gè)（這里m=2

I（a*0+δ0，a*1+δ1，…，a*m+δm）- I（a*0，a*1，…，a*m）≥0，

并且當(dāng)aj=a*j（j=0，1，…，m）時(shí)I（a0，a1，…，am）取到極小值I（a*0，a*1，…，a*m）.

當(dāng)m=0時(shí)即為零次最小平方逼近多項(xiàng)式I（x）= a0，其法方程為：na0 = ∑ni=1yi

解得： a0 = y1+y2+…+ynn.

由上式可見，零次最小平方逼近多項(xiàng)式就是我們常用的平均值.

【參考文獻(xiàn)】

[1]王能超，李慶揚(yáng)，易大義.數(shù)值分析.第四版，北京：清華大學(xué)出版社，2001.

[2]G.H.戈盧布，C.F.范洛思.矩陣計(jì)算.北京：科學(xué)出版社，2002.