基于幾何直觀的最小二乘法教學(xué)實(shí)踐與探索

［摘 要］最小二乘法是理工科高年級本科專業(yè)中常用的一個(gè)算法，在經(jīng)管類專業(yè)中也有重要應(yīng)用。但由于該算法涉及的數(shù)學(xué)理論比較多，導(dǎo)致學(xué)生理解較為困難。因此，如何設(shè)計(jì)教學(xué)內(nèi)容，在不降低理論深度的情況下，引導(dǎo)學(xué)生從不同的角度看待問題，進(jìn)而開拓其思維，是教學(xué)中應(yīng)該深思的問題。文章結(jié)合教學(xué)實(shí)踐，通過化繁為簡、數(shù)形結(jié)合以及問題導(dǎo)向等方式，對該算法的課程教學(xué)進(jìn)行了總結(jié)和探索，以期更好地培養(yǎng)學(xué)生的思維能力和創(chuàng)新能力。

［關(guān)鍵詞］最小二乘法；問題導(dǎo)向；數(shù)形結(jié)合；教學(xué)教法

［中圖分類號］G642.0 ［文獻(xiàn)標(biāo)識碼］A ［文章編號］2095-3437（2024）15-0040-04

最小二乘算法在18世紀(jì)由數(shù)學(xué)家高斯發(fā)現(xiàn)，并應(yīng)用于大地測量和天文觀測的研究中。自此以后，最小二乘算法被廣泛應(yīng)用于多個(gè)學(xué)科、多個(gè)領(lǐng)域[1-2]。隨著現(xiàn)代電子計(jì)算機(jī)的普及與發(fā)展，尤其是人工智能時(shí)代的來臨，該方法更顯示出強(qiáng)大的生命力，在回歸分析、機(jī)器學(xué)習(xí)[3]等方面均有應(yīng)用。

由于最小二乘法的理論涉及的數(shù)學(xué)理論較多，尤其是用到不少高等數(shù)學(xué)和線性代數(shù)的知識，因此容易出現(xiàn)教師無法簡單講清楚、學(xué)生難以聽明白的情況。為降低教學(xué)難度，不少教學(xué)設(shè)計(jì)中仍然采用初等數(shù)學(xué)的方法來講述最小二乘法，避免了復(fù)雜的矩陣運(yùn)算，但也降低了理論深度。這種教學(xué)方式相對簡單，也足以應(yīng)付一些簡單的應(yīng)用場景，但容易導(dǎo)致學(xué)生的思維水平仍然停留在初等數(shù)學(xué)的階段，不利于學(xué)生創(chuàng)新性思維的培養(yǎng)。

為培養(yǎng)學(xué)生的創(chuàng)新能力[4]，教師通過改進(jìn)教學(xué)實(shí)踐，嘗試進(jìn)行學(xué)科交叉教學(xué)[5]。針對理工科高年級本科學(xué)生，在不降低理論深度的同時(shí)，著力采用幾何直觀的方法講述最小二乘法的原理，使學(xué)生在掌握該方法的同時(shí)，學(xué)會用不同的視角看待同一問題[6]，進(jìn)一步體會其所蘊(yùn)含的深刻思想，進(jìn)而提升學(xué)生的綜合素養(yǎng)。

在優(yōu)化教學(xué)實(shí)踐的基礎(chǔ)上，進(jìn)一步總結(jié)探索一些面向抽象問題的教學(xué)方法，如化繁為簡、數(shù)形結(jié)合、實(shí)際應(yīng)用等，以此提高學(xué)生的思維能力、創(chuàng)新能力，最終提高學(xué)生的綜合素養(yǎng)，踐行新時(shí)代培養(yǎng)創(chuàng)新型人才的理念。

一、最小二乘法教學(xué)實(shí)踐

最小二乘法教學(xué)的實(shí)踐上，教師通過代數(shù)和幾何的角度，不拘泥于教程和資料，推導(dǎo)和分析最小二乘法。通過分析公式推導(dǎo)的每一步，使學(xué)生知其然，更知其所以然。

（一）最小二乘法的代數(shù)方法求解

1.內(nèi)積與范數(shù)概念的復(fù)習(xí)

對于列向量x=（x1 x2…xn）T，y=（y1 y2 …yn）T，其內(nèi)積定義為xTy= x1y1+ x2y2+…+ xnyn。當(dāng)xTy = 0時(shí)，稱x與y正交。在內(nèi)積的基礎(chǔ)上，教師介紹向量的二范數(shù)定義，指出向量的二范數(shù)就等于其自身內(nèi)積的平方根，即[x]=[x21+…+x2n]，在幾何上，向量的范數(shù)即為向量的長度。

2.最小二乘代數(shù)方法求解

當(dāng)線性方程組 y = Hx 無解時(shí)， 稱其為不相容方程組。對于不相容的方程組，教師可以引導(dǎo)學(xué)生，希望求其近似解，最好的辦法是尋找向量 [x]，使得 [y-Hx2]達(dá)到最小。用數(shù)學(xué)公式表達(dá)即為[y-Hx2]=[miny-Hx2]。此時(shí)稱[x]為不相容方程組 y = Hx 的最小二乘解。令v=y-Hx，則最小二乘問題也可寫為[minv2]=[miny-Hx2]。

為了找到最優(yōu)的最小二乘解， 教師可以引導(dǎo)學(xué)生設(shè)計(jì)代價(jià)函數(shù)J（x）= [v2]=[y-Hx2]=（y-Hx）T（y-Hx），再令代價(jià)函數(shù)J（x）對向量x求導(dǎo)（注意不同的書中對向量求導(dǎo)的定義不盡相同，有的書中用行向量來表示，因此最后表示形式會稍有不同），并令導(dǎo)數(shù)為零，即得2HTHx-2HTy=0，這樣就可以得到正規(guī)方程組 HTHx = HTy。

顯然，當(dāng)H列滿秩時(shí)，根據(jù)矩陣的相關(guān)知識，可以知道矩陣（HTH）的逆存在，也即矩陣（HTH）–1存在，進(jìn)而將正規(guī)方程組HTHx = HTy兩邊同時(shí)左乘以矩陣（HTH）–1，可得最小二乘解為[x]=（HTH）–1HTy。此時(shí)代價(jià)函數(shù)J（x）也達(dá)到最小。

3.教學(xué)實(shí)踐中需注意的事項(xiàng)

在上述教學(xué)過程中，直接利用矩陣求導(dǎo)可以避免初等數(shù)學(xué)推導(dǎo)中的煩瑣的計(jì)算，但這種表示對于一些基礎(chǔ)不太好的學(xué)生來說有些難度。教師可以介紹一些簡單的例子，以加深學(xué)生對其的理解；也可以引入一些簡單的例子，再給出其矩陣表達(dá)。實(shí)際的教學(xué)過程中，教師可以根據(jù)學(xué)生的基礎(chǔ)和接受程度選擇適當(dāng)?shù)姆绞健?/p>

（二）普通線性方程組解的幾何解釋

為了給出最小二乘的幾何表達(dá)，下面介紹普通線性方程組的解的幾何解釋。

1.線性方程組的向量形式

教師可以從一個(gè)簡單線性方程組y = Hx的例子開始。假設(shè)該方程只有兩個(gè)未知數(shù)，即x=（x1 x2）T，此時(shí)矩陣H只有兩個(gè)列向量，不妨設(shè)兩個(gè)列向量分別為α1和α2。則線性方程組的矩陣形式 y = Hx可以寫成向量形式 y = α1x1 + α2x2。

2.線性方程組的解與線性組合

當(dāng)線性方程組y = Hx有解時(shí)，則意味著向量y可以由向量α1和α2線性表出；反之當(dāng)向量y可以由向量α1和α2線性表出，必然存在兩個(gè)數(shù)x1 和x2， 使得y = α1x1 + α2x2成立，于是線性方程組y = Hx有解，其解即為x=（x1 x2）T。

當(dāng)向量α1和α2線性無關(guān)時(shí)，這兩個(gè)向量的所有線性組合組成的集合就構(gòu)成了一個(gè)線性空間，稱為矩陣H的列空間，記為R（H）。在幾何上，R（H）表示一個(gè)平面，如圖1所示。

3.線性方程組有解的幾何解釋

線性方程組y = Hx有解，在代數(shù)上表示向量y可以由向量α1和α2線性表出，而在幾何上，就意味著向量y處在R（H）所表示的平面上，即y∈R（H）。反之，當(dāng)向量y處在R（H）所表示的平面上時(shí)，向量y一定可以由向量α1和α2線性表出，此時(shí)y = Hx一定有解。這樣就可以通過數(shù)形結(jié)合的方式，把線性方程組有解同幾何直觀聯(lián)系起來，從而加深學(xué)生對所學(xué)知識的理解，在潛移默化中培養(yǎng)學(xué)生多角度思考同一知識的習(xí)慣，也為接下來最小二乘的幾何解釋打下基礎(chǔ)。

（三）不相容方程組最小二乘解的幾何解釋

1.不相容方程的幾何解釋

當(dāng)線性方程組 y = Hx 無解時(shí)，一般稱其為不相容方程組或超定方程組。由上節(jié)的討論可知 y = Hx 無解，就意味著向量y不屬于R（H）所表示的平面，即y ? R（H），如圖2所示。

2.最小二乘解的幾何解釋

最小二乘解的目標(biāo)就是尋找向量[x]=（[x1 x2]）T ，使得[y-Hx2] 達(dá)到最小。仍然假設(shè)矩陣H只有兩個(gè)列向量，并且兩個(gè)列向量分別為α1和α2，則 [y] =H[x] 可改為向量形式 [y] = α1[x1]+ α2[x2]，此時(shí)向量 [y] 為向量α1和α2的線性組合，即[y]∈R（H），如圖2所示。在幾何上，最小二乘的目標(biāo)即是在R（H）平面上找到向量[y]， 使得向量（[y-y]）的長度最短。

由幾何直觀可知，當(dāng)向量（[y-y]）與平面R（H）垂直時(shí)，其長度最短。而向量 （[y-y]）與平面R（H）垂直，就意味著（[y-y]）與平面R（H）上的所有向量都正交。因?yàn)橄蛄喀?和α2屬于空間R（H），所以（[y-y]）當(dāng)然也與向量α1和α2正交。根據(jù)向量正交的定義，此時(shí)有α1T（[y-y]）=0，α2T（[y-y]）=0，由于向量α1和α2是矩陣H的列向量，因此HT（[y-y]）=0，從而得到正規(guī)方程組HTHx = HTy，當(dāng)矩陣（HTH）–1存在時(shí)，進(jìn)一步可以得到其最先二乘的解的形式為[x]=（HTH）–1HTy。

3.教學(xué)實(shí)踐的總結(jié)與討論

通過這樣的教學(xué)設(shè)計(jì)，可以讓學(xué)生學(xué)會用幾何直觀的視角看待最小二乘的解，既可以增強(qiáng)學(xué)生的理解能力，幫助其洞察知識的本質(zhì)，又可以讓學(xué)生更好地感受理論的魅力，激發(fā)其發(fā)散性思維和創(chuàng)造性思維。在教學(xué)中，教師還可以根據(jù)實(shí)際情況，增加一些更加深刻的內(nèi)容，如投影矩陣、空間分解等概念，為后續(xù)學(xué)習(xí)更深層次的理論奠定基礎(chǔ)。

二、抽象問題的教學(xué)方法探索

如前所述，最小二乘法作為一個(gè)重要的算法，其應(yīng)用非常廣泛。然而該算法的理論較為抽象，導(dǎo)致學(xué)生理解較為困難，也容易影響后續(xù)的學(xué)習(xí)。因此，如何將抽象的理論通過淺顯的語言表達(dá)出來，是教師在教學(xué)中必須考慮的因素。下面借助最小二乘法的教學(xué)實(shí)踐，對該類課程的教法進(jìn)行總結(jié)。

（一）化繁為簡，減弱抽象問題

在講解最小二乘法的矩陣表達(dá)時(shí)，如果學(xué)生基礎(chǔ)較弱、理解較為困難，教師可以先從簡單的情形出發(fā)，盡量不要一開始就直接從多元超定方程組進(jìn)行推導(dǎo)。首先，教師可以把維數(shù)降低，從最簡單的二元形式開始介紹。此時(shí)其矩陣只有兩個(gè)列向量，問題就變得簡單多了。其次，教師對簡化后的超定方程組進(jìn)行推導(dǎo)，從而得出最小二乘的矩陣表達(dá)式。這種化繁為簡的方式便于學(xué)生接受。最后，教師由簡入繁，將二元的結(jié)論順勢推廣到多元的形式。這樣的教學(xué)過程較為順暢，學(xué)生的理解程度也可以隨之加深。

如果在講解過程中，仍有部分學(xué)生難以理解，教師則可以化抽象為具體，列舉一些實(shí)際的例子，讓學(xué)生從初等數(shù)學(xué)的角度進(jìn)行推導(dǎo)。之后再把具體例子抽象為符號表達(dá)，進(jìn)一步將其結(jié)論歸結(jié)到矩陣形式。教師通過這樣化繁為簡的方式，從簡單和具體的例子出發(fā)，再層層遞進(jìn)，由簡入繁，不但教授了知識，而且在潛移默化中向?qū)W生傳授了科學(xué)的思維方式。

（二）數(shù)形結(jié)合，多角度認(rèn)識抽象問題

數(shù)形結(jié)合不單是一種多角度認(rèn)識抽象問題的方式，也是一種知識轉(zhuǎn)換和遷移的方式。利用知識的遷移，把不熟悉的內(nèi)容轉(zhuǎn)換為熟知的內(nèi)容，符合一般的認(rèn)知規(guī)律，既能鞏固舊知，又能大大減輕新知的抽象性。

在講解了最小二乘的矩陣表達(dá)之后，教師應(yīng)通過帶領(lǐng)學(xué)生復(fù)習(xí)線性方程組與線性空間的知識，引導(dǎo)學(xué)生將線性方程組與向量的線性表出等概念聯(lián)系起來，再將向量的線性表出與幾何直觀聯(lián)系起來。在此基礎(chǔ)上，教師進(jìn)一步延伸出超定方程組的最小二乘問題，即尋找最小二乘解，其等價(jià)于尋找垂直于矩陣列空間的向量。這樣就從幾何中垂直的概念引出最小二乘正規(guī)方程的表達(dá)式，實(shí)現(xiàn)了方程語言、矩陣語言、幾何語言三者之間的轉(zhuǎn)換。

從不同的視角出發(fā)對知識點(diǎn)進(jìn)行講授，目的是使學(xué)生能夠根據(jù)多種思想方法對問題進(jìn)行細(xì)致觀察、綜合分析，概括提煉其中所蘊(yùn)含的內(nèi)在規(guī)律，進(jìn)而提升其邏輯思維能力，激發(fā)其發(fā)散性思維，培養(yǎng)其創(chuàng)新潛質(zhì)。

（三）建模應(yīng)用，理解抽象問題的本質(zhì)

最小二乘問題與實(shí)際生活或工作聯(lián)系緊密，用最小二乘問題解決實(shí)際問題，有助于進(jìn)一步理解抽象概念的本質(zhì)。教師可以在教學(xué)環(huán)節(jié)中適當(dāng)加入一些應(yīng)用最小二乘法解決實(shí)際問題的例子，比如用最小二乘解決曲線擬合問題等。

曲線擬合問題與最小二乘法的關(guān)系最為密切，可以說曲線擬合問題的解決就是發(fā)現(xiàn)最小二乘原理的歷史起源。在課堂上，教師可以向?qū)W生介紹相關(guān)歷史背景，如數(shù)學(xué)家高斯是如何發(fā)現(xiàn)和利用最小二乘原理，得出了谷神星的運(yùn)動軌道，并準(zhǔn)確預(yù)測了谷神星的位置。

在介紹上述歷史的基礎(chǔ)上，為符合學(xué)生學(xué)習(xí)認(rèn)知規(guī)律，對谷神星軌道預(yù)測問題進(jìn)行抽象和簡化，提出問題“給定平面上的10個(gè)觀測點(diǎn)，假設(shè)這些點(diǎn)就是谷神星觀測記錄，每一個(gè)點(diǎn)對應(yīng)的橫坐標(biāo)表示觀測時(shí)間，對應(yīng)的縱坐標(biāo)表示谷神星的位置。那么如何預(yù)測接下來時(shí)刻谷神星的位置？”接著設(shè)計(jì)問題引導(dǎo)學(xué)生思考“如果有一條曲線經(jīng)過了平面上的10個(gè)觀測點(diǎn)，只要找到這條曲線的方程f（x），那么就可以預(yù)測接下來第11個(gè)、第12個(gè)觀測點(diǎn)的位置了”。

這一過程，就把實(shí)際的問題變成了一個(gè)曲線擬合問題，而曲線擬合問題就是要找一條曲線的方程，使其在對應(yīng)時(shí)刻的函數(shù)值與觀測值的差最小，進(jìn)而把曲線擬合問題轉(zhuǎn)化為一個(gè)最小二乘問題。通過這種教學(xué)設(shè)計(jì)，讓學(xué)生理解最小二乘法的強(qiáng)大之處，在提高學(xué)生學(xué)習(xí)興趣的基礎(chǔ)上，加深其對知識點(diǎn)的印象。

總而言之，在教學(xué)過程中，教師要綜合運(yùn)用化繁為簡、數(shù)形結(jié)合、特殊到一般、案例教學(xué)、建模及應(yīng)用等方法，培養(yǎng)學(xué)生的抽象思維能力。

三、結(jié)語

培養(yǎng)創(chuàng)新人才是當(dāng)前重要的教育理念，而知識的講解必須達(dá)到一定的深度，才能激發(fā)學(xué)生的創(chuàng)新思維。本文針對理工科專業(yè)中廣泛應(yīng)用的最小二乘法，在不降低理論深度的同時(shí)，用代數(shù)的嚴(yán)謹(jǐn)和幾何的直觀闡述其基本原理，從而使學(xué)生在掌握該方法的同時(shí)，體會看待同一問題的不同視角。通過對理論的深入探討，對學(xué)生的主動思考能力、邏輯分析能力進(jìn)行全方位訓(xùn)練和提升，進(jìn)而實(shí)現(xiàn)“知識傳授、能力培養(yǎng)”相融合的教學(xué)目標(biāo)，最終提高學(xué)生的綜合素養(yǎng)，使其成為創(chuàng)新引領(lǐng)的高素質(zhì)人才。

［ 參 考 文 獻(xiàn) ］

[1］ 《運(yùn)籌學(xué)》教材編寫組.運(yùn)籌學(xué)[M].4 版.北京：清華大學(xué)出版社，2012.

[2］ 李子奈，潘文卿.計(jì)量經(jīng)濟(jì)學(xué)[M].5 版.北京：高等教育出版社，2020.

[3］ 彭德巍. 人工智能課程實(shí)驗(yàn)案例研究與實(shí)踐[J].大學(xué)教育，2021（2）：71?74.

[4］ 張智杰，張藝馨，張靜.在大學(xué)數(shù)學(xué)教學(xué)中培養(yǎng)學(xué)生創(chuàng)新能力[J]. 智庫時(shí)代， 2019 （12）： 162.

[5］ 林健.第四次工業(yè)革命浪潮下的傳統(tǒng)工科專業(yè)轉(zhuǎn)型升級[J]. 高等工程教育研究，2018 （4）： 1?10.

[6］ 朱婧，陳學(xué)慧，張志剛.基于卓越工程師計(jì)劃數(shù)學(xué)能力培養(yǎng)的探索[J].高教學(xué)刊， 2018（6）： 80-82.

［責(zé)任編輯：黃緊德］