斯坦福大學(xué)公開課：機器學(xué)習(xí)課程

隨著“智能制造”概念的普及，人工智能技術(shù)的研究與應(yīng)用變的越來越被人們關(guān)注。人工智能在制造中的運用已經(jīng)成為實現(xiàn)制造的知識化、自動化、柔性化以實現(xiàn)對市場的快速響應(yīng)的關(guān)鍵。機器學(xué)習(xí)無疑是最有希望實現(xiàn)這個“智能”的研究方向之一。斯坦福大學(xué)的“Stanford Engineering Everywhere”免費提供學(xué)校里最受歡迎的工科課程給全世界的學(xué)生和教育工作者。得益于這個項目，我們有機會和全世界站在同一個數(shù)量級的知識起跑線上。

課程共20集，網(wǎng)易公開課已經(jīng)全部翻譯完成。講師：Andrew Ng。

[第 1集 ]機器學(xué)習(xí)的動機與應(yīng)用

簡介：機器學(xué)習(xí)的動機與應(yīng)用、Logistic類、機器學(xué)習(xí)的定義、監(jiān)督學(xué)習(xí)概觀、學(xué)習(xí)理論概述、非監(jiān)督學(xué)習(xí)概述和強化學(xué)習(xí)概述。

[第2集]監(jiān)督學(xué)習(xí)應(yīng)用

簡介：監(jiān)督學(xué)習(xí)應(yīng)用 ——自主推導(dǎo)，ALVINN系統(tǒng)，線性回歸，梯度下降，組梯度下降，隨機梯度下降，標準方程推導(dǎo)。

[第 3集 ]欠擬合與過擬合的概念

簡介：欠擬合與過擬合的概念，參數(shù)化及非參數(shù)化算法概念，局部加權(quán)回歸，對于線性模型的概率解釋，Logistic回歸，感知器。

[第4集]牛頓方法

簡介：介紹了牛頓方法，可以代替梯度上升算法用來計算函數(shù)的最大值；之后以高斯分布和伯努利分布為例介紹了指數(shù)分布函數(shù)族；最后以指數(shù)分布函數(shù)族為基礎(chǔ)，引出了廣義線性模型，可以通過指定概率分布直接推導(dǎo)出模型。

[第5集]生成學(xué)習(xí)算法

簡介：一類新的學(xué)習(xí)算法——生成學(xué)習(xí)算法，并詳細地講解了該算法的一個例子：高斯判別分析；之后對生成學(xué)習(xí)算法與之前的判別學(xué)習(xí)算法進行了對比；最后介紹了一個適合對文本進行分類的算法——樸素貝葉斯算法，并結(jié)合該算法講述了一種常用的平滑技術(shù)——Laplace平滑。

[第 6集 ]樸素貝葉斯算法

簡介：先介紹了兩種樸素貝葉斯算法的事件模型；之后介紹了神經(jīng)網(wǎng)絡(luò)算法；在最后介紹了兩個重要的概念：函數(shù)間隔和幾何間隔?；谶@兩個概念提出了一個線性分類算法：最大間隔分類器算法。該算法用于引出一個非常重要的非線性分類算法：支持向量機。

[第 7集 ]最優(yōu)間隔分類器問題

簡介：首先提出了原始的優(yōu)化問題：最優(yōu)間隔分類器問題；之后介紹了對偶問題的概念和 KKT條件；基于原始優(yōu)化問題的對偶問題的分析，介紹了 SVM算法；最后對 SVM算法進行了評價，以引出下節(jié)課對核方法的介紹。

[第 8集 ]順序最小優(yōu)化算法

簡介：核的概念——它在 SVM以及許多學(xué)習(xí)算法中都有重要的應(yīng)用；之后介紹了 l1 norm軟間隔 SVM——它是一種 SVM的變化形式，可以處理非線性可分隔的數(shù)據(jù)；最后介紹了 SMO算法——一種高效的可以解決 SVM優(yōu)化問題的算法。

[第 9集 ]經(jīng)驗風(fēng)險最小化

簡介：主要介紹了模型選擇中的一種常見現(xiàn)象——偏差方差權(quán)衡。為了解釋該概念，首先介紹了兩個重要的引理——聯(lián)合界引理和 Hoeffding不等式；之后定義了兩個重要的概念——訓(xùn)練誤差和一般誤差，并提出了一種簡化的機器學(xué)習(xí)算法模型——經(jīng)驗風(fēng)險最小化（ERM）；最后基于這些概念對 ERM結(jié)果的理論上界進行了證明，并基于上界分析對偏差方差權(quán)衡進行了解釋。

[第10集]特征選擇

簡介：VC維的概念——該概念能夠?qū)㈥P(guān)于ERM一般誤差的界的結(jié)論推廣到無限假設(shè)類的情形；模型選擇問題——具體介紹了交叉驗證方法以及幾種變形；特征選擇問題——具體介紹了兩類方法：封裝特征選擇和過濾特征選擇。

[第 11集 ]貝葉斯統(tǒng)計正則化

簡介：貝葉斯統(tǒng)計和規(guī)范化；簡單介紹了在線學(xué)習(xí)的概念；機器學(xué)習(xí)算法設(shè)計中的問題診斷技巧；兩種分析技巧：誤差分析與銷蝕分析；兩種應(yīng)用機器學(xué)習(xí)算法的方式與適用場景。

[第 12集 ] K-means算法

簡介：無監(jiān)督學(xué)習(xí)的內(nèi)容。首先介紹了 k-means聚類算法；混合高斯模型，它是最大期望算法（EM）的一種特例；引入了 Jesen不等式，利用 Jesen不等式引出了 EM算法的一般形式。

[第 13集 ]高斯混合模型

簡介：對混合高斯模型在 EM算法下的結(jié)論進行了推導(dǎo)，并且介紹了 EM算法在混合貝葉斯模型中的應(yīng)用。最后介紹了因子分析算法。該算法可以進行高維數(shù)據(jù)下樣本數(shù)目較少的情況下的模型擬合。

[第 14集 ]主成分分析法

簡介：本講繼續(xù)上一講的內(nèi)容，詳細地講解了因子分析問題對應(yīng)的 EM算法的步驟推導(dǎo)過程，并重點提出了其中應(yīng)該注意的問題。之后介紹了主成分分析（PCA）的算法原理和主要應(yīng)用。該算法是一種常用的降低數(shù)據(jù)維度的算法。

[第15集]奇異值分解

簡介：主成分分析 PCA，及舉出利用PCA找出相似文檔的例子；SVD（奇異值分析）；無監(jiān)督算法和因子分析；ICA（獨立成分分析算法）和 CDF（累積分布函數(shù)），并復(fù)習(xí)了高斯分布的知識；最后舉了幾個應(yīng)用ICA的例子。

[第 16集 ]馬爾可夫決策過程

簡介：主要介紹了監(jiān)督學(xué)習(xí)；然后引出強化學(xué)習(xí)的知識，用“使直升機飛翔”的例子闡述強化學(xué)習(xí)；介紹了馬氏決策過程（MDP），由此引出來的兩個解決最優(yōu)策略和最優(yōu)回報的算法；最后重點介紹了“值迭代”和“策略迭代算法”的實施，以及比較了它們的優(yōu)缺點。

[第 17集 ]離散與維數(shù)災(zāi)難

簡介：繼續(xù)馬氏決策過程（MDP），以及解決狀態(tài) MDP的算法，主要詳細介紹了擬合值迭代算法（fitted valueiteration）和近似政策迭代（approximate policyiteration）這兩種算法，并通過具體的例子和求解的方式來說明這兩種算法。endprint

[第 18集 ]線性二次型調(diào)節(jié)控制

簡介：控制 NVP算法，非線性動力學(xué)系統(tǒng)；在動力系統(tǒng)的模型和線性二次型調(diào)節(jié)控制（linear quadratic regulationcontrol），導(dǎo)出一些處理情況的函數(shù)；還包含線性模型的建立，非線性模型的線性化的知識。

[第 19集 ]微分動態(tài)規(guī)劃

簡介：強化學(xué)習(xí)算法，引入調(diào)試強化學(xué)習(xí)算法，介紹 Kalman濾波器微分動態(tài)規(guī)劃 ，卡爾曼濾波與 LQR控制結(jié)合的一種算法（LQG控制算法，線性二次高斯），并比較了高斯分布和卡爾曼濾波的效率問題。

[ 第20 集] 策略搜索

簡介：學(xué)習(xí)和復(fù)習(xí)了強化學(xué)習(xí)算法，講述了一些POMDPs（ 部分可觀察馬氏決策過程） 的知識，完全可觀察MDP 的知識；接下來介紹了策略搜索算法（其中包括兩種算法：Reinforced 和Pegasus）；最后，介紹了與這門課程相關(guān)的一些課程，并給學(xué)生提出一些希望。

名詞解釋

機器學(xué)習(xí) （Machine Learning， ML）是一門多領(lǐng)域交叉學(xué)科，涉及概率論、統(tǒng)計學(xué)、逼近論、凸分析和算法復(fù)雜度理論等多門學(xué)科。專門研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能。

機器學(xué)習(xí)是人工智能的核心，是使計算機具有智能的根本途徑，其應(yīng)用遍及人工智能的各個領(lǐng)域，主要使用歸納、綜合而不是演繹。

一、研究意義

顧名思義，機器學(xué)習(xí)是研究如何使用機器來模擬人類學(xué)習(xí)活動的一門學(xué)科。更為嚴格的提法是：機器學(xué)習(xí)是一門研究機器獲取新知識和新技能，并識別現(xiàn)有知識的學(xué)問。這里所說的“機器”，指的就是計算機，電子計算機，中子計算機、光子計算機或神經(jīng)計算機等。

機器學(xué)習(xí)有下面幾種定義：“機器學(xué)習(xí)是一門人工智能的科學(xué)，該領(lǐng)域的主要研究對象是人工智能，特別是如何在經(jīng)驗學(xué)習(xí)中改善具體算法的性能”?！皺C器學(xué)習(xí)是對能通過經(jīng)驗自動改進的計算機算法的研究”?！皺C器學(xué)習(xí)是用數(shù)據(jù)或以往的經(jīng)驗，以此優(yōu)化計算機程序的性能標準。”一種經(jīng)常引用的英文定義是：A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P， if its performance at tasks in T， as measured by P， improves with experience E.

學(xué)習(xí)是人類具有的一種重要智能行為，但究竟什么是學(xué)習(xí)，長期以來卻眾說紛紜。社會學(xué)家、邏輯學(xué)家和心理學(xué)家都各有其不同的看法。

機器能否像人類一樣能具有學(xué)習(xí)能力呢？ 1959年美國的塞繆爾 （Samuel）設(shè)計了一個下棋程序，這個程序具有學(xué)習(xí)能力，它可以在不斷的對弈中改善自己的棋藝。4年后，這個程序戰(zhàn)勝了設(shè)計者本人。又過了 3年，這個程序戰(zhàn)勝了美國一個保持 8年之久的常勝不敗的冠軍。這個程序向人們展示了機器學(xué)習(xí)的能力，提出了許多令人深思的社會問題與哲學(xué)問題。

機器的能力是否能超過人的，很多持否定意見的人的一個主要論據(jù)是：機器是人造的，其性能和動作完全是由設(shè)計者規(guī)定的，因此無論如何其能力也不會超過設(shè)計者本人。這種意見對不具備學(xué)習(xí)能力的機器來說的確是對的，可是對具備學(xué)習(xí)能力的機器就值得考慮了，因為這種機器的能力在應(yīng)用中不斷地提高，過一段時間之后，設(shè)計者本人也不知它的能力到了何種水平。

二、主要策略

學(xué)習(xí)是一項復(fù)雜的智能活動，學(xué)習(xí)過程與推理過程是緊密相連的。按照學(xué)習(xí)中使用推理的多少，機器學(xué)習(xí)所采用的策略大體上可分為4種——機械學(xué)習(xí)、通過傳授學(xué)習(xí)、類比學(xué)習(xí)和通過事例學(xué)習(xí)。學(xué)習(xí)中所用的推理越多，系統(tǒng)的能力越強。

三、基本結(jié)構(gòu)

環(huán)境向系統(tǒng)的學(xué)習(xí)部分提供某些信息；學(xué)習(xí)部分利用這些信息修改知識庫，以增進系統(tǒng)執(zhí)行部分完成任務(wù)的效能；執(zhí)行部分根據(jù)知識庫完成任務(wù)，同時把獲得的信息反饋給學(xué)習(xí)部分。在具體的應(yīng)用中，環(huán)境、知識庫和執(zhí)行部分決定了具體的工作內(nèi)容，學(xué)習(xí)部分所需要解決的問題完全由上述三部分確定。endprint