梯下降法原理

1、回歸與梯度下降：回歸在數(shù)學(xué)上來(lái)說(shuō)是給定一個(gè)點(diǎn)集，能夠用一條曲線去擬合之，如果這個(gè)曲線是一條直線，那就被稱為線性回歸，如果曲線是一條二次曲線，就被稱為二次回歸，回歸還有很多的變種，如locally weighted回歸，logistic回歸，等等，這個(gè)將在后面去講。用一個(gè)很簡(jiǎn)單的例子來(lái)說(shuō)明回歸，這個(gè)例子來(lái)自很多的地方，也在很多的open source的軟件中看到，比如說(shuō)weka。大概就是，做一個(gè)房屋價(jià)值的評(píng)估系統(tǒng)，一個(gè)房屋的價(jià)值來(lái)自很多地方，比如說(shuō)面積、房間的數(shù)量（幾室?guī)讖d）、地 段、朝向等等，這些影響房屋價(jià)值的變量被稱為特征(feature)，feature在機(jī)器學(xué)習(xí)中是一個(gè)很重要的概念，有很

2、多的論文專門探討這個(gè)東西。在 此處，為了簡(jiǎn)單，假設(shè)我們的房屋就是一個(gè)變量影響的，就是房屋的面積。假設(shè)有一個(gè)房屋銷售的數(shù)據(jù)如下：面積(m2)  銷售價(jià)錢（萬(wàn)元）123            250150            32087           &#

3、160;  160102            220               這個(gè)表類似于帝都5環(huán)左右的房屋價(jià)錢，我們可以做出一個(gè)圖，x軸是房屋的面積。y軸是房屋的售價(jià)，如下：如果來(lái)了一個(gè)新的面積，假設(shè)在銷售價(jià)錢的記錄中沒(méi)有的，我們?cè)趺崔k呢？我們可以用一條曲線去盡量準(zhǔn)的擬合這些數(shù)據(jù)，然后如果有新的輸入過(guò)來(lái)，我們可以在將曲線上這個(gè)點(diǎn)對(duì)

4、應(yīng)的值返回。如果用一條直線去擬合，可能是下面的樣子：綠色的點(diǎn)就是我們想要預(yù)測(cè)的點(diǎn)。首先給出一些概念和常用的符號(hào)，在不同的機(jī)器學(xué)習(xí)書籍中可能有一定的差別。房屋銷售記錄表 - 訓(xùn)練集(training set)或者訓(xùn)練數(shù)據(jù)(training data), 是我們流程中的輸入數(shù)據(jù)，一般稱為x房屋銷售價(jià)錢 - 輸出數(shù)據(jù)，一般稱為y擬合的函數(shù)（或者稱為假設(shè)或者模型），一般寫做 y = h(x)訓(xùn)練數(shù)據(jù)的條目數(shù)(#training set), 一條訓(xùn)練數(shù)據(jù)是由一對(duì)輸入數(shù)據(jù)和輸出數(shù)據(jù)組成的輸入數(shù)據(jù)的維度(特征的個(gè)數(shù)，#features)，n下面是一個(gè)典型的機(jī)器學(xué)習(xí)的過(guò)程，首先給出一個(gè)輸入數(shù)據(jù)，我們的算法會(huì)通

5、過(guò)一系列的過(guò)程得到一個(gè)估計(jì)的函數(shù)，這個(gè)函數(shù)有能力對(duì)沒(méi)有見(jiàn)過(guò)的新數(shù)據(jù)給出一個(gè)新的估計(jì)，也被稱為構(gòu)建一個(gè)模型。就如同上面的線性回歸函數(shù)。我們用X1，X2.Xn 去描述feature里面的分量，比如x1=房間的面積，x2=房間的朝向，等等，我們可以做出一個(gè)估計(jì)函數(shù)：在這兒稱為參數(shù)，在這兒的意思是調(diào)整feature中每個(gè)分量的影響力，就是到底是房屋的面積更重要還是房屋的地段更重要。為了如果我們令X0 = 1，就可以用向量的方式來(lái)表示了：我們程序也需要一個(gè)機(jī)制去評(píng)估我們是否比較好，所以說(shuō)需要對(duì)我們做出的h函數(shù)進(jìn)行評(píng)估，一般這個(gè)函數(shù)稱為損失函數(shù)（loss function）或者錯(cuò)誤函數(shù)(error fun

6、ction)，描述h函數(shù)不好的程度，在下面，我們稱這個(gè)函數(shù)為J函數(shù)在這兒我們可以做出下面的一個(gè)錯(cuò)誤函數(shù)：這個(gè)錯(cuò)誤估計(jì)函數(shù)是去對(duì)x(i)的估計(jì)值與真實(shí)值y(i)差的平方和作為錯(cuò)誤估計(jì)函數(shù)，前面乘上的1/2是為了在求導(dǎo)的時(shí)候，這個(gè)系數(shù)就不見(jiàn)了。如何調(diào)整以使得J()取得最小值有很多方法，其中有最小二乘法(min square)，是一種完全是數(shù)學(xué)描述的方法，在stanford機(jī)器學(xué)習(xí)開放課最后的部分會(huì)推導(dǎo)最小二乘法的公式的來(lái)源，這個(gè)來(lái)很多的機(jī)器學(xué)習(xí)和數(shù)學(xué)書 上都可以找到，這里就不提最小二乘法，而談?wù)勌荻认陆捣?。梯度下降法是按下面的流程進(jìn)行的：1）首先對(duì)賦值，這個(gè)值可以是隨機(jī)的，也可以讓是一個(gè)全零的向量

7、。2）改變的值，使得J()按梯度下降的方向進(jìn)行減少。為了更清楚，給出下面的圖： 這是一個(gè)表示參數(shù)與誤差函數(shù)J()的關(guān)系圖，紅色的部分是表示J()有著比較高的取值，我們需要的是，能夠讓J()的值盡量的低。也就是深藍(lán)色的部分。0，1表示向量的兩個(gè)維度。在上面提到梯度下降法的第一步是給給一個(gè)初值，假設(shè)隨機(jī)給的初值是在圖上的十字點(diǎn)。然后我們將按照梯度下降的方向進(jìn)行調(diào)整，就會(huì)使得J()往更低的方向進(jìn)行變化，如圖所示，算法的結(jié)束將是在下降到無(wú)法繼續(xù)下降為止。 當(dāng)然，可能梯度下降的最終點(diǎn)并非是全局最小點(diǎn)，可能是一個(gè)局部最小點(diǎn)，可能是下面的情況：上面這張圖就是描述的一個(gè)局部最小點(diǎn)，這是我們重新選擇了一個(gè)初始點(diǎn)得到的，看來(lái)我們這個(gè)算法將會(huì)在很大的程度上被初始點(diǎn)的選擇影響而陷入局部最小點(diǎn)下面我將用一個(gè)例子描述一下梯度減少的過(guò)程，對(duì)于我們的函數(shù)J()求偏導(dǎo)J：（求導(dǎo)的過(guò)程如果不明白，可以溫習(xí)一下微積分）下面是更新的過(guò)程，也就是i會(huì)向著梯度最小的方向進(jìn)行減少。i表示更新之前的值，-后面的部分表示按梯度方向減少的量，表示步長(zhǎng)，也就是每次按照梯度減少的方向變化多少。 一個(gè)很重要的地方值得注意的是，梯度是有方向的，對(duì)于一個(gè)向量，每一維分量i都可以求出一個(gè)梯度的方向，我們就可以找到一個(gè)整體的方向，