非線性回歸.ppt

1、可線性化的一元非線性回歸,多重線性回歸簡介,前一節(jié)，我們學(xué)習(xí)了一元線性回歸分析問題，在實(shí) 際應(yīng)用中，有些變量之間并不是線性相關(guān)關(guān)系，但可以 經(jīng)過適當(dāng)?shù)淖儞Q，把非線性回歸問題轉(zhuǎn)化為線性回歸問 題。,可線性化的一元非線性回歸,常見的幾種變換形式：,1、雙曲線,令,2、冪函數(shù)曲線,令,化非線性回歸為線性回歸,變形,3、指數(shù)函數(shù)曲線,令,變形,4、負(fù)指數(shù)函數(shù)曲線,令,化非線性回歸為線性回歸,變形,5、對(duì)數(shù)函數(shù)曲線,令,6、S型（Logistic）曲線,令,化非線性回歸為線性回歸,變形,例1 測(cè)定某肉雞的生長過程，每兩周記錄一次雞的重量， 數(shù)據(jù)如下表,由經(jīng)驗(yàn)知雞的生長曲線為Logistic曲線，且極限生

2、長量 為k=2.827，試求y對(duì)x的回歸曲線方程。,解 由題設(shè)可建立雞重y與時(shí)間x的相關(guān)關(guān)系為,令,則有,列表計(jì)算,所以,所以所求曲線方程為,上機(jī)操作,輸入原始數(shù)據(jù),上機(jī)操作,計(jì)算,上機(jī)操作,上機(jī)操作,上機(jī)操作,是y*，而不是y,自變量,上機(jī)操作,回歸方程，還要回代系數(shù),多重回歸分析,在實(shí)際問題中，自變量的個(gè)數(shù)可能多于一個(gè)，隨機(jī)變量 y與多個(gè)可控變量x1,x2,x3,xk之間是否存在相關(guān)關(guān)系，則屬于多重（元）回歸問題。本節(jié)討論多重線性回歸。,多重線性回歸模型,隨機(jī)變量 與 之間的線性關(guān)系,(1),其中,未知,則（1）式稱為多重線性回歸模型。,多重線性回歸模型,若對(duì)變量 與 分別作n次觀測(cè)，則可

3、得 一個(gè)容量為n的子樣,(2),其中,為待定參數(shù)，稱為回歸系數(shù)。,（2）式含有k+1個(gè)參數(shù)，故觀測(cè)次數(shù)應(yīng)滿足nk+1。,則有,多重線性回歸模型的矩陣形式,記,則（2）有矩陣形式,其中,確定 的最小二乘法,考慮多元函數(shù),目標(biāo)：確定 使 最小,方法：,解得,多重線性回歸方程,線性回歸方程的有效性檢驗(yàn)方差分析法,線性回歸方程 是否有統(tǒng)計(jì)意義，可檢驗(yàn)假設(shè),是否成立,方法：方差分析法，將總離差平方和分解,線性回歸方程的有效性檢驗(yàn)方差分析法,回歸平方和，反映線性關(guān)系對(duì)觀測(cè)結(jié)果產(chǎn)生的數(shù) 據(jù)波動(dòng)，SSR越大，線性相關(guān)關(guān)系越強(qiáng)。,剩余平方和（或殘差平方和），反映除線性因素之 外的其它因素對(duì)觀測(cè)結(jié)果產(chǎn)生的數(shù)據(jù)波動(dòng)

4、，SSE越大， 則其它因素對(duì)Y的影響越大。,線性回歸方程的有效性檢驗(yàn)方差分析法,在H0成立的條件下，可以證明：,（n為觀測(cè)次數(shù)，k為自變量個(gè)數(shù)）,構(gòu)造F統(tǒng)計(jì)量,當(dāng) 時(shí)，拒絕H0。,回歸系數(shù)的統(tǒng)計(jì)檢驗(yàn),回歸方程的有效性檢驗(yàn)，只是解決了 與 之間是否有線性相關(guān)關(guān)系，至于變量 對(duì) 的影響是否 有統(tǒng)計(jì)意義，無從看出，因此，還需對(duì)回歸系數(shù) 是否 為0作統(tǒng)計(jì)檢驗(yàn)。,提出假設(shè),如果H0成立，可以證明統(tǒng)計(jì)量,當(dāng) 時(shí)，拒絕H0。,利用回歸方程作預(yù)測(cè)及控制,對(duì)于給定的,點(diǎn)估計(jì)值,置信水平為 的預(yù)測(cè)區(qū)間為,例2 某種水泥在凝固時(shí)放出的熱量Y（cal/g）與水泥中 下列4種化學(xué)成分有關(guān)：,的成分（%）,的成分（%）,的成分（%）,的成分（%）,現(xiàn)記錄了13組觀測(cè)數(shù)