《線性回歸法材》教學課件

第十三講

線性回歸法齊海波2021年5月26日1第十三講

線性回歸法齊海波1講課內(nèi)容1、回歸分析方法的意義2、一元線性回歸分析3、一元非線性回歸分析4、多元線性回歸分析實驗數(shù)據(jù)之間的關(guān)系如何？講課內(nèi)容1、回歸分析方法的意義實驗數(shù)據(jù)之間1、回歸分析的意義1.1回歸分析的意義1.2回歸分析解決的主要問題1.3回歸分析的類型回歸分析是一種處理變量與變量之間關(guān)系的數(shù)學方法，主要是建立變量之間的關(guān)系式。1、回歸分析的意義1.1回歸分析的意義回歸分析是一種處理Regression退回到不完美或較不興旺的狀態(tài)。隨機變量的平均值和相應(yīng)的一個或多個獨立變量的值之間的關(guān)系。Therelationshipbetweenthemeanvalueofarandomvariableandthecorrespondingvaluesofoneormoreindependentvariables.Regression退回到不完美或較不興旺的狀態(tài)。1.1回歸分析的意義在生產(chǎn)和科學實踐中，變量往往是相互聯(lián)系、相互依存的，即存在一定的關(guān)系。進展了一組試驗后，人們總是希望把試驗指標與影響這些指標的數(shù)量因子之間的經(jīng)歷公式找出來。經(jīng)歷公式好找，但對否？需要用統(tǒng)計方法解釋。1.1回歸分析的意義在生產(chǎn)和科學實踐中，變量往往是相互聯(lián)1.2回歸分析解決的主要問題(1)從一組數(shù)據(jù)出發(fā)確定這些變量之間的定量關(guān)系式；(2)對這些關(guān)系式的可信程度進展檢驗；(3)從影響著某一個量的許多變量中判斷哪些變量的影響是顯著的，哪些是不顯著的；(4)利用所求得的關(guān)系式對生產(chǎn)過程進展控制或預(yù)測。1.2回歸分析解決的主要問題(1)從一組數(shù)據(jù)出發(fā)確定這1〕一元線性回歸2〕一元非線性回歸3〕多元線性回歸1.3回歸分析的類型回歸分析方法不僅提供建立變量間關(guān)系的數(shù)學表達式——經(jīng)歷公式，而且利用概率統(tǒng)計知識進展了分析討論，從而判斷經(jīng)歷公式的正確性。1〕一元線性回歸1.3回歸分析的類型回歸分析方法不僅提供2、一元線性回歸分析一元線性回歸分析，需要解決：〔1〕求變量x與y之間的回歸直線方程；〔2〕判斷變量x和y之間是否確為線性關(guān)系；〔3〕根據(jù)一個變量的值，預(yù)測或控制另一變量的取值。2、一元線性回歸分析一元線性回歸分析，需要解決：2.1一元線性回歸方程確實定2.1一元線性回歸方程確實定《線性回歸法材》教學課件對誰求導(dǎo)？對誰求導(dǎo)？最小二乘法最小二乘法為簡化計算，引入符號：為簡化計算，引入符號：最小二乘法最小二乘法1〕方差分析法2〕相關(guān)系數(shù)檢驗法2.2一元線性回歸方程檢驗方法1〕方差分析法2.2一元線性回歸方程檢驗方法1〕方差分析法把所給數(shù)據(jù)的總波動分解為兩局部，一局部反映水平變化引起的波動，另一局部反映由于存在試驗誤差而引起的波動。然后把各因素水平變化引起的波動與試驗誤差引起的波動大小進展比較，而到達檢驗因素顯著性的目的。這里的水平指的是什么？1〕方差分析法把所給數(shù)據(jù)的總波動分解為兩局部，一局部反映水平《線性回歸法材》教學課件《線性回歸法材》教學課件自由度自由度F檢驗F檢驗例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的腐蝕時間〔x〕與腐蝕深度〔y〕間的一組數(shù)據(jù)。試研究兩變量〔x，y〕之間的關(guān)系。腐蝕時間x（秒）腐蝕深度y（μ）5510203040506065901204681316171925252946例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的腐蝕時間〔x〕與作散點圖作散點圖《線性回歸法材》教學課件序號12345678910115510203040506065901204954681316171925252946208252510040090016002500360042258100144003587516366416925628936162562584121165398203080260480680950150016252610552013755序號154251620《線性回歸法材》教學課件方差檢驗法Q=44.61U=1420.6N-2=9F=9*1420.6/44.61=286.6查表方差檢驗法Q=44.612〕相關(guān)系數(shù)法所謂相關(guān)就是指事物或現(xiàn)象之間的相互關(guān)系。事物之間在數(shù)量上的變化關(guān)系有的是屬于因果關(guān)系。有的卻不能直接作出因果關(guān)系的解釋。相關(guān)的種類：〔1〕正相關(guān)、負相關(guān)、零相關(guān)；〔2〕簡相關(guān)，復(fù)相關(guān)；〔3〕高度相關(guān)、低度相關(guān)衡量相關(guān)程度的指標：相關(guān)系數(shù)！2〕相關(guān)系數(shù)法所謂相關(guān)就是指事物或現(xiàn)象之間的相互關(guān)系。相關(guān)系數(shù)殘差殘差的平方和總平方和SSE=0,r=±1,沒有殘差，完全擬合；SSE=SSTO,r=0,殘差很大，完全不擬合！相關(guān)系數(shù)殘差殘差的平方和總平方和SSE=0,r=±1,沒有相關(guān)系數(shù)與回歸系數(shù)相關(guān)系數(shù)與回歸系數(shù)相關(guān)系數(shù)r和回歸系數(shù)b：1〕回歸系數(shù)b與相關(guān)系數(shù)r同符合！2〕相關(guān)系數(shù)的絕對值小于1，回歸系數(shù)的絕對值可以大于1；3〕回歸線一定過中心點。相關(guān)系數(shù)r和回歸系數(shù)b：1〕回歸系數(shù)b與相關(guān)系數(shù)r同符合！回歸系數(shù)和相關(guān)系數(shù)：點斜式和一般式r=1,b=?r=0,b=?回歸系數(shù)和相關(guān)系數(shù)：點斜式和一般式r=1,b=?相關(guān)系數(shù)三種情形相關(guān)系數(shù)三種情形《線性回歸法材》教學課件《線性回歸法材》教學課件相關(guān)系數(shù)檢驗步驟：相關(guān)系數(shù)檢驗步驟：N-2123456789100.050.010.9970.9500.8780.8110.7540.7070.6660.6320.6020.5761.0000.9900.9590.9170.8740.8340.7980.7650.7350.708N-2111213141516171819200.050.010.5530.5320.5140.4790.4820.4680.4560.4440.4330.4130.6840.6610.6410.6230.6060.5900.5750.5610.5490.537N-2212223242526272829300.050.010.4130.4040.3960.3880.3810.3740.3670.3640.3550.3490.5260.5150.5050.4960.4870.4780.4700.4630.4560.449相關(guān)系數(shù)臨界值表N-210.050.010.9971.000N-22.3預(yù)報與控制當求得變量x、y之間的回歸直線方程后，往往通過回歸方程答復(fù)這樣兩方面的問題：〔1〕對任何一個給定的觀測點x0，推斷y0大致落的范圍〔2〕假設(shè)要求觀測值y在一定的范圍y1<y<y2內(nèi)取值，應(yīng)將變量控制在什么地方。前者就是所謂的預(yù)報問題，后者稱為控制問題。2.3預(yù)報與控制當求得變量x、y之間的回歸直線方程后，往1〕預(yù)報問題1〕預(yù)報問題《線性回歸法材》教學課件2〕控制問題2〕控制問題圖解法圖解法圖解法圖解法2.4算例例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的腐蝕時間〔x〕與腐蝕深度〔y〕間的一組數(shù)據(jù)。試研究兩變量〔x，y〕之間的關(guān)系。腐蝕時間x（秒）腐蝕深度y（μ）55102030405060659012046813161719252529462.4算例例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的作散點圖作散點圖《線性回歸法材》教學課件序號12345678910115510203040506065901204954681316171925252946208252510040090016002500360042258100144003587516366416925628936162562584121165398203080260480680950150016252610552013755序號154251620《線性回歸法材》教學課件《線性回歸法材》教學課件《線性回歸法材》教學課件《線性回歸法材》教學課件2.5非線性回歸轉(zhuǎn)化兩個變量之間的回歸關(guān)系不是線性的，稱為非線性關(guān)系。很多情況下，非線性問題可以通過簡單的轉(zhuǎn)換，成為線性問題。2.5非線性回歸轉(zhuǎn)化兩個變量之間的回歸關(guān)系不是線性的，稱例2、盛鋼水的鋼包，在使用過程中由于鋼液及爐渣對包襯耐火材料的浸蝕，使它的容積不斷增大。在生產(chǎn)過程中，積累了鋼包的容積與使用次數(shù)間的13組數(shù)據(jù)。序號使用次數(shù)容積序號使用次數(shù)容積12106.42811110.5923108.20914110.6034109.581015110.9045109.501116110.7657110.001218111.0068109.931319111.20710110.49例2、盛鋼水的鋼包，在使用過程中由于鋼液及爐渣對包襯耐火材料數(shù)據(jù)散點圖非線性問題可以通過對數(shù)據(jù)進展適當變換，轉(zhuǎn)化成線性問題。數(shù)據(jù)散點圖非線性問題可以通過對數(shù)據(jù)進展適當變換，轉(zhuǎn)化成線性問《線性回歸法材》教學課件《線性回歸法材》教學課件《線性回歸法材》教學課件終究用什么曲線去擬合???第一步：確定變量之間關(guān)系式。根據(jù)專業(yè)知識或?qū)嶒灁?shù)據(jù)。第二步：數(shù)據(jù)轉(zhuǎn)換，線性回歸。對于例2，把X和Y先求一下倒數(shù)，看有沒有什么變化?。〗K究用什么曲線去擬合???第一步：確定變量之間關(guān)系式。根據(jù)專再折騰一下！再折騰常見非線性類型〔1〕常見非線性類型〔1〕常見非線性類型〔2〕常見非線性類型〔2〕常見非線性類型〔3〕常見非線性類型〔3〕3、多元線性回歸分析3.1多元線性回歸問題3.2多元線性回歸模型3、多元線性回歸分析3.1多元線性回歸問題多元線性回歸問題影響因變量的因素不是一個而是多個，這類問題稱為多元回歸分析。多元線性回歸分析的原理與一元線性回歸分析完全一樣，但在計算上卻要復(fù)雜得多。多元回歸專門程序。SPSSAnalyze→Regression→Linear多元線性回歸問題影響因變量的因素不是一個而是多個，這類問例3：根據(jù)我國某地區(qū)鄉(xiāng)鎮(zhèn)企業(yè)總產(chǎn)值、從業(yè)勞動者人數(shù)和固定資產(chǎn)原值的歷年資料，求回歸方程。〔總產(chǎn)值y,從業(yè)勞動者人數(shù)x1,固定資產(chǎn)原值x2)年份總產(chǎn)值(億)y從業(yè)勞動者(萬人)固定資產(chǎn)原值(億)1988490.62826.5229.61989543.42909.3280.21990649.92999.7326.31991722.32969.6376.51992840.43112.9429.31993999.03234.7475.719941433.03848.1575.0？？？3000400例3：根據(jù)我國某地區(qū)鄉(xiāng)鎮(zhèn)企業(yè)總產(chǎn)值、從業(yè)勞動者人數(shù)和固定資產(chǎn)《線性回歸法材》教學課件作業(yè)1、計算例1。2、計算例2。3、某10名高中畢業(yè)生高中成績和高考成績?nèi)缦隆Ｔ嚱⒏咧谐煽兿鄬τ诟呖汲煽兊幕貧w模型。學生12345678910高中(X)111065373892高考(Y)129975566103作業(yè)1、計算例1。學生12345678910高中(X)111作業(yè)4、合金的強度y(×107Pa)與合金中碳的含量x(%)有關(guān)。12組數(shù)據(jù)列于表中，求關(guān)系式，并進展方差分析。序號x(%)y(×107Pa)序號x(%)y(×107Pa)10.1042.070.1649.020.1143.080.1753.030.1245.090.1850.040.1345.0100.2055.050.1445.0110.2155.060.1547.5120.2360.0作業(yè)4、合金的強度y(×107Pa)與合金中碳的含量x方差分析：來源平方和自由度均方和F比回歸SR=327.932fA=1MSA=327.932191.4殘差Se=17.133fe=10MSe=1.7133總和ST=335.2292fT=11假設(shè)取=0.01，那么F0.99(1,10)=10<F，因此在顯著性水平0.01下回歸方程是顯著的。方差分析：來源平方和自由度均方和F比回歸SR=327.93大作業(yè)1、采用VBA或VB或VC++編寫多元線性回歸分析程序。2、采用EXCEL進展多元線性回歸分析。大作業(yè)1、采用VBA或VB或VC++編寫多元線性回歸分析程序THEEND

謝謝！THEEND

謝謝！第十三講

線性回歸法齊海波2021年5月26日71第十三講

線性回歸法齊海波1講課內(nèi)容1、回歸分析方法的意義2、一元線性回歸分析3、一元非線性回歸分析4、多元線性回歸分析實驗數(shù)據(jù)之間的關(guān)系如何？講課內(nèi)容1、回歸分析方法的意義實驗數(shù)據(jù)之間1、回歸分析的意義1.1回歸分析的意義1.2回歸分析解決的主要問題1.3回歸分析的類型回歸分析是一種處理變量與變量之間關(guān)系的數(shù)學方法，主要是建立變量之間的關(guān)系式。1、回歸分析的意義1.1回歸分析的意義回歸分析是一種處理Regression退回到不完美或較不興旺的狀態(tài)。隨機變量的平均值和相應(yīng)的一個或多個獨立變量的值之間的關(guān)系。Therelationshipbetweenthemeanvalueofarandomvariableandthecorrespondingvaluesofoneormoreindependentvariables.Regression退回到不完美或較不興旺的狀態(tài)。1.1回歸分析的意義在生產(chǎn)和科學實踐中，變量往往是相互聯(lián)系、相互依存的，即存在一定的關(guān)系。進展了一組試驗后，人們總是希望把試驗指標與影響這些指標的數(shù)量因子之間的經(jīng)歷公式找出來。經(jīng)歷公式好找，但對否？需要用統(tǒng)計方法解釋。1.1回歸分析的意義在生產(chǎn)和科學實踐中，變量往往是相互聯(lián)1.2回歸分析解決的主要問題(1)從一組數(shù)據(jù)出發(fā)確定這些變量之間的定量關(guān)系式；(2)對這些關(guān)系式的可信程度進展檢驗；(3)從影響著某一個量的許多變量中判斷哪些變量的影響是顯著的，哪些是不顯著的；(4)利用所求得的關(guān)系式對生產(chǎn)過程進展控制或預(yù)測。1.2回歸分析解決的主要問題(1)從一組數(shù)據(jù)出發(fā)確定這1〕一元線性回歸2〕一元非線性回歸3〕多元線性回歸1.3回歸分析的類型回歸分析方法不僅提供建立變量間關(guān)系的數(shù)學表達式——經(jīng)歷公式，而且利用概率統(tǒng)計知識進展了分析討論，從而判斷經(jīng)歷公式的正確性。1〕一元線性回歸1.3回歸分析的類型回歸分析方法不僅提供2、一元線性回歸分析一元線性回歸分析，需要解決：〔1〕求變量x與y之間的回歸直線方程；〔2〕判斷變量x和y之間是否確為線性關(guān)系；〔3〕根據(jù)一個變量的值，預(yù)測或控制另一變量的取值。2、一元線性回歸分析一元線性回歸分析，需要解決：2.1一元線性回歸方程確實定2.1一元線性回歸方程確實定《線性回歸法材》教學課件對誰求導(dǎo)？對誰求導(dǎo)？最小二乘法最小二乘法為簡化計算，引入符號：為簡化計算，引入符號：最小二乘法最小二乘法1〕方差分析法2〕相關(guān)系數(shù)檢驗法2.2一元線性回歸方程檢驗方法1〕方差分析法2.2一元線性回歸方程檢驗方法1〕方差分析法把所給數(shù)據(jù)的總波動分解為兩局部，一局部反映水平變化引起的波動，另一局部反映由于存在試驗誤差而引起的波動。然后把各因素水平變化引起的波動與試驗誤差引起的波動大小進展比較，而到達檢驗因素顯著性的目的。這里的水平指的是什么？1〕方差分析法把所給數(shù)據(jù)的總波動分解為兩局部，一局部反映水平《線性回歸法材》教學課件《線性回歸法材》教學課件自由度自由度F檢驗F檢驗例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的腐蝕時間〔x〕與腐蝕深度〔y〕間的一組數(shù)據(jù)。試研究兩變量〔x，y〕之間的關(guān)系。腐蝕時間x（秒）腐蝕深度y（μ）5510203040506065901204681316171925252946例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的腐蝕時間〔x〕與作散點圖作散點圖《線性回歸法材》教學課件序號12345678910115510203040506065901204954681316171925252946208252510040090016002500360042258100144003587516366416925628936162562584121165398203080260480680950150016252610552013755序號154251620《線性回歸法材》教學課件方差檢驗法Q=44.61U=1420.6N-2=9F=9*1420.6/44.61=286.6查表方差檢驗法Q=44.612〕相關(guān)系數(shù)法所謂相關(guān)就是指事物或現(xiàn)象之間的相互關(guān)系。事物之間在數(shù)量上的變化關(guān)系有的是屬于因果關(guān)系。有的卻不能直接作出因果關(guān)系的解釋。相關(guān)的種類：〔1〕正相關(guān)、負相關(guān)、零相關(guān)；〔2〕簡相關(guān)，復(fù)相關(guān)；〔3〕高度相關(guān)、低度相關(guān)衡量相關(guān)程度的指標：相關(guān)系數(shù)！2〕相關(guān)系數(shù)法所謂相關(guān)就是指事物或現(xiàn)象之間的相互關(guān)系。相關(guān)系數(shù)殘差殘差的平方和總平方和SSE=0,r=±1,沒有殘差，完全擬合；SSE=SSTO,r=0,殘差很大，完全不擬合！相關(guān)系數(shù)殘差殘差的平方和總平方和SSE=0,r=±1,沒有相關(guān)系數(shù)與回歸系數(shù)相關(guān)系數(shù)與回歸系數(shù)相關(guān)系數(shù)r和回歸系數(shù)b：1〕回歸系數(shù)b與相關(guān)系數(shù)r同符合！2〕相關(guān)系數(shù)的絕對值小于1，回歸系數(shù)的絕對值可以大于1；3〕回歸線一定過中心點。相關(guān)系數(shù)r和回歸系數(shù)b：1〕回歸系數(shù)b與相關(guān)系數(shù)r同符合！回歸系數(shù)和相關(guān)系數(shù)：點斜式和一般式r=1,b=?r=0,b=?回歸系數(shù)和相關(guān)系數(shù)：點斜式和一般式r=1,b=?相關(guān)系數(shù)三種情形相關(guān)系數(shù)三種情形《線性回歸法材》教學課件《線性回歸法材》教學課件相關(guān)系數(shù)檢驗步驟：相關(guān)系數(shù)檢驗步驟：N-2123456789100.050.010.9970.9500.8780.8110.7540.7070.6660.6320.6020.5761.0000.9900.9590.9170.8740.8340.7980.7650.7350.708N-2111213141516171819200.050.010.5530.5320.5140.4790.4820.4680.4560.4440.4330.4130.6840.6610.6410.6230.6060.5900.5750.5610.5490.537N-2212223242526272829300.050.010.4130.4040.3960.3880.3810.3740.3670.3640.3550.3490.5260.5150.5050.4960.4870.4780.4700.4630.4560.449相關(guān)系數(shù)臨界值表N-210.050.010.9971.000N-22.3預(yù)報與控制當求得變量x、y之間的回歸直線方程后，往往通過回歸方程答復(fù)這樣兩方面的問題：〔1〕對任何一個給定的觀測點x0，推斷y0大致落的范圍〔2〕假設(shè)要求觀測值y在一定的范圍y1<y<y2內(nèi)取值，應(yīng)將變量控制在什么地方。前者就是所謂的預(yù)報問題，后者稱為控制問題。2.3預(yù)報與控制當求得變量x、y之間的回歸直線方程后，往1〕預(yù)報問題1〕預(yù)報問題《線性回歸法材》教學課件2〕控制問題2〕控制問題圖解法圖解法圖解法圖解法2.4算例例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的腐蝕時間〔x〕與腐蝕深度〔y〕間的一組數(shù)據(jù)。試研究兩變量〔x，y〕之間的關(guān)系。腐蝕時間x（秒）腐蝕深度y（μ）55102030405060659012046813161719252529462.4算例例1：在某產(chǎn)品標明腐蝕刻線，下表是試驗活得的作散點圖作散點圖《線性回歸法材》教學課件序號12345678910115510203040506065901204954681316171925252946208252510040090016002500360042258100144003587516366416925628936162562584121165398203080260480680950150016252610552013755序號154251620《線性回歸法材》教學課件《線性回歸法材》教學課件《線性回歸法材》教學課件《線性回歸法材》教學課件2.5非線性回歸轉(zhuǎn)化兩個變量之間的回歸關(guān)系不是線性的，稱為非線性關(guān)系。很多情況下，非線性問題可以通過簡單的轉(zhuǎn)換，成為線性問題。2.5非線性回歸轉(zhuǎn)化兩個變量之間的回歸關(guān)系不是線性的，稱例2、盛鋼水的鋼包，在使用過程中由于鋼液及爐渣對包襯耐火材料的浸蝕，使它的容積不斷增大。在生產(chǎn)過程中，積累了鋼包的容積與使用次數(shù)間的13組數(shù)據(jù)。序號使用次數(shù)容積序號使用次數(shù)容積12106.42811110.5923108.20914110.6034109.581015110.9045109.501116110.7657110.001218111.0068109.931319111.20710110.49例2、盛鋼水的鋼包，在使用過程中由于鋼液及爐渣對包襯耐火材料數(shù)據(jù)散點圖非線性問題可以通過對數(shù)據(jù)進展適當變換，轉(zhuǎn)化成線性問題。數(shù)據(jù)散點圖非線性問題可以通過對數(shù)據(jù)進展適當變換，轉(zhuǎn)化成線性問《線性回歸法材》教學課件《線性回歸法材》教學課件《線性回歸法材》教學課件終究用什么曲線去擬合???第一步：確定變量之間關(guān)系式。根據(jù)專業(yè)知識或?qū)嶒灁?shù)據(jù)。第二步：數(shù)據(jù)轉(zhuǎn)換，線性回歸。對于例2，把X和Y先求一下倒數(shù)，看有沒有什么變化??！終究用什么曲線去擬合???第一步：確定變量之間關(guān)系式。根據(jù)專再折騰一下！再折騰常見非線性類型〔1〕常見非線性類型〔1〕常見非線性類型〔2〕常見非線性類型〔2〕常見非線性類型〔3〕常見非線性類型〔3〕3、多元線性回歸分析3.1多元線性回歸問題3.2多元線性回歸模型3、多元線性回歸分析3.1多元線性回歸問題多元線性回歸問題影響因變量的因素不是一個而是多個，這類問題稱為多元回歸分析。多元線性回歸分析的原理與一元線性回歸分析完全一樣，但在計算上卻要復(fù)雜得多。多元回歸專門程序。SPSSAnalyze→Regression→