誤差理論與最小二乘法的運(yùn)算法則

1、第一章第一章 誤差理論與最小二乘法誤差理論與最小二乘法 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二乘法最小二乘法 l正規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法的運(yùn)算法則 隨機(jī)誤差是因很多暫時(shí)未能掌握或不便掌握的微隨機(jī)誤差是因很多暫時(shí)未能掌握或不便掌握的微 小因素產(chǎn)生的，主要有以下幾方面：小因素產(chǎn)生的，主要有以下幾方面： 測(cè)量裝置方面的因素測(cè)量裝置方面的因素 環(huán)境方面的因素環(huán)境方面的因素 人為方面的因素人為方面的因素 零部件變形及

2、其不穩(wěn)零部件變形及其不穩(wěn) 定性，信號(hào)處理電路定性，信號(hào)處理電路 的隨機(jī)噪聲等。的隨機(jī)噪聲等。 溫度、濕度、氣壓的變溫度、濕度、氣壓的變 化，光照強(qiáng)度、電磁場(chǎng)化，光照強(qiáng)度、電磁場(chǎng) 變化等。變化等。 瞄準(zhǔn)、讀數(shù)不穩(wěn)定，瞄準(zhǔn)、讀數(shù)不穩(wěn)定， 人為操作不當(dāng)?shù)?。人為操作不?dāng)?shù)取?第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 一、隨機(jī)誤差產(chǎn)生的原因一、隨機(jī)誤差產(chǎn)生的原因 誤差理論與最小二乘法的運(yùn)算法則 隨機(jī)誤差隨機(jī)誤差： 在同一條件下，多次測(cè)量同一值，絕對(duì)值和符在同一條件下，多次測(cè)量同一值，絕對(duì)值和符 號(hào)以不可預(yù)測(cè)規(guī)律變化的誤差。號(hào)以不可預(yù)測(cè)規(guī)律變化的誤差。 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 隨機(jī)誤差的特點(diǎn)：隨機(jī)誤差的特點(diǎn)：

3、1、每個(gè)測(cè)量值都含有誤差，這些誤差的出現(xiàn)沒有確定、每個(gè)測(cè)量值都含有誤差，這些誤差的出現(xiàn)沒有確定 的規(guī)律，即前一個(gè)數(shù)據(jù)出現(xiàn)后，不能預(yù)測(cè)下一個(gè)數(shù)據(jù)的規(guī)律，即前一個(gè)數(shù)據(jù)出現(xiàn)后，不能預(yù)測(cè)下一個(gè)數(shù)據(jù) 的大小和方向。的大小和方向。 2、就誤差整體而言，具有某種統(tǒng)計(jì)規(guī)律。、就誤差整體而言，具有某種統(tǒng)計(jì)規(guī)律。 一、隨機(jī)誤差產(chǎn)生的原因一、隨機(jī)誤差產(chǎn)生的原因 誤差理論與最小二乘法的運(yùn)算法則 （1 1）隨機(jī)誤差分布具有對(duì)稱性。絕對(duì)值相等的正、負(fù)誤）隨機(jī)誤差分布具有對(duì)稱性。絕對(duì)值相等的正、負(fù)誤 差產(chǎn)生的數(shù)量相等。差產(chǎn)生的數(shù)量相等。 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 在不考慮系統(tǒng)誤差和粗大誤差影響的條件下，在不考慮系統(tǒng)誤差

4、和粗大誤差影響的條件下， 隨機(jī)誤差服從正態(tài)分布，具有如下特點(diǎn)：隨機(jī)誤差服從正態(tài)分布，具有如下特點(diǎn)： 測(cè)量值測(cè)量值 測(cè)量測(cè)量 次數(shù)次數(shù) 真值真值 誤差：誤差： 0ii xx=- 誤差理論與最小二乘法的運(yùn)算法則 （2 2）隨機(jī)誤差分布具有單峰性。絕對(duì)值小的誤差出現(xiàn)幾）隨機(jī)誤差分布具有單峰性。絕對(duì)值小的誤差出現(xiàn)幾 率遠(yuǎn)遠(yuǎn)大于絕對(duì)值大的誤差出現(xiàn)幾率。率遠(yuǎn)遠(yuǎn)大于絕對(duì)值大的誤差出現(xiàn)幾率。 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 測(cè)量值測(cè)量值 測(cè)量測(cè)量 次數(shù)次數(shù) 真值真值 在不考慮系統(tǒng)誤差和粗大誤差影響的條件下，在不考慮系統(tǒng)誤差和粗大誤差影響的條件下， 隨機(jī)誤差服從正態(tài)分布，具有如下特點(diǎn)：隨機(jī)誤差服從正態(tài)分布，具有如

5、下特點(diǎn)： 誤差：誤差： 0ii xx=- 誤差理論與最小二乘法的運(yùn)算法則 （3 3）隨機(jī)誤差具有有界性。在一定測(cè)量條件下，隨機(jī)誤差）隨機(jī)誤差具有有界性。在一定測(cè)量條件下，隨機(jī)誤差 的出現(xiàn)不會(huì)超過某一范圍。的出現(xiàn)不會(huì)超過某一范圍。 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 測(cè)量值測(cè)量值 測(cè)量測(cè)量 次數(shù)次數(shù) 真值真值 在不考慮系統(tǒng)誤差和粗大誤差影響的條件下，在不考慮系統(tǒng)誤差和粗大誤差影響的條件下， 隨機(jī)誤差服從正態(tài)分布，具有如下特點(diǎn)：隨機(jī)誤差服從正態(tài)分布，具有如下特點(diǎn)： 誤差：誤差： 0ii xx=- 誤差理論與最小二乘法的運(yùn)算法則 （4 4）隨機(jī)誤差具有抵償性。測(cè)量次數(shù)趨于無窮大時(shí)，隨）隨機(jī)誤差具有抵償性。

6、測(cè)量次數(shù)趨于無窮大時(shí)，隨 機(jī)誤差的算術(shù)平均值趨于機(jī)誤差的算術(shù)平均值趨于0 0。 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 歸納隨機(jī)誤差的特點(diǎn)為：對(duì)稱性、單峰性、有界性、抵償性。歸納隨機(jī)誤差的特點(diǎn)為：對(duì)稱性、單峰性、有界性、抵償性。 測(cè)量值測(cè)量值 測(cè)量測(cè)量 次數(shù)次數(shù) 真值真值 在不考慮系統(tǒng)誤差和粗大誤差影響的條件下，在不考慮系統(tǒng)誤差和粗大誤差影響的條件下， 隨機(jī)誤差服從正態(tài)分布，具有如下特點(diǎn)：隨機(jī)誤差服從正態(tài)分布，具有如下特點(diǎn)： 誤差：誤差： 0ii xx=- 誤差理論與最小二乘法的運(yùn)算法則 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 二、正態(tài)分布二、正態(tài)分布 )(P 誤差：誤差： 0ii xx=- 2 22 2 2 1

7、 ( ) 2 h h P ee - - =概率密度函數(shù)：概率密度函數(shù)： 誤差理論與最小二乘法的運(yùn)算法則 2 22 2 2 1 ( ) 2 h h P ee - - = 1）概率密度函數(shù)：）概率密度函數(shù)： )(P 均方根誤差均方根誤差/標(biāo)準(zhǔn)誤差標(biāo)準(zhǔn)誤差 2 1 n i i n d s = = 誤差：誤差： 0ii xx=- 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 二、正態(tài)分布二、正態(tài)分布 誤差理論與最小二乘法的運(yùn)算法則 2）特點(diǎn)）特點(diǎn): 對(duì)稱性對(duì)稱性 - 可正可負(fù)可正可負(fù) - 絕對(duì)值相等的正負(fù)誤差出現(xiàn)的機(jī)會(huì)相等絕對(duì)值相等的正負(fù)誤差出現(xiàn)的機(jī)會(huì)相等 P( ) - 曲線對(duì)稱于縱軸曲線對(duì)稱于縱軸 有界性有界性 -

8、 絕對(duì)值不會(huì)超過一定的范圍（一定的測(cè)量條件下）絕對(duì)值不會(huì)超過一定的范圍（一定的測(cè)量條件下） 絕對(duì)值很大的誤差幾乎不出現(xiàn)絕對(duì)值很大的誤差幾乎不出現(xiàn) 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 二、正態(tài)分布二、正態(tài)分布 -KK 誤差理論與最小二乘法的運(yùn)算法則 抵償性抵償性 - 測(cè)量次數(shù)測(cè)量次數(shù)n 時(shí)（相同條件下）時(shí)（相同條件下） 全體隨機(jī)函數(shù)值的代數(shù)和為零全體隨機(jī)函數(shù)值的代數(shù)和為零 1 0 lim n i i n d = = 單峰性單峰性 - 絕對(duì)值小的誤差出現(xiàn)的機(jī)會(huì)多（概率密度大）絕對(duì)值小的誤差出現(xiàn)的機(jī)會(huì)多（概率密度大） =0 處隨機(jī)誤差概率密度有最大值處隨機(jī)誤差概率密度有最大值 2）特點(diǎn)）特點(diǎn): 第一節(jié)隨機(jī)

9、誤差第一節(jié)隨機(jī)誤差 二、正態(tài)分布二、正態(tài)分布 -KK 誤差理論與最小二乘法的運(yùn)算法則 -KK 數(shù)學(xué)期望（數(shù)學(xué)期望（Expectation ） - 真值真值 x0 標(biāo)準(zhǔn)偏差（標(biāo)準(zhǔn)偏差（Standard deviation） 3）特征量：）特征量： 1 2 h s = 小，h 大 大，h 小小 2 1 n i i n d s = = 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 二、正態(tài)分布二、正態(tài)分布 誤差理論與最小二乘法的運(yùn)算法則 對(duì)某量進(jìn)行一系列測(cè)量時(shí)，由于存在隨機(jī)誤差，因此其獲得對(duì)某量進(jìn)行一系列測(cè)量時(shí)，由于存在隨機(jī)誤差，因此其獲得 的測(cè)量值不完全相同，此時(shí)應(yīng)以算術(shù)平均值作為該量的真值。的測(cè)量值不完全相同，

10、此時(shí)應(yīng)以算術(shù)平均值作為該量的真值。 設(shè)設(shè) 為為n n 次測(cè)量所得的值，則算術(shù)平均值為次測(cè)量所得的值，則算術(shù)平均值為: : 12 1 1 n n i i lll xl nn 12 , n l ll 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 三、算術(shù)平均值三、算術(shù)平均值 當(dāng)測(cè)量次數(shù)無限增加時(shí)，算術(shù)平均值必然趨近于真值。當(dāng)測(cè)量次數(shù)無限增加時(shí)，算術(shù)平均值必然趨近于真值。 誤差理論與最小二乘法的運(yùn)算法則 由于由于值反映了測(cè)量值或隨機(jī)誤差的散布程度，因此值反映了測(cè)量值或隨機(jī)誤差的散布程度，因此 值可作為隨機(jī)誤差的評(píng)定尺度。值可作為隨機(jī)誤差的評(píng)定尺度。 第一節(jié)隨機(jī)誤差第一節(jié)隨機(jī)誤差 2 1 n i i n d s =

11、= 標(biāo)準(zhǔn)差標(biāo)準(zhǔn)差不是測(cè)量當(dāng)中任何一個(gè)具體測(cè)量值的隨機(jī)誤差。不是測(cè)量當(dāng)中任何一個(gè)具體測(cè)量值的隨機(jī)誤差。 的大小只說明，在一定條件下隨機(jī)誤差的概率分布情況。的大小只說明，在一定條件下隨機(jī)誤差的概率分布情況。 哪條曲線表示哪條曲線表示 數(shù)據(jù)更集中？數(shù)據(jù)更集中？ 四、測(cè)量的標(biāo)準(zhǔn)差四、測(cè)量的標(biāo)準(zhǔn)差 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二乘法最小二乘法 l正規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法的運(yùn)算法則 研究系統(tǒng)誤差的重要意義研究系

12、統(tǒng)誤差的重要意義 第二節(jié)系統(tǒng)誤差第二節(jié)系統(tǒng)誤差 系統(tǒng)誤差不易被發(fā)現(xiàn)，多次重復(fù)測(cè)量不能減小它對(duì)測(cè)量結(jié)果系統(tǒng)誤差不易被發(fā)現(xiàn)，多次重復(fù)測(cè)量不能減小它對(duì)測(cè)量結(jié)果 的影響。的影響。 系統(tǒng)誤差系統(tǒng)誤差: : 在確定的測(cè)量條件下，某種測(cè)量方法和裝置，在測(cè)量之前在確定的測(cè)量條件下，某種測(cè)量方法和裝置，在測(cè)量之前 就已存在誤差，并始終以必然性規(guī)律影響測(cè)量結(jié)果的正確度，就已存在誤差，并始終以必然性規(guī)律影響測(cè)量結(jié)果的正確度， 如果這種影響顯著的話，就要影響測(cè)量結(jié)果的準(zhǔn)確度。如果這種影響顯著的話，就要影響測(cè)量結(jié)果的準(zhǔn)確度。 測(cè)量結(jié)果的精度，與隨機(jī)誤差和系統(tǒng)誤差都有關(guān)。測(cè)量結(jié)果的精度，與隨機(jī)誤差和系統(tǒng)誤差都有關(guān)。 誤差

13、理論與最小二乘法的運(yùn)算法則 計(jì)量校準(zhǔn)后發(fā)現(xiàn)的偏差、儀器設(shè)計(jì)原理計(jì)量校準(zhǔn)后發(fā)現(xiàn)的偏差、儀器設(shè)計(jì)原理 缺陷、儀器制造和安裝不正確等。缺陷、儀器制造和安裝不正確等。 測(cè)量時(shí)的實(shí)際溫度對(duì)標(biāo)準(zhǔn)溫度的測(cè)量時(shí)的實(shí)際溫度對(duì)標(biāo)準(zhǔn)溫度的 偏差、測(cè)量過程中的溫度、濕度偏差、測(cè)量過程中的溫度、濕度 按一定規(guī)律變化的誤差。按一定規(guī)律變化的誤差。 采用近似的測(cè)量方法或計(jì)算公式采用近似的測(cè)量方法或計(jì)算公式 引起的誤差等。引起的誤差等。 測(cè)量人員固有的測(cè)量習(xí)性引起的測(cè)量人員固有的測(cè)量習(xí)性引起的 誤差等。誤差等。 第二節(jié)系統(tǒng)誤差第二節(jié)系統(tǒng)誤差 一、系統(tǒng)誤差產(chǎn)生的原因一、系統(tǒng)誤差產(chǎn)生的原因 系統(tǒng)誤差由固定不變的或按確定規(guī)律變化的

14、因素造成，系統(tǒng)誤差由固定不變的或按確定規(guī)律變化的因素造成， 在條件充分的情況下這些因素可以掌握。在條件充分的情況下這些因素可以掌握。 測(cè)量裝置方面的因素測(cè)量裝置方面的因素 環(huán)境方面的因素環(huán)境方面的因素 測(cè)量方法的因素測(cè)量方法的因素 測(cè)量人員的因素測(cè)量人員的因素 誤差理論與最小二乘法的運(yùn)算法則 第二節(jié)系統(tǒng)誤差第二節(jié)系統(tǒng)誤差 二、系統(tǒng)誤差的分類和特征二、系統(tǒng)誤差的分類和特征 特征：在同一條件下，多次測(cè)量同一測(cè)量值時(shí)，誤差的絕對(duì)值和特征：在同一條件下，多次測(cè)量同一測(cè)量值時(shí)，誤差的絕對(duì)值和 符號(hào)保持不變，或者在條件改變時(shí)，誤差按一定的規(guī)律變化。符號(hào)保持不變，或者在條件改變時(shí)，誤差按一定的規(guī)律變化。 系

15、統(tǒng)誤差不具有抵償性，它是固定的或服從一定函數(shù)規(guī)律的誤差。系統(tǒng)誤差不具有抵償性，它是固定的或服從一定函數(shù)規(guī)律的誤差。 從廣義上講，系統(tǒng)誤差是指服從某一確定規(guī)律變化的誤差。從廣義上講，系統(tǒng)誤差是指服從某一確定規(guī)律變化的誤差。 分類：分類： 不變系統(tǒng)誤差不變系統(tǒng)誤差 變化系統(tǒng)誤差變化系統(tǒng)誤差 誤差理論與最小二乘法的運(yùn)算法則 第二節(jié)系統(tǒng)誤差第二節(jié)系統(tǒng)誤差 （一）不變系統(tǒng)誤差（一）不變系統(tǒng)誤差 二、系統(tǒng)誤差的分類和特征二、系統(tǒng)誤差的分類和特征 在整個(gè)測(cè)量過程中，誤差的大小和符號(hào)始終不變。在整個(gè)測(cè)量過程中，誤差的大小和符號(hào)始終不變。 如：調(diào)零誤差，量塊或其它標(biāo)準(zhǔn)件尺寸的偏差等。如：調(diào)零誤差，量塊或其它標(biāo)準(zhǔn)

16、件尺寸的偏差等。 它對(duì)每一測(cè)量值的影響均為一個(gè)常量。它對(duì)每一測(cè)量值的影響均為一個(gè)常量。 （二）變化系統(tǒng)誤差（二）變化系統(tǒng)誤差 在整個(gè)測(cè)量過程中，誤差的大小和方向隨測(cè)試的某一個(gè)在整個(gè)測(cè)量過程中，誤差的大小和方向隨測(cè)試的某一個(gè) 或某幾個(gè)因素按確定的函數(shù)規(guī)律而變化?；蚰硯讉€(gè)因素按確定的函數(shù)規(guī)律而變化。 線性變化的系統(tǒng)誤差線性變化的系統(tǒng)誤差 誤差理論與最小二乘法的運(yùn)算法則 第二節(jié)系統(tǒng)誤差第二節(jié)系統(tǒng)誤差 二、系統(tǒng)誤差的分類和特征二、系統(tǒng)誤差的分類和特征 周期變化的系統(tǒng)誤差周期變化的系統(tǒng)誤差 復(fù)雜規(guī)律變化的系統(tǒng)誤差復(fù)雜規(guī)律變化的系統(tǒng)誤差 例：微安表的指針偏轉(zhuǎn)角與偏轉(zhuǎn)力距例：微安表的指針偏轉(zhuǎn)角與偏轉(zhuǎn)力距 間

17、不嚴(yán)格保持線性關(guān)系，而表盤仍采用間不嚴(yán)格保持線性關(guān)系，而表盤仍采用 均勻刻度所產(chǎn)生的誤差。均勻刻度所產(chǎn)生的誤差。 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二乘法最小二乘法 l正規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法的運(yùn)算法則 第三節(jié)粗大誤差第三節(jié)粗大誤差 可疑數(shù)據(jù)：可疑數(shù)據(jù)： 在一系列重復(fù)測(cè)量中，與其它數(shù)據(jù)相比有明顯差異的數(shù)據(jù)。在一系列重復(fù)測(cè)量中，與其它數(shù)據(jù)相比有明顯差異的數(shù)據(jù)。 可疑數(shù)據(jù)很可能含有粗大誤差（簡(jiǎn)稱粗差）?？梢蓴?shù)

18、據(jù)很可能含有粗大誤差（簡(jiǎn)稱粗差）。 測(cè)測(cè) 量量 值值 測(cè)量測(cè)量 次數(shù)次數(shù) 真值真值 精度偏精度偏 精度偏精度偏 將大誤差當(dāng)成粗差將大誤差當(dāng)成粗差 導(dǎo)致導(dǎo)致 將粗差當(dāng)成大誤差將粗差當(dāng)成大誤差 導(dǎo)致導(dǎo)致 影響對(duì)影響對(duì) 的估計(jì)的估計(jì)x 要對(duì)數(shù)據(jù)中異常值正確判斷和處理。要對(duì)數(shù)據(jù)中異常值正確判斷和處理。 高高 低低 誤差理論與最小二乘法的運(yùn)算法則 第三節(jié)粗大誤差第三節(jié)粗大誤差 一、粗大誤差產(chǎn)生的原因一、粗大誤差產(chǎn)生的原因 產(chǎn)生粗大誤差的原因是多方面的，大致可歸納為：產(chǎn)生粗大誤差的原因是多方面的，大致可歸納為： 測(cè)量人員的主觀原因測(cè)量人員的主觀原因 客觀外界條件的原因客觀外界條件的原因 測(cè)量者工作責(zé)任感不

19、強(qiáng)、工作過于測(cè)量者工作責(zé)任感不強(qiáng)、工作過于 疲勞、缺乏經(jīng)驗(yàn)操作不當(dāng)，或在測(cè)疲勞、缺乏經(jīng)驗(yàn)操作不當(dāng)，或在測(cè) 量時(shí)不小心、不耐心、不仔細(xì)等，量時(shí)不小心、不耐心、不仔細(xì)等， 造成讀數(shù)錯(cuò)誤等。造成讀數(shù)錯(cuò)誤等。 測(cè)量條件意外地改變（如機(jī)械沖擊、測(cè)量條件意外地改變（如機(jī)械沖擊、 外界振動(dòng)、電磁干擾等）。外界振動(dòng)、電磁干擾等）。 誤差理論與最小二乘法的運(yùn)算法則 第三節(jié)粗大誤差第三節(jié)粗大誤差 二、判別粗大誤差的準(zhǔn)則二、判別粗大誤差的準(zhǔn)則 首要方法：從技術(shù)上和物理上找出產(chǎn)生異常值的原因。首要方法：從技術(shù)上和物理上找出產(chǎn)生異常值的原因。 （讀錯(cuò)記錯(cuò)數(shù)據(jù)，儀器的突然故障，或外界條件的突變等）（讀錯(cuò)記錯(cuò)數(shù)據(jù)，儀器的突

20、然故障，或外界條件的突變等） 統(tǒng)計(jì)方法：測(cè)量完成后也不能確知數(shù)據(jù)中是否含有粗大誤差。統(tǒng)計(jì)方法：測(cè)量完成后也不能確知數(shù)據(jù)中是否含有粗大誤差。 -5051015 -0.1 -0.05 0 0.05 0.1 0.15 0.2 0.25 P P 測(cè)測(cè) 量量 值值 測(cè)量測(cè)量 次數(shù)次數(shù) 真值真值 limax xt()P ttaa= 1 t 0.05a= 0.01a= 2 t 誤差理論與最小二乘法的運(yùn)算法則 第三節(jié)粗大誤差第三節(jié)粗大誤差 二、判別粗大誤差的準(zhǔn)則二、判別粗大誤差的準(zhǔn)則 統(tǒng)計(jì)法的基本思想是：統(tǒng)計(jì)法的基本思想是： 給定一個(gè)顯著性水平，按一定分布確定一個(gè)臨界值，給定一個(gè)顯著性水平，按一定分布確定一個(gè)

21、臨界值， 凡超過這個(gè)界限的誤差，就認(rèn)為它屬于粗大誤差，應(yīng)予以剔除。凡超過這個(gè)界限的誤差，就認(rèn)為它屬于粗大誤差，應(yīng)予以剔除。 粗大誤差的判定，要特別慎重，應(yīng)作充分的分析和研究。粗大誤差的判定，要特別慎重，應(yīng)作充分的分析和研究。 -5051015 -0.1 -0.05 0 0.05 0.1 0.15 0.2 0.25 P P 測(cè)測(cè) 量量 值值 測(cè)量測(cè)量 次數(shù)次數(shù) 真值真值 limax xt()P ttaa= 1 t 0.05a= 0.01a= 2 t 誤差理論與最小二乘法的運(yùn)算法則 第三節(jié)粗大誤差第三節(jié)粗大誤差 二、判別粗大誤差的準(zhǔn)則二、判別粗大誤差的準(zhǔn)則 誤差理論與最小二乘法的運(yùn)算法則 第三節(jié)粗

22、大誤差第三節(jié)粗大誤差 （一）（一） 準(zhǔn)則準(zhǔn)則3 最常用、最簡(jiǎn)單的判別準(zhǔn)則。最常用、最簡(jiǎn)單的判別準(zhǔn)則。 前提：測(cè)量次數(shù)充分大。前提：測(cè)量次數(shù)充分大。 以貝塞爾公式算得以貝塞爾公式算得 ，以，以 代替真值。對(duì)某個(gè)可疑數(shù)據(jù)代替真值。對(duì)某個(gè)可疑數(shù)據(jù) ， 若其殘差滿足：若其殘差滿足： 則可認(rèn)為該數(shù)據(jù)含有粗大誤差，應(yīng)予以剔除。則可認(rèn)為該數(shù)據(jù)含有粗大誤差，應(yīng)予以剔除。 x d x | | 3 dd vxx 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二乘法最小二乘法 l正規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回

23、歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法的運(yùn)算法則 第四節(jié)最小二乘法 一、引入一、引入 待測(cè)量（難以直接測(cè)量）：待測(cè)量（難以直接測(cè)量）： 12 , t XXX直接測(cè)量量：直接測(cè)量量：1 2 , n Y YY 11112 22212 12 (,) (,) (,) t t nnnt lYf XXX lYfXXX lYfXXX 問題：如何根據(jù)問題：如何根據(jù) 和測(cè)量方程解得待測(cè)量的估計(jì)值和測(cè)量方程解得待測(cè)量的估計(jì)值 ？ 12 , , n l ll 12 , t x xx :nt直接求得直接求得 。 12 , t x xx :nt有利于減小隨機(jī)誤差，采用最小二乘原理求有利于減小

24、隨機(jī)誤差，采用最小二乘原理求 。 12 , t x xx 討論：討論： 誤差理論與最小二乘法的運(yùn)算法則 二、最小二乘原理二、最小二乘原理 設(shè)直接測(cè)量量設(shè)直接測(cè)量量 的估計(jì)值為的估計(jì)值為 ，則有，則有: : 12 , n Y YY 12 , n y yy 1112 2212 12 ( ,) ( ,) ( ,) t t nnt yf x xx yfx xx yfx xx 由此得測(cè)量數(shù)據(jù)由此得測(cè)量數(shù)據(jù) 的殘余誤差：的殘余誤差： 12 , , n l ll 11112 22212 12 ( ,) ( ,) ( ,) t t nnnt vlf x xx vlfx xx vlfx xx 殘差方程式殘差方程

25、式 第四節(jié)最小二乘法 誤差理論與最小二乘法的運(yùn)算法則 22 (2) 1 (1,2, ) 2 ii ii i Pedin 各測(cè)量數(shù)據(jù)同時(shí)出現(xiàn)的概率為各測(cè)量數(shù)據(jù)同時(shí)出現(xiàn)的概率為 22 1 (2) 12 1 12 1 2 n ii i n in i n PPeddd 若若 不存在系統(tǒng)誤差，相互獨(dú)立并服從正態(tài)分布，標(biāo)準(zhǔn)不存在系統(tǒng)誤差，相互獨(dú)立并服從正態(tài)分布，標(biāo)準(zhǔn) 差分別為差分別為 ，則，則 出現(xiàn)在相應(yīng)真值附近出現(xiàn)在相應(yīng)真值附近 區(qū)域內(nèi)的概率為區(qū)域內(nèi)的概率為 12 , , n l ll 12 , n 12 , n ddd 12 , , n l ll 測(cè)測(cè) 量量 值值 真值真值 1 d 這這n個(gè)測(cè)量值出現(xiàn)

26、于相應(yīng)區(qū)間的個(gè)測(cè)量值出現(xiàn)于相應(yīng)區(qū)間的 概率概率P為最大。為最大。 222 12 222 12 n n 最小最小 222 12 222 12 n n vvv 最小最小 近似真值近似真值 第四節(jié)最小二乘法 誤差理論與最小二乘法的運(yùn)算法則 最小二乘原理：最小二乘原理： 2222 12 1 n ni i vvvv最小最小 最小二乘原理最小二乘原理 測(cè)量結(jié)果的最可信賴值應(yīng)使殘余誤差平方和最小。測(cè)量結(jié)果的最可信賴值應(yīng)使殘余誤差平方和最小。 第四節(jié)最小二乘法 222 12 222 12 n n vvv 最小 誤差理論與最小二乘法的運(yùn)算法則 線性參數(shù)的測(cè)量方程和相應(yīng)的估計(jì)量為：線性參數(shù)的測(cè)量方程和相應(yīng)的估計(jì)量

27、為： 11111221 22112222 1122 tt tt nnnntt Ya Xa Xa X Ya Xa Xa X Ya Xa Xa X 111 11221 221 12222 1 122 tt tt nnnntt ya xa xa x ya xa xa x ya xa xa x 殘差方程為：殘差方程為： 1111 11221 2221 12222 1 122 () () () tt tt nnnnntt vla xa xa x vla xa xa x vla xa xa x 1 2 n l l L l 令令 1 2 t x x X x 1 2 n v v V v 11121 21222

28、 12 t t nnnt aaa aaa A aaa VLAX 第四節(jié)最小二乘法 誤差理論與最小二乘法的運(yùn)算法則 最小二乘原理的矩陣形式：最小二乘原理的矩陣形式： T T V V LAXLAX 最小 （） （） 最小 最小二乘原理：最小二乘原理： 2222 12 1 n ni i vvvv 最小最小 VLAX 第四節(jié)最小二乘法 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二乘法最小二乘法 l正規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法

29、的運(yùn)算法則 第五節(jié)正規(guī)方程 正規(guī)方程：誤差方程按最小二乘法原理轉(zhuǎn)化得到的正規(guī)方程：誤差方程按最小二乘法原理轉(zhuǎn)化得到的 有確定解的代數(shù)方程組。有確定解的代數(shù)方程組。 1111 11221 2221 12222 1 122 () () () tt tt nnnnntt vla xa xa x vla xa xa x vla xa xa x 222 12n vvv最小 2 1 1 2 1 () 0 () 0 n i i n i i t v x v x 誤差理論與最小二乘法的運(yùn)算法則 正規(guī)方程：正規(guī)方程： 111 11221 1111 221 12222 1111 1 122 1111 nnnn ii

30、iiiiiitt iiii nnnn iiiiiiiitt iiii nnnn it iitiitiititt iiii a la a xa a xa a x a la a xa a xa a x a la a xa a xa a x 特點(diǎn)：特點(diǎn)： 主對(duì)角線分布著平方項(xiàng)系數(shù)，正數(shù)；主對(duì)角線分布著平方項(xiàng)系數(shù)，正數(shù)； 相對(duì)于主對(duì)角線對(duì)稱分布的各系數(shù)兩兩相等。相對(duì)于主對(duì)角線對(duì)稱分布的各系數(shù)兩兩相等。 第五節(jié)正規(guī)方程 誤差理論與最小二乘法的運(yùn)算法則 則正規(guī)方程可寫成則正規(guī)方程可寫成 11 121 21 12 12222 1122 0 0 0 nn nn ttntn a va va v a va va

31、v a va va v 0 T A V 正規(guī)方程的矩陣形式正規(guī)方程的矩陣形式 將代入到中，得將代入到中，得 VLAX0 T A V 0 TT A LA AX TT A AXA L T CXA L 1 T XC A L （待測(cè)量的估計(jì)）（待測(cè)量的估計(jì)） T CA A 第五節(jié)正規(guī)方程 誤差理論與最小二乘法的運(yùn)算法則 解：解： 1 1）列出誤差方程）列出誤差方程 00 () iii vlyy t 令令 為兩個(gè)待估參量，則誤差方程為為兩個(gè)待估參量，則誤差方程為 00 ,ycyd () iii vlct d 2000.361 10 2000.721 20 2000.801 25 2001.071 30

32、2001.481 40 2001.601 45 c LXA d 1 1.130.034 0.034 0.0012 C 1 1999.97 0.03654 T c XC A L d T CA A 2001.602001.602001.482001.482001.072001.072000.82000.82000.722000.722000.362000.36 454540403030252520201010 0 / i tC / i lmm 例例: : 已知銅棒的長(zhǎng)度和溫度之間具有線性關(guān)系：已知銅棒的長(zhǎng)度和溫度之間具有線性關(guān)系： 為獲得為獲得時(shí)銅棒的長(zhǎng)度時(shí)銅棒的長(zhǎng)度 和銅的線膨脹系數(shù)，和銅的線膨

33、脹系數(shù)， 現(xiàn)測(cè)得不同溫度下銅棒的長(zhǎng)度，求現(xiàn)測(cè)得不同溫度下銅棒的長(zhǎng)度，求 ，的最可信賴值。，的最可信賴值。 0(1 ) t yyt 0 y 0 y 0 0 0 1999.97 /0.0000183/ ycmm dyC 因此：因此： 第五節(jié)正規(guī)方程 誤差理論與最小二乘法的運(yùn)算法則 組合測(cè)量：直接測(cè)量待測(cè)參數(shù)的組合量組合測(cè)量：直接測(cè)量待測(cè)參數(shù)的組合量, , 然后對(duì)這些測(cè)量數(shù)據(jù)進(jìn)行處理，從而求得待測(cè)參數(shù)的估計(jì)量。然后對(duì)這些測(cè)量數(shù)據(jù)進(jìn)行處理，從而求得待測(cè)參數(shù)的估計(jì)量。 以檢定三段刻線間距為例，要求檢定刻線以檢定三段刻線間距為例，要求檢定刻線A AD D間的距離間的距離 。 123 ,x xx A AB

34、BC CD D 1 x 3 x 2 x A AB BC CD D 1 l 3 l 2 l 4 l 6 l 5 l 測(cè)量數(shù)據(jù)的估計(jì)測(cè)量數(shù)據(jù)的估計(jì)待測(cè)參數(shù)的估計(jì)待測(cè)參數(shù)的估計(jì) 第五節(jié)正規(guī)方程 誤差理論與最小二乘法的運(yùn)算法則 直接測(cè)量各組合量，得直接測(cè)量各組合量，得 123 456 1.0150.9851.020 2.0161.9813.032 lmm lmm lmm lmm lmm lmm 首先列出誤差方程首先列出誤差方程 111 222 333 4412 5523 66123 () () () vlx vlx vlx vlxx vlxx vlxxx 1 0 0 0 1 0 0 0 1 1 1 0

35、 0 1 1 1 1 1 A 1 2 3 4 5 6 1.015 0.985 1.020 2.016 1.918 3.032 l l l L l l l 1 2 3 x Xx x 第五節(jié)正規(guī)方程 誤差理論與最小二乘法的運(yùn)算法則 1 2 3 1.028 0.983 1.013 x Xx x 求得估計(jì)量為求得估計(jì)量為 則則1 11 2 3 () TTT x XxC A LA AA L x 式中，式中， 11 21 0 1 ()1 21 4 01 2 T CA A 第五節(jié)正規(guī)方程 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二乘法最小二乘法 l正

36、規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法的運(yùn)算法則 第六節(jié)回歸分析的基本概念 函數(shù)與相關(guān)函數(shù)與相關(guān) 函數(shù)關(guān)系：可以用明確的函數(shù)關(guān)系式精確地表示出來。函數(shù)關(guān)系：可以用明確的函數(shù)關(guān)系式精確地表示出來。 GKP 例例 電費(fèi)與用電量：電費(fèi)與用電量： 電費(fèi)電費(fèi)= =用電量用電量 每度電單價(jià)每度電單價(jià) 相關(guān)關(guān)系：某些變量之間既存在著密切的關(guān)系，又不相關(guān)關(guān)系：某些變量之間既存在著密切的關(guān)系，又不 能由一個(gè)（或幾個(gè)）自變量的數(shù)值精確地能由一個(gè)（或幾個(gè)）自變量的數(shù)值精確地 求出因變量的數(shù)值，而是要通過試

37、驗(yàn)和調(diào)求出因變量的數(shù)值，而是要通過試驗(yàn)和調(diào) 查研究，才能確定它們之間的關(guān)系。查研究，才能確定它們之間的關(guān)系。 例例 家庭收入與恩格爾系數(shù)：家庭收入與恩格爾系數(shù)： 家庭收入高，則恩格爾系數(shù)低。家庭收入高，則恩格爾系數(shù)低。 誤差理論與最小二乘法的運(yùn)算法則 體 重 90807060504030 身高 180 170 160 150 X Y 線性正相關(guān)線性正相關(guān) 誤差理論與最小二乘法的運(yùn)算法則 自變量自變量(independent variable)：解釋變量，給定：解釋變量，給定 的或可以控制的、用來解釋、預(yù)測(cè)因變量的變量。的或可以控制的、用來解釋、預(yù)測(cè)因變量的變量。 因變量因變量(dependen

38、t variable)：響應(yīng)變量，由自變：響應(yīng)變量，由自變 量來解釋其變化的變量。量來解釋其變化的變量。 X Y X Y 第六節(jié)回歸分析的基本概念 誤差理論與最小二乘法的運(yùn)算法則 回歸分回歸分 析分類析分類 按自變量按自變量 個(gè)數(shù)分類個(gè)數(shù)分類 一元回歸一元回歸 簡(jiǎn)單回歸簡(jiǎn)單回歸 多元回歸多元回歸 復(fù)回歸復(fù)回歸 按方程式按方程式 特征分類特征分類 線性回歸線性回歸 非線性回歸非線性回歸 一一 元元 線線 性性 回回 歸歸 Simple Linear regression 第六節(jié)回歸分析的基本概念 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二

39、乘法最小二乘法 l正規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法的運(yùn)算法則 一、參數(shù)估計(jì)：一、參數(shù)估計(jì)： 確定兩個(gè)變量之間的線性關(guān)系，即直線擬合問題。確定兩個(gè)變量之間的線性關(guān)系，即直線擬合問題。 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 最小二乘法最小二乘法(Least squares method): 以極小化以極小化 為目標(biāo)的求估計(jì)為目標(biāo)的求估計(jì) 方程的過程。方程的過程。 2 ()yy y a bx y a bx 殘差殘差(Residual):e

40、第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 從散點(diǎn)圖可以看出：體重與身高大致成線性關(guān)系。從散點(diǎn)圖可以看出：體重與身高大致成線性關(guān)系。 設(shè)測(cè)量數(shù)據(jù)有如下結(jié)構(gòu)形式：設(shè)測(cè)量數(shù)據(jù)有如下結(jié)構(gòu)形式： 0 ,1,2, ttt yxtN 式中，式中， 分別表示其它隨機(jī)因素對(duì)身高和體重分別表示其它隨機(jī)因素對(duì)身高和體重 影響的總和。影響的總和。 12 , N 12 , N y yy 思路：要求思路：要求y y與與x x的關(guān)系，即根據(jù)測(cè)量數(shù)據(jù)要求出的關(guān)系，即根據(jù)測(cè)量數(shù)據(jù)要求出 的估計(jì)值。根據(jù)測(cè)量數(shù)據(jù)，可得到的估計(jì)值。根據(jù)測(cè)量數(shù)據(jù)，可得到1010個(gè)測(cè)量方個(gè)測(cè)量方 程，結(jié)合前面所學(xué)，

41、未知數(shù)有兩個(gè)，方程個(gè)數(shù)程，結(jié)合前面所學(xué)，未知數(shù)有兩個(gè)，方程個(gè)數(shù) 大于未知數(shù)的個(gè)數(shù)，適合用最小二乘法求解。大于未知數(shù)的個(gè)數(shù)，適合用最小二乘法求解。 0 和和 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 設(shè)得到的回歸方程為設(shè)得到的回歸方程為 0 y bbx 殘差方程為殘差方程為 0 ,1,2, ittt vyyybbxtN 根據(jù)最小二乘原理可求根據(jù)最小二乘原理可求得回歸系數(shù)得回歸系數(shù)b0和和b。 對(duì)照最小二乘法的矩陣形式，令對(duì)照最小二乘法的矩陣形式，令 111 2202 1 1 1 NNN yxv yxbv YXbV b yxv 第七節(jié)第七節(jié) 一元線性回歸分析一

42、元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 則誤差方程的矩陣形式為則誤差方程的矩陣形式為 YXbV 對(duì)照對(duì)照 ，有，有 VLAX 1 () TT bX XX Y 將測(cè)得值分別代入上式，可計(jì)算得將測(cè)得值分別代入上式，可計(jì)算得 111 22 11 ()() () NNN tttt ttt NN tt tt Nx yxy b Nxx 2 1111 0 22 11 ()()()() () NNNN ttttt tttt NN tt tt xyxx y bybx Nxx 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 xy xx l l = 2 1 () N txx t xxl = =-= 1 ()

43、() N ttxy t xxyyl = =-= 1 () TT XA AA L 誤差理論與最小二乘法的運(yùn)算法則 學(xué) 生 身高 x 體重 y x2y2xy 估計(jì)值 殘差 y- A B C D E F G H I J 158 160 162 164 166 168 170 172 174 176 47 50 48 55 62 60 52 61 70 65 24964 25600 26244 26896 27556 28224 28900 29584 30276 30976 2209 2500 2304 3025 3844 3600 2704 3721 4900 4225 7426 8000 777

44、6 9020 10292 10080 8840 10492 12180 11440 47.291 49.448 51.606 53.764 55.921 58.079 60.236 62.394 64.552 66.709 -0.291 0.552 -3.606 1.236 6.079 1.921 -8.236 -1.394 5.448 -1.709 1670 570 27922033032 95546-0 2 0 10 95546 1670 570 1.0788 10 279220 1670 57 1.0788 167123.1596 b b - = - =-= - 123.15961.07

45、88yx= -+ 167 123.1596 1.0788 16757 x y = = -+= 誤差理論與最小二乘法的運(yùn)算法則 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 SST(Sum of squares of total)： 總的（離差）平方和總的（離差）平方和 SSR(Sum of squares of regression): 回歸平方和回歸平方和 SSE(Sum of squares of errors): 誤差（殘差）平方和誤差（殘差）平方和 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 二、回歸估計(jì)誤差：二、回歸估計(jì)誤差： 誤差理論與最小二乘

46、法的運(yùn)算法則 y y yy yy y y 2 ()SSTyy 2 ()SSEyy 2 ( )SSRyy 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 y y yy yy y y yy y y yy SST=SSR+SSE 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 22 1 ()SSTyy n =- 邋 2 22 1 () 1 () xyxy n SSR xx n - = - 邋 邋 2 0 ()SSEybbx=- 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 0 y bbx 誤差理論與最小二乘法的運(yùn)算法則 y 誤差理論與

47、最小二乘法的運(yùn)算法則 由于樣本的相應(yīng)統(tǒng)計(jì)量（相關(guān)系數(shù)、回歸系由于樣本的相應(yīng)統(tǒng)計(jì)量（相關(guān)系數(shù)、回歸系 數(shù)等）具有隨機(jī)性，因此，我們需要對(duì)其進(jìn)行顯數(shù)等）具有隨機(jī)性，因此，我們需要對(duì)其進(jìn)行顯 著性檢驗(yàn)，以驗(yàn)證是否可以據(jù)此推斷總體的參數(shù)。著性檢驗(yàn)，以驗(yàn)證是否可以據(jù)此推斷總體的參數(shù)。 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 三、回歸方程的檢驗(yàn)三、回歸方程的檢驗(yàn)(F 檢驗(yàn)檢驗(yàn)) 誤差理論與最小二乘法的運(yùn)算法則 F檢驗(yàn)是基于檢驗(yàn)是基于F分布進(jìn)行的，是方差分析內(nèi)容之一。分布進(jìn)行的，是方差分析內(nèi)容之一。 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 問題：這條回歸直線是否符合問題：這條回歸直線是否符合

48、y 與與x之間的客之間的客 觀規(guī)律？觀規(guī)律？ u對(duì)對(duì)N個(gè)測(cè)量值與其算術(shù)平均值之差的平方和分解；個(gè)測(cè)量值與其算術(shù)平均值之差的平方和分解； u從量值上區(qū)別對(duì)個(gè)測(cè)量值的影響因素；從量值上區(qū)別對(duì)個(gè)測(cè)量值的影響因素； u用用F檢驗(yàn)法對(duì)所求回歸方程進(jìn)行顯著性檢驗(yàn)。檢驗(yàn)法對(duì)所求回歸方程進(jìn)行顯著性檢驗(yàn)。 方差分析法：方差分析法： 三、回歸方程的檢驗(yàn)三、回歸方程的檢驗(yàn)(F 檢驗(yàn)檢驗(yàn)) 誤差理論與最小二乘法的運(yùn)算法則 y y yy yy y y 2 ()SSTyy 2 ()SSEyy 2 ( )SSRyy 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 1、引起變差的原因：、引起變

49、差的原因： A、自變量、自變量x取值的不同；取值的不同； B、其它因素（包括試驗(yàn)誤差）的影響。、其它因素（包括試驗(yàn)誤差）的影響。 2、方差分析、方差分析 總的離差平方和（即總的離差平方和（即N個(gè)觀測(cè)值之間的變差）個(gè)觀測(cè)值之間的變差） 2 1 () N tyy t Syyl 1 S N 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 可以證明：可以證明：S=U+Q 其中其中 2 1 () N txy t Uyybl 1 U 回歸平方和，反映回歸平方和，反映S中由于中由于x和和y的的 線性關(guān)系引起線性關(guān)系引起 y變化的部分。變化的部分。 殘差平方和，反映其它殘差平方和，反映其它 因素對(duì)因素對(duì)y變差

50、的影響。變差的影響。 2 1 () N ttyyxy t Qyylbl2 Q N 誤差理論與最小二乘法的運(yùn)算法則 基本思路：方程是否顯著取決于基本思路：方程是否顯著取決于U和和Q的大小，的大小，U 越大，越大，Q越小，說明越小，說明y與與x的線性關(guān)系愈密切。的線性關(guān)系愈密切。 計(jì)算統(tǒng)計(jì)量計(jì)算統(tǒng)計(jì)量F / / U Q U F Q 對(duì)一元線性回歸，應(yīng)為對(duì)一元線性回歸，應(yīng)為 /1 /(2) U F QN 查查F分布表，根據(jù)給定的顯著性水平分布表，根據(jù)給定的顯著性水平 和已知的和已知的 自由度自由度1和和N-2進(jìn)行檢驗(yàn)：進(jìn)行檢驗(yàn)： S=U+Q 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 3、F檢驗(yàn)

51、檢驗(yàn) 誤差理論與最小二乘法的運(yùn)算法則 若若 回歸在回歸在0.01的水平上高度顯著。的水平上高度顯著。 0.01(1, 2),FFN 0.050.01 (1,2)(1,2),FNFFN回歸在回歸在0.05的水平上顯著。的水平上顯著。 0.100.05 (1,2)(1,2),FNFFN回歸在回歸在0.1的水平上顯著。的水平上顯著。 0.10(1, 2),FFN回歸不顯著。回歸不顯著。 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 誤差理論與最小二乘法的運(yùn)算法則 殘余方差：排除了殘余方差：排除了x 對(duì)對(duì)y的線性影響后，衡量的線性影響后，衡量y 隨機(jī)波動(dòng)的特征量。隨機(jī)波動(dòng)的特征量。 2 2 Q N

52、殘余標(biāo)準(zhǔn)差：殘余標(biāo)準(zhǔn)差： 2 Q N 越小，回歸直線的精度越高。越小，回歸直線的精度越高。 第七節(jié)第七節(jié) 一元線性回歸分析一元線性回歸分析 4、殘余方差與殘余標(biāo)準(zhǔn)差、殘余方差與殘余標(biāo)準(zhǔn)差 N-1總計(jì) 1 N-2 回歸 殘余 顯著性 F方差自由度平方和來源 xy Ubl yyxy Qlbl yy Sl /1 /(2) U F QN (1,2)FN 5、方差分析表、方差分析表 誤差理論與最小二乘法的運(yùn)算法則 l隨機(jī)誤差隨機(jī)誤差 l系統(tǒng)誤差系統(tǒng)誤差 l粗大誤差粗大誤差 l最小二乘法最小二乘法 l正規(guī)方程正規(guī)方程 l回歸分析的基本概念回歸分析的基本概念 l一元線性回歸分析一元線性回歸分析 l多元線性回歸多元線性回歸 內(nèi)容內(nèi)容 誤差理論與最小二乘法的運(yùn)算法則 上節(jié)討論的只是兩個(gè)