數(shù)據的誤差分析與信號的預處理

1、2022-3-18大連理工大學12022-3-18大連理工大學1Part III數(shù)據誤差分析與處理數(shù)據誤差分析與處理大連理工大學碩士研究生校管課程大連理工大學碩士研究生校管課程信號處理與數(shù)據分析信號處理與數(shù)據分析電子信息與電氣工程學部電子信息與電氣工程學部邱天爽邱天爽2015年年11月月2022-3-18大連理工大學2第第8章章數(shù)據的誤差分析與信號的預處理數(shù)據的誤差分析與信號的預處理大連理工大學碩士研究生校管課程大連理工大學碩士研究生校管課程信號處理與數(shù)據分析信號處理與數(shù)據分析電子信息與電氣工程學部電子信息與電氣工程學部邱天爽邱天爽2015年年11月月大連理工大學22022-3-18 內容概要

2、內容概要 8 8.1 .1 引言引言 8 8.2 .2 誤差的基本概念與理論誤差的基本概念與理論 8.3 8.3 測量測量不確定度的評定與估計不確定度的評定與估計 8.4 8.4 數(shù)據處理數(shù)據處理的最小二乘方法的最小二乘方法 8.5 8.5 回歸分析回歸分析 8.6 8.6 信號信號中趨勢項和野點的中趨勢項和野點的去除去除 8.7 8.7 溫度溫度測量與數(shù)據處理應用實例測量與數(shù)據處理應用實例大連理工大學32022-3-188.1 引言引言大連理工大學42022-3-18大連理工大學5 信號處理與測試測量密切相關。信號處理與測試測量密切相關。 測量和測試不可回避的問題是誤差問題測量和測試不可回避

3、的問題是誤差問題。 誤差的大致分類：隨機誤差；系統(tǒng)誤差誤差的大致分類：隨機誤差；系統(tǒng)誤差 了解誤差了解誤差的產生原因和特性的產生原因和特性，對，對誤差進行一定誤差進行一定的補償與處理的補償與處理，從而，從而改善測量精度改善測量精度。 這些這些誤差消除的方法，與信號處理中的信號預誤差消除的方法，與信號處理中的信號預處理方法是相似的處理方法是相似的。 此外此外，測量數(shù)據的最小二乘處理方法與回歸分，測量數(shù)據的最小二乘處理方法與回歸分析，是數(shù)據分析處理的基本手段和重要析，是數(shù)據分析處理的基本手段和重要內容。內容。2022-3-188.2 誤差誤差的基本概念與理論的基本概念與理論大連理工大學62022-

4、3-18大連理工大學7 誤差的概念：誤差的概念：測量誤差（這里簡稱為測量誤差（這里簡稱為“誤差誤差”）是指對一個）是指對一個量進行測量或測試后，所得量進行測量或測試后，所得到到測量、測試結果測量、測試結果與被測量之間的差異與被測量之間的差異?？梢苑譃榻^對誤差、相可以分為絕對誤差、相對誤差和引用誤差等。對誤差和引用誤差等。8.2.1 8.2.1 誤差誤差的基本概念的基本概念2022-3-18大連理工大學8 （1 1）絕對誤差）絕對誤差絕對誤差絕對誤差 定義定義為測量為測量值值 與其與其真值真值 之差，之差，即：即：絕對誤差絕對誤差并不是誤差的絕對值，其值可以為正，也并不是誤差的絕對值，其值可以為

5、正，也可以為負可以為負。絕對誤差表示測量值偏離其真值的程度絕對誤差表示測量值偏離其真值的程度。絕對誤差絕對誤差的單位與被測量相同的單位與被測量相同。由于真值不易得到，絕對誤差由于真值不易得到，絕對誤差轉化為轉化為殘余誤差殘余誤差（簡（簡稱稱為為“殘差殘差”），），即即為為 多次測量的平均值。多次測量的平均值。2022-3-1800 v大連理工大學9 （2 2）相對誤差）相對誤差相對誤差相對誤差 定義定義為絕對誤差與被測量真值之為絕對誤差與被測量真值之比：比： （4 4）引用誤差）引用誤差引用誤差引用誤差定義定義為測量儀器的誤差與儀器特定值之為測量儀器的誤差與儀器特定值之比：比：式式中中，D D

6、表示表示測量儀器的誤差測量儀器的誤差，B B表示表示測量儀器的特測量儀器的特定值，又稱為引用值，通常為測量儀器的量程。定值，又稱為引用值，通常為測量儀器的量程。2022-3-180100%100%aDYB大連理工大學10 （1 1）隨機誤差的基本）隨機誤差的基本概念概念是是指在相同條件下，多次測量同一被測量時，指在相同條件下，多次測量同一被測量時，測量結測量結果的大小和符號以不可預知的方式變化的誤差果的大小和符號以不可預知的方式變化的誤差，又稱為，又稱為“偶然誤差偶然誤差”或或“不定誤差不定誤差”。隨機誤差隨機誤差在一定程度上服從某種統(tǒng)計規(guī)律。可以運用在一定程度上服從某種統(tǒng)計規(guī)律?？梢赃\用概率

7、統(tǒng)計的方法對隨機誤差的總體趨勢和分布進行估計概率統(tǒng)計的方法對隨機誤差的總體趨勢和分布進行估計，并采取相應的措施減小其影響。，并采取相應的措施減小其影響。8.2.2 8.2.2 隨機誤差隨機誤差2022-3-18大連理工大學11 產生的原因產生的原因第一，由于測量儀器結構上不完善或零部件制造不第一，由于測量儀器結構上不完善或零部件制造不精密而產生精密而產生；第二第二，測量過程中環(huán)境因素變化或干擾影響所引入，測量過程中環(huán)境因素變化或干擾影響所引入；第三第三，測量人員主觀因素的影響。，測量人員主觀因素的影響。2022-3-18大連理工大學12 （2 2）算數(shù)平均值的概念與應用）算數(shù)平均值的概念與應用

8、定義：定義：當測量次數(shù)趨于無窮時，某次測量的絕對誤差可以當測量次數(shù)趨于無窮時，某次測量的絕對誤差可以寫寫為為 為為測量結果的測量結果的數(shù)學期望；數(shù)學期望； 為為測量結果與期望值的偏離值，稱為測量結果與期望值的偏離值，稱為隨機隨機誤差誤差； 為為期望值與真值的偏差期望值與真值的偏差，稱為，稱為系統(tǒng)誤差系統(tǒng)誤差。2022-3-1811NiiN00( )( )iiiiiEE iE( )iiE0( )iE大連理工大學13 （3 3）測量的標準差）測量的標準差標準差是標準差是測量數(shù)據平均值分散程度的一種測量數(shù)據平均值分散程度的一種度量：度量：通常通常用用殘差殘差 來替代絕對誤差來替代絕對誤差 ，有：，有

9、：算數(shù)平均值的標準差：算數(shù)平均值的標準差：2022-3-1821NiiNivi211NiivNNiiv大連理工大學14 （1 1）系統(tǒng)誤差的概念）系統(tǒng)誤差的概念系統(tǒng)誤差（系統(tǒng)誤差（system errorsystem error）又稱為規(guī)律誤差，是指在又稱為規(guī)律誤差，是指在一定的測量條件下，對同一個被測量進行多次重復測量一定的測量條件下，對同一個被測量進行多次重復測量時，誤差值的大小和符號（正值或負值）均保持不變的時，誤差值的大小和符號（正值或負值）均保持不變的誤差；或者在條件變化時，按一定規(guī)律變化的誤差。誤差；或者在條件變化時，按一定規(guī)律變化的誤差。系統(tǒng)誤差可以通過實驗或分析的方法確定其變化

10、規(guī)律系統(tǒng)誤差可以通過實驗或分析的方法確定其變化規(guī)律及誤差的產生原因，及誤差的產生原因，并在并在測量的結果中給予修正。也測量的結果中給予修正。也可可以通過以通過改善測量條件或測量方法，使之減小或消除改善測量條件或測量方法，使之減小或消除。系統(tǒng)誤差系統(tǒng)誤差不能依靠增加測量次數(shù)來減小或消除。不能依靠增加測量次數(shù)來減小或消除。8.2.3 8.2.3 系統(tǒng)誤差系統(tǒng)誤差2022-3-180( )iE大連理工大學15 （2 2）系統(tǒng)誤差的）系統(tǒng)誤差的來源來源 測量測量儀器引入的誤差儀器引入的誤差。 儀器儀器調整引入的誤差調整引入的誤差。 測量測量者習慣引入的誤差者習慣引入的誤差。 測量測量條件所引入的誤差。

11、是指由溫度、氣壓、氣條件所引入的誤差。是指由溫度、氣壓、氣流、振動等條件在測量過程中發(fā)生變化所引入的誤流、振動等條件在測量過程中發(fā)生變化所引入的誤差。差。 測量方法測量方法所引入的誤差。是指由于采用不適當?shù)乃氲恼`差。是指由于采用不適當?shù)臏y量方法或數(shù)據處理方法所引入的誤差。測量方法或數(shù)據處理方法所引入的誤差。2022-3-18大連理工大學16 （3 3）發(fā)現(xiàn)、減小和消除系統(tǒng)誤差的）發(fā)現(xiàn)、減小和消除系統(tǒng)誤差的方法方法實驗對比法實驗對比法： 用于用于發(fā)現(xiàn)固定系統(tǒng)誤差，其基本思路是改變系統(tǒng)發(fā)現(xiàn)固定系統(tǒng)誤差，其基本思路是改變系統(tǒng)誤差的產生條件，進行不同條件的測量。誤差的產生條件，進行不同條件的測量。

12、理論理論分析法分析法： 主要主要用于對測量進行定性的分析判斷，以確定是用于對測量進行定性的分析判斷，以確定是否存在否存在系統(tǒng)誤差。系統(tǒng)誤差。數(shù)據分析法數(shù)據分析法： 主要主要用于對測量進行用于對測量進行定量分析。定量分析。2022-3-18大連理工大學17 粗大誤差的概念粗大誤差的概念粗大誤差（粗大誤差（gross errorgross error）是指明顯超出規(guī)定條件預期）是指明顯超出規(guī)定條件預期的誤差，常簡稱為的誤差，常簡稱為“粗差粗差”。引起引起粗大誤差的原因主要包括錯誤讀取示值，使用有粗大誤差的原因主要包括錯誤讀取示值，使用有缺陷的測量器具，測量儀器受到外界振動或電磁干擾而缺陷的測量器具

13、，測量儀器受到外界振動或電磁干擾而發(fā)生指示突變等發(fā)生指示突變等。粗大粗大誤差必須從測量結果中剔除，否則會導致錯誤的誤差必須從測量結果中剔除，否則會導致錯誤的結論結論。8.2.4 8.2.4 粗大誤差粗大誤差2022-3-18大連理工大學18 （1 1）粗大誤差的判定）粗大誤差的判定準則準則1 1： 準則準則式中，式中， 為為可疑數(shù)據，可疑數(shù)據， 為為測量數(shù)據的平均值，測量數(shù)據的平均值， 為該數(shù)據的殘差為該數(shù)據的殘差， 為測量數(shù)據殘差的標準差為測量數(shù)據殘差的標準差。若。若上式滿足，則刪除該數(shù)據。上式滿足，則刪除該數(shù)據。2 2：羅曼諾夫斯基準：羅曼諾夫斯基準則（又稱為則（又稱為t t分布分布檢驗檢

14、驗準則）準則）先剔除一個可疑的測量值，再先剔除一個可疑的測量值，再按照按照t t分布分布來檢驗被剔來檢驗被剔除的測量值是否含有粗大誤差。除的測量值是否含有粗大誤差。2022-3-183| | 3ddvddv大連理工大學19 （2 2）粗大誤差粗大誤差的消除方法的消除方法粗大誤差的消除方法主要有兩條準則粗大誤差的消除方法主要有兩條準則： 第一第一，要適當選擇粗大誤差的判別準則，要適當選擇粗大誤差的判別準則； 第二第二，在存在多個粗大誤差的情況下，應采用逐，在存在多個粗大誤差的情況下，應采用逐步剔除的方法，通常先剔除含有最大粗大誤差的步剔除的方法，通常先剔除含有最大粗大誤差的數(shù)據，再依次進行判別和

15、剔除。數(shù)據，再依次進行判別和剔除。2022-3-18大連理工大學20 （1 1）隨機誤差的合成）隨機誤差的合成隨機誤差合成的隨機誤差合成的標準差：標準差：若各測量誤差互不若各測量誤差互不相關，則相關，則誤差傳播系數(shù)誤差傳播系數(shù)均為均為1 1，則，則8.2.5 8.2.5 誤差誤差的的合成合成（自行閱讀）（自行閱讀）2022-3-18211()2qqiiijijijiijaa a 21()qiiia21qii大連理工大學21 （2 2）系統(tǒng)誤差的）系統(tǒng)誤差的合成合成已定系統(tǒng)誤差的已定系統(tǒng)誤差的合成：合成： 已定系統(tǒng)誤差（已定系統(tǒng)誤差（fixed system errorfixed system

16、error）是指誤差）是指誤差的大小和符號均已確切掌握了的系統(tǒng)誤差的大小和符號均已確切掌握了的系統(tǒng)誤差。未定系統(tǒng)誤差的未定系統(tǒng)誤差的合成合成 僅知道其極限范圍而未知其準確數(shù)值的系統(tǒng)誤差僅知道其極限范圍而未知其準確數(shù)值的系統(tǒng)誤差稱為未定稱為未定系統(tǒng)誤差。系統(tǒng)誤差。2022-3-1811221NNNiiiyaaaa 2211qrijijsR大連理工大學22 誤差的分配是誤差合成的相反過程，即在給定測量結果允誤差的分配是誤差合成的相反過程，即在給定測量結果允許的總誤差的條件下，如何合理確定各單項誤差的問題，許的總誤差的條件下，如何合理確定各單項誤差的問題，就是誤差的分配問題就是誤差的分配問題。 誤差

17、分配的一般原則誤差分配的一般原則： 式中，式中， 表示表示總誤差，總誤差， 表示表示各單各單項誤差。項誤差。8.2.6 8.2.6 誤差的分配誤差的分配（自行閱讀）（自行閱讀）2022-3-1812222Nyyyyy,1,2,iyiiaiN8.3 測量測量不確定度的評定與不確定度的評定與估計估計（自行閱讀）（自行閱讀）大連理工大學232022-3-18大連理工大學24 （1 1）定義）定義測量不確定度測量不確定度（uncertainty of measurementuncertainty of measurement）是基）是基于誤差理論所建立的概念，可以理解為對測量結果的可于誤差理論所建立的

18、概念，可以理解為對測量結果的可信性、有效性的懷疑程度或不肯定程度信性、有效性的懷疑程度或不肯定程度。測量測量不確定度是與測量結果相關聯(lián)的參數(shù)，用于表征不確定度是與測量結果相關聯(lián)的參數(shù)，用于表征合理賦予被測量值的分散性。這里的合理賦予被測量值的分散性。這里的“合理合理”是指在隨是指在隨機狀態(tài)的機狀態(tài)的測量。測量。8.3.1 8.3.1 測量測量不確定度的基本概念不確定度的基本概念2022-3-18大連理工大學25 （2 2）測量不確定度與誤差的同）測量不確定度與誤差的同異異相同點：相同點：誤差誤差與不確定度二者都是由測量的系統(tǒng)效應和與不確定度二者都是由測量的系統(tǒng)效應和隨機效應所引起的隨機效應所引

19、起的。這些效應使得。這些效應使得被測量的被測量的真值無法確真值無法確知知，每個測量結果也就都具有一定的不可靠性，導致產，每個測量結果也就都具有一定的不可靠性，導致產生誤差和不確定度。生誤差和不確定度。不同點：不同點： 誤差誤差是相對于真值而言，是相對于真值而言，是測量值是測量值與真值與真值之差。之差。由于真值由于真值可能不可知，可能不可知，故誤差也不可能得到準確值故誤差也不可能得到準確值。 不確定度不確定度是是表示由于系統(tǒng)效應和隨機效應的存在而對測量表示由于系統(tǒng)效應和隨機效應的存在而對測量結果不能肯定的程度結果不能肯定的程度，表征，表征了被測量值可能出現(xiàn)的范圍了被測量值可能出現(xiàn)的范圍。 誤差誤

20、差和不確定度的取值不同。誤差是一個差值，其符號或和不確定度的取值不同。誤差是一個差值，其符號或正或負；測量不確定度是一個區(qū)間，其值恒為正值。正或負；測量不確定度是一個區(qū)間，其值恒為正值。2022-3-18大連理工大學26 （1 1）標準不確定度的）標準不確定度的A A類類評定評定標準不確定度的標準不確定度的A A類類評定采用評定采用統(tǒng)計分析的方法統(tǒng)計分析的方法進行進行評定。評定。其中，其中， 為標準不確定度，為標準不確定度， 為平均實驗標準差，為平均實驗標準差， 為樣為樣本標準差。本標準差。N N為測量次數(shù)。一般認為為測量次數(shù)。一般認為N5N5才才比較可靠。比較可靠。 （2 2）標準）標準不確

21、定度的不確定度的B B類類評定評定8.3.2 8.3.2 標準標準不確定度的評定不確定度的評定2022-3-18()( )( )isusN( )u( )s( )is大連理工大學27 合成合成若不確定度若不確定度相互相互獨立：獨立：若各分量的若各分量的影響是直接影響是直接的：的：8.3.3 8.3.3 測量不確定度的測量不確定度的合成合成2022-3-1822c11( )()2iijNNxijxxiijiijfffuyuu uxxx 22c1( )()iNxiifuyux 2c1( )()iNxiuyu其中，其中， 為直接測量值的標準不確定度，為直接測量值的標準不確定度， 為第為第i個個測量值與

22、第測量值與第j個個測量值之間的相關系數(shù)。測量值之間的相關系數(shù)。ixuij8.4 數(shù)據處理數(shù)據處理的最小二的最小二乘方乘方 法法（自行閱讀（自行閱讀）大連理工大學282022-3-18大連理工大學29 最小二乘的概念最小二乘的概念最小二乘法（最小二乘法（least square methodleast square method，又稱最小平方法），又稱最小平方法）是一種數(shù)學優(yōu)化是一種數(shù)學優(yōu)化方法；方法；它它通過最小化誤差的平方和來尋找數(shù)據的最佳函數(shù)通過最小化誤差的平方和來尋找數(shù)據的最佳函數(shù)匹配；匹配；是是一種在科學技術中得到廣泛關注與應用的數(shù)據處理方一種在科學技術中得到廣泛關注與應用的數(shù)據處理方

23、法法。利用利用最小二乘法可以簡便地求得未知的數(shù)據，并使得這最小二乘法可以簡便地求得未知的數(shù)據，并使得這些求得的數(shù)據與實際數(shù)據之間誤差的平方和為最小些求得的數(shù)據與實際數(shù)據之間誤差的平方和為最小。最小二乘法最小二乘法還可用于曲線擬合，其他一些優(yōu)化問題也可還可用于曲線擬合，其他一些優(yōu)化問題也可通過誤差能量最小化或熵的最大化而用最小二乘法來表通過誤差能量最小化或熵的最大化而用最小二乘法來表達。達。2022-3-18大連理工大學30 （1 1）問題描述）問題描述為了為了確定確定t t個個不可直接測量的未知量不可直接測量的未知量 的的估估計計 ，可可對對t t個個未知量有函數(shù)關系的直接測量未知量有函數(shù)關系

24、的直接測量量量 進行進行N N次次測量，得測量數(shù)據測量，得測量數(shù)據 ，并并設設：在在實際中，實際中，常常取取 ，為超定方程組，解，為超定方程組，解不唯一。如不唯一。如何由測量數(shù)據何由測量數(shù)據求最求最可可信賴解是信賴解是最小二乘法要解決的最小二乘法要解決的問題問題。8.4.1 8.4.1 最小二乘法基本原理最小二乘法基本原理（自行閱讀）（自行閱讀）2022-3-1812,tXXX12,txxxY12,Nlll1112221212(,)(,) (,)ttNNtYfXXXYfXXXYfXXXNt大連理工大學31 （2 2）最小二乘法）最小二乘法基本原理基本原理設直接測量量設直接測量量 的的估計量為估

25、計量為 ，有，有設測量數(shù)據的殘差：設測量數(shù)據的殘差：或稱為殘差方程：或稱為殘差方程：若測量無偏且誤差獨立、正態(tài)分布，標準差：若測量無偏且誤差獨立、正態(tài)分布，標準差：則各則各測量值出現(xiàn)在其真值附近的概率分別為測量值出現(xiàn)在其真值附近的概率分別為2022-3-1812,NYYY12,Nyyy1112221212(,)(,) (,)ttNNtyf xxxyfxxxyfxxx,1,2,iiivlyiN12(,),1,2,iiitvlf xxxiN12,N2221ed,1,2,2iiiiiPiN大連理工大學32由概率乘法性質，各測量數(shù)據同時出現(xiàn)在相應由概率乘法性質，各測量數(shù)據同時出現(xiàn)在相應區(qū)域的概區(qū)域的概

26、率為：率為：在等精度測量中，在等精度測量中，有有 ，由此由此分析上式可知分析上式可知，測量結果的測量結果的最可信賴值應在各殘差平方和為最小時求得最可信賴值應在各殘差平方和為最小時求得，這就是最小二乘法的這就是最小二乘法的原理。原理。按照最小二乘法求出的估計值習慣上稱為最大或然值按照最小二乘法求出的估計值習慣上稱為最大或然值（the most probable valuethe most probable value），又稱為最可靠值，具有），又稱為最可靠值，具有無偏性和最可信賴性。無偏性和最可信賴性。2022-3-182212121121ed dd2NiiiNiNNiNPP 12=N22221

27、21minNNiivvvv大連理工大學33 （3 3）等精度測量的線性參數(shù)最小二乘）等精度測量的線性參數(shù)最小二乘原理原理線性參數(shù)測量方程的估計形式線性參數(shù)測量方程的估計形式為：為：其殘差方程其殘差方程為：為：寫為矩陣形式：寫為矩陣形式： 2022-3-18111 11221221 122221 122 ttttNNNNttya xa xa xya xa xa xyaxaxa x1111 112212221 122221 122()() ()ttttNNNNNttvla xa xa xvla xa xa xvlaxaxa xVLAXT12T12T12111212122212NNNttNNNtll

28、lxxxvvvaaaaaaaaaLXVA1112221212(,)(,) (,)ttNNtyf xxxyfxxxyfxxx大連理工大學34等等精度測量時，殘差平方和最小表示為：精度測量時，殘差平方和最小表示為：或寫為：或寫為：2022-3-18TminV VT() ()minLAXLAX大連理工大學35 （4 4）不等）不等精度測量的線性參數(shù)最小二乘精度測量的線性參數(shù)最小二乘原理原理最小二乘法矩陣形式最小二乘法矩陣形式式中，式中，為權矩陣為權矩陣。 為測量數(shù)據的加權為測量數(shù)據的加權系數(shù)系數(shù)， 為為單位權方差。單位權方差。 為為測量數(shù)據測量數(shù)據 的方差。的方差。2022-3-18T()()min

29、LAX LAX221122222200/00000/00000/NN22,1,2,iiiN22,1,2,iiN12,Nlll大連理工大學36 正規(guī)方程：正規(guī)方程：所謂所謂正規(guī)方程（正規(guī)方程（normal equationnormal equation，又稱為法方程）是指一組，又稱為法方程）是指一組有確定解的代數(shù)方程有確定解的代數(shù)方程。為了為了減小誤差，減小誤差，通常測量通常測量次數(shù)次數(shù)N N要要大于未知參數(shù)的大于未知參數(shù)的數(shù)目數(shù)目t t，使使得得殘差殘差方程式的方程式的個數(shù)要多于未知數(shù)的個數(shù)個數(shù)要多于未知數(shù)的個數(shù)。這樣這樣的方程的方程不能得到唯一的解不能得到唯一的解，而，而最小二乘法可以最小二

30、乘法可以將殘差方將殘差方程轉化為有確定解的代數(shù)方程，即程轉化為有確定解的代數(shù)方程，即正規(guī)方程。正規(guī)方程。線性最小二乘法處理程序：線性最小二乘法處理程序： 具體問題具體問題殘差方程殘差方程正規(guī)方程正規(guī)方程求解求解8.4.2 8.4.2 正規(guī)方程正規(guī)方程：最小二乘：最小二乘處理的基處理的基 本本方法方法2022-3-18大連理工大學37 （1 1）等精度測量線性參數(shù)最小二乘處理）等精度測量線性參數(shù)最小二乘處理殘差方程：殘差方程：用極值法令殘差平方和用極值法令殘差平方和 相對于每個估計量求偏導，相對于每個估計量求偏導，并令其為并令其為0 0，得到：，得到：正規(guī)方程：正規(guī)方程：2022-3-18111

31、1 112212221 122221 122()() ()ttttNNNNNttvla xa xa xvla xa xa xvlaxaxa x11111221111122112222111111221111 NNNNiiiiiiiittiiiiNNNNiiiiiiiittiiiiNNNNit iitiitiitittiiiia la a xa a xa a xa la a xa a xa a xa la a xa a xa a x21Niiv大連理工大學38正規(guī)方程正規(guī)方程改寫為改寫為：正規(guī)方程的矩陣形式：正規(guī)方程的矩陣形式： 0 , 0 0 , 0 又又因因 ，故正規(guī)方程可以寫為，故正規(guī)方程

32、可以寫為若令若令 ，則正規(guī)方程又可寫為則正規(guī)方程又可寫為正規(guī)方程解正規(guī)方程解的矩陣表達式的矩陣表達式：顯然：顯然： 是無偏估計是無偏估計2022-3-1811 121 2112 12222112200 0NNNNttNtNa va va va va vava va va vTA VT000VLAXTT()A A XA LTCA ATCXA L1TXC A L1T1T1T1T EEEXC A LC ALC A YC A AXXX大連理工大學39 （3 3）非線性參數(shù)）非線性參數(shù)最小二乘最小二乘處理處理（自行閱讀）（自行閱讀）一般情況，一般情況， 為非線性函數(shù)，為非線性函數(shù)，測量殘差方程測量殘差方

33、程 也是非也是非線性的。線性的。難難于于直接建立正規(guī)方程。常采用線性化方法。直接建立正規(guī)方程。常采用線性化方法。先先將非線性殘差方程組轉化為線性方程組，在按照線性將非線性殘差方程組轉化為線性方程組，在按照線性最小二乘方法進行處理。最小二乘方法進行處理。參見書稿。參見書稿。2022-3-1812( ,),1,2,iityf xxxiN12( ,),1,2,iiitvlf xxxiN大連理工大學40 （4 4）最小二乘法與算數(shù)平均值的關系）最小二乘法與算數(shù)平均值的關系按照最小二乘原理，有按照最小二乘原理，有等精度測量時，等精度測量時，可知，可知，最小二乘原理是算術平均值的廣義化，算術平均最小二乘原

34、理是算術平均值的廣義化，算術平均值是最小二乘的一個特例。值是最小二乘的一個特例。2022-3-1811Ni iiNiilx11NiixlN大連理工大學41 （1 1）直接測量數(shù)據的精度估計）直接測量數(shù)據的精度估計等等精度測量的標準差：精度測量的標準差：不等不等精度測量的精度測量的標準差：標準差：8.4.3 8.4.3 最小最小二乘二乘處理的處理的精度估計精度估計（自行閱讀）（自行閱讀）2022-3-1821NiivNt21NiiivNt大連理工大學42 （2 2）最小二乘估計量的）最小二乘估計量的精度估計精度估計對于等精度情況：對于等精度情況：對于不等精度情況：對于不等精度情況：2022-3-

35、181121112222T112()NNttNtdddddddddDA A1121112222T112()NNttNtdddddddddDA A大連理工大學43 組合測量（組合測量（combined measurementcombined measurement）是直接測量一組被測量）是直接測量一組被測量的不同組合值，從它們相互依賴的函數(shù)關系中，確定出各被的不同組合值，從它們相互依賴的函數(shù)關系中，確定出各被測量的最佳估計值測量的最佳估計值。 采用采用組合測量方法，可以有效減小測量的隨機誤差，也有助組合測量方法，可以有效減小測量的隨機誤差，也有助于系統(tǒng)誤差的隨機化和減小，因此在精密測試中得到廣泛

36、的于系統(tǒng)誤差的隨機化和減小，因此在精密測試中得到廣泛的應用應用。 詳詳見見書稿書稿（自行閱讀）（自行閱讀）8.4.4 8.4.4 組合組合測量的最小二乘法處理測量的最小二乘法處理2022-3-188.5 回歸分析回歸分析大連理工大學442022-3-18大連理工大學45 回歸分析的概念回歸分析的概念回歸分析回歸分析（regression analysisregression analysis）是確定兩種或兩種以是確定兩種或兩種以上變量間上變量間相互依賴的定量關系相互依賴的定量關系的一種統(tǒng)計分析方法，其的一種統(tǒng)計分析方法，其基本思想是應用數(shù)學方法，對大量觀測數(shù)據進行處理，基本思想是應用數(shù)學方法，

37、對大量觀測數(shù)據進行處理，從中得出比較符合事物內部規(guī)律的數(shù)學表達式。從中得出比較符合事物內部規(guī)律的數(shù)學表達式。8.5.1 8.5.1 一一元線性回歸分析元線性回歸分析2022-3-18大連理工大學46 （1 1）回歸方程的回歸方程的確定確定一元線性回歸一元線性回歸是描述兩個變量之間線性關系的最簡單模是描述兩個變量之間線性關系的最簡單模型，型，實際上就是數(shù)據的直線擬合問題實際上就是數(shù)據的直線擬合問題。本小節(jié)以導線在。本小節(jié)以導線在一定一定溫度溫度x x下下的電的電阻值阻值y y為為例，介紹一元線性回歸分析的例，介紹一元線性回歸分析的基本原理與方法基本原理與方法。舉例：舉例：2022-3-18大連理

38、工大學47表表8.18.1的數(shù)據畫出數(shù)據曲線的數(shù)據畫出數(shù)據曲線，假設假設輸入輸出輸入輸出有如下結構有如下結構形式：形式：式中，式中， 表示表示其它隨機因素對電阻值測量的其它隨機因素對電阻值測量的影響?；貧w分析是最小二乘法的一個應用影響?；貧w分析是最小二乘法的一個應用特例。特例。一一元線性回歸方程：元線性回歸方程：其中，其中， 為為 的最小二乘估計。的最小二乘估計。2022-3-180,1,2,iiiyxiN,1,2,iiN0 ybbx大連理工大學48得一元線性回歸方程：得一元線性回歸方程：殘差方程：殘差方程：矩陣矩陣形式：形式：其中：其中：若等精度，則：若等精度，則： ，解得：，解得：式中：式

39、中：2022-3-180 ybbx0,1,2,iiiiivyyybbxiNVYXb111022211,1NNNvyxbvyxbvyxVYXbT1T()bX XX Y0,xyxxlbbybxl222111112221111111111,(),11()(),()NNNNNiixxiiiiiiiiNNNNNNNxyiiiiiiyyiiiiiiiiiixxyylxxxxNNNlxxyyx yxylyyyyNN大連理工大學49 （2 2）回歸方程的方差分析與）回歸方程的方差分析與顯著性檢驗顯著性檢驗（自行閱讀）（自行閱讀）離差離差（deviatedeviate）平方和：平方和：定義：定義：回歸平方和回歸

40、平方和U U，殘差平方和殘差平方和Q Q：2022-3-1821()NiyyiSyylSQU2121()()NiiiNiiQyyUyy2121()()NiiyyxyiNixyiQyySUlblUyybl大連理工大學50 （3 3）線性回歸方程建立的分組）線性回歸方程建立的分組平均法平均法（自行閱讀）（自行閱讀）2022-3-18大連理工大學51 一元非線性回歸分析：一元非線性回歸分析：在科學研究與其他應用中，數(shù)據兩個變量之間的關系不在科學研究與其他應用中，數(shù)據兩個變量之間的關系不一定是線性的，而且更有可能是非線性的。這樣，就必一定是線性的，而且更有可能是非線性的。這樣，就必須對數(shù)據進行非線性回

41、歸分析須對數(shù)據進行非線性回歸分析。非線性回歸分析需要解決兩個基本非線性回歸分析需要解決兩個基本問題：問題： 回歸函數(shù)回歸函數(shù)的選擇的選擇問題；問題； 求解求解未知參數(shù)問題未知參數(shù)問題。詳詳見書稿見書稿 8.5.2 8.5.2 一元非線性回歸分析一元非線性回歸分析（自行閱讀（自行閱讀）2022-3-18大連理工大學52 多多元非線性回歸分析：元非線性回歸分析：多元回歸研究多元回歸研究因變量因變量y y與與多個變量之間的定量關系問題，多個變量之間的定量關系問題，其中主要研究多元線性回歸問題，而多元非線性回歸問其中主要研究多元線性回歸問題，而多元非線性回歸問題則基本上可以將其轉化為線性回歸問題。題則

42、基本上可以將其轉化為線性回歸問題。 8.5.3 8.5.3 多元線性回歸分析多元線性回歸分析（自行閱讀（自行閱讀）2022-3-18大連理工大學53 （1 1）多元線性回歸方程）多元線性回歸方程2022-3-18大連理工大學542022-3-18大連理工大學55 （2 2）多元線性回歸多元線性回歸方程的求解方程的求解2022-3-18大連理工大學562022-3-18大連理工大學57 （3 3）多元線性回歸方程及其系數(shù)的顯著性檢驗）多元線性回歸方程及其系數(shù)的顯著性檢驗2022-3-188.6 信號信號中趨勢項和野點的中趨勢項和野點的去除去除大連理工大學582022-3-18大連理工大學59 （

43、1 1）信號趨勢項的）信號趨勢項的含義含義所謂信號的所謂信號的趨勢項（趨勢項（trendtrend）一般指信號的非零或非常數(shù)一般指信號的非零或非常數(shù)均值所表示的函數(shù)均值所表示的函數(shù)。這種這種趨勢項函數(shù)可能是隨時間穩(wěn)定增長或穩(wěn)定衰減的線趨勢項函數(shù)可能是隨時間穩(wěn)定增長或穩(wěn)定衰減的線性函數(shù)、冪函數(shù)、指數(shù)函數(shù)，也可能是具有周期特性的性函數(shù)、冪函數(shù)、指數(shù)函數(shù)，也可能是具有周期特性的正弦、余弦函數(shù)等，還可能是多種函數(shù)的組合正弦、余弦函數(shù)等，還可能是多種函數(shù)的組合。產生的原因：產生的原因：測量電極接觸測量電極接觸不好；測量系統(tǒng)不好；測量系統(tǒng)直流放大器直流放大器隨溫度變化產生的隨溫度變化產生的零點漂移；傳感器

44、零點漂移；傳感器頻率范圍外低頻性頻率范圍外低頻性能的不穩(wěn)定以及傳感器周圍的環(huán)境干擾能的不穩(wěn)定以及傳感器周圍的環(huán)境干擾等。等。8.6.1 8.6.1 信號趨勢項的信號趨勢項的去除去除2022-3-18大連理工大學60 （2 2）信號趨勢項的去除）信號趨勢項的去除方法：方法： 自自回歸求和滑動平均（回歸求和滑動平均（ARIMAARIMA）模型）模型法；法； 季節(jié)性模型法；季節(jié)性模型法； 經驗經驗模式分解（模式分解（EMDEMD）方法；方法； 簡單方法，稱為簡單方法，稱為修正函數(shù)法。修正函數(shù)法。2022-3-18大連理工大學61 【例例8.28.2】2022-3-18大連理工大學62 信號野點的含義

45、信號野點的含義所謂信號中的所謂信號中的“野點野點”（outlieroutlier），一般是指信號中遠），一般是指信號中遠離其他數(shù)據樣本值的離其他數(shù)據樣本值的異常值。異常值。對于對于測試數(shù)據來說，就是帶有較大誤差的測量值，與測試數(shù)據來說，就是帶有較大誤差的測量值，與8.28.2節(jié)介紹的粗大誤差的概念一致節(jié)介紹的粗大誤差的概念一致。在在8.28.2節(jié)，我們介紹了粗大誤差的基本概念和判定方法。節(jié)，我們介紹了粗大誤差的基本概念和判定方法。在這里，我們結合工程應用實際介紹如何在測量過程或在這里，我們結合工程應用實際介紹如何在測量過程或信號處理過程中動態(tài)地識別和判定野點的方法，稱為外信號處理過程中動態(tài)地識

46、別和判定野點的方法，稱為外推擬合法。推擬合法。8.6.2 8.6.2 信號中野點的識別與處理信號中野點的識別與處理2022-3-18大連理工大學63 一般性方法：一般性方法：在檢測信號中的野點時在檢測信號中的野點時，常以，常以前面連續(xù)的正常觀測數(shù)據前面連續(xù)的正常觀測數(shù)據為依據，建立最小二乘多項式，以此外推下一時刻觀測為依據，建立最小二乘多項式，以此外推下一時刻觀測數(shù)據的估計值，與該時刻的實測數(shù)據作差，并進一步判數(shù)據的估計值，與該時刻的實測數(shù)據作差，并進一步判定差值是否超過給定的門限。若超過門限，則認為該觀定差值是否超過給定的門限。若超過門限，則認為該觀測數(shù)據是野點，否之認為是正常數(shù)據。以上過程隨著測測數(shù)據是野點，否之認為是正常數(shù)據。以上過程隨著測量或信號處理的過程遞推進行量或信號處理的過程遞推進行。若上式成立若上