向量到子空間的距離ppt課件

1、 向量間的間隔向量間的間隔長度長度 稱為向量稱為向量 和和 的間隔，的間隔， 根本性質(zhì)根本性質(zhì)i ,dd ii 并且僅當(dāng)并且僅當(dāng) 的等號才成立；的等號才成立； ,0,d iii(三角形不等式三角形不等式) ,.ddd 定義定義 ,.d 記為記為2.向量到子空間的間隔向量到子空間的間隔(1) 設(shè)設(shè) 為一固定向量為一固定向量 ，假設(shè)，假設(shè) 與子空間與子空間 中中 W 每個向量垂直，每個向量垂直， 稱稱 垂直于子空間垂直于子空間 記作記作 ,W.W 假設(shè)假設(shè) 那么那么 12(,),kWL ,1,2, .iWik (2) 向量到子空間中的各向量的間隔以垂線為最短向量到子空間中的各向量的間隔以垂線為最短

2、. 如圖表示，對給定如圖表示，對給定 ，設(shè)，設(shè) 是是 中的滿足中的滿足 W 的向量，那么的向量，那么W對對 有有W . , 因因 是子空間，是子空間，W,WW 那么那么,W由勾股定理由勾股定理222, 證明：證明：.故故所以所以.問題提出問題提出: :實(shí)系數(shù)線性方程組實(shí)系數(shù)線性方程組 12,n sijnAXb AaRbb bb 1 即恣意即恣意 都能夠使都能夠使 12,nx xx 211221niiinniia xa xa xb 2 不等于零不等于零能夠無解，能夠無解，設(shè)法找實(shí)數(shù)組設(shè)法找實(shí)數(shù)組 使使2最小最小, 20001,nxxx這樣的這樣的 為方程組為方程組1的最小二乘解，的最小二乘解，

3、20001,nxxx此問題叫最小二乘法問題此問題叫最小二乘法問題.最小二乘法的表示最小二乘法的表示: :設(shè)設(shè) 12111,.nnnjjjjnjjjjjYa xa xa xAX 3 用間隔的概念，用間隔的概念，2就是就是 2.YB 1122,ssYxxx 由由3, 設(shè)那么設(shè)那么12,sA 要找要找 使使2最小，等價于找子空間最小，等價于找子空間 X12(,)sL 中向量中向量 使使 到它的間隔到它的間隔 比到比到 YB()YB 12(,)sL 中其它向量的間隔都短中其它向量的間隔都短. 設(shè)設(shè),CBYBAX 這等價于這等價于 12(,)(,)(,)0,sCCC 4 即即 120,0,0,sCCC

4、這樣這樣4等價于等價于5 12(,)sCL 為此必為此必 0A BAX A AXA B 或或這就是最小二乘解所滿足的代數(shù)方程這就是最小二乘解所滿足的代數(shù)方程. 知某種資料在消費(fèi)過程中的廢品率知某種資料在消費(fèi)過程中的廢品率 與某種與某種y化學(xué)成份化學(xué)成份 有關(guān)以下表中記載了某工廠消費(fèi)有關(guān)以下表中記載了某工廠消費(fèi)x中中 與相應(yīng)的與相應(yīng)的 的幾次數(shù)值：的幾次數(shù)值：yx找出找出 對對 的一個近似公式的一個近似公式.yx(%)y(%)x1.000.90.9 0.81 0.60 0.56 0.35 3 3. . 6 6 3 3. . 7 7 3 3. . 8 8 3 3. . 9 9 4 4. . 0 0

5、 4 4. . 1 1 4 4. . 2 2例題例題把表中數(shù)值畫出圖來看，發(fā)現(xiàn)它的變化趨勢把表中數(shù)值畫出圖來看，發(fā)現(xiàn)它的變化趨勢近于一條直線因此我們決議選取近于一條直線因此我們決議選取 的一次式的一次式 xaxb 來表達(dá)當(dāng)然最好能選到適當(dāng)?shù)膩肀磉_(dá)當(dāng)然最好能選到適當(dāng)?shù)? ,a b使得下面的等式使得下面的等式3.61.000,ab 3.70.90ab 3.80.90,ab3.90.810,ab4.00.600,ab 4.10.560,ab 4.20.350ab 解：解：都成立都成立.實(shí)踐上是不能夠的任何實(shí)踐上是不能夠的任何 代入上面各式都發(fā)生代入上面各式都發(fā)生 ,a b些誤差些誤差.于是想找到于是想找到 使得上面各式的誤差的平方使得上面各式的誤差的平方,a b和最小，即找和最小，即找 使使 ,a b222(3.61.00)(3.70.9)(3.80.9)ababab 222(3.90.81)(4.00.60)(4.10.56)ababab 2(4.20.35)ab 最小最小.易知易知 3.6 11.003.7 10.903.8 10.90,3.9 10.814.0 10.604.1 10.564.2 10.35AB 最小二乘解最小二乘解 所滿足的方程就是所滿足